2024-05-03 05:21:22 来源: AI寒武纪
刚刚斯坦福大学放出了sam Altman 4月26闭门演讲的完整版视频，题目：
The Possibilities of AI [Entire Talk]
- Sam Altman (OpenAI)
人工智能的可能性：与 OpenAI CEO Sam Altman 对谈
地点：斯坦福大学创业思想领袖研讨会
时间：2024年4月26
Sam Altman:OpenAI 联合创始人兼首席执行官
Ravi Baloney:斯坦福大学管理科学与工程系讲师，Alchemist and Accelerator for Enterprise startups 主任
主题：人工智能的未来，OpenAI 的发展，AGI 的时间表和潜在风险，以及如何负责任地部署 AI 技术
正文
Baloney:欢迎 Sam Altman 来到斯坦福大学创业思想领袖研讨会！对于不了解 OpenAI 的人，他们是 ChatGPT、DALL-E 和 Codex 背后的研究和部署公司。Sam 一直在打破界限，超越自身和世界的可能性。他来自美国中西部，曾在斯坦福大学学习计算机科学，之后辍学创办了 Loopt 公司，并最终被收购。然后他加入了 Y Combinator 担任运营职位，并于 2015 年与他人共同创立了 OpenAI。
Baloney:现在距离你 19 岁在斯坦福大学学习时已经过去一半的人生了，如果用三个词来描述你当时的感受，会是什么？
Altman:兴奋、乐观、好奇。
Baloney:那现在呢？
Altman:还是一样的。
Baloney:如果明天你醒来突然变成了 19 岁的斯坦福学生，你会做什么？
Altman:我会觉得自己非常幸运，生活在可能是几个世纪以来最幸运的时代。世界将发生巨大的变化，而我有机会参与其中。我认为这是创业、进行研究或做任何事情的最佳时机。人工智能可以做到的事情将会变得越来越不可思议，而最伟大的公司和最具影响力的新产品都诞生于这样的时代。我会努力找到自己想要为未来做出贡献的地方。
Baloney:你会倾向于在哪里做出贡献？
Altman:我可能会去进行人工智能研究。
Baloney:你会在学术界还是工业界做研究？
Altman:现实地说，我可能会选择工业界。因为你需要在一个拥有大量计算资源的地方工作。
Baloney:对于那些正在纠结是创业还是加入现有公司或研究机构的学生，你有什么建议？
Altman:我认为创业本身就能学到很多东西。如果你想在某个时候创业，那就去做吧。没有“创业预科”这样的东西，你只能通过实际创业来学习如何创业。
Baloney:对于想要在人工智能领域创业的人，你认为最大的近期挑战是什么？
Altman:我认为你不应该从任何人那里获得关于创业方向的建议。因为当一个想法明显到足以让我或其他人公开说出时，它可能已经不是一个好的创业想法了。我认为，拥有一个有影响力的职业生涯，最重要的就是开辟自己的道路。如果你正在考虑的事情是其他人会做的事情，你应该对此持怀疑态度。培养自己提出非共识性想法的能力非常重要。
Baloney:那么，你目前正在思考哪些别人没有谈论过的问题？
Altman:如何建造更大的计算机。我认为其他人也在谈论这个问题，但我们可能是从一个其他人没有想到的角度来看待它。我们也在思考，当我们创造出不仅拥有小学、中学水平，甚至博士水平乃至更高级别的智能时，如何将其转化为产品，如何对社会和人们的生活产生积极影响。
Baloney:能不能分享一下你对建造大型计算机的愿景？据报道，你正在计划建立一家半导体代工厂。
Altman:如果我们相信人工智能基础设施将成为未来最重要的投入之一，就像能源、数据中心、芯片、芯片设计和新型网络一样，那么我们就需要考虑如何构建整个生态系统，并使其规模更大。我认为只关注其中一部分是行不通的，我们必须做所有的事情。
Baloney:ChatGPT-4 的成本比 ChatGPT-3 高出很多，你认为随着每次迭代，成本都会成倍增长吗？
Altman:是的，可能会。
Baloney:那么，如何为如此高昂的成本买单？
Altman:我认为，为人们提供真正有能力的工具，让他们自己去 figuring out （弄清楚）如何使用它们来构建未来，是一件非常好的事情，也是非常有价值的事情。我相信大家的 ingenuity（创造力），能够 figuring out 如何使用这些工具。所以，OpenAI 中可能有一些比我更有商业头脑的人在担心我们的支出，但我并不担心。 我不在乎我们烧掉 5 亿美元还是 500 亿美元……我们正在制造 AGI，这绝对是值得的。
Baloney:你对 2030 年的愿景是什么？如果 OpenAI 取得了巨大的成功，世界会变成什么样？
Altman:在某些方面，世界可能不会有太大不同。我们还会在这里，会有新的学生，我们会谈论创业的重要性，科技的魅力。如果我们能穿越到六年后，拥有一个在许多方面比人类更聪明，可以为我们完成复杂任务的东西，那将是多么神奇啊！我们可以让它编写复杂的程序，进行研究，甚至创业。但太阳仍然会升起，人们仍然会有自己的生活 drama，生活会继续下去。所以在某种意义上，世界将因为我们拥有了触手可及的超级智能而变得截然不同，但在其他方面，世界又和现在没什么两样。
Baloney:你之前将 AGI 定义为“可以模仿人类平均能力的软件”。
Altman:我认为我们需要一个更精确的 AGI 定义，因为这个定义太模糊了，容易产生误解。我认为人们真正想知道的是，AGI 的时间表是什么时候，世界什么时候会发生巨大的变化，经济运行方式什么时候会发生根本性的改变，我的生活什么时候会发生改变。而这些问题，可能与我们现在的想法有很大不同。我可以想象一个世界，在那里我们可以在任何领域构建博士级别的智能，我们可以让研究人员的工作效率更高，甚至可以进行一些自主研究。在某种程度上，这听起来像是会极大地改变世界，但我认为更重要的是，人工智能每年都会变得更加强大，这才是关键
Baloney:我想问一下 AGI 的危险性。你认为 AGI 的最大危险是来自灾难性的事件，还是更微妙和隐蔽的风险？
Altman:我更担心的是微妙的风险，因为我认为我们更容易忽视它们。灾难性的风险，很多人都在谈论，我不想低估它们，我认为它们非常严重，而且是真实存在的。但我认为我们至少知道要注意这些风险，并为此付出很多努力。而像你之前提到的每个人都因为 TikTok 而患上注意力缺陷障碍这样的风险，我认为我们还没有注意到，而未知的未知是最难防范的。
Baloney:你能举出一些你特别担心的未知的未知吗？
Altman:嗯，那它们就不是未知的未知了。但我担心的是，即使我认为短期内事情的变化不会像我们想象的那么大，但从长远来看，我认为它们的变化会超过我们的想象。我担心的是，社会适应新事物的能力有多强，我们需要多久才能 figuring out（ 弄清楚） 新的社会契约，以及我们有多少时间来做这些事情。
Baloney:你认为你对自己的驱动力有足够的自我意识吗？
Altman:我认为我有自我意识，但每个人都认为自己有自我意识，而我是否真的有自我意识，很难从内部进行判断。
Baloney:你认为你最大的优势是什么？
Altman:我认为我并没有在很多事情上都做得很好，但我擅长很多事情，我认为广度在当今世界已经成为一个被低估的品质。每个人都变得过于专业化。如果你擅长很多事情，你就可以在它们之间寻找联系，从而想出与众不同的想法。
Baloney:你最危险的弱点是什么？
Altman:我认为我普遍倾向于过于支持技术，因为我很好奇，我想看看它会走向何方，我相信技术总体上是一件好事。但
我认为这种世界观并不总是正确的，当它不正确的时候，对很多人来说都是非常糟糕的。
Baloney:哈佛大学心理学家 David McClelland 认为，所有领导者都受到三种基本需求之一的驱使：对归属感的需求，对成就的需求和对权力的需求。如果让你对这三种需求进行排序，你会如何排序？
Altman:我认为在我的职业生涯中，这三种需求都曾占据主导地位。在现阶段，我想要做一些有用和有趣的事情。我认为我经历过金钱、权力和地位的阶段，但现在我更想做一些有意义的事情。
Baloney:你对即将推出的 ChatGPT-5 最期待的是什么？
Altman:我还不知道。我认为 ChatGPT-5 最重要的一点就是它会更聪明。这听起来可能有点敷衍，但我认为这是人类历史上最了不起的事实之一，我们可以做一些事情，并且可以很有把握地说，ChatGPT-5 会比 ChatGPT-4 聪明得多，ChatGPT-6 会比 ChatGPT-5 聪明得多。我们还没有到达这条曲线的顶端，而且我们知道该怎么做。这不是说它只会在某一个方面变得更好，而是说它会在 general sense 上变得更聪明。我认为这个说法的重要性仍然被低估了。
（Baloney 将提问机会留给了现场的观众）
学生 1:随着你们越来越接近 AGI，你们计划如何负责任地部署它，以防止扼杀人类的创新，并继续鼓励创新？
Altman:我一点也不担心扼杀人类的创新。我坚信，有了更好的工具，人们只会给我们带来惊喜。我认为所有的历史都表明，如果你给人们更多的 leverage（杠杆），他们就会做更多 amazing 的事情。
学生 2:你提到对大型计算机和更快的计算机的需求越来越大。然而，世界上很多地方没有基础设施来建设这些数据中心或大型计算机。你如何看待这种情况对全球创新的影响？
Altman:无论计算机在哪里建造，我认为全球公平地使用计算机进行训练和推理都非常重要。我们正在考虑如何让训练计算资源更容易为全世界的人们所用。我认为我们将会进入一个这样的世界，在那里我们认为获得一定数量的计算资源是一项人权。
学生 3:你如何看待人工智能在未来太空探索或殖民中的作用？
Altman:太空对生物来说并不友好，所以如果我们可以派机器人去，那就容易多了。
学生 4:你如何判断一个想法是否足够非共识，值得去追求？
Altman:首先，你真正想要的是做正确的事情。如果你是 contrarian （逆向思维）的，但却是错误的，那仍然是错的。所以，不要过于兴奋于 contrarian。最重要的事情是做正确的事情。大众通常是正确的，但最有价值的时候，是你既 contrarian 又正确的时候。这并不总是以非黑即白的方式发生。每个人都可能同意人工智能是创业的好方向，但如果房间里只有一个人 figuring out 了正确的创业方向，并成功地将其执行，那么其他人都会认为这不是你能做的最好的事情。所以，当 conventional wisdom（传统观点） 是正确的时候，跟随它也没关系，然后找到你拥有独特见解的领域。
学生 5:你对未来几十年能源需求的变化有什么预测？我们如何才能实现可再生能源每千瓦时一美分的未来？
Altman:能源需求肯定会上升。我希望它能大幅上升。我认为，如果我们对自己有足够高的标准，它就会上升。我认为最终核聚变会主导地球上的电力生产。我认为它应该是最便宜、最丰富、最可靠、最密集的能源。我可能是错的，也可能是太阳能加储能。最有可能的是，它们各占 80% 和 21%，在某些情况下，其中一种会比另一种更好。但这两种似乎都是实现全球范围内每千瓦时一美分能源的赌注。
学生 6:你从过去一年的经历中学到了什么？是什么让你决定回到 OpenAI 的？
Altman:我学到的最好的一课是，我们有一个 incredible 的团队，他们完全可以在没有我的情况下运营公司，并且已经这样做了几天。我还学到，我们的团队非常有 resilience（韧性）。我们知道，在通往 AGI 的道路上，我们还会遇到更多疯狂的事情。我原本以为团队会在很大的压力下表现良好，但你永远无法真正知道，除非你进行实验。我们进行了实验，我发现团队非常有 resilience，并且已经准备好运营公司了。至于我为什么回来，当我第二天早上接到董事会的电话，问我是否考虑回来时，我当时很生气，说：“不”。但后来我仔细想了想，意识到我有多么热爱 OpenAI，我有多么热爱这里的人、文化、使命，我想要和大家一起完成这一切。
学生 7:你如何看待 AGI 将改变地缘政治和世界力量平衡？
Altman:我认为 AGI 可能会比任何其他技术都更大地改变地缘政治和世界力量平衡。我经常思考这个问题，但我很难说它会产生什么影响，或者更准确地说，我很难说它不会产生什么影响。我们之前谈到，它不会对日常生活产生太大影响，但对世界力量平衡的影响，我感觉它会产生很大影响，但我没有一个深入的答案来解释它会如何影响。
学生 8:在部署 general intelligence 和负责任的 AI 方面，你认为 AI 系统能够识别自身的不确定性并将其传达给外界有多重要？
Altman:我总是担心过分拟人化 AI，因为我认为这会导致很多奇怪的 oversight（疏忽），但如果我们问 AI 能在多大程度上识别自身缺陷，我认为这是非常重要的。目前，AI 能够识别推理错误并进行某种程度的 introspection（反省），这在我看来是非常重要的研究方向。
学生 9:OpenAI 的文化和凝聚力是什么原因？
Altman:我认为是共同的使命。我认为人们彼此喜欢，我们感觉自己像是在战壕里一起做一件非常困难的事情。但我认为真正的原因是对使命的深刻认同感和忠诚度。当你能够创造出这种文化时，我认为这是创业成功的最强动力。
（由于时间限制，Baloney 宣布最后一个问题）
学生 10:创造出比任何人类都更聪明的东西的可能性让我感到害怕。
Altman:当然会害怕。我认为如果我不害怕，那才奇怪，那是一个不好的迹象。人类随着时间的推移变得越来越聪明，能力也越来越强。你的能力比你的曾祖父母强得多。在这段时间里，几乎没有生物学上的漂变。当然，你可能吃得更好一点，得到了更好的医疗保健，也可能吃得更差，我不知道。但这不是你能力更强的主要原因。你能力更强，是因为社会的基础设施比任何人类都更聪明、更有能力。通过这些基础设施，你、社会和你之前的人变得更聪明、更有能力。互联网、iPhone，以及触手可及的大量知识。你可以做一些你的前辈们认为绝对不可思议的事情。从某种意义上说，社会比你现在聪明得多。社会是一个 AGI。而这种发生的方式并不是任何个人的大脑，而是我们所有人之间的空间，我们建立并贡献的 scaffolding（支架），一步一步，一块砖一块砖地累积起来。然后我们利用它到达更高的境界，为我们之后的人服务。比我们聪明的东西将会为同样的 scaffolding 做出贡献。你的孩子将拥有你没有的工具。scaffolding 将被构建到更高的境界。这总是有点可怕，但我认为好处远远大于坏处。人们会做更多更好的事情，解决更多的问题。未来的人们将能够使用这些新工具以及这些新工具贡献的新 scaffolding。如果你想象一个 AGI 做出大量科学发现的世界，那么这些科学进步会发生什么？它们会被添加到 scaffolding 中。然后你的孩子可以用它做新的事情，或者你可以在十年后用它做新的事情。但我认为，人们的感觉不会是出现了一个比我们聪明得多的实体，因为从某种意义上说，我们比我们的曾曾曾祖父母聪明得多，或者至少能力强得多。但任何个人都可以做得更多。