黄仁勋最新对话：未来互联网流量将大幅减少，计算将更多即时生成
时间：2024年6月17日
来源：腾讯科技
2024年Databricks Data + AI峰会上，英伟达创始人、CEO黄仁勋，与Databricks联合创始人、CEO Ali Ghodsi进行精彩对话，探讨AI与数据处理技术，在现代企业中重要性与发展趋势，强调技术创新、数据处理能力与能源效率，在推动企业转型与行业发展中关键作用。
黄仁勋在对话中，展望数据处理与生成式AI未来，指出每家公司业务数据，都如同一座未被充分挖掘的金矿，蕴藏巨大价值，要从中提取深刻洞察力与智能，一直是一项艰巨任务。
黄仁勋谈到开源模型，如Llama与DBRX，正推动企业转型为AI公司，激活全球AI运动，促进技术发展与企业创新。通过英伟达与Databricks合作，两家公司将携手发挥各自在加速计算与生成式AI领域专长，共同为用户带来前所未有好处。
对话实录：
Ali Ghodsi：我非常激动向大家介绍下一位嘉宾，一位无需任何介绍的杰出人物，全球独一无二的摇滚巨星，英伟达CEO黄仁勋。
我想先从英伟达令人瞩目的业绩谈起，公司市值高达3万亿美元。5年前你是否曾想过世界会如此迅速演变，展现出今天这样一幅令人瞩目的景象？
黄仁勋：我从最初就预料到会这样。
Ali Ghodsi：真是令人赞叹，能否为台下CEO们提供一些建议，我们应该如何实现目标？
黄仁勋：无论你决定做什么，我的建议是不要涉足图形处理器GPU研发。
Ali Ghodsi：我会告诉团队，我们不打算涉足这个领域。我们今天花费许多时间深入讨论数据智能深远意义。企业手中握有海量专有数据，这些数据是构建定制化AI模型的关键。这些数据的深度挖掘与应用，对我们至关重要。
你是否也注意到这一行业趋势？是否认为我们应当在这一领域加大投入？你是否收集到业界对此问题声音与洞见？
黄仁勋：每家企业都像拥有一座金矿，掌握着丰富的业务数据。如果你的公司提供了一系列服务或产品，客户对这些服务与产品感到满意，同时提供宝贵的反馈，你已经积累了大量有价值的数据。
这些数据，可能涉及客户信息、市场动态或供应链管理。长期以来，我们都在收集这些数据，拥有庞大数据量，直到现在，我们才真正开始从中提炼出有价值的洞见，甚至是更高层次的智能。
目前，我们对此充满激情。我们在芯片设计、缺陷数据库、新产品、新服务的创造，供应链管理中，都运用了这些数据。
这是我们首次采用以数据处理与精细化分析为起点的工程流程，通过构建学习模型，部署这些模型，并与数据收集的Flywheel平台相连，以获取更多数据。
我们公司正通过这种方式，使我们能够跻身世界上最大的公司之列。这得益于我们大量采用AI技术，这些技术帮助我们完成众多令人瞩目的成就。
我相信，每家公司都在经历这样变革，我认为我们正处在非凡的时代。这个时代的起点是数据，以及对数据的积累与有效利用。
开源与闭源的和谐共存
Ali Ghodsi：这真是太令人赞叹了，非常感谢。目前，关于闭源与开源模型之间的辩论正逐渐升温。
开源模型是否能迎头赶上？两者是否能够共存？或者最终是否会被单一的闭源巨头所主导？你对整个开源生态系统有何看法？它在大语言模型发展中，扮演怎样的角色？未来又将如何发展？
黄仁勋：我们需要前沿模型，尤其是能够开拓视野的先进模型。OpenAI与谷歌在这方面工作至关重要，它们不仅拓展技术边界，还帮助我们探索新的可能性。
如果审视2024年情况，可能最重要的事件都与开源紧密相关，比如Llama 2、Llama 3、Mistral，Databricks团队所开展的DBRX项目。
DBRX是非常酷的成果，它的酷之处在于，激发了每一家企业活力，使得任何一家公司都有可能转型为AI公司。你一定也注意到这一点，我们在全球范围内都看到这样的趋势。
我们最近将Llama 3转化为推理微服务，现在可以下载使用。你可以访问Hugging Face，还有Databricks，现在它已经被全球数百家公司所采纳。
这充分说明开源激发了每一家公司潜力，让它们有机会成为AI领域一份子。在英伟达，我们广泛使用开源模型，结合我们自己数据与技能，对它们进行微调与训练。
如果没有开源，就不会有这场激励全球每一家公司向AI转型的运动。我认为，这是一件具有重大意义的事情。
Ali Ghodsi：这是一个令人赞叹的发展。开源与闭源模型将共存，我们需要这两种模式。你提到Nim框架，正是我们所关注的。我非常兴奋在这里宣布，我们将把DBRX集成到Nims中，并在Databricks平台上提供服务。我们未来开发的所有新模型，也将采用这种方式，我们对Nims前景充满期待。
黄仁勋：创建大型语言模型API的过程，是一项技术挑战。这些模型在当前看来可能不算庞大，它们在计算上依然非常复杂，技术栈涉及众多依赖项。
为此，我们开发英伟达推理微服务Nim，它整合、优化所有必要的依赖项。英伟达拥有专业的工程师团队，他们专注这一领域，将复杂的技术封装成易于使用的微服务。
用户可以在Databricks平台上轻松使用这一服务，也可以下载，并根据需要进行个性化微调。
英伟达NeMo更新版本的神经模块微服务提供了这种灵活性，确保它能够在任何云环境或本地环境中运行，真正实现无处不在的AI能力。
Ali Ghodsi：这是一项令人赞叹的技术。能够在本地部署运行的能力尤为突出，它意味着我们不再完全依赖云服务，这是一项巨大的进步。在与客户交流中，我们发现他们正致力于培养内部专业技能，以定制模型并获得竞争优势。对于这一现象，你有何看法？
黄仁勋：我认为，未来趋势是，我们已经能够将几乎所有类型的信息与数据进行Token化处理。我们能够提取其结构、理解其内涵，学习其表示，无论是声音、语言、图像、视频，还是化学物质、蛋白质，甚至是机器人动作控制或驾驶操作，我们都能够进行Token化。
云数据中心正在生产这些Token，我们是在制造一些前所未有的独特产品。这是首次，我们拥有被称为AI超级计算机的工具，它们在专门为此目的设计的工厂中生产Token，我们大规模生产智能的能力是一项全新的技术。这也是我坚信我们正处于一场新工业革命开端的原因之一，这场革命不是生产电力，而是生产智能。
每家公司在其核心，都是关于特定领域的智能。在数据、数据处理、AI及其基础设施方面，很少有公司能比Databricks拥有更深入了解。
我们专注我们专业领域，我们基础是这种特定领域的智能，无论是金融服务还、是医疗保健等各个领域。最终，我们所有人都将成为智能制造商。
如果你今天要成为智能制造商，你将来会有AI领域的人力资源，我们称之为AI工厂，每个公司都必须开始这一进程。
我们正在这样做，你也将这样做。我们观察到，无论公司规模大小，它们都在朝这个方向努力。
未来，我们所有人都将参与到这一进程中。你将从你的特定领域数据开始，这些数据存储在Databricks某个地方，你将处理这些数据，提炼并从中提取智能，将其放入Flywheel平台中，你将拥有一个AI工厂。
加速计算与生成式AI融合
Ali Ghodsi：这是一项令人赞叹的成就，我对此深信不疑。我们对此充满热情，尤其是在数据处理方面。我们Databricks每天处理的数据量极为庞大，大约每天4,000万亿字节。
黄仁勋：这是目前地球上最大的计算需求之一，也就是所谓的数据处理，几乎每一家企业都在进行这项工作。
Ali Ghodsi：数据处理的高并行性，使其成为我们重复执行相同操作的理想领域。我对于我们能够携手合作，将GPU加速技术引入数据处理充满期待。我们致力在核心数据处理领域，实现与AI模型相媲美的革命性进步。
我们对与你携手，利用GPU加速技术，优化我们Photon引擎，以迈入将GPU应用于核心数据处理的新时代感到无比激动。
目前，这些庞大的工作流程，不得不依赖CPU来执行，我们期望它们也能在Nvidia GPU上高效运行。
黄仁勋：这是一个重大消息：当今计算领域两大关键趋势，加速计算与生成式AI，Nvidia与Databricks将强强联合，汇聚我们在这些领域专业技能，将这些前沿技术带给每一位用户。
数据处理的加速，技术上极具挑战，我们已经投入5年时间，不懈努力，终于开发出能够显著提升Photon性能的库。
这是我们长期努力的成果，现在我们将使Photon加速，让数据处理变得更加迅速、成本效益更高，非常重要的是，显著降低能源消耗。
Ali Ghodsi：这是一个意义深远的进展，它在逻辑上非常合理。数据处理过程复杂、充满特殊情况，由于高度的可并行性，我们不需要通用算力。
我们面对的是重复性极高的操作，处理的是庞大数据集，不是独一无二的数据。我对这项技术充满期待，它不仅具有颠覆现状能力，还将大幅提升性能，降低成本，这将带来令人惊叹的变革。
黄仁勋：当我们能够迅速处理海量数据时，研究人员便有可能在某个清晨醒来，突发奇想说：让我们收集互联网上所有数据来训练一个庞大的模型，现在这已不再是耗时、费力的工作。
若非加速计算技术的发展，人们不会考虑这样的想法，那将成本高昂、耗时漫长。现在，这已成为可能，我们能够以更低成本与更高效率处理前所未有数据量。
这将激发出无限的创新思维，比如：让我们利用公司全部数据来训练我们超级AI，这样的日子即将到来。
开启智能服务新篇章
Ali Ghodsi：将整个互联网数据进行处理，这曾是只存在于科幻小说中的概念。我们曾认为这不可能实现，直到硬件与基础设施发展到足够先进水平，使得我们能够对技术进行专门化处理。如今，这已成为现实，每个人都在参与其中。
生成式AI的蓬勃发展令人瞩目，起初众多企业以聊天机器人为起点，致力开发与定制基于自身数据的聊天机器人。
目前我们观察到人们正逐步拓展至更多尖端应用场景，展望未来，AI的哪些新应用最令你感到兴奋？
黄仁勋：所有潜在影响中，客户服务可能是最为深远的领域。对在座每家企业，客户服务涉及开支高达数万亿美元，横跨每一个行业，每一家企业。
聊天机器人在客户服务中应用，重要性不仅在自动化能力，更在对数据飞轮的贡献。企业需要捕捉对话，将客户互动纳入数据体系，这将产生大量数据。
目前，数据量增长速度大约是每5年增加10倍。鉴于客户服务推动，我预计未来数据量增长速度可能达到每5年100倍。
我们将把所有元素整合入数据飞轮，它将收集更多数据，提炼更深层次洞察，从而提取更精准智能信息，提供更优质服务，甚至实现在问题出现前主动预防与解决，类似预防性维护，我们将实现主动式客户支持，这将进一步推动数据的生成与飞轮的旋转。
我认为客户服务将是大多数公司实现超级加速的关键，尤其是考虑到它将收集的数据量。
我们已经实现对一切事物的数字化Token，我对我们在化学、蛋白质、碳捕获材料、酶、创新电池等领域进展感到兴奋。我们利用生成式AI实现区域天气预报精确度，以往这需要超级计算机的算力才能达到。物流、保险、保护人们免受伤害的能力，都将得到提升。
生成式AI在物理、生物领域、3D图形、数字孪生、视频游戏虚拟世界构建等方面，展现出巨大潜力。如果公司尚未涉足生成式AI，可能是尚未充分关注，它已经渗透到每一个行业。
Ali Ghodsi：我完全赞同你的观点，AI应用将遍布各个领域，这不仅合理，更充满无限可能，令人充满期待。面对这些新兴前沿领域，我们对数据需求正日益增长。关于如何帮助企业实现更可持续AI发展，你有何看法？
黄仁勋：可持续性可以从多个角度考量，尤其是与能源相关方面。值得注意的是，AI本身不挑剔学习的地点。我们没有必要将AI训练数据中心，设立在电网已经承受压力的人口密集区域。恰恰相反，我们可以将它们安置在能源充足、分布均匀的地区。
全球能源资源十分丰富，关键在于如何合理分配与利用。我认为这是我们首次有机会捕获、利用那些过剩能源，将其转化为AI模型动力，最终将这些智能成果回馈给社会，服务于我们实际需求。
另一个重要视角是，AI核心不仅在于模型训练，更在于推理与生成能力。我们训练模型最终目的，是为了应用它们。当我们着眼AI长期效益时，以我先前提及利用AI进行天气预报为例，我们不再需要每次都从头开始模拟物理定律，而是可以通过AI来生成预测结果。这种方法不仅缩短预测时间，提高预测精度，更在能源消耗上实现数千倍降低。
AI纵向效益，体现在其他方面，例如通过一次性训练模型来设计手机芯片，从而为所有用户节省能源。我相信，随时间推移，AI将展现出在节能方面潜力。
关于生成式AI，今天的计算体验大多基于检索。每次我们点击手机，看似消耗的能量不多，但它激活全球API，检索信息，点亮互联网，从不同数据中心收集少量信息，通过推荐系统呈现给我们。
未来，随着设备上运行的小语言模型变得更加上下文化与生成化，互联网流量将大幅减少，计算将更多即时生成，这将极大节省能源，使计算模型发生根本性转变。
通过这种方式，我们不仅能够节省大量能源，还能更高效获取答案。这将彻底改变我们计算方式，使我们能够更快提出问题，得到答案，激发出更多有趣问题。这种与AI合作的未来，将是充满提示与启发的新时代。
Ali Ghodsi：是的，未来非常激动人心。我们如何帮助客户，也就是在座的各位，今天就开始行动？最好的方法是什么？
黄仁勋：我认为Databricks从数据处理扩展到数据治理，再到数据存储，将其纵向扩展到从数据中提取智能，这一转变非常有远见。
我未能记起她的名字，毫无疑问，那位Cookie女士的工作表现极为出色。是Casey吧？请别让她被其他公司挖走，她刚才在后台演示令人印象深刻。我被她演示深深吸引，在后台有许多交流机会，我个人更倾向于全神贯注观看她的演示。她对数据智能平台的掌握与展示技巧，值得我们高度赞扬与尊重。
我认为这个平台非常了不起，你们让人们更容易管理数据、提取信息、处理数据，数据整理在模型训练中是非常重要的部分。
人们谈论模型训练，但在训练模型之前，你必须弄清楚哪些数据是正确的。这关乎数据质量、数据格式、数据准备。我认为开始的方式是来到Databricks，使用Databricks的数据智能平台。我说的对吗？
Ali Ghodsi：完全正确。
黄仁勋：没有人会反对将他们平台命名为数据智能平台DIP，Data Intelligence Platform，这个名称既响亮又富有内涵，我对此十分赞赏。它与Nims一样，都是令人印象深刻的命名。你完全可以同时使用这两者，无需做出选择。获取一个Nims加上DIP，我完全赞同这种结合使用的方式，这是明智的策略。
无论你计划做什么，关键在于立即开始行动。你必须积极参与进来，投身这趟迅猛发展的列车之中。
生成式AI正以指数速度增长，你不应仅观望或等待。指数趋势的发展速度惊人，几年之内，落后者将被远远抛在后面。立即加入这场技术革命，随着技术不断进步，你也将随之学习与成长，这正是我们所采取的行动方式。
这是一个不应通过旁观来学习的过程，你不能仅通过阅读来掌握它，真正学习来自亲身实践。正如我们所做的，全身心投入其中。
Ali Ghodsi：非常感谢，这是一条宝贵的建议。过去10年合作令人难忘，感谢你所做的一切。我们一直是出色的合作伙伴，期待与Databricks共同迎接下一个10年的辉煌。
苹果CEO库克专访：相比技术，更关注为用户带来好处
时间：2024年6月15日
来源：APPSO
苹果WWDC 2024大会上，CEO库克发表主题演讲后，接受多家媒体访谈，详细介绍苹果智能Apple Intelligence，带来更多发布会上没有提及细节，包括苹果智能的与众不同、与OpenAI合作考量、首次回应退休传言、下一任苹果掌门候选人等。
APPSO汇总包括《华盛顿邮报》、知名科技博主Marques Brownlee在内多方深度对话，看看库克眼中苹果蓝图，与他对AI、用户隐私权衡的思考。
苹果AI，有些与众不同
Josh Tyrangiel：相较Artificial Intelligence，你们选择命名为Apple Intelligence，你会不会特别喜欢这个缩写同样是AI的名字？
库克：在筛选许多备选名之后，这个名字似乎最符合逻辑。至少对我而言，这并不是在模仿Artificial Intelligence，我们只是简单根据它的实际功能来命名。这样称呼它是它本就是这样，是苹果版AI。
iJustine：技术上讲，机器学习已经在设备上存在很长时间，我认为你并没有把它视为AI，现在我觉得通过苹果智能，你正在使它变成一种司空见惯的事。
库克：我们之前真的没有把它新技术当做AI来讨论。我们更专注为用户带来的好处，在产品中做到这一点，而不是谈论技术。很明显，人们想要希望他们设备更智能，我们对这次所做出的成果感到兴奋。
Brownlee：我想知道苹果如何定义AI，我知道如果你问一个普通人这个问题，听到的回答大概率是生成式AI、聊天机器人之类东西，你如何看待AI？
库克：我们已经使用AI很长时间，它在你戴着手表的地方，它在你手表根部。像是碰撞检测、故障检测、Afib心房颤动这样的东西，所有这些东西归根结底都是机器学习。
激发人们想象力的是生成式AI，我们认为这是全新的机会，可以为人们做更多事情，充当我们助手，真正改善人们生活，这就是我们看法。
这并非没有缺点，我们非常深思熟虑处理它。我们一直专注于隐私，隐私是我们进军AI的非常关键的原则。
效率与隐私，苹果智能的护城河
Tyrangiel：苹果用户将从增强的AI技术中，首先获得哪些好处？
库克：我认为主要是节省时间，事物将变得更加高效。
Siri为例，你现在可以与Siri进行对话，它能够一次性完成多个步骤，以前这可能需要多次请求。
关于写作工具：不是每个人都用电子邮件，每个人都需要写作。
有一个助理帮你校对，无论是让内容更专业，还是更有趣，这都非常重要。目前，保障隐私也是一大优势。
人们想要确保AI技术，既是私人的，也是保密的，两者通常很难兼得，我们找到折中的方法。
Brownlee：你曾经说过，如果AI可以用于邪恶的事情，我们不会走那条路。这观念现在改变了吗？你现在已经有了正确的工具或限制，来确保AI功能顺利进行吗？
库克：生成式AI从未被排除在我们计划外，只是我们一直以深思熟虑方式追求它。我们已经以不太可能用产生问题的方式实现它，比如个人背景与隐私。
我们不会等待全面的隐私立法法规生效，才开始实施，我们已经将隐私视为一项基本人权，这就是我们看待它的方式。我们希望在深层次上整合个人背景与隐私，比如它们已经在你使用的应用程序中深入集成。
Brownlee：这样你就可以，你可以保证没有你的情况下，永远不会有任何数据被发送到OpenAI。
库克：这一切由你来决定。
SuperSaf：是什么让苹果智能与众不同？
库克：它的不同之处，在于我们有用户的个人背景，苹果智能理解你，并与你相关，它不仅拥有世界知识，还是私密的。在个人背景与隐私之间的平衡，使得它变得非常独特，它也集成到你已经使用的应用程序中。
不需要你的思考，苹果智能就已经无处不在：它嵌入在笔记中，嵌入在邮件中，嵌入在消息中，嵌入在Pages与Keynote中。
有挑战，也有信心
Tyrangiel：你有多大信心Apple Intelligence，不会出现误判？
库克：不能保证100%，我们已经尽力做到最好，包括深入考察我们应用这项技术领域的成熟度，我相信它的表现会非常出色。诚实说，并不能达到100%保证，我绝不会声称它完全没有风险。
Brownlee：你认为未来我们会因为智能系统的良好运作，减少使用手机吗？
库克：我认为这有可能，极有可能。我们从来没打算让人们在设备上度过一生，我们模式是：希望赋予用户权力，让用户能够做原本无法做到的事情。我们想给用户一个工具，让你可以通过它，做到原本无法做到的事儿，这就是我们的动力。
我们推出了像屏幕时间之类的功能，来计算你的通知数量等。在焦虑的时候，你可以让电话静音等。我相信，随着苹果智能使用变得越来越聪明，甚至可以节省很多时间，花在真正需要时间的事上，我对此非常乐观。
SuperSaf：你会与对AI感到紧张与担忧的人，说什么？
库克：首先，我们部署它的方式非常周到，我们用了很多时间做我们认为正确的事情，我认为AI真的对你有帮助。它真的是你的助手，让你文笔变好，让你沟通顺畅，也通过Genmoji让你聊天变得更有趣，我很看好AI。
我知道目前有很多事情需要考虑，我不会把头埋进沙子里，对于AI落地方案，我们考虑得非常周到。
与OpenAI强强联手，也饱受争议
Tyrangiel：你为什么认为OpenAI，特别是Sam Altman是可信的合作伙伴，符合苹果的价值观？
库克：他们在隐私保护方面做出一些我认可的举措，比如他们不追踪IP地址等一些我们也极其重视的隐私事项。我认为他们是这个领域领头羊，目前他们拥有最优秀的模型，我相信我们客户偶尔也需要接触具备全球视角的技术。
我们对合作对象进行全面考虑，我们合作不会永远局限于某个固定对象，我们也在与其他团队合作。目前来看，他们是最合适的选择，他们最符合我们用户利益。
Brownlee：一切数据都在设备上，对于用户是最安全的方式。现在有些不同，有很多更大的模型需要更复杂请求，你必须离开设备。网上一般讨论是，他们必须向OpenAI发送数据，才能从ChatGPT那里获取请求。
私有云计算与OpenAI的安排，是两件不同的事情。我们在私有云设备上，使用与iPhone 15相似的硬件与相同软件，我相信我们已经以一种安全、可靠与私密的私有云计算设备实现了这一点。
我们确实在这件事上投入了很多努力，全力以赴确保隐私与安全成功。
关于Cook，关于未来
Tyrangiel：科幻作家Douglas Adams说过，你小时候就有的技术，是世界运作的一部分；15~35岁之间出现的任何技术，都会让人感到兴奋，具有革命性；35岁以后出现的技术，违背自然秩序，你与我都属于这最后一类。
库克：我这种感受，可能比你更深。
Tyrangiel：作为全球最成功的科技公司CEO，你是否觉得AI有些奇怪，甚至有些不自然？
库克：我不这样认为，我把它看作是创新的必然结果。机器学习早已存在，这不是什么新鲜事物。它之所以被视为新，是现在到处都在讨论它，本质上它并不新。你希望相关从业者都是深思熟虑的人，并在其中设置一些轨道。我认为AI的出现，本身是不可避免的事情。
Tyrangiel：在AI领域工作，有没有什么让你感到快乐？
库克：我热衷帮助人们更快、更好、更高效完成工作，任何能够改善人类生存的技术我都会感到兴奋。我认为AI能够实现这些目标，这需要在保持适当界限的前提下，我非常支持AI。我不会对可能出现的问题视而不见，我知道有可能发生可怕的事情，这恰恰是我们在行业内保持审慎的原因。
Tyrangiel：你担任CEO以来，你经常谈及苹果核心价值观。在你负责的所有产品与软件中，AI是否对这些价值观构成最大考验？
库克：并没有对它们构成考验，我们从一开始明确表示，这些是我们价值观，我们不能背离。
我们投入大量时间与深思熟虑，最终推出一款让我们感到骄傲的产品。我们意识到由于处理的语言模型规模较大，需要在设备之外进行一些操作，我们需要在云技术上进行创新。幸运的是，我们能够利用现有的资源，如Apple Silicon，来实现这一点。
iJustine：回顾你的职业生涯与苹果状态，以及他们在科技世界中所产生的令人难以置信的影响，你的感觉如何？
库克：我们时间都花在向前看上，我们很少回头看，你在我们这里找不到博物馆。人们往往关注的是2025年，以至于10年后的事情。
当我加入苹果时，我发现这是一家真正关心他人的公司，为人们提供工具，去做他们原本无法做到的事情，没有一天不是这样，我也很荣幸能来到这里，这就是我的看法。
Brownlee：现在有很多关于谁是下一个继承人？作为苹果现任CEO，你认为你的遗产应该是什么？
库克：对我来说，遗产是其他人看着你而定义的东西，不是你定义自己。我通常总是专注于前方，不是回首过去。
这也是苹果的一个特点，我们非常专注前进。我们可能会有很多你想看与回忆的东西，但我们就是没有，这不是我们文化的一部分。
未来某个时候，会有另一个CEO，那时我整个生活重点，将是帮助他们成功。