微软2023 Ignite技术大会首日观后感
1. Rethinking cloud infrastructure 重新思考云基础设施
1.1 发布Microsoft Azure Maia ,$微软(MSFT)$ 介绍说这是一款 AI 加速器芯片,旨在为 OpenAI 模型、Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行基于云的训练和推理。个人感觉这应该是GPU类的定位,但我认为这应该无法威胁到$英伟达(NVDA)$ 在GPU领域的霸主地位,最终如果能与谷歌的TPU平起平坐就很不错了。
1.2 发布Microsoft Azure Cobalt,微软介绍说这是一款基于 Arm 架构的云原生芯片,针对通用工作负载的性能、能效和成本效益进行了优化。个人感觉这应该是数据中心服务器CPU类的定位,应该能成为AMD,英特尔的产品的补充。Cobalt和Maia预计24年能得到使用,由台积电代工。
1.3 微软宣布全面推出 Azure Boost系统,该系统通过将进程从主机服务器移至专用硬件和软件来提高存储和网络速度。
1.4 在发布自研定制芯片的同时,继续采用主流芯片,让客户有更多选择。这次宣布会采用$AMD(AMD)$ 的MI 300X系列。这算是正式官宣了(之前AMD只是说MI300系列得到头部云服务商店采用)
1.5 英伟达自然不会缺席,最新的Nvidia H200当然会有。
总体来说,这些云服务商(微软,谷歌,亚马逊)与英伟达,AMD都是竞争与合作的关系。他们不会完全将希望寄托在英伟达的GPU上,肯定会有自研芯片;但是他们的自研芯片是针对自己云架构的优化定制,因此我认为无法动摇英伟达的GPU地位。
2. Extending the Microsoft Copilot experience 扩展 Microsoft Copilot 体验
微软列举了一大堆Copilot的改进/增强项目,这里就不一一列举了。我注意到两点:
2.1 彭博社消息,使用 Microsoft 365 Copilot for Office 的价格从每月 70 美元降至 50 美元。如果消息属实,我觉得肯定对Copilot的进一步推广肯定是好事。
2.2 微软列举了一系列调查数据,表明Copilot得到了大家的认可
--70% 的 Copilot 用户表示他们的工作效率更高,68% 的用户表示这提高了他们的工
作质量; 68% 的人表示这有助于快速启动创作过程。
--总体而言,用户执行特定任务(搜索、写作和总结)的速度提高了 29%。
--64% 的用户表示 Copilot 帮助他们减少了处理电子邮件的时间。
--87% 的用户表示 Copilot 使开始起草初稿变得更加容易。
--75% 的用户表示 Copilot“可以在我的文件中找到我需要的任何内容,从而节省时间“
--77% 的用户表示一旦使用了 Copilot,他们就不想放弃。
我认为这和当前热门的AI PC概念有很大关系,AI PC能否从概念成为现实,真正流行推广开来,最重要的部分我认为还不是硬件,而是软件应用(这就和之前的5G概念似的)。目前copilot被寄予厚望,认为能提升生产力,是AI PC的“杀手级应用“。但是到底copilot能否成为这个杀手级应用,需要多观察。微软的这一系列数据至少提供了更多信心。
3. Announcing NVIDIA AI foundry service 宣布推出 NVIDIA AI 代工服务
NVIDIA 将宣布其在 Azure 上运行的 AI 代工服务旨在帮助企业和初创公司在 Microsoft Azure 上加速开发、调整和部署自己的自定义 AI 模型。 NVIDIA AI 代工服务汇集了三个要素:NVIDIA AI Foundation 模型、NVIDIA NeMo 框架和工具以及 NVIDIA DGX Cloud AI 超级计算和服务的集合,为企业提供用于创建自定义生成 AI 模型的端到端解决方案。然后,企业可以在 Azure 上使用 NVIDIA AI Enterprise 软件部署其模型,以支持生成式 AI 应用程序,包括智能搜索、摘要和内容生成。
光看标题,代工foundry这个词容易让人误会,容易让人误以为NVDA也要介入硬件代工,但这实际上是软件层面的“代劳“而已。