Microsoft 推出自己的企业 AI 芯片:“Maia”和“Cobalt”
91
Microsoft 推出自己的企业 AI 芯片:“Maia”和“Cobalt” 孔NERD 2023-11-18 09:55:58

易百纳社区

Microsoft正在加强其计算基础设施,宣布为企业推出两款新的内部芯片:Azure Maia 100和Azure Cobalt 100。

本周在西雅图举行的微软Ignite 2023大会上展示了这些芯片,这是这家科技巨头最大的年度全球活动,为企业提供高效、可扩展和可持续的计算,以利用最新的云和人工智能突破。

微软表示,它们代表了其使命中的最后一块拼图,即提供灵活的基础设施系统,包括自己和合作伙伴提供的硬件和软件,这些系统可以进行优化以满足不同的工作负载要求。

正如该公司解释的那样,Maia是其人工智能加速器,旨在为生成性人工智能工作负载运行基于云的训练和推理。同时,Cobalt是一款基于Arm的芯片,旨在高效处理通用工作负载。这两种产品明年都将部署在Azure中,首先是微软自己的数据中心推动其Copilot和Azure OpenAI服务。

微软云+人工智能集团执行副总裁Scott Guthrie在一份声明中表示:“我们正在重新构想数据中心的各个方面,以满足客户的需求。”他补充道:“就我们的运营规模而言,我们必须优化和集成基础设施堆栈的每一层,以最大限度地提高性能,使我们的供应链多样化,并为客户提供基础设施选择。”

虽然微软没有分享具体的性能统计数据,但该公司确实注意到,Maia AI芯片可以处理在Microsoft Azure上运行的一些最大的人工智能工作负载,从训练语言模型到推理。该芯片是专门为Azure硬件堆栈设计的,这使它能够在处理工作负载时实现硬件的绝对最大利用率。

多年来,它与OpenAI合作开发了加速器。具体来说,该公司在Sam Altman领导的生成型人工智能独角兽建立的模型上进行了测试,并利用反馈做出了必要的改变。

Sam Altman在一份声明中表示:“当微软首次分享他们对Maia芯片的设计时,我们感到非常兴奋,我们共同努力,用我们的模型对其进行了改进和测试。Azure的端到端人工智能架构,现在与Maia进行了优化,为培训更有能力的模型铺平了道路,并使这些模型对我们的客户更便宜。”。

与Maia一样,Cobalt的能力也在很大程度上处于保密状态。然而,有一点非常清楚:该芯片将处理Azure上的通用工作负载,重点关注能源效率。基于Arm的设计确保了它的优化,以最大限度地提高每瓦的性能,确保数据中心每消耗一个单位的能量就可以获得更多的计算能力。

微软负责硬件产品开发的公司副总裁Wes McCullough表示:“在设计架构和实现时,都考虑到了功率效率。我们正在最有效地利用硅晶体管。将我们所有数据中心服务器的效率提高相乘,加起来就是一个相当大的数字。”

更重要的是,由于这两种芯片都是内部设计的,微软将把它们安装在定制的服务器板上,放置在定制的机架内,方便地安装在现有的公司数据中心内。对于Maia机架,该公司还设计了“助手”,将冷液体引导到芯片的冷板上,确保在处理高功耗情况时不会发热。

易百纳社区

作为其灵活系统方法的一部分,微软还通过扩大对合作伙伴硬件的支持来支持其定制芯片。该公司表示,它已经推出了为英伟达H100张量核心GPU构建的新NC H100 v5虚拟机系列的预览版,并将很快将最新的英伟达H200张量核心GPU添加到其数据中心团队中。它还计划在Azure中添加AMD MI300X加速虚拟机,以加速人工智能工作负载的处理,用于高范围的人工智能模型训练和生成推理。


声明:本文内容由易百纳平台入驻作者撰写,文章观点仅代表作者本人,不代表易百纳立场。如有内容侵权或者其他问题,请联系本站进行删除。
孔NERD
红包 点赞 收藏 评论 打赏
评论
0个
时间排序
内容存在敏感词
手气红包
    0 条记录 第 0 /
    相关专栏
    置顶时间设置
    结束时间
    删除原因
    • 广告/SPAM
    • 恶意灌水
    • 违规内容
    • 文不对题
    • 重复发帖
    打赏作者
    易百纳技术社区
    孔NERD
    您的支持将鼓励我继续创作!
    打赏金额:
    ¥1 易百纳技术社区
    ¥5 易百纳技术社区
    ¥10 易百纳技术社区
    ¥50 易百纳技术社区
    ¥100 易百纳技术社区
    支付方式:
    微信支付
    支付宝支付
    易百纳技术社区 微信支付
    易百纳技术社区
    打赏成功!

    感谢您的打赏,如若您也想被打赏,可前往 发表专栏 哦~

    举报反馈

    举报类型

    • 内容涉黄/赌/毒
    • 内容侵权/抄袭
    • 政治相关
    • 涉嫌广告
    • 侮辱谩骂
    • 其他

    详细说明

    审核成功

    发布时间设置
    发布时间:
    是否关联周任务-专栏模块

    审核失败

    失败原因
    备注
    Loading...
    易百纳技术社区
    确定要删除此文章、专栏、评论吗?
    确定
    取消
    易百纳技术社区
    每周任务
      去完成
      活动规则
      易百纳技术社区
      升级提醒
      升级

      恭喜您的社区称号由 升级为 “社区游民”

      同时为了感谢您对社区的支持,我们将送出xxx礼品一份, 记得领取哦~

      升级提醒
      易百纳技术社区

      惊喜礼包

      拼手气红包 红包规则
      祝福语
      恭喜发财,大吉大利!
      红包金额
      红包最小金额不能低于5元
      红包数量
      红包数量范围10~50个
      余额支付
      当前余额:
      可前往问答、专栏板块获取收益 去获取
      取 消 确 定

      小包子的红包

      恭喜发财,大吉大利

      已领取20/40,共1.6元 红包规则

        avatar