快捷导航

AWS 自研晶片 Trainium2、Graviton4 亮相,深化輝達合作引進 H200、GH200

[复制链接]
查看: 288|回复: 0
发表于 2024-4-8 21:37:02 | 显示全部楼层 |阅读模式
我感觉这辈子我都不可能再去干销售了,我人生的第二份工作,是在社交软件,例如某Soul,跟别人要微x,然后成为朋友 建立信任,逐步代入到自己的职业,是名营养护肤老师,然后就各种骗顾客从自己这儿买护肤品就行了。每个人都有七八个手机,和七八个微x号。最主要的整个工作氛围,真的跟打了鸡血一样,动不动就鼓掌,大声喊:好!谁卖出去了,还要鼓掌,恭喜xxx出单!我干了两天我就赶紧跑了。
自從 ChatGPT 掀起 AI 熱潮,市場對 NVIDIA GPU 需求激增,導致晶片短缺,與此同時,科技公司紛紛將生成式 AI 技術導入產品,更需要考量算力和成本。亞馬遜持續採取雙管齊下的方式,不僅積極開發自研晶片,也讓客戶選擇使用 NVIDIA 最新產品。

AWS(Amazon Web Services)年度盛會──AWS re:Invent 2023 上,亞馬遜發表全新 Trainium2 AI 晶片和 Graviton4 處理器,並與 NVIDIA 擴大策略合作、引進更多產品。

Trainium2 晶片專為訓練 AI 模型所建構,將支援 EC Trn2 執行個體。相較 2020 年 12 月推出的第一代 Trainium 晶片,第二代的效能提高 4 倍、能源效率提高 2 倍,包括 Databricks、Anthropic 計劃使用這款晶片投入 AI 模型開發。

以 Arm 架構為基礎的 Graviton4 處理器,比起現有 Graviton3 處理器運算效能提升 30%、核心數量增加 50%、記憶體頻寬增加 75%,不僅能耗可低於英特爾或 AMD 的資料中心處理器,更能保護需要高度加密需求的 AI 訓練資料和工作負載。亞馬遜表示,AWS 已有超過 5 萬家客戶正在使用 Graviton 系列處理器,Graviton4 處理器將支援 EC2 R8g 執行個體,目前提供預覽版,計劃在未來幾個月內全面供應。

▲ Graviton4 和 Trainium2 原型晶片。(Source:亞馬遜)

在與 NVIDIA 合作方面,AWS 推出 3 款 Amazon Elastic Compute Cloud(Amazon EC2)執行個體:P5e 執行個體配置 NVIDIA H200 GPU,瞄準大規模與先進生成式 AI 和 HPC 工作負載;G6、G6e 執行個體分別配置 NVIDIA L4 GPU、NVIDIA L40S GPU,其中 G6e 執行個體特別適合用來開發 3D 工作流程、數位分身以及其他使用 NVIDIA Omniverse 的應用,這些執行個體都能提供客戶採用。

NVIDIA 更與 AWS 合作推動 Project Ceiba,聯手設計全球最快、由 GPU 驅動的 AI 超級電腦,配備 NVIDIA GH200 NVL32 多節點平台與 Amazon EFA 互連技術的大規模系統由 AWS 代管,可為 NVIDIA 研發團隊提供服務。這部開創先河的 AI 超級電腦配置 16,384 顆 NVIDIA GH200 超級晶片,能處理 65exaflops 速度等級的 AI 運算。

相关阅读:PLC控制柜

相关帖子

有些人是真的为了生存,挣钱,不得不做,有些人可能是真的被洗脑了,觉得这样的行为很有用?无论那样,都挺悲哀的。我希望工作并不是全部,一天24小时,除了工作睡觉,还要陪伴家人啊,和朋友在一起,或者一个人待着,干自己喜欢的事情……你想要我免费加班,可以啊,一个月因为特殊情况加几天班,也不会特别在意 。只是家里有情况的时候,单位也可以通融一下……都是互相的嘛。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号

本版积分规则

精彩推荐

让管理企业更简单

  • 反馈建议:麻烦到企业之家管理处反馈
  • 我的电话:这个不能给
  • 工作时间:周一到周五

关于我们

云服务支持

精彩文章,快速检索

关注我们

Copyright 企业之家  Powered by©  技术支持:飛    ( 闽ICP备2021007264号-5 )