快捷导航

AWS 自研晶片 Trainium2、Graviton4 亮相,深化輝達合作引進 H200、GH200

[复制链接]
查看: 286|回复: 0
发表于 2024-4-8 21:37:02 | 显示全部楼层 |阅读模式
就算被喷我也要说一句,你们觉得他们可笑愚蠢,可是不去想想这现象的始作俑者,是资本在愚弄这些可怜的人,他们想活,他们想生活的更好,他们绝大多数没有很高的学历和过硬的技能,他们只能在这种资本家训狗式的规则下苟且,生活的无奈让他们成为别人的提线木偶和小丑。我看到这样的人,就算他们麻木了,认命了。我也不会嘲笑他们,我只是觉得真的很不容易。可能有人会说没技能怪他们不努力,每个人都会有各自的人生经历,也许天生不具备这样才能,也许在正确的年龄走了弯路,并不是人人都会在最好的时间遇到并把握最好的机会。
自從 ChatGPT 掀起 AI 熱潮,市場對 NVIDIA GPU 需求激增,導致晶片短缺,與此同時,科技公司紛紛將生成式 AI 技術導入產品,更需要考量算力和成本。亞馬遜持續採取雙管齊下的方式,不僅積極開發自研晶片,也讓客戶選擇使用 NVIDIA 最新產品。

AWS(Amazon Web Services)年度盛會──AWS re:Invent 2023 上,亞馬遜發表全新 Trainium2 AI 晶片和 Graviton4 處理器,並與 NVIDIA 擴大策略合作、引進更多產品。

Trainium2 晶片專為訓練 AI 模型所建構,將支援 EC Trn2 執行個體。相較 2020 年 12 月推出的第一代 Trainium 晶片,第二代的效能提高 4 倍、能源效率提高 2 倍,包括 Databricks、Anthropic 計劃使用這款晶片投入 AI 模型開發。

以 Arm 架構為基礎的 Graviton4 處理器,比起現有 Graviton3 處理器運算效能提升 30%、核心數量增加 50%、記憶體頻寬增加 75%,不僅能耗可低於英特爾或 AMD 的資料中心處理器,更能保護需要高度加密需求的 AI 訓練資料和工作負載。亞馬遜表示,AWS 已有超過 5 萬家客戶正在使用 Graviton 系列處理器,Graviton4 處理器將支援 EC2 R8g 執行個體,目前提供預覽版,計劃在未來幾個月內全面供應。

▲ Graviton4 和 Trainium2 原型晶片。(Source:亞馬遜)

在與 NVIDIA 合作方面,AWS 推出 3 款 Amazon Elastic Compute Cloud(Amazon EC2)執行個體:P5e 執行個體配置 NVIDIA H200 GPU,瞄準大規模與先進生成式 AI 和 HPC 工作負載;G6、G6e 執行個體分別配置 NVIDIA L4 GPU、NVIDIA L40S GPU,其中 G6e 執行個體特別適合用來開發 3D 工作流程、數位分身以及其他使用 NVIDIA Omniverse 的應用,這些執行個體都能提供客戶採用。

NVIDIA 更與 AWS 合作推動 Project Ceiba,聯手設計全球最快、由 GPU 驅動的 AI 超級電腦,配備 NVIDIA GH200 NVL32 多節點平台與 Amazon EFA 互連技術的大規模系統由 AWS 代管,可為 NVIDIA 研發團隊提供服務。這部開創先河的 AI 超級電腦配置 16,384 顆 NVIDIA GH200 超級晶片,能處理 65exaflops 速度等級的 AI 運算。

相关阅读:PLC控制柜

相关帖子

我这人吧,被骗进去过传销,也是自己脑子转得快,加上我脾气特别倔,硬是配合另外一个老哥打出来的,我最烦工作的地方叫我家人或者什么,或者叫我做那种跟传销有点相似的东西,没法形容那种感觉,有点想打人,我没有暴力倾向,但就是听不得,赚钱的方法老多了,这样赚的特别多吗?不见得吧。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号

本版积分规则

精彩推荐

让管理企业更简单

  • 反馈建议:麻烦到企业之家管理处反馈
  • 我的电话:这个不能给
  • 工作时间:周一到周五

关于我们

云服务支持

精彩文章,快速检索

关注我们

Copyright 企业之家  Powered by©  技术支持:飛    ( 闽ICP备2021007264号-5 )