AWS 与 NVIDIA 两强联手,共同迈向 AI 研发竞赛之路

AI 人工智能技术发展蓬勃,各类型 AI 应用亦如雨后春笋,逐步改变人类社会的生活面貌,但面对晶片出现供应不足、产量受限、价格高昂等情况,不少企业亦转用云端计算服务,务求以更低成本,支援 AI 进行更高效的运算及学习,推动各式各样的 AI 应用。在 AI 研发及技术推动方面,早前 AWS 与 NVIDIA 就宣佈合作,全球最大型网络服务供应商,遇上最炙手可热的图像处理器生產商,带来的「云端计算」体验与创新令人期待。

AWS 与 NVIDIA 两强联手,共同迈向 AI 研发竞赛之路

在去年底举办的 AWS 云端科技发表会(AWS re:Invent)上,Amazon Web Services(AWS)就宣布与 NVIDIA 扩大策略合作,内容包括 AWS 旗下的云端服务 Amazon EC2,AWS EC2 将採用 NVIDIA 的超级电脑晶片 H200 GPU,并提供适用於大规模和尖端「生成式 AI」和高效能运算工作的执行个体 P5e,以及适用於微调 AI、推论、图形及影片生成工作的执行个体 G6 和 G6e。

AWS 与 NVIDIA 两强合作自然令人注目,尤其是 NVIDIA 推出了新一代、被人称为「为 AI 而生」的 AI 超级电脑晶片 H200。新一代的 H200 不但能以 4.8 TB/s 的速度提供 141 GB 记忆体,不只内存容量较 H100 多近两倍,频宽(Bandwidth)亦较前一代 H100 多 2.4 倍。简单而言,如同样用作推动 AI 运算工作,H200 更大的内存量能让更大更多的模型和数据集直接储存在 GPU 上,从而减少数据传输的延迟,H200 升级后的频宽亦能让数据更快传送到处理核心。

如单纯比较 H100 与 H200 的规格,从效能上来说,H200 在使用特定的「生成式 AI」和高效能计算(HPC)基準测试之中,效能就较 H100 提高达 45%,如以运行 Llama 2 模型为例,H200 的速度就较上一代快近两倍,绝对是使用「生成式 AI」的最佳 GPU;而作為全球大型云端网络服务供应商,AWS 正好以 EC2 向客户提供使用 H200 的最佳方式:一个成本更低、效率更高的云端服务。

此外,会上 AWS 亦宣佈与 NVIDIA 合作推出採用 H200 的 AI 训练服务 DGX Cloud,该服务由 AWS 托管,能加快尖端「生成式 AI」和参数超过 1 兆的大型语言模型的训练速度;两强合作还包括打造世界上最快的 GPU 驱动人工智慧超级电脑 Ceiba,该计划亦同由 AWS 拖管,预计 Ceiba 会是台配备 16,384 个 H200 晶片、能够处理 65 exaflops 人工智能运算效能的超级电脑。

在 AI 科技发展迅速的时代,AWS 与 NVIDIA 的强强联手成为 AI 研发竞赛路上最令人注目的合作,除了令人更期待它们在晶片、人工智能、云端运算上如何再进一步,作为普通用家,两间科技巨擘的合作亦开啟了用户以更经济的形式使用最先进「生成式 AI」技术的先河,让「生成式 AI」技术更普及、更易应用於日常生活之中。

Unwire.hk的头像Unwire.hk认证作者

相关推荐

  • Ring的新安防摄像头拥有最高分辨率——我迫不及待想试试它了

    Ring推出了一款新的家庭安防摄像头,能够以2K分辨率录制视频——这是对之前只能录制1080p的视频的显著提升。今年早些时候,Ring的两款户外安防摄像头(Ring Floodlight Cam Pro和Spotlight Cam Pro)通过软件更新提升到了2K分辨率,但这款新摄像头是首款从一开始就能以如此高的分辨率录制视频的Ring摄像头,而且它还是最具…

    2025年2月21日
    181
  • 忘了 iPad 吧,迎接 iDesk?iOS 19 或将赋予 iPhone 真正的桌面级能力

    虽然 iPhone 早已支持通过有线连接输出显示,但这一功能一直非常基础。不过,这种情况可能会在即将到来的 iOS 19 更新中发生改变,有传言称,苹果可能会在 iPhone 连接外接显示器或电视时,引入类似 Stage Manager(幕前调度器)的体验,有望在一定程度上借鉴三星 Galaxy 设备上的生产力特性。 目前,iPhone 可以通过 Light…

    2025年4月26日
    124
  • 有传闻称,由于自身的供应不足,Google 正考虑向 CoreWeave 租用最新的 Nvidia AI GPU

    对于由英伟达支持的 CoreWeave 来说,这是一个充满戏剧性的时期。CoreWeave 是一家专注于 AI 工作负载的云基础设施提供商。 该公司曾被 Jeffrey Emanuel 称为“火鸡”和“AI 版 WeWork”。Emanuel 的那篇具有先见之明的文章曾对 DeepSeek 发出警告,结果导致全球市场蒸发了约 2 万亿美元,英伟达市值在一天之…

    2025年4月13日
    145
  • 更智能的睡眠:SmartThings 与三星健康集成

    三星正在更新其智能家居平台 SmartThings,进行重要的功能和升级,这是其承诺的季度更新的一部分。最值得注意的改进包括将三星健康(Samsung Health)集成进来,以提供更个性化的自动化功能、在应用内进行直接音频广播,以及扩展的 Matter 兼容性。 SmartThings 一直是三星及兼容智能家居设备的首选智能家居管理平台。这次更新增强了与三…

    2025年4月11日
    163
  • 传 Google 12 月推出 Gemini 2.0 迎战 OpenAI

    Google 计划推出新一代 AI 型号 Gemini 2.0,预计在 12 月发佈。根据《The Verge》报导,虽然新型号的效能提升未如预期,但这情况在各大 AI 开发商之间相当普遍。 Gemini 发展时间表 Google 在 2023 年 12 月首次公开 Gemini 1.0,并在 Bard 上线 1.0 Pro 版本,而 Nano 版本则使用在…

    2024年10月28日
    295

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注