找回密码
 立即注册
查看: 117|回复: 0

马斯克:xAI 训练 Grok-3 大模型用了 10 万块英伟达 H100 芯片

[复制链接]

188

主题

8

回帖

682

积分

管理员

积分
682
发表于 2024-7-3 10:17:32 来自手机 | 显示全部楼层 |阅读模式
  马斯克已经宣布其人工智能初创公司 xAI 的大语言模型 Grok-2 将于 8 月推出,将带来更先进的 AI 功能。虽然 Grok-2 还没亮相,但马斯克已经开始为其 Grok-3 进行造势。



  马斯克表示,训练 AI 聊天机器人需要数据集,而且从现有数据中清除大型语言模型 (LMM) 的工作量很大。他还谈到了 OpenAI 模型输出训练的几个问题。

  他透露 xAI 的 Grok-3 用了 10 万块英伟达 H100 芯片进行训练,预计将于年底发布,相信它会“非常特别”。

  H100 是英伟达开发的专门用于处理大语言模型(LLMs)数据的 AI 芯片。每块英伟达 H100 人工智能芯片的价格估计在 3-4 万美元(当前约 21.9 - 29.2 万元人民币)左右,批量购买的话可能会有折扣。

  我们简单计算可知,xAI 这里的 10 万块英伟达 H100 价值 30-40 亿美元(IT之家备注:当前约 218.68 - 291.57 亿元人民币)。马斯克之前曾提到特斯拉今年从英伟达的采购额估计将在 30-40 亿美元之间,合理推测 xAI 这里用的是特斯拉购买的英伟达芯片进行训练。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|AiGoe.com - AI人工智能-机器人爱好者论坛 ( 桂ICP备2023001788号 )|网站地图

GMT+8, 2024-12-23 11:20 , Processed in 0.054559 second(s), 21 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表