Тёмный

【AI】目前AI公司还需要多少张H100 GPU显卡 | 为什么不选AMD和V100 | 半年内H100短缺 | 产能瓶颈在哪里 | 英伟达NVIDIA 

Best Partners TV
Подписаться 42 тыс.
Просмотров 31 тыс.
50% 1
ВидеоПоделитьсяСкачатьДобавить в

最近，GPU Utils更新了关于英伟达H100显卡供需现状的分析文章，里面主要透露、总结了当前影响GPU的主流厂商拥有显卡的数量以及对显卡的需求量。
作者表示，考虑到训练和推理性能，以及推理方面性价比，H100是当下最受欢迎的GPU（具体为8-GPU HGX H100 SXM）。GPU Utils认为，保守估计，H100的供给缺口达到43万张。
#gpu #英伟达 #nvidia

Опубликовано:

 

5 авг 2023

Поделиться:

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист
Посмотреть позже
Комментарии : 42   
@bestpartners
@bestpartners 11 месяцев назад
原文链接地址：gpus.llm-utils.org/nvidia-h100-gpus-supply-and-demand/#which-gpus-do-people-need
@simonpeter9617
@simonpeter9617 4 месяца назад
现在看起来， 老哥的判断太准了！！！
@haifengli4972
@haifengli4972 11 месяцев назад
干货满满！
@dominos01
@dominos01 11 месяцев назад
製作用心，立馬訂閱 內容訊息量很大，需要多看幾遍才能消化。👍👍👍 記得開字幕😁😁😁
@val_3311
@val_3311 2 дня назад
請問為甚麼大多的客戶會選擇 8GPU HGX H100 而不是 DGX H100 或 4GPU HGX H100呢?
@dbb3756
@dbb3756 4 месяца назад
能再分析一下，今年英伟达的新产品以及芯片供需情况吗？还有AMD的威胁情况也想听一下专家的介绍🙏🙏🙏🙏
@jingqiwu2865
@jingqiwu2865 11 месяцев назад
感谢这些信息！ 现在各大软硬件厂商，都想互相制约。比如Nv也要搞模型，msft不想挂在Nv一棵树上，跟AMD眉来眼去，同时平台开放azure给开源模型不想被openai掐住**。一场春秋战国大戏，戏说一下。 另外还可以分析一下目前各家的护城河问题。是什么让他们站稳脚跟。
@bestpartners
@bestpartners 11 месяцев назад
是，能聊的很多，也欢迎提供素材，感谢支持
@fanyi490
@fanyi490 8 дней назад
我们现在H100采购价已经能谈到25万美金了😂
@zhaixiaoba
@zhaixiaoba 11 месяцев назад
感谢分享
@564355821
@564355821 Месяц назад
博主 对集群组网或者性能调优有实践经验吗？可以合作
@yuli.kamakura
@yuli.kamakura 11 месяцев назад
有文章链接吗？谢谢最佳拍档
@user-ij1lk9kd6z
@user-ij1lk9kd6z 4 месяца назад
博主能否根据目前的最新情报 (META 说今年要采购35万张 H100 以及在供应端TSM 的COWOS 产能未来50% CAGR 增长) 能否再更新一下 对AI 公司的 H100需求 以及NVDA 可能达到的供应极限? 非常感谢
@tianshou5071
@tianshou5071 11 месяцев назад
AMD应该赶紧开发自己的大语言模型，按系列开发，从幕后走到前台
@PakhongChan-fn5in
@PakhongChan-fn5in Месяц назад
來到此時，GPu領先。并不具決定性
@國立武漢大学
@國立武漢大学 10 месяцев назад
老哥，请问你用的麦克风是什么牌子型号？声音质量不错！
@bestpartners
@bestpartners 10 месяцев назад
AKG 的
@snowsong100
@snowsong100 28 дней назад
HBM 好像是SK Hynix負責？
@qiyang7234
@qiyang7234 11 месяцев назад
instruction 里面的 是不是写错了，具体为 8-GPU HGX 是指8块核心 H100 的 型号么？
@user-sf3sh4ei1u
@user-sf3sh4ei1u 7 месяцев назад
是的
@QINGGENG-YUDU
@QINGGENG-YUDU 3 месяца назад
遗憾没有早看到这个视频，早看到我要打赏博主 $100
@bestpartners
@bestpartners 3 месяца назад
哈哈，没事，后续请多关注
@xiaolong174
@xiaolong174 11 месяцев назад
谷歌的TPU还是不顶事吗？
@bestpartners
@bestpartners 11 месяцев назад
回头专门出一期讲讲TPU
@PakhongChan-fn5in
@PakhongChan-fn5in Месяц назад
光H100，不足以決定勝負
@zhiyongyao5697
@zhiyongyao5697 8 месяцев назад
我也不知道为啥，太奇怪了，为啥客户要这么多H100????? 我很懵逼
@snowsong100
@snowsong100 28 дней назад
聽說Nvidia 無法拿到更多的台積電產能。
@user-qe5rn8wi4k
@user-qe5rn8wi4k 10 месяцев назад
中国大陆能买到吗
@army8756
@army8756 3 месяца назад
美國商務部已經限制了.
@user-cc7ej9ev8f
@user-cc7ej9ev8f 4 месяца назад
有六个月以前听劝买了英伟达股票的吗？
@simonpeter9617
@simonpeter9617 4 месяца назад
今天才看到， 干！！！ 认知太低了
@user-sb9gy8li1m
@user-sb9gy8li1m 27 дней назад
@@simonpeter9617你留言的時候也還能買
@user-uy2zl1me1p
@user-uy2zl1me1p 9 месяцев назад
我有9張現貨
@bestpartners
@bestpartners 9 месяцев назад
你是在炫富么😎
@user-st5in8zr8u
@user-st5in8zr8u 4 месяца назад
即便是国内走私货，也就35万一片，9张也就300万，不够塞牙的
@hannahwoo4494
@hannahwoo4494 3 месяца назад
0
@DragonLong-vs3zf
@DragonLong-vs3zf Месяц назад
英伟达的票 不少人赚了200倍了 哈哈
@snowsong100
@snowsong100 28 дней назад
嘩！50萬張？誰嘔得出來？
@yuli.kamakura
@yuli.kamakura 11 месяцев назад
拍档有下场做吗？信息掌控程度，搞科普不会太小了咩？ 嘻嘻
@bestpartners
@bestpartners 11 месяцев назад
哈哈，还是搞自媒体比较自在，创业太累了
@yuli.kamakura
@yuli.kamakura 11 месяцев назад
@@bestpartners base us？ sg？
@bestpartners
@bestpartners 11 месяцев назад
cn...
Далее
【Nvidia】英伟达GTC财务分析师问答 | 英伟达究竟在卖什么 | 数据中心 | 软件 | 芯片 | 加速计算 | 生成式AI | Blackwell
15:07
【Nvidia】英伟达GTC财务分析师问答 | 英伟达究竟在卖什么 | 数据中心 | 软件 | 芯片 | 加速计算 | 生成式AI | Blackwell
Просмотров 10 тыс.
一口气看懂GPU生意：为什么英伟达能一家独大？
18:11
一口气看懂GPU生意：为什么英伟达能一家独大？
Просмотров 243 тыс.
Cabeças erguidas, galera! 🙌 Vamos pegá-la!
00:10
Cabeças erguidas, galera! 🙌 Vamos pegá-la!
Просмотров 2,4 млн
Я СБЕЖАЛ ИЗ ПСИХ-БОЛЬНИЦЫ В МАЙНКРАФТЕ!
10:32
Я СБЕЖАЛ ИЗ ПСИХ-БОЛЬНИЦЫ В МАЙНКРАФТЕ!
Просмотров 302 тыс.
🔥КАК УБРАТЬ РЕШЁТКИ В ЧАТЕ РОБЛОКС ! #roblox #shorts #zengi #projectfight
00:29
🔥КАК УБРАТЬ РЕШЁТКИ В ЧАТЕ РОБЛОКС ! #roblox #shorts #zengi #projectfight
Просмотров 148 тыс.
Who has won ?? 😀 #shortvideo #lizzyisaeva
00:24
Who has won ?? 😀 #shortvideo #lizzyisaeva
Просмотров 14 млн
【人工智能】中国大模型行业的五个真问题 | 究竟应该如何看待国内大模型行业的发展现状 | 模型 | 算力 | 数据 | 资本 | 商业化 | 人才 | 反思
18:25
【人工智能】中国大模型行业的五个真问题 | 究竟应该如何看待国内大模型行业的发展现状 | 模型 | 算力 | 数据 | 资本 | 商业化 | 人才 | 反思
Просмотров 28 тыс.
这是史上最快GPU！我们测了四张H100！价值120万元！
22:41
这是史上最快GPU！我们测了四张H100！价值120万元！
Просмотров 652 тыс.
【人工智能】Geoffrey Hinton牛津大学演讲精华版 | 数字智能会不会取代生物智能 | 符号学派 | 神经网络 | 大语言模型 | 幻觉与记忆 | 人类无法阻止AI | 超级智能会加快到来
12:53
【人工智能】Geoffrey Hinton牛津大学演讲精华版 | 数字智能会不会取代生物智能 | 符号学派 | 神经网络 | 大语言模型 | 幻觉与记忆 | 人类无法阻止AI | 超级智能会加快到来
Просмотров 55 тыс.
【硬核】在诉讼与骂名中崛起的英伟达GPU：从未停止过战斗，也没有永远的朋友
55:04
【硬核】在诉讼与骂名中崛起的英伟达GPU：从未停止过战斗，也没有永远的朋友
Просмотров 1 млн
黄仁勋还有多少「核弹」没释放？深度解读英伟达B200 GPU
10:22
黄仁勋还有多少「核弹」没释放？深度解读英伟达B200 GPU
Просмотров 155 тыс.
智慧手機中最「雞肋」又最「強大」的晶片--NPU，底層原理深度講解！為什麼說人工智慧離不開它？
18:36
智慧手機中最「雞肋」又最「強大」的晶片--NPU，底層原理深度講解！為什麼說人工智慧離不開它？
Просмотров 80 тыс.
重磅！OpenAI絕密文件洩露：AI留給人類的時間只剩3年了？！最先被取代的是竟然是這些人…30分鐘看懂AI的過去和未來 [She's Xiaowu 小烏]
35:24
重磅！OpenAI絕密文件洩露：AI留給人類的時間只剩3年了？！最先被取代的是竟然是這些人…30分鐘看懂AI的過去和未來 [She's Xiaowu 小烏]
Просмотров 1,4 млн
英伟达GB200 GPU如何做到“遥遥领先”？谈谈英伟达的Chiplet路径与“铜互联”前景
14:55
英伟达GB200 GPU如何做到“遥遥领先”？谈谈英伟达的Chiplet路径与“铜互联”前景
Просмотров 28 тыс.
AMD MI300與AI到底有沒有搞頭?
22:45
AMD MI300與AI到底有沒有搞頭?
Просмотров 30 тыс.
中国人工智能发展最大的障碍，并不是美国对芯片的封锁。中国AI这道无法逾越的障碍，究竟是什么呢？| 中国防火墙 | Sora | OpenAI | 人工智能 | 机器学习 | 芯片 | 数据 | GPT
20:36
中国人工智能发展最大的障碍，并不是美国对芯片的封锁。中国AI这道无法逾越的障碍，究竟是什么呢？| 中国防火墙 | Sora | OpenAI | 人工智能 | 机器学习 | 芯片 | 数据 | GPT
Просмотров 316 тыс.
Cabeças erguidas, galera! 🙌 Vamos pegá-la!
00:10
Cabeças erguidas, galera! 🙌 Vamos pegá-la!
Просмотров 2,4 млн