ChatGPT爆火，为什么英伟达又赢麻了？ 

NVIDIA 設計鏟子 CUDA 的閉源繞不開 儘管 Apple 有 mps 還是尚不足以競爭

TSM笑了

不論Intel有什麼,在巨大的價格落差上,都只是放屁:今年3月份才剛上市的第四代 Intel Xeon 中最強的Platinum 8490H“Sapphire Rapids”，其性能只是很接近上一代AMD EPYC中最強的7773x，當然遠不如去年底上市的新一代AMD EPYC中最強的9654。 7773x定價8,800，而 8490H卻高達$17,000, 新一代AMD EPYC 9374f 性能雖然只是小勝8490H,但9374f價格更是進一步降至4850，進一步擠壓Intel在伺服器CPU的生存空間....如此糟糕的“Sapphire Rapids”,nVindia卻還要幫忙吹,主要是AMD發表MI300,nVidia看得下尿了,哈哈 第四代 Intel Xeon 與上一代AMD EPYC均是採用Intel 7與相當的台積電7nm製程，因此AMD並非簡單靠台積電先進製程在伺服器CPU領域中取得巨大的成就,同時AMD去年每一季都維持有盈餘，反觀售價向來高很多的Intel反而持續虧損中。 第四代 Intel Xeon 雖然也是採用MCM CPU，但從其售價來看，並未充分發揮MCM的低成本優勢，可見Intel在MCM上性能發揮不如預期，成本卻高得嚇人，這讓Intel吃足了苦頭... 採用5nm更昂貴製程又是委託台積電代工的新一代AMD EPYC 9374f，性能與剛上是不久的8490H十分接近，但價格只要不到1/3，可見歷經幾代的演進，AMD在MCM 的設計能力已經十分精湛。 再對照功耗，不難看出Intel 根本是吃電怪獸，或是說為了推升一點性能，耗費掉更多電能，這是十分不利的產品性能。在AI運算方面，真正最貴的成本其實不是硬體費用，而是電費，因此如果能用較低功耗獲取相當性能，其實才是伺服器硬體所追求的目標。 最有趣的是，剛上是不久的nVidia H100伺服器，其所搭配的CPU卻是非常昂貴的“Sapphire Rapids"系列，故意不搭配廉價很多的AMD EPYC，是否意味著nVidia也畏懼AMD在AI伺服器的挑戰? (上一代nVidia A100是搭配價格低廉性能強大的AMD EPYC) 刻意選用高功耗低性能的“Sapphire Rapids"系列，這使得nVidia H100伺服器整體功耗提昇不少，其實很不利於其產品銷售，但nVidia其實是不得不的作法。也許非nVidia的伺服器廠商會變更成AMD EPYC。 AMD Instinct MI300即將在今年上市,到時候就可以知道MI300實際上性能有多恐怖，他可是首款直接整合CPU與GPU的晶片，強大到迫使nVidia與Intel要聯手與之對抗。

Google公布Cloud TPU v4 AI晶片技術，號稱效能更快、更節能，AMD跟INTEL CPU很強，但做為對手...還是排不上。

@@enixdks 你是在比較香蕉與蘋果哪個好吃?真是搞笑

都什麼年代了你還在用centos 我寧願你說你用clearlinux也不會說用centos 笑死

ROCm是不是比oneAPI好一些？還是半斤八兩？

@@DK-cd4sm 你如果知道OpenXLA是全部顯卡場都有參加的共同規範項目就不會這樣留言了吧

@@homenum6887 openCL, openACC, SYCL, 全都撼不動CUDA這座大山 然後他廠的策略就是you can't beat them, join them 直接在CUDA 以上建立與其他gpu互通的抽象層，然後你調用AI庫同時支援到cuda跟本廠的硬件加速，人家才會有嘗試的可能

​@@homenum6887 openXla在RU-vid上就可以自学了吗？有没有更好的学习管道？

沒錯！用GPU做計算是不得已的，AI發達普及後，專業AI的矩陣計算會超越GPU數十倍，這時候GPU就沒用了，挖礦或神經網路都用到矩陣計算，就是簡單的計算單元但是數量很多，這些計算器只能做簡單計算無法做到複雜計算，像素就是類似的矩陣計算，AI矩陣計算優化跟GPU還是有顯著差別，但是一開始只有GPU能有大量的矩陣平行運算，現在很多專門開發AI計算的晶片設計公司，未來要更快速訓練更大的神經矩陣都要靠專門的AI處理器，架構就是GPU架構但是每一個處理器都是專門針對計算需求設計不是圖像需求，目前AI的瓶頸在計算價格，平均是谷歌查詢的兩倍，按照目前的廣告收費模式無法盈利才是真正需要突破的關鍵，專門的處理器能加速同時減少運算成本，不然AI無法做到目前谷歌這種羊毛出在狗身上豬買單模式盈利，如果谷歌變成要註冊帳號繳費才能查詢能像今天的規模嗎？

@@camfocus8888 Nvidia 都有Transformer Engine 跟tensor core 重點是軟件支援，以前寫好的模型只支援CUDA,轉成onnx真正實用的設備也很有限，還是Nvidia gpu比較通用

中國人也不差..馬雲這樣先知也很棒

輝達的黃仁勳根據中國大陸的資料是外省人第二代，然後確定張忠謀是外省人

好啦 谷愛凌是中國人😂

@@akaihuang 但是這兩個人都公開表示支持蔡英文的外交政策，連黃仁勳的家人，都是出錢出力支持賴清德選台南市長😂😂

@@TheTriprog70 都是客氣話，你怎麼這麽喜歡把客氣話當真？他不講好話難道要跟政府對著幹？這對他明顯沒有好處，當然就口頭隨便講點好聽話敷衍一下，以上我講的是張忠謀。至於黃仁勳我沒看過他對台灣政治發表過意見，不排除是你搞錯了， 補充一下，我知道張忠謀跟蔡英文關係大致不錯，不過網路上也沒查到張忠謀有什麼很明確支持蔡英文的言論，有人可能搞錯了，希望注意一下不要發表錯誤言論誤導網友

高級玩家早已經用ASIC為自己的AI模形開發專用晶片。 如Google、Tesla等。 基本上只有中低層玩家先會用NVIDIA的CUDA技術來開發自家的AI模形。 但是正是中低層玩家令NVIDIA發大財。 另外是CUDA和GPU的架構關係不大，因為每一代GPU的架構都是不同的。

我覺得software和hardware是互補的

Amd不是nvidia的對手，intel oneAPI才是 Amd要跑ai模型得用docker還不完美支援，intel直接baremetal可跑tensorflow pytorch

以軟體開發來說AI這塊已經有很多好用的工具了，完全取代人是不太可能。我都笑說，除非哪天AI學會了「通靈術」一個可能連自已要什麼都不知道的客戶「自已跟自已通靈」能自力完成整個專案，不然其實根本不怕寫程式的被AI取代。但是低階的軟體工程師（碼農）可能就要擔心了。因為很基本的發單給你把程式寫出來這樣的工作真的有被取代的可能性，中高階的軟體工程師自已就能用AI去完成了。

老石很快又會再被打臉，因為AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA

@@user-mm7ot5zq2c 每个评论挨个回复…如今amd推广这么努力了吗？

,,,串台了

男中老石，女中小lin刷起来！

@@MrDaniel739 他俩一个科技一个金融， 双管齐下。 还喜欢刷老高但是老高有的时候有点飘，不知道飘哪里去了

😊 😅😅

😂別這樣說，我還想看好戲

不知道为什么我特别喜欢看他被打脸😆

我也覺得有種返老還童的感覺XD

沒希望，EUV代工都封鎖了，摩爾線程難道用中芯14nm的GPU跟台積電3nm拼？摩爾線程有DPU嗎？摩爾線程有CPU嗎？H100和MI300都緊密結合CPU和DPU。

@@wwxyz7570 是啊，可是，那就难道不要做了吗？还是得干啊。后发就是这么难。

软件生态把农企给碾压了???笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA

了解一下Intel oneAPI,直接支援pytorch TF 就是cupy, cudf, dask等還未有對應的版本 但intel優勢是能用回x86平台的接口，你用MKL能調度Intel GPU,只是要多做市場推廣，起碼以優惠價賣卡到大學吧...

@@LongLongKo 感謝您的資訊, 有空去研究, 受教了. 市場能有多些選擇是好事.

你講錯了，老石說的還是比較接近事實，NVIDIA現在的本業與營收都不靠遊戲，因為衰退的非常慘。 看一些IDC或其他國際出貨統計資料，AMD在RX6000以後是逆勢超車NVIDIA，steam那個統計是不可參考，因為他是知道你硬體之後再抽出他覺得需要的，再問使用者是否接受統計，若以NVIDIA財報，事實就是NVIDIA在遊戲慘輸，而且還不說INTEL進步很快，即便他發展不全。

@@jerryhuang3565 每一代nv游戏芯片基本在硬件制程以及规格上落后AMD1到2代，靠软件优化扳回劣势，并且价格比农企还卖的贵。那为啥市场占了这么多呢？

@@jerryhuang3565 你如果覺得AMD好就AMD好吧，我自已的工作經驗（2000年開始寫3D遊戲）上AMD就是差人技術一大截，自已認識的人就沒有人買AMD顯卡的，以前同事還有過AMD粉用掛了兩三張AMD顯卡就以後不再買的。對一個技術人員來說，GPU，Shader，CUDA這些誰發明的？AMD發明了什麼改變遊戲界的技術？我真的沒什麼印象... 如果全世界最大的遊戲平台的軟硬體調查不具參考性，我還真的不知道什麼東西具有參考性...IDC出貨報告？好，假設都是真的，那貨都出去哪了，賣給誰了？都賣給了從不玩遊戲的人嗎，還是AMD的使用者都不同意給Steam統計？這邏輯我是真的不懂啦。 遊戲程式大神中的大神John Carmack有講過一句話我一直都記得，如果程式有問題，是在別家的顯卡上發生的，他會先認為是GPU廠商的問題（對他就是這麼屌）；如果是在N家卡上發生的，他會先考慮是不是自已的問題。 Intel，這個我之前就講過，整個技術支援團隊跟NVIDIA或是跟AMD都不能比的，對遊戲的測試，Driver的調整優化，對遊戲廠商支援（幫忙解決在他們家顯卡上開發遇到的問題，幫遊戲看code改code，甚至派駐人到遊戲公司去幫忙做優化）投下去的資源，人力，時間等等差太遠了。不是有能力設計GPU造出顯卡，有能力寫Driver，就一定有能力把真正跟使用者最需要的東西都做好。至少目前為止以遊戲顯卡來說，我不覺得Intel會對NVIDIA造成什麼威脅，AMD就比較不好說，算是有機會正面對決的對手。 不過這也就我個人看法，我只是以我自已個人很偏頗的工作經驗來看，也有可能我錯的就是很離譜！您完全可以有您的看法。當然我也可以有我的看法就各自表述。總之市場還有競爭都是好事。

你可以買他們的股票長期參與，十年後一定比現在高，除非直到有一天英偉達出現足以威脅他的競爭對手將之擊潰，而目前唯一的挑戰者AMD在短期內要反超幾乎是不可能的

​@@seanfu522 老黄多年前就开始布局ai，组建联盟，那时候amd只是靠cp值跟在后面，那时流传的是游戏用n卡，视频用a卡。随着openai 一声惊雷，一切都将重写。amd看似紧咬着nvidia,其实已经被超了一圈

AMD活着的原因怕不是提防反托拉斯诉讼😂

@@seanfu522 nVidia 沒有對手，對手是美聯儲，把經濟搞垮，nVidia 股價就漲不上去。

笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA

鸿蒙也可以执行安卓应用…事实上撼动了安卓几分地位？

@@JasonToronto 手机鸿蒙就是换皮安卓，也配拿来跟AMD做比较？

不知道为什么我特别喜欢看他被打脸😆

@@Guavaava 嗯，那我就等着看amd怎么打老黄的脸

@@JasonToronto 不太可能说AMD出了MI300，NVIDIA马上就不行了。假设它真有楼上说的那么好用，最后也是AMD吃掉一部分市场份额，但是NVIDIA和AMD还是都可以从这一波大语言模型的热潮里赚很多钱。

笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA

@@user-mm7ot5zq2c 所以MI300火了嗎

哈哈哈習大大很重視芯片的 但是早晚會收拾這些騙子做題家😂

肯定會

他還真的這樣做字幕

不会，因为他是美国人，如果部分人硬绑关系的话，顶多算华人。

逻辑综合不行的，我让chatgpt帮我跑logic minimization然后他像模像样的给我返回了结果，仔细一看一塌糊涂，chatgpt正确率堪忧因为他只是模仿你讲话，没法跑真正的eda算法

@@kevinnoweebs2775 prompt,可以试试不直接提问，而是先给他一些提示，然后再生成。

我在220价位和270价位分别入了成吨的英伟达股票，这是我这三年股市上面唯一碰过的股票

@@junpengqiu4054 一样 今天又突破300

@@Az-kt9sy 太爽了 ，只能说太爽了

@@junpengqiu4054 今天已经316了 要起飞了

@@Az-kt9sy 让子弹再飞一会

N卡並沒有壟斷，因為AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA

Intel 的oneAPI架構在程式轉移上有巨大優勢 問題在於新産品的驅動安裝麻煩，還有linux只官方支援到 Ubuntu 跟WSL,大型數據中心需要centOS的簡易驅動程序

A家有ROCm

@@LongLongKo 不論Intel有什麼,在巨大的價格落差上,都只是放屁:今年3月份才剛上市的第四代 Intel Xeon 中最強的Platinum 8490H“Sapphire Rapids”，其性能只是很接近上一代AMD EPYC中最強的7773x，當然遠不如去年底上市的新一代AMD EPYC中最強的9654。 7773x定價8,800，而 8490H卻高達$17,000, 新一代AMD EPYC 9374f 性能雖然只是小勝8490H,但9374f價格更是進一步降至4850，進一步擠壓Intel在伺服器CPU的生存空間....如此糟糕的“Sapphire Rapids”,nVindia卻還要幫忙吹,主要是AMD發表MI300,nVidia看得下尿了,哈哈 第四代 Intel Xeon 與上一代AMD EPYC均是採用Intel 7與相當的台積電7nm製程，因此AMD並非簡單靠台積電先進製程在伺服器CPU領域中取得巨大的成就,同時AMD去年每一季都維持有盈餘，反觀售價向來高很多的Intel反而持續虧損中。 第四代 Intel Xeon 雖然也是採用MCM CPU，但從其售價來看，並未充分發揮MCM的低成本優勢，可見Intel在MCM上性能發揮不如預期，成本卻高得嚇人，這讓Intel吃足了苦頭... 採用5nm更昂貴製程又是委託台積電代工的新一代AMD EPYC 9374f，性能與剛上是不久的8490H十分接近，但價格只要不到1/3，可見歷經幾代的演進，AMD在MCM 的設計能力已經十分精湛。 再對照功耗，不難看出Intel 根本是吃電怪獸，或是說為了推升一點性能，耗費掉更多電能，這是十分不利的產品性能。在AI運算方面，真正最貴的成本其實不是硬體費用，而是電費，因此如果能用較低功耗獲取相當性能，其實才是伺服器硬體所追求的目標。 最有趣的是，剛上是不久的nVidia H100伺服器，其所搭配的CPU卻是非常昂貴的“Sapphire Rapids"系列，故意不搭配廉價很多的AMD EPYC，是否意味著nVidia也畏懼AMD在AI伺服器的挑戰? (上一代nVidia A100是搭配價格低廉性能強大的AMD EPYC) 刻意選用高功耗低性能的“Sapphire Rapids"系列，這使得nVidia H100伺服器整體功耗提昇不少，其實很不利於其產品銷售，但nVidia其實是不得不的作法。也許非nVidia的伺服器廠商會變更成AMD EPYC。 AMD Instinct MI300即將在今年上市,到時候就可以知道MI300實際上性能有多恐怖，他可是首款直接整合CPU與GPU的晶片，強大到迫使nVidia與Intel要聯手與之對抗。

問題是Google因為之前的Blake Lemoine 對外宣稱他正在研究的機器人 LaMDA 可能有意識，更不用說AI道德方面的問題，影響了Google在AI方面的發展。

AI會影響他自己搜尋業務，所以封存

英偉達是英業達的子公司

沒有容易使用的軟件平台，再快的晶片也不能發揮算力 Nvidia的GPU全名是general purpose gpu，能稱霸市場全在於通用性編程 Fpga針對特定應用需要重新編程，沒有GP的特性

@@LongLongKo 意思是这个意思，但是gpu是graphics processing unit😂

FPGA走低價低功耗路線，但在比較領先的AI公司都會走向自研ASIC，而不是使用CUDA

@@oyjl616 gpgpu general purpose graphic processing unit通用圖像處理單元是Nvidia 首先提出的概念，具體的實踐就是CUDA

笑死,在巨大的性能與價格落差下,不論nVidia有什麼,都只是放屁:AMD今年要推出的MI300,算力是3月才剛推出的H100伺服器的10倍，但MI300的功耗還略低一點。AMD早已推出可以將CUDA程式碼轉換成AMD的相當程式碼，生態上可以直接架構在CUDA

其实全世界也只有美国在引领这波科技潮流，大陆只能用它的成果去做一些应用型的领域比如新能源车之类的，能挖金已经很难了，能卖铲子的企业那是真的神仙

​@@erasersc5509 你真是把美国看得太高了，单就美国这电网和基础设施建设，以后要驱动 ai 这种巨量的算力，怕是要崩😂😂😂

AIML 从来不是堆spec堆起来的 后来者除非能在性能上有10x的提升，数据中心业务都是利好incumbent。试想你是openai 就算amd纸上数据再好 你敢押注么？ 错一步就会被bard claude超越。所以在infra 平台还是会保守

严重怀疑这位老哥重仓了AMD股票

不知道为什么我特别喜欢看他被打脸😆

@@allenwu5435 试想你是openai 就算amd纸上数据再好 你敢押注么？ 笑死,你自己都不是都講到"數據好",為什麼就不敢用?自己給自己掌嘴,真是有趣

@@allenwu5435 沒錯,错一步就会被bard claude超越,所以實作GPT4的組織,肯定會用AMD MI300,因為同樣一筆投資,用MI300可以獲得更大的算力,但功耗卻更低,讓自己維持或提升競爭力