[請益] 美國有禁中國買infiniband這種高速網路嗎
不管是輝達或華為的晶片
要訓練大語言模型
都不是靠一台機器就能跑
應該要串很多台才能跑
那我有個疑問
美國有禁中國買infiniband這種高速網路嗎?
還是只有禁gpu晶片
--
※ PTT 留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.115.171 (臺灣)
※ PTT 網址
噓
這都多久的東西了。而且又不是那麼重要。
→
傳的快讀寫的慢也沒用。
噓
華為的晶片訓練大模型 我笑了XDD
噓
要查一下 網卡那堆好像有些輸出管制
推
中國AI大模型榜上有名吧科科,上次斯坦福大學盜用中
→
國清華的AU大模型
推
更正:Llama3-V就在HuggingFace的社區榜單(Hugging
→
Face Trending)中排名前五
噓
某推文支語露餡
噓
斯坦福大學是哪間?
噓
中國人來看台灣的股票要幹嘛?
噓
中國股市跌慘,來羨慕台灣
推
史丹佛??? 斯坦福???
推
顫慄福
噓
原來26也會用科科
噓
股版充斥太多支那狗
94
Re: [新聞] 輝達傳再推中國特供AI晶片 最快「這時」老黃應該是有機會能繼續用黃家刀法 用高階價錢賣低階產物給中國 從美國的最大化利益角度來想 美國也會希望老黃賣次級的晶片給中國 這樣就某種程度能最大化阻滯中國發展 和弱化中國科技樹發展 比方說 中國最近的華為昇腾910B AI晶片號稱對標A100 已經賣給百度作為AI開發用途 如果說中國目前上面自製化晶片算力是10 那A100是30 H100是50 那老黃只要賣給中國晶片67
[問卦] 極客灣評測華為晶片超乎預期?安安 剛剛看極客灣評測華為新的5g晶片 首先這顆晶片不是庫存,是用中國國產製程 能效大概相當於三星的4nm製程,但不如台積電工藝 第二這顆晶片的CPU和GPU都是華為自研架構 cpu大核和中核都不是拿arm公版來修改22
[標的] MSFT.US 微軟擬投資1000億 打造超級電腦標的: MSFT.US 微軟 分類:討論 原網址26
Re: [問卦] 有沒有中國這次第四次AI工業革命要GG了AI晶片很多家做,但輝達的CUDA和GPU軟硬 結合,可以用CUDA當C語言編譯器,把輝達 GPU當CPU用。現在中國的AI大用戶,,好像 不想用高閹割版的輝達H20,於是都各自要把 自家用CUDA編譯的整套程式,慢慢改寫轉移23
Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉Network software engineer來蹭一下熱度 個人覺得NV在AI training領域不會被AMD追上 因為分散式training有個很大的重點:low latency and high throughput network 這個網路名字叫做RDMA 可以直接ram對ram互相督進去21
[閒聊] 串連數千個 Nvidia GPU,微軟打造 Chattechnews 串連數千個 Nvidia GPU,微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 微軟斥資數億美元打造一台大型超級電腦,串連數千個 Nvidia GPU,為 OpenAI 的聊天機14
Re: [新聞]全面禁止高階AI晶片出口中國要看懂這個新聞需要一些對於高速運算的基本知識。 輝達的GPU產品分成三種不同等級與用途,第一種叫做消費用晶片,也就是大家常常聽到跟使用的GTX跟RTX,主要用途在於遊戲運算以及虛擬貨幣挖礦,主要安裝在伺服器跟個人電腦上面 第二種等級的 GPU 是nvidia quadro系列,這種等級的GPU是與用來做3D繪圖運算用,用來渲染3D影像,主要安裝在工作站級的電腦上面。 最後一種等級的GPU是Tesla系列的A100跟更新的H100,他們的價格完全不是前面兩種等級可以比的,這種等級的GPU是安裝在高速運算中心,提供最高的算力。 另外這三種等級的晶片雖然都有其專有設計的目的,但是並非只能用在那個領域,要用A100來挖礦或是用RTX來跑深度學習都完全沒有問題的,他們的差別在於最高算力以及能耗上面,A100跟H100有著遠比其他等級晶片要高出許多的算力,要達到同樣算力,要用更多的能源,或是更多的空間以及更多成本。- 前面都在講CUDA應用 CUDA可以加速運算 後面在講如何把多顆GPU用NVLINK連起來 如果NVLINK不夠用 要更多顆GPU串起來