PTT推薦

[分享] Layout工程師很危險,Google自動晶片設計

看板Tech_Job標題[分享] Layout工程師很危險,Google自動晶片設計作者
jackliao1990
(j)
時間推噓51 推:52 噓:1 →:79

Layout工程師很危險,Google自動晶片設計AlphaChip問世
https://www.jiqizhixin.com/articles/2024-09-27-5

2020 年,Google發表了預印本論文《Chip Placement with Deep Reinforcement
Learning》,介紹了其設計晶片佈局的新型強化學習方法。後來在2021 年,Google又發表在Nature 上並開源了出來。

今天,Google發表了這篇Nature 文章的附錄,更詳細介紹了這個方法及其對晶片設計領域的影響。同時, Google也開放了一個在20 個TPU 模組上預先訓練的檢查點,分享模型權重並命名為「AlphaChip」 。

Nature 附錄網址:https://www.nature.com/articles/s41586-024-08032-5
預訓練檢查點位址:
https://github.com/google-research/circuit_training/?tab=readme-ov-file#PreTrainedModelCheckpoint


谷歌首席科學家Jeff Dean 表示,開放預訓練AlphaChip 模型檢查點以後,外部用戶可以更輕鬆地使用AlphaChip 來啟動自己的晶片設計。

計算機晶片推動了 AI 的顯著進步,AlphaChip 利用 AI 來加速和優化晶片設計。該方法已被用於設計Google自訂 AI 加速器(TPU)最近三代的“超人”晶片佈局。

作為首批用於解決現實世界工程問題的強化學習方法,AlphaChip 只需要數小時便能完成媲美或超越人類的晶片佈局,而無需再花費數週或數月人工努力。而此方法設計的佈局已應用於世界各地的晶片,覆蓋場景包括資料中心到手機。

GoogleDeepMind 表示,AlphaChip 已經徹底改變了我們設計微晶片的方式,從幫助設計用於建立AI 模型的SOTA TPU 到資料中心CPU,它的廣泛影響已經擴展到了Alphabet 內外。

GoogleDeepMind 聯合創始人兼CEO Demis Hassabis 表示,如今我們形成了這樣一種反饋迴路:訓練SOTA 晶片設計模型(AlphaChip)→使用AlphaChip 來設計更好的AI 晶片→
使用這些AI 晶片來訓練更好的模型→再設計更好的晶片,這正是GoogleTPU 堆疊表現如
此好的部分原因。

各路網友對Google的AlphaChip 寄予厚望,稱「晶片設計晶片的時代來了」,也預言谷歌將贏得未來AGI 之爭。

AlphaChip 是如何運作的?

晶片設計並非易事,部分原因在於電腦晶片由許多相互連接的塊組成,這些塊具有多層電路元件,所有元件都通過極細的導線連接。此外,晶片還有很多複雜且相互交織的設計約束,設計時必須同時滿足所有約束。由於這些複雜性,晶片設計師們在60 多年來一直在努力實現晶片佈局規劃過程的自動化。

與AlphaGo 和 AlphaZero 類似,Google建構了AlphaChip,將晶片佈局規劃視為一種遊戲。

AlphaChip 從空白網格開始,一次放置一個電路元件,直到完成所有元件的放置。然後根據最終佈局的品質給予獎勵。谷歌提出了一種新穎的「基於邊」的圖神經網路使
AlphaChip 能夠學習互連晶片元件之間的關係,並在整個晶片中進行推廣,讓AlphaChip在其設計的每個佈局中不斷進步。

Google借助AI 設計AI 加速器晶片

自2020 年發布以來,Google已經採用AlphaChip 為每一代Google TPU 產生超級晶片佈局。這些晶片使得大規模擴展基於 Google Transformer 架構的AI 模型成為可能。

TPU 作為Google強大的生成式AI 系統的核心,應用範圍從大語言模型(如Gemini)到圖像和視訊生成器(Imagen 和Veo)。這些TPU 是Google AI 服務的核心,可透過Google
Cloud 供外部用戶使用。


為了設計TPU 佈局,AlphaChip 首先在前幾代的各種晶片區塊上進行練習,例如片上和晶片間網路區塊、記憶體控制器和資料傳輸緩衝區。這個過程稱為預訓練。然後谷歌在當前的TPU 區塊上運行AlphaChip 以產生高品質的佈局。與之前的方法不同,AlphaChip 解決了更多晶片佈局任務實例,因此變得更好、更快,就像人類專家所做的那樣。

隨著每一代新TPU(包括Google最新的Trillium(第6 代))的推出,AlphaChip 設計出了更好的晶片佈局並提供了更多的整體平面圖,從而加快了設計週期並產生了性能更高的晶片。

AlphaChip 帶來的更廣泛影響

AlphaChip 的影響力體現在Alphabet、研究界和晶片設計產業的應用。除了設計TPU 等專用AI 加速器外,AlphaChip 還為Alphabet 的其他晶片設計佈局,例如Google Axion 處理器,這是Google首款基於Arm 的通用資料中心CPU。

外部組織也在採用和建構AlphaChip。例如,全球頂級晶片設計公司之一聯發科擴展了
AlphaChip,以加速其最先進晶片(如三星手機使用的Dimensity Flagship 5G)的開發,同時提高了功耗、性能和晶片面積。

AlphaChip 引發了晶片設計AI 工作的爆炸性增長,並已擴展到晶片設計的其他關鍵階段,例如邏輯綜合和巨集選擇。

開創晶片新未來

谷歌堅信,AlphaChip 有潛力優化從運算架構到製造的晶片設計週期的每個階段,並改變智慧型手機、醫療設備、農業感測器等日常設備中客製化硬體的晶片設計。

目前,AlphaChip 的未來版本正在開發中。谷歌期待與社群合作,繼續改變自動晶片設計領域,進而在未來迎來速度更快、價格更低、能源效率更高的晶片。

參考連結:
https://deepmind.google/discover/blog/how-alphachip-transformed-computer-chip-design/

--

※ PTT留言評論
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.153.36 (臺灣)
PTT 網址

NDark 09/27 13:43當他們走向 客服 繪師 碼農的時候 我沒幫他們出聲

moboo 09/27 13:55真的QQ

wer50888 09/27 13:56這個自動佈線完,不也要RD review

wer50888 09/27 13:56layout 去改

wer50888 09/27 13:56難道可以直接下晶片?

kakar0to 09/27 14:01之前講軟體工程師失業. 感覺硬體也差不多了

getbacker 09/27 14:01就是以前十個人在拉線 現在只要一個有經驗的review

j0958322080 09/27 14:02那他們的 TPU 做的如何

apac 09/27 14:06本來就會一直有新的tool,但是要人去做確認

tpegioe 09/27 14:08自動佈線不是很久以前的題目嗎?現在市場主流的CPU

tpegioe 09/27 14:08和GPU還有純人工佈線的嗎?

a606152004 09/27 14:12中國的外包廠還有人工的吧?

teamax 09/27 14:14認命點直接下fab當製程

kakar0to 09/27 14:33AI繞線比你強 還需要你確認嗎?

kakar0to 09/27 14:34alpha go下圍棋 還需要人去確認有沒有下對嗎?

gn01216674 09/27 14:41這家晶片也沒多強 在台灣連前五都排不上

gn01216674 09/27 14:42幾年前就發peper說可以自動合成電路 結果勒?

ericisfish 09/27 14:43拿layout說硬體工程師差不多 哈哈哈

adampolo 09/27 14:47阿法狗輸給李世石那場,就是出了很離譜的錯誤。但

adampolo 09/27 14:47因為是比賽,所以賽後才去修bug。

adampolo 09/27 14:52下錯那手,黃博士馬上搖了搖頭。但還是只能下那手

adampolo 09/27 14:52臭棋

wssxxx 09/27 15:14看不太懂 這個跟APR tool差在哪

Madao0149 09/27 15:17重點是要有人comment

carkyoing 09/27 15:22叫AI自己Layout自己模擬自己出Gerber

andy810306 09/27 15:24他就是操作APR tool的工程師,這種死的東西好取代

dagehoya556609/27 15:24靠北不就Apr

andy810306 09/27 15:25反正APR也就是經驗法則,try and error而已

andy810306 09/27 15:26程式邏輯都能取代了,這種死背的學會秒給最佳解

Onnnnnnnnnnn09/27 15:29當然是請一個年薪300~400萬的on call的頂級拉線仔,

Onnnnnnnnnnn09/27 15:29火掉10個年薪百萬拉線仔, 來回省600萬老闆每年可以

Onnnnnnnnnnn09/27 15:29換一台車耶

Onnnnnnnnnnn09/27 15:30誰管你們layout免洗筷要求加個班還唧唧歪歪的

sigma0307 09/27 15:38HW永遠似乎不受影響 因為HW的bug常常連自己要debug

sigma0307 09/27 15:38什麼都不知道

psychic 09/27 15:42不就是多一個工具嗎

Izangel 09/27 15:43這是快速最佳化APR好嗎,deepmind原文有寫MTK已經使

Izangel 09/27 15:43用了

gotofumihisa09/27 15:49自動化應該是趨勢 小公司可能不太能花錢導入 不過大

gotofumihisa09/27 15:49公司現在架構這麼複雜 不太可能找一堆人來Layout 或

gotofumihisa09/27 15:49是把人操到掛掉 很多事情都要想辦法自動化來做

a606152004 09/27 15:49HW就是等哪天機器手臂可以進RD工作區rework再量測才

a606152004 09/27 15:49會被取代

tibayfather 09/27 15:57應該和圍棋一樣,本來是帶譜走棋,演化zero ,apr

tibayfather 09/27 15:57工具會進化吧

tibayfather 09/27 15:58從規則走線,變ai 怖局走線

tibayfather 09/27 15:59會改叫操作Ai 工程師

andy810306 09/27 15:59的確,原本EDA tool暴力嘗試無法試出好的走線,AI

andy810306 09/27 15:59玩久了直接生出神之一手也是可能的

kkithh 09/27 16:17Layout跟APR是不一樣的領域,到底是在講哪一種?Lay

kkithh 09/27 16:17out讓AI來畫還不可能吧,若是APR那本來就是tool 在

kkithh 09/27 16:17擺放跟繞線,所以Cadence或Synopsys也可以講我們是A

kkithh 09/27 16:17I囉

doranako 09/27 17:03AI 設計然後工廠做不出來,一直怪罪工廠

yunf 09/27 17:23只要有人可以罵就行

yunf 09/27 17:24到最後gg扛

DrTech 09/27 17:34routing強沒什麼用。經驗豐富的工程師,畫出來,各

DrTech 09/27 17:34公司幹有一堆rule check。然後製造又不可能完美導致

DrTech 09/27 17:34要來回改,來料又各種問題。問題根本不在routing,

DrTech 09/27 17:34或者說routing一直都是最單純的。

Izangel 09/27 17:38一堆人沒看deepmind原文就在噴。笑死

timtdsas 09/27 18:09現在晶片架構複雜 project 一堆GY的 request 要符合

timtdsas 09/27 18:10== APR要搞好還是得要一堆人力

Edge5566 09/27 18:12聽起來是不是以後我電腦的小畫家繞完線就可以下給台

Edge5566 09/27 18:12積電?也沒這麼難嘛

dildoe 09/27 18:27最後一關是ai來幹 好哦Xd

LinuxKernel 09/27 20:37天蛇敢用嗎

chuxchu 09/27 20:57這樣先失業的還是軟體工程師(做EDA的

danny30715 09/27 21:03...自動佈線問題很多,沒手動調整很危險

brightest 09/27 21:06Synopsys早就有用ai 做apr了

brightest 09/27 21:09基本就是讓tool聰明一點 不像以前都亂擺

hoyo992 09/27 21:13讓我拭目以待吧

a29831287 09/27 21:16u rate?

uxijgil 09/27 21:34SNPS的DSO.ai也不能說是真AI,頂多算是machine lear

uxijgil 09/27 21:34ning tool

gn01216674 09/27 21:39看到eda失業笑死 google apr智慧程度連eda的十分之

gn01216674 09/27 21:39一都沒有

gn01216674 09/27 21:40況且google雷聲大雨點小也不是第一次了

leonidass 09/27 21:42數量太少,而且每個都一樣大,實用價值不太高

summer08818 09/27 21:49DSOai你先去看用一次要多少錢再考慮吧XD

summer08818 09/27 21:50而且DSO.ai還是建立在運算資源超多 Lic超多的前提下

summer08818 09/27 21:51一般公司根本玩不起來 頂尖公司自己就養一堆專家了

TsmcEE 09/27 21:52smart eco還比較有搞頭一點....

qwe04687 09/27 21:53前陣子去新思研討會 發現tools都在導AI 連ide也是==

summer08818 09/27 21:54DSO核心概念就是幫你tune出一組最好的超參數組合

summer08818 09/27 21:55但隨便一個不用太複雜的晶片光clock跟power domain

summer08818 09/27 21:56你要tune好就上萬種參數組合了 你哪來那麼多Lic XD

summer08818 09/27 21:57而且複雜的丟下去是幾周以上才一個解 不是幾秒幾分

kaltu 09/27 22:28一直覺得繞線的工作性質跟蛋白質折疊有微妙的相似感

kaltu 09/27 22:28,再看alpha fold的時候就在想deep mind是不是在搞A

kaltu 09/27 22:28I繞線結果就出新聞了

kaltu 09/27 22:31超參數搜尋不就是現在這一代AI的本業嗎?以前都是ML

kaltu 09/27 22:31工具在超參數撐起來的latent space裡面找optimum,

kaltu 09/27 22:32現在用神經網路把整個超高維空間fit起來找而已

pimday 09/27 22:39這邊給個小情報 現在主流的APR tool lic 一個月基本

pimday 09/27 22:41價1萬鎂然後一套只能開4個以下CPU 你能買幾套...

pimday 09/27 22:42除了S跟C自己推包套服務 一般公司不可能拿來train的

pimday 09/27 22:43學術界有個AutoTuner是用opensource外加租cloud去玩

pimday 09/27 22:44所以他可以灑幾萬筆出去找最好的 因為lic不用錢

j0958322080 09/27 22:51是說最近看到 SNPS 在徵 tensor flow 的工程師

joe931 09/27 22:55以後layout就跟RD整合!RD要會LAYOUT

gn01216674 09/27 23:40一萬鎂不貴阿 一年12萬而已 大公司都是幾百M在買

saladim 09/28 03:34是先placement嗎 routing還沒真正繞 只有estimate?

hoyo992 09/28 06:45應該請谷歌用這軟體先tap out一顆晶片

hoyo992 09/28 06:46才知道能不能用。而不是找客戶幫他測試

onlykals 09/28 07:20看起來像placer 那塊的,但不曉得是不是timing awa

onlykals 09/28 07:20re / PV aware

onlykals 09/28 07:21是說這比較像APR, 而非Fully layout

mc2834 09/28 09:29以後只剩下製程跟設備工程師了…乖乖鎖螺絲

Iversonshao 09/28 10:39APR的新工具而已吧

jasperhai 09/28 11:53以為取代別人,結果工程師自己先被取代了

yellone741 09/28 12:17以後大概就設備不會被取代吧

jiansu 09/28 12:41記得nv自己也有做的樣子 這是趨勢 看何時落地

Ron51320 09/28 12:48EMI才是問題

ferrinatice 09/28 13:31打哈欠

rzao 09/28 13:41看起來就RD多一個tool 工作全包 老闆開心

konora 09/28 15:05APR工具,最後還是需要人確認最後的結果能不能用。

konora 09/28 15:05等到全面取代,要幾十年吧

jumperman 09/28 15:29常常要都規劃挑戰製程極限的元件layout,都是RD自己

jumperman 09/28 15:31直接做掉..

bitcch 09/28 15:52以後只是叫你用AI做更多事情

bizer 09/28 19:03pcb layout自動佈線都很難用了,還要考慮很多因素,

bizer 09/28 19:03不覺得能多堪用

queen1983 09/28 21:35工程師和歐盟有87%像,一直挖洞給自己跳

stillboy 09/29 07:30不只layout~IC design也是一樣

GiBabrother 09/29 08:22要review應該也是很痛苦,抓bug 很多時候也超難,特

GiBabrother 09/29 08:22別長官很愛問下次怎麼避免這種問題

ym010273 09/29 09:09工程師的終極使命是把自己的工作優化掉

Mograine 09/29 15:33笑死人 我賭五年內絕對不可能取代ECAD工程師 實際

Mograine 09/29 15:33產品絕對沒有理論上這麼簡單

horb 09/29 17:06另一家公司出的APR

horb 09/29 17:07不過工具本來就是讓單兵生產力變高。沒有誰取代誰