[討論] 壓榨M2 iPad效能：跑AI繪圖 Draw Things

iPad都用上M系列晶片了，可惜軟體方面仍被系統大大限制住，要怎麼發揮處理器的效能呢，就來試試看跑AI相關的玩意吧。

在Apple Intelligence上市之前，已經有開發者推出一些本機AI方案了，像LLM Farm能在iPad跑語言模型。CPU硬算的情況下跑3B的小模型其實速度還滿快的。
https://i.imgur.com/zYwvW8D.jpg

至於Draw Things就是跑AI繪圖了，背後使用Stable Diffusion，可以生成...兔子！
https://i.imgur.com/ZRvPHOc.jpg

Draw Things是真正在本機運算的AI生圖軟體，無關鍵字審查，想生什麼就生什麼，相容Civitai網站上的大多數Stable Diffusion模型。

APP功能有：文生圖、圖生圖、局部重繪（換臉）、API伺服器等等。

這個APP大約2022年就上架了，板上也有大大介紹過。讓人訝異的是作為半開源的軟體，這個專案仍有在不斷更新，作者最近還加入最新ControlNet、FLUX模型的支援。至今都沒有收費，可以說這是macOS和iOS上最棒的Stable Diffusion生圖軟體了。

下載網址：

https://apps.apple.com/us/app/draw-things-ai-generation/id6444050820

推薦搭載M1晶片以上、RAM 8GB以上（含）的Mac或iPad安裝。
iPhone的話可能要15以上，否則只能生低解析度的圖片。

首先要在APP設定開啟CoreML全部加速器，加快生圖速度。
https://i.imgur.com/FrEJr8r.jpg

下載SDXL模型
https://i.imgur.com/cZLSy4f.jpg

然後填入正負提示詞，解析度設1024x1024，點選生成，boom，圖片就出來了。

如果用過Stable Diffusion WebUI，那麼這個應該會很好上手，網路上的「咒語」教學多半能在此APP使用。
https://i.imgur.com/SJrOFnU.jpg

我還可以點橡皮擦功能，將畫面上的一部分擦去。
https://i.imgur.com/whrwNiS.jpg

然後讓AI重新生成一件衣裳出來～ 嗯，當然不一定要生衣服，也可以是其他關鍵字
https://i.imgur.com/4OkHdes.jpg

iPad Air 6 M2 8GB的效能跑SDXL模型，生成1024x1024解析度的圖，大約3分鐘內就能生出來，這速度接近一些電腦低階Nvidia顯示卡的生圖速度。

不過感覺目前極限也就到這了，光是SDXL的模型就很容易RAM不足閃退，得清空背景程式再跑。長時間運算還可能導致iPad過熱。
那麼我這台iPad要跑FLUX難度就更高了，可能要16GB RM的iPad Pro才夠跑。

除非未來有進一步為行動裝置優化的生圖模型，否則得花錢投資更高階iPad防患未然呀。

樓下問要跑AI為什麼不買Mac？抱歉我主力已經有Linux電腦了，iPad只是用來寫字的平板。可是又覺得iPad的M2晶片效能那麼強，不壓榨一下很可惜，所以就拿來跑AI繪圖。

其實個人跑Draw Things也不是單純要在iPad生圖而已，而是搭配SillyTavern AI聊天軟體使用，作為自架AI運算的一環。

關於SillyTavern的介紹：https://reurl.cc/qv4qyy

Draw Things提供API Server，能夠接受其他電腦傳來的生圖請求。所以能夠一邊跟AI
對話，一邊生成圖片。
https://i.imgur.com/RKhbFXq.jpg

因為老電腦要同時跑二個AI的模型非常吃資源，於是設定分工機制：在電腦跑SillyTavern和LLaMA語言模型，iPad當作產圖機，透過HTTP API Server遠端生圖。

--
原創梗圖系列 https://i.imgur.com/Y10Cw4n.jpg https://i.imgur.com/FqRAWTs.jpg

https://i.imgur.com/Y1pYVqm.png https://i.imgur.com/UKvi40X.png
https://i.imgur.com/55uARuQ.jpg

--

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.77.173.64 (臺灣)

這很難吧，難道要AI自行分析畫面給你改？雖然圖生圖有參考對象但還是得加一些形容詞

Civitai把NSFW開啟就有了

值得試試，但我記得LCM品質下降嚴重的樣子？

是的，要注意散熱。 可現階段的裝置哪台跑SD都會熱吧？iPdd Air日常使用倒是沒有很常遇到過熱。

※ 編輯: ivon852 (42.77.173.64 臺灣), 10/04/2024 01:31:17