PTT推薦 alex780312 過去發表過的文章

 3 

身為LLM猴子，大多同意DrTech的看法，只是台智雲這塊有點不一樣。 其實台智雲有幾乎一半台灣杉2號的機器可以用， 也克服很多開源軟體無法解決的問題；例如硬體是V100不是A100， 又要能夠做3D model parallelism，又要同時能跑LoRA，RLHF， 在100Gbps網路中維持GPU使用率滿載等等。在meta llama出來之前，