這邊說的, 都是關於本地部屬, 不本地部屬的, 能上網就好不用添購硬體.

TB外接整套很貴, 不只高瓦電源有問題, 效能還有折損, 不如兜一台便宜的桌機.

語言模型:
如果不上24G/32G頂流, 那麼4060ti 16G是CP最高的次一等, 再往下是最平價 12G,與丐版 8G.
考慮到目前外面常見的語言模型尺寸, 32b , 14b ,8b 對應的是 24G , 12G , 8G 顯卡 .
但16G卡現在沒佔到便宜不高不低. 70b模型 要兩張頂流,想必也花不起.


其他的到隔壁AI樓說吧.




以上