llama3開源模型教你不需要gpu在性能不好的電腦上搭建屬於自己的chatgpt!

你是否想要在你的電腦上搭建屬於你的AI對話模型，卻沒有GPU（獨顯），這篇文章將會教你如何用CPU跑ai模型

電腦條件

1.必須有8GB以上的ram

2.磁碟空間要6GB以上的空間

如果電腦符和條件就可以開始今天的教學！

Gpt4all（主程式）安裝

首先要打開這個網址

linux：可以用flatpak安裝

按下載，下載完安裝檔後

windows：直接開啟

linux打開前須注意要賦予檔案是執行檔的權限

按next

選安裝路徑（linux要注意不能有中文在路徑中，如果一定要安裝在不被接受的路徑，可以將檔案安裝在預設路徑，之後剪下貼上到你想要的路徑）

按next（安裝主程式後會佔用1.2GB，若加上模型不只1.2GB)

按我同意，next

接著會下載檔案，快慢由網路速度決定

完成！

windows:會在桌面看到app

linux要到安裝路徑 > bin資料夾 > chat

模型設定

第一次打開app，全部選yes

按chat會發現沒有模型，按install a model

選喜歡的模型（推薦llama3)

下載可能要一段時間，約4GB

下載完後打開右側設定（settings)

在devices可以選擇要用cpu還是gpu

cpu Thread(執行緒)跟據你的電腦配備的cpu來填

回到chat，按loading model，就搭建完成！😀

影片教學

https://www.youtube.com/embed/KI0siiBGNXE

這篇文章有幫助到你？幫我訂閱我的yt頻道吧！

贊助我？！（bitcoin：bc1q02d6mzgrm7alc7m62fw0nuj3ndx0h4mtsp6j8z)

leaftech (leaftech)

0%