在今年年初,AI圈子投下了一顆大炸彈,由國內團隊研發的DeepSeek-R1大語言模型橫空出世,並且公佈即開源,其性能堪比甚至超越不開源的OpenAIo1,同時造價成本並不高,對比國外高額的預算,可以說是用偏少的算力,造出了媲美當今最強的大預言模型,並且免費開源,交給了全世界。
那麼想正常使用DeepSeek,大家只要上官網直接使用即可,但因爲DeepSeek火遍全球大江南北,服務器24小時高強度負載,導致無論白天黑夜都有大概率出現服務器繁忙無法正常使用的時候,這時候就顯得本地部署非常重要了。
而本地部署除了網絡原因外,主要也是有着本地佈置私人助手的需求,或者是不想信息泄露,以及在一些沒網絡的機器上部署,都有着各式各樣的原因。而官方原生模型爲671B模型,對於顯卡顯存的需求高達320G以上,正常人基本無法體驗,但官方貼心的放出了蒸餾版本,通過量化技術將模型進行壓縮,分成了不同需求的版本。
本次就先介紹如何在PC端安裝DeepSeek-R1,在本地安裝前,先選擇適合自己的模型大小,顯存1GB以上的,先擇1.5B大小的DeepSeek-R1模型,顯存4GB以上的,選擇7B或8B大小的DeepSeek-R1模型,顯存8G以上則是14B,顯存達到18GB則是32B模型,目前消費級顯卡最高的5090D,也只不過能使用32B大小的模型,不過顯存達不到需求也可以試試,只不過響應速度會慢很多。
比如我使用RTX5080金屬大師OC顯卡,它的顯存大小是16GB,那麼就選擇14B大小的量化DeepSeek-R1模型。首先我們得下一個ollama框架,打開ollama官網,點擊下載windows客戶端(系統至少是windows10及以上)。
安裝完ollama框架後,用win鍵+R鍵呼出運行,輸入cmd打開命令行窗口,輸入ollama,出現命令菜單就是安裝成功了。
然後回到ollama官網,點擊上方搜索欄搜索deepseek-r1,在左邊選項框裏選擇你需要的模型大小,然後點擊右邊的複製按鈕。
接下來回到命令行窗口,粘貼負責的代碼(單擊右鍵也可以粘貼),回車運行等待下載即可。此時下載卡頓的話,可以關掉命令行窗口再重新粘貼代碼,回繼續滿速進行下載。下載完想驗證下,可以在命令行窗口輸入ollamalist查看模型。
如果下載好後使用,可以在命令行窗口中輸入ollamarundeepseek-e1:14b回車,就可以進行啦,當然爲了更多功能以及美觀一些,更多人是推薦使用WebUI,比如Chrome瀏覽器裏的插件PageAssist,可以更方便的使用模型。
以上就是本地部署DeepSeek-R1的一種辦法啦,想嘗試的小夥伴趕緊去試試,當然如果你想有着比較良好的AI體驗,一張大顯存顯卡必不可少,而最新推出的影馳RTX5080 金屬大師OC則是你的不二之選,擁有16GB的大顯存,足夠你作爲體驗AI的利器,並且RTX50系顯卡擁有對AI更好的支持,TensorCore更是加速AI的好幫手,讓你在AI探索道路上更加暢通無阻~
來源:中關村在線
更多遊戲資訊請關註:電玩幫遊戲資訊專區
電玩幫圖文攻略 www.vgover.com