deepseek-r1模型本地化部署+聯(lián)網(wǎng)搜索【教程】
你可能聽說過 deepseek-r1,但不知道它能不能跑在本地、更安全地“接網(wǎng)搜索”。這篇教程手把手教你如何在本地部署這款國(guó)產(chǎn)大模型,并打通聯(lián)網(wǎng)搜索能力,構(gòu)建自己的“小型AI問答系統(tǒng)”——從環(huán)境配置到調(diào)用細(xì)節(jié),一步步跑通。
deepseek本地化部署,本地?zé)o限使用,token自由,隨便用
不過本地部署吃本地電腦的硬件,響應(yīng)沒有直接使用網(wǎng)上的大模型反應(yīng)快。
所需工具:
1、ollama
2、下載大模型(deep seek大模型)
3、安裝大模型前端交互工具chatboxai
4、網(wǎng)頁插件:實(shí)現(xiàn)聯(lián)網(wǎng)搜索
接下來我來詳細(xì)的介紹安裝步驟:
第一步:下載ollama
認(rèn)準(zhǔn)這個(gè)羊駝圖標(biāo)。就是軟件本體了
官網(wǎng)下載地址:https://ollama.com/download(大家自行下載)
支持多種系統(tǒng)自行選擇
我這下載的是windows版本
下載完成后,安裝(一分鐘基本上就安裝完成了)
安裝完成后運(yùn)行軟件:
運(yùn)行后,系統(tǒng)右下角會(huì)有個(gè)圖標(biāo),這就說明ollama
第二步:下載deepseek大模型
打開:“運(yùn)行”,可以是win+r,或者在程序中搜索“運(yùn)行”
然后就打開了這個(gè)
上圖示意是下載的deepseek-R1:1.5B大模型
輸入:ollama run deepseek-r1:1.5b
點(diǎn)擊回車
等待十幾分鐘就可以下載完成了,
下載完成如下圖
到此為止,大模型就是成功安裝成功了,可以嘗試對(duì)話使用了
比如下圖,直接提問:
補(bǔ)充說明:不安裝其他模型,可直接跳過。
deepseek大模型有很多種,可自行選擇下載,了解詳情可點(diǎn)擊ollama官網(wǎng)查看(https://ollama.com/library/deepseek-r1)
當(dāng)然,ollama官網(wǎng)上還有其他大模型,也可嘗試下載體驗(yàn),原理是一樣的,如下圖
第三步:給eepseek大模型安裝前端交互工具
這里用到的工具是chatboxai
下載地址:https://chatboxai.app/zh
選擇合適自己的版本安裝到本地就可以啦
下載完成后點(diǎn)擊安裝:
安裝完成,運(yùn)行即可
首次打開后,需要選擇模型,選擇一本地模型
保存后,點(diǎn)擊左邊的“新對(duì)話”選擇使用模型
然后 就可以開啟對(duì)話了(截止到目前,大模型+前端交互就完成,目前還不知持聯(lián)網(wǎng)搜索)
第三步:網(wǎng)頁插件:實(shí)現(xiàn)聯(lián)網(wǎng)搜索
這里用到瀏覽器插件:Page Assist – A Web UI for Local AI Models
你可用google、火狐、edge(推薦)
然后打開“拓展”
然后查找“Page Assist
點(diǎn)擊安裝
安裝完成后如下:
打開插件:
到這里,你就實(shí)現(xiàn),本地化部署大模型+聯(lián)網(wǎng)搜索的功能啦~
本文由 @董方旭 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)作者許可,禁止轉(zhuǎn)載
題圖來自Unsplash,基于CC0協(xié)議
該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)
- 目前還沒評(píng)論,等你發(fā)揮!