deepseek-r1模型本地化部署+聯(lián)網(wǎng)搜索【教程】

0 評(píng)論 2021 瀏覽 0 收藏 7 分鐘

你可能聽說過 deepseek-r1,但不知道它能不能跑在本地、更安全地“接網(wǎng)搜索”。這篇教程手把手教你如何在本地部署這款國(guó)產(chǎn)大模型,并打通聯(lián)網(wǎng)搜索能力,構(gòu)建自己的“小型AI問答系統(tǒng)”——從環(huán)境配置到調(diào)用細(xì)節(jié),一步步跑通。

deepseek本地化部署,本地?zé)o限使用,token自由,隨便用

不過本地部署吃本地電腦的硬件,響應(yīng)沒有直接使用網(wǎng)上的大模型反應(yīng)快。

所需工具:

1、ollama

2、下載大模型(deep seek大模型)

3、安裝大模型前端交互工具chatboxai

4、網(wǎng)頁插件:實(shí)現(xiàn)聯(lián)網(wǎng)搜索

接下來我來詳細(xì)的介紹安裝步驟:

第一步:下載ollama

認(rèn)準(zhǔn)這個(gè)羊駝圖標(biāo)。就是軟件本體了

官網(wǎng)下載地址:https://ollama.com/download(大家自行下載)

支持多種系統(tǒng)自行選擇

我這下載的是windows版本

下載完成后,安裝(一分鐘基本上就安裝完成了)

安裝完成后運(yùn)行軟件:

運(yùn)行后,系統(tǒng)右下角會(huì)有個(gè)圖標(biāo),這就說明ollama

第二步:下載deepseek大模型

打開:“運(yùn)行”,可以是win+r,或者在程序中搜索“運(yùn)行”

然后就打開了這個(gè)

上圖示意是下載的deepseek-R1:1.5B大模型

輸入:ollama run deepseek-r1:1.5b

點(diǎn)擊回車

等待十幾分鐘就可以下載完成了,

下載完成如下圖

到此為止,大模型就是成功安裝成功了,可以嘗試對(duì)話使用了

比如下圖,直接提問:

補(bǔ)充說明:不安裝其他模型,可直接跳過。

deepseek大模型有很多種,可自行選擇下載,了解詳情可點(diǎn)擊ollama官網(wǎng)查看(https://ollama.com/library/deepseek-r1)

當(dāng)然,ollama官網(wǎng)上還有其他大模型,也可嘗試下載體驗(yàn),原理是一樣的,如下圖

第三步:給eepseek大模型安裝前端交互工具

這里用到的工具是chatboxai

下載地址:https://chatboxai.app/zh

選擇合適自己的版本安裝到本地就可以啦

下載完成后點(diǎn)擊安裝:

安裝完成,運(yùn)行即可

首次打開后,需要選擇模型,選擇一本地模型

保存后,點(diǎn)擊左邊的“新對(duì)話”選擇使用模型

然后 就可以開啟對(duì)話了(截止到目前,大模型+前端交互就完成,目前還不知持聯(lián)網(wǎng)搜索)

第三步:網(wǎng)頁插件:實(shí)現(xiàn)聯(lián)網(wǎng)搜索

這里用到瀏覽器插件:Page Assist – A Web UI for Local AI Models

你可用google、火狐、edge(推薦)

然后打開“拓展”

然后查找“Page Assist

點(diǎn)擊安裝

安裝完成后如下:

打開插件:

到這里,你就實(shí)現(xiàn),本地化部署大模型+聯(lián)網(wǎng)搜索的功能啦~

本文由 @董方旭 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)作者許可,禁止轉(zhuǎn)載

題圖來自Unsplash,基于CC0協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 目前還沒評(píng)論,等你發(fā)揮!