轻松几步,在自己电脑搭建一个本地大模型
## 文章内容简述
简单说明如何在本地搭建一个自己的大模型,在自己电脑运行
## 使用工具
Ollama(大模型运行工具)
## 安装过程
1、到该网址下载Ollama:https://ollama.com/
2、安装此工具
3、安装完成以后,双击打开。在任务里面会显示出来该程序。
4、进入命令行,输入指令:ollama list
指令说明:展示出来目前已安装的大模型
![image.webp](/download/0100ff1089e3a948491998bf8a8b02082be1.webp)
5、下载模型,会显示空,我们需要下载模型,模型可以从Ollama的模型网站下载:https://ollama.com/library
![image.webp](/download/01005b8ba4b1d1604cc6bf934dfd56004153.webp)
点击需要的模型,复制指令到命令行中执行:
![image.webp](/download/01006c7d397f78f443be9247912570562eea.webp)
6、使用模型,执行:ollama run llama3
ollama pull llama3
## 操作示例
软件安装过程就没有截图了,基本都是下一步,
从下载模型到运行模型需要用到的几个命令行语句截图,以千问通义为例:
![image.webp](/download/01001abd07ad85f44137b3b074fbfc5d5f99.webp)
## 类似chatGpt的聊天实现方式
可以使用这两款开源工具【1Panel和MaxkB】实现,1Panel是一个维护面板,里面基本可以一键安装MaxkB,官网有详细使用说明。我自己验证下来,目前MaxkB可以从文档中检索,但是问答无法展示出来关联的文档。
大家如果有稳定的方式可以实现把文档检索,并且回答的结果可以关联展示关联文档的方式可以分享一下。
轻松几步,在自己电脑搭建一个本地大模型
## 文章内容简述简单说明如何在本地搭建一个自己的大模型,在自己电脑运行## 使用工具Ollama(大模型运行工具)## 安装过程1、到该网址...
点击下载文档
本文2024-09-16 21:56:22发表“eas cloud知识”栏目。
本文链接:https://wenku.my7c.com/article/kingdee-eas-44888.html
您需要登录后才可以发表评论, 登录登录 或者 注册
最新文档
热门文章