轻松几步,在自己电脑搭建一个本地大模型

栏目:eas cloud知识作者:金蝶来源:金蝶云社区发布:2024-09-16浏览:1

轻松几步,在自己电脑搭建一个本地大模型

## 文章内容简述 简单说明如何在本地搭建一个自己的大模型,在自己电脑运行 ## 使用工具 Ollama(大模型运行工具) ## 安装过程 1、到该网址下载Ollama:https://ollama.com/ 2、安装此工具 3、安装完成以后,双击打开。在任务里面会显示出来该程序。 4、进入命令行,输入指令:ollama list 指令说明:展示出来目前已安装的大模型 ![image.webp](/download/0100ff1089e3a948491998bf8a8b02082be1.webp) 5、下载模型,会显示空,我们需要下载模型,模型可以从Ollama的模型网站下载:https://ollama.com/library ![image.webp](/download/01005b8ba4b1d1604cc6bf934dfd56004153.webp) 点击需要的模型,复制指令到命令行中执行: ![image.webp](/download/01006c7d397f78f443be9247912570562eea.webp) 6、使用模型,执行:ollama run llama3 ollama pull llama3 ## 操作示例 软件安装过程就没有截图了,基本都是下一步, 从下载模型到运行模型需要用到的几个命令行语句截图,以千问通义为例: ![image.webp](/download/01001abd07ad85f44137b3b074fbfc5d5f99.webp) ## 类似chatGpt的聊天实现方式 可以使用这两款开源工具【1Panel和MaxkB】实现,1Panel是一个维护面板,里面基本可以一键安装MaxkB,官网有详细使用说明。我自己验证下来,目前MaxkB可以从文档中检索,但是问答无法展示出来关联的文档。 大家如果有稳定的方式可以实现把文档检索,并且回答的结果可以关联展示关联文档的方式可以分享一下。

轻松几步,在自己电脑搭建一个本地大模型

## 文章内容简述简单说明如何在本地搭建一个自己的大模型,在自己电脑运行## 使用工具Ollama(大模型运行工具)## 安装过程1、到该网址...
点击下载文档
确认删除?
回到顶部
客服QQ
  • 客服QQ点击这里给我发消息