当前位置:首页 > 技术 > 人工智能AI > 正文内容

谷歌 Gemma 大模型开源了!附本地部署安装教程

watrt3个月前 (03-05)人工智能AI1130

Download Ollama on Windows.png

下载安装ollama 客户端: 【点击下载

【1】. 普通7B版 安装指令:(适合8G显存)

ollama run gemma:7b

如果你是第一次部署,它会自动下载!

【2】. 7B的全量版本:(需要16G左右的显存)

ollama run gemma:7b-instruct-fp16

【3】. 2B轻量版:(适合CPU会低配电脑安装)

ollama run gemma:2b

更多的模型可到:ollama 网页顶部导航中有一个 “Models” 链接,点击。

image.png

点击 “gemma” 链接,进入模型页面。

image.png

点击 “Tags” 标签,找到 “7b” 模型,后面有运行模型的命令,点击复制按钮。

命令行中执行这个命令,首次运行时,会自动下载模型。

下载完成后,就进入交互模式,这就可以开始聊天了。


链接直达

【4】 安装 Chatbox

在命令行聊天很不方便,需要一个客户端。

Chatbox 支持 ollama,非常方便。

先下载安装 Chatbox。

项目地址 https://github.com/Bin-Huang/chatbox

在 Releases 页面中下载最新版本(目前是1.2.2,已经支持了 ollama),然后安装。

打开设置,模型提供方选 ollama,API 地址是本地的 11434 端口,模型选 gemma:7b。

保存后,打开新对话窗口,即可开始聊天。

分享给朋友:

相关文章

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。