谷歌 Gemma 大模型本地部署

HB 电脑 2024-02-29

首选下载安装ollama客户端,安装好后运行CMD,在命令行里根据自己的硬件输入以下对应命令,系统会自动安装与拉取大模型。

11.png

普通7B版 安装指令:(适合8G显存)

ollama run gemma:7b

如果你是第一次部署,它会自动下载!

111.png

显示success下载完成,开始使用吧:

222.png

7B的全量版本:(需要16G左右的显存)

ollama run gemma:7b-instruct-fp16

2B轻量版:(适合低配电脑安装)

ollama run gemma:2b

PREV
手机不支持eSIM?试试5ber(附优惠码)
NEXT
linux系统添加定时重启

评论(0)

发布评论