首选下载安装ollama客户端,安装好后运行CMD,在命令行里根据自己的硬件输入以下对应命令,系统会自动安装与拉取大模型。
普通7B版 安装指令:(适合8G显存)
ollama run gemma:7b
如果你是第一次部署,它会自动下载!
显示success下载完成,开始使用吧:
7B的全量版本:(需要16G左右的显存)
ollama run gemma:7b-instruct-fp16
2B轻量版:(适合低配电脑安装)
ollama run gemma:2b
首选下载安装ollama客户端,安装好后运行CMD,在命令行里根据自己的硬件输入以下对应命令,系统会自动安装与拉取大模型。
普通7B版 安装指令:(适合8G显存)
ollama run gemma:7b
如果你是第一次部署,它会自动下载!
显示success下载完成,开始使用吧:
7B的全量版本:(需要16G左右的显存)
ollama run gemma:7b-instruct-fp16
2B轻量版:(适合低配电脑安装)
ollama run gemma:2b
评论(0)