快速部署阿里开源大模型-qwen2

开源大模型总是层出不穷，一个个又把自家模型夸得天花乱坠。那么怎么才能快速体验各种开源模型，用亲身测试代替夸大其词呢。

本文我将带领同学们学习如何基于ollama实现开源大模型的快速部署体验。

部署

本文ollama采用Windows安装方式。

1. 打开ollama官网

2. 点击Download

在下载页选择Windows，点击Download for Windows。

双击

点击Install。

3. 在终端验证ollama是否安装成功

ollama -v

4. 查看已安装的模型

ollama list

5. 安装qwen2大模型

ollama pull qwen2

再次查看已安装的模型

6. 查看qwen2大模型的信息

ollama show qwen2

可以看到parameters为7.6B，也就是本模型有76亿的参数量。

7. 运行qwen2大模型

ollama run qwen2

8. 验证一下效果

测试下来的感觉就是逻辑输出还有有很大问题的，期望多多努力。

进阶

本文演示了如何快速部署大模型，这也是目前我认为最方便也最实用的方式。如果你知道更好的方式，请在评论区留言。

如果你想要进一步学习ollama，可以关注：遇码，回复ollama，获取官方文档。