---
url: /ollama/qwen2.md
description: 本文我将带领同学们学习如何基于ollama实现开源大模型的快速部署
---

# 快速部署阿里开源大模型-qwen2

开源大模型总是层出不穷，一个个又把自家模型夸得天花乱坠。那么怎么才能快速体验各种开源模型，用亲身测试代替夸大其词呢。

本文我将带领同学们学习如何基于ollama实现开源大模型的快速部署体验。

## 部署

本文ollama采用Windows安装方式。

1. 打开ollama官网

![](/img/853a6528-c78a-409d-b742-544d6daefea0.png)

2. 点击Download

![](/img/1ade2096-3faa-4eae-b58c-e24d6d1e7ef6.png)

在下载页选择Windows，点击`Download for Windows`。

![](/img/7a865e27-fc18-4213-9df9-3ba26c7a1ebc.png)

双击

![](/img/7fe080c7-94d6-4bad-9687-b53f1e9c4e5d.png)

点击`Install`。

3. 在终端验证ollama是否安装成功

```sh
ollama -v
```

![](/img/c16d1ca7-3de3-4d4a-a58d-ea43f6252221.png)

4. 查看已安装的模型

```sh
ollama list
```

![](/img/f615894b-6edd-43f8-8540-dd36d50a755f.png)

5. 安装`qwen2`大模型

```sh
ollama pull qwen2
```

![](/img/fb701327-efed-4640-9318-dad0d80452d4.png)

再次查看已安装的模型

![](/img/0bb2470c-db53-4649-9197-3f5e686a6c1b.png)

6. 查看`qwen2`大模型的信息

```sh
ollama show qwen2
```

![](/img/b452ae07-5411-4854-b8cc-554431219fab.png)

可以看到parameters为7.6B，也就是本模型有76亿的参数量。

7. 运行`qwen2`大模型

```sh
ollama run qwen2
```

![](/img/0ca6cce2-5681-456c-8c79-e9d22b718a3c.png)

8. 验证一下效果

![](/img/301182cc-327d-4533-9532-37babc7d6351.png)

![](/img/b68726ee-bbec-4994-8b10-c50228a69dae.png)

![](/img/a2c6e7e5-0d94-42ba-bfed-b98a5c2a6e9a.png)

测试下来的感觉就是逻辑输出还有有很大问题的，期望多多努力。

## 进阶

本文演示了如何快速部署大模型，这也是目前我认为最方便也最实用的方式。如果你知道更好的方式，请在评论区留言。

如果你想要进一步学习ollama，可以关注：遇码，回复**ollama**，获取官方文档。