如何方便、快捷、低成本使用大模型:分分钟上手使用阿里云百炼大模型平台
有太多厂商为我们提供了大模型服务,比如百度的千帆大模型平台、阿里的百炼大模型平台,这类平台可以视为大模型聚合平台,在平台上我们可以很方便的选择各类大模型使用。
目前两个平台都提供了丰富的大模型供用户选择,同时对于新人用户都会有一定的免费额度。另外相比百炼,千帆还提供了多个免费大模型供用户使用。
本文将以阿里百炼为例,为大家介绍如何使用。
- 访问百炼平台
- 在模型广场选择合适的大模型,并获取API-KEY
本文我们选择两个模型演示:一个是用于文本向量化的向量模型,一个是用于对话的文本生成模型。
向量模型
文本生成模型
需要注意的是,如果您无法使用模型则需要在页面右上角先申请。
同时我们开发过程中需要通过API调用大模型,我们也需要点击查看我的API-KEY
来生成自己的密钥。
- 安装需要的包
sh
pip install dashscope
- 引入所需的包
python
import dashscope
- 配置API-KEY
python
dashscope.api_key = '此处填写在步骤2中获取的API-KEY'
- 使用
text_embedding_v3
模型实现文本向量化
python
resp = dashscope.TextEmbedding.call(
model=dashscope.TextEmbedding.Models.text_embedding_v3,
input="遇码MeetCoding开源技术社区,关注开源技术生态、学习开源技术,涉及大数据、大模型、数据分析、Python"
)
print(resp)
大家可以感受一下,通过这个方法,一段文本就变成了由1024个浮点数字组成的数组。文本向量化的本质就可以简单理解为将人类可以理解的自然语言转化为机器可以使用的一组数字。
- 使用
qwen2.5-72b-instruct
模型实现问答
python
res = dashscope.Generation.call(
model='qwen2.5-72b-instruct',
messages=[
{'role': 'system', 'content': '遇码MeetCoding开源技术社区,关注开源技术生态、学习开源技术,涉及大数据、大模型、数据分析、Python'},
{'role': 'user', 'content': '遇码开源技术社区是干什么的?'}
],
result_format='message',
)
print(res)
至此,我们就实现了大模型的问答。现在你还会觉得大模型开发很难吗?
进阶
相信你已经掌握了如何快速使用大模型进行开发的方法,有没有瞬间感觉自己超厉害呢。通过对本文的学习,你已经掌握了如何实现文本向量化以及如何使用大模型进行问答,此处应该给自己鼓掌。如果你想要进一步学习,可以关注:遇码,回复大模型平台,获取平台访问地址。