python调用百度文心一言对话模型

近日，百度宣布其两款主力模型 ENIRE Speed、ENIRE Lite 可以免费使用。试了一下怎么程序调用。

1.准备工作

需要注册百度智能云账号，也可以使用原来的百度账号登录，登录之后要完成实名认证，才能使用API调用。
在千帆大模型操作台 ->模型服务->在线服务->预置服务里开通需要调用的模型。本次测试开通了ERNIE-Speed-128K的调用。
在安全认证页面，取得Access Key和Secret Key 。

2.选择调用方式

按照百度的说明文档，可以直接HTTPS的方式调用API，也可以使用百度提供的SDK。SDK提供了多个语言版本，但是python版SDK支持的功能最全。本次测试使用python版SDK。

3.程序

1.安装SDK

pip install qianfan

2.创建.env文件

写入你的Access Key和Secret Key。如果不使用.env文件，也可以在环境变量中设置好下面的两个变量。或者在程序中直接用参数方式调用。

QIANFAN_ACCESS_KEY=abcd
QIANFAN_SECRET_KEY=efgh

3.python程序

import qianfan

chat_comp = qianfan.ChatCompletion(model='ERNIE-Speed-128K')
messages = []
user_message = '你好，你是谁？'
print('你说：', user_message)
while user_message != '结束':
  messages.append({'role': 'user','content': user_message})
  resp = chat_comp.do(messages, top_p=0.8, temperature=0.9, penalty_score=1.0, system='你是abcd公司制作的AI助手')
  assistant_message = resp.body['result']
  messages.append({'role': 'assistant','content': assistant_message})
  print('机器人说：', assistant_message)

  print('你说：', end='')
  user_message = input()