1、ollama 安装
curl -fsSL https://ollama.com/install.sh | sh
如果是AutoDl服务器,可以开启学术加速。
source /etc/network_turbo
本次使用腾讯云Cloud Studio,所以已经安装好了 Ollama
2、启动
ollama run 模型的名字
ollama serve # 开启服务
ollama run llama3:1b
pip install openai
其中模型的名字在 ollama 官网上查找。
3、脚本
单轮对话,运行一次就结束了
多轮对话