一、部署deepseek
Ollama,这是是一个开源的大语言模型平台,它允许用户在本地环境中运行、创建和共享大型语言模型。Ollama提供了丰富的功能和特性,使得用户可以在自己的计算机上轻松地部署和运行大型语言模型。官网:https://ollama.com/
ollama run + 模型名
ollama run deepseek-r1
二、使用langchain跑起来
langchain其实是一套规范化的API,实现了标准化对模型的集成、接入、组件化等工作,通过langchain用户可以很轻松打造属于自己的大模型产品。langchain很早就出来了。https://github.com/langchain-ai/langchain
from langchain_ollama import OllamaLLM
from langchain.prompts import PromptTemplate
ollama_llm = OllamaLLM(model="deepseek-R1")
prompt = PromptTemplate.from_template("帮我写一首关于${product}的骈文,不要有英文的结果啊")
sequence = prompt | ollama_llm
response = sequence.invoke({"product": "春天"})
print(response)
效果如下: