简介

llm 是一个命令行工具和 Python 库，用于与大型语言模型（Large Language Models，简称 LLMs）交互，既可以通过远程 API 访问，也可以在本地机器上运行安装的模型。由 Simon Willison 创建。

首次用户

1. 使用 x env use llm 即可自动下载并使用

   • 在终端运行 eval "$(curl https://get.x-cmd.com)" 即可完成 x 命令安装, 详情参考 x-cmd 官网

2. x-cmd 提供1分钟教程，其中包含了 llm 命令常用功能的 demo 示例，可以帮你快速上手 llm 。

3. 使用案例:

   

   # 安装 llm
   x env use llm
   
   # 设置 openai_api_key，可以从 https://platform.openai.com/account/api-keys 中获取
   llm keys set openai
   
   # 使用 llm 默认的模型——openai
   llm 请简要一句话介绍一下北极熊
   
   # 安装 llm-gemini 模型插件
   llm install llm-gemini
   
   # 设置 gemini_api_key，可以从 https://makersuite.google.com/app/apikey 中获取
   llm keys set gemini
   
   # 使用 llm-gemini 模型
   llm -m gemini-pro 请简要一句话介绍一下北极熊
   
   # 进行交互式聊天
   llm chat
   

功能特点

• prompts管理: llm 允许用户从命令行运行语言模型的提示（prompts），并且可以将结果保存到 SQLite 数据库中。
• 多模型交互与管理: llm 允许用户通过命令行与多种大型语言模型（如 OpenAI GPT 系列和 Google PaLM）进行交互，并管理这些模型的API密钥和别名。这使得用户能够方便地切换和使用不同的模型。
• 文本嵌入和分析: 工具支持文本嵌入（embedding）功能，允许用户将文本转化为嵌入式表示，并进行存储或分析。这对于特征提取、文本比较和相关性分析等任务特别有用。
• 扩展性与自定义：通过插件系统，llm 提供了扩展其功能的能力，包括添加新的模型支持和自定义操作。此外，它还提供了管理提示模板和日志的功能，方便用户定制和审查模型的输出。详情请看 llm 插件。

进一步探索

• llm 官网 - 可以从这里了解更多关于 llm 的详细信息信息和技术文档
• llm 源代码 - llm 项目的源代码托管在 GitHub，你可以在这里找到最新版本的 llm 和参与社区贡献。
• Simon Willison’s Weblog - llm 的作者 Simon Willison 的个人博客，也是了解 llm 功能和使用案例的好资源。