更多AI开源软件:
AI开源 - 小众AIhttps://www.aiinn.cn/sources
一个全栈应用程序,使您能够将任何文档、资源或内容转换为任何 LLM 都可以在聊天期间用作参考的上下文。此应用程序允许您选择要使用的 LLM 或矢量数据库,并支持多用户管理和权限。
AnythingLLM 是一个全栈应用程序,您可以在其中使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个不折不扣的私有 ChatGPT,您可以在本地运行和远程托管,并能够智能地聊天您提供的任何文档。
主要功能
- 🆕 **自定义 AI 代理**
- 🖼️ **多模态支持(包括闭源和开源 LLM!**
- 👤 多用户实例支持和*仅授予 Docker 版本*权限
- 🦾 工作区内的代理(浏览 Web、运行代码等)
- 💬 仅适用于您网站 *Docker 版本的*自定义嵌入式聊天小部件
- 📖 多种文档类型支持(PDF、TXT、DOCX 等)
- 简单的聊天 UI,具有拖放功能和清晰的引用。
- 100% 云部署就绪。
- 适用于所有流行的闭源和开源 LLM 提供商。
- 与任何其他聊天用户界面相比,为管理非常大的文档提供了内置的成本和时间节省措施。
- 用于自定义集成的完整开发人员 API!
- 多。。。安装并找出答案!
支持的 LLM、嵌入器模型、语音模型和向量数据库
大型语言模型 (LLM):
- 任何开源 llama.cpp 兼容模型
- 开放人工智能
- OpenAI(通用)
- Azure OpenAI
- AWS 基岩版
- 人
- 谷歌双子座专业版
- Hugging Face(聊天模型)
- Ollama (聊天模型)
- LM Studio(所有型号)
- LocalAi(所有型号)
- Together AI (聊天模型)
- Fireworks AI(聊天模型)
- 困惑(聊天模型)
- OpenRouter(聊天模型)
- DeepSeek(聊天模型)
- 米斯特拉尔
- 格罗克
- 凝聚
- 狗头人CPP
- LiteLLM
- 文本生成 Web UI
- 阿皮皮
- xAI
- Novita AI(聊天模型)
嵌入器模型:
- AnythingLLM Native Embedder (默认)
- 开放人工智能
- Azure OpenAI
- LocalAi(全部)
- Ollama (全部)
- LM Studio (全部)
- 凝聚
音频转录模型:
- AnythingLLM Built-in (默认)
- 开放人工智能
TTS(文本到语音转换)支持:
- 本机浏览器内置 (默认)
- PiperTTSLocal - 在浏览器中运行
- OpenAI TTS
- 十一实验室
- 任何与 OpenAI 兼容的 TTS 服务。
STT (语音到文本) 支持:
- 本机浏览器内置 (默认)
矢量数据库:
- LanceDB(默认)
- Astra 数据库
- 松果
- 色度
- 维维亚特
- Qdrant
- 米尔沃斯
- 齐利兹
安装和使用
-
yarn setup要填写所需的文件,您需要在每个应用程序部分(从存储库的根目录)中填写。.env
- 在继续之前先填写这些。确保已填充,否则事情不会正常进行。server/.env.development
-
yarn dev:server在本地引导服务器(从存储库的根目录)。
-
yarn dev:frontend在本地启动前端(从存储库的根目录)。
-
yarn dev:collector然后,运行文档收集器(从存储库的根目录)。