随着 AGI 时代的到来，越来越多的开发者开始思考如何有效利用大模型，不过，大家在构建 LLM 应用时普遍会面临三大挑战：

 

 

• LLM 的使用成本高昂
• LLM 无法及时提供最新信息
• LLM 缺乏特定专业领域的知识

 

针对上述问题，业界主流的做法是采用两种主要框架：微调和缓存 + 注入。

 

微调主要是针对后两点挑战（缺乏正确信息）的解决方法，而缓存 + 注入则是为了解决使用成本高昂的问题。同时，缓存 + 注入的框架也被称为 CVP 架构（即 ChatGPT + Vector Database + Prompt-as-Code）。

 

在此情况下，LlamaIndex 应运而生。作为一个专为构建 LLM 应用设计的新工具，它可以为用户抽象出上述框架中的内容。