NVIDIA AI Blueprint for RAG为开发者提供了一个基础的起点，用于构建可扩展和可定制的检索管道，从而提供高精度和高吞吐量。通过使用该蓝图，开发者可以创建一个RAG应用程序，该程序能够提供上下文感知的响应，将LLM连接到大型企业数据语料库，从而实现基于相关数据的可行性见解。该蓝图可以按原样使用，也可以与其他NVIDIA蓝图结合使用，以解决更高级的用例，包括数字人和用于客户服务的AI助手。该架构旨在增强决策能力和生产力。

关键要点

• 🔑 NVIDIA AI Blueprint for RAG旨在为开发者提供一个构建可扩展和可定制的检索管道的基础，从而提供高精度和高吞吐量，其默认使用API端点，无需GPU即可轻松体验。

• 🗣️ 该蓝图支持多轮对话、多集合、多会话，以及多语言和跨语言检索，能够提供上下文感知的响应，将LLM连接到大型企业数据语料库，从而实现基于相关数据的可行性见解。

• ⚙️ 该蓝图提供了NIM微服务的可配置选项和NIM端点，并优化了数据存储，可以与其他的NVIDIA蓝图结合使用，以解决更高级的用例，包括数字人和用于客户服务的AI助手。

• 💻 自托管蓝图的推荐系统要求是8XH100-80GB或8XA100-80GB，配备Llama 3.1 70b NIM、NeMo Retriever嵌入和重新排序NIM，以及由NVIDIA cuVS加速的Milvus数据库。