企业引入生成式AI时的风险与应对策略

企业引入生成式人工智能时，会遇到一系列需要战略管理的业务风险。

这些风险通常环环相扣，从导致合规问题的潜在偏见，到缺乏领域知识。任何一个环节都可能引发连锁反应。

主要问题包括：

• 声誉受损
• 难以遵守法律法规（尤其是在客户互动方面）
• 知识产权侵权
• 道德困境
• 处理个人或可识别数据时的隐私风险

为应对这些挑战，一个推荐的做法是采用混合策略，比如检索-增强生成（RAG）。

RAG能有效提升AI生成内容的准确性与相关性。它为企业AI项目提供了一个更安全、更可靠的框架。

这一策略不仅能直接解决知识匮乏和信息错误的问题，还能帮助企业遵守法律与道德规范，从而避免声誉受损和合规风险。

什么是检索增强生成（RAG）？

检索增强生成（RAG）是一种先进方法。它通过整合企业知识库的信息，来提升AI内容创作的准确性与可靠性。

我们可以这样理解：把RAG想象成一位顶级主厨。这位主厨不仅拥有天赋、培训和创造力，还始终有扎实的烹饪基础知识作为支撑。

当需要用到一种不常见的香料，或者要创作一道新颖的菜肴时，他会毫不犹豫地去查阅可靠的烹饪资料，确保食材得到最佳利用。

就像主厨能烹制出各种菜肴一样，GPT、LLaMA-2这类AI系统也能生成各种主题的内容。但当它们需要提供具体、准确的细节时，尤其是在处理复杂话题或浏览海量企业数据时，就会调用一种特殊工具来确保精确和深度。

当RAG的检索环节出现问题时怎么办？

这时，Corrective-RAG（CRAG）就登场了。它的作用是增强RAG系统的鲁棒性。

CRAG会利用T5模型来评估检索到的文档的相关性。如果从企业数据源获取的文档被认为与查询无关，系统会转而使用网络搜索来填补信息空白，确保不遗漏任何有价值的信息。

企业级生成式AI的架构设计要点

这套架构的核心围绕三个基本支柱构建：数据摄取、查询与智能检索，以及生成提示工程与LLM。

数据摄取

这是第一步，目标是将公司文档的内容转换为易于查询的格式。这个转换过程由嵌入模型完成，遵循以下步骤：

1. 数据分割：来自Confluence、Jira、PDF等企业知识源的各种文档被摄入系统中。关键是将文档分解成可管理的小块，通常称为“块”。
2. 嵌入模型：这些文档块随后通过嵌入模型进行处理。嵌入模型是一种神经网络，能将文本转换成表示其语义的数字形式（即向量），方便机器理解。
3. 索引块：嵌入模型生成的向量需要被索引。索引是一种组织数据的方式，目的是提高后续检索的效率。
4. 向量数据库：所有生成的向量嵌入都会保存在向量数据库中。同时，每个嵌入所代表的原始文本也会被存储在其他文件中，并包含对该嵌入的引用。

查询与智能检索

当推理服务器收到用户的问题后，会通过同样的嵌入过程将其转换为向量。

随后，向量数据库开始搜索，找出与用户意图最相关的向量，并将它们提供给大型语言模型（LLM）来丰富上下文。

1. 查询：查询来自应用程序和API层。这是用户或其他应用程序在搜索信息时输入的内容。
2. 嵌入查询检索：利用生成的向量嵌入，在向量数据库的索引中开始搜索。需要确定要从向量数据库中检索多少个向量，这个数字与计划编译并用于解决问题的上下文信息量成正比。
3. 向量（相似向量）：该过程会识别出与查询上下文相关的文档块所对应的向量。
4. 检索相关向量：从向量数据库中检索出相关向量。例如，在厨师的比喻中，这可以对应两个相关的向量：一个是“菜谱”，另一个是“准备步骤”。相应的文本片段会被收集起来，连同提示一起提供。
5. 检索相关块：系统会获取与查询相关的向量相对应的文档部分。在评估完信息的相关性后，系统会决定下一步行动。如果信息完全吻合，就按其重要性进行排列；如果信息不正确，系统会将其丢弃，并在网络上搜索更好的信息。

生成提示工程与LLM

提示工程对于指导大型语言模型给出正确答案至关重要。它要求创建清晰、精确的问题，并考虑到任何数据上的差距。

这是一个持续的过程，需要定期调整以获得更佳的回答。此外，确保提示符合道德规范、没有偏见，并避免触及敏感话题，也同样重要。

1. 提示工程：检索到的块与原始查询一起被用来创建提示。这个提示设计的目的是有效地将查询的上下文传达给语言模型。
2. LLM（大型语言模型）：工程化的提示由大型语言模型处理。这些模型能够根据收到的输入，生成类似人类的文本。
3. 答案：最后，语言模型利用提示和检索到的块提供的上下文，生成对查询的答案。这个答案会通过应用程序和API层返回给用户。

结论

这篇指南探讨了将人工智能集成到软件开发中的复杂过程，重点介绍了受CRAG启发的企业级生成式AI平台的变革潜力。

通过解决提示工程、数据管理和创新的RAG方法的复杂性，我们勾勒出了一条将AI技术融入企业运营核心的路径。

未来的讨论将进一步深入探讨用于智能开发的生成式AI框架。

我们将研究那些最大化AI利用价值的具体工具、技术和策略，从而确保更智能、更高效、更高效的开发环境。

《夸克》非常好用的免费AI浏览器

下载APP查看