向量数据库与知识图谱：CIO/CDO在实施RAG时如何做出正确选择

作者：Anand Logani，EXL 首席数字官，2024年

生成式人工智能（GenAI）之所以让人着迷，是因为它能够快速合成海量信息，并且几乎即时输出结果。

外界目光往往聚焦在这些输出上，但真正的魔法其实发生在幕后——那些复杂的数据组织与检索技术，才是连接不同数据点的关键。而恰恰在这个环节，不少技术专家对“最佳路径”争论不休。

问题的核心在于检索增强生成（RAG），这是一种将数据检索与GenAI模型结合的自然语言处理技术。

有了RAG，GenAI驱动的解决方案第一次可以不再仅仅依赖预先编程的数据集，而是从外部来源检索信息来增强自身的知识和内容生成。这一进步对商业、社会和技术都有深远影响。不过，关键的数据准备工作绝不能疏忽——而目前使用的仍然是几十年前的老技术。

选择正确的数据架构

目前，主流的两种技术是向量数据库和知识图谱，它们负责组织RAG框架所需的数据与上下文。

虽然这些数据管理技术听起来不那么炫酷，但要让CIO们闪亮的新玩具真正正常运行，向量数据库和知识图谱就必须成为优先考虑的事。

挑战在于：两者执行方式截然不同，CIO最终需要判断哪个更适合自己的场景。哪个更好？答案取决于具体需求。

在做决定之前，CIO首先要搞清楚：通过RAG要解决什么问题？数据有多复杂？然后把这些需求与每种架构的优缺点逐一比对。

向量数据库

向量数据库以向量嵌入（数值格式）的方式存储和管理非结构化数据（文本、图像、音频等）。这些嵌入捕捉了数据点之间的语义关系。

当RAG框架搜索向量数据库时，它会快速查找数学上相似的向量——这意味着相似的语义，而不仅仅是关键词匹配。

知识图谱

知识图谱则恰好相反，它将数据表示为节点（实体）和边（关系）的网络。它能处理基于连接类型、节点性质、结构和属性的更复杂、更细致的查询。

它还能捕捉那些在向量嵌入空间中可能丢失的丰富语义关系。

因此，当组织需要一种能够在相互连接的网络中结构化复杂数据、促进数据表示并跟踪数据点之间关系和渊源的工具时，知识图谱是更好的选择。

知识图谱在需要理解数据上下文和关联性的场景下非常有用——大语言模型（LLM）可以直接说：“我的答案来自这些三元组或这个子图。”

选择向量数据库的原因则在于成本较低和速度较快。知识图谱可能很昂贵，但如果业务场景要求使用知识图谱——只有它才能提供所需的信息——那么这笔钱就值得为输出的准确性买单。

何时选择知识图谱与向量数据库？

向量数据库在辅助客户服务代表的RAG系统中优势明显。这些员工通常要处理五花八门的客户问题，从流程类（比如更改现有保单的保险范围）到复杂类（比如提交汽车保险理赔）。

在这些场景中，RAG系统利用向量数据库从结构化的标准操作程序知识库动态获取最相关的答案。这种方式减少了等待时间，确保客户获得一致的信息，从而提升满意度。

向量数据库之所以表现优异，关键在于语义搜索能力。它将文本查询和包含潜在答案的文档转换为高维向量空间，从而高效识别与查询语义最接近的内容。

知识图谱则在复杂的保险理赔调整等场景中大放异彩。理赔员必须在相互关联的数据点迷宫中穿梭，不仅需要检索信息，还要深入理解各种实体之间的关系和相互依赖性。

知识图谱通过提供实体之间的结构化关系（例如保单、理赔和客户），在这个复杂环境中发挥关键作用。

在实施RAG系统的复杂过程中，组织面临向量数据库和知识图谱之间的关键抉择。两者各有独特优势，但理解特定数据需求和具体用例的复杂性至关重要。

无论CIO选择知识图谱的精确性还是向量数据库的效率，目标始终明确：利用RAG系统的能力，推动创新、提高生产力和用户体验。

根据场景和投入产出比做出明智选择，踏上人类智慧与机器智能在数字时代重新定义协作问题解决可能性的旅程。