大模型应用的 10 种架构模式( 二 ) _架构模式

6. 知识图谱模式
将知识图谱与生成型人工智能模型结合，赋予了它们面向事实的超级能力，使得输出不仅具有上下文情境，而且更加符合事实。

文章插图
对于要求内容真实性和准确性不容忽视的应用来说，这种方法至关重要，比如在教育内容创作、医疗咨询或任何误导可能带来严重后果的领域。
知识图谱及其本体能够将复杂主题或问题分解成结构化格式，为大型语言模型提供深层上下文基础。我们甚至可以借助语言模型，以 JSON 或 RDF 等格式创建本体。
可用于构建知识图谱的图数据库服务包括 ArangoDB、Amazon Neptune、google Dgraph、Azure Cosmos DB 以及 Neo4j 等。此外，更广泛的数据集和服务也能用于访问更全面的知识图谱，包括开源的企业知识图谱 API、PyKEEN 数据集以及 Wikidata 等等。
7. 智能体蜂巢模式
智能体蜂巢架构模式运用了大量 AI Agent，这些代理共同协作以解决一个问题，每个代理都从各自独特的视角出发进行贡献。

文章插图
由此产生的综合结果展示了一种集体智慧的体现，其效果超越了任何一个单独的 AI 个体所能达到的成果。在需要大量创新解决方案的场景中，或者在处理复杂的数据集时，这种模式尤其有效。
例如，我们可以利用多个 AI Agent 来共同审查一篇研究论文，整合他们的所有数据和观点。对于处理能力要求较高的蜂巢系统，我们可以考虑部署消息队列服务，比如 Apache Kafka，以便更好地处理代理和服务间的消息传递。
8. 智能体组合模式
该架构模式强调了灵活性，通过模块化的人工智能系统，能自我重新配置以优化任务性能。这就像一个多功能工具，可以根据需求选择和激活不同的功能模块，对于需要为各种客户需求或产品需求定制解决方案的企业来说，这是非常有效的。

文章插图
我们可以通过使用各种自主代理框架和体系结构来开发每个 Agent 及其工具，例如 CrewAI、Langchain、LLamaIndex、Microsoft Autogen 和 superAGI 等。
通过组合不同的模块，例如一个 Agent 可以专注于预测，另一个处理预约查询，还有一个专注于生成消息，最后一个 Agent 来更新数据库。将来，随着专业 AI 公司提供的特定服务的增多，我们可以将一个模块替换为外部或第三方服务，以处理特定的任务或领域的问题。
9. 记忆认知模式
这种架构为人工智能引入了类似于人类记忆的元素，允许模型回忆并基于过去的交互进行学习，从而产生更细腻的反应。

文章插图
这对于正在进行的对话或学习场景非常有用，因为随着时间的推移，人工智能会形成更深的理解，就像一个专业的个人助理或者在线机器学习平台。随着时间推移，记忆认知模式能够将关键事件总结并储存到一个向量数据库中，进一步丰富 RAG 系统。
为了保持汇总计算量的合理性，我们可以通过使用更小的自然语言处理库来进行汇总和摘要。所使用的是向量数据库，并在提示阶段进行检索，以检查短期记忆，并通过最近邻搜索来定位关键的“事实” 。有一个遵循这种模式的开源解决方案是 MemGPT 。
10. 双重安全模式
围绕大型语言模型（LLM）的核心安全性至少包含两个关键组件：一是用户组件，我们将其称为用户 Proxy 代理；二是防火墙，它为模型提供了保护层。

文章插图
用户 proxy 代理在查询发出和返回的过程中对用户的 query 进行拦截。该代理负责清除个人身份信息（pII）和知识产权（IP）信息，记录查询的内容，并优化成本。
防火墙则保护模型及其所使用的基础设施。尽管我们对人们如何操纵模型以揭示其潜在的训练数据、潜在功能以及当今恶意行为知之甚少，但我们知道这些强大的模型是脆弱的。
在安全性相关的技术栈中，可能还存在其他安全层，但对于用户的查询路径来说， Proxy 代理和防火墙是最关键的。
没有结束
老码农认为，这些大模型应用的架构模式不仅仅是一种范式，很可能成为未来智能系统赖以成长的框架。随着我们们继续探索和创新，还会涌现出很多新的架构模式，而且这里的 10 个架构模式以及新涌现的架构模式可能成为人工智能服务的表现形态。