江苏龙网

  1. 主页 > 生活百科 > >

从「生成式AI」转化为「生产力」，亚马逊云科技划出重点( 二 )

生成式AI


生成式 AI 让云计算服务的竞争格局发生了改变，除了原有的存储、计算、网络等基础设施，模型、框架和应用层面的能力提供变得更为重要 。在过去一段时间，我们见到了「模型即服务」这种全新商业的诞生 。如同 Amazon Bedrock 这样的一系列平台，正在将大模型变为直接可用的服务，帮助各行各业的用户接入生成式 AI，撬动了一个全新的蓝海市场 。
推动生成式 AI 走完落地的「最后一公里」
在今天，即使生成式 AI 模型的功能已经如此强大，它们仍然无法代替人类「执行」一部分关键的、个性化的任务 。
比如一位顾客想咨询换货，电商平台的 AI 客服当然可以迅速地告知顾客想要的款式、尺码、颜色是否还有库存，但无法完成接下来的订单更新或交易管理的操作 。
这恰恰是「生成式 AI」转化为「生产力」过程中非常关键的一步 。
问题并非不能解决：模型通常可以附加 API、插件、数据库以扩展功能，为用户自动完成某些特定的任务 。比如 ChatGPT 此前就推出了插件机制，还为开发者提供了开放平台，允许更多用户根据自己的需求、想法和专业能力进行扩展 。
为了简化这一环节所需的工作，亚马逊云科技正式推出了 Amazon Bedrock Agents 。

从「生成式AI」转化为「生产力」，亚马逊云科技划出重点

文章插图
Amazon Bedrock Agents 可以扩展基础模型以理解用户请求，将复杂任务分解为多个步骤，开展对话以收集更多信息，并采取行动来满足用户请求 。开发者只需点击几下，就能创建完全托管的 Agents：
从「生成式AI」转化为「生产力」，亚马逊云科技划出重点

文章插图
该功能创建的对话式智能体可根据专有数据提供个性化的最新答案并执行操作，帮助企业加速交付生成式 AI 应用程序，推动解决生成式 AI 落地的「最后一公里」问题 。比如，企业可以使用 Amazon Bedrock Agents 创建一个可以处理订单的客户服务聊天机器人，利用其内部信息（包括客户资料和退货政策）来定制化服务于每个订单 。
如果做个比喻的话，Amazon Bedrock Agents 就像是一个得力的助手 。或许在不久的将来，我们就能享受这一功能所提供的用户端服务：不只是显示有哪些合适的航班、推荐口碑好的餐厅，还能直接帮忙预订、跟进 。
生成式 AI 时代的搜索技术变革
在解决大模型落地挑战的火热讨论中，「向量搜索」和「向量数据库」的概念开始被越来越多的人熟知 。这是检索技术层面在生成式 AI 时代正在发生的变革 。
首先，伴随数据规模的增长，关键词检索已经不能满足需求，向量检索可作对传统搜索技术的补充 。通过将数据表示为向量，模型可以快速分析和理解大量信息，准确地识别和匹配相似的项目 。
其次，经过预训练的大模型固然能力出众，但也存在一些不足，比如缺乏领域知识、缺乏长期记忆、缺乏事实一致性的问题 。而在数据规模不断增长、算力日益珍贵的现状下，向量数据库可作为大模型的「超级大脑」，打一份小抄，相对较低的成本补充动态知识，满足用户不断增长的需求 。
从「生成式AI」转化为「生产力」，亚马逊云科技划出重点

文章插图
与向量数据库的结合，让大模型的综合实力增色不少 。此外，向量数据库为任何希望接入大模型的企业用户提供了一种规避核心数据泄露问题的方法 。
可以说，向量数据库会成为未来大模型研发、落地必不可少的基础设施之一 。
对于这一方向，亚马逊云科技早早发力，此前已上线多项支持向量的数据存储服务，包括 Amazon Aurora PostgreSQL 兼容版关系型数据库，兼容 PostgreSQL 的 Amazon RDS（Amazon Relational Database Service）关系型数据库等 。
在这一次的峰会上，亚马逊云科技又推出了适用于 Amazon OpenSearch Serverless 的向量引擎 。该向量引擎支持简单的 API 调用，可用于存储和查询数十亿个 Embeddings 。
从「生成式AI」转化为「生产力」，亚马逊云科技划出重点

文章插图
该引擎由 Amazon OpenSearch 项目中的 k 最近邻 (kNN) 搜索功能提供支持，为客户提供无服务器环境下的语义搜索服务 。即使向量从原型设计期间的几千个增长到数亿甚至更多，引擎也能无缝扩展，无需重新索引或重新加载数据来扩展基础设施 。
顺应大模型时代的广泛需求，亚马逊云科技还正式宣布，平台上所有的数据库未来都将具有向量功能，帮助客户简化运营，方便集成数据 。
【从「生成式AI」转化为「生产力」，亚马逊云科技划出重点】


推荐阅读


上一篇：你知道什么是人工神经网络吗

下一篇：19个 JavaScript 单行代码技巧