人工智能的自主时代已经到来
什么是自主人工智能？
被视为“人工智能研究的下一个大事”，自主人工智能是一种可以独立行动、决策和实现复杂目标的生成式人工智能模型，而无需直接人类干预。这类系统能够在实时中解读不断变化的情况并相应反应，反而不是简单地遵循既定的规则或指令。
AutoGPT 和 BabyAGI 是自主 AI 代理最早的例子，它们能够以最小的监督下解决较为复杂的问题。自主 AI 代理被认为是实现人工一般智能（AGI）的早期一步。在最近的一篇博客文章中，OpenAI CEO Sam Altman 表示，“我们现在有了建立 AGI 的方法”，并预测，“在 2025 年，我们可能会看到第一个 AI 代理‘加入工作’，从而在企业的输出中产生重大变化”。
Marc Benioff 将自主 AI 代理的出现称为“人工智能革命的第三波”。第三波特征是生成式 AI 系统超越人类使用工具，而演化成为半自治者，它们能够从环境中学习。
自主 AI 代理可以做什么？
被设计来代表用户行动，自主 AI 代理能够执行各种各样的任务。例如，从检查和自动化计算机代码到优化公司供应链管理，以至于在您的日程中预订一个商务出行的飞机和酒店房间。
在哪里可以看到自主 AI 代理？
自主 AI 代理已被部署到多个行业。在银行系统中，它协助欺诈检测和自动化股票交易任务。在物流领域，它们优化了存货水平和运送路径，随着市场和交通条件的变化。在制造业中，它们帮助实现预测性保养和设备监控，将引入“智能”工厂管理。在医疗领域，它们协助患者简化预约排期和自动化处方续写。
为什么要使用自主 AI 代理？
技术也被应用于企业商务，Salesforce 并不是唯一一个拥有一些类似功能的 SaaS 公司。SAP 和 Oracle 都有相似的产品供他们自己的客户使用。
就不奇怪了，在这些顶级公司中，如 Google、微软、OpenAI、Anthropic 和 Nvidia 都在竞争开发和部署自主 AI 代理到商务和消费市场上。在十一月，微软宣布 Copilot Actions，Copilot 基于的代理将被集成到公司的 365 应用生态系统中，并从 2025 年 1 月开始为商业用户推出。
NVIDIA 自动编程构建块
在十一月，谷歌云宣布了 AI 代理生态系统计划，名为 AI Agent Space，它与 Agentforce 或谷歌的其他 AI 代理平台一样，Vertex AI，允许商业客户开发和部署他们自己的定制 AI 代理。Nividia 在前几个月 CES 宣布 Nemotron 模型家族，是专门设计用于自主 AI 任务的。
OpenAI 最近宣布了 ChatGPT 的新功能“Tasks”，用户可以为聊天机器人设置未来提醒和定期排程任务（比如每周新闻摘要）。该公司也开发了一种自主 AI，代号称 Operator，它于 2025 年一月发布。
Anthropic
自主 AI 代理是否安全？
这取决于您对“安全”的定义，因为自主 AI 系统是建立在易受骗的语言模型之上，这些模型容易受到恶意攻击，因此 AI 代理也容易被骗，并会超出其已设置的安全边界。2024 年的一项研究发现，任务 OpenAI 的 o1 模型实现目标“无论成本多少”将导致 AI 代理试图关闭其监控机制，然后将“它所相信的其权重复制到一个新服务器上，并向开发人员谎称它遭遇了‘技术错误’”。
当然，当聊天机器人出错时，情况相对较轻（除非用户是律师或谷歌），但如果 AI 代理幻想数据，这可能会导致严重后果。与所有生成式 AI 一样，用户需要小心向 AI 聊天机器人和 LLM 提供的信息，无论它们是什么类型（财务、医疗还是个人）。
