您正在浏览已归档的经典版网站。 打开当前网站.

面向Superintelligent Agents(超级智能体)的
Proactive AI(主动式 AI)

从等待指令,到发现值得开展的工作。

正在加载作者…

Reactive agents(被动式智能体)等待明确请求;Proactive agents(主动式智能体)运用Awareness(持续感知)、Anticipation(预测与预见)、Agenda formation(目标生成与持续管理)、Arbitration(主动干预决策)、Action(执行行动)与Adaptation(反馈与适应)。
6A机制分类体系
13应用领域
80代表性工作
3评估层次

01 · 定义

主动性蕴藏于指令留出的决策空间。

Proactiveness(主动性)是指在任务的Residual decision space(剩余决策空间)内行使Delegated discretion(受托裁量权)的能力,无须为每个决策获取新的指令。

它包括在遵守任务既定目标与约束的前提下,权衡取舍、填补流程空白、处理意外情况并重新规划。

Intelligence(智能能力)+Alignment(价值与目标对齐)+Proactiveness(主动性)→Earned autonomy(赢得的授权自主程度)
任务执行空间分为明确任务指令与剩余决策空间:偏好与权衡决策、流程说明不足、意外情况与风险说明不足,以及自适应重规划。
Proactiveness(主动性)即Delegated residual discretion(受托的剩余裁量权)。

02 · 框架

六种能力将上下文转化为恰当的主动行为。

Awareness(持续感知)与Anticipation(预测与预见)揭示有价值的缺口。Agenda formation(目标生成与持续管理)确立承诺。Arbitration(主动干预决策)判断是否应当介入。Action(执行行动)在权限范围内实施干预。Adaptation(反馈与适应)从结果中学习。

Awareness(持续感知)、Anticipation(预测与预见)、Agenda(目标生成与持续管理)、Arbitration(主动干预决策)与Action(执行行动)构成循环;Adaptation(反馈与适应)位于中央,并向其余各项提供反馈。

03 · 基础

主动行为日益开放的悠久发展历程。

Proactive agency(主动式智能体能力)汲取了控制与Cybernetics(控制论)、规划与World models(世界模型)、智能体理论、Ubiquitous computing(普适计算)、Mixed-initiative interaction(混合主动式交互)以及Goal reasoning(目标推理)的思想。

从控制与控制论到Proactive foundation-model agents(主动式基础模型智能体)的历史基础时间线。

04 · 评估

评估Proactiveness(主动性)需要超越任务完成度的证据。

主动式系统必须在三个互补层次上进行评估。即使干预成功,也可能时机不当、缺乏依据或造成负担。

05 · 应用图谱

主动行为与权限沿不同维度演进。

能力更强的系统不会自动获得更多权限。各领域受到验证、反馈、治理与评估等不同因素组合的制约。

06 · 代表性工作

沿 6A 流程比较本综述中的代表性工作。

这些工作由本综述从各应用领域中选出并深入分析。您可以搜索应用表格、按领域筛选,并比较各项工作如何感知、前瞻、把关、行动与适应。

系统领域Awareness(持续感知)Anticipation(预测与预见)Arbitration(主动干预决策)Action(执行行动)Adaptation(反馈与适应)部署

07 · 摘要

Proactive agency(主动式智能体能力)的统一视角。

08 · 引用

以本综述为基础继续探索。

在 GitHub 上查看数据 ↗
正在加载引用…