江苏龙网

  1. 首页 > 生活 > >

中国指挥与控制学会|从“自动化”到“自主化”:人机交互中信任修复的重要性( 二 )


1.2 进一步区分自动化和自治
虽然我们同意汉考克对自动化和自主性之间差异的初步观察(2017 年)， 但我们基于这一想法 ， 使这种差异更加清晰 ， 并将这种差异的含义纳入未来的研究议程 。 为了对自主系统的设计提出建议 ， 以优化人与自主的互动 ， 我们概述了一个框架 ， 该框架将先前定义的自主概念与新的人性化设计概念并列 ， 灵感来自社会心理学构造( 哈斯拉姆 ， 2006 ；哈斯拉姆 ， 贝恩 ， 道格 ， 李和巴斯蒂安 ， 2005)。 我们将人性化设计定义为旨在与人联系和交流的任何策略、机制和自主特征 。 我们的人性概念是有意宽泛的 ， 其定义只是为了捕捉与他人联系和交流的设计意图 ， 但我们的概念包含了哈斯拉姆(2006) 的两种人性意识 ， 包括1) 独特的人类特征；使我们区别于其他生物的人类特征( 即文明、文雅、道德情感、理性、成熟)， 以及2) 人性；代表人类本质的人类特征( 即情绪反应、人际温暖、认知开放性、能动性、深度)。 可以说 ， 任何自主设计都至少需要一些人性化( 即接受用户输入的机制)， 但这个轴上的更高层次接近人类的外观、情感、行为和能力 。
中国指挥与控制学会|从“自动化”到“自主化”:人机交互中信任修复的重要性
本文插图

图1 现有的和虚构的代理人的概念表示 ， 以自治和人性化设计的程度绘制
图1 展示了我们如何在现有的自治系统定义的基础上进行构建 。 该图示出了相对于人的设计( 即 ， 设计用于与人连接和交流的特征、策略和机制) 的自主水平( 即 ， 无监督行动的能力) 的概念表示空间 。 利用这两个维度 ， 我们创建了四个不同的象限 ， 代表了看似不同的机器质量类别 。 左下象限代表当前或不久的将来 ， 以及虚构的表示 ， 意在代表自治系统的范例 。 例如 ， 设计用来玩策略游戏的机器 ， 如围棋或象棋(AlphaGo， DeepBlue)， 代表了中等程度的自治 ， 因为这些系统朝着一个目标运行 ， 如赢得游戏 ， 并且不需要监督 。 然而 ， 这些形式的自主性在人性化方面非常有限 ， 因为它们不是明确设计来与用户直接通信或交互的；这些机器只是为一个特殊目的而设计的算法 。 在同一象限内的是目前的机器人宠物 ， 如艾博或帕罗 ， 它们被明确设计为与人类互动和交流 ， 但几乎没有或没有自主权 ， 可能有一个分散的目标或没有目标 ， 除了为人类提供娱乐、陪伴或舒适 。 更高层次的自主性或人性化设计大多由虚构的例子来代表 。 因此 ， 象限内的相对位置是近似的 ， 并且基于它们在电影中的描绘 。 因此 ， 图中的小距离不应理解为精确 。
高度自主但适度的人性化( 左上象限) 代表了工具 ， 这些工具可以自行实现目标 ， 但与操作员的沟通不是主要关注点 ， 因此他们的沟通能力有限( 例如 ， 基本的输入和输出模式)。 也许最经典的例子是超智能的人工智能天网 ， 它在终结者电影系列中是高度自治的( 即 ， 它有自己的自我保护目标 ， 并自主地按照这些目标行事)， 但对于直接的人类通信能力或考虑有限 。 高度的人性化 ， 但适度的自主性( 右下) 代表了明确设计用于与人类交流和互动的机器 ， 因此它们可能具有高度发达的输入和输出模式( 自然声音、手势交流、幽默或态度) 或使用旨在与人类融合的外观线索( 拟人化外观)。 然而 ， 他们可能几乎没有能力产生或实现自己的目标 ， 或者除了提供陪伴之外没有其他目标 。 具有高度人性化和高度自主性的技术( 右上象限) 代表了有自己意图和目标的机器 ， 并且在几乎没有人监督的情况下运行 。
该框架既捕捉了当前的技术 ， 也捕捉了预期的虚构技术 。 从这个概念框架中 ， 可以得出几个结论 。
1. 如果设计需要与人类用户的联系和沟通 ， 就需要增加人性化 。 我们认为 ， 随着复杂性的增加和用户之间潜在的不匹配 ， 人性化的设计是必要的人工智能的感知和能力( 塞米格兰、莱文、努迪和梅罗特拉 ， 2016)。


推荐阅读


上一篇：猫猫美剧|这个杀手很有原则，他的原则就是杀人！神经质电影也能奥斯卡！

下一篇：生活周刊|品读 | 李少君：她在陌上淡淡地笑 / 邵丽：秀莹有隽永的美