中国指挥与控制学会|从“自动化”到“自主化”:人机交互中信任修复的重要性
北京联盟_本文原题：从“自动化”到“自主化”:人机交互中信任修复的重要性
王小凤 金潇阳 翻译
现代与技术的互动越来越多地从人类仅仅把计算机作为工具向人和有自主性的智能体建立联系 ， 让自主性智能体代替人作出行动转变 。 在最近的一篇评论中 ， 彼得· 汉考克向人因工程领域发出了一个严峻的警告 ， 即必须关注一类新技术的适当设计： 高度自主的系统 。 在本文中 ， 我们注意到了这一警告 ， 并提出了一种以人为中心的方法 ， 旨在确保未来的人与人之间的自主交互仍然集中在用户的需求和偏好上 。 通过编辑来自工业心理学的文献 ， 我们提出了一个框架 ， 将一种独特的类似人类的能力注入自主系统 ， 建立并积极修复信任机制 。 最后 ， 我们提出了一个模型来指导未来自主系统的设计 ， 并提出了一个研究议程来探索当前在修复人类和自主系统之间的信任方面的挑战 。
[ 业者总结]
该论文呼吁从业者将我们与技术的联系重新塑造成类似于两个人之间的关系 ， 而不是一个人和他们的工具之间的关系 。 为此 ， 设计具有信任修复能力的自主将确保未来的技术维护和修复与人类伙伴的关系 。
[ 关键词]
信任修复；自主权；自动化；人性；人机合作
1.0 简介
在最近的一篇评论中 ， 彼得· 汉考克向人因工程领域发出了一个严肃的警告 ， 即必须关注一类新技术的适当设计： 高度自主的系统 。 在那次警告中 ， 他认为 ， 随着更多独立、自主的系统的引入 ， 社会正处于重大变革之中 ， 这些系统似乎与传统的自动化不同 。 他进一步认为 ， 虽然这些新系统的开发正由从业者以极快的速度进行 ， 但对心理和人为因素影响的研究可能被忽视 。 在这篇文章中 ， 我们注意到了这个警告 ， 并提出了一个以人为中心的方法 ， 旨在为这些未来系统的设计者提供指导 。 最后 ， 为了进一步讨论这些新的自主系统 。
1.1 自动化和自主的新形式重新定义了我们与技术的关系
现代与技术的互动越来越多地从简单的人类使用计算机作为工具转向与自主实体建立人类关系 。 与代替用户执行一组有限的预编程监督任务的传统自动化系统相比 ， 自主性是设计用于实现用户目标的技术( 硬件或软件)， 但不需要监督 。 这种高度自治技术的最新例子是Stuxnet 病毒及其独立规划然后自动在互联网上传播的能力(Kushner， 2013 年) 或Mirai 未来组合僵尸网络 ， 它们执行了迄今为止最复杂的分布式拒绝服务攻击(Graff， 2017 年)。 同样重要的是 ， 要考虑到高度自主的系统被计划尽早融入我们的日常生活 。 例如 ， 空军最高层的人员一直在讨论一项名为“ 忠诚的僚机” 的倡议 ， 该倡议涉及与有人驾驶飞机一起飞行的自主无人飞机( 例如 ， ( 格尼 ， 2013 ；汉弗莱斯 ， 科布 ， 雅克 ， & 雷格 ， 2015)。 此外 ， “无人 自动驾驶” 汽车已经开始在我们的社会中传播 ， 像谷歌( 布朗 ， 2011) 这样的公司开始测试无人自动驾驶汽车 ， 以及在瑞士和芬兰测试的原型自动公共交通模式( 如公共汽车)( 迈耶 ， 贝克尔 ， 博施 ， 阿克豪森 ， 2017 ；罗默、琼斯、马里诺、海兰、索思伍德 ， 2017 ；Salonen， 2018)。 鉴于此 ， 我们开始研究与使用自主系统相关的问题是至关重要的 。
具有自主性的系统特点是它们能够随着时间的推移进行学习和改变 ， 动态地设定自己的目标 ， 以及能够通过外部传感器信息或更新的输入数据适应环境条件 。 设计者可能主导这种系统的启动状态和参数 ， 但是一旦部署 ， 自主性将随着在不同环境中的使用而演化 。 这意味着这项技术有可能以意想不到的方式发展( 库兹韦尔 ， 2005)。 由于这些系统的潜在不可预测性 ， 自主性比较简单的自动化系统更有可能让人类伙伴感到惊讶(Sarter & Woods， 1997)， 这有可能极大地影响对这种技术的信任和采用 。 此外 ， 因为自主系统不太像工具 ， 而更像助手或合作者 ， 他们可能会因为他们的独立性而花更多的时间与我们在一起 ， 这将导致与这项技术的长期关系 。 例如 ， 虽然亚马逊Echo 、Alexa 或Siri 等新的永远在线、永远接近的虚拟助理类别尚未达到完全自主系统的水平 ， 但它们被设计为永久驻留在我们的家中或留在身体上 。 最后 ， 这些虚拟助手被设计为随着时间的推移学习我们的行为和偏好 ， 从环境中收集上下文信息( 例如 ， 位置)， 并从我们不断更新的用户简档中学习 。 由于这些能力更强的系统 ， 我们对这些技术的依恋和动机可能会变得更深、更亲密(de Visser， Monfort， et al .， 2017 ；Szalma， 2014 ；威斯、肖、洛法罗和鲍德温 ， 2017)。 由于前面提到的自动化和自主系统之间的一些差异 ， 我们认为有必要采用一种完全不同的方法来增强人机交互；一个自主系统和人类之间的关系不断变化的地方 ， 反映了自主本身和人类感知的适应性 。 相反 ， 人- 自主互动的范式应该模仿人与人之间关系的丰富互动 ， 应该采用人- 人模型作为它们的初始标准；自主性应该能够利用现存的人类能力来检测来自他人的偶然信息 。 考虑到这一点 ， 并受到人机交互模型的启发 ， 我们建议未来的自主设计应该从社会科学中获得线索 。 尽管我们认为这是一种谨慎的通用方法 ， 用于实现自主的新设计方法 ， 在这篇文章中 ， 我们将重点放在一个特定的人际关系特征上 ， 我们认为这种特征有利于人际自主关系 。 为此 ， 我们概述了一种可能的机制 ， 作为健康关系的一个基本方面： 信任修复 。 具体来说 ， 我们建议研究人员必须1) 将他们对人类自主系统的观点重新定位为超越简单的“ 互动”， 而更多地是“ 关系”， 2) 进一步将人类关系研究的应用扩展到人类自主( 马德哈万和威格曼 ， 2004， 2007a)。
推荐阅读
- 招聘|2022中国人民银行招聘考试：专业大类怎么分？哪些专业可以报？
- 浇水|浇水越多死得越快的四种花，花友要控制住自己，不浇水长得才茂盛
- 教师|中小学教师的职业前景
- |中国职业拳击迎最重要一战！中国一哥挑战大牌拳王，已创造历史
- 天命西游|天命西游新职业佛国行者实测：团战“保护伞”+控制大师
- 国企|你想要成为中国烟草的员工吗？三类学生优势更大，应届生别错过
- 空军|中国社保卡有新用处，英国小哥拿它“钓鱼”，没想到对方信以为真
- 中国文化|收下这份新春好物清单，悦迎“虎”年
- 成都|中国第三个路易威登之家今日亮相成都
- 中国石油天然气集团|录用名单已出炉！中石油总部公布名单信息，网友：名校的重要性