江苏龙网

  1. 首页 > 资讯 > 资讯 > >

人工智能|人工智能“军备竞赛”的真正危险是什么( 二 )


研究人员现在将人工智能应用于改进现实世界的问题 ， 从诊断皮肤癌到驾驶汽车再到提高能源效率等 。 根据麦肯锡咨询公司的估计 ， 美国人需要的付费服务 ， 几乎有一半可以使用现有人工智能技术实现自动化（有5%的服务最终会被消灭） 。 大型机构在大数据上的积累和强大的计算能力 ， 最有可能取得重大突破 ， 使人工智能工具越来越普及 。 现在 ， 很多人工智能工具都可以任意在线使用 ， 例如免费编程课程教人们如何制作自己的人工智能系统 ， 并且可以免费下载经过训练的神经网络 。 人工智能工具的流行的确能够促进创新 ， 但是将强大的人工智能工具轻易地交给任何想要的人 ， 也会帮助到想要作恶的人 。
滥用人工智能造成的危害并非假设 ， 事实已经摆在这里 。 聊天机器人之类的僵尸程序通常用于操纵社交媒体 ， 选择性地放大某些消息并压制其他消息 。 人工智慧换脸是由人工智能生成的伪造视频 ， 将人的脸部以数字方式完美地与色情演员的身体嫁接 ， 用来实行所谓的“色情复仇攻击” 。
上述的例子仅仅是开始 。 政治运动使用基于人工智能的数据分析来针对个人设计量身定制的政治宣传 ， 商业公司也使用相同的分析来为潜在客户专门发送感兴趣的广告 。 数字小偷使用人工智能工具来创建更有效的网络钓鱼攻击 ， 聊天机器人只需要一分钟的音频就可以克隆人的声音 ， 从而令人信服地在线或通过电话模拟人类交谈 ， 任何没有真人现身的网上或电话互动都可能是诈骗行为 。 安全专家证明 ， 网络黑客完全有可能入侵自动驾驶汽车 ， 锁定自动车辆的转向和刹车功能 ， 仅靠一个人通过网上操作就可以劫持大量汽车 ， 造成交通拥堵或发动恐怖袭击 。
3.人工智能将何去何从
无论哪个国家在人工智能方面居于领先地位 ， 都将利用它来获取与竞争对手在经济和军事上的相对优势 。 预计到2030年 ， 人工智能将为全球经济做出13万亿至15万亿美元的贡献 。 人工智能还将加快科学发展的进程 。 2019年 ， 人工神经网络在生物学研究的关键任务—合成蛋白折叠方面取得重要进展 ， 大幅领先现有的研究方法 。
人工智能也将彻底改变战争 。 人工智能对于提高士兵在战场上的态势感知、指挥官的决策能力和命令传达能力最为有效 。 人工智能系统处理信息的数量与速度都远超人类 ， 它们是对战争中海量信息进行实时评估的宝贵工具 ， 而在战场上 ， 机器比人类的移动更快、更精确、更协调 。 在最近的“星际争霸”电游人工智能对战人类比赛中 ， 人工智能系统AlphaStar在快速处理海量信息、作战单位协调以及快速精准移动方面显示了超越人类的能力 。 现实世界中 ， 人工智能系统凭借上述优势在管理控制机器人群上比人类手动控制更加有效 。 人类可以在更高层面的战略中保留自己的优势 ， 但人工智能将在地面战争中占据主导地位 。
中国已经是人工智能方面的全球强国 ， 这也是华盛顿不甘落后急于开发人工智能的原因 。 全球领先的人工智能公司排名 ， 中国的科技巨头阿里巴巴、百度和腾讯紧随亚马逊、谷歌与微软其后 。 2018年注资最多的10家人工智能初创企业中有5家是中国企业 。 几年前 ， 中国提出到2030年成为全球人工智能领导者的目标似乎还是纸上谈兵 ， 现在则完全可能成为现实 。
美国的现实情况是华盛顿和硅谷之间在军事使用人工智能方面存在巨大分歧 。 谷歌与微软的员工反对他们与五角大楼签订的公司合同 ， 导致谷歌停止使用人工智能分析视频素材的项目 。 由于政府与民间的分歧 ， 哪怕美国在人工智能研发方面保持领先地位 ， 也会失去军事优势 。 政府合理的反应是将自己在人工智能上的投资加倍 ， 然而问题在于 ， 人工智能技术是把双刃剑 ， 不仅会给输掉比赛的一方带来风险 ， 同样也会给赢得比赛的一方带来风险 。
4.未可知的风险与挑战
当今的人工智能技术功能虽然强大但并不完全可靠 。 基于规则的系统无法处理程序员未曾预见到的情况 ， 学习系统也受到训练数据的限制 ， 人工智能的失败已经导致了一些悲剧发生 。 自动驾驶汽车的先进功能虽然在某些情况下表现良好 ， 但无预警地将汽车撞向卡车、水泥路障以及停放着的汽车的情况也时有发生 。 当出现与训练场景不一样的突发状况 ， 人工智能系统会瞬间从超级智能变为超级白痴 。 当敌人试图操纵和入侵人工智能系统时 ， 导致的风险将更大 。
虽然有时不会完全崩溃 ， 但学习系统也会以错误的方式实现目标 。 去年的一篇研究论文中 ， 有52位研究人员对人工智能系统表现出几十次异常的行为进行了阐述：学习在模拟环境中行走的算法发现 ， 通过反复摔倒可以更快地移动；一个玩俄罗斯方块的机器人学会了在最后一块积木掉下来之前暂停游戏 ， 这样它就永远不会输掉；一个程序自动删除了不能让自己得到高分的评估文件 。 正如研究人员写道：“从功能实现角度来讲 ， 人工智能在迭代过程中寻找设计上的漏洞比实现人类为其设定的预期目标要容易得多 。 ”给人类带来惊喜或是惊吓似乎是人工智能学习系统的标准特色 。
机器学习系统的性能优劣与其拾取的训练数据密切相关 ， 如果数据不能很好地反映系统的运行环境 ， 则该系统在现实世界中就会发生故障 。 麻省理工学院媒体实验室的研究人员2018年发现 ， 三个主流的面部识别系统 ， 在识别深色皮肤方面比识别浅肤色要差很多 。


推荐阅读


上一篇：吃了这种食物，能看到小精灵？儿童食用或快速死亡！

下一篇：7月22日新疆（含兵团）新增新冠肺炎确诊病例18例，新增无症状感染者24例