江苏龙网

  1. 首页 > 资讯 > 科技 > >

人工智能如何创造可信的AI？奇绩创坛创始人陆奇：仅有深度学习是不够的( 三 )


他认为如果在推进人工智能科研和应用开发的过程中不能清晰地意识到这个鸿沟的话 ， 我们将会踩很多坑 。 我们都知道人工智能技术已经被广泛地应用 ， 有一些是涉及关键使命的 ， 比如自动驾驶系统 ， 有一些则对社会有着深远的影响 ， 比如信息检索和内容分发等 。
特别是在应对目前全球面临的由新冠疫情带来的前所未有的挑战中 ， 人工智能技术将起到越来越关键的作用 。 在这样的关键时机下 ， 做出正确的判断并避免踩坑将是至关重要的 。 为此 ， 马库斯追根溯源把“AI鸿沟”归纳为三种“大坑” 。
第一是“轻信坑” ， 这是由于人类进化的现实过程还没有发展出清晰辨别人类与机器之间区别的能力 ， 导致我们往往用基于人类的认知模式去看待机器的能力 ， 从而容易轻信机器拥有人类般的智慧 。
第二是“虚幻进步坑” ， 每当AI技术的进展攻克了一类新的问题时 ， 我们往往错误地假设AI技术就能解决以此推及的、现实世界中的类似任务 。 但是AI学术上的问题往往是定义在狭义而简化的假设下 ， 而现实世界的具体任务都有很大的复杂性和不确定性 。
第三是“鲁棒坑” ， 受限于当前深度学习算法和训练数据 ， 对容错性很低特别是使命关键的应用领域比如无人驾驶等 ， 今天的AI还没能达到实际“落地”的能力 。 马库斯告诫我们必须关注“AI鸿沟” ， 因为踩坑的代价是非常高的 。
在这里我必须要指出 ， 马库斯是人工智能技术的坚信者 ， 并在人工智能学术研究和实际应用上做了很多积极的推动工作 。 他也认为基于深度学习的人工智能技术在过去十多年有了长足的进步 ， 为一系列商业化应用做出了重要贡献 。
马库斯之所以质疑当前主流的人工智能技术 ， 是希望学术界和其他相关行业能一起更有效地克服目前人工智能技术的局限性 ， 探索新技术上的突破 ， 从而真正实现可信的AI 。
常识的重要性
接着 ， 马库斯提出了通向未来可信AI的核心路径 ， 这一路径的起点是在研究人类如何获得认知能力时所获得的核心启发 ， 并以此建立下一代人工智能技术中必要的内在结构 。
马库斯以认知科学、心理学、语言学和哲学为基础提取出11条关键线索 ， 认为这将对未来人工智能技术在发展过程中达到具备人类智能的鲁棒性起到关键作用 。 这些线索的共同核心是——用内在更丰富的结构来表达信息、建立认知、建立起其他智能体系的核心要素 ， 比如因果推理能力等 。
马库斯还强调了常识在实现未来通用人工智能中的重要性 。 对于如何建立常识 ， 书中的内容充分体现了马库斯作为一个跨学科的学者和跨行业的企业家、创业者所拥有的综合能力 ， 既有核心的科学原则又有务实的系统操作:从表达时间、空间和因果关系开始 ， 建立一个有足够灵活性的框架并以此来连接感知、操作、语言的能力 ， 并能不断地从环境以及与环境交互中学习 ， 同时将先验与学习有机地融合在一起 。 这将是一个非常艰巨的任务 ， 但马库斯认为这是必需的工作 ， 是建立真正智能体系的必经之路 。
如何创造可信的AI
马库斯还讨论了几个建立可信的AI所需要的实际能力 。
首先 ， 我们要有能力来工程化地、有效可靠地开发AI系统与应用 。 正如计算机科学早期发展的历史一样 ， 软件开发工具和开发流程是经过计算机软件工程这门子学科多年的努力才逐渐建立起来的 ， 我们需要同样的努力来逐步打造工程化开发AI系统与应用的能力 。
其次 ， 确保AI系统的安全性需要全新的开发与运营能力 ， 尤其是关键使命的AI应用 。
人工智能如何创造可信的AI？奇绩创坛创始人陆奇：仅有深度学习是不够的
图片

最后 ， AI系统 ， 比如机器人 ， 需要其创造者赋予正当的道德伦理观念 ， 类似于美国科幻作家艾萨克·阿西莫夫(Isaac Asimov)提出的机器人三定律 。 只有具备这些实际能力 ， 我们才能真正创造可信的AI 。


推荐阅读


上一篇：Java知乎热议程序员「35岁定律」，32岁女生转行学Java是否可行？

下一篇：抢劫者|苹果向被盗窃的iPhone发送警告信息：你被追踪了