深度学习算法工程师|机器学习应用领域专家谈2020年的发展和未来方向
在过去的十年中 , 机器学习的进步来自两方面:改进的计算能力和更好的算法 。 这两个领域在大多数人的思想中变得有些孤立:我们倾向于想象有人在构建硬件 , 人们在制造算法 , 并且两者之间没有太多重叠 。
本文插图
但是这张照片是错误的 。 硬件约束可以而且确实会影响算法设计 , 并且可以使用算法来优化硬件 。 具有这两个领域专业知识的人员越来越多地将计算和建模一起优化 。
今天的来宾是机器学习应用程序的硬件/软件集成的全球领先专家之一 。 Max Welling是前物理学家 , 目前在全球领先的芯片制造商高通公司担任VP Technologies的工作 , 此外 , 他还是UC Irvine , CIFAR和阿姆斯特丹大学的隶属机构的机器学习研究员 。 Max交流了很多关于机器学习研究的现状以及该领域的未来方向的见解 , 以下是我最喜欢的一些对话:计算会消耗能量 , 并且会很快耗尽手机电池的电量 , 因此机器学习工程师和芯片制造商需要想出巧妙的方法来降低运行深度学习算法的计算成本 。 实现此目的的一种方法是压缩神经网络 , 或者识别可以在对性能造成最小影响的情况下将其除去 , 而另一种方法是减少用于表示每个网络参数的位数(有时一直降低到一位!) 。 这些策略倾向于一起使用 , 并且它们之间以相当深远的方式联系在一起 。
【深度学习算法工程师|机器学习应用领域专家谈2020年的发展和未来方向】
本文插图
当前 , 机器学习模型已经针对非常具体的问题进行了训练(例如将图像分类为几百个类别 , 或者从一种语言翻译为另一种语言) , 如果将它们应用到他们所针对的领域之外 , 甚至会立即失败 。 例如 , 经过训练以识别皮肤较黑的人的数据集上的面部表情的计算机视觉模型在以皮肤较白的人为特征的另一个数据集上进行测试时 , 表现将不佳 。 生活经验告诉人们 , 肤色不应该影响面部特征的解释 , 但是这种微小的差异足以抵制当今的尖端算法 。 因此 , 真正的挑战是可推广性 , 这是人类仍然比机器做得更好的事情 。 但是 , 我们如何训练机器学习算法来进行概括呢?马克斯认为答案与人类学习的方式有关:与机器不同 , 我们的大脑似乎专注于学习物理原理 , 例如“当我拿一件东西扔到另一件事上时 , 那些东西会相互反弹 。 ” 这种推理在某种程度上与这两件事无关 。 相比之下 , 机器倾向于从另一个方向学习 , 而不是根据普遍模式或规律进行推理 , 而是根据适用于非常特殊的问题类别的模式进行推理 。
本文插图
因此 , 马克思认为机器学习未来最有希望的发展领域将集中在学习逻辑和物理定律 , 而不是这些定律或原理的特定应用上 。
推荐阅读
- 青年|西安邮电大学与安康汉滨区深度合作,研发适合毛绒玩具全产业链实用技术
- 行业互联网,智慧医疗|商汤科技创“心”升级,探索“联邦学习”入选ECCV
- 环球Tech|室内飞无人机担心互撞?研究人员开发AI算法来防撞
- 技术编程|机器学习又一重要医学应用!培植人造器官
- 大众新闻|海外高知妈妈都头疼的中文学习,LingoAce有什么好办法?
- 中文|海外高知妈妈都头疼的中文学习,LingoAce有什么好办法?
- 科学|亚太卫星深度报告(上):卫星这块蛋糕有多大?
- 公司|中登集团学习群:公司请你来做什么
- 青年|《逻7识智》脑训7:学习
- 中年|想拿腾讯Offer?设计模式,算法高频面试题别漏了
