当前位置:主页 > AI智能 > 学习人工智能如何做出决定

AI智能:学习人工智能如何做出决定
作者:凌曜文  发布日期:2018-12-13   浏览:139

与传统软件不同,我们并不总是准确了解AI的工作原理。在许多场景中,深度学习算法的不透明性引起了更大的麻烦。

与传统软件不同,我们并不总是准确了解AI的工作原理。在许多场景中,深度学习算法的不透明性引起了更大的麻烦。

2017年,耶路撒冷Beiter Illit西岸定居点的一名巴勒斯坦建筑工人在Facebook上发布了一张他自己靠在推土机上的照片。不久之后,以色列警方因涉嫌他计划袭击而逮捕了他,因为他的帖子标题是“攻击他们”。

学习人工智能如何做出决定

除了它没有。该帖子的真实标题是阿拉伯语的“早上好”。但由于某种未知的原因,Facebook的人工智能翻译服务将文本翻译为用英语“伤害他们”或用希伯来语“攻击他们”。以色列国防军使用Facebook的自动翻译来监控巴勒斯坦用户的帐户是否存在可能的威胁。在这种情况下,他们非常信任Facebook的AI,以便在被捕之前不要让讲阿拉伯语的官员检查这个帖子。

在错误曝光后,巴勒斯坦工人最终获释 - 但在他接受了数小时的讯问之前。Facebook为这个错误道歉,并表示已采取措施纠正错误。

深度学习和神经网络的进步提高了AI算法的精确度,并使以前被认为是人类智能专属领域的任务自动化。但是,性能的精确性是以透明度为代价的。与传统软件不同,我们并不总是准确了解深度学习算法的工作原理。对它们进行故障排除非常困难,并且它们经常以意想不到的和无法解释的方式失败。即使是深度学习算法的创建者也常常难以调查和解释他们决策背后的逻辑。

Facebook机器翻译系统的失败只是深度学习算法的不透明性造成更大麻烦的众多案例之一。

众所周知的人工智能“黑匣子”问题已经成为学术机构,政府机构和科技公司关注的焦点,这些公司正在研究解释人工智能决策或创建更透明,更开放的人工智能的方法。

他们的努力对于人工智能行业的发展至关重要 - 特别是当深度学习进入关键领域时,错误可能会带来改变生活的后果。

深度学习的兴起

在创建软件的传统方法中,开发人员精心指定定义系统行为的规则。相比之下,深度学习算法通过检查和比较大量示例来发展其行为。深度学习背后的概念和科学已经存在了几十年,但仅在最近几年才有大量的数据和计算资源将其从研究实验室和学术论文推向实际领域。随着其受欢迎程度的提高,深度学习引入了开发人员创建软件的方式的变化。

对于自21世纪初以来一直参与计算机视觉的Kate Saenko来说,这些变化是非常明显的。计算机视觉是一个人工智能领域,使计算机能够处理和理解数字图像和视频的背景和内容。它是广泛领域中使用的技术,包括图像分类,面部识别以及MRI和X射线图像的自动诊断。这是基于规则的编程历史上一直困难的领域之一,因为开发人员必须记下的规则数量几乎是无穷无尽的。

“在那些日子里,我们采用了一种截然不同的方法,首先你设计了你的功能,然后进行了大量的思考和设计过程,”波士顿大学计算机科学系副教授Saenko说。

例如,如果开发人员想要检测猫,他们必须手动编写代码,以便探测猫头部特征(如头部或尾部)的图片。“你首先设计了这些功能,然后你设计了提取这些功能的方法。然后你就可以在功能之上进行机器学习,”Saenko说。

这个过程是艰巨而漫长的,因为每个特征的形状和大小都各不相同,这取决于动物的种类和拍摄照片的角度。

相比之下,用于将图片分类为“猫”或“非猫”的深度学习算法仅需要给出许多猫图片。它将创建自己的规则来确定如何检测图片中的猫,并且比以前涉及大量手动编写功能的方法执行得更好。2012年,多伦多大学的研究人员首次利用深度学习赢得了着名的计算机视觉竞赛,并大幅改善了该领域。从那时起,深度学习已经进入许多其他领域,包括语音识别,自然语言处理,欺诈检测和艺术。

“深度学习如此成功的原因是因为很少有设计进入神经网络,”Saenko说。“我们只是让机器从原始数据中发现最有用的模式。我们不会告诉它要寻找什么。我们不会告诉它任何高级功能。我们让它搜索所有的培训数据并找到那些能够最准确地解决问题的模式。“

调试深度学习软件的挑战

深度学习提供的准确性的好处并非没有它的权衡。

“在经典计算机编程中,你可以精确地使用算法。你完全用数学术语知道你在做什么,”安大略省AI公司DarwinAI的首席执行官Sheldon Fernandez说。“通过深度学习,行为是数据驱动的。你没有为系统规定行为。你说,'这是数据,弄清楚行为是什么。' 这是一种固有的模糊和统计方法。“

AI智能 大数据 物联网 新科技 城市资讯
Copyright © 2012-2018 版权所有  亚洲城娱乐_亚洲城国际娱乐_ca88亚洲城游戏官网 网站首页 | 网站地图1 | 网站地图2