当前位置:主页 > AI智能 > 人工智能是如何做决定的

AI智能:人工智能是如何做决定的
作者:节光誉  发布日期:2018-08-30   浏览:172

原标题:人工智能是如何做决定的 □吕之品 太拘泥于细节的AI 最近一段时间,AI(人工智能)被炒得神

原标题:人工智能如何做决定的

人工智能是如何做决定的



□吕之品

太拘泥于细节的AI

最近一段时间,AI(人工智能)被炒得神乎其神,似乎它无所不能。但事实上,据社交网站“脸谱”表露,要想欺骗AI把某个不存在的东西当作真实存在,比你想象的要轻易得多。

譬如,在一张高清楚度的图片中,随机地降低某些地方的像素。这么一点微不足道的变更,人眼根本难以觉察,也不会影响我们的判定;但AI却能觉察出来其中的差异,并因此严重干扰了判定,比如说把图中的猫误认作了狗。

再比如,,据说现在谷歌的语音辨认AI功效已经非常强大,能一边听语音,一边笔录成文字。但一位AI工程师略施小计,就把它给耍弄了:他在语音文件中掺进少量数码噪声,这点噪声对于我们是不会有什么影响的,但让谷歌的AI往辨认,结果却是笔录下来的文字已跟原意大不一样。

这些低级错误揭示出当前AI的一个重大缺陷:太拘泥于细节,“只见树木,不见森林”,让无谓的细节影响了对整体的判定。假如这个弱点被黑客利用,后果将不堪设想。他们将能够把持无人驾驶汽车狂奔,无视红绿灯;或者让犯法嫌疑人轻易躲过AI把持的监控摄像头。

AI的决策规矩不易被人知

为懂得决这个标题,这就需要我们先往懂得AI是如何自我学习,如何做决策的,但这一直是个困难。由于AI在自我学习过程中,经过海量的数据练习之后,会自创一套决策规矩,但它最后创立的规矩到底是什么,这对于AI的设计者有时候都是一个谜。这一点实在跟人也是相似的。譬如,老师在课堂上向你传授知识,但你是如何把这些知识点组织起来的,他也不见得清楚。

最近,美国布朗大学的克里斯·格林和他的同事开发了一个系统,有看突破这个困难。

这个系统能够分析,当AI对一个图像做判定时,它是根据图像的哪一部分做出判定的;与此类似的,对于给文件自动回档的AI,这个系统也能够分析,AI是根据文档里的哪个词对文档进行回类的。

为开发这个工具,研究小组用数码噪声依次调换图片的一部分(相当于给这部分图片打马赛克,以便看看这样调换之后,是否会对AI的判定产生影响。假如调换部分的图片改变AI终极的判定,那说明图片的这块区域可能正是影响AI判定的关键所在)。

一窥AI的决策过程

格林在给图片分类的一个AI上测试了他的系统。这个AI被练习把图片分成10个类,包含飞机、鸟、鹿和马等。格林的系统能够暗中查看,当AI对图片进行分类时,什么是它所倚重的,什么是被它疏忽不计的。

结果表明,AI先是将图片上的物体分解成不同的元素,然后搜索图片中的每一个元素以断定把图片回到哪一类。

举个例子。当AI观察马的图片时,它首先关注的是其腿部,然后,寻找它的头部。在观察鹿的图片时,它也采用类似的措施,不过在关注了鹿的腿部之后,它接下往搜寻的不是头,而是鹿角,由于鹿角是最能把鹿跟其他动物区别开来的,所以鹿角被置于优先的地位。至于图片的其他地方,则被AI完全疏忽了。

从这里我们看出,AI做决策的过程迥异于我们人类。我们是不会如此拘泥于局部的。面对一张鹿的图,即使把它的角打上了马赛克,我们也还是可以根据分叉的蹄子认出鹿来的,但对于“呆板”的AI,它很可能就把它认作驴了。

格林的软件可以帮助我们测试现有的AI,以便确保它们下判定时,关注的是我们以为重要的东西,这对于改良AI有重要的价值。

(摘自《大科技》)

人工智能真的无所不能吗?

AI智能 大数据 物联网 新科技 城市资讯
Copyright © 2012-2018 版权所有  亚洲城娱乐_亚洲城国际娱乐_ca88亚洲城游戏官网 网站首页 | 网站地图1 | 网站地图2