当前位置:主页 > AI智能 > 这个人工智能疯了

AI智能:这个人工智能疯了
作者:瑞阳泽  发布日期:2018-08-30   浏览:71

“诺曼”实验官网显示的动画形象 变坏的人工智能 人工智能自从问世以来,一直被当作提升人类生活质量的技巧工具。各类语音助手、机器人更是被视作陪伴者或者朋友。而这一切正

这个人工智能疯了

这个人工智能疯了

“诺曼”实验官网显示的动画形象

变坏的人工智能

人工智能自从问世以来,一直被当作提升人类生活质量的技巧工具。各类语音助手、机器人更是被视作陪伴者或者朋友。而这一切正是得益于人类对未知领域的和未来科技的好奇与探索。

但如今,出现了一则反例。麻省理工学院媒体实验室的研究职员开发出了世界上第一个“精神***”的人工智能“诺曼”。“诺曼”的出现让很多底本就对人工智能感到不安的人更加惶恐,AI的暗黑面是不是马上就会出现了呢?

在著名的透射法人格测试罗夏墨迹测验当中,受试者会通过必定的媒介建立起自己的想象世界,从而得到一些个性化的答案。通过与普通AI一起测试,“诺曼”的昏暗尽显无疑。

当普通AI得出一群鸟坐在树枝上的答案时,“诺曼”看到的是一名男子触电身亡;当普通AI看到几个男人站在一起时,“诺曼”看到的是一个男人从窗户跳下来……在测试当中的每一题,普通AI分辨给出的都是较为常态或乐观的答案,“诺曼”的答案则是偏向冲突性的。

根据“诺曼”项目的官网显示,“诺曼”的主要作用是执行图像字幕处理,这是一种天生图像描述文字的深度学习方法。“诺曼如此黑暗的反响,正巧说明了机器学习还面临着很多残酷的现实。”研究成员之一的Iyad Rahwan教授说到。

而事实上,实验室的研究职员是通过让“诺曼”从Reddit上大批学习恐怖血腥的人类死亡图片,从而使“诺曼”成为了一个精神***人工智能。这并不是为了哗众取宠或者是危言耸听,研究职员通过这一实验想要告诉大众的是,人工智能假如经过不良数据的练习,是完全有可能变坏的。而这些错误的引导,终极损害的也是人类的利益。

 

AI的***与偏见 数据应背锅

根据往年5月的一份报告显示,美国法院用AI天生的风险评估计算机程序,对黑人囚犯存在偏见。该AI系统以为,黑人重新犯法的可能性是白人的两倍。对此,“诺曼”实验的研究职员表现,用有缺陷的数据对AI进行练习,完全由可能使得其存在偏见。

“诺曼”固然是第一个拥有黑暗面的***AI,但却不是第一个引起人们恐慌的AI。2016年,微软的聊天机器人Tay在推特上发布时,也出现了令人不安的一幕。Tay底本设定是19岁的清纯少女,但上线几天之后,便受到种族主义者的感染,也开始带有强烈种族歧视。

“人工智能身上所发生的歧视标题可以回结到一个事实上:很多机器人都是由加利福利亚的单身白人开发的。”巴斯大学计算机科学系的Joanna Bryson博士说道,“当我们用自己选择的文化来练习机器时,或多或少会将自己的偏见转移到人工智能上。”

人工智能自出现以来,就有人不断提出质疑。物理学家霍金就曾多次发表“人工智能可能会毁灭人类”的言论,马斯克也说过“人工智能可能成为永久的专制者”。但通过以上的案例的结果来看,无论是“诺曼”还是Tay,都会在机器学习的过程中受到数据的影响,从而变得让人不安。

因此,为了阻止这类情况发生,创建AI的过程中需要更多的监视和更大的透明度。工程师应该找到一种能够平衡数据的方法,而不断扩展机器学习内容的任务也不能仅仅只交给程序员。就像微软前首席构想官Dave Coplin所说,,“诺曼对于很多越来越依靠人工智能的人和企业来说,是一次重要的实验,让他们懂得和熟悉到其中的风险。”

也正如“诺曼”实验的官网所描述,当人们谈论人工智能算法存在偏见与不公时,罪魁罪魁往往不是算法本身,而是它的数据。因此对于AI的监管,实在也是推动AI朝着良性方向发展的有效措施。在发展的过程中,即便是会出现诸如“诺曼”、“ Tay”这类不可预知的黑暗面,但却能让人类更快意识到对AI进行监管的重要性。

AI智能 大数据 物联网 新科技 城市资讯
Copyright © 2012-2018 版权所有  亚洲城娱乐_亚洲城国际娱乐_ca88亚洲城游戏官网 网站首页 | 网站地图1 | 网站地图2