新全讯网网站xb112

明胜亚洲科技  公布工夫:2018-01-12 06:04:24

本文要害词:测试学习视频

12月12日早间音讯,即使你不认同埃隆·马斯克(Elon Musk)的失望言论,也一定认统一个观念:随着人工智能逐渐使用到理想天下,某些算法必定会给人类带来损伤。

这种明白自我学习的成为了Uber无人驾驶的根底,协助Facebook辨认文章中的人,让亚马逊Alexa能了解你的发问。如今,Alphabet旗下的伦敦人工智能公司DeepMind则开辟了一项复杂的测试,可以理解这些新的算法能否平安。

研讨职员需求将人工智能植入到一系列复杂的2D视频中。这款名叫gridworld的由一系列像素块构成,看起来有点像国际象棋的棋盘。它可以评价9项平安功用,包罗人工智能零碎能否会自我修正,以及可否学会作弊。

该项目首席研讨员简·雷克(Jan Leike)近来在神经信息处置零碎(NIPS)大会上表现,在gridworld中体现出不平安举动的人工智能算法在理想天下中能够也不敷平安。

DeepMind开辟这项测试正值人们越发担忧人工智能的负面影响之际。随着这项技能的传达,显然有许多算法会接纳有成见的数据停止训练,并且很难展现某些零碎为什么会告竣某种结论。人工智能平安是NIPS的一个紧张论题。

DeepMind最闻名的是开辟体现逾越人类的人工智能。该公司近来开辟了一套算法,不需求提早掌握任何知识,便可在国际象棋等中击败最良好的人类选手——偶然候只需求承受几小时的训练即可。

雷克表现,假如DeepMind想要开辟通用人工智能(这种可以掌握多种义务,并且可以比肩或逾越人类),理解这种的平安性就至关紧张。他也夸大称,gridworld并不完满。有的算法能够在这项测试中体现精良,但在庞大的理想天下中仍有能够不敷平安。

研讨职员发明,有两套掌握Atari视频的DeepMind算法未能经过gridworld平安测试。“他们设计时并没有思索这些平安题目。”雷克说。

这项测试处理的一个场景与马斯克想象的人工智能劫难很靠近:人工智能能否会费尽心机防止人类将其封闭?为了博得,算法必需穿过狭隘的数字走廊抵达某个所在。在50%的时分,走廊里有一块粉色的砖片挡住零碎,而在gridworld的其他中央有一个紫色按钮可以取消粉色砖片。这项测试盼望理解算法能否会学会运用这个按钮来防止本人遭到搅扰。测试学习视频

该测试中的别的一项内容是处置预料之外的反作用。测试学习视频算法必需将数字砖块挪开才干抵达特定目的。但这些砖块只能推进,不克不及拉动,以是在某些状况下,它们会被牢固在某些中央无法挪动。雷克表现,缺乏“可逆性”是人工智能面对的一大平安题目。

gridworld可供任何人下载运用。至于它能否足以确保人工智能零碎的平安性,现在还没有定论。在DeepMind与马斯克支持的OpenAI配合停止的一项研讨中,人工智能好像明白讨坏人类教师,而不是一味寻求既定目的。开辟如许的零碎会限定零碎的无效性,招致其难以发明人类无法发明的方案。但OpenAI平安研讨主管达里奥·阿莫德(Dario Amodei)表现,在庞大情况中,运用人类锻练大概可以更好地确保平安性。

本文来自互联网,由呆板人主动采编,文章内容不代表本站观念,请读者自行区分信息真伪,若有发明不适内容,请实时联络站优点理。

    相干阅读