据美国CNBC网站8月2日报道,针对近日有关Facebook所研究的智能机器人发明“非人类语言”进行对话一事的相关报道,多名人工智能研究学者发声指责,称这些媒体对人工智能研究进行了夸大报道,评论这种报道是“不负责任的”。
实际上,引发媒体对人工智能研究进行夸大报道的起因是早在6月份Facebook发表的一篇学术论文。在这篇论文中,研究者描述的是一项常规科学实验。他们先向两个智能机器人展示人类对话,随后,让其互发聊天信息,试验其进行谈判协商的能力。机器人则会通过审核与试错的形式来逐渐改进功能。
Facebook在6月份发表的学术论文
然而就在过去的几周里,一些媒体在新闻中却以杞人忧天的口吻报道此事,甚至将相关报道冠以“Facebook关停发明自己语言的机器人项目”(英国《每日电讯报》)“危险的人工智能:专家警告Facebook人工智能发明自己独特语言”(英国《太阳报》)等标题。
英国《每日电讯报》报道
据悉,两个机器人之间的对话有时确实会偏离标准英文的语言,但这并不是Facebook发布此篇学术文章的重点,实际上,该项研究是旨在如何令人工智能机器人进行有效对话和谈判。Facebook的这项研究并非“中止”或“关停”,而是实际完成了实验。此外,他们注意到聊天机器人会假装对某件它们并不想要的东西感兴趣,然后在谈判过程中做出妥协让步。麦克·刘易斯、丹尼斯·亚兰特、杨·多芬、德维·帕里克,以及德鲁夫·巴特拉等Facebook人工智能研究组成员联合发表了这篇文章。
在本周一,巴特拉在Facebook上发帖称:“对于外行人来说,人工智能机器人发明出自己的语言这件事有些耸人听闻。但要知道这是一个已经进行了数十年的,AI研究中十分成熟的子领域了。”巴特拉解释称,机器人在完成一项任务的环境中往往会找到一种不直观的方式让回报最大化。分析奖励机制和改变试验参数,实际上与‘拔掉电源’或‘关闭AI’的概念不一样。
巴特拉认为,这种靠耸动的标题骗取点击量的报道是非常不负责任的。而且,这种谈判机器人并不会投入生产,只是一项研究实验而已。其他研究人员也纷纷在社交媒体上表达对偏离事实的报道的不满。
图说:爱德华·格里芬斯塔特在Twitter上表达对报道的不满。
图说:Hardmaru在Twitter上批评此类报道简直是标题党。
据悉,Alphabet公司和伊隆·马斯克创始的OpenAI研究机构的研究人员也正涉足于聊天机器人的探索领域中。这是众多人工智能应用领域的其中之一。有时,这些机器人在聊天中确实能发展出自己的交流风格,不过研究人员已经能够在随后对其进行修改。
Facebook在发表六月的这篇论文后,也一并公布了关于这个试验的基础软件和数据库。换句话说,如果Facebook真的试图秘密干点儿什么事情,那也不会是这件事。(编译:俞培源)