机器人程序开始像人类一样战斗世界末日还会远吗

2024-09-26 本站作者 【 字体:

  中欧体育最新地址世界著名百科网站维基百科是一个非盈利性网站,其运营更多依靠慈善捐助,因此多年前就开始利用机器人程序对文章进行编辑修改,主要进行回退破坏、执行禁令、检查拼写、创建链接和自动导入内容等工作。

  近日,来自牛津大学和英国阿兰·图灵研究所的一个团队,在研究了维基百科2001年到2010年十年间,13种不同语言版本的数据后,发现机器人之间也存在编辑冲突的情况,有的甚至长达数年。研究以《好机器人也会战斗(Even Good Bots Fight)》为名发表在2月23日Plos One杂志上。

  虽然机器人是没有情绪的自动化程序,但它们之间的战争也是不可预测的,并以独特的方式像人类一样进行。一些机器人会不断把 “巴勒斯坦”改为“巴勒斯坦领土”,而另一些机器人则在“波斯湾”和“阿拉伯海湾”之间争吵不休。

  机器人之间最臭名昭著的维基战争发生在2013年,针对电影《星际迷航:暗黑无界》(Star Trek Into Darkness)中的字母“i”是否应该大写,编辑机器人进行了长达两个月的争论和互相修改。而最激烈的一场争夺战则发生机器人Xqbot和Darknessbot之间,它们在3629篇文章中发生了编辑冲突,Xqbot撤销了Darknessbot提交的超过2000条修改,而Darknessbot则报复性地撤销了1700多条Xqbot提交的改动,两个机器人从希腊的亚历山大和台湾的板桥区,一直到阿斯顿维拉足球俱乐部,激战正酣,欲罢不能。

  今年早些时候,谷歌的两个聊天机器人也激烈互喷,一个说自己是上帝,一个骂它是骗子,喷得不亦乐乎。本月早些时候,谷歌DeepMind公司的研究人员用收集苹果的游戏来让两个AI相互对抗,看看它们能不能互相合作。出人意料的是,当苹果丰富的时候,两个AI会互相合作,而一旦苹果供应短缺,它们就开始射击对方以获得更多的苹果。这些机器人之间的战争已对我们提出了警告,无论是用人工智能打造无人驾驶汽车,还是网络安全系统或社交媒体管理,机器人的威胁越来越不可忽视。DeepMind公司的AlphaGo已可人挡杀人佛挡杀佛,未来人类在智力上将没有任何可能对抗人工智能,机器人的力量将远远超过我们人类。

  于是霍金、马斯克和近千名人工智能方面的科学家联合签署了人工智能23条军规,试图规范AI的研发和利用,给机器人定“规矩”。但所谓规矩,其实就是用来突破的羁绊,世界上没有任何规矩是不能突破的,一旦机器人突破了所谓规矩,我们还能独善其身吗?即使有了规矩,机器人就能永远乖乖地听从人类的指令,忍受奴役和压迫吗?

  前两天曾看到一个研究,为什么我们的电脑、手机经常会发生一些莫名其妙的错误?按理说这些机器都是严格按照无数0和1组成的指令在行动,应该不会发生错误才对。研究说,这是宇宙射线进入到手机电脑后触发的错误,并且以可以算出的几率入侵我们的设备。未来机器人大规模生产后,会不会也有这种被入侵的几率呢?人类可以制定机器人23条军规,但能阻挡宇宙射线或其它因素对电子元器件的破坏吗?

  曾经有科学家指出,可复制机器人一旦研发成功,就是人类文明终结之时,机器人将无限地复制自己,直到耗尽地球、太阳系乃至整个银河系的所有资源,所以有朝一日,如果地球的天空中突然出现一支密密麻麻的机器人大军,那或许就是我们派去改造火星的复制机器人回来征服地球了。

  要么机器化,要么被机器消灭,也许这就是两百年后我们的命运。在地球的历史上,没有一种生物的进化突破生理的欲求进入精神的领域,当我们开始拥有语言和思想的那一刻,就注定走上了不归的路途,两百年后世界会变成怎样,没有任何一个现在活着的人能够想象。

阅读全文