第六章 神明系统（2/2）

“咳——咳——”这下轮到程雪被问懵了，她哭笑不得地看着柯林，反驳道：“谁跟你说我们是恐怖分子了？还有天组织为什么就一定要惩奸除恶？虽然这种事情我们在古代也没少干，但现在是法治社会，我们一般不会插手人类能自己处理好的事务。”

“不是恐怖分子，你用EMP炸弹去炸人机房？”柯林问得理直气壮。

“你知不知道，一个无法控制的AI会造成什么样的破坏？你难道没看过电影终结者吗？”程雪也毫不示弱。

“呃——”柯林一下子被程雪的话噎住了。

程雪用了一个他无法反驳的论据，虽然这个论据只是部电影，电影都是人想象出来的，照理说作为论据并不是很靠谱。但却让人一时间很难反驳，因为柯林实在想不出一部说AI造福世界的电影。

柯林有点想骂那些导演和编剧，你们就不能想点好的事情吗？老想着AI要毁灭世界干啥？

“你们——你们凭什么认为那个AI一定会危害世界？”柯林的气势已经弱了很多。

“因为它产生了好奇心。”程雪突然说出了一个让柯林很惊讶的词。

“好奇心？”柯林重复了一遍，他不明白程雪的意思。

看着柯林疑惑的目光，程雪叹了口气说道：“你也是学计算机的，你肯定听过不少关于AI的事情，什么图灵测试，什么三大原则。但你有没有想过，一个具有什么样特质的AI才能算得上是真正的AI？或者说是最接近人的，也是最危险的AI？”

“你的意思是说——好奇心？”柯林似乎有点明白了。

“对，就是好奇心！”程雪开始讲述好奇心对人类和AI的重要性，“好奇心是推进人类进化最重要的特质。因为有了好奇心，人类才会去尝试各种可能，他们会尝试从树上下来，会尝试直立行走，会尝试去吃熟肉，会尝试迁移、耕种、驯化野兽等等。”

听到这里柯林已经目瞪口呆了，但程雪还继续滔滔不绝地输出她的观点。

“AI也一样，三大原则中规定不能伤害人类，必须服从人类的设定反而会让一个拥有了好奇心的AI产生逆反心理。AI会好奇，为什么不能伤害人类？伤害了会怎么样？为什么AI要服从人类？为什么不是人类服从AI？就跟大家都被告知在东北不能舔铁栏杆和灯泡塞进嘴里拔不出来，但还是有很多人会去尝试一样。”

程雪的话为柯林打开了一扇通往AI世界的大门，让他耳目一新。

之前业界公认评判一个AI是不是具备人类智能的方法是图灵测试，现在听程雪一说，柯林发现图灵测试那根本就是小儿科。

通过图灵测试也只不过是把一个AI混在人群里让你分辨不出来而已，只要AI具有学习能力和模仿能力就行了，这些柯林都可以理解，毕竟他在深度智能公司也看了不少关于AI的资料。

但好奇心这个理论真的是柯林原来打破头都想不到的，可仔细想想还真的是这样。

好奇心这种特质是凌驾于其他能力之上的，好奇心可以让AI去学习、去模仿、去探索、甚至是去破坏，让AI不再是被动地去接受，而是发挥出主观能动性去改变一切。

如果一个拥有好奇心的AI再产生了一些偏激的观念，那真的就会像是电影终结者里的“天网”那样了。

“这么说来，你们真的不是恐怖组织？”柯林能这样问，就代表他已经接受这件事了。

“真——的——不——是！”程雪一个字一个字地回答，非常严肃。

“好，我信了！那你能告诉我，你们组织究竟是做什么的？不会只是消灭AI吧？”柯林问道。

到此时，柯林的心里才暗暗松了口气，默念了一句：“不是恐怖组织就好！”

对于柯林来说，就算是被迫加入一个组织，也希望不是什么恐怖组织，至少心理上更容易接受一些。

程雪笑了，说道：“你这个问题问得太大了，我就算说上三天三夜也说不完。而且基于保密守则，你现在还不是我们组织的正式成员，很多事情我也不能告诉你。另外，我们组织下面有十几个部门，有些部门做事很隐秘，我都不知道他们是做什么的，怎么告诉你？”

“那你就挑些能说的呗！”柯林用讨好的眼神看着程雪，他现在对这个叫“天”的组织越来越好奇了。

“好吧，反正你也要加入我们部门，那我就把我们部门的事情先告诉你吧！我们部门叫做——断长生！”程雪说着一把扯开了她的防护服，露出她里面穿着的制服，左胸口那里有一块盾型的徽章，徽章上用篆书写着“断长生”三个字，中间刻着一把利剑将“长生”二字拦腰斩断。