“这样啊……”张然又喝了一口咖啡。

林秋月道：“然而这只是黑箱的第一步,还有更大的黑箱！”

“你有没有想过,如果两个会学习的聊天机器人,自己和自己聊天,自我学习，会发生什么呢？”

“会发生什么？”

“它们一秒钟对话数亿次,相互学习之下，很快就会出现出我们无法理解的，莫名其妙的乱码。”

“但对这些人工智能来说,又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统,而人类无法理解这些语言，只能认为它是一连串的乱码。”

“我们除了把它们关闭外,没有其他的办法。这便是连接主义的风险，里边有太多的黑箱了。”

“这些新发明的语言是否真的有意义,我们并不知道，只有机器自动。”

张然愣了一下，被她说地全身上下起了一层鸡皮疙瘩，机器人居然学习自己，发展出自己的语言，听起来就有点怪异的感觉。

“你的意思是，会出现智能叛变？”

“有这样的可能……不过就目前而言,关心智能叛变等同于杞人忧天，学习能级大致可以表现为九级。”她掰出一根根纤细的手指，“第一，模仿言行。第二,会用知识。第三，会联想。第四，会剖析提炼抽象。第五，追求规律，会验证真知。第六，积累真知，形成知识体系。第七，指导实际实践。第八，预见趋势。第九，传播理论。”

“唯有完成了这九点，才是真正的强人工智能。”

“猩猩的智慧，完成了前三点。”

“我们现在的水平，还在追求第一个等级。”

“好吧……那行为主义又怎么说？”