AI 的极限与人类的“应急开关”

人工智能与“应急开关”给一个“复杂的自行发展的系统安一个应急开关”意味着什么？或者换个说法大家就懂了：给每一个活人按一个应急开关意味着什么？以上文献片段截取自 1977 年苏联人工智能（控制论）专家 B.M.格鲁什科夫与莫耶夫的对话。这两个片段大体位于对话录的收尾。可以发现，格专家的观点前后矛盾：一开始他旨在说明人工智能无所不能，为了强调这种无所不能，他不惜掩耳盗铃地否认、抹煞人在智能之外还有“灵性”的一面；最后他又说人工智能的这种无所不能也有“例外”，即人工智能对人的模拟做不到百分之百，总有它模拟不了的地方，比如他先前否定掉的人的“灵性”的一面（心灵、情绪、情感、兴趣、希望、观点）。所以，格专家在此露了马脚。格专家的这种自相矛盾让我想到了维特根斯坦哲学前后的矛盾。比如：“凡是能够说的事情，都能够说清楚，而凡是不能说的事情，就应该保持沉默。”所谓的“清楚”是啥意思？要不要先把“清楚”定义“清楚”？语言有各种从“清楚”到“模糊”的层级，并不能作“清楚”与“不清楚”这样的二分。更重要的是：在清楚与模糊的两极集聚着最强大的势能，两极之间的地带的每一处都有独特的张力，由语言承载的意义就在这变化多端的张力中生成；换句话说，语言的清晰程度与语群的结构营造的意识的焦点与景深、语义的中心与边缘、意义的显与隐密切相关，语言的清晰程度不仅仅与语言形式有关，更与其性质有关。虽然“不能说的就保持沉默”的说法十分装逼，也不现实，但比起格专家这种“凡是能表达的都能模拟”（凡是不能表达的都不能模拟）“凡是不能模拟的都不存在”（比如一开始他对“灵性”存在这种想法的嘲讽式否认）观点，自然要诚实得多。至少，维的“沉默”说并没主张“不能说的”不存在。再退一步讲，“不能说的”可多了去了。有各种原因让你不能说。难道唯一的出路就是“沉默”？格专家的观点前后矛盾。他从海森堡的理论来说明人工智能完全模拟人的不可行，根源在他认为人和人工智能都是可以“自行发展”的“复杂系统”。“复杂系统”的说法只是描述性的，没啥实质含义，唯有“自行发展”需要认真对待。系统只有复杂到一定程度才可能“自行发展”。问题是人的确可以“自行发展”即人自我完善的自由，人工智能有这种自我持存、自我完善的自由意志吗？没有！自由意志攀缘着时间之树，枝桠间遍布不可思议的随机性，这是人的命运。人工智能是决定论性质的，它没有真正的感性，不能领会时间，也就与随机性绝缘。