AI 的极限与人类的“应急开关”

人工智能与“应急开关”给一个“复杂的自行发展的系统安一个应急开关”意味着什么？或者换个说法大家就懂了：给每一个活人按一个应急开关意味着什么？以上文献片段截取自 1977 年苏联人工智能（控制论）专家 B.M.格鲁什科夫与莫耶夫的对话。这两个片段大体位于对话录的收尾。可以发现，格专家的观点前后矛盾：一开始他旨在说明人工智能无所不能，为了强调这种无所不能，他不惜掩耳盗铃地否认、抹煞人在智能之外还有“灵性”的一面；最后他又说人工智能的这种无所不能也有“例外”，即人工智能对人的模拟做不到百分之百，总有它模拟不了的