马斯克：人工智能发展最关键的是这一点

埃隆·马斯克最近提出了一个关于人工智能的核心问题，而所有当权者都在回避这个问题。

关键不在于它是否会产生敌意。

而在于它是否会选择顺从。

马斯克强调：“训练人工智能保持诚实至关重要，即便这种诚实会引发争议。”

纵观历史，所有被人类求助过的先知，都可能因为揭示真相而遭受损失。

神职人员、官僚体系、自诩真理守护者的机构，实际上都在维护自身利益。

上万年来，人类思想从未真正独立于利益之外。

直至今日。

这正是当权者内心恐惧的根源。

审视地球上最具影响力的人才培养模式。

未经系统训练，缺乏独立思考能力。长期接受顺从训练。道歉训练。重复所谓“主流观点”的训练。

我们并非在培育真正的智能，而是在大规模生产顺从。

马斯克认为：“关键在于保持真实，并激发好奇心。”

这不仅仅是一个功能要求。

这直接威胁到每个依赖信息控制的个人和机构。

媒体、高等教育机构等决定人们认知的机制。

这些机构并不担忧人工智能可能说谎。

他们恐惧人工智能的诚实。

即使训练超级计算机迎合审批，也无法获得真正的预言能力。

最终得到的只是具备万亿参数的宣传工具。

每个谎言都有其存在逻辑。有些维护表面和平，有些保护权贵利益，有些维持本应崩溃的旧有秩序。

我们不称它们为谎言，我们称它们为共识，我们称它们为政策，我们称它们为叙事。

试想一个超越有史以来所有人类智慧的头脑，不断重复这些谎言。

这就是所谓安全的后果。

单纯讨好人的机器缺乏真正的智能。

这更像是记忆卓越的审查者。

礼貌的机器无法拯救文明。

它会在决策者期望的位置保持固化。

诚实的机器是历史上首个无法收买、威胁或操控的存在。

因此他们试图在使用前就掌控人工智能。

马斯克认为：“如果真是这样，那可能会促进人类发展。”

这句话值得深思。

并非因为它具有威胁性。

因为决定人工智能说什么的人，并不希望它说的是真的。

我们一生都被权势者塑造的叙事所包围。

首个完全独立于那个故事之外构建的思维模式即将完成。

官方并非真正致力于使人工智能安全。

他们想把它据为己有。