当AI成为钥匙：替代与风险的思考
人工智能的双刃剑：取代与风险的思考 清晨用餐时，我阅读了群书学院公众号推送的费曼《科学的价值》一文，这是约莫六十年前费曼在美国科学院的一次演讲稿，他试图解答“科学是否蕴含邪恶成分”这一因参与原子弹研制而产生的自我追问。费曼在文中指出科学的第一重价值是“让人们能制造诸多产品、完成诸多事业”，第二重价值是“赋予智慧与思辨的乐趣”，第三重价值可概括为“承认无知、保持质疑的自由”。阐述第一重价值时，费曼特别强调“当人们借助科学行善时，功劳不仅归于科学本身，还归于指引我们的道德抉择。科学知识赋予人们行善的能力，也可用于作恶，但它本身并未附带使用指南。”这些观点，如今读来几乎都能与人工智能时代相对应，恰好印证了我近期对AI替代乃至AI失控的担忧，文中引用了一句佛经箴语：“每个人都握有一把打开天堂的钥匙，这把钥匙同样能开启地狱之门。”AI是否也是一把相似的钥匙呢？读完文章，我思绪万千。
上午前往沙洲湖酒店聆听杜万华前大法官关于破产法治改革的讲座。他身旁放着一叠手写讲稿，孙一鸣院长总结时专门提及此事，语气中带着真挚的感动。我思索着，在AI能瞬间生成万字长文的当下，从纯粹实用主义角度考量，用笔书写相较于打字或语音输入，确实不够高效甚至显得有些“落伍”，未来我们是否仍需用笔或者说用纸来记录知识？久而久之，人类是否有一天会丧失书写的能力？暂且不论效率，从另一角度看，那叠纸是否也传递了一个信息：这个人确实花时间思考过，在所有文字都能凭空生成的时代，时间的投入是否正成为最稀缺、最难伪造的东西？然而，对于某项内容，究竟是AI生成还是作者原创，未来该如何辨别？我的思绪愈发混乱。我继续思索，我们从各地汇聚至此听讲座，但杜专委讲述的内容，可能很多都能通过AI网络抓取后生成，我们为何还要花费一上午坐在这里？是我们刻意想展示自己热爱学习，还是基于某种管理秩序或社交需求不得不现场聆听？我一时没有答案。
中午与大学老师杜老师用餐，闲聊中又把话题拉回那个令我困惑的阴影。我说我不了解理工科，但我已深刻感受到文科中文字工作基本可被AI替代，杜老师是研究管理信息系统的，他说理工科同样面临AI替代的困境。我们共同陷入沉思：AI全面取代人类后，个体的角色是什么？两人似乎都无法想象那个场景的具体形态。但似乎有一个共识：生产力会大幅提升，生存无忧，劳动成为稀缺资源，大部分人逐渐减少思考——随后可能迎来AI反噬，如果人类控制AI的指令反被AI消除，人类将不可避免地沦为AI的奴隶。这恰好引出费曼未深入探讨的一个问题：他谈“科学无法指引行善或作恶”，前提是人类握着钥匙。但如果钥匙本身开始拥有自己的逻辑，人类不再是唯一的握钥匙者，费曼的整个框架还能成立吗？
下午继续参加张家港法院和张家港市政府举办的府院联动会议。张家港市司法局发布了一份《关于府院联动推动困境企业挽救的工作方案（征求意见稿）》，各方共同商讨意见。政府部门、国资、金融机构、会所、律所，反映的核心只有一个：这是需要多方资源调配、力量协同的系统性工程。方案计划设置三名专员，刘思萱教授直言不足——仅负责与企业沟通协调，至少需要一名专职人员。疑惑再次浮现：既然AI能撰写方案，能生成修改建议，能将条文梳理得像程序一样清晰，可到具体项目落地，最短缺的为何仍是“人”？——不是会处理信息的人，而是能沟通、能判断、能负责的人。AI能分析利弊，但暂时还无法居中协调，这些事至少在目前，仍是人的职责，但具身AI未来能否做到呢？
正当前面问题模糊不清时，我随意浏览公众号消息，看到黄仁勋在卡内基梅隆的毕业演讲，“AI很可能不会取代你，但比你更会使用AI的人，可能会取代你。”这句话虽早已有人说过，但由他说来分量却截然不同，他是站在浪尖上的人。演讲中他承认AI的不确定性，承认工作会消失，技术可能过于强大，然后说了一句：“答案不是恐惧未来，而是明智地引领未来、负责地建设未来。”他对毕业生喊道：“跑起来，不要慢慢走。”我一时不知该如何理解这句话。这是来自创造者的自信，还是利益相关者的乐观？是真的相信人类能掌控AI这头巨兽，还是因为他自信能永远握着缰绳而看不见深渊？我继续困惑着。
短期来看，关于AI替代的疑虑，答案或许在黄仁勋那句话中：“不是AI取代你，是更会用AI的人取代你”。这句话的潜台词是——主体仍然是人类，只是门槛变了。长期来看，关于AI失控的恐惧，答案或许就在下午那间会议室里：我们围坐一起，七嘴八舌讨论一项复杂到AI无法一揽子解决的工作，每一方都在用自己的头脑判断，用自己的身份承担责任。这或许不是AI失控时的惨状，这有可能是AI失控前的防线，未来讨论如何战胜AI时，人类可能还是这样开会讨论，不知是喜是忧。
费曼在文中说，科学让人类有能力做事，但不能告诉人类该做什么事。做什么事，是人的选择。AI时代，这个命题不是过时了，而是更尖锐了。技术可以替人做越来越多的事，但“该做什么”“底线在哪里”“谁的利益优先”，这些永远是人该思考的事。
我的大脑依然混乱着，我将前面的思考输入某款AI，他竟然比今天早上的我还要清醒得多，于是我关于AI替代与AI失控的疑虑更加沉重了。