理论前沿:驾驭人工智能——开发与使用间的控制与责任平衡机制
人工智能(AI)系统正从辅助工具转向具备自主学习和动态适应能力的复杂系统,由此引发安全、伦理和组织治理挑战。传统治理模式强调用户保留控制权并承担义务,但在机器学习和大语言模型等AI系统中,算法黑箱、持续学习以及开发与使用的交织,使控制权难以明确界定。当用户或开发者被迫承担其无法掌控的后果时,问责便失去基础;而当拥有控制权的一方缺乏问责约束时,风险可能被放大。因此,围绕AI开发与使用过程中的控制与责任匹配,构建更有效的利益相关者治理机制,是降低AI风险的关键路径。(文末附文章)