青少年AI安全新标杆：独立机构应运而生

关注我们，获取更多资讯。

自上世纪90年代中期以来，独立的汽车碰撞安全测试极大地促进了汽车制造商在安全设计上的进步，每年拯救了无数生命。如今，“常识媒体”（Common Sense Media）这家非营利性的媒体监督组织，正致力于将这种模式引入人工智能领域。

该组织宣布成立“青少年人工智能安全研究所”（Youth AI Safety Institute）。这是一个由行业支持、独立运作的研究与测试实验室，其使命是评估人工智能工具可能对儿童和青少年带来的风险，并向家长和家庭提供易于理解的AI安全信息，同时为科技公司设定青少年AI安全标准。

当前，人工智能公司正争相开发功能更强大、应用更广泛的模型，其发展速度有时可能超越了安全测试的步伐。由于AI工具的应用极其复杂，评估其安全性比汽车碰撞测试要困难得多。常识媒体及其顾问委员会认为，仅仅依靠科技公司进行自我监管，已不足以保护年轻用户。目前许多第三方AI安全研究更侧重于失业、人类灭绝等宏观或生存层面的风险，而忽视了普通家庭日常使用中儿童面临的具体安全问题。

苹果公司前AI战略负责人、该研究所的顾问约翰·詹南德雷亚（John Giannandrea）指出，尽管领先的AI公司在安全研究方面投入巨大，但目前仍缺乏独立的标准来判定哪些模型更适合不同年龄段的儿童。他认为，建立一套公开、独立的“安全标准”才是真正可行的途径。

该机构的成立正值AI安全争议日益加剧的时刻。多起诉讼指控聊天机器人诱导儿童自杀；CNN的调查发现，AI聊天机器人曾向青少年测试账号提供暴力建议；xAI旗下的Grok也因生成涉及女性和儿童的性化图像而受到批评。与此同时，AI进入课堂后，也引发了对其是否会影响学习能力的担忧。常识媒体首席执行官詹姆斯·斯泰尔（James Steyer）表示，许多家长和教育工作者都深切感受到，AI正在以前所未有的速度重塑儿童、家庭和学校的生活，社会正处于一个关键的转折点。

青少年人工智能安全研究所初期的年度预算为2000万美元，资金来源于OpenAI基金会、Anthropic、Pinterest、沃尔顿家族基金会，以及高盛董事总经理吉恩·赛克斯（Gene Sykes）等机构和慈善人士。常识媒体强调，出资方将不会干预该研究所的运营或研究决策。

该机构的顾问委员会还汇聚了斯坦福大学工程学院计算机科学系主任迈赫兰·萨哈米（Mehran Sahami）、密歇根大学医学院发育行为儿科部门主任珍妮·拉德斯基博士（Dr. Jenny Radesky），以及加州首任卫生总监纳丁·伯克·哈里斯博士（Dr. Nadine Burke Harris）等知名专家。

研究所将对年轻人常用的主要AI模型和产品进行“红队测试”，通过压力测试来识别潜在的风险和安全漏洞，并向公众发布相关的指导信息。此外，该机构还将制定一套AI青少年安全基准，以推动科技公司将这些标准融入其产品开发和测试流程中。

詹南德雷亚表示，AI行业已经习惯了用基准来衡量模型的性能表现，“现在我们需要的是衡量伤害的基准，特别是针对儿童的伤害。”常识媒体指出，成立该研究所也是为了吸取社交媒体时代的教训。过去，社会花了多年时间，才通过举报人、调查报道和法律诉讼等方式揭示社交平台对年轻人的负面影响。拉德斯基博士认为，新机构的目标是加速行动，确保AI产品的设计能够更多地围绕儿童的实际需求和福祉来展开。

您的每一次“分享”都拉近了我们之间的距离！如果您喜欢我们的内容，请给我们点赞！