面向青少年的生成式AI监管新方案：部分AI伴侣或被限定为成人专用
《蓬勃发展的一代》白皮书为儿童、青少年和生成式人工智能制定了政策框架模型。
Noēsis Collaborative 与剑桥大学Leverhulme 未来智能中心联合发布了一份白皮书，呼吁加强对儿童和青少年使用的生成式人工智能产品的政策控制。
《蓬勃发展的一代：面向儿童、青年和人工智能的全社会战略》为致力于儿童人工智能系统的立法者、开发人员和民间社会团体制定了政策框架模型。
该论文由 Noēsis Collaborative 的创始人兼首席执行官 Ron Ivey 和Google DeepMind的哲学家兼人工智能伦理学家、剑桥大学 Leverhulme 未来智能中心副主任兼“智能种类”项目主任 Henry Shevlin 共同撰写。
该框架专注于生成式人工智能，使其具备对话能力、类人行为和社交功能。它涵盖了玩具、游戏、心理健康、助手、社交媒体和人工智能伴侣等领域的人工智能，以及ChatGPT、Claude和Gemini等通用聊天机器人。
Shevlin 在LinkedIn上分享了该项目，并写道：“如果目标是促进儿童和青少年的蓬勃发展，而不仅仅是减少伤害，我们应该如何为儿童和青少年设计人工智能政策？”
最强有力的政策建议是，默认将某些人工智能伴侣和类人聊天机器人视为成人产品。谢夫林将该框架描述为包括“对儿童人工智能产品进行类似制药行业的上市前和上市后测试，以及默认将模仿丰富人类内心世界的人工智能伴侣和聊天机器人视为成人产品”。
该白皮书的政策框架模型要求对生成式人工智能系统进行上市前和上市后安全审计，类似于对药品、玩具和汽车座椅等高风险消费品进行的审计。
这些审计将检验面向儿童的人工智能产品是否支持健康发展，或者至少在未成年人获得市场准入之前，是否不会损害儿童或青少年的能力发展。
该框架还将限制仅面向成年人的对话式生成人工智能产品，这些产品模仿“丰富的人类内心世界”，包括情感、内心状态和动机，从而鼓励情感依赖。
第二项仅限成人使用的限制将涵盖主要作为陪伴工具或专门设计、营销或优化以与用户建立持续的社交或情感联系的社交人工智能产品。
该论文并非主张全面禁止儿童使用人工智能。谢夫林将其方法描述为“循序渐进而非一味禁止”，并以汽车安全座椅和电影分级制度为蓝本。该框架允许推出适合不同年龄段的产品版本，提供保护隐私的年龄保证，并在有证据表明有益的情况下，允许在监督下进行治疗和教育方面的豁免。
该白皮书认为，儿童和青少年人工智能政策不应仅限于减少危害。其设计理念指出：“我们认为，技术应该是增强、发展和帮助青少年充分发挥自身潜能的工具，以帮助他们在其居住的社区和环境中实现抱负目标。”
这种积极的框架与一份详细的风险地图并列。该报告指出了潜在的危害，包括虐待和剥削儿童、对心理健康的负面影响、自残、自杀和伤害他人、未经有效同意的数据收集、成瘾性设计、心理定向广告、情感依赖、社会孤立、关系学习障碍和发育迟缓。
作者对证据基础非常谨慎。论文指出，生成式人工智能的快速发展以及缺乏大规模、高质量的社会科学研究，使得现在做出最终评估还为时过早。
与此同时，该白皮书指出，儿童和青少年已经在教育、娱乐和社交场合中使用人工智能系统。白皮书援引一项研究发现，72%的美国青少年使用过人工智能伙伴，24%的青少年曾与人工智能伙伴分享过个人信息。白皮书还援引另一项研究发现，75%的9至16岁欧洲儿童使用过生成式人工智能。
教育领域并未被视为一个独立的安全区。该报告指出，即使儿童最初将生成式人工智能工具用于教育目的，也可能存在风险，尤其是在产品能够建立情感联系的情况下。
谢夫林本人则更关注影响和道德发展：“另一个主要担忧是这些系统在塑造观点和道德发展方面可能扮演的角色。由于青少年大脑的神经可塑性，一次简单的对话就可能对青少年产生巨大的影响。如果一个年轻人与社交人工智能系统建立了密切联系，那么该系统的影响力可能会变得极其显著。这就给开发者带来了一项严肃的责任，即确保这些系统中蕴含的价值观得到妥善处理。”
该白皮书源于 2025 年 10 月在剑桥大学耶稣学院举办的“人工智能世代与青年政策研讨会”，以及在该研讨会上成立的“人工智能世代与青年工作组”。
论文中提到的贡献者包括南加州大学马歇尔商学院的纳撒尼尔·法斯特、常识媒体的阿米娜·法兹卢拉、青年联盟的萨姆·海纳、南加州大学尼利中心和技术心理学研究所的拉维·艾耶、亚利桑那州立大学的陶·哈以及哈佛大学人类繁荣计划的蒂莫西·洛马斯。
该模型政策框架借鉴了与儿童和青少年举行的听证会和焦点小组讨论、专家意见、与政策制定者的对话以及学术研究。
该报告还指出，一些人工智能公司已经扩展了家长控制功能，加强了对色情和有害内容的审核，改进了举报机制，并在研究中承认了情感风险。报告称，在未成年人使用人工智能伴侣、类人对话设计、情感依恋、年龄保证和心理影响评估等方面仍然存在不足。
建议的全社会战略要求对面向儿童和青少年的生成式人工智能产品进行影响审计，制定年龄保证和安全设计标准。该战略还要求开展独立的纵向研究，开放数据，进行独立的基准测试，建立公共和私营部门的监督能力，让青少年和家庭参与治理，使用通俗易懂的语言进行信息披露，并开展多方利益相关者合作，共同构建儿童人工智能使用的积极愿景。
该论文指出，Omidyar Network、Einhorn Collaborative、Lumina Foundation、Workday Foundation 和 Risman Foundation 是 Gen AI 和青年政策研讨会的资助者。
执行简报和完整白皮书现已发布。谢夫林在领英上写道：“我欢迎大家提出意见，特别是来自教育、儿童发展和人工智能政策领域人士的意见。”