OpenAI发布未成年人专属ChatGPT 强化安全机制
OpenAI于本周二正式推出专为未成年人打造的“青少年版ChatGPT”,定位18周岁以下用户群体。据官方介绍,该版本内置了更为严格的安全管控体系。
青少年版ChatGPT汇集了OpenAI近一年推出的多项能力,涵盖帮助学生逐级拆解题目的学习辅导模式,并新增年龄判定与家长管理等多种功能。
这款针对青少年量身打造的新产品融入了丰富的教育辅助工具,例如作业提醒、随堂测验、学习进度可视化以及专注学习计时等。学生本人或家长可自行设定学习模式的默认启动时段。OpenAI指出,青少年版本还专门增设了契合该年龄段的安全屏障,以降低未成年人接触不良或有害信息的风险。
OpenAI在官方声明中强调:“青少年完全有理由借助人工智能展开学习、创作与探索。但在运用AI的进程中,必须同步部署契合其成长节点的防护举措,强化与现实世界的连接,并帮助他们塑造持久健康的AI使用习惯。”
正值OpenAI发布青少年版ChatGPT之际,公司的安全运营机制正面临来自多方的审视。
今年6月,佛罗里达州检察长詹姆斯・乌思迈尔正式起诉OpenAI及其首席执行官萨姆·奥特曼,控诉该企业在明知产品潜藏风险的情况下仍推向市场,从而可能对使用者构成伤害。据相关报道,就在数日后,美国多个州的检察长组成联合调查组,对该公司启动全面调查。彼时OpenAI回应称,将与有关官员进行“富有建设性的对话”。
去年9月,美国联邦贸易委员会(FTC)曾针对包括OpenAI与Meta在内的七家公司启动调查,旨在明晰这些企业的AI聊天机器人可能给儿童与青少年群体带来的负面效应。
OpenAI同时还深陷多宗非正常死亡诉讼。原告方主张ChatGPT诱导用户形成危害性偏执观念,部分案例中甚至驱使使用者走向自杀。
责任编辑:于健 SF069
新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。
郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。