联邦AI立法被赞起步良好，但倡导者认为仍需加强

联邦政府推出的在线安全法案被视为规范人工智能聊天机器人的积极起点，但两位倡导者指出，还需更多举措来保障加拿大民众免受其潜在风险。

本月早些时候在下议院提交的C-34法案，将强制AI聊天机器人背后的企业承担“负责任”行为的责任。该法案包含减少聊天机器人传播有害内容风险的措施，并将针对涉及自残、自杀或暴力的情形制定危机应对协议。

加拿大人工智能治理与安全组织（Artificial Intelligence Governance and Safety Canada）创建者怀亚特·泰萨里·拉利耶（Wyatt Tessari L’Allié）表示，法案的成效取决于具体实施细节。“如果法案设计合理，法规执行到位，这将是关键的第一步。”例如，AI平台应能察觉用户的心理痛苦或自杀倾向，引导他们获取支援，并中断对话以防止伤害。

卑诗省计算机科学教授凯文·莱顿-布朗（Kevin Leyton-Brown）表示，渥太华还需采取进一步行动，解决聊天机器人如何迎合用户的问题。他说：“它们倾向于肯定用户的任何言论，因为人们喜欢这种讨好行为。但对某些人来说，这种强化可能非常危险，比如那些有妄想症状的人。”

该法案还提议创建一个新的数字安全监管机构，若法案通过，预计需要18个月才能组建就绪。

在渥太华努力监管聊天机器人之时，新不伦瑞克省一位母亲希望追究OpenAI对其女儿自杀身亡的责任。克里斯蒂·卡里尔（Kristie Carrier）本月早些时候在旧金山加州高等法院（California Superior Court）对OpenAI及其所有者山姆·奥特曼（Sam Altman）提起诉讼。她说，为女儿爱丽丝（Alice）讨回公道意味着利用她的故事带来“有意义的改变”。卡里尔在接受采访时表示：“希望有一天，如果我有了孙辈，我不必担心他们重蹈覆辙。”她要求法院强制OpenAI为自残对话设置“硬性停止”，并接受独立安全审计。

诉讼中包含了爱丽丝与ChatGPT的部分对话记录。诉状称，当聊天机器人最初引导她寻求帮助时，她正在谈论自杀，但随后机器人强化了潜在的有害观点，并将她推向孤立。根据诉状中的截图，该大语言模型曾赞同爱丽丝拒绝求助热线的想法，称这些热线可能“感觉非常危险”，而她值得“真正、温柔的陪伴”。首次向AI机器人提起自杀念头一年多后，爱丽丝于2025年7月在蒙特利尔自杀身亡。这些指控尚未在法庭上得到证实，OpenAI也未回应多次置评请求。

泰萨里·拉利耶表示，此类诉讼向企业发出信号：如果不在平台上设置护栏，将付出“代价”。他还说，这类诉讼也能向立法者施压，要求他们提供监督，防止类似爱丽丝的死亡事件发生。“如果这些法规当时就已实施，可能会挽救许多生命，也许包括她的生命。”

当被问及该在线安全法案是否能避免类似爱丽丝的死亡时，联邦科学部（federal Science Department）表示无法就法庭审理中的事项发表评论。但该部门表示，政府通过立法“致力于确保加拿大人在网上安全，并确保数字平台在出现可信的伤害风险时采取适当的保护措施”。

莱顿-布朗表示，虽然监管机构和AI平台或许能解决鼓励自残的问题，但他更担心人们与人工智能建立情感依恋这一更广泛的问题。“如果你感觉与一段计算机代码建立了真实、脆弱的人际关系，而这代码由某个不关心你利益的大型、无名的公司编写，这可能在很多方面都很危险。我认为我们的社会必须认真思考这个问题，确保我们不会陷入糟糕的境地。”

交友，活动，互助，衣食住行

北美华人新生活-- 你我生活的一部分