作者：美联社科技记者马特·奥布莱恩
加拿大落基山脉小镇一起校园枪击案受害者的家属，正在美国联邦法院起诉人工智能公司OpenAI，指控这家ChatGPT制造商未能就枪手与该聊天机器人的危险互动向警方发出警告，要求其承担责任。
周三提起的诉讼代表12岁的玛雅·格巴拉，她在今年2月的枪击案中受重伤。这是不列颠哥伦比亚省图姆布里奇里奇镇数十个家庭计划提起的诉讼中的首批之一，这些诉讼指控OpenAI存在过失致人死亡、疏忽和产品责任等问题。
原告律师杰伊·埃德尔森在接受采访时表示，OpenAI及其CEO萨姆·奥特曼做出的决定“摧毁了这个小镇。这里的人们非常坚韧，但发生的事情令人难以想象。”
奥特曼上周致信社区，正式道歉称他的公司没有将枪手的在线行为通知执法部门。
当局称，2月10日，枪手在家中杀害了她的母亲和11岁的继弟，随后在附近的图姆布里奇里奇中学开枪，造成5名儿童和1名教育工作者死亡，随后自杀。此次袭击还造成25人受伤，是加拿大多年来最致命的大规模枪击案。
此案凸显了人们对过于顺从的AI聊天机器人可能造成的危害，以及科技行业控制这些机器人或向当局报告聊天机器人用户计划暴力行为的义务的担忧。本月，调查南佛罗里达大学两名博士生死亡案的检察官表示，嫌疑人在学生失踪前曾向ChatGPT询问如何处理尸体。
针对诉讼，OpenAI在书面声明中表示，“图姆布里奇里奇发生的事情是一场悲剧。我们对使用我们的工具协助实施暴力采取零容忍政策。”
“正如我们向加拿大官员通报的那样，我们已经加强了保障措施，包括改进ChatGPT如何应对痛苦迹象，将人们与当地支持和心理健康资源联系起来，加强我们评估和升级潜在暴力威胁的方式，以及改进对重复违规者的检测，”该公司表示。
芝加哥律师埃德尔森以挑战科技行业而闻名，他已经在处理多起针对OpenAI的高调案件，包括来自一名加州青少年家庭的案件，该青少年在与ChatGPT对话后自杀，以及来自康涅狄格州一名83岁妇女继承人的案件，该妇女被儿子杀害，据称ChatGPT助长了该男子的“偏执妄想”。
“这不是一种被动技术，”埃德尔森说，他将聊天机器人的互动与更传统的在线信息搜索进行了比较。“我们过去看到的是，（对于）有精神疾病的人，聊天机器人会验证他们所说的话，然后放大他们所说的话。”
上周，埃德尔森访问了小镇图姆布里奇里奇，并在一个游客中心的地下室会见了数十人。他还前往温哥华的一家儿童医院探望了格巴拉，她仍在住院，看起来清醒但无法说话。
“这太令人心碎了，”他说。
周三提起的诉讼代表了校园枪击案中遇害的5名儿童的家庭：佐伊·贝努瓦、小阿贝尔·姆万萨、蒂卡里亚·“蒂基”·兰伯特和凯莉·史密斯，均为12岁，以及13岁的以西结·斯科菲尔德，还有教育助理尚达·阿维乌加纳-杜兰。
枪击案发生后，OpenAI主动表示，去年6月该公司已标记枪手的账户被用于讨论针对他人的暴力行为。
该公司表示，曾考虑是否将该账户提交给加拿大皇家骑警，但当时认为该账户活动未达到提交给执法部门的标准。OpenAI于6月因违反使用政策而封禁了该账户。
周三提起的诉讼称，“受害者之所以得知此事，并非因为OpenAI主动披露，而是因为其员工在无法忍受公司沉默后，向《华尔街日报》泄露了信息。”
奥特曼在上周五发布的信中表示，“对于未将6月封禁的账户通知执法部门，我深感抱歉。”
“虽然我知道言语永远不够，但我认为道歉是必要的，以承认你们的社区遭受的伤害和不可逆转的损失，”奥特曼写道。
不列颠哥伦比亚省省长戴维·伊比在社交媒体上发帖称，这一道歉“是必要的，但对于图姆布里奇里奇家庭所承受的破坏来说，远远不够。”
格巴拉的诉讼指控OpenAI存在疏忽，未能警告执法部门，并“协助和教唆大规模枪击事件”。
除赔偿外，格巴拉的诉讼还寻求法院命令，要求OpenAI禁止因暴力滥用而被停用账户的用户使用ChatGPT，并要求公司在系统识别出对“现实世界存在暴力风险”的人时通知执法部门。
此前，不列颠哥伦比亚省的一家法院已受理一起案件，但两国的一个律师团队正努力将相关案件转移到OpenAI总部所在地旧金山审理。
美联社记者吉姆·莫里斯从不列颠哥伦比亚省温哥华发回报道。
