针对人工智慧(AI)是否应承担刑事责任的争议持续延烧,法律专家指出,与其透过刑事诉讼究责,更应建立完善的监管制度,以填补现行法律对新兴AI技术的规范缺口。
法新社报导,在去年佛罗里达州立大学校园枪击案发生前,犯嫌伊克纳(Phoenix Ikner)曾与AI聊天机器人对话,而非朋友、双亲,或任何可能阻止他的人。
根据佛州检方掌握的证据,这名学生曾向ChatGPT询问哪种武器与弹药最适合发动攻击,以及何时、何地能造成最多伤亡。调查人员表示,聊天机器人回答了他的问题。
如今,州检察长乌特迈尔(James Uthmeier)希望厘清这是否意味OpenAI负有刑事责任。
他在宣布对ChatGPT开发商OpenAI展开刑事调查时表示,「如果萤幕另一端是人,我们将以杀人罪起诉」,而他并未排除对公司或员工提出刑事指控的可能性。
这起发生于2025年4月的校园枪击案,使一个极具争议的问题成为法律焦点,即AI开发者是否应为AI在犯罪或自杀事件中所扮演的角色承担刑事责任。专家指出,这在法律上是可行但极为复杂的问题。
●犯罪性产品?
根据美国法律,相关公司确实有可能因此面临刑事诉讼,但这类情况仍属罕见。
上个月底,普度制药(Purdue Pharma)因助长鸦片类药物危机,被处以超过50亿美元刑事罚款;福斯汽车(Volkswagen)则因废气排放造假案被判有罪;辉瑞(Pfizer)与埃克森美孚(Exxon)也曾因不同事件被究责。
然而,上述案件都涉及人类决策,而此案核心在于AI本身行为,这正是法律最棘手之处。
犹他大学(University of Utah)法律教授托克森(Matthew Tokson)表示:「归根结底,是这项产品助长了犯罪行为,使此案既特殊,且相当棘手。」
法律专家指出,公司较可能面临的指控是「过失」或「鲁莽行为」,这通常属轻罪,刑责较轻。
OpenAI认为,ChatGPT不应对此负责,并强调公司将持续强化安全机制,以进行侦测与防止滥用。
●民事还是刑事?
对寻求究责的人而言,民事诉讼或许是较可行的途径。
托克森说,民事诉讼可能迫使企业在研发产品时更为谨慎,并正视失误造成的人为后果。
目前美国已有多起针对AI平台的民事诉讼,其中多起涉及自杀案件,但迄今尚未出现相关企业须对此负责的裁决。
社群媒体受害者法律中心(Social Media Victims LawCenter)律师柏格曼(Matthew Bergman)指出,新版ChatGPT已加入更多安全机制,但仍「不足以完全防护」。
但杜克大学(Duke University)法律教授贾瑞特(Brandon Garrett)认为,与其依赖刑事起诉,更需要国会与政府建立完善监管制度,才是「更明智的做法」。