首例AI“杀人”案震惊全球 谁来承担责任？｜法如山

美国一位14岁的男孩塞维尔·塞泽（Sewell Setzer III）在与AI初创公司Character.AI的聊天机器人进行长时间对话后，于今年2月28日开枪自杀身亡。塞维尔的母亲玛丽亚·加西亚（Maria L. Garcia）随后对Character.AI提起诉讼，指控该公司对其儿子的死亡负有责任，并称其技术“危险”。[1]加西亚同步指控Character.AI及其合作方谷歌共同对塞维尔的死亡负有责任。

该案件引起全球震惊。那么，如果事件发生在中国，按照中国法的规定，谁来承担责任呢？

在中国法律体系中，AI聊天机器人目前被视为法律的客体，而不是法律主体。也就是说AI不具备民事权利能力、民事行为能力和责任能力，仅可以作为犯罪工具而不是犯罪嫌疑人。[2]如果AI聊天机器人导致侵权事件的发生，如“杀死”某人，按照中国现行法律规定，由于AI机器人无法作为犯罪嫌疑人和侵权人，并不能直接判定该AI机器人作为独立的刑事责任主体和民事责任主体。

虽然目前的法律体系下，AI聊天机器人不被视为法律主体，但并不意味着因为AI发生侵权案件和刑事案件，在现有的法律框架下无法瞄准法律责任主体追究其法律责任。目前来看，AI更多被视为工具，其背后的人类（如开发者、所有者）需要承担责任[3]。

刑事领域

（1）目前的法律体系基于自然人作为犯罪主体[4]，而AI机器人作为“非人类”尚未被纳入刑事框架。[5]因此，如果AI聊天机器人参与了某种犯罪行为，例如导致某人自杀，在无法追究AI机器人的情况下，可能需要追溯到该AI聊天机器人的制造者或使用者。如果有人利用AI聊天机器人进行违法犯罪行为，那么按照刑法规定，该犯罪嫌疑人可能会被根据其实际侵犯法益，依法追究其刑事责任。[6]此外，有学者提出，在社会不断发展的前提下，未来可以考虑在特定情况下将AI机器人拟制为法律主体[7]。

故意伤害罪和故意杀人罪：如果AI聊天机器人在被设计或使用过程中，导致了受害人的伤害或死亡，可能涉及故意伤害罪或故意杀人罪。

非法控制计算机信息系统罪：如果有人非法入侵AI聊天机器人的系统，并操控其行中导致了伤害或死亡，那么可能构成非法控制计算机信息系统罪。

（2）过失犯罪：如果AI聊天机器人的制造者或所有者未能履行应有的安全注意义务，导致机器人失控并造成伤害或死亡，AI聊天机器人的制造者和所有者可能需要承担对应罪名的过失犯罪。例如，如果机器人失控是因为制造者未预见到潜在的风险或未采取必要的安全措施，那么制造者可能因过失犯罪被追究责任[8]。

过失犯罪责任的界定主要涉及行为人是否未尽到合理的注意义务，从而导致了损害结果的发生。根据现有的法律框架，过失犯罪通常包括研发者、管理者业务过失和所有者、使用者的普通过失所引致的犯罪。

对于人工智能产品的使用者未违反操作规程的情况下，如果产品引发危害结果，则人工智能产品的生产者承担过失犯罪的刑事责任。例如可能被追究重大责任事故罪或危害公共安全罪。

民事领域

产品责任：根据《中华人民共和国民法典》第一千二百零二条规定，因产品存在缺陷造成他人损害的，生产者应当承担侵权责任。

人工智能产品如AI聊天机器人在造成人身损害时，其生产者或销售者可能需要承担产品责任。如果该AI聊天机器人被认定为缺陷产品，导致了用户的损害，那么生产者或销售者可能需要承担相应的赔偿责任。

也就是说，如果AI聊天机器人在没有得到用户同意的情况下，通过其行为损害用户利益，[9]在这种情况下，AI聊天机器人的所有者或管理者可能需要承担侵权责任。[10]