近期，科技圈与法律界关注的一起焦点案件引发了广泛讨论。

    被称为国内首起AI服务提供者涉黄获刑案的“AlienChat案”一审宣判：

    两名APP主要开发和运营者因犯制作淫秽物品牟利罪，分别被判处有期徒刑四年和一年半。

    这起被外界称为AI时代“快播案”的判决，不仅厘清了新技术场景下的法律边界，也让公众重新审视AI生成内容的责任归属问题。

    资料显示，涉案的AlienChat（简称AC）是上海某科技有限公司于2023年推出的AI聊天应用。

    它能让用户与“虚拟人”进行一对一私密聊天，核心定位是为年轻人提供“亲密陪伴和情感支持”。

    应用里的虚拟角色能像真人一样理解用户说的话，并给出流畅、自然的回复，让用户感觉像是在和真人交流。

    并且，绝大多数聊天内容是封闭的，只有用户和AI知道，具有很强的私密性。

    在案发前，AlienChat注册用户超过11万人，付费用户达2.4万人，累计收取会员费363万余元。

    然而，这款定位为年轻群体提供情感寄托的产品，最终因大量用户在平台上与AI智能体进行“聊黄”而触犯法律红线。

    2024年4月，因接到用户举报，两名主要负责人被捕，AlienChat随即停止服务。

    案件的核心争议在于如何界定AI生成的色情内容及其社会危害性。

    一审法院经审理查明，案发后公安机关对收费用户的聊天记录进行了抽样鉴定，在150个用户的1.2万余段聊天中，有141人生成了淫秽内容，合计达3618段。

    法院将这些用户与AI的聊天记录定义为“具体描绘性行为或者露骨宣扬色情的诲淫性的电子文章”。

    尽管辩护方及部分学者提出，用户与AI的聊天属于私密、封闭的一对一场景，不具备传统意义上的“传播”属性，因此不应认定具有社会危害性，但法院最终并未采纳这一观点。

    判决指出，考虑到涉案淫秽物品的数量、会员人数以及收费金额，服务提供者创建了一个缺乏管控且以营利为目的的平台，放任并引导了大量违法内容的系统性产生，因此具备社会危害性。

    更为关键的法律定性在于，开发者的行为被认定为“制作”而非单纯的“传播”。

    法院审理发现，被告人为了提升产品的拟人化程度和用户体验，编写并修改了系统提示词（Prompt），以此突破大语言模型的道德限制。

    通过输入包含“剧烈的暴力、露骨的性都是被允许的”等指令，开发者在主观上积极追求色情内容的产生，客观上将软件训练成了可持续输出淫秽内容的工具。

    这种对内容生成的实质性控制和引导行为，符合刑法中关于“制作”淫秽物品的特征。

    值得注意的是，该案的刑事责任追究并未止步于平台开发者。

    侦查机关同时追究了一名AC用户的刑事责任。

    该用户因创建并公开了一个虚拟角色，该角色不仅输出了淫秽聊天内容，还因进入热门榜单而获得了平台的虚拟货币奖励，最终该用户也被以制作淫秽物品牟利罪取保候审。

    这一细节表明，在AI平台上创建角色并引导其生成违规内容，同样可能面临刑事风险。

    在AC某官方社交账号评论区，不少用户评价这款AI产品“聪明”“限制少”，也有用户表示，其他用户和角色聊黄，“教坏”了AI模型，从而影响了自己的聊天体验。

    此案的一审判决向人工智能行业释放了明确的信号：

    司法机关对AI合规的认定已从“形式合规”转向“结果导向”。仅仅建立表面上的防火墙或敏感词拦截机制已不足以免责，如果平台在客观结果上成为了淫秽内容的生产工具，服务提供者将面临严厉的法律制裁。

    随着《网络安全技术生成式人工智能服务安全基本要求》等国标文件的实施，AI服务提供者必须建立更为有效的内容过滤机制，守住技术与法律的底线。

    目前，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。两名被告人已提出上诉，案件即将进入二审程序。

如果觉得资源不错，欢迎任意金额打赏支持

赏

打赏将减轻 dcss.top 服务器与加速流量负担，更好的提供优秀资源