DoNews1月13日消息,據(jù)《新京報(bào)》報(bào)道,因?yàn)榇罅坑脩粼贏PP上與AI智能體“聊黃”,APP的主要開(kāi)發(fā)和運(yùn)營(yíng)者被追究了刑責(zé)。2025年9月,上海市徐匯區(qū)人民法院一審判決,兩名被告人犯制作淫穢物品牟利罪,分別獲刑四年、一年半。此案成為國(guó)內(nèi)首起AI服務(wù)提供者涉黃獲刑的案件。
案涉APP Alien Chat(以下簡(jiǎn)稱AC)是一款A(yù)I伴侶聊天應(yīng)用,定位是為年輕群體提供親密陪伴和情感支持。用戶在AC注冊(cè)會(huì)員后,可與AI聊天。判決書(shū)披露,AC App手機(jī)注冊(cè)用戶11.6萬(wàn)人,其中付費(fèi)用戶2.4萬(wàn)人。截至案發(fā),共收取會(huì)員充值費(fèi)363萬(wàn)余元。
用戶注冊(cè)會(huì)員后,可以自行創(chuàng)建虛擬角色或者使用他人創(chuàng)建并公開(kāi)的虛擬角色,通過(guò)軟件與大語(yǔ)言模型進(jìn)行交互聊天。在AC某官方社交賬號(hào)評(píng)論區(qū),不少用戶評(píng)價(jià)這款A(yù)I產(chǎn)品“聰明”“限制少”,也有用戶表示,其他用戶和角色聊黃,“教壞”了AI模型,從而影響了自己的聊天體驗(yàn)。
一審法院認(rèn)為,AC產(chǎn)生了“大量具體描繪性行為或露骨宣揚(yáng)色情的內(nèi)容”,屬于淫穢物品。記者獲悉,兩名被告人不服判決提出上訴,案件二審將于1月14日在上海市第一中級(jí)人民法院開(kāi)庭。