2025年3月12日，知名模特葉凱薇通過社交媒體公開控訴，自己被不法分子利用AI換臉技術(shù)制作成淫穢視頻并大肆傳播。視頻中，她聲淚俱下地表示，自2024年起便發(fā)現(xiàn)相關(guān)偽造內(nèi)容在網(wǎng)絡(luò)上瘋狂擴(kuò)散，甚至引發(fā)同行及攝影師對其人格的污蔑與謠言攻擊。目前，葉凱薇已向上海警方報案，并完成關(guān)鍵證據(jù)的收集工作。

　　上海警方迅速介入調(diào)查后，經(jīng)專業(yè)機(jī)構(gòu)鑒定確認(rèn)涉案視頻系通過技術(shù)拼湊偽造而成，案件已進(jìn)入刑事偵查階段。警方強(qiáng)調(diào)，此類行為涉嫌觸犯《刑法》中“制作、傳播淫穢物品牟利罪”，若查實(shí)犯罪事實(shí)，相關(guān)責(zé)任人將面臨最高無期徒刑的嚴(yán)懲。葉凱薇同時呼吁公眾停止傳播不實(shí)信息，并表示將對惡意造謠者提起民事訴訟。

　　此案并非孤例。近年來，AI換臉技術(shù)濫用已形成黑色產(chǎn)業(yè)鏈，不法分子通過定制“換臉”淫穢視頻牟利，甚至以每部幾十元的價格兜售。據(jù)杭州蕭山區(qū)檢察院披露，2021年犯罪嫌疑人虞某利用該技術(shù)合成1200余部淫穢視頻，并在2000人以上的社交群組傳播，最終被判處有期徒刑并承擔(dān)民事公益賠償6萬元。類似案件中，廣西賀州一被告因獲利僅2600元仍被重判7年，凸顯司法對此類犯罪的零容忍態(tài)度。

　　法律專家指出，AI換臉技術(shù)不僅侵犯肖像權(quán)、名譽(yù)權(quán)，更威脅公共信息安全。安徽大學(xué)副教授王云飛分析，現(xiàn)行法律雖能將部分行為納入“制作淫穢物品”“誹謗罪”等條款規(guī)制，但技術(shù)迭代速度遠(yuǎn)超立法進(jìn)程，亟需建立針對開發(fā)者、平臺、用戶的三層監(jiān)管體系。全國政協(xié)委員周世虹建議，應(yīng)將倫理原則嵌入AI立法，明確技術(shù)應(yīng)用的合法邊界，避免“一管就死、一放就亂”的困局。

　　技術(shù)濫用的社會危害已引發(fā)連鎖反應(yīng)。除色情制品外，AI換臉還被用于直播詐騙、身份盜用等新型犯罪。2023年杭州互聯(lián)網(wǎng)法院審理的“AI換臉第一案”中，被告通過偽造人臉信息繞過金融系統(tǒng)監(jiān)管，導(dǎo)致多名受害者財產(chǎn)受損。最高檢發(fā)布的典型案例顯示，此類犯罪往往具有隱蔽性強(qiáng)、復(fù)制成本低、識別難度高等特點(diǎn)，普通民眾防不勝防。

　　面對技術(shù)失控風(fēng)險，我國正加快完善監(jiān)管框架。2023年實(shí)施的《生成式人工智能服務(wù)管理辦法》要求平臺對深度合成內(nèi)容添加“技術(shù)水印”，國家網(wǎng)信辦也推動建立開發(fā)者備案與安全評估制度。然而，法律界人士指出，現(xiàn)有法規(guī)對“知情同意”原則執(zhí)行不力，許多案例中受害者人臉信息被非法采集時毫不知情。

　　行業(yè)自律同樣至關(guān)重要。部分短視頻平臺已開始封禁違規(guī)換臉賬號，但地下交易仍通過境外服務(wù)器、加密通訊等手段持續(xù)活躍。中國政法大學(xué)專家建議，平臺需強(qiáng)化“AI生成內(nèi)容”標(biāo)識義務(wù)，并建立“反換臉”鑒偽技術(shù)聯(lián)盟。與此同時，公眾教育短板亟待彌補(bǔ)——調(diào)查顯示，超六成網(wǎng)民無法有效識別深度偽造視頻。

　　葉凱薇的遭遇引發(fā)公眾對“數(shù)字人格權(quán)”的深刻思考。她在聲明中質(zhì)問：“當(dāng)技術(shù)能隨意篡改一個人的面容與行為，我們該如何保護(hù)自己的數(shù)字身份?”這一詰問直指AI時代的核心矛盾——技術(shù)創(chuàng)新與人格尊嚴(yán)的平衡。中國社科院研究報告警示，若放任技術(shù)濫用，將導(dǎo)致社會信任體系崩塌，甚至動搖司法證據(jù)的權(quán)威性。

　　全球范圍內(nèi)，歐盟通過《人工智能法案》嚴(yán)格限制生物識別技術(shù)濫用，美國加州立法禁止政治選舉中使用深度偽造。相比之下，我國雖在《民法典》中確立個人信息保護(hù)原則，但專項(xiàng)立法仍處空白。最高法人士透露，針對AI換臉的司法解釋草案已進(jìn)入征求意見階段，重點(diǎn)厘清“合理使用”與“惡意侵權(quán)”的界限。

　　在這場技術(shù)與法律的賽跑中，葉凱薇案成為推動社會共識的關(guān)鍵節(jié)點(diǎn)。正如她在視頻結(jié)尾所言：“維權(quán)不僅是為自己正名，更是為所有可能成為下一個受害者的普通人發(fā)聲。”隨著案件進(jìn)展，這場關(guān)乎科技倫理與法治文明的較量，或?qū)⒅厮蹵I時代的權(quán)利邊界。