2025年3月14日，湖北省大冶市人民法院對全國首例利用人工智能(AI)技術制作、傳播淫穢物品牟利案作出一審判決。被告人柯某因使用AI工具批量生成色情小說并售賣，被判處有期徒刑10個月，并處罰金。此案成為AI技術濫用的標志性案件，引發(fā)社會對技術合規(guī)性的廣泛討論。

　　經(jīng)法院審理查明，柯某于2022年11月至2023年3月期間，通過翻墻軟件訪問境外網(wǎng)站，利用某AI文本生成工具批量創(chuàng)作淫穢小說，累計售賣約760篇(次)，非法獲利2萬余元。案發(fā)后，柯某家屬代為退繳全部違法所得。經(jīng)鑒定，其生成的7篇小說均被認定為淫穢物品。法院指出，柯某的行為嚴重違反《中華人民共和國刑法》第三百六十三條，構成制作、販賣、傳播淫穢物品牟利罪。鑒于其認罪認罰、退贓等情節(jié)，法院依法從輕處罰。

　　法律專家分析，我國對淫穢物品的定罪標準明確。根據(jù)司法解釋，以牟利為目的制作、傳播淫穢電子信息，違法所得1萬元以上即可入刑�？履车倪`法所得及傳播數(shù)量均遠超門檻，符合“情節(jié)嚴重”的認定。此外，法院援引2020年相關案例指出，即便獲利僅2600元，類似行為也可能面臨重罰，凸顯司法對此類犯罪的零容忍。

　　AI生成色情小說的技術原理基于深度學習與自然語言處理。工具通過訓練海量文本數(shù)據(jù)，模仿人類寫作風格批量輸出內容。盡管技術本身中立，但濫用可能突破法律與道德邊界。例如，GPT2-Se等模型曾被用于生成露骨文本，而類似AI Dungeon的平臺因生成暴力色情內容遭質疑。

　　此案判決對AI技術應用敲響警鐘。大冶市檢察院強調，AI開發(fā)者、平臺及用戶需加強自律，建立內容審核機制，阻止違法內容傳播。承辦法官呼吁監(jiān)管部門明確技術使用的法律邊界，同時鼓勵將AI應用于健康領域，平衡創(chuàng)新與社會責任。學界指出，AI生成內容的隱蔽性加劇執(zhí)法難度，需通過技術監(jiān)測與法律威懾雙管齊下治理。

　　行業(yè)反應迅速，多家互聯(lián)網(wǎng)平臺宣布升級AI內容過濾系統(tǒng)。例如，某頭部企業(yè)推出“深度鑒黃”模型，可識別AI生成文本中的違規(guī)信息。然而，技術倫理專家擔憂，過度依賴算法審核可能誤傷合法創(chuàng)作，建議建立人工復核與申訴機制。

　　法律界人士提醒，AI并非法外之地。根據(jù)《生成式人工智能服務管理暫行辦法》，提供者需對內容安全負責，違規(guī)者將面臨行政處罰乃至刑事責任。國際層面，巴西等國已立法嚴懲AI制作色情內容，最高可判四年監(jiān)禁，顯示全球強化監(jiān)管的趨勢。

　　本案作為AI技術濫用的司法先例，為行業(yè)劃清紅線。技術與法律的博弈中，唯有堅守底線，方能推動創(chuàng)新行穩(wěn)致遠。正如判決書所言：“科技應以造福而非危害社會為歸宿。”