4月15日,，日本警視廳以涉嫌利用生成式AI制作并在網(wǎng)絡(luò)拍賣(mài)平臺(tái)販賣(mài)淫穢圖片為由,，逮捕了年齡在20多歲至50多歲的男女四人團(tuán)伙。
據(jù)警方透露,，此次案件涉及的圖片均為不存在的AI虛擬人女性,。這也是日本國(guó)內(nèi)首次查處通過(guò)生成式AI技術(shù)制作并販賣(mài)淫穢物品的案件，引發(fā)社會(huì)廣泛關(guān)注,。
被捕的嫌疑人包括來(lái)自愛(ài)知縣的零售業(yè)者水谷智浩（44歲）及居住于埼玉縣的公司職員菅沼貴司（53歲）等4人,。
據(jù)警方調(diào)查，去年10月起,，這4人多次將通過(guò)AI生成的女性不雅圖片制作成海報(bào)后,，公開(kāi)在網(wǎng)上拍賣(mài)，每張售價(jià)數(shù)千日元,。
其中水谷嫌疑人通過(guò)一年左右的時(shí)間,，非法獲利超過(guò)1000萬(wàn)日元（約合人民幣52萬(wàn)元）。
警方表示,，這些圖片的制作過(guò)程涉及使用免費(fèi)提供的生成式AI軟件,，通過(guò)大量網(wǎng)絡(luò)圖片訓(xùn)練AI模型后，通過(guò)“張開(kāi)雙腿”等指令,，生成了逼真的虛擬裸露女性圖片,，并以“AI美女”等噱頭在社交媒體進(jìn)行宣傳銷(xiāo)售。
盡管日本在成人產(chǎn)業(yè)方面的態(tài)度相對(duì)寬松,，合法的成人影片（AV）和相關(guān)制品在市場(chǎng)上普遍存在,，但日本法律對(duì)于“淫穢物品”的界定十分明確。
根據(jù)日本刑法第175條,，公開(kāi)販賣(mài)或展示淫穢物品必須進(jìn)行必要的遮擋處理（如馬賽克）,，否則將構(gòu)成違法?？赡苓@次案件中的圖片正是因未遵守這一遮擋標(biāo)準(zhǔn),，且過(guò)于逼真和露骨，才被警方明確界定為違法淫穢物,。
水谷智浩表示,，他發(fā)現(xiàn)制作銷(xiāo)售此類(lèi)海報(bào)利潤(rùn)率很高，因此才決定嘗試,；
而菅沼貴司則稱(chēng)希望將此作為一項(xiàng)業(yè)務(wù)開(kāi)展,，為此專(zhuān)門(mén)通過(guò)自學(xué)掌握了AI制作圖片方法。
面對(duì)警方的訊問(wèn),，水谷和其他三名嫌疑人已經(jīng)承認(rèn)了這些指控,，而櫻井則部分否認(rèn)了這些指控，稱(chēng)他“不認(rèn)為這是違法的”,。
目前,，以AI技術(shù)生成的虛假色情圖片在網(wǎng)絡(luò)上泛濫，其中包括針對(duì)真實(shí)人物進(jìn)行篡改或偽造的所謂“深度偽造（Deepfake）”技術(shù),，已成為全球性問(wèn)題,。
此前,，日本也曾發(fā)生過(guò)使用此類(lèi)技術(shù)侵犯真人名譽(yù)的案件，但本案是日本首次將生成AI制作的虛擬人物淫穢圖片明確定性為犯罪并采取法律行動(dòng),。
日本金澤大學(xué)法學(xué)院教授長(zhǎng)瀨貴志在接受采訪時(shí)表示：“新技術(shù)在帶來(lái)便利的同時(shí),，也不可避免地存在被濫用的風(fēng)險(xiǎn)。此次案件明確顯示生成式AI技術(shù)同樣難逃這一現(xiàn)實(shí)問(wèn)題,?！彼赋觯袛嗪螢椤耙x”一直以來(lái)都涉及與憲法保護(hù)的言論自由之間的權(quán)衡,，今后應(yīng)根據(jù)新技術(shù)特點(diǎn)持續(xù)進(jìn)行討論,。
比如日本的某些浮世繪春畫(huà)也涉及明顯暴露性器官，按照現(xiàn)行標(biāo)準(zhǔn)嚴(yán)格來(lái)說(shuō)也屬于“淫穢物”的范疇,，但又基于其特殊的歷史,、文化和藝術(shù)背景，在現(xiàn)實(shí)司法操作中,，往往被排除在嚴(yán)格管制范圍之外,，或被賦予寬松的特殊地位。這種看似矛盾卻又合情合理的做法,，也體現(xiàn)了日本法律及社會(huì)在處理文化傳統(tǒng)與現(xiàn)代法律之間的復(fù)雜關(guān)系時(shí),，保持的一種曖昧
與此同時(shí)，圍繞使用生成AI制作兒童色情圖片的問(wèn)題也引發(fā)了監(jiān)管的激烈討論,。日本現(xiàn)行《兒童色情禁止法》明確禁止制作和傳播涉及未滿(mǎn)18歲兒童的性相關(guān)圖片,。
日本法務(wù)省表示，如果AI生成的兒童色情圖片能夠追溯到實(shí)際存在的兒童原型,，那么可能適用于該法案進(jìn)行處罰,。然而，目前的法律尚難以涵蓋純虛擬生成的兒童圖片,。
今年4月1日,，日本鳥(niǎo)取縣正式實(shí)施了修訂后的《青少年健全育成條例》，明確將通過(guò)AI技術(shù)將未滿(mǎn)18歲青少年的面部照片合成為不雅圖片或視頻的行為界定為兒童色情行為,，予以嚴(yán)格禁止,。
此外，國(guó)際上也不斷加大對(duì)此類(lèi)違法行為的打擊力度,。歐洲刑警組織（Europol）今年宣布,，在19個(gè)國(guó)家逮捕了25名涉嫌運(yùn)營(yíng)AI生成的虛擬兒童性虐待內(nèi)容網(wǎng)站的嫌疑人。
雖然受害者并非真實(shí)存在的兒童,，但該組織強(qiáng)調(diào)此類(lèi)內(nèi)容助長(zhǎng)了針對(duì)未成年人的性犯罪行為,，必須予以嚴(yán)厲打擊,。
日本科學(xué)技術(shù)擔(dān)當(dāng)大臣城內(nèi)實(shí)也表示,，“惡意利用AI的行為不可容忍,，應(yīng)依照現(xiàn)行法律嚴(yán)肅處理。日本政府已在本屆國(guó)會(huì)上提交相關(guān)法案,，將強(qiáng)化監(jiān)管協(xié)調(diào)機(jī)制,，全面高效應(yīng)對(duì)AI濫用所引發(fā)的各類(lèi)問(wèn)題?！?/p>
此次案件表明,，即使是生成式AI所制作的虛擬人的色情圖片，在日本也不是法外之地,，相關(guān)法律將嚴(yán)格適用,。
最后，大家有無(wú)發(fā)現(xiàn)這些年日本女犯罪人的顏值都挺高的,？
