隨著人工智能軟件普及，“AI換臉”“AI合成照片、視頻”等技術(shù)越來(lái)越多地出現(xiàn)在網(wǎng)絡(luò)里，“AI”造假花樣越來(lái)越多，一些不法分子將新技術(shù)用于非法的目的，讓犯罪手段又有了新方式。

“一鍵去衣”！

深度偽造近七千張淫穢圖片

在北京警方偵破的一起案件中，警方接到報(bào)案，有人在境外的網(wǎng)站上發(fā)廣告，只需一張日常生活照片，就可以完成一鍵“去衣”的效果。

一名被警方抓獲的犯罪嫌疑人白某某原本是一家互聯(lián)網(wǎng)公司的技術(shù)員，他因?yàn)槭褂肁I去衣技術(shù)，制作、販賣淫穢物品而涉嫌犯罪。

北京市海淀區(qū)人民檢察院檢察官助理 郭樹正：白某某用的這款人工智能軟件，能很快對(duì)被害人的圖片“一鍵去衣”，基本上幾秒鐘、幾分鐘就能批量生成相應(yīng)的圖片。他在QQ上向351個(gè)人販賣過相關(guān)圖片，圖片數(shù)量將近7000張。

那么，這些經(jīng)過去衣的照片的受害者都是什么人？白某某為什么要制作這些照片呢？他又是如何進(jìn)行牟利的呢？

2023年6月，家住北京的白某某在境外的社交媒體上接觸到了這項(xiàng)“一鍵去衣”的技術(shù)，于是他動(dòng)起了歪心思，打算利用這項(xiàng)技術(shù)來(lái)賺錢。

白某某發(fā)布的廣告帖，上面寫著“電腦AI去衣，白菜價(jià)”“身邊人、網(wǎng)紅、明星皆可”。他的廣告發(fā)布后，有不少人聯(lián)系白某某，給他發(fā)送照片并購(gòu)買這項(xiàng)“去衣”服務(wù)。

那么，“AI去衣”究竟是怎樣的一種技術(shù)呢？據(jù)白某某供述，這項(xiàng)技術(shù)并不是真的“去衣”，而是一種偽造、重繪的技術(shù)。

郭樹正：其實(shí)我們可以把它理解為深度的圖片偽造，它并不是真的去掉別人照片上的衣服，其實(shí)都是針對(duì)已有的模型和已有的模組進(jìn)行圖片重繪。

而且，這項(xiàng)技術(shù)操作起來(lái)十分簡(jiǎn)單，去衣只需要一鍵就能完成，因此白某某定價(jià)不高，一張照片只需要1.5元，卻可以利用低價(jià)吸引更多的訂單。

檢察機(jī)關(guān)認(rèn)為，被告人白某某以牟利為目的，制作、販賣淫穢物品，情節(jié)嚴(yán)重，其行為觸犯了《中華人民共和國(guó)刑法》的相關(guān)規(guī)定，應(yīng)當(dāng)以制作、販賣淫穢物品牟利罪追究其刑事責(zé)任。

公訴人：人工智能技術(shù)興起之后，已經(jīng)成為當(dāng)今科技領(lǐng)域備受矚目的技術(shù)之一，正在深刻改變我們社會(huì)、經(jīng)濟(jì)以及生活方式，為社會(huì)帶來(lái)更多的便利。同時(shí)我們也打擊治理運(yùn)用AI技術(shù)實(shí)施犯罪，任何利用新技術(shù)實(shí)施犯罪的行為必將受到嚴(yán)懲。

“換臉”偽造不雅照

實(shí)施敲詐勒索

一鍵去衣、AI換臉技術(shù)，還會(huì)被不法分子利用，成為敲詐勒索的工具。近期，這類案件又有抬頭趨勢(shì)。前不久，深圳警方打掉一個(gè)團(tuán)伙，這個(gè)團(tuán)伙從網(wǎng)上等各種渠道收集被害人圖片信息，然后進(jìn)行合成處理，用來(lái)敲詐勒索。

前不久，深圳市民吳先生突然收到一個(gè)陌生手機(jī)號(hào)碼發(fā)來(lái)的彩信，點(diǎn)開一看竟然是他和一名陌生女子在酒店房間內(nèi)的不雅照片。

當(dāng)事人 吳先生：當(dāng)時(shí)我收到一條彩信，里面是我的一張裸照，他當(dāng)時(shí)威脅我，在幾點(diǎn)之前要跟他聯(lián)系給他轉(zhuǎn)錢，我當(dāng)時(shí)一想不對(duì)勁，就報(bào)警了。

深圳警方接到報(bào)案后，立即對(duì)吳先生提供的線索進(jìn)行偵查。通過梳理報(bào)案記錄，警方發(fā)現(xiàn)全市有同樣遭遇的不止吳先生一人，犯罪嫌疑人的敲詐勒索方式都如出一轍。

于是警方立即對(duì)相似的案件進(jìn)行串并處理。調(diào)查后，一個(gè)通過換臉技術(shù)合成不雅照，實(shí)施敲詐勒索的犯罪團(tuán)伙逐漸浮出水面。

隨著偵查工作的深入，警方發(fā)現(xiàn)這是一個(gè)以王某為首的犯罪團(tuán)伙，團(tuán)伙內(nèi)分工明確，有人負(fù)責(zé)修圖，有人負(fù)責(zé)尋找作案目標(biāo)，有人負(fù)責(zé)發(fā)短信打電話聯(lián)系收款。深圳坪山警方兵分多路，展開統(tǒng)一收網(wǎng)行動(dòng)，在多地警方協(xié)助下成功抓獲以王某為首的十多名犯罪嫌疑人。

在犯罪嫌疑人的電腦里，警方發(fā)現(xiàn)了大量經(jīng)過合成換臉后的不雅照片。

目前，王某等人已被檢察機(jī)關(guān)提起公訴。案件正在進(jìn)一步審理當(dāng)中。

以合成照威脅受害人

并準(zhǔn)確說(shuō)出個(gè)人信息

在山東威海，也有當(dāng)事人遭遇到騙局，在收到偽造的不雅照后，沒有多加核實(shí)，就向敲詐團(tuán)伙轉(zhuǎn)賬20萬(wàn)元。

前不久，威海警方接到了反詐中心的一條資金預(yù)警信息，有市民正在向涉詐賬戶進(jìn)行轉(zhuǎn)賬，民警立即與當(dāng)事人取得聯(lián)系，核實(shí)情況。

威海市公安局經(jīng)濟(jì)技術(shù)開發(fā)區(qū)分局皇冠派出所民警 劉羿：我們看到他的手機(jī)收到了一條短信，短信上的內(nèi)容大概就是一張圖片，上面有一男一女的裸照，還附了留言，說(shuō)“我有你全部的影像資料，趕緊跟我聯(lián)系”，并附上了一個(gè)電話。

王先生說(shuō)自己當(dāng)時(shí)看到這張照片，當(dāng)時(shí)就有點(diǎn)蒙。沒有來(lái)得及多想，他撥打了信息上面的電話。由于對(duì)方準(zhǔn)確地說(shuō)出了自己的姓名以及工作單位，并且告訴王先生只要向他們轉(zhuǎn)賬68萬(wàn)元就可以買斷這些視頻，如果王先生不給錢就把視頻公開。在對(duì)方的恐嚇下，王先生信以為真。

然而，先后轉(zhuǎn)賬的20萬(wàn)元，根本滿足不了對(duì)方的胃口。正當(dāng)王先生驚慌失措時(shí)，民警聯(lián)系到了王先生。

劉羿：當(dāng)我們跟王先生一同看這張照片的時(shí)候，我們發(fā)現(xiàn)雖然臉部有相似的地方，但是他的臉型以及身形完全不是他本人。

之后，民警趕緊通過國(guó)家反詐大數(shù)據(jù)平臺(tái)對(duì)王先生轉(zhuǎn)賬的兩個(gè)銀行賬戶進(jìn)行緊急止付操作。

經(jīng)過研判分析，警方鎖定了犯罪嫌疑人鄭某和鐘某的身份信息。今年1月22日，威海警方趕赴浙江烏鎮(zhèn)將兩名犯罪嫌疑人抓獲歸案，為王先生挽回了損失。

警方提示：遇到此類情況要及時(shí)留存證據(jù)，撥打110報(bào)警。

轉(zhuǎn)自：央視新聞

來(lái)源： 瀟湘晨報(bào)