97久久精品久久88_国产综合精品久久亚洲_国产精品无码A∨精品_丰满人妻精品一区二区

“AI換臉”背后的生意經(jīng):超百部“明星、網(wǎng)紅換臉”色情視頻僅售幾十元
2023-07-10 07:33:43    央廣網(wǎng)

央廣網(wǎng)北京7月10日消息(記者劉經(jīng)宇)7月3日,一名擁有670余萬粉絲的網(wǎng)紅女主播陳嵐發(fā)布視頻稱,她遭遇了惡意Ps和AI換臉,照片被人做成了色情照片和視頻,并在網(wǎng)上公開出售。

陳嵐說,她本想搜集相關(guān)證據(jù),找出根源,又不想太聲張,但隨著評論區(qū)越來越多人“造謠”,她打算報警。

近日,記者調(diào)查發(fā)現(xiàn),不少賬號在社交平臺出售明星、網(wǎng)紅換臉的色情照片和視頻,超百部視頻售價僅幾十元。賣家出售換臉的色情素材主要分為兩種模式,一種是利用明星的公開照片“去衣”;另一種是把明星的臉換到色情圖片和視頻中。在多個電商平臺,不少商家在線出售AI繪圖軟件,并號稱此類軟件可以提供“去衣”功能,該軟件售價僅十幾元。


(資料圖)

實際上,“AI換臉”不僅能制作色情照片和視頻,可能還被人用來詐騙。6月25日,全國人大常委會法制工作委員會舉行記者會,發(fā)言人臧鐵偉表示,利用“AI換臉”技術(shù)實施詐騙是一種新型的電信網(wǎng)絡詐騙,需要廣大群眾提高識騙防騙意識,也需要有關(guān)部門依法加強治理和執(zhí)法,追究相關(guān)人員法律責任。

公開叫賣換臉的色情視頻

除女主播陳嵐外,擁有400多萬粉絲的網(wǎng)紅女主播杜悅也遇到類似情況。

據(jù)杜悅介紹,半年前,很多粉絲在她短視頻的評論區(qū)留言,說他們都看過杜悅的“色情視頻”。

“當時沒多想,我認為清者自清,畢竟這個‘謠言’總會過去?!倍艕傉f,直到有天她的一位朋友轉(zhuǎn)來一段色情視頻,女主角正是自己的模樣,她才意識到遭遇了惡意“換臉”。

杜悅說,為證明自己清白,她開始搜集相關(guān)證據(jù),想找到根源?!白詈笪野l(fā)現(xiàn)有人在境外社交平臺上冒用身份注冊了賬號,然后‘搬運’到國內(nèi)視頻平臺上發(fā)布,等到賬號有一定粉絲后,就開始售賣換臉后的色情視頻?!?/p>

杜悅提供的一張價格表顯示,里面涉及數(shù)百名網(wǎng)紅,還按照粉絲量級做了區(qū)分,從50萬粉絲以下到1000萬粉絲以上,對應的換臉色情視頻售價在30元到50元不等。此外,表格中還有眾多女明星。該表格的發(fā)布者稱,“200元可以進群,進群后私人定制,永久半價。”

記者調(diào)查發(fā)現(xiàn),在一些社交平臺上,很多賬號宣稱自己可出售網(wǎng)紅和明星的換臉色情素材,通過這種方式引流到QQ上進行交易。

按照杜悅提供的線索,記者添加了一名賣家的QQ好友,對方直接發(fā)來一張截圖,圖片上貼有幾十位女明星色情圖片。

該賣家稱,自己擁有80多位明星、一萬五千余張圖片。如果全部購買,僅售價60元,還贈送23部視頻,此后還能享受一次免費更新。賣家還稱,如果購買單個明星的換臉圖片,則根據(jù)照片的數(shù)量收費,5元錢能購買300張照片。

有賣家稱60元可購買多位明星的換臉色情素材(記者截圖)

此外,還有賣家表示,根據(jù)買家需求,他可以專門制作指定某位明星和網(wǎng)紅的色情素材。

支付60元后,一名賣家發(fā)來數(shù)十個壓縮包,均以明星姓名命名。記者發(fā)現(xiàn),該賣家出售的變臉色情素材主要分為兩種模式,一種是利用明星的公開照片“去衣”,另一種則是將這些明星的臉換到色情圖片和視頻中。

北京藍鵬律師事務所主任張起淮曾代理多起“AI換臉”相關(guān)案件。在他看來,“AI換臉”本應是幫助廣告、電影、藝術(shù)等方面進行適當修復,這本是一項很好的技術(shù),但現(xiàn)在很多人開始利用這一技術(shù)進行非法牟利。

張起淮表示,利用他人的肖像進行換臉,涉嫌侵犯當事人的肖像權(quán)、名譽權(quán)、榮譽權(quán)和人格權(quán)。如果將當事人的臉制作成色情視頻并出售,這種情況下可能構(gòu)成刑事犯罪。

“AI換臉”背后的生意經(jīng)

近日,記者在多個電商平臺上搜索“AI換臉”關(guān)鍵詞,均已無法顯示。但是,記者搜索“智能合成、明星”“真人臉部模型訓練”“去衣AI”等關(guān)鍵詞,仍舊可以搜到在售商品。

一款“AI繪圖軟件”的產(chǎn)品頁明確標注,“該軟件可實現(xiàn)真人轉(zhuǎn)卡通功能、換頭和換衣功能”。這款軟件售價僅需16.66元,月銷量達到200以上。

“可以真實‘去衣’?”有人在該店鋪評論區(qū)提出疑問,多人回復稱可以。此外,有人還詢問是否能生產(chǎn)色情圖片,有人回復稱,“只要購買軟件進入買家交流群即可,什么功能都有?!?/p>

在某AI繪圖軟件的問答區(qū),有人回復稱該軟件確有“去衣”功能。(記者截圖)

記者進入“買家交流群”后,僅兩天時間,群成員便從40人迅速增長至150人,大多成員在群內(nèi)交流該軟件如何使用,還不時分享自己的“作品”。

有成員在群里詢問,是否有人愿意接單,制作“定制圖”?!斑@玩意不是犯法嗎?”有人在群里反問,對方則表示“富貴險中求”。

除了出售繪圖軟件,還有商家提供“真人模型代訓練”,這是利用真人的照片或視頻生產(chǎn),訓練結(jié)束后,便可以直接利用該模型生成對應的照片和視頻,達到換臉效果。

一名提供代訓練服務的商家告訴記者,只需提供20至30張照片,盡量以臉部特寫為主,2個多小時便可完成訓練。然后,買家將數(shù)據(jù)導入某軟件內(nèi),便可以生成想要的素材。

該商家向記者發(fā)來一張效果圖,這是利用國內(nèi)一名模特真實照片生產(chǎn)的效果圖,經(jīng)過換臉后,臉部和國內(nèi)某明星相似度極高。

上述商家表示,在模型訓練完成后,買家可以根據(jù)自己訴求生成各種照片,包括“去衣”素材,但云端禁止“去衣”操作,需要自己在電腦上操作才行。

“AI換臉”騙局

商家售賣“作案工具”的背后,還有人利用“AI換臉”技術(shù)進行詐騙。

張起淮告訴記者,他曾經(jīng)代理過多起發(fā)生在緬北的跨國敲詐勒索案。這個案件中的犯罪嫌疑人便是利用“AI換臉”技術(shù),偽裝成女性,誘導受害人與其“裸聊”。隨后便以雙方的視頻錄屏內(nèi)容為證據(jù),對受害人進行敲詐勒索。

近日,中國銀河證券發(fā)布公告稱:利用“AI合成技術(shù)”的詐騙手段或?qū)⒅鸩铰又磷C券行業(yè)。公告顯示,某知名經(jīng)濟學家稱,自己被人利用“AI換臉”等技術(shù),通過視頻、語音等方式聯(lián)系投資者,騙取投資者信任,開展薦股活動。

此前,多地警方通報有關(guān)“AI換臉”的詐騙案件。5月20日,包頭市警方發(fā)布了一則使用AI換臉的電信詐騙案例。當事人郭先生此前突然接到好友的微信視頻,好友告訴郭先生,他有個朋友在外地投標需要430萬元保證金,想借用郭先生的公司賬戶過賬。郭先生覺得自己和好友開過視頻,確認了是本人,便沒有多想,直接向?qū)~戶轉(zhuǎn)賬過去了。十分鐘之內(nèi),因為一段視頻通話,郭先生便被騙走了430萬元。

2022年2月,陳先生報案稱,自己被“好友”詐騙了近5萬元。經(jīng)警方核實,詐騙分子利用陳先生好友“阿誠”在社交平臺發(fā)布的視頻,截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成,制造陳先生與“好友”視頻聊天的假象騙取其信任,從而實施詐騙。

6月25日,全國人大常委會法制工作委員會舉行記者會,臧鐵偉就“AI換臉”相關(guān)問題作了回答。他表示,通過“AI換臉”進行視頻合成、實施詐騙的行為,是利用新技術(shù)進行的詐騙,與傳統(tǒng)的詐騙行為在本質(zhì)上沒有區(qū)別。

臧鐵偉還表示,對于構(gòu)成詐騙罪的,要依照我國刑法第二百六十六條的規(guī)定追究刑事責任。對于為利用“AI換臉”實施詐騙行為提供技術(shù)支持、幫助的,要根據(jù)反電信網(wǎng)絡詐騙法的規(guī)定進行行政處罰,構(gòu)成犯罪的,還要根據(jù)刑法第二百八十七條之二幫助信息網(wǎng)絡犯罪活動罪等追究刑事責任。對于為利用“AI換臉”實施詐騙行為提供技術(shù)支持、幫助的,要根據(jù)反電信網(wǎng)絡詐騙法的規(guī)定進行行政處罰,構(gòu)成犯罪的,還要根據(jù)刑法第二百八十七條之二幫助信息網(wǎng)絡犯罪活動罪等追究刑事責任。

立法機關(guān)正建立健全相關(guān)法律制度

隨著人工智能的發(fā)展,“AI換臉”技術(shù)門檻逐漸降低,應用場景越來越多,在滿足人們獵奇、美顏、社交等需求的同時,為了牟利,一些不法分子突破道德底線和法治紅線。

為遏制“AI換臉”亂象,2022年11月25日,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》(以下簡稱規(guī)定)第十七條要求,深度合成服務提供者提供智能對話、合成人聲、人臉生成、人臉替換等深度合成服務,可能導致公眾混淆或者誤認的,應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識,向公眾提示深度合成情況:深度合成服務提供者提供前款規(guī)定之外的深度合成服務的,應當提供顯著標識功能,并提示深度合成服務使用者可以進行顯著標識。

該規(guī)定明確,提供深度合成服務,應當遵守法律法規(guī),尊重社會公德和倫理道德,堅持正確政治方向、輿論導向、價值取向,促進深度合成服務向上向善。

張起淮表示,現(xiàn)在很多犯罪分子開始使用“AI換臉”技術(shù)進行犯罪,由于立法總是滯后于社會現(xiàn)象,此類案件的司法實踐中大家很難掌握法律標準,所以盡快完善相關(guān)立法非常有必要。

張起淮稱,針對“AI換臉”技術(shù)要加強技術(shù)上的監(jiān)管和鑒別,加強對相關(guān)技術(shù)的普及。如果遭遇了類似情況的侵權(quán),要在可能的情況下,及時報案或起訴,不能因為怕麻煩,縱容此類現(xiàn)象發(fā)生。

臧鐵偉表示,當前,中央宣傳部、公安部正在全國開展“全民反詐在行動”集中宣傳月活動,將進一步貫徹落實反電信網(wǎng)絡詐騙法,不斷提升群眾防騙意識,切實營造全社會反詐濃厚氛圍。立法機關(guān)也在加強對人工智能等領域法律問題的研究,不斷建立健全相關(guān)法律制度。

中國政法大學傳播法研究中心副主任朱巍表示,對AI技術(shù)的監(jiān)管重點,首先,內(nèi)容的生產(chǎn)者要為結(jié)果負責。其次,在使用AI技術(shù)的過程中需要告知用戶。如果有人遭遇他人的惡意換臉行為,即使尚未找到這個惡意換臉的人,但提供了換臉這項技術(shù)的平臺也需要擔責,因為平臺本身也有監(jiān)管用戶使用何種素材的責任和義務。

(文中陳嵐、杜悅均為化名)

更多精彩資訊請在應用市場下載“央廣網(wǎng)”客戶端。歡迎提供新聞線索,24小時報料熱線400-800-0088;消費者也可通過央廣網(wǎng)“啄木鳥消費者投訴平臺”線上投訴。版權(quán)聲明:本文章版權(quán)歸屬央廣網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載。轉(zhuǎn)載請聯(lián)系:cnrbanquan@cnr.cn,不尊重原創(chuàng)的行為我們將追究責任。

關(guān)鍵詞: