8月28日晚,劉昊然工作室發文稱近日有大量用戶通過網絡傳播使用AI換臉技術對劉昊然進行侮辱的視頻、視頻截圖以及含有侮辱誹謗言論的聊天記錄。為維護劉昊然的合法權益,現已向警方報案。消息傳出引起網友一致譴責惡意造謠者。
AI換臉技術最早源自2017年12月,一名外國網名為deepfakes的程序員在reddit上發布一則將《神奇女俠》主演蓋爾·加朵的臉替換到有色視頻中獲得超高點擊率,隨后又制作大量其他女明星換臉的污穢視頻,不到兩個月時間該網友就擁有了15000多粉絲。
此類視頻火后,其他網友也紛紛效仿用女明星或素人女性AI換臉制作視頻。其中被換臉的女明星不乏大牌明星,如艾瑪·沃特森、娜塔莉·波特曼、黑寡婦斯嘉麗·約翰遜等。
制作出來的視頻大部分都不是什么好的視頻內容,于是深受其擾的斯嘉麗·約翰遜怒斥此行為,但最后卻無能為力發文說:“把我的頭像或任何人的頭像剪切粘貼到別人身上這件事,根本沒辦法阻止”。
隨著外網AI換臉流行傳到國內,一開始有些網友只是特換成影視劇中的角色,但也有部分別有用心之人制作污穢視頻謀取利益。
現在AI換臉技術愈發成熟,任何人在網上下載一個APP就可以隨意操作,但隨之而來的風險也增大。
另外網上還出現了大量惡搞換臉,例如歐巴馬玩滑板、歐巴馬憤然離場、奧巴馬演講等都是假的,所以以后大家網上所看到的視頻未必是眼見為實。
劉昊然被AI換臉制造侮辱視頻在今年1月份時工作室就已經發現,并澄清和發聲明希望網友不造謠,不傳謠。但仍有別有用心之人繼續不斷販賣視頻和截圖的情況,引起了更大范圍的傳播,給劉昊然造成了極大的惡劣影響。
因這些視頻一般都是通過聊天軟件進行傳播,客觀上很難取證。因此,劉昊然工作室為維護自身合法權益選擇報警。
網上有一句話“造謠一張嘴,辟謠跑斷腿”,這還是在明星有公關團隊的情況下。而AI換臉技術是可以對任何人進行造謠,如若被有心人利用將很難挽回。
現在很多年輕人喜歡自拍AI換臉自娛自樂,或者影視劇因某位藝人犯錯也可以利用AI換臉,原本是為了豐富娛樂,促進影視事業的技術,卻成了居心不良的人非法牟利手段,成為了互聯網上的一顆定時炸彈實屬不應該。