當前位置:人工智能行業動態 → 正文

人工智能技術如何將人們從深度偽造的世界中拯救出來

責任編輯:cres 作者:Mike Elgan |來源:企業網D1Net  2020-02-27 09:59:53 原創文章 企業網D1Net

如今,采用深度偽造(Deepfake)生成的視頻和音頻,人工智能生成的文本、詩歌和歌詞,假網站和假新聞進入人們的世界。人們的生活還會真實嗎?
 
行業專家Mike Elgan對于人工智能在偽造方面起到的作用進行了闡述。他舉例說,“在我小時候,我和弟弟用紙碟、錫紙和大理石制成一個UFO(不明飛行物)。然后,我們將UFO懸掛在魚線上,并登上樓頂采用家里攝像機拍攝UFO飛來的樣子,并獲得證明外星人的存在的確鑿證據,這種游戲就是一種深度偽造。”
 
偽造和假冒事物一直存在。但是,當這一切都變得數字化時,其創建和分發都變得更加容易、更快以及更加廣泛。人工智能(AI)會將其提升到一個全新的水平,使任何人都能創建完美的多媒體(如視頻和音頻)偽造品。
 
偽造者創建偽造品,然而采用檢測器進行檢測,從而向偽造者提供有關檢測到的信息。偽造者然后調整他們的方法,并創造更好的偽造品。但是在充滿偽造的世界中,人們將如何應對?
 
假新聞(或有關偽造的新聞)
 
很多人擔心深度偽造(Deepfake)視頻會被用于政治。例如近日發生的這樣事情,印度人民黨主席Manoj Tiwari以不同的語言對其支持者的講話就是一個Deepfake視頻,好在沒有用來偽造對手的評論。不過,Deepfake現在已經用于政治領域,這是一個里程碑。
 
另一個采用人工智能偽造的例子是說唱歌手和詞曲作者Travis Scott創作的一首新歌,這首歌名為Jack Park Canny Dope Man,采用人工智能生成的音樂和歌詞,由Scott本人在一段音樂視頻中演唱。
 
OpenAI GPT-2是一種語言創建人工智能技術,幾乎可以使用任何樣式編寫文章。它可以模仿《紐約客》雜志的寫作風格,甚至可以寫詩。OpenAI是一家由特斯拉首席執行官埃隆•馬斯克等創立的非盈利研究機構。
 
很多人擔心人工智能創造的偽造品用于犯罪,但這已經發生了。
 
安全廠商賽門鐵克公司已經通過模仿首席執行官的聲音,驗證了三個針對企業員工的Deepfake音頻的案例。Deepfake技術可以從YouTube演講和企業財務收益電話中獲取首席執行官聲音樣本,詐騙者在電話中模擬其聲音,欺騙員工給他緊急匯款。
 
人工智能將如何制造完美的Deepfake視頻
 
目前有兩種創建Deepfake視頻的通用方法。第一個是換臉技術,它使用編碼器和解碼器來逐幀匹配和替換視頻中的人臉。
 
第二種方法稱為生成對抗網絡或GAN。這種方法可用于創建各種令人信服卻是偽造的數據,它使用兩種人工智能算法。一個算法用來創建虛假數據;另一個算法進行判斷,為創建者算法提供反饋。并大規模重復這種做法,兩種算法都提高了它們的能力。最終,創建者算法變得如此出色,它可以產生視頻、音頻、文本、指紋等假數據。
 
偽造視頻的制作變得越來越復雜。總部位于香港的一家名為SenseTime的初創公司與南洋理工大學和中國科學院自動化研究所合作,開發了一個名為SenseTIme的框架,該框架可以根據語音自動編輯視頻。
 
韓國Hyperconnect公司構建了一個名為MarioNETte的工具,該工具可以實時將某人的臉部動作映射到其他任何人(例如政客或名人)的臉部。
 
與此同時,Deepfake技術變得越來越強大,并且也變得更加民主化,現在出現在消費者應用程序中。任何人都可以創建令人信服的Deepfake視頻和音頻,而這只是時間問題。
 
這就是為什么必須弄清楚如何檢測偽造文件的原因。
 
偽造技術即將上線
 
科技孵化器Jigsaw公司最初是谷歌公司的一個部門,后來轉到Alphabet公司的旗下,如今重新回到谷歌公司。Jigsaw公司創建了一個名為Assembler的平臺,幫助核查人員核實圖像。該工具結合了美國7所大學開發的不同技術和算法,加上Jigsaw公司自己創建的一個算法,通過發現由偽造照片的已知方法生成的證據來處理圖像。
 
谷歌公司還利用人工智能技術和人類智慧相合,在Google Maps上查找并刪除虛假、不道德或惡意的評論。該公司本月宣稱,他們已經刪除了超過7500萬條違反政策的評論和400萬份虛假的業務資料。人工智能會首先審核所有評論和業務概況,并自動刪除明確的違規者。然后將難以處理的問題交給工作人員處理。
 
華盛頓大學和艾倫人工智能研究所的研究人員開發了一種名為Grover的算法,該算法可以識別出深度偽造的簽名,其準確率高達92%。
 
Facebook公司最近讓獨立研究人員通過一個名為Social Science One的程序訪問有關用戶活動的某些信息。
 
哈佛大學和麻省理工學院的IBM Watson人工智能實驗室的科學家發布了一個“巨型語言模型測試室”的軟件,它是基于網絡空間,用于確定給定的文本是否由人工智能編寫。
 
由滑鐵盧大學的研究人員創建的一家加拿大初創廠商DarwinAI公司開發了他們稱之為DarwinAI的技術,該技術使用深度學習來檢測虛假新聞。他們的技術將標題與文章內容進行比較。在以后的迭代中,DarwinAI會將文章的文字與其他文章進行比較。
 
采用假新聞推動政治進程的最瘋狂的想法之一是,利用大量的著作和演講資料,通過模擬他們在人工智能中的思維來“復活”美國開國元勛亞當斯、漢密爾頓、杰伊、杰斐遜、麥迪遜和華盛頓。
 
一些人提出將區塊鏈作為驗證內容的解決方案,但這可能讓人難以接受。正如這些早期的產品、技術和試驗所證明的那樣,檢測偽造事物的未來技術顯然是人工智能。
 
人工智能應用在偽造與反偽造之間的競爭
 
有人估計,四分之一的新社交媒體賬戶將是偽造或欺詐的賬戶。假賬戶聽起來無害,但它們往往與假新聞、垃圾郵件和網絡犯罪密切相關。據報道,目前用于檢測假賬戶的系統功能并不強大。北約的一項調查發現,他們創建的假冒個人資料中有95%在發布調查報告幾周后仍然在使用。
 
這是一個驚人的事實,因為Twitter、Facebook和其他社交網站為此已經投資數十億美元,并且多年來一直致力于開發檢測假賬戶的系統。每次他們在檢測方面取得新進展時,偽造者都會丟棄數百萬個偽造帳戶,這意味著偽造者將始終領先于檢測。
 
在某種程度上,偽造者與檢測者之間在進行貓捉老鼠的游戲。偽造者創建偽造品,而檢測器對其進行檢測,從而向偽造者提供有關檢測到的信息。然后,偽造者調整他們的方法,并創建更好的偽造品。這種競爭很可能會無限期地繼續下去。人類的感知能力將被完全拋在后面,而這種競爭將完全存在于人工智能系統之間。
 
真相就在那里,但是現在需要人工智能的幫助才能獲得真相。
 
版權聲明:本文為企業網D1Net編譯,轉載需注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。

關鍵字:人工智能

原創文章 企業網D1Net

人工智能技術如何將人們從深度偽造的世界中拯救出來 掃一掃
分享本文到朋友圈

關于我們聯系我們版權聲明友情鏈接廣告服務會員服務投稿中心招賢納士

企業網版權所有©2010-2020 京ICP備09108050號-6

^
欧冠历届冠军