返回首頁
互聯網金融CURRENT AFFAIRS
互聯網金融 / 正文

“換臉”應用爆紅引發風險擔憂

專業人士表示新技術應用和普及應在法律框架內進行

  可以看到,在“換臉”帶來了一場社交圈的集體娛樂盛宴的同時,強監管也隨之而來,人們意識到這場游戲可能帶來的負面影響。同時,這款應用本身也存在一些法律問題。

  專業人士稱,隨著上百萬級別的互聯網用戶大規模參與,很容易滋生黑產和詐騙,或者在各種人像識別場景盜用,甚至刷臉支付。

  近期,一款“換臉”應用爆紅,用戶只需上傳一張正臉照片,即可一鍵無痕切換到明星臉上,生成自己的表情包,甚至是“成為”影視劇的主角兒。該應用曾一度躍升至下載榜首位。

  《金融時報》記者發現,從“P圖”到“P視頻”,涉及到的用戶肖像權和隱私權漸成議論的焦點,“換臉”技術所帶來的負面影響開始受到關注,技術創新帶來的隱患能否運用技術來攻克成為業界探討的問題。

  AI媒體合成技術的運用

  “這是國內第一次上百萬級別的AI換臉用戶普及事件,其爆紅的原因在于操作便利。用戶只需上傳照片,等待幾秒鐘就能生成視頻,然后分享到社交媒體中。不難猜想,未來的幾個月里,各大應用商店即將涌進一大批換臉軟件。” 西密歇根大學教授楊子江告訴《金融時報》記者。

  楊子江介紹說,“換臉”實際上是一種AI媒體合成技術,即利用機器學習的方法合成視頻、圖像及語音等多媒體信息。主要有三個特點:一是合成的媒體信息完全可以以假亂真;二是具有較強的普及性,利用機器學習原理制作視頻圖片語音的工具已經可以免費下載,且具有娛樂性和一定的實用性;三是技術發展迅速,更新能力強。

  “這個技術可以讓任何人說任何話、做任何動作,不僅肉眼無法分辨,目前也還沒有完美的技術進行鑒別真偽。這意味著在人工智能時代,眼見不再為實。”楊子江說。

  據了解,AI換臉技術最早出現在2017年12月,用戶“Deepfakes”在Reddit上發布一個“假視頻”,將蓋爾·加朵等知名女星的臉換到色情電影中,畫面以假亂真。“deepfake”逐漸成為AI換臉技術的代稱,同名算法也在GitHub開源。

  2019年1月,荷蘭Deeptrace實驗室發布deepfake發展報告顯示,2018年“deepfake”關鍵詞的搜索次數比2017年增長了1000倍。

  AI換臉已不再單純是一個技術,而是開始向產業化方向發展。楊子江告訴《金融時報》記者:“截至2019年7月,市場上已出現7款類似Deepfake的主流造假軟件和算法。APP應用市場AI換臉APP超過30款。當前在國外ctrl-shift-alt團隊推出云換臉服務,一次收費5至8美元;國內活躍的‘AI、換臉’QQ群直接參與人數已超過兩萬人。”

  深度造假帶來的影響

  可以看到,在“換臉”帶來了一場社交圈的集體娛樂盛宴的同時,強監管也隨之而來,人們意識到這場游戲可能帶來的負面影響。同時,這款應用本身也存在一些法律問題。

  “換臉APP的用戶協議部分條款涉嫌無效的格式條款。而且用戶協議存在‘復雜冗長’且‘大多數用戶沒有仔細閱讀用戶協議的習慣’等特點,特別容易摻雜無效的格式條款在其中。”廣東成說律師事務所律師胡帥在接受《金融時報》記者采訪時說,“諸如讓用戶保證擁有使用相關錄像的權利、授權其在‘完全免費、不可撤銷、永久、可轉授權和可再許可’的條件下使用用戶的肖像權等條款,應屬于無效的格式條款。它不僅沒有盡提醒、說明義務,而將其隱藏在用戶極容易忽略的用戶協議中,還在相關條款中免除了自己的主要義務,大大加重了用戶使用該軟件的責任,容易錯誤處分自己的權利(如隱私權、肖像權等),試圖通過這樣‘抖機靈’的方式排除自身在用戶上傳的大量影視作品的侵權責任,將該款應用使用各種擁有知識產權的影視作品時獲取相關權利人授權的責任轉嫁到用戶身上,實際上是濫用格式條款的行為,該部分條款應屬無效。”

  而針對AI媒體合成,即深度造假對社會造成的巨大影響,楊子江認為,比如利用合成熟人語音進行詐騙、視頻是否可以成為法庭證據、媒體網站收到群眾爆料是否可以刊登、領導人的講話如何核實,這些衍生的問題如何解決已成當務之急。

  “一次正常的AI換臉,將產生0.5至1元的成本(GPU算力消耗+電費),隨著上百萬級別的互聯網用戶大規模參與,很容易滋生黑產和詐騙,或者在各種人像識別場景盜用、甚至刷臉支付。”楊子江說,具體來看,AI換臉的負面影響主要體現在以下場景:虛假視頻合成——對名人、普通人的肖像權、隱私權侵犯,獲得經濟利益;虛假廣告——用名人換臉做虛假的廣告代言,獲得經濟利益;電信詐騙——用社交網絡素材制作虛假視頻進行詐騙,獲得經濟利益;市場操縱——散播惡意的經濟界名人視頻與言論,做空/做多標的,達到經濟目的;更嚴重的可能涉及國家安全的場景等。

  負面影響如何化解

  當前,金融業數字化轉型深入推進,人工智能已成為有效提升金融服務水平與效率的關鍵技術。央行在近日發布的《金融科技(FinTech)發展規劃(2019年-2021年)》中提出,要根據不同場景的業務特征創新智能金融產品與服務,探索相對成熟的人工智能技術在身份識別、風險防控等領域的應用路徑和方法,構建全流程智能金融服務模式。

  那么,在人工智能與金融業務深度融合的現階段,如何規避技術自身可能帶來的隱患?

  “技術使用行為受到刑法、民法等法律規制。將換臉技術用于非法途徑,獲取非法利益,可能涉嫌盜竊、詐騙等刑事犯罪,從而承擔刑事、民事賠償等責任。”北京市東元律師事務所合伙人、律師焦景收認為,換臉等新技術的使用和普及應在法律框架內,通過提升人臉識別技術以及活體檢測技術,減少因技術漏洞帶來的各種風險。

  楊子江的觀點是換臉技術有很多正當的應用,也有很多灰色的應用,不能僅僅用法律解決,關鍵還是要技術來解決技術問題。

  就在近日,馬上金融自主研發的唇語識別活體檢測系統正式上線,該系統實現對用戶讀錯指定信息低容忍度的同時,保持了較高的通過率。

責任編輯:楊致遠