“ZAO”App被曝存數(shù)據(jù)泄露風險 工信部約談陌陌
伴隨著“ZAO”App站在新的“十字路口”,用戶們也逐漸從狂熱變得謹慎又忐忑……這不禁讓人心生疑問,看起來很美的AI換臉,其背后究竟有怎樣的風險?
“ZAO”App的風險在哪兒?
“眼看他起朱樓,眼看他宴賓客,眼看他樓塌了。”
作為“ZAO”App的嘗鮮者,新媒體從業(yè)者王麗麗(化名)告訴記者,讓她意想不到的是,自己剛嘗到AI換臉帶來的樂趣,轉眼就面臨著個人隱私泄露的風險。
8月31日晚,王麗麗在朋友圈看到自己的多個好友都在展示“換臉”小視頻。在幾秒鐘的小視頻中,有人可以實現(xiàn)和偶像同框演戲的愿望、有人扮演明星角色進行一場“cosplay”。興趣使然,王麗麗也加入了AI換臉的“陣營”。在手機驗證注冊后,王麗麗在攝像頭前進行眨眼、扭頭等動作后,才可使用相關功能。通過App模板,王麗麗可根據(jù)自身的喜好換成影視劇中的經(jīng)典角色。除了把生成的小視頻發(fā)在朋友圈,還可以做成GIF動態(tài)表情。
王麗麗是“ZAO”App眾多的AI換臉用戶之一。從8月30日上線開始,“ZAO”App就迅速走紅。不到24小時,這款APP就在各應用商店免費應用排行榜中躥升至前列,同期更入選微博熱搜話題。那幾天,AI換臉成了社交平臺上一道頻繁出現(xiàn)的風景線。王麗麗也和朋友們沉浸在ZAO新奇的玩法中。
不過,隨著AI換臉走紅,質(zhì)疑之聲接踵而至。
根據(jù)“ZAO”App用戶協(xié)議內(nèi)容中的必要授權協(xié)議:用戶上傳發(fā)布內(nèi)容后,意味著同意授予“ZAO”App及其關聯(lián)公司以及“ZAO”App用戶在“全球范圍內(nèi)完全免費、不可撤銷、永久、可轉授權和可再許可的權利”,“包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等)以及對修改前后的用戶內(nèi)容進行信息網(wǎng)絡傳播以及《著作權法》規(guī)定的由著作權人享有的全部著作財產(chǎn)權利及鄰接權利”。
這一協(xié)議很快引起了用戶的爭議和討論,包括王麗麗在內(nèi)的一些用戶認為,這一協(xié)議存在泄漏個人信息的風險,情況嚴重還可能導致人臉識別支付等場景被盜用的風險。
北京大成(成都)律師事務所律師龐彥燕對記者表示,這涉及用戶肖像權的法律侵權問題和隱私問題。在互聯(lián)網(wǎng)和AI技術迅速發(fā)展的當下,用戶的肖像可能被用于制造假圖片、假視頻,甚至隨著科技的發(fā)展可直接用于人臉識別支付,存在一系列風險。
內(nèi)心產(chǎn)生擔憂的不只是王麗麗,不少先前充滿熱情嘗鮮的用戶,都開始擔憂自身的隱私泄露。甚至有用戶在APP下載界面對于相關協(xié)議作出“過分了”“霸王條款”等評論。
致歉聲明后用戶仍擔憂
根據(jù)微博認證信息,“ZAO”App的運營主體為長沙深度融合網(wǎng)絡科技有限公司。工商資料顯示,長沙深度融合網(wǎng)絡科技有限公司法定代表人為雷小亮。此外,長沙深度融合網(wǎng)絡科技有限公司股東為海南喵咖網(wǎng)絡科技有限公司,后者法定代表人為也是雷小亮,股東為雷小亮與王力。
工商資料顯示,今年7月19日,長沙深度融合網(wǎng)絡科技有限公司發(fā)生股東變更,北京陌陌科技有限公司退出,新增海南喵咖網(wǎng)絡科技有限公司。由此可見,北京陌陌科技有限公司是“ZAO”App原股東。而雷小亮則是陌陌的聯(lián)合創(chuàng)始人和產(chǎn)品總監(jiān)。
隨著輿論的不斷發(fā)酵,9月4日,工信部官網(wǎng)發(fā)布消息稱,3日,針對媒體公開報道和用戶曝光的“ZAO”App用戶隱私協(xié)議不規(guī)范,存在數(shù)據(jù)泄露風險等網(wǎng)絡數(shù)據(jù)安全問題,工信部網(wǎng)絡安全管理局對陌陌相關負責人進行了問詢約談,并要求其嚴格按照國家法律法規(guī)以及相關主管部門要求,組織開展自查整改,依法依規(guī)收集使用用戶個人信息,規(guī)范協(xié)議條款,強化網(wǎng)絡數(shù)據(jù)和用戶個人信息安全保護。同時,要進一步加強新技術新業(yè)務安全評估,切實采取有效措施,積極防范自有業(yè)務平臺被利用實施電信網(wǎng)絡詐騙等風險隱患。
而據(jù)36氪9月4日報道,針對工信部的約談,“ZAO”App運營團隊回應稱:“ZAO上線以來,我們和各主管部門保持著積極順暢的溝通。非常感謝大家對于新技術新應用的關注,我們也在第一時間回應了大家的核心關切,將嚴格按照法律法規(guī)和各主管部門的要求,按照更加嚴格的標準,全面加強內(nèi)容管理、完善各項管理機制,確保用戶個人信息安全和數(shù)據(jù)安全。”
9月3日,“ZAO”App運營團隊通過微博發(fā)聲明并致歉稱,“ZAO”App不會存儲個人面部生物識別特征信息。“ZAO”App所呈現(xiàn)的“換臉”效果,是根據(jù)用戶提交的頭像照片,按照用戶選定的素材場景,通過后期技術疊加所實現(xiàn)的虛構圖像,并沒有采集任何個人生物識別特征。使用“ZAO”App不會產(chǎn)生支付風險。用戶刪除信息或注銷賬號,“ZAO”App均會依據(jù)相關法律法規(guī)的規(guī)定刪除相應信息。
不過,這一說法尚未平息用戶心中的怒火。目前,在上述微博的聲明下,大量用戶依然在追問:注銷后個人信息和照片的數(shù)據(jù)安全泄露隱患如何消除?
AI換臉可能“曇花一現(xiàn)”?
事實上,關于互聯(lián)網(wǎng)用戶隱私安全問題,業(yè)界早有關注。
渤海證券研報指出,當前全球在線文件暴露問題日益嚴重,外部存儲數(shù)據(jù)量的增加給原有的數(shù)據(jù)安全策略帶來了新的挑戰(zhàn),預計未來3年會有更多企業(yè)和政府機構在防止隱私泄露和保護個人數(shù)據(jù)上加大投入。
今年2月末,一個運用AI換臉技術將94版《射雕英雄傳》電視劇中朱茵飾演的黃蓉,換“臉”成了楊冪的小視頻,一經(jīng)發(fā)布便在網(wǎng)絡上收獲巨大點擊量和引起熱議。4月,《民法典人格權編(草案)》二審稿提請十三屆全國人大常委會第十次會議審議。而此次草案二審稿針對技術“換臉”侵犯自然人肖像權的問題,專門增加規(guī)定:任何組織和個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。而今年8月,在草案三審稿中,也進一步升級了隱私權和個人信息保護。
艾媒咨詢創(chuàng)始人兼CEO張毅對記者表示,AI換臉等產(chǎn)品可能在誕生初期迅速帶給用戶新鮮感,很容易達到“一夜走紅”的效果。但縱觀行業(yè)的發(fā)展和綜合因素,該運用場景很可能是曇花一現(xiàn)。在平臺被媒體曝光存在隱私安全隱患的同時,大部分用戶也會考慮可能面臨的風險,嘗試欲望也會進一步降低。
張毅表示,通過近幾天的抽樣調(diào)查發(fā)現(xiàn),目前,使用“ZAO”App的用戶多為一些年輕女性,相對而言,年齡層偏成熟的人士對于軟件的使用度較低。因而,該APP的應用場景更多是切入細分市場,很難普及。
張毅還分析道,AI換臉等技術雖已日漸成熟,但從宏觀層面看,仍然存在多方面風險,受到監(jiān)管和法律層面的制約。未來能夠占據(jù)市場主流的仍然是有政府授權、安全性高的企業(yè),一些初創(chuàng)和小眾的平臺,如果不能達到較高的安全系數(shù),很難取得用戶長久信任。
新智元創(chuàng)始人兼CEO楊靜對記者表示,AI換臉并非新鮮事,支持這種場景的機器學習技術——Deepfakes已經(jīng)相當成熟。Deepfakes指的是用人工智能軟件制作的虛假視頻,由FakeApp程序創(chuàng)建而成,F(xiàn)akeApp則可實現(xiàn)AI換臉。在該項技術的發(fā)展過程中,也存在一些爭議,AI換臉是否會侵犯到用戶隱私和信息安全備受關注。
不過,楊靜也指出,“道高一尺,魔高一丈”,技術進步也會推動科技向善。為了保障AI換臉等場景的安全性,國內(nèi)外的研究者和團隊也推出了AI防偽克星、AI偵測工具等AI“打假武器”。此外,AI技術進步驅動行業(yè)升級和效率提升,但要高效安全地運用AI技術,法律的進一步完善、監(jiān)管部門的規(guī)范管理、用戶的隱私保護意識缺一不可。
網(wǎng)友評論
IT網(wǎng)絡排行
延伸閱讀
最新IT網(wǎng)絡
- 起亞修復高危漏洞:影響數(shù)百萬車輛,攻擊者幾秒內(nèi)
- 高德地圖:十一期間將聯(lián)合生態(tài)伙伴發(fā)放百億補貼,
- 鴻蒙智行首款轎跑SUV智界R7正式上市!建議零售價
- 香港旅發(fā)局與高德達成合作:啟動“國慶暢游香港計
- 美團王興發(fā)內(nèi)部信:2025屆計劃招募6000人,內(nèi)部提
- 哈啰放棄兩輪電動車售賣業(yè)務:線下專賣店陸續(xù)關閉
- 傳小鵬首款增程車明年量產(chǎn),針對20萬元以上價格帶
- 比亞迪李云飛:比亞迪員工總數(shù)突破90萬,其中技術
- 銷量目標上調(diào)至400萬輛?比亞迪高管辟謠
- 余承東:早日讓通信真正實現(xiàn)“星地融合 永不失聯(lián)