您的位置:首頁 >要聞 >

隱私泄露、AI換臉存風險 多部門聯合約談11家企業

2021-03-19 15:58:05    來源:北京商報

3月18日,網信辦、公安部宣布,針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術的應用,國家互聯網信息辦公室、公安部指導地方網信部門、公安機關依法約談映客、阿里等11家企業。

當下不少語音社交和AI換臉的產品一上線就成為爆款,但涉及用戶隱私泄露、內容是否合規等問題也被曝光,隨即被下架。針對此類產品,相關部門強化安全評估,這給平臺提出了更高的安全挑戰,但對保護用戶個人信息、打擊違法違規內容傳播則是直接利好。

開展安全評估

據國家互聯網信息辦公室官方微信公眾號“網信中國”披露:針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術的應用,國家互聯網信息辦公室、公安部指導北京、天津、上海、浙江、廣東等地方網信部門、公安機關依法約談映客、小米、快手、字節跳動、鯨準數服、云賬戶、喜馬拉雅、阿里巴巴、網易云音樂、騰訊、去演等11家企業,督促其按照《網絡安全法》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等法律法規及政策要求,認真開展安全評估,完善風險防控機制和措施,并對安全評估中發現的安全隱患及時采取有效整改措施,切實履行企業信息內容安全主體責任。

根據《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》要求,出現具有輿論屬性或社會動員能力的信息服務上線,或者信息服務增設相關功能;使用新技術新應用,使信息服務的功能屬性、技術實現方式、基礎資源配置等發生重大變更;用戶規模顯著增加等情形,互聯網信息服務提供者應當自行開展安全評估,對評估結果負責,并向網信部門和公安機關提交報告。網信部門和公安機關根據對安全評估報告的書面審查情況,認為有必要的,應當依據各自職責對互聯網信息服務提供者開展現場檢查。

截至北京商報記者發稿,上述企業并未就此次約談對外回應。

亂象愈演愈烈

說到語音社交和AI換臉,2021年國內最火的應用非“對話吧”和“螞蟻呀嘿”莫屬,前者是“Clubhouse中國版”,后者類似之前爆紅的“ZAO”。

按照對話吧項目負責人江宇航透露的信息,對話吧是2月3日晚上立項的,2月10日對話吧在蘋果和安卓應用商店全部上線進行內測。2月20日,對話吧母公司映客CEO奉佑生邀請金沙江創投董事總經理朱嘯虎、昆侖萬維CEO周亞輝等大佬在對話吧討論。當天,對話吧在互聯網圈走紅。

沒過幾天,對話吧在蘋果和安卓應用商店下架,對話吧相關人士對北京商報記者的解釋是:“目前是在進行整體技術和形態的升級調整,技術產品人員在加班加點進行更新。”截至北京商報記者發稿,對話吧沒有恢復上架。

2月底3月初,互聯網圈再因一系列“螞蟻呀嘿”搞笑短視頻沸騰。用戶在AI換臉軟件Avatarify上傳一張照片,就可以讓任何人實現變臉特效。操作簡單、畫面魔性諸多因素讓“螞蟻呀嘿”視頻在各大社交平臺瘋狂傳播,但不到一個星期,Avatarify遭遇下架。

Avatarify的經歷和2019年上線的ZAO如出一轍。當年ZAO上線僅一天,就在各大社交平臺刷屏,隨后在蘋果應用商店的免費App下載登頂。但3天后,ZAO被下架。

“Avatarify和ZAO涉及的問題一樣,主要是可能存在個人隱私數據泄露、侵權等隱患,也不排除數據被不法分子用于偽造照片或視頻實施詐騙等。”比達咨詢分析師李錦清向北京商報記者表示。

他進一步說,“相比圖文社交,語音社交,尤其是像對話吧這樣的多人參與的語音群聊,在內容安全性上更難把控,涉黃涉非等違法違規內容更容易出現,且在現有技術條件下,隱蔽性更強,給平臺提出了安全合規挑戰”。

監管未雨綢繆

事實上,上述問題一直是相關部門的關注重點。2019年9月,針對媒體公開報道和用戶曝光的ZAO App用戶隱私協議不規范,存在數據泄露風險等網絡數據安全問題,工業和信息化部網絡安全管理局9月3日對北京陌陌科技有限公司相關負責人進行了問詢約談,要求其嚴格按照國家法律法規以及相關主管部門要求,組織開展自查整改,采取有效措施防范自有業務平臺被利用實施電信網絡詐騙等風險隱患。

“相比之下,傳統的圖文是審核最嚴格、流程最成熟的,巨頭互聯網公司都有上萬人巨大的審核團隊,基本上杜絕了大的欺騙事件發生。短視頻時代出現了新的問題,比如騙子冒充明星行騙,監管部門、視頻平臺還沒有做好確認身份,剔除假信息的流程。不過2018-2019年視頻平臺加大投入,用AI和人工審核,基本上擦邊的色情暴力以及詐騙等審核也成熟很多。現在語音和人臉AI合成又出現了新問題,如果流行開來,肯定會造成假消息泛濫,沖擊正常的輿論空間,甚至被不法分子利用詐騙。”文淵智庫創始人王超總結。

王超還告訴北京商報記者,“目前來看,這類惡意語音和人臉AI合成制造假消息和詐騙還沒苗頭,但隨著這些技術進一步發展,肯定會出現這一問題。監管層未雨綢繆,很有遠見,而且這個詐騙的逼真程度更高,就連高學歷高知識人群也辨別不了。不過,一定有技術可以識別這些虛假合成的語音和視頻,平臺總會想到簡單易行、成本較低的鑒別辦法的”。

國家互聯網信息辦公室、公安部表示,下一步將繼續指導各地網信部門和公安機關加大巡查檢查力度,督促屬地互聯網企業嚴格遵守相關法律法規,積極主動履行安全管理義務,切實履行企業主體責任,共同維護網絡傳播秩序,營造良好網絡生態。

關鍵詞: 隱私泄露 AI換臉 約談

相關閱讀

主站蜘蛛池模板: 久久久综合亚洲色一区二区三区| 免费一级毛片正在播放| 0588影视手机免费看片| 天天躁夜夜踩狠狠踩2022| 丰满熟女高潮毛茸茸欧洲| 最近免费中文字幕4| 国产精自产拍久久久久久蜜| 久久精品免费一区二区喷潮| 欧美色综合高清视频在线| 公车上玩两个处全文阅读| 被公侵犯肉体的中文字幕| 国产欧美精品区一区二区三区 | 真实调教奇优影院在线观看| 国产一级做a爰片...| 99自拍视频在线观看| 国产精品国产香蕉在线观看网| 99在线精品视频在线观看| 宝宝你里面好烫很软不想出来| 久久99精品久久久大学生| 日韩欧美一二区| 亚洲а∨天堂久久精品| 欧美成人免费一区二区| 亚洲精品午夜国产va久久成人 | sao货水真多好浪好紧视频| 成人观看天堂在线影片| 久久伊人中文字幕| 爱搞网在线观看| 办公室震动揉弄求求你| 老师让我她我爽了好久网站| 国产午夜激无码av毛片| 色五五月五月开| 国产精品久久久久影院嫩草 | 最近中文字幕高清免费大全8| 亚洲成AV人综合在线观看| 波多野结衣忆青春| 免费a级毛片在线观看| 精品久久久久久久久久中文字幕| 国产成人无码精品一区在线观看 | 国产精品久久精品福利网站| 777奇米四色| 国产高清乱理伦片中文电影|