微信首次預(yù)警AI工具風(fēng)險
微信首次對部分AI工具發(fā)出預(yù)警,因其涉嫌違法違規(guī)獲取和利用用戶數(shù)據(jù),可能帶來隱私泄露、詐騙等風(fēng)險。微信安全中心發(fā)布公告,強調(diào)將堅決打擊此類行為。
于五一長假前晚(4月30日晚6時),微信發(fā)出一則公告,首次就部分AI工具涉及違法違規(guī)獲取或利用微信終端用戶數(shù)據(jù)發(fā)出預(yù)警。
這則由微信安全中心發(fā)布的名為“針對違規(guī)獲取及利用微信終端用戶數(shù)據(jù)行為的打擊公告”顯示,“有部分第三方工具以‘AI 管理用戶微信聊天記錄’等名義,繞過微信安全技術(shù)措施,違法違規(guī)獲取或利用微信終端用戶數(shù)據(jù)”,并因此表示,將會對此進行打擊。
其中所指,或是近期市場上部分被用來提效的AI工具。這也是微信在發(fā)出的公告中,首次提及AI工具、智能體字樣。
根據(jù)提示,這些工具以提供一個看似安全的工具/服務(wù),誘導(dǎo)用戶授權(quán)使用,從而獲取數(shù)據(jù),而這些行為,可能將微信終端用戶數(shù)據(jù)用于非法用途或造成數(shù)據(jù)泄漏。
這些工具,或通過注入類型服務(wù)(服務(wù)提供方在提供服務(wù)的同時,通過代碼注入或者智能體提示詞注入的方式獲取登錄設(shè)備上的聊天記錄等用戶數(shù)據(jù)),或通過轉(zhuǎn)儲類型服務(wù)(服務(wù)提供方在賬號授權(quán)后對設(shè)備進行監(jiān)聽或者錄屏,并轉(zhuǎn)儲語音溝通、聊天記錄等用戶數(shù)據(jù))。
不論哪一種,微信提示都會帶來諸多風(fēng)險,包括泄露用戶隱私,聊天記錄中如包含用戶身份、位置、支付等敏感信息,可能被不法分子用于信息倒賣或精準詐騙,危害人身、財產(chǎn)安全等。
于公告中,微信也明確表示,會持續(xù)堅決打擊各類違規(guī)獲取、利用微信終端用戶數(shù)據(jù)的行為。
去年6月時,微信旗下企微團隊曾發(fā)出相似公告(參考閱讀:字少事大!企業(yè)微信公告嚴厲打擊“外掛”行為),其中明確提及:
企業(yè)微信持續(xù)嚴厲打擊“外掛”行為,對于開發(fā)“外掛”軟件、提供“外掛”服務(wù)的個人及公司,我們將采取包括訴訟在內(nèi)的一切法律手段,維護合法權(quán)益。
當(dāng)時前后時間中,有部分“外掛”團隊因此被起訴,也引起了多家團隊為此切割服務(wù),將被打擊的功能和服務(wù)從自身業(yè)務(wù)中剝離。
昨晚(4月30日)這一則公告中,微信雖未明確提及打擊方式,參照去年6月前后行為推測,使用這些工具的商家或會被封禁賬號、限制某些能力。對于開發(fā)團隊,或還會有可能面臨相似訴訟風(fēng)險。
值得留意的是,當(dāng)下市場中,采用AI工具或智能體來進行運營提效,已經(jīng)是諸多行業(yè)在采取方式,有不少涉及1對1聊天、1對多聊天(微信群)的場景。這一需求吸引了許多創(chuàng)業(yè)團隊/服務(wù)商推出對應(yīng)服務(wù)。
因此,這則公告背后,會帶來不少的關(guān)注和波動??赡荛L假期間,許多團隊將無法休假,轉(zhuǎn)而開始討論應(yīng)對之策。
本文由人人都是產(chǎn)品經(jīng)理作者【見實】,微信公眾號:【見實】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于 CC0 協(xié)議。
那些做聚合聊天的管么?
正常人都知道AI這些東西不能夠上傳一些比較私密的一些東西,因為他是根本不安全的