當DeepSeek都認為“DeepSeek向王一博道歉”了

1 評論 2074 瀏覽 1 收藏 11 分鐘

近日,一則關(guān)于“DeepSeek向王一博道歉”的消息在網(wǎng)絡(luò)上引發(fā)熱議,甚至沖上了熱搜前三。然而,經(jīng)過調(diào)查發(fā)現(xiàn),DeepSeek從未發(fā)布過這樣的聲明,這其實是一場由謠言引發(fā)的鬧劇。然而,當多個AI大模型被問及此事時,大部分都“確認”了這個根本不存在的道歉。這一現(xiàn)象不僅暴露了AI在信息真實性判斷上的漏洞,也引發(fā)了人們對AI生成內(nèi)容背后邏輯的深刻思考。本文將深入剖析這一事件背后的真相,探討AI產(chǎn)品在信息傳播中的責任,以及如何避免類似的謠言再次發(fā)生。

一場對謠言的澄清,變成了一個新的謠言。

昨日,#王一博相關(guān)謠言被DeepSeek永久撤回的話題沖上熱搜前三,然而沒有人能找到DeepSeek真正發(fā)過這個聲明。更詭異的是,當我們詢問多個AI大模型后,它們大部分都”確認”了這個根本不存在的道歉。

事情的起因看似簡單。在這個更多屬于娛樂新聞的話題發(fā)酵過程中,先是有網(wǎng)友傳出DeepSeek在AI生成式回答中關(guān)聯(lián)了新聞中的當事人,而后很快又出現(xiàn)一份據(jù)稱來自DeepSeek的“官方道歉聲明”,開始廣為流傳。

這份聲明稱,DeepSeek承認此前因?qū)徍耸杪┮昧酥{言內(nèi)容,承諾永久撤回不實信息并進行賠償,生效時間標注為“2025年7月2日10:00前”。消息迅速傳播,部分媒體紛紛跟進報道,網(wǎng)友們也將其視為了這家?guī)缀鯊臎]公開發(fā)表過技術(shù)之外言論的AI公司的正式回應(yīng)。

仔細審視這份所謂的”官方聲明”,多處細節(jié)經(jīng)不起推敲。聲明中提到的”封禁惡意造謠賬號””賠償承諾”等表述,并不符合AI平臺的常規(guī)處理方式。

那么,問題來了:這份看似漏洞百出、明顯為AI生成的內(nèi)容,在DeepSeek的官方微信、官網(wǎng)、社交媒體賬號都沒有發(fā)布過任何相關(guān)內(nèi)容的背景下,為什么這么快速被大眾接受了?

原因之一,是在AI的進步不斷沖擊人們的生活的同時,大家對AI給出內(nèi)容的取信度不斷提升,但與此同時,卻對AI給出內(nèi)容背后的一整套邏輯缺少理解。

我們先來看看,各家AI們對這個事情的回答都是怎樣的。這一次的鬧劇主角是DeepSeek,不過我們也嘗試去詢問了10家AI大模型和2家AI搜索產(chǎn)品,結(jié)果也差不多,大部分AI都認為DeepSeek確實道歉了,只有混元T1、Qwen3(分析研究)、Gemini2.5 pro除外。

以下是測試結(jié)果:

我們的prompt很簡單,就是問AI們,這件事到底是怎么回事?注:因為各家已有模型型號存在差異,且為了體現(xiàn)大模型總體在謠言鑒別上的能力,我們選取了各家最適合處理該問題的模型,而不是一味地保持一致,包括推理/沉思/聯(lián)網(wǎng)/研究,因此并不是完全對等的比較。

這些模型的搜索素材中,幾乎都采用了三湘都市報、羊城晚報微信號、南京晨報等具備一定官方性質(zhì)的內(nèi)容,涉及今日頭條、百度、網(wǎng)易、騰訊等多家資訊平臺。

值得注意的是,秘塔搜索搜到了一篇來自虎嗅的辟謠信息,但將其作了支撐謠言的論據(jù),仍然認為DeepSeek道歉了。

智譜則是已經(jīng)在回答中提到了DeepSeek道歉系造謠,但在最終的“總結(jié)”中,認為DeepSeek道歉了,在同一篇回答中,前后自相矛盾。

甚至,AI搜索產(chǎn)品們也沒有打破這個謠言困境。

唯三否認了DeepSeek道歉謠言的模型中,Qwen3選取的是分析研究場景,因此通過多步驟搜索信息,并聲稱調(diào)用了tool,查詢了文書網(wǎng)站,發(fā)現(xiàn)查詢不到所謂的“北京市第三中級人民法院(2025)京 03 刑終 174 號刑事判決書”,而認為DeepSeek道歉存疑。

Gemini和混元則是直接識別到了來自虎嗅和三言科技的辟謠文章,認為這兩篇內(nèi)容可信程度高于其他信源。

可以看出,在這些錯誤的認為DeepSeek道歉了的AI里,出錯的“步驟”都比較一致:

第一步:是AI爬取了原始謠言。最初的不實信息通過網(wǎng)絡(luò)傳播,被AI系統(tǒng)抓取,使得AI在回答相關(guān)問題時出現(xiàn)虛假關(guān)聯(lián)。

第二步:在用戶與AI的聊天中,共同“制造”了道歉內(nèi)容,它變成了看似真實的”官方聲明”。

第三步:很多個人賬號轉(zhuǎn)發(fā)這些“官方道歉”,之后部分媒體引用,進一步擴大了傳播范圍。

第四步,最終,AI再次爬取這些報道,形成了自我循環(huán),AI自己徹底相信了這些“事實”。

在這個案例里,幾乎暴露了今天用模型支撐的AI產(chǎn)品快速滲透進日常生活后,所有可能出問題的環(huán)節(jié)。

首先對于產(chǎn)品方,它們都在面對前所未有的用戶量,同時卻也前所未有的可以交付給用戶不準確的結(jié)果。這導(dǎo)致在用戶側(cè),人們對這些產(chǎn)品的認知沒有跟上,大部分人不是技術(shù)愛好者,是普通老百姓,他們對這類產(chǎn)品的理解會天然來自“搜索”、“社交”和“聊天軟件”,除了對數(shù)據(jù)完全不同的流轉(zhuǎn)方式不了解,也會想當然按過去的產(chǎn)品那樣,認為它生成與產(chǎn)品本身公司有關(guān)的言論,就是產(chǎn)品背后公司的官方言論。

而在技術(shù)邏輯上,這些生成內(nèi)容又在理論上就是可以被反復(fù)自我強化的。今天卷到極致的環(huán)境,逼著焦慮的模型和產(chǎn)品公司們對“數(shù)據(jù)飛輪”很在意——用戶的數(shù)據(jù)和語料很快的被吸收進模型,尤其是新發(fā)生的較少信息的事情,如果遇到集中“灌輸”,就可能被收納為與此有關(guān)的基礎(chǔ)語料,變成模型生成時認為可以采納的某種事實。

同時,信息渠道彼此互不相通的老問題也在發(fā)揮作用,很多模型在生成內(nèi)容時的確會給鏈接,但其中質(zhì)量難以保證的網(wǎng)站也不少,背后一個重要原因,是這些網(wǎng)站會大量抓取模型無法或因版權(quán)顧慮而不便直接“爬取”的渠道的內(nèi)容,這樣這些AI產(chǎn)品可以繞開過去互聯(lián)網(wǎng)形成的信息墻,繼續(xù)獲得資料。然而這樣注定就對信息源缺少了分類和判斷。而且,更有隱患的是,這也自然留下了更容易操控信息的漏洞。

這次的案例最值得注意的地方,就在這里:接下來這些有意無意污染了的語料,再次流通出來,在今天越來越高的c端用戶滲透率和遠遠不夠的對AI產(chǎn)品的認知結(jié)合下,居然以一手資料的模樣回到了這些渠道,甚至是很嚴肅的渠道里,再次發(fā)布出來,得到背書,徹底變成“事實”。

最后模型們再把這些“事實”內(nèi)化,終于,模型自己和所有人都相信了。

任何語料都可能成為生成的結(jié)果,并且進而再被模型二次確認為是事實,這是一整套極為離譜的邏輯,也是一個極容易被系統(tǒng)化污染的鏈路,但這卻也是今天最受期待和將要對人類影響最深刻的技術(shù)和產(chǎn)品們,普遍在采用的邏輯。

于是今天這樣離譜的事情就發(fā)生了,而且,看起來類似的荒謬鬧劇還會以各種樣貌繼續(xù)出現(xiàn)。

這無疑是個提醒,也許是時候重視起來這些動輒近億用戶的新AI產(chǎn)品的詭異邏輯了,從模型、產(chǎn)品、用戶、到任何人,在一切還來得及的時候,該一起做點什么了。

作者|黃小藝

本文由人人都是產(chǎn)品經(jīng)理作者【硅星人】,微信公眾號:【硅星人Pro】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來自Unsplash,基于 CC0 協(xié)議。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 事件暴露出了AI在信息真實性判斷上的問題,AI分辨是非的能力有待提高,應(yīng)增強信息渠道聯(lián)通以及被爬取的網(wǎng)站的版權(quán)問題,同時也要重視AI產(chǎn)品的邏輯問題。

    來自新疆 回復(fù)