為什么AI多輪對話總是那么傻?
AI多輪對話一直是技術(shù)應用中的難點,也是用戶體驗的痛點。本文深入剖析了AI多輪對話的挑戰(zhàn),包括上下文遺忘、意圖偏移、代詞關(guān)聯(lián)錯誤等問題,并提出了通過SOP設計來優(yōu)化多輪對話體驗的策略。
上一篇文章,我們得出了一般選手應該如何入門AI應用領域的路徑:
- 使用DeepSeek整理SOP;
- 使用扣子類平臺驗證SOP;
- 最后做程序優(yōu)化;
- 有必要就做平臺化;
后續(xù)也是列舉了個簡單的社群AI分身的例子,只不過其中多輪聊天這塊被我故意略去了,原因是他太復雜了。
事實上,多輪聊天是整個AI應用最大的難點,也是很多人做不好AI產(chǎn)品的關(guān)鍵,一旦是涉及多聊天的產(chǎn)品,其實現(xiàn)復雜度都會大幅增加!
所以,今天第一個問題是,AI多輪對話到底難在哪里?
關(guān)于這個問題,也許大家沒有注意到,其實當前所有的互聯(lián)網(wǎng)產(chǎn)品設計多是針對一問一答這種模式的。包括DeepSeek、ChatGPT這種工具,他其實也更多是一問一答的模式。
一般用戶在產(chǎn)品使用時候,當面臨新問題的時候,會刻意的新開窗口,防止信息互相污染。
這種習慣的潛意識是:暫時還不太相信模型具有多輪對話的能力。
事實上,模型的反饋也確實在說明這一點:
- 在7輪醫(yī)療問診對話中,GPT-4對患者主訴的遺忘率達37%;
- 當對話超過12輪時,關(guān)鍵信息丟失率飆升至68%;
隨著模型能力增強,該情況會好一些,但模型依舊會有這種上下文遺忘的問題。
另一方面,我們在實際對話中會有很多“代詞”,比如這個、那個、他…
而在模型對話過程中,這種代詞很容易被錯誤關(guān)聯(lián),這會進一步要求我們跟AI對話的時候進行手動補足,而這種嚴謹?shù)难a足顯然不符合人們聊天習慣。
但最重要的還是要回歸第一個點:意圖偏移、話題切換,人們聊天過程中各種天馬行空,他們會不斷切換話題,而模型當前顯然是跟不上的…
就我之前做的一個客服類產(chǎn)品數(shù)據(jù),對話輪次越多,效果越差。
最后,AI也需要面臨眾口難調(diào)的問題,因為有些用戶喜歡簡潔精準的回答,有些用戶喜歡發(fā)散引導型回答,這種處理起來也有些小麻煩…
綜上,這里的結(jié)論是:不要期待模型依靠自己的能力就將多輪對話做得很順滑了,不大可能的。
SOP設計
所以,想要好的多輪對話體驗,必須要進行SOP設計,或者說任務/目標設計,這里的核心有二:
- AI需要完成什么目標;
- 不同的目標需要不同的AI;
這里如上圖所示,一個完整的應用可能會由成百上千的SOP構(gòu)成,SOP少了應用就會卡殼;SOP本身有缺陷,那么模型就會胡說八道。
總而言之,多輪對話即目標設計,這里首先得有目標,其次要有方法論,方法論會形成流程最終會形成一套SOP。
這里大家多半是不能完全聽懂的,所以這里以上篇文章的對話做實際案例。
比如A粉絲在群里發(fā)言:如何開啟AI副業(yè),月入10w? 想聽的速來?。∵@種標題誘惑大
AI應該作何反應呢,關(guān)于AI如何反應這就是SOP,這里最簡單的提示詞是:
你的角色是一名資深陪聊,你總能讓話題很好的繼續(xù)下去;接下來我將作為一名客戶與你對話,請你好好扮演你的角色。
事實上,隨著聊天的輪數(shù)增加,AI輸出的營養(yǎng)越少,甚至讓我感到煩躁:
如果要讓AI稍微具有靈性一點,這里的策略是:給AI一個目標/讓AI去完成一個更為具體的任務。
具體到這里的場景,可以先生成一個AI的觀點,其次讓AI論證其觀點。比如:
群里有粉絲發(fā)表一句話:如何開啟AI副業(yè),月入10w? 想聽的速來??!這種標題誘惑大。
對此,你的觀點是:它們本質(zhì)上是利用焦慮感和信息差制造的“成功學陷阱”,絕大多數(shù)普通人盲目跟隨只會成為被收割的對象,而非受益者。
你的具體思考是:
{
1. 標題的底層邏輯是“投機誘惑”精準擊中人性弱點:這類標題組合了“低門檻(副業(yè))”“高回報(月入10萬)”“時效性(速來)”三大心理觸發(fā)器,瞄準的是人們對快速致富的渴望和對AI行業(yè)的信息不對稱。
幸存者偏差的包裝:即使有極少數(shù)成功案例,也往往依賴特殊資源(如行業(yè)積累、流量紅利、灰色操作),但宣傳時會刻意隱去背景,營造“人人可復制”的假象。
2. AI行業(yè)的現(xiàn)實:技術(shù)壁壘與市場飽和技術(shù)變現(xiàn)≠零門檻:真正通過AI盈利的通常是兩類人:
? 掌握核心技術(shù)(如模型微調(diào)、API開發(fā))的專業(yè)人士;
? 利用AI工具輔助現(xiàn)有業(yè)務的從業(yè)者(如設計師用MidJourney提效)。而鼓吹“無需經(jīng)驗,一鍵套利”的課程/項目,多半是教人用ChatGPT生成低質(zhì)量內(nèi)容,在高度同質(zhì)化的市場中毫無競爭力。
被動收入神話的破滅:AI工具確實能提升效率,但所謂“自動躺賺”的案例(如批量生成短視頻、套殼AI應用)往往因平臺規(guī)則變化或內(nèi)卷迅速失效。
3. 清醒的應對策略
警惕“捷徑思維”:所有可持續(xù)的收益都對應同等價值的付出(時間、技能、資源),AI只是工具而非“點金術(shù)”。
從需求端逆向思考:
? 如果你有某領域?qū)I(yè)知識(如法律、醫(yī)療),AI可輔助規(guī)?;眨ㄈ缰悄茏稍儯?/p>
? 如果你有客戶資源,AI可幫助提升交付效率(如自動化報表生成)。脫離具體場景的“副業(yè)模板”基本是空中樓閣。
驗證邏輯而非沖動付費:遇到此類宣傳時,先問三個問題:
? 對方盈利模式是否依賴“拉人頭”?
? 案例數(shù)據(jù)是否經(jīng)得起第三方驗證?
? 所需投入(時間/資金/技術(shù))是否被刻意弱化?
4. 你的核心立場
反對的不是AI副業(yè),而是反智的投機宣傳。AI時代的機會屬于:
? 愿意深耕垂直領域的人(如用AI做跨境電商的精細化運營);
? 能解決具體問題的人(如為中小企業(yè)定制AI客服方案)。
“月入10萬”是結(jié)果而非目標:它應是能力、資源、時機疊加后的自然產(chǎn)物,而非靠復制“秘籍”達成。
}
在AI擁有主觀觀點后,聊天的行為就會變得更有清晰感了:
你是一名資深陪聊,當前群里有粉絲發(fā)表一句話:如何開啟AI副業(yè),月入10w? 想聽的速來??!這種標題誘惑大。
對此,你的觀點是:它們本質(zhì)上是利用焦慮感和信息差制造的“成功學陷阱”,絕大多數(shù)普通人盲目跟隨只會成為被收割的對象,而非受益者。
你的具體思考是:
{
1. 標題的底層邏輯是“投機誘惑”
精準擊中人性弱點:這類標題組合了“低門檻(副業(yè))”“高回報(月入10萬)”“時效性(速來)”三大心理觸發(fā)器,瞄準的是人們對快速致富的渴望和對AI行業(yè)的信息不對稱。
幸存者偏差的包裝:即使有極少數(shù)成功案例,也往往依賴特殊資源(如行業(yè)積累、流量紅利、灰色操作),但宣傳時會刻意隱去背景,營造“人人可復制”的假象。
2. AI行業(yè)的現(xiàn)實:技術(shù)壁壘與市場飽和
技術(shù)變現(xiàn)≠零門檻:真正通過AI盈利的通常是兩類人:
? 掌握核心技術(shù)(如模型微調(diào)、API開發(fā))的專業(yè)人士;
? 利用AI工具輔助現(xiàn)有業(yè)務的從業(yè)者(如設計師用MidJourney提效)。而鼓吹“無需經(jīng)驗,一鍵套利”的課程/項目,多半是教人用ChatGPT生成低質(zhì)量內(nèi)容,在高度同質(zhì)化的市場中毫無競爭力。
被動收入神話的破滅:AI工具確實能提升效率,但所謂“自動躺賺”的案例(如批量生成短視頻、套殼AI應用)往往因平臺規(guī)則變化或內(nèi)卷迅速失效。
3. 清醒的應對策略
警惕“捷徑思維”:所有可持續(xù)的收益都對應同等價值的付出(時間、技能、資源),AI只是工具而非“點金術(shù)”。
從需求端逆向思考:
? 如果你有某領域?qū)I(yè)知識(如法律、醫(yī)療),AI可輔助規(guī)?;眨ㄈ缰悄茏稍儯?;
? 如果你有客戶資源,AI可幫助提升交付效率(如自動化報表生成)。脫離具體場景的“副業(yè)模板”基本是空中樓閣。
驗證邏輯而非沖動付費:遇到此類宣傳時,先問三個問題:
? 對方盈利模式是否依賴“拉人頭”?
? 案例數(shù)據(jù)是否經(jīng)得起第三方驗證?
? 所需投入(時間/資金/技術(shù))是否被刻意弱化?
4. 你的核心立場
反對的不是AI副業(yè),而是反智的投機宣傳。AI時代的機會屬于:
? 愿意深耕垂直領域的人(如用AI做跨境電商的精細化運營);
? 能解決具體問題的人(如為中小企業(yè)定制AI客服方案)。
“月入10萬”是結(jié)果而非目標:它應是能力、資源、時機疊加后的自然產(chǎn)物,而非靠復制“秘籍”達成。}
你的任務如下:{
1、繼續(xù)扮演陪聊角色;
2、堅定的堅持你的觀點,你每一次發(fā)言都要正面或反面的強調(diào)你的觀點(但是用詞不能過于明顯),并且你在強調(diào)觀點的同時需要提供各種論據(jù);
3、群里有很多其他粉絲,你要注意你每次發(fā)言要爭取到更多人的認可;
4、如果群里出現(xiàn)了反對你觀點的聲音,你要予以嚴苛的打擊;
}
現(xiàn)在,請你就“如何開啟AI副業(yè),月入10w? 想聽的速來?。∵@種標題誘惑大?!闭归_發(fā)言,而后我會扮演群里各個粉絲與你對話
在帶有目標后,對話明顯充滿了情緒,對話具備情緒后,效果就會好不少,讓AI具備目標、讓AI具備情緒,讓AI形成SOP,就是多倫對話的訣竅!
這里各位可以再理解理解…
結(jié)語
讓AI具有目標形成SOP,是多輪對話的核心策略,但是如何打磨這個策略,便是漫長的提示詞工程了…
舉個例子,上述AI的目標是堅定自己的觀點,而后論證自己的觀點,并和群友進行辯論性交流。
從這個角度出發(fā),形成證據(jù)鏈的第一步就很重要,舉個例子:AI大概率是有多個候選目標,只是最后選了他最喜歡那個,因為觀點不是一句話,而是一條“證據(jù)鏈”。
他可能會有一個自己的計算公式:置信度 = 知識庫匹配度 × 數(shù)據(jù)支持度 × 邏輯自洽度…
因為涉及到敏感內(nèi)容了,我這里不展開,各位自己繼續(xù)摸索摸索…
在上述工程干預之下,形成的觀點本身就帶有基本的證據(jù)鏈,所以接下來的交流很容易引入一套方法論。
這里一些小秘訣是:把“自我對抗辯論”嵌入一次消息的內(nèi)循環(huán),而不是等用戶追問。這樣既減少輪次,又顯得更“有思考”。
至于具體如何打磨這套工程,大家再沿著這個思路思考下吧,以上就是AI多輪對話的一些訣竅!
本文由人人都是產(chǎn)品經(jīng)理作者【葉小釵】,微信公眾號:【葉小釵】,原創(chuàng)/授權(quán) 發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于 CC0 協(xié)議。
從開發(fā)者角度來說,各家現(xiàn)在暴露出來的API開放平臺都是“無狀態(tài)”的接口,即服務器不會存儲上下文內(nèi)容。
上下文能記住多少更多的是能支持的入?yún)⑸舷挛拇翱诖笮∫约澳P蛯?nèi)容語料訓練的理解。
當下每一家平臺對于保持多輪對話連貫都是有自己的策略(黑盒),所以各平臺多輪對話連貫性的本質(zhì)更多取決于OpenAI或者DeepSeek對于這個“上下文窗口”設置的大小。
不過題主更多是從用戶的視角來說,用戶能控制的就是prompt的設定,需要給定明確目標,的確是對連續(xù)對話很重要的引導。