国外亚洲成av人片在线观看,热99re久久精品这里都是精品,天堂网在线最新版www,国产成人av区一区二区三,51久久成人国产精品麻豆

大模型正成為人工智能領(lǐng)域的焦點(diǎn)，引發(fā)了廣泛的社會(huì)和文化討論。然而，其本質(zhì)常被誤解?！禨cience》雜志上的一篇文章提出了一個(gè)全新的視角：大模型并非自主智能主體，而是一種類似語(yǔ)言、印刷和市場(chǎng)制度的革命性文化社會(huì)技術(shù)。這種技術(shù)以獨(dú)特的方式匯聚并重構(gòu)人類信息，成為“人類社會(huì)人工系統(tǒng)”的新變體。本文將探討大模型如何影響資源分配、文化多樣性、科學(xué)進(jìn)步以及權(quán)力結(jié)構(gòu)的重構(gòu)，引導(dǎo)我們從“機(jī)器接管”與“烏托邦助手”的狹隘辯論中解脫出來(lái)，關(guān)注更現(xiàn)實(shí)且緊迫的問(wèn)題。

模型正重塑我們的社會(huì)文化生態(tài)，但其本質(zhì)常被誤解。

大模型正重塑我們的社會(huì)文化生態(tài)，但其本質(zhì)常被誤解?！禨cience》上的一篇最新文章，揭示大模型并非自主智能主體，而是一種革命性文化社會(huì)技術(shù)，類似于語(yǔ)言、印刷與市場(chǎng)制度。它以獨(dú)特方式匯聚并重構(gòu)人類信息，成為“人類社會(huì)人工系統(tǒng)”的新變體。這一重新定位的理論框架引導(dǎo)我們超越“機(jī)器接管”與“烏托邦助手”的狹隘辯論，轉(zhuǎn)而關(guān)注更為現(xiàn)實(shí)且緊迫的問(wèn)題：大模型將如何影響資源分配、文化多樣性、科學(xué)進(jìn)步以及權(quán)力結(jié)構(gòu)的重構(gòu)？

關(guān)于人工智能（AI）的爭(zhēng)論大多集中在大模型是否是具備智能和自主能力的主體。一些人工智能研究人員和評(píng)論家推測(cè)，我們正處于創(chuàng)造通用人工智能（AGI）主體的邊緣，這一前景既令人興奮又引起焦慮。同時(shí)，人們也就大模型的文化和社會(huì)影響進(jìn)行了廣泛討論，討論主要聚焦于兩個(gè)方面：一是這些系統(tǒng)在當(dāng)前使用時(shí)所產(chǎn)生的直接影響；二是假設(shè)未來(lái)這些系統(tǒng)轉(zhuǎn)變?yōu)锳GI主體，甚至可能成為超智能AGI主體時(shí)，可能帶來(lái)的潛在影響。然而，把大模型視為智能主體的論調(diào)從根本上來(lái)說(shuō)是誤導(dǎo)性的。

結(jié)合社會(huì)與行為科學(xué)的理念與計(jì)算機(jī)科學(xué)的方法，可以幫助我們更準(zhǔn)確地理解人工智能系統(tǒng)。大模型不應(yīng)主要被視為智能主體，而應(yīng)被看作是一種全新的文化和社會(huì)技術(shù)，使人們能夠從其他人長(zhǎng)期積累的信息中獲益。

大模型這一新技術(shù)融合了早期多種技術(shù)的重要特性。正如圖像、文字、印刷、視頻、互聯(lián)網(wǎng)搜索等技術(shù)一樣，大模型使人們能夠獲取其他人創(chuàng)造的信息。目前，大模型主要集中于語(yǔ)言、視覺(jué)以及多模態(tài)領(lǐng)域，依賴于互聯(lián)網(wǎng)，將早期技術(shù)的產(chǎn)出成為機(jī)器可讀的形式（machine-readable form）。但類似于經(jīng)濟(jì)市場(chǎng)、社會(huì)機(jī)構(gòu)和其他社會(huì)技術(shù)，這些系統(tǒng)不僅廣泛傳播信息，還能以獨(dú)特的方式對(duì)信息進(jìn)行重組、轉(zhuǎn)化和重構(gòu)。用西蒙的話說(shuō)，大模型是“人類社會(huì)人工系統(tǒng)（artificial systems of human society）”的一種新變體，通過(guò)信息處理實(shí)現(xiàn)大規(guī)模人群的協(xié)調(diào)合作。[(1),p.33]

我們的核心觀點(diǎn)不僅在于，這些技術(shù)創(chuàng)新像其他所有創(chuàng)新一樣會(huì)帶來(lái)文化和社會(huì)上的影響，相反，我們主張大型模型本身最好被理解為一種特殊類型的文化社會(huì)技術(shù)。它們類似于過(guò)去的技術(shù)，如文字、印刷、市場(chǎng)、官僚體系和代議制民主?；谶@一視角，我們可以提出一個(gè)獨(dú)立的問(wèn)題：這些系統(tǒng)將會(huì)帶來(lái)什么影響？那些本身并非文化或社會(huì)性質(zhì)的新技術(shù)，比如蒸汽和電力，也能產(chǎn)生文化影響，但真正的新型文化技術(shù)，例如維基百科的影響可能較為有限。然而，許多過(guò)去的文化和社會(huì)技術(shù)曾對(duì)社會(huì)產(chǎn)生深遠(yuǎn)而變革性的積極或消極影響，大模型很可能也將如此。

這些影響與其他重要通用技術(shù)（如蒸汽或電力）所帶來(lái)的截然不同，它們也不同于我們對(duì)假設(shè)性通用人工智能可能產(chǎn)生影響的預(yù)期。通過(guò)審視歷史上的文化社會(huì)技術(shù)及其影響，我們能夠更好地理解人工智能模型的潛在風(fēng)險(xiǎn)與發(fā)展機(jī)遇，而非僅僅憂慮超級(jí)智能體的出現(xiàn)。

社會(huì)和文化組織

人類自存在以來(lái)，就一直依賴文化傳承。從語(yǔ)言本身開(kāi)始，人類具備了從其他人經(jīng)驗(yàn)中學(xué)習(xí)的獨(dú)特能力，這種能力可以說(shuō)是人類進(jìn)化成功的奧秘，這種學(xué)習(xí)能力的重大技術(shù)變革也隨之引發(fā)了劇烈的社會(huì)變革。語(yǔ)言交流之后出現(xiàn)了圖像，接著是文字、印刷、電影和視頻。隨著越來(lái)越多的信息跨越更廣闊的空間和時(shí)間得以傳播，獲取和組織這些信息的新方式也應(yīng)運(yùn)而生，從圖書(shū)館到報(bào)紙?jiān)俚交ヂ?lián)網(wǎng)搜索。這些發(fā)展對(duì)人類思想和社會(huì)產(chǎn)生了深遠(yuǎn)影響，無(wú)論是積極還是消極。例如，十八世紀(jì)印刷技術(shù)的進(jìn)步使新思想得以迅速傳播，對(duì)啟蒙運(yùn)動(dòng)和法國(guó)大革命發(fā)揮了重要作用。而在2000年左右，當(dāng)幾乎所有文字、圖像和動(dòng)態(tài)影像信息都轉(zhuǎn)化為數(shù)字格式時(shí)，一場(chǎng)標(biāo)志性變革隨之發(fā)生，這些信息可以被即時(shí)傳輸和無(wú)限復(fù)制。

自人類存在以來(lái)，我們也一直依賴社會(huì)制度來(lái)協(xié)調(diào)個(gè)體的信息收集和決策過(guò)程。這些制度本身可以被視為一種技術(shù)[1]。在現(xiàn)代，市場(chǎng)、民主制度和官僚體系尤為重要。經(jīng)濟(jì)學(xué)家弗里德里?！す耍‵riedrich Hayek）認(rèn)為，市場(chǎng)的價(jià)格機(jī)制能夠生成對(duì)極其復(fù)雜、難以捉摸的經(jīng)濟(jì)關(guān)系的動(dòng)態(tài)信息[2]。生產(chǎn)者和消費(fèi)者無(wú)需理解生產(chǎn)過(guò)程中的復(fù)雜性，只需關(guān)注價(jià)格，而價(jià)格則將大量細(xì)節(jié)壓縮成一種簡(jiǎn)化而可用的表示。類似地，民主政體中的選舉機(jī)制以相關(guān)方式將分散的民意匯聚為集體性質(zhì)的法律和領(lǐng)導(dǎo)決策。人類學(xué)家斯科特（Scott?）[3]指出，無(wú)論是民主國(guó)家還是其他形式的國(guó)家，都通過(guò)構(gòu)建分類和系統(tǒng)化信息的官僚體系來(lái)管理復(fù)雜社會(huì)。

早在計(jì)算機(jī)出現(xiàn)之前，市場(chǎng)、民主和官僚體系就依賴于生成一種有損（不完整、選擇性且不可逆）的但卻有用的表示的機(jī)制。這些表示既依賴于個(gè)體的知識(shí)和決策，同時(shí)也超越了個(gè)體層面。價(jià)格、選舉結(jié)果或諸如國(guó)內(nèi)生產(chǎn)總值（GDP）之類的指標(biāo)，都是對(duì)大量個(gè)體知識(shí)、價(jià)值觀、偏好和行為的總結(jié)。同時(shí)，這些社會(huì)技術(shù)也能反過(guò)來(lái)影響個(gè)體的知識(shí)和決策。

市場(chǎng)、國(guó)家或官僚體系的抽象機(jī)制，正如文化媒介一樣，能以至關(guān)重要的方式影響個(gè)體生活，有時(shí)甚至產(chǎn)生負(fù)面效果。例如，中央銀行將金融經(jīng)濟(jì)的復(fù)雜性歸約為幾個(gè)關(guān)鍵變量，這表面上帶來(lái)了金融穩(wěn)定，但卻使住房市場(chǎng)的不穩(wěn)定性得以累積，而中央銀行對(duì)此關(guān)注不足，從而引發(fā)了2008年全球金融危機(jī)[4]。同樣，市場(chǎng)可能無(wú)法反映諸如有害碳排放等“外部性”信息。通過(guò)諸如碳稅之類的手段將這些信息整合進(jìn)價(jià)格體系中或許有幫助，但這需要國(guó)家采取行動(dòng)。

人類在很大程度上依賴于這些文化和社會(huì)技術(shù)。然而，這些技術(shù)之所以能夠存在，正是因?yàn)槿祟惥邆渥鳛橹悄苤黧w所特有的獨(dú)特能力。人類和其他動(dòng)物能夠感知并應(yīng)對(duì)不斷變化的外部世界，構(gòu)建該世界的新模型，隨著證據(jù)的積累修正模型，進(jìn)而設(shè)計(jì)新的目標(biāo)。人類個(gè)體可以創(chuàng)造新的信念和價(jià)值觀，并通過(guò)語(yǔ)言或印刷的方式將這些信念和價(jià)值觀傳遞給他人。文化和社會(huì)技術(shù)以強(qiáng)大的方式傳遞和組織這些信念和價(jià)值觀，但如果沒(méi)有這些個(gè)體的能力，這些技術(shù)就無(wú)法發(fā)揮作用。沒(méi)有創(chuàng)新，模仿就失去了意義[5]。

一些人工智能系統(tǒng)，例如機(jī)器人領(lǐng)域的系統(tǒng)，的確在試圖實(shí)現(xiàn)類似的探索真理能力。從原理上講，未來(lái)的某個(gè)時(shí)刻，人工系統(tǒng)完全有可能具備這種能力，畢竟人腦具備這些能力。但就目前而言，這類系統(tǒng)距離人類的這些能力還有很大差距。我們可以討論現(xiàn)在是否應(yīng)當(dāng)對(duì)這些潛在的未來(lái)人工智能系統(tǒng)感到擔(dān)憂，或者如果它們出現(xiàn)時(shí)我們?cè)撊绾螒?yīng)對(duì)，但這與回答當(dāng)前及近期大模型所產(chǎn)生的影響是不同的。

大模型

大模型，不同于那些更具能動(dòng)性的系統(tǒng)，在過(guò)去幾年中取得了顯著且出乎意料的進(jìn)展，這使得它們成為當(dāng)前人工智能討論的焦點(diǎn)。這一進(jìn)展引發(fā)了這樣的觀點(diǎn)：通過(guò)“規(guī)模效應(yīng)（scaling）”，也就是簡(jiǎn)單地采用現(xiàn)有設(shè)計(jì)，并增加它們使用的數(shù)據(jù)量和算力，便能在不久的將來(lái)實(shí)現(xiàn)通用人工智能（AGI）。但大模型在根本上不同于智能主體，規(guī)模的擴(kuò)大不會(huì)改變這一點(diǎn)。例如，“幻覺(jué)”現(xiàn)象在這些系統(tǒng)中普遍存在，因?yàn)樗鼈儧](méi)有真?zhèn)胃拍睿ūM管已有一些相應(yīng)的解決辦法），它們只是對(duì)文本和圖像進(jìn)行采樣和生成。

大模型并非智能主體，而是以一種全新的方式融合了文化與社會(huì)技術(shù)的特性，對(duì)人類生產(chǎn)的大量復(fù)雜信息進(jìn)行總結(jié)概括。但這些系統(tǒng)不僅像圖書(shū)館目錄、互聯(lián)網(wǎng)搜索或維基百科那樣對(duì)信息進(jìn)行總結(jié)，它們還能像市場(chǎng)、國(guó)家以及官僚機(jī)構(gòu)那樣，在規(guī)模上以全新方式重新組織和重構(gòu)這些信息的表示或“模擬”[1]。正如市場(chǎng)價(jià)格是對(duì)資源配置和底層信息的有損表示，政府統(tǒng)計(jì)數(shù)據(jù)和官僚分類也并不能完全反映底層人群的特征，大模型同樣是其訓(xùn)練數(shù)據(jù)語(yǔ)料庫(kù)的“有損JPEG”[6]。

由于人類難以對(duì)大規(guī)模文化和社會(huì)技術(shù)有清晰的思考和認(rèn)識(shí)，我們傾向于將它們視作具有主體性的存在。故事是一種極具力量的信息傳遞方式，從篝火旁的傳說(shuō)到小說(shuō)再到視頻游戲，它們都是通過(guò)創(chuàng)造富有表現(xiàn)力的虛構(gòu)主體來(lái)實(shí)現(xiàn)這一目的，盡管聽(tīng)眾清楚地知道這些主體并非真實(shí)存在。聊天機(jī)器人是赫拉克勒斯、阿南西和彼得兔的繼承者。同樣，人們很容易將市場(chǎng)和國(guó)家視為具有能動(dòng)性的主體，甚至機(jī)構(gòu)或公司也能擁有某種法律人格。

然而，在那些類似主體的交互界面和擬人化的外表背后，大語(yǔ)言模型（LLM）和大型多模態(tài)模型實(shí)際上是統(tǒng)計(jì)模型，它們處理大量由人類生產(chǎn)的文本語(yǔ)料，將其分解成特定的詞語(yǔ)，并估計(jì)長(zhǎng)詞序列的概率分布。這種方式雖然對(duì)語(yǔ)言的表征并不完美，但卻包含了關(guān)于其所總結(jié)的模式中大量豐富的信息。

大語(yǔ)言模型能夠預(yù)測(cè)序列中下一個(gè)出現(xiàn)的詞，從而生成類似于人類生成的文本。大型多模態(tài)模型則以類似方式處理音頻、圖像和視頻數(shù)據(jù)。大模型不僅抽象出了大量人類文化，還可以基于它開(kāi)發(fā)各種新操作，例如，可以通過(guò)提示使大語(yǔ)言模型對(duì)其訓(xùn)練數(shù)據(jù)進(jìn)行復(fù)雜轉(zhuǎn)換：簡(jiǎn)單的論點(diǎn)可以進(jìn)行華麗的隱喻表達(dá)，而華麗的辭藻也可以被凝練成樸實(shí)的語(yǔ)言。類似的技術(shù)還使得其他模型能夠根據(jù)提示生成新的圖片、歌曲和視頻。一整套曾經(jīng)海量、過(guò)于復(fù)雜、且混亂的文化信息，如今已變得易于大規(guī)模操作。

實(shí)際上，這些最前沿的AI系統(tǒng)不僅依賴于由人類生成和策劃的大量文本和圖像緩存，還依賴于其他形式的人類判斷和知識(shí)。特別地，這些系統(tǒng)依靠來(lái)自人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）或其變體：成千上萬(wàn)的工作人員對(duì)模型輸出進(jìn)行評(píng)分。它們還依賴于提示詞工程，人類必須運(yùn)用背景知識(shí)和創(chuàng)造力從模型中提取有用的信息。即使是最新的“思維鏈（chain of thought）”模型，通常也是從與人類用戶的對(duì)話開(kāi)始。

大模型從文本中提取一般統(tǒng)計(jì)模式所依靠的那些相對(duì)簡(jiǎn)單而強(qiáng)大的算法，并不是它們成功的關(guān)鍵。相反，現(xiàn)代人工智能的基礎(chǔ)是圖書(shū)館、互聯(lián)網(wǎng)、成千上萬(wàn)的程序員，以及日益壯大的國(guó)際活躍用戶群。請(qǐng)求機(jī)器人幫助撰寫(xiě)求職信，實(shí)際上是與成千上萬(wàn)的前求職者和求職信撰寫(xiě)者，以及RLHF工作人員進(jìn)行一種技術(shù)中介關(guān)系（technically mediated relationship）。

挑戰(zhàn)與機(jī)遇

人工智能的話題討論應(yīng)該聚焦于這些新文化、社會(huì)技術(shù)所帶來(lái)的挑戰(zhàn)與機(jī)遇。我們現(xiàn)在擁有一種技術(shù)，對(duì)書(shū)面與圖像文化的作用相當(dāng)于大規(guī)模市場(chǎng)對(duì)經(jīng)濟(jì)、龐大官僚機(jī)構(gòu)對(duì)社會(huì)的作用，甚至可與印刷曾經(jīng)對(duì)語(yǔ)言產(chǎn)生的影響相提并論。那么，接下來(lái)會(huì)發(fā)生什么？正如過(guò)去的經(jīng)濟(jì)、組織和信息領(lǐng)域的“通用技術(shù)”一樣，這些系統(tǒng)將對(duì)生產(chǎn)力產(chǎn)生影響[7]，既能補(bǔ)充人類勞動(dòng)，也能自動(dòng)化以前只有人類才能完成的任務(wù)；同時(shí)還會(huì)影響資源分配，決定“誰(shuí)獲得什么”[8]。

然而，它們還會(huì)帶來(lái)更廣泛且深遠(yuǎn)的文化影響。我們尚不清楚這些影響是否會(huì)像印刷、市場(chǎng)或官僚機(jī)構(gòu)等早期技術(shù)一樣大，但將它們視為文化技術(shù)，反而會(huì)增強(qiáng)其潛在的影響力。無(wú)論是作為變革的原因還是結(jié)果，這些早期技術(shù)在18、19世紀(jì)廣泛的社會(huì)轉(zhuǎn)型中發(fā)揮了核心作用。所有這些技術(shù)，和大模型一樣，都支持對(duì)信息的抽象處理，從而使得新型大規(guī)模操作得以實(shí)施。它們引發(fā)了關(guān)于錯(cuò)誤信息和偏見(jiàn)傳播、文化同質(zhì)化或分裂以及權(quán)力和資源分配變動(dòng)的合理?yè)?dān)憂。新傳播媒體的出現(xiàn)，包括印刷和電視，也伴隨著對(duì)其可能傳播錯(cuò)誤信息和強(qiáng)化有害文化力量的合理?yè)?dān)憂。同樣，官僚機(jī)構(gòu)和市場(chǎng)所采用的分類方案往往帶有壓迫性的前提假設(shè)。

與此同時(shí)，這些技術(shù)為重新組合信息和在全球范圍內(nèi)協(xié)調(diào)數(shù)百萬(wàn)人的行動(dòng)創(chuàng)造了全新可能。對(duì)于大語(yǔ)言模型在社會(huì)、經(jīng)濟(jì)和政治影響方面的討論，延續(xù)了對(duì)新型文化與社會(huì)技術(shù)由來(lái)已久的擔(dān)憂與希望。要對(duì)這些討論進(jìn)行定位，既需要認(rèn)識(shí)到新舊論點(diǎn)之間的共性，也需要勾勒出這些新興且不斷進(jìn)化的技術(shù)的具體特征。

這種將大模型映射到文化社會(huì)之中正是社會(huì)科學(xué)的核心任務(wù)之一，而社會(huì)科學(xué)正是在工業(yè)革命及其影響引發(fā)的社會(huì)、經(jīng)濟(jì)和政治動(dòng)蕩中孕育而生的。社會(huì)科學(xué)家對(duì)過(guò)去這些技術(shù)影響的研究，可以幫助我們思考人工智能在社會(huì)層面上那些不那么明顯的積極消極影響，同時(shí)探索如何設(shè)計(jì)新的人工智能系統(tǒng)，放大其積極效應(yīng)減少消極影響。正如19世紀(jì)和20世紀(jì)媒體、市場(chǎng)以及官僚技術(shù)的擴(kuò)展所產(chǎn)生的效應(yīng)，造就了經(jīng)濟(jì)上的輸家與贏家，取代了從文員、打字員到“人工計(jì)算機(jī)”等整個(gè)類別的工作者，今天的大模型也引發(fā)了人們對(duì)相關(guān)技術(shù)可能取代“知識(shí)工作者”的擔(dān)憂。

除此之外，還有一些不那么明顯的問(wèn)題：大模型究竟會(huì)使文化和社會(huì)趨同，還是會(huì)使它們分化？在歷史背景下思考這一問(wèn)題尤其富有啟發(fā)性。當(dāng)前的擔(dān)憂與19至20世紀(jì)有關(guān)市場(chǎng)和官僚機(jī)構(gòu)的爭(zhēng)論十分相似。韋伯曾擔(dān)憂[9]經(jīng)濟(jì)和官僚“理性化”帶來(lái)的麻木與同質(zhì)化后果，而密爾[10]則認(rèn)為市場(chǎng)交換可以使參與者接觸到多樣的生活方式，從而緩和沖突（“溫和商業(yè)”）。

大模型表現(xiàn)得非常出色，它們能夠如實(shí)重現(xiàn)文本、圖像和視頻序列的實(shí)際概率分布。本質(zhì)上，它們?cè)谟?xùn)練數(shù)據(jù)中最一般的情形下傾向于表現(xiàn)得最為準(zhǔn)確，而在訓(xùn)練數(shù)據(jù)中罕見(jiàn)或全新情境下則可能準(zhǔn)確性較差。這種特性可能使大模型加劇韋伯所擔(dān)憂的那種同質(zhì)化現(xiàn)象。

另一方面，結(jié)合它們所總結(jié)的多樣化文化視角，大模型可能會(huì)幫助我們?cè)O(shè)計(jì)出新方法。將這些視角進(jìn)行整合與平衡，或許能為解決復(fù)雜問(wèn)題提供更為精細(xì)有效的手段[11]。例如，我們可以構(gòu)建類似“社會(huì)”的生態(tài)系統(tǒng)，其中不同視角（編碼在不同的大模型中）彼此辯論，甚至交叉融合以產(chǎn)生混合視角[12]，或者識(shí)別出人類專業(yè)知識(shí)領(lǐng)域中的空白[13]，進(jìn)而尋求有效的彌補(bǔ)。大模型在抽象化文本和圖像中那些微妙的數(shù)據(jù)模式方面表現(xiàn)出驚人的能力，這表明這類技術(shù)能夠發(fā)現(xiàn)穿插于人類知識(shí)和文化各領(lǐng)域的模式，甚至包括那些對(duì)單個(gè)個(gè)體來(lái)說(shuō)無(wú)法覺(jué)察的模式。我們可能需要構(gòu)建出新的系統(tǒng)，使大模型所反映的內(nèi)容和所呈現(xiàn)的人格多樣化，從而再現(xiàn)出類似于人類社會(huì)的分布和多樣性。

這種系統(tǒng)多樣化對(duì)科學(xué)進(jìn)步或許尤為重要。形式科學(xué)本身就依賴于17世紀(jì)和18世紀(jì)新型文化技術(shù)的涌現(xiàn)——從咖啡館和快速郵遞到期刊和同行評(píng)審。人工智能技術(shù)有可能進(jìn)一步加速科學(xué)進(jìn)展，但這將取決于我們?nèi)绾胃挥袆?chuàng)造性地使用和重新思考這些技術(shù)。通過(guò)將眾多文本、音頻和圖像中的不同視角相互聯(lián)結(jié)，大模型可能使我們發(fā)現(xiàn)前所未有的聯(lián)系，從而給科學(xué)和社會(huì)帶來(lái)益處。迄今為止，這些技術(shù)大多被訓(xùn)練為重復(fù)常規(guī)信息的小助手；而如果我們將它們視作探索未知領(lǐng)域的地圖，或許可以打開(kāi)新世界的大門(mén)。

新的文化和社會(huì)技術(shù)還以一些不那么明顯，但更有趣的方式影響著經(jīng)濟(jì)關(guān)系。文化技術(shù)的發(fā)展引發(fā)了信息生產(chǎn)者與信息分發(fā)系統(tǒng)之間根本性的經(jīng)濟(jì)張力（economic tension）。兩者相輔相成：作家需要出版商，出版商也需要作家；但他們的經(jīng)濟(jì)受益卻朝著相反的方向：信息分發(fā)者若能以低廉成本獲取生產(chǎn)者的信息則能獲利，而生產(chǎn)者若能以低成本將信息分發(fā)出去也能獲利。這種張力一直是新文化技術(shù)的一個(gè)特征，數(shù)字信息分發(fā)的便捷與高效已使這一問(wèn)題尤為尖銳，從地方報(bào)紙到學(xué)術(shù)期刊都可見(jiàn)一斑。然而，大模型以極快的速度、高效的處理能力和廣泛的覆蓋范圍一次性處理所有可用信息，再加上這些模型的集中所有制，使得這一問(wèn)題顯得格外嚴(yán)重。權(quán)力的集中可能使系統(tǒng)所有者更容易在犧牲他人利益的情況下獨(dú)享效率帶來(lái)的好處。

同時(shí)，還存在一些關(guān)鍵的技術(shù)問(wèn)題：大模型系統(tǒng)性的不完善在多大程度上可以被彌補(bǔ)？它們何時(shí)比基于人類知識(shí)工作者的系統(tǒng)的不完善更優(yōu)越或劣勢(shì)？這些技術(shù)問(wèn)題不應(yīng)掩蓋更為關(guān)鍵的政治問(wèn)題：哪些參與者有能力圍繞自身利益動(dòng)員組織？他們又將如何影響技術(shù)與組織能力的結(jié)合？

技術(shù)領(lǐng)域的評(píng)論家常常將這些問(wèn)題簡(jiǎn)化為機(jī)器與人類之間的單一對(duì)抗——要么進(jìn)步力量戰(zhàn)勝倒退的盧德派傾向（retrograde Luddite tendencies），要么人類成功抵制人工技術(shù)的非人道侵蝕。這種看法不僅未能充分理解計(jì)算機(jī)出現(xiàn)之前就已存在的復(fù)雜分配性斗爭(zhēng)，而且也忽略了未來(lái)進(jìn)步可能采取的多種不同路徑，每種路徑都有其獨(dú)特的技術(shù)可能性與選擇[8]。

在早期的社會(huì)和文化技術(shù)中，規(guī)范性和監(jiān)管性制度在內(nèi)的各種制度，相繼出現(xiàn)以調(diào)節(jié)它們的影響。從印刷媒體的編輯、同行評(píng)審和誹謗法，到市場(chǎng)、民主和官僚體系中的選舉法、存款保險(xiǎn)及證券交易委員會(huì)，這些制度的效果各異，且需要不斷修訂。然而，這些制衡力量并非自發(fā)出現(xiàn)，而是技術(shù)內(nèi)外部各方經(jīng)過(guò)共同且持續(xù)的努力而形成的。

未來(lái)展望

關(guān)于通用人工智能（AGI）的敘事——將大模型視作超智能主體的說(shuō)法，不僅在科技界內(nèi)外受到推廣，無(wú)論是樂(lè)觀的“熱衷者”還是憂慮的“末日論者”都在宣傳這一觀點(diǎn)。這種敘事誤解了這些模型的本質(zhì)及其與過(guò)去技術(shù)變革之間的關(guān)系。但更為重要的是，它有意轉(zhuǎn)移了人們對(duì)這些技術(shù)真正帶來(lái)的問(wèn)題與機(jī)遇的關(guān)注，忽略了歷史教給我們的如何確保收益大于成本的經(jīng)驗(yàn)。

當(dāng)然，正如前文所提，未來(lái)可能會(huì)出現(xiàn)更類似于智能主體的假設(shè)性人工智能系統(tǒng)（hypothetical systems），我們或許會(huì)討論如何應(yīng)對(duì)這些假設(shè)系統(tǒng)，但大語(yǔ)言模型并不是這樣的系統(tǒng)，就像圖書(shū)館借書(shū)目錄或互聯(lián)網(wǎng)一樣。正如目錄和互聯(lián)網(wǎng)，大模型只是悠久文化和社會(huì)技術(shù)歷史的一部分。

社會(huì)科學(xué)已經(jīng)詳細(xì)探討了這段歷史，形成了對(duì)過(guò)去技術(shù)劇變的理解。將計(jì)算機(jī)科學(xué)與工程學(xué)與社會(huì)科學(xué)緊密結(jié)合，將有助于我們理解這段歷史并運(yùn)用這些教訓(xùn)。大模型究竟會(huì)導(dǎo)致文化趨同還是分裂？它們會(huì)強(qiáng)化還是破壞人類探索真知的社會(huì)制度？在重塑政治經(jīng)濟(jì)結(jié)構(gòu)的過(guò)程中，究竟誰(shuí)將得利，誰(shuí)會(huì)損失？這些以及其他十分緊迫的問(wèn)題，在將大模型簡(jiǎn)單類比為人類主體的討論中，都難以得到關(guān)注。

改變討論的范式將帶來(lái)更好的研究成果。如果雙方都認(rèn)識(shí)到大模型僅僅是新型的文化與社會(huì)技術(shù)，既不過(guò)分也不疏忽，那么社會(huì)科學(xué)家和計(jì)算機(jī)科學(xué)家之間的合作及結(jié)合各自優(yōu)勢(shì)將變得容易得多。計(jì)算機(jī)科學(xué)家可以將他們對(duì)這些系統(tǒng)運(yùn)作機(jī)制的深刻理解，與社會(huì)科學(xué)家對(duì)其他大規(guī)模系統(tǒng)如何在過(guò)去重塑社會(huì)、政治和經(jīng)濟(jì)的認(rèn)知相結(jié)合，既能完善現(xiàn)有的研究議程，也能發(fā)現(xiàn)新的研究方向。這將有助于糾正過(guò)去存在的混亂局面：一方面，計(jì)算機(jī)科學(xué)家往往過(guò)于簡(jiǎn)化復(fù)雜社會(huì)現(xiàn)象[14]；另一方面，社會(huì)科學(xué)家又未能理解這些新技術(shù)復(fù)雜的運(yùn)作機(jī)制。

這也將使人工智能政策討論明確擺脫簡(jiǎn)單地將焦點(diǎn)放在“機(jī)器接管”的恐懼，與近未來(lái)人人擁有完美、可靠且高效的人工助手這一烏托邦式愿景之間的對(duì)抗上，大模型實(shí)際政策的影響無(wú)疑會(huì)有所不同。就像市場(chǎng)和官僚機(jī)構(gòu)一樣，它們會(huì)使某些類型的知識(shí)比過(guò)去更加易得和易于處理，從而促使政策制定者關(guān)注那些可以衡量和觀察到的新事物，而忽視那些不那么明顯、較為混亂的部分。結(jié)果便是，如市場(chǎng)與媒體的歷史案例所示，權(quán)力和影響力將向那些能夠充分運(yùn)用這些技術(shù)的人傾斜，而那些無(wú)法運(yùn)用者則會(huì)日益邊緣化。人工智能削弱了被其使用者以及數(shù)據(jù)提供者的地位，同時(shí)強(qiáng)化了人工智能專家和政策制定者的地位[14]。

最后，這樣的思考方式可能會(huì)重塑人工智能的實(shí)踐。工程師和計(jì)算機(jī)科學(xué)家已經(jīng)意識(shí)到大模型偏見(jiàn)的問(wèn)題，并在思考它們與倫理和正義之間的關(guān)系，但應(yīng)當(dāng)更進(jìn)一步。這些系統(tǒng)將如何影響“誰(shuí)獲得什么”？它們對(duì)社會(huì)分化和融合將產(chǎn)生怎樣的實(shí)際影響？大模型是否能夠開(kāi)發(fā)用來(lái)增強(qiáng)人類創(chuàng)造力，而非讓我們變得遲鈍？要找到這些問(wèn)題的正確答案，不僅需要工程學(xué)的理解，還需要社會(huì)科學(xué)的洞察。將人工智能辯論的焦點(diǎn)從主體轉(zhuǎn)向文化和社會(huì)技術(shù)，是構(gòu)建這種跨學(xué)科理解的重要第一步[15]。

參考文獻(xiàn)來(lái)源：

[1]  H. Simon, The Sciences of the Artificial (MIT Press, 1996).

[2] F. A. von Hayek, Am. Econ. Rev. 35, 519 (1945).

[3] J. C. Scott, Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed (Yale Univ. Press, 1998).

[4] D. Davies, The Unaccountability Machine (Univ. Chicago Press, 2025).

[5] E. Yiu, E. Kosoy, A. Gopnik, Perspect. Psychol. Sci. 19, 874 (2024).

[6] T. Chiang, New Yorker 9 (2023).

[7] C. Goldin, L. Katz, Q. J. Econ. 113, 693 (1998).

[8] D. Acemoglu, S. Johnson, Power and Progress: Our 1000 Year Struggle over Technology and Prosperity (Hachette, 2023).

[9] M. Weber, Wissenschaft Als Beruf (Duncker & Humblot, 1919).

[10] J. S. Mill, Principles of Political Economy (Longmans and Green, 1920).

[11] L. Hong, S. E. Page, Proc. Natl. Acad. Sci. U.S.A. 101, 16385 (2004).

[12] S. Lai et al., Proc. 41st Int. Conf. Mach. Learn. 235, 25892 (2024).

[13] J. Sourati, J. A. Evans, Nat. Hum. Behav. 7, 1682 (2023).

[14] S. L. Blodgett, S. Barocas, H. Daumé, H. Wallach, arXiv:2005.14050 [cs.CL] (2020).

[15] L. Brinkmann et al., Nat. Hum. Behav. 7, 1855 (2023).