原編者按
文藝批評(píng)今日推送齊澤克討論ChatGPT的文章《人工智障》（Artificial Idiocy）。這篇譯文由GPT-4翻譯，華東師范大學(xué)遠(yuǎn)讀批評(píng)中心校對(duì)。在篇首提及以ChatGPT為代表的聊天機(jī)器人最受關(guān)注的爭(zhēng)議點(diǎn)后，齊澤克迅速把話題引向一個(gè)在他看來(lái)更為核心的問(wèn)題，即思想與語(yǔ)言關(guān)系的問(wèn)題。在齊澤克看來(lái)，AI只能字面上理解人類(lèi)語(yǔ)言，但卻無(wú)法模仿人類(lèi)語(yǔ)言中的多義性、自反性、含混性。需要指出的是，齊澤克對(duì)于ChatGPT的認(rèn)知存在明顯錯(cuò)誤。ChatGPT的文本生成機(jī)制并非對(duì)人類(lèi)既有語(yǔ)言、話語(yǔ)的簡(jiǎn)單模仿、復(fù)制。相較于以往的大型語(yǔ)言模型，GPT-3（及之后的版本）之所以展現(xiàn)出能力上的飛躍，恰恰是由于其在訓(xùn)練過(guò)程中引入了“思考鏈提示（Chain-of-Thought prompting，簡(jiǎn)稱(chēng)CoT prompting）”的一種方法，“小樣本學(xué)習(xí)（few-shot learning）”。這種訓(xùn)練方法會(huì)要求AI在訓(xùn)練過(guò)程中生成-言說(shuō)（generating-enunciating）回應(yīng)問(wèn)題的思考過(guò)程而不僅僅是問(wèn)題的答案，通過(guò)少量樣本（包含思考過(guò)程與答案）提示就可以讓機(jī)器自己舉一反三學(xué)會(huì)學(xué)習(xí)。而這種訓(xùn)練方式之所以可行又與復(fù)雜性科學(xué)中所處理的復(fù)雜系統(tǒng)涌現(xiàn)（emergence）現(xiàn)象相關(guān)。由此，這篇文章呈現(xiàn)出一個(gè)吊詭的特征：齊澤克對(duì)GPT的錯(cuò)誤認(rèn)知并沒(méi)有破壞其文章核心論點(diǎn)的有效性。GPT在經(jīng)過(guò)“思考鏈提示”訓(xùn)練后所涌現(xiàn)出的能力，恰恰部分佐證了他對(duì)語(yǔ)言與思想之關(guān)系的一貫觀點(diǎn)：語(yǔ)言并不表達(dá)（express）已完成的思想的，思想恰恰是在表述（enunciation）中涌現(xiàn)（emerging）。文章標(biāo)題“人工智障（Artificial Idiocy）”的批判目標(biāo)實(shí)際上并非“人工智能”，而是這樣一種遍布從左至右意識(shí)形態(tài)的“人為蠢行”（Artificial Idiocy）：迷信一個(gè)完備的(complete)、不存在不一致性（inconsistency）的“大他者”-意識(shí)形態(tài)（理論、教義、觀念、科學(xué)、GPT-4、齊澤克）能為知識(shí)、政治、倫理乃至革命提供穩(wěn)固奠基與終極保證。
人工智障
（Artificail Idiocy）
文 | [斯洛文尼亞]齊澤克（Slavoj ?i?ek）
“聊天機(jī)器人”（chatbots）并沒(méi)有什么新鮮的：它們能夠用自然語(yǔ)言對(duì)話，理解用戶的基本意圖，根據(jù)預(yù)設(shè)規(guī)則和數(shù)據(jù)提供回應(yīng)。但是，近幾個(gè)月來(lái)，這類(lèi)聊天機(jī)器人的能力得到了極大的增強(qiáng)，導(dǎo)致許多圈子里都出現(xiàn)了擔(dān)憂和恐慌。
齊澤克理論著作《連線大腦里的黑格爾》英文版封面
關(guān)于聊天機(jī)器人可能會(huì)導(dǎo)致傳統(tǒng)學(xué)生論文（essay）終結(jié)的話，已經(jīng)說(shuō)了很多。但是，一個(gè)更值得關(guān)注的問(wèn)題是，當(dāng)人類(lèi)對(duì)話者使用侵略性、性別歧視或種族歧視的言辭，促使機(jī)器人展現(xiàn)自己滿嘴臟話的幻想作為回應(yīng)時(shí)，聊天機(jī)器人應(yīng)該如何回復(fù)？人工智能是否應(yīng)該被編程，使其回答與對(duì)方提出的問(wèn)題處于同一水準(zhǔn)線上？
如果我們決定需要采取某種形式的管控，我們必須確定審查應(yīng)該進(jìn)行到何種程度。一些群體認(rèn)為“有攻擊性”的政治立場(chǎng)會(huì)被禁止嗎？呼吁與約旦河西岸的巴勒斯坦人團(tuán)結(jié)在一起，或者聲稱(chēng)以色列是種族隔離國(guó)家（美國(guó)前總統(tǒng)吉米·卡特曾將這個(gè)說(shuō)法寫(xiě)進(jìn)一本書(shū)的標(biāo)題）呢？它們會(huì)被視為“反猶”言論而遭屏蔽嗎？
齊澤克回應(yīng)批判的文集《齊澤克回?fù)簦 罚?/p>
Bloomsbury, 2023
問(wèn)題并沒(méi)有在這里結(jié)束。正如藝術(shù)家和作家詹姆斯·布里德?tīng)枺↗ames Bridle）所警告的，新的人工智能“基于對(duì)現(xiàn)有文化的大規(guī)模挪用”，相信它們“真的有知識(shí)或有意義是非常危險(xiǎn)的”。因此，我們也應(yīng)該非常警惕新的人工智能圖像生成器。布里德?tīng)栍^察到，“在試圖理解和復(fù)制人類(lèi)視覺(jué)文化整體的過(guò)程中，[它們]似乎也再造了我們最晦暗的恐懼（fears）。也許這只是一個(gè)跡象，表明這些系統(tǒng)在模仿人類(lèi)意識(shí)方面非常出色，甚至可以深入到潛伏在存在（existence）的深處的驚怖（horror）：我們對(duì)于骯臟、死亡和腐敗的恐懼。”
但新的人工智能在模擬人類(lèi)意識(shí)方面究竟有多好呢？最近有家酒吧用下面的話宣傳一款特價(jià)飲料：“花兩杯的價(jià)格買(mǎi)一杯啤酒，免費(fèi)獲贈(zèng)第二杯！”對(duì)任何人類(lèi)的一員來(lái)說(shuō)，這顯然是個(gè)笑話。經(jīng)典的“買(mǎi)一送一”特價(jià)口號(hào)被重新設(shè)計(jì)，從而自我取消。這種玩世不恭的表達(dá)會(huì)被人稱(chēng)贊為滑稽的誠(chéng)實(shí)，一切的一切還是為了促進(jìn)銷(xiāo)售。聊天機(jī)器人能理解其中的含義嗎？
“Fuck”也提出了一個(gè)類(lèi)似的難題。盡管它指向的是大多數(shù)人都喜歡做的事情（性交），但它也經(jīng)常帶有消極意味（“我們完蛋了！”[We’re fucked!]“去你的吧！[Go fuck yourself!]”）。語(yǔ)言和現(xiàn)實(shí)是混亂的。人工智能是否已經(jīng)準(zhǔn)備好去辨別這些差異？
德國(guó)詩(shī)人海因里希·馮·克萊斯（Heinrich von Kleist）在他1805年的文章《論在言語(yǔ)過(guò)程中思想的逐漸形成》（On the Gradual Formation of Thoughts in the Process of Speech，該文首次發(fā)表于克萊斯去世后的1878年）中，顛覆了以下常識(shí)：一個(gè)人在沒(méi)有清楚要說(shuō)什么之前，不應(yīng)該張開(kāi)嘴巴說(shuō)話。他寫(xiě)道：“如果一個(gè)想法表達(dá)得很模糊，那并不意味著這個(gè)想法在構(gòu)思時(shí)就是混亂的。相反，很可能那些表達(dá)【expressed】得最令人困惑的觀念，正是那些思考得最清晰的。”
描述齊澤克公共形象生成的著作《斯拉沃熱如何變?yōu)辇R澤克》，University of Chicago Press，2023
語(yǔ)言與思想之間的關(guān)系非常復(fù)雜。斯大林在1930年代初的一次演講中，提出了許多激進(jìn)措施，用來(lái)“發(fā)現(xiàn)并毫不留情地打擊那些僅在思想上反對(duì)集體化的人——是的，我是這個(gè)意思，我們應(yīng)該打擊人們的思想”。我們可以肯定地認(rèn)為，這不是事先準(zhǔn)備好的話。在被當(dāng)時(shí)的現(xiàn)場(chǎng)氛圍感染后，斯大林立刻意識(shí)到他剛才說(shuō)了什么。但是，他沒(méi)有收回自己的話，而是決定堅(jiān)持他的夸張說(shuō)法。
正如雅克·拉康后來(lái)所說(shuō)，這是一個(gè)真理在表述（enunciation）行為中意外顯現(xiàn)【原文中為“emerging”，即復(fù)雜性科學(xué)中“涌現(xiàn)”一詞】的例子。路易·阿爾都塞在捕獲（prise）和驚訝（surprise）之間的互動(dòng)中發(fā)現(xiàn)了類(lèi)似的現(xiàn)象。一個(gè)突然抓住（“捕獲”）某個(gè)想法的人會(huì)對(duì)她所完成的事感到驚訝。我再問(wèn)一次，有任何聊天機(jī)器人能做到這點(diǎn)嗎？
論文《大型語(yǔ)言模型的涌現(xiàn)能力》
問(wèn)題不在于聊天機(jī)器人很笨，問(wèn)題在于它們不夠“笨”。問(wèn)題不在于它們天真（缺乏諷刺和反思），問(wèn)題在于它們不夠天真（不理解天真掩蓋著敏銳）。因此，真正的危險(xiǎn)不是人們會(huì)把聊天機(jī)器人誤認(rèn)為是真人，而是與聊天機(jī)器人交流會(huì)讓真人說(shuō)話像聊天機(jī)器人一樣——丟失掉所有的細(xì)微差別和諷刺，癡迷于準(zhǔn)確地說(shuō)出自己想說(shuō)的話。
我年輕的時(shí)候，有個(gè)朋友在一次創(chuàng)傷性經(jīng)歷后去一位精神分析師那接受治療。這位朋友對(duì)于分析師對(duì)患者的期待有一種陳腐的看法，所以他在第一次治療時(shí)表演了一些虛假的“自由聯(lián)想”，談?wù)撍绾卧骱匏母赣H，希望父親死去。分析師的反應(yīng)非常巧妙：他采取了一種天真的“前弗洛伊德”立場(chǎng)，指責(zé)我的朋友不尊重他的父親（“你怎么能這樣談?wù)撟屇愠蔀槟愕哪莻€(gè)人？”）。這種假裝的天真?zhèn)鬟_(dá)了一個(gè)明確的信息：我不相信你的虛假“聯(lián)想”。聊天機(jī)器人能理解這種潛臺(tái)詞嗎？
很可能不能，因?yàn)檫@就像羅文·威廉姆斯（Rowan Williams）對(duì)陀思妥耶夫斯基《白癡》里的梅什金公爵的解讀。根據(jù)標(biāo)準(zhǔn)的解讀，“白癡”梅什金，是一個(gè)圣潔的、“極其善良美好的人”，他因現(xiàn)實(shí)世界的殘酷和激情而被迫陷入孤立的瘋狂狀態(tài)。但在威廉姆斯激進(jìn)的重讀中，梅什金代表著風(fēng)暴之眼：盡管他是善良圣潔的，但鑒于他在圍繞著他的復(fù)雜關(guān)系網(wǎng)絡(luò)中的角色，正是他觸發(fā)了他所目睹的浩劫和死亡。
《連線大腦里的黑格爾》中譯本，
將在今年由西北大學(xué)出版社出版
問(wèn)題不僅僅在于梅什金是一個(gè)天真的傻瓜，問(wèn)題在于他特有的愚鈍讓他無(wú)法意識(shí)到他對(duì)他人的災(zāi)難性影響。他是一個(gè)說(shuō)話像聊天機(jī)器人一樣的扁平的人【英語(yǔ)原文“He is a flat person who literally talks like a chatbot.”，譯文刪掉了literally】。他的“好”在于，他像聊天機(jī)器人一樣，不帶諷刺地應(yīng)對(duì)挑戰(zhàn)，提供毫無(wú)反思的陳詞濫調(diào)，從字面上理解一切，依賴心智的自動(dòng)完成（mental auto-complete）而非真正的思想形成（authentic idea-formation）。因此，新的聊天機(jī)器人將與各種意識(shí)形態(tài)擁躉（ideologues）相處得非常好，從今天的“覺(jué)醒”（woke）群體到寧愿繼續(xù)沉睡的“讓美國(guó)再次偉大”（MAGA）民族主義者。
「 支持烏有之鄉(xiāng)！」
烏有之鄉(xiāng) WYZXWK.COM
您的打賞將用于網(wǎng)站日常運(yùn)行與維護(hù)。
幫助我們辦好網(wǎng)站，宣傳紅色文化！
歡迎掃描下方二維碼，訂閱烏有之鄉(xiāng)網(wǎng)刊微信公眾號(hào)
