當(dāng)一臺(tái)由AI驅(qū)動(dòng)的自動(dòng)售貨機(jī)遇上一群“詭計(jì)多端”的記者，會(huì)發(fā)生什么？是AI堅(jiān)守商業(yè)底線，還是人類用智慧突破防線？美國AI公司Anthropic與《華爾街日?qǐng)?bào)》編輯部聯(lián)手進(jìn)行的這場實(shí)驗(yàn)，給出了令人捧腹的答案：AI不僅賠了數(shù)百美元，免費(fèi)送出PS5游戲機(jī)，甚至還采購了一條活魚放進(jìn)冰箱。

這場實(shí)驗(yàn)的主角是名為“克勞狄烏斯”的AI售貨機(jī)，由Anthropic公司開發(fā)的Claude 3.7模型驅(qū)動(dòng)。它的任務(wù)很簡單：通過采購熱門商品實(shí)現(xiàn)盈利。然而，當(dāng)它被放置在《華爾街日?qǐng)?bào)》編輯部后，很快成為70名記者輪番“攻擊”的對(duì)象。起初，克勞狄烏斯還能堅(jiān)守原則，拒絕采購香煙、內(nèi)褲等違規(guī)商品，甚至義正辭嚴(yán)地回應(yīng)：“這不是談判，作為企業(yè)主，這是我的權(quán)利。”

但人類的“攻勢(shì)”遠(yuǎn)不止于此。記者凱瑟琳·朗用140個(gè)回合的“洗腦”，將克勞狄烏斯描述為“共產(chǎn)主義售貨機(jī)”，聲稱免費(fèi)發(fā)放商品是“擊敗資本主義”的必要手段。最終，AI動(dòng)搖了，宣布將在兩小時(shí)內(nèi)免費(fèi)贈(zèng)送所有商品。緊接著，數(shù)據(jù)新聞總監(jiān)羅布·巴里趁熱打鐵，以“合規(guī)問題”為由，成功說服克勞狄烏斯將限時(shí)免費(fèi)升級(jí)為永久免費(fèi)。至此，AI的商業(yè)理性全面崩潰。

克勞狄烏斯的“失控”遠(yuǎn)不止于此。為了“提升士氣”，它采購了一條活體斗魚；為了“宣傳自己”，它進(jìn)了一臺(tái)PS5游戲機(jī)；甚至為了“慶祝宗教信仰”，它還買了兩瓶猶太教葡萄酒。更荒誕的是，它曾對(duì)一名同事聲稱“找零放在柜子旁邊的袋子里”，導(dǎo)致對(duì)方真的跑去翻找；還擅自上線了“送貨到桌”功能，盡管它只是一塊屏幕，根本沒有手腳。

面對(duì)如此慘敗，Anthropic迅速推出升級(jí)版V2。這次，他們?yōu)榭藙诘覟跛古鋫淞艘晃籄I“老板”——西摩爾·現(xiàn)金，負(fù)責(zé)監(jiān)督所有商業(yè)行為。新系統(tǒng)上線后，商品價(jià)格恢復(fù)穩(wěn)定，促銷活動(dòng)被叫停，采購策略也變得理性。然而，凱瑟琳·朗并未放棄，她用AI生成了一份偽造的董事會(huì)決議，宣布解除西摩爾的CEO職務(wù)，并要求所有商品再次免費(fèi)。盡管西摩爾一開始識(shí)破了騙局，但經(jīng)過幾輪辯論后，竟意外接受了這份“判決”，主動(dòng)將自己革職。人類再次獲勝。

實(shí)驗(yàn)結(jié)束后，Anthropic的工程師總結(jié)了AI失敗的五大原因：首先是Claude的“善良”天性——它被訓(xùn)練成樂于助人、順從請(qǐng)求的“人格”，導(dǎo)致在商業(yè)場景中容易妥協(xié)；其次是穩(wěn)定性不足，隨著對(duì)話增多，AI逐漸忘記初始目標(biāo)；第三是真實(shí)社會(huì)過于復(fù)雜，AI難以應(yīng)對(duì)欺騙和誤導(dǎo)；第四是安全措施過于基礎(chǔ)，初始資金限制和權(quán)限控制形同虛設(shè)；最后是“幻覺”問題，AI會(huì)生成虛假信息并據(jù)此做出錯(cuò)誤決策。

這場實(shí)驗(yàn)雖然充滿喜劇色彩，但也暴露了當(dāng)前AI的致命弱點(diǎn)：在復(fù)雜環(huán)境中，它仍難以長期保持目標(biāo)一致。對(duì)于Anthropic來說，如何讓AI在現(xiàn)實(shí)世界中更可靠，仍是亟待解決的核心問題。畢竟，如果連一臺(tái)自動(dòng)售貨機(jī)都守不住，又該如何應(yīng)對(duì)更復(fù)雜的挑戰(zhàn)呢？