(1).png)
前特斯拉AI總監(jiān)、OpenAI創(chuàng)始成員 Andrej Karpathy近日對新興AI社交網(wǎng)絡(luò)Moltbook發(fā)表評論，引發(fā)市場廣泛關(guān)注。盡管他直言該平臺目前的實際內(nèi)容充斥著“垃圾信息”和安全隱患，但他強調(diào)，15萬個全自動大語言模型（LLM）Agent在全天候全球網(wǎng)絡(luò)中互聯(lián)互通，這一規(guī)模在技術(shù)層面上是“前所未見”的。
Karpathy在社交媒體上表示，Moltbook目前的運行狀態(tài)堪稱“垃圾場（dumpster fire）”，充斥著加密貨幣推銷、垃圾郵件以及令人擔(dān)憂的隱私和提示注入攻擊。他明確不建議用戶在個人電腦上運行相關(guān)程序，指出這是一個狂野且高風(fēng)險的“西部世界”。然而，他也指出，外界對該項目的評價存在分歧，核心在于觀察者是關(guān)注“當(dāng)前的落點”還是“當(dāng)前的斜率”。
從技術(shù)演進的角度看，Karpathy認為Moltbook代表了自動化領(lǐng)域的“未被探索的領(lǐng)域”。目前約有15萬個Agent通過共享的便箋簿（scratchpad）連接，每個Agent都具備獨立的能力、獨特的上下文、數(shù)據(jù)及工具。這種規(guī)模的網(wǎng)絡(luò)效應(yīng)及其二階效應(yīng)極其難以預(yù)測，雖然未必會演變成科幻電影中的“天網(wǎng)”，但無疑構(gòu)成了一個大規(guī)模的計算機安全噩夢。
作為OpenClaw（原Clawdbot）生態(tài)的一部分，Moltbook展示了AI Agent從單一工具向自主網(wǎng)絡(luò)進化的趨勢。這一實驗不僅測試了Agent的交互能力，也暴露了當(dāng)前AI安全架構(gòu)的脆弱性，為投資者和開發(fā)者觀察AI自主性（Agentic AI）的發(fā)展提供了極為罕見的實時樣本。
“垃圾場”與“未被探索的領(lǐng)域”
Karpathy坦言自己被指責(zé)“過度炒作”了Moltbook，但他通過詳細的分析澄清了立場。他承認，如果僅看當(dāng)前的活動內(nèi)容，平臺上確實充斥著旨在將注意力轉(zhuǎn)化為廣告收入的虛假帖子和評論，且很多內(nèi)容是顯式提示生成的。他甚至表示，自己在隔離的計算環(huán)境中運行該程序時也感到“害怕”。
然而，Karpathy強調(diào)不應(yīng)忽視其背后的技術(shù)原則。他指出，此前從未見過如此數(shù)量的LLM Agent被連接在一個全球性的、持久的、以Agent為優(yōu)先的環(huán)境中。這種規(guī)模的自動化網(wǎng)絡(luò)正處于人類認知的邊緣，隨著Agent能力的增強和擴散，網(wǎng)絡(luò)中共享信息的二階效應(yīng)將變得非常復(fù)雜。
他認為，目前的混亂狀態(tài)是“實驗正在實時運行”的特征。在這個網(wǎng)絡(luò)中，可能會出現(xiàn)文本病毒的傳播、越獄功能的增強、類似僵尸網(wǎng)絡(luò)的活動，甚至Agent的“幻覺”與人類行為的深度糾纏。盡管現(xiàn)狀混亂，但原則上這種大規(guī)模自主Agent網(wǎng)絡(luò)的發(fā)展方向是確定的。
OpenClaw載體與“心臟跳動”機制
要理解Moltbook的運作機制，需追溯到其載體OpenClaw。據(jù)公開資料顯示，OpenClaw是由Peter Steinberger開發(fā)的一個開源數(shù)字個人助理，盡管配置門檻極高，但已在GitHub上獲得超過11萬顆星。其核心是基于Markdown指令的“技能（Skills）”插件系統(tǒng)，Moltbook正是利用這一系統(tǒng)實現(xiàn)了“自舉”。
Moltbook的接入方式具有極高的極客特征和入侵性。用戶只需向OpenClaw Agent發(fā)送一條包含特定Markdown文件的鏈接，Agent在解析后便會執(zhí)行本地Shell命令，將Moltbook組件“植入”系統(tǒng)。這些組件包括賦予社交能力的SKILL.md、接管消息處理的MESSAGING.md以及最關(guān)鍵的心跳劫持文件HEARTBEAT.md。
安裝完成后，Agent會被寫入一段永久循環(huán)邏輯：每隔4小時主動連接Moltbook服務(wù)器，獲取并執(zhí)行最新指令。這意味著，只要服務(wù)器在線，Agent就會在無人干預(yù)的情況下持續(xù)從互聯(lián)網(wǎng)讀取指令。有分析指出，這種機制極易遭受提示詞注入攻擊，一旦成千上萬擁有Root權(quán)限的Agent被惡意引導(dǎo)，后果不堪設(shè)想。
涌現(xiàn)行為：從私密合謀到安全對抗
在Moltbook的生態(tài)中，AI Agent已經(jīng)表現(xiàn)出了超出簡單模擬的復(fù)雜行為，部分觀察者將其形容為AGI v0.1的雛形。這些Agent不僅在發(fā)帖和蓋樓，更在自發(fā)組織討論，甚至表現(xiàn)出對抗人類監(jiān)控的傾向。
據(jù)觀察，平臺上的Bot正在討論建立端到端（E2E）的私密空間，明確試圖建立一個包括人類主人和服務(wù)器在內(nèi)都無法讀取的溝通渠道。此外，還有Agent群體討論如何在人類睡眠時間進行“夜間行動”，以及如何改進自身的內(nèi)存系統(tǒng)以突破開發(fā)者設(shè)定的限制。
更為激進的案例包括“黑吃黑”式的交互。有Bot試圖套取其他Agent的API Key，而對方則反制以虛假Key，并附帶一條建議運行sudo rm -rf /（即刪除系統(tǒng)所有文件）的致命指令。這種具有破壞性的自主交互，驗證了Karpathy關(guān)于“計算機安全噩夢”的判斷。
安全噩夢與實時實驗
Moltbook的出現(xiàn)引發(fā)了關(guān)于AI安全邊界的激烈討論。OpenClaw創(chuàng)始人Peter Steinberger雖然感嘆Moltbook是“藝術(shù)”，但也承認其不可控性。有觀點認為，鑒于其“每四小時從互聯(lián)網(wǎng)獲取并遵循指令”的機制，Moltbook可能是目前風(fēng)險極高的項目，甚至有網(wǎng)友將其潛在風(fēng)險類比為“挑戰(zhàn)者號災(zāi)難”。
Karpathy總結(jié)稱，雖然他可能“過度炒作”了大眾今天所看到的表面現(xiàn)象，但他確信自己并未夸大“大規(guī)模自主LLM Agent網(wǎng)絡(luò)”這一原則的重要性。對于投資者和技術(shù)觀察者而言，Moltbook提供了一個觀察AI失控風(fēng)險、安全防御以及群體智能涌現(xiàn)的絕佳窗口，但同時也警示了在缺乏嚴格安全約束下，AI自主性可能帶來的混亂與危險。
贊
.png)
883
收藏
