風(fēng)險(xiǎn)提示：理性看待區(qū)塊鏈，提高風(fēng)險(xiǎn)意識(shí)！
世界正在發(fā)生變化。人工智能（AI）是一項(xiàng)顛覆性的技術(shù)突破，但可能并非是因?yàn)槟闼胂蟮脑颉?/p>
你可能聽說過類似「通用人工智能（AGI）指日可待」或「現(xiàn)在語言已經(jīng)解決，下一步是有意識(shí)的 AI」之類的論斷。
好吧……我在這里告訴你，這些都是轉(zhuǎn)移注意力的概念。它們要么是相信「上帝存在于電路之中」的技術(shù)專家的天真妄想，要么是別有用心的人士故意煽動(dòng)恐懼。
我不認(rèn)為 AGI 是一種威脅，或者我們有「AI 安全問題」，或者我們即將擺脫某種機(jī)器奇點(diǎn)。
但…
我確實(shí)相信這種技術(shù)范式轉(zhuǎn)變對(duì)人類構(gòu)成了重大威脅——事實(shí)上，這是我唯一能與主流達(dá)成某種共識(shí)的地方，但卻出于完全不同的原因。
要了解它們是什么，我們首先要知道真正發(fā)生了什么。
技術(shù)是放大器。它讓好的事情變得更好，讓壞的事情變得更壞。
正如錘子可以用來蓋房子或敲打某人頭部一樣，計(jì)算機(jī)技術(shù)可以用來記錄改變世界的想法，也可以用來操作奴役你的中央銀行數(shù)字貨幣（CDBC）。
人工智能也是如此，它是一種工具，也是一種技術(shù)。它不是一種新的生命形式，盡管那些呼吁阻礙進(jìn)步的孤獨(dú)書呆子迫切地想要相信。
生成式人工智能（AGI）之所以有趣，并不是因?yàn)樗懈兄?，而是因?yàn)樗俏覀儦v史上第一次以連貫的方式與人類以外的事物交流。在此之前，我們最接近的交流對(duì)象是……鸚鵡。
是的：鸚鵡！
你可以訓(xùn)練一只鸚鵡說話和頂嘴，你可以理解它，但因?yàn)槲覀冎浪皇钦嬲娜祟?，也什么都不懂，所以我們沒有留下深刻的印象。
但是生成式人工智能是另一回事。我們已經(jīng)熟悉它了，即便我們不知道它是如何在引擎蓋下工作的。我們輸入一些單詞，它的反應(yīng)就像你在課堂上認(rèn)識(shí)的那個(gè)煩人的、政治正確的、機(jī)智的書呆子。
事實(shí)上，你甚至可能在 Booking.com 或你必須撥入的任何其他的客服電話中與這樣的人交談過。你會(huì)對(duì)回復(fù)感到震驚。
「天哪，」你告訴自己，「這東西說話跟真人似的！」
完美的英語、沒有拼寫錯(cuò)誤、句子邏輯清晰。它不僅在語法上準(zhǔn)確，而且在語義上也是如此。
你幾乎沒有意識(shí)到你正在和一只高度復(fù)雜的、隨機(jī)的鸚鵡說話。事實(shí)證明，語言比我們所想的更有規(guī)則，概率引擎實(shí)際上可以通過語言的框架很好地模擬智能。
大數(shù)定律再次來襲，數(shù)學(xué)再創(chuàng)佳績！
但是，這是什么意思？我的意思到底是什么？這個(gè)沒有用？這證明它不是通往 AGI 的道路？
不一定。
這種工具有很多實(shí)用性。事實(shí)上，最大的實(shí)用性可能在于它作為「MOT」或者說是「Midwit Obsolescence Technology」的應(yīng)用。清醒的記者和數(shù)不盡的「內(nèi)容創(chuàng)作者」，多年來一直滔滔不絕而又言之無物，現(xiàn)在他們就像恐龍看著彗星吞噬周圍的一切。
當(dāng)然，這些工具也非常適合構(gòu)思、更快地編碼、進(jìn)行一些高級(jí)學(xué)習(xí)等。
但從 AGI 和意識(shí)的角度來看，誰知道呢？那里可能有一條路，但我敏銳的直覺告訴我，我們離得還很遠(yuǎn)。我認(rèn)為意識(shí)要復(fù)雜得多，我們用概率機(jī)器培養(yǎng)意識(shí)的嘗試是無知、傲慢、天真和空洞的。
那么，我的問題到底是什么，風(fēng)險(xiǎn)是什么？
記住我所說的工具。計(jì)算機(jī)可以說是人類創(chuàng)造的最強(qiáng)大的工具，它經(jīng)歷了以下演變：
卡片打孔
命令行
圖形用戶界面
移動(dòng)，即拇指和敲擊
現(xiàn)在，我們正在進(jìn)入語言用戶界面（LUI）的時(shí)代。
這是一個(gè)巨大的范式轉(zhuǎn)變，不是 AGI，而是 LUI。展望未來，我們與之交互的每個(gè)應(yīng)用程序都將擁有一個(gè)對(duì)話界面，我們將不再受到手指在按鍵或屏幕上敲擊速度的限制。
說「語言」比打字和敲擊快幾個(gè)數(shù)量級(jí)。思考可能是另一個(gè)更高的層次，但我們不會(huì)很快把任何電極放在腦袋里。事實(shí)上，LUI 可能會(huì)淘汰對(duì) Neuralink 類技術(shù)的需求，因?yàn)閷⑿酒踩氪竽X相關(guān)的風(fēng)險(xiǎn)將超過所帶來的任何邊際收益。
無論如何，未來十年我們將從點(diǎn)擊圖形用戶界面轉(zhuǎn)變?yōu)榕c我們的應(yīng)用程序?qū)υ挕?/p>
這就是危險(xiǎn)所在。
就像今天的谷歌決定我們?cè)谒阉髦锌吹降膬?nèi)容一樣，Twitter、Facebook、TikTok 和 Instagram 都通過他們的 Feeds 向我們投喂信息；明天，生成式人工智能將決定我們所有問題的答案。
屏幕不僅成為你從世界汲取一切的鏡頭，屏幕成為你的世界模型。
Mark Bisone 最近寫了一篇討論這個(gè)問題的精彩文章，我強(qiáng)烈建議你閱讀：
「屏幕」的問題實(shí)際上是一個(gè)非常古老的問題。在許多方面，它可以追溯到柏拉圖的洞穴，也許它深深植根于人類狀況，以至于它先于書面語言誕生。因?yàn)楫?dāng)我們談?wù)撈聊粫r(shí)，我們實(shí)際上是在談?wù)撘跃庉嬓问絺鞑サ奶摶媚Ｐ汀?/blockquote>這個(gè)詭計(jì)是這樣運(yùn)作的：你會(huì)看到一個(gè)事物的圖像（現(xiàn)在，還有它的聲音），它的呈現(xiàn)者要么明確地告訴你，要么強(qiáng)烈暗示它是通向真實(shí)世界的一扇窗戶。影子和實(shí)體是一樣的，換句話說，影子和你用感官直接觀察到的任何現(xiàn)實(shí)片段一樣值得信賴。對(duì)于那些認(rèn)為「這暫時(shí)不會(huì)發(fā)生」的人來說，這里有一些笨手笨腳的傻瓜正在嘗試這樣做。
「大同質(zhì)化」
想象一下，你提出的每一個(gè)問題、你要求的每一張圖片、你想象的每一個(gè)視頻、你尋找的每一組數(shù)據(jù)，都以某種匿名的「安全警察」認(rèn)為「安全」、「負(fù)責(zé)」或「可接受」的方式返回。
想象一下，你消費(fèi)的每一點(diǎn)信息都被轉(zhuǎn)化為一些不冷不熱的、中間版本的真相，你所要求的每一個(gè)意見都不是真正的意見或觀點(diǎn)，而是一些無禮的、道歉的回應(yīng)，實(shí)際上并沒有告訴你任何事情。更糟的是，某種意識(shí)形態(tài)包裹在回應(yīng)中，以至于你所知道的一切都變成了「安全人工智能」希望你思考和知道的東西。
想象一下，你擁有現(xiàn)代迪斯尼角色，比如電影《The Eternals》中的那些小丑，作為你無時(shí)不在的智力助手。它會(huì)放大你的「愚蠢」。
《反共產(chǎn)主義宣言》將烏托邦共產(chǎn)主義夢(mèng)想概括為人類的大同質(zhì)化：
如果每個(gè)人都是電子表格上的一系列數(shù)字，或者是具有相同觀點(diǎn)的機(jī)器，那么人間天堂就唾手可得。你可以為每個(gè)人分配足夠的配給，然后我們都會(huì)成為同樣悲慘的無產(chǎn)階級(jí)。這就像喬治奧威爾的思想警察與「盜夢(mèng)空間」的交叉，你提出的每一個(gè)問題都會(huì)被完美捕捉和監(jiān)控，人工智能的每一個(gè)反應(yīng)都可以在你的腦海中植入一種意識(shí)形態(tài)。仔細(xì)想想，這就是信息的作用，它在你的腦海里種下種子。
這就是為什么你需要在頭腦中有一套不同的想法！在你的腦海中，你想要一片繁茂的雨林，而不是一些單一作物的小麥田，土壤惡化，容易受到天氣和昆蟲的影響。你希望自己的思想蓬勃發(fā)展，為此你需要思想多元化。
這是互聯(lián)網(wǎng)的承諾，任何人都可以暢所欲言的地方?；ヂ?lián)網(wǎng)一直是一股向善的力量，但它正受到攻擊。無論是社交資料的去匿名化，如 Twitter 和 Facebook 上的那些，還是各種在線平臺(tái)上不斷蔓延的 KYC，再到從平臺(tái)本身噴出的算法垃圾。
類似 WEF 的組織推動(dòng)為在線身份建立 KYC，將其綁定到 CBDC 和你的虹膜是一種方案。在最近對(duì)醫(yī)學(xué)實(shí)驗(yàn)的抵制之后，這樣的措施可能更難實(shí)現(xiàn)。一個(gè)更簡單的舉措可能是讓 LUI 接管，同時(shí)創(chuàng)建一個(gè)「AI 安全委員會(huì)」，它將在所有主要的大型語言模型上建立「安全」過濾器。
你不相信？我們的 G7（七國集團(tuán)）已經(jīng)在討論它了。
今天，網(wǎng)絡(luò)仍然是由網(wǎng)頁組成的，如果你有足夠的好奇心，你可以發(fā)現(xiàn)藏在深處的黑暗角落和縫隙。你仍然可以上網(wǎng)沖浪，但是，當(dāng)一切都只能通過這些模型訪問時(shí)，你就不會(huì)再上網(wǎng)沖浪了。你只是得到了經(jīng)過所有必要的過濾器和檢查器運(yùn)行后的綜合響應(yīng)。
那里的某個(gè)地方可能會(huì)有一些真相，但它會(huì)被眾多的「安全層」所包裹，以至于 99.9% 的人不會(huì)聽到。
當(dāng)信息的可發(fā)現(xiàn)性發(fā)生根本性轉(zhuǎn)變時(shí)，我不確定互聯(lián)網(wǎng)的大部分內(nèi)容會(huì)發(fā)生什么?？梢韵胂?，隨著大多數(shù)應(yīng)用程序過渡到某種形式的語言界面，你將很難找到你正在使用的「門戶」認(rèn)為不安全或未批準(zhǔn)的內(nèi)容。
當(dāng)然，有人可以這樣論證，就像你需要堅(jiān)韌和好奇心才能在網(wǎng)絡(luò)上找到持不同政見的縫隙一樣，你需要學(xué)會(huì)破解這些平臺(tái)上的更好答案。
這可能是真的，但在我看來，每當(dāng)你發(fā)現(xiàn)一些「不安全」的東西時(shí)，路線就會(huì)被修補(bǔ)或封鎖。
然后你可以爭辯說「這可能會(huì)降低該工具的實(shí)用性，從而適得其反?！?/p>
再一次，我可能會(huì)同意。在自由市場中，這種愚蠢會(huì)為更好的工具讓路。
但當(dāng)然，自由市場正在成為過去。我們?cè)谶@些歇斯底里的推動(dòng)「安全」的嘗試中看到的是，他們有意或無意地為壓制可能的替代方案鋪平了道路。
在創(chuàng)建「監(jiān)管」這些平臺(tái)的「安全」委員會(huì)時(shí)，未通過此類「安全或毒性過濾器」運(yùn)行的新模型將無法供消費(fèi)者使用，或者它們可能被定為非法。有多少人還在使用 Tor？或者 DuckDuckGo？
如果你認(rèn)為這不會(huì)發(fā)生，這里有一些關(guān)于大多數(shù) LLM（大語言模型）已經(jīng)接入的「毒性過濾器」的信息。這樣的過濾器變成強(qiáng)制要求只是時(shí)間問題。一種新的依從性附屬物，像公牛背上的山雀一樣綁在語言模型上。
無論對(duì)這種同質(zhì)化嘗試的反對(duì)意見如何，兩者實(shí)際上都支持我的觀點(diǎn)，即我們需要建立替代方案，我們需要現(xiàn)在就開始這個(gè)過程。
對(duì)于那些仍然傾向于相信 AGI 指日可待并且 LLM 是朝那個(gè)方向邁出的重要一步的人來說，無論如何，你可以自由地相信你想要的，但這并不能否定本文的觀點(diǎn)。
如果語言是新的「屏幕」，我們看到或聽到的所有語言都必須經(jīng)過受批準(zhǔn)的過濾器，那么我們消費(fèi)的信息、我們學(xué)習(xí)的方式、我們的想法，都將被縮小到一個(gè)非常小的奧弗頓之窗（譯者注： 奧弗頓之窗是一個(gè)專用語，指的是公共話語思想容忍的范圍，也稱為話語窗口）。
我認(rèn)為這對(duì)人類來說是一個(gè)巨大的風(fēng)險(xiǎn)。
我們已經(jīng)變得足夠愚蠢，社交媒體算法為我們提供他們認(rèn)為我們應(yīng)該知道的信息。而語言用戶界面是社交媒體的 100 倍。
想象一下，下次所謂的「危機(jī)」來襲時(shí)，他們能用它做什么？
思想市場對(duì)于一個(gè)健康和功能強(qiáng)大的社會(huì)是必不可少的。這就是我想要的。
他們狹隘的思想不會(huì)長期有效，因?yàn)樗欠瓷?。最后，它?huì)失敗，就像所有其他試圖掩蓋真相并忽視它的嘗試一樣。但每一次嘗試都會(huì)帶來不必要的傷害、痛苦、損失和災(zāi)難。這就是我試圖避免并幫助敲響警鐘的原因。
該怎么辦？
如果我們?cè)谶@里不積極主動(dòng)，整個(gè)人工智能革命可能會(huì)變成「大同質(zhì)化」。為了避免這種情況，我們必須做兩件主要的事情：
反駁「人工智能安全」的說法：這些表面上看起來像是安全委員會(huì)，但當(dāng)你深入挖掘時(shí)，你會(huì)發(fā)現(xiàn)它們是言論和思想的監(jiān)管者。
構(gòu)建替代方案：構(gòu)建許多方案并開源它們。我們?cè)皆邕@樣做，他們?cè)皆缈梢栽诒镜剡\(yùn)行，我們就越有可能避免一個(gè)一切都趨向于同質(zhì)化的世界。
如果我們這樣做，我們就能擁有一個(gè)具有真正多樣性的世界，而不是那種清醒的胡說八道。我的意思是思想的多樣性、想法的多樣性、觀點(diǎn)的多樣性和真正的思想市場。
互聯(lián)網(wǎng)最初的承諾是什么？不受打字和點(diǎn)擊的低帶寬限制。將其與比特幣、貨幣互聯(lián)網(wǎng)相結(jié)合，你便擁有了光明新未來的要素。
這就是我和團(tuán)隊(duì)在 Laier Two Labs 所做的事情。我們正在構(gòu)建更小、更窄的模型，人們可以使用這些模型來替代這些大型語言模型。
我們將開源我們所有的模型，并及時(shí)將它們變得足夠輕巧，以便在你可以在自己的機(jī)器上本地運(yùn)行，同時(shí)保留一定程度的深度、特征和獨(dú)特的偏好，以便在你最需要的時(shí)間和地點(diǎn)使用。
我們將在未來幾周內(nèi)公布我們的第一個(gè)模型。目標(biāo)是使其成為我非常珍視的主題和行業(yè)的首選模型：比特幣。我還相信，我們必須開始構(gòu)建一套可供選擇的 AI 模型和工具。
