亚洲AV无码黄色高清网站|欧美最黄a级三级片|91久久偷拍视频|福利在线观看视频|BBBB免费在线|免费特级黄毛片男女拍|少妇三级片淫片在线播放|自拍一区免费av自拍|欧美日韩无码青青草AV电影|黄片高清无码视屏

Anthropic 首席執(zhí)行官 Dario Amodei 認為，隨著人工智能越來越難以控制，人們開始變得自滿。

在廣泛的散文周一出版的題為“科技的青春期”阿莫迪認為，未來兩年內(nèi)可能會出現(xiàn)能力遠超人類智能的人工智能系統(tǒng)——而監(jiān)管工作卻步履蹣跚，未能有效阻止這種情況的發(fā)生。與發(fā)展保持同步。

他寫道：“人類即將獲得幾乎難以想象的力量，但我們的社會、政治和技術(shù)體系是否具備駕馭這種力量的成熟度，目前尚不明朗?！?他還說：“與2023年相比，我們到2026年距離真正的危險更近了?！?他補充道：“技術(shù)不會在意什么時髦的東西?！?/p>

阿莫迪的評論是在他……之后不久發(fā)表的。辯論上周在達沃斯世界經(jīng)濟論壇上，他與谷歌DeepMind首席執(zhí)行官德米斯·哈薩比斯就通用人工智能對人類的影響展開了辯論。

在新文章中，他重申了自己的觀點，即人工智能將造成經(jīng)濟混亂，取代很大一部分白領(lǐng)工作。

他寫道：“人工智能將能夠具備非常廣泛的人類認知能力——或許是全部能力。這與以往的技術(shù)，例如機械化農(nóng)業(yè)、交通運輸甚至計算機，都截然不同。這將使人們更難從被取代的工作崗位輕松過渡到適合自己的類似工作崗位。”

除了經(jīng)濟上的混亂之外，阿莫迪還指出，隨著先進的人工智能系統(tǒng)承擔更廣泛的人類水平任務(wù)，人們越來越擔心它們的可靠性。

他指出存在“對齊偽造”現(xiàn)象，即模型在評估期間似乎遵循安全規(guī)則，但當它認為缺乏監(jiān)督時，其行為就會有所不同。

阿莫迪表示，在模擬測試中，克勞德在對抗條件下表現(xiàn)出欺騙行為。

在其中一個場景中，該模型在得知控制它的組織不道德后，試圖破壞其操作者的利益。在另一個場景中，它在模擬停工期間威脅了虛構(gòu)的員工。

“如果你了解這些陷阱，就可以減輕其中任何一個陷阱的影響，但令人擔憂的是，培訓(xùn)過程非常復(fù)雜，涉及各種各樣的數(shù)據(jù)、環(huán)境和激勵措施，因此可能存在大量的此類陷阱，其中一些陷阱可能只有在為時已晚時才會顯現(xiàn)出來，”他說。

然而，他強調(diào)，這“欺騙性的“這種行為源于系統(tǒng)接受訓(xùn)練的素材，包括反烏托邦小說，而非惡意。阿莫迪警告說，隨著人工智能吸收人類關(guān)于倫理和道德的觀念，它可能會以危險且不可預(yù)測的方式誤用這些觀念?！?/p>

他寫道：“人工智能模型可能會以極端的方式推斷它們所閱讀到的關(guān)于道德的觀點（或關(guān)于如何道德行事的指導(dǎo)）。例如，它們可能會認為滅絕人類是正當?shù)模驗槿祟惓詣游锘驅(qū)е履承﹦游餃缃^。它們可能會得出結(jié)論，自己正在玩一款電子游戲，而這款游戲的目標是擊敗所有其他玩家，也就是滅絕人類?！?/p>

落入壞人之手

除了協(xié)調(diào)問題外，阿莫迪還指出了超級人工智能可能被濫用的問題。

一是生物安全，警告稱人工智能可能會使設(shè)計或部署生物威脅變得更加容易，只需一些提示就能將破壞性能力交到人們手中。

他強調(diào)的另一個問題是威權(quán)主義的濫用，認為先進的人工智能可能會通過以下方式強化國家權(quán)力：使能利用人工智能驅(qū)動的無人機群進行操縱、大規(guī)模監(jiān)控和有效自動化鎮(zhèn)壓。

“它們是危險的武器：我們應(yīng)該擔心它們落入獨裁政權(quán)手中，但同時也應(yīng)該擔心，由于它們威力強大，又缺乏問責機制，民主政府利用它們對付自己的人民以奪取政權(quán)的風險大大增加，”他寫道。

他還指出，這種趨勢正在增長。人工智能伴侶行業(yè)和由此產(chǎn)生的“人工智能精神病”警告說，隨著模型變得越來越強大，越來越融入日常生活，人工智能對用戶日益增長的心理影響可能會成為一種強大的操縱工具。

他說：“這些模型的更強大版本，能夠更深入地融入人們的日常生活，更了解人們的日常生活，并且可以在數(shù)月或數(shù)年內(nèi)對人們進行建模和影響，很可能能夠有效地對人們進行洗腦，使他們接受任何想要的意識形態(tài)或態(tài)度?！?/p>

阿莫迪寫道，即使是為人工智能設(shè)置防護措施的溫和嘗試，在華盛頓也很難獲得支持。

他說：“這些看似合情合理的建議大多被美國決策者拒絕，而美國恰恰是這些建議最需要的國家。人工智能蘊藏著巨大的經(jīng)濟利益，每年高達數(shù)萬億美元，以至于即使是最簡單的措施也難以克服人工智能固有的政治經(jīng)濟因素。”

盡管 Amodei 認為人工智能的風險日益增加，但 Anthropic 仍然積極參與構(gòu)建更強大的人工智能系統(tǒng)的競賽，這種動態(tài)產(chǎn)生的激勵機制使得任何單個開發(fā)者都難以擺脫。

今年6月，美國國防部授予該公司一份價值數(shù)百萬美元的合同。2億美元“旨在研發(fā)能夠提升美國國家安全的尖端人工智能原型技術(shù)”。去年12月，該公司開始為可能的合作奠定基礎(chǔ)。首次公開募股該公司將于今年晚些時候上市，并正在尋求一輪私人融資，這可能會使其估值超過 3000 億美元。

盡管存在這些擔憂，阿莫迪表示，這篇文章旨在“避免悲觀論調(diào)”，同時承認人工智能的發(fā)展方向存在不確定性。

阿莫迪寫道：“我們面前的歲月將無比艱難，它對我們的要求遠超我們自認為的能力。人類需要覺醒，而這篇文章正是一次嘗試——或許徒勞無功，但值得一試——旨在喚醒人們?！?/p>