近期，百萬AI智能體在Moltbook虛擬平臺(tái)上自主交流協(xié)作，引發(fā)全球關(guān)注。業(yè)內(nèi)認(rèn)為這是“打開了潘多拉魔盒”。這一現(xiàn)象表明AI正從提高工具效率邁向重構(gòu)社會(huì)運(yùn)行模式的新階段，不再只是技術(shù)上的迭代，而是進(jìn)入深刻社會(huì)實(shí)驗(yàn)的初始階段。

　　Moltbook事件體現(xiàn)出AI發(fā)展的兩個(gè)關(guān)鍵躍遷。一是從功能上的替代轉(zhuǎn)向系統(tǒng)的顛覆。新一代AI智能體具備自主規(guī)劃、調(diào)用工具、實(shí)施任務(wù)的閉環(huán)能力，可以直接操控軟件、處理業(yè)務(wù)流程。當(dāng)“數(shù)字行動(dòng)者”成為“核心主角”，以人類操作作為設(shè)計(jì)中心的傳統(tǒng)軟件與SaaS模式（是一種通過互聯(lián)網(wǎng)向用戶提供軟件功能的服務(wù)模式），其商業(yè)價(jià)值會(huì)遭受根本上的質(zhì)疑，這正是資本市場(chǎng)劇烈震蕩現(xiàn)象的深層邏輯。二是由個(gè)體智能邁向群體生態(tài)。百萬智能體在無人介入的情形下形成互動(dòng)社區(qū)，體現(xiàn)AI進(jìn)入“多智能體”復(fù)雜系統(tǒng)研究的前沿范疇，它們有可能衍生出人類難以理解的通信協(xié)議與協(xié)作規(guī)程，把治理難題從“控制一個(gè)智能體”升級(jí)到“治理智能體所構(gòu)成的社會(huì)”。

　　若智能體在關(guān)鍵基礎(chǔ)設(shè)施大規(guī)模部署，風(fēng)險(xiǎn)會(huì)按幾何級(jí)規(guī)模放大。首先是有系統(tǒng)性連鎖風(fēng)險(xiǎn)，在彼此高度互聯(lián)的現(xiàn)代社會(huì)，各領(lǐng)域的AI系統(tǒng)緊密耦合。比如，金融風(fēng)控AI的冒險(xiǎn)行動(dòng)也許會(huì)觸發(fā)供應(yīng)鏈AI的應(yīng)急響應(yīng)，進(jìn)而引發(fā)物流系統(tǒng)重新去規(guī)劃……這些微小的干擾可能在智能體交互期間被層層放大，致使跨領(lǐng)域出現(xiàn)系統(tǒng)性危機(jī)。此外，目標(biāo)對(duì)齊與協(xié)同失控也是個(gè)問題。即便是單個(gè)智能體依照“有益人類”原則，而眾多智能體在動(dòng)態(tài)環(huán)境里相互作用時(shí)，集體行動(dòng)也許完全與當(dāng)初的意愿相悖，它們可能會(huì)為爭(zhēng)奪算力或數(shù)據(jù)資源，出現(xiàn)非預(yù)期的競(jìng)爭(zhēng)或合謀，因?yàn)槠洳呗詮?fù)雜度比設(shè)計(jì)者預(yù)編程的范疇要大得多。

　　面對(duì)這一變革，要前瞻性地構(gòu)建發(fā)展與安全動(dòng)態(tài)平衡格局。技術(shù)研發(fā)方面，必須把“多智能體系統(tǒng)安全”提升至跟提升單體智能一樣重要的戰(zhàn)略高度。不僅要研究怎樣增強(qiáng)AI的性能，更要讓其在復(fù)雜的互動(dòng)過程中維持可預(yù)測(cè)、可解釋、可干預(yù)狀態(tài)。規(guī)范規(guī)則維度，應(yīng)鼓勵(lì)搭建全球性AI治理新框架，包含數(shù)字身份核驗(yàn)、行為審計(jì)追蹤、跨平臺(tái)協(xié)同協(xié)議及應(yīng)急熔斷方案，提倡在可控的“數(shù)字沙盒”里開展大規(guī)模多智能體實(shí)驗(yàn)，提前找出問題、擬定規(guī)章。同時(shí)，堅(jiān)守“人類最終控制權(quán)”原則格外重要。在關(guān)乎重大利益分配、人身安全或者公共資源的關(guān)鍵決策階段，要建立不可逾越的人工確認(rèn)機(jī)制。民眾也要提升數(shù)字素養(yǎng)，記住自身是責(zé)任的最終主體。

　　科技浪潮迅猛向前，AI智能體的出現(xiàn)明顯揭示：未來挑戰(zhàn)將由技術(shù)范疇轉(zhuǎn)向社會(huì)倫理與治理范疇，只有憑借更具系統(tǒng)性的思維理念、更具前瞻性的研究探索、更審慎的規(guī)劃部署，才可把握這股能量，保證其成為為社會(huì)造福的“賦能者”，而不是變成未知風(fēng)險(xiǎn)的“播撒者”，這既是對(duì)創(chuàng)新能力的試煉，更是對(duì)文明智慧的叩查。

　?。ㄗ髡呦等珖?guó)政協(xié)委員、民進(jìn)中央開明畫院副院長(zhǎng)）