習近平總書記在二十屆中央政治局第20次集體學習時發(fā)表重要講話，強調(diào)“人工智能帶來前所未有發(fā)展機遇，也帶來前所未遇風險挑戰(zhàn)。要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應用規(guī)范、倫理準則，構(gòu)建技術(shù)監(jiān)測、風險預警、應急響應體系，確保人工智能安全、可靠、可控。”這一重要論述既遵循馬克思主義關(guān)于技術(shù)與人、技術(shù)與社會關(guān)系的基本原理，又創(chuàng)新發(fā)展了社會主義制度下技術(shù)治理的實踐路徑，是以人民為中心的發(fā)展思想在數(shù)字經(jīng)濟領(lǐng)域的體現(xiàn)，為全球數(shù)字文明演進提供了具有普遍意義的科學指引。

　　一、安全：技術(shù)異化批判與人民主體性的價值重構(gòu)

　?。ㄒ唬?shù)字時代技術(shù)異化的三重嬗變。馬克思揭示的技術(shù)異化理論，在資本主義國家的算法社會中容易呈現(xiàn)為數(shù)據(jù)權(quán)力與資本邏輯的雙重宰制。這種異化形態(tài)的演進呈現(xiàn)出三個新特征。其一，異化主體從產(chǎn)業(yè)工人擴展至全體數(shù)字公民。外賣騎手被困在“數(shù)字泰勒制”的配送系統(tǒng)，社交媒體用戶淪為算法推薦的數(shù)據(jù)商品，信用評分系統(tǒng)將人際交往異化為數(shù)值博弈，技術(shù)異化已突破傳統(tǒng)生產(chǎn)領(lǐng)域。其二，異化機制從顯性控制轉(zhuǎn)向隱形操控。深度學習系統(tǒng)通過數(shù)十億參數(shù)的自我迭代形成的決策黑箱，構(gòu)建起比傳統(tǒng)機器更具滲透性的控制體系。其三，異化后果從勞動異化升級為存在異化。當算法推薦系統(tǒng)持續(xù)強化認知偏見，信息繭房導致公共理性瓦解，技術(shù)異化已威脅到人類思維方式和價值判斷的自主性。

　　（二）安全治理的三維制度建構(gòu)。安全治理是對數(shù)字時代技術(shù)異化的系統(tǒng)性回應。這種安全觀包含三重邏輯建構(gòu)。

　　首先，在哲學層面重構(gòu)主客體關(guān)系。當算法決策系統(tǒng)通過數(shù)十億參數(shù)的自我演化形成“技術(shù)黑箱”時，人類主體性面臨被解構(gòu)的風險。我國在自動駕駛領(lǐng)域推行的預碰撞決策模型，將“生命權(quán)優(yōu)先”倫理準則轉(zhuǎn)化為算法架構(gòu)的核心約束。通過行人識別精度的特殊加權(quán)、弱勢道路使用者保護參數(shù)的強制設(shè)置、決策末端人工確認節(jié)點的保留，在技術(shù)底層重建了人的主體地位。這種設(shè)計超越了西方技術(shù)倫理的“電車難題”討論，直接將社會主義核心價值觀轉(zhuǎn)化為可執(zhí)行的技術(shù)標準。

　　其次，在制度層面構(gòu)建異化防范機制。針對平臺經(jīng)濟中的“數(shù)字泰勒制”，我國創(chuàng)新性地建立了算法勞動權(quán)益保障體系。2023年實施的《算法推薦管理規(guī)定》，要求外賣配送系統(tǒng)必須設(shè)置連續(xù)工作強制下線機制，配送路線規(guī)劃必須保留10%的彈性時間，氣溫異常時自動觸發(fā)保護性調(diào)整。這種制度設(shè)計與資本主義國家“效率至上”的治理模式形成鮮明對比，體現(xiàn)了技術(shù)發(fā)展權(quán)回歸人民的治理哲學。

　　最后，在實踐層面確立風險防控范式。我國在人工智能領(lǐng)域推行的“社會實驗”治理模式，構(gòu)建了技術(shù)風險的全周期管控體系。以自動駕駛技術(shù)為例，上路測試前必須通過包含暴雨、團霧、道路塌陷等200種極端場景的模擬驗證，并接受由技術(shù)專家、法律工作者、市民代表組成的聯(lián)合聽證會質(zhì)詢。這種“技術(shù)驗證+社會評估+倫理審查”的三重過濾機制，將技術(shù)創(chuàng)新納入民主決策、民主監(jiān)督、民主管理軌道，實現(xiàn)了技術(shù)理性與社會理性的辯證統(tǒng)一。

　　二、可靠：我國社會主義制度優(yōu)勢的技術(shù)轉(zhuǎn)化邏輯

　?。ㄒ唬┲贫葍?yōu)勢轉(zhuǎn)化的三重機制?！翱煽俊币蟮谋举|(zhì)，是將我國社會主義公平正義轉(zhuǎn)化為算法架構(gòu)的制度基因。這種轉(zhuǎn)化不是簡單的價值符號植入，而是通過制度創(chuàng)新構(gòu)建起“目標設(shè)定一過程控制—效果反饋”的完整閉環(huán)。

　　在目標維度，建立社會正義的技術(shù)編碼規(guī)則。醫(yī)保智能審核系統(tǒng)通過分級診療動態(tài)適配機制，在空間維度設(shè)置基層醫(yī)療優(yōu)先系數(shù)，在時間維度建立重癥綠色通道，在代際維度引入老年加權(quán)因子，形成多維度的正義算法模型。這種設(shè)計使“病有所醫(yī)”的承諾轉(zhuǎn)化為可編程的技術(shù)參數(shù)，相比美國以商業(yè)保險為主導的醫(yī)療算法，更有效解決了醫(yī)療資源分配的公平性問題。

　　在過程維度，構(gòu)建制度優(yōu)勢的持續(xù)轉(zhuǎn)化機制。教育領(lǐng)域的“國家智慧教育平臺”通過動態(tài)追蹤十億級學習數(shù)據(jù)，生成個性化教學方案，使西部山區(qū)學生同步獲得優(yōu)質(zhì)資源。這種“數(shù)據(jù)流動一資源重組—效果優(yōu)化”的閉環(huán)，將集中力量辦大事的制度優(yōu)勢轉(zhuǎn)化為精準賦能的算法效能。平臺運行兩年間，累計縮小東西部教育質(zhì)量差距23個百分點，創(chuàng)造了技術(shù)促進教育公平的典范。

　　在效果維度，形成技術(shù)糾偏的制度化反饋。社會保障領(lǐng)域的困難群體識別系統(tǒng)，通過多部門數(shù)據(jù)交叉驗證和動態(tài)復核機制，將救助準確率提升至98%。這種“技術(shù)識別—人工復核—政策匹配”的協(xié)同機制，確保了算法決策始終服務于弱勢群體的根本利益。與歐洲國家單純依賴大數(shù)據(jù)的社會救助系統(tǒng)相比，中國模式更強調(diào)技術(shù)手段與群眾路線的結(jié)合。

　　（二）技術(shù)正義的實踐創(chuàng)新。在司法領(lǐng)域，智能審判系統(tǒng)的設(shè)計體現(xiàn)了我國社會主義法治精神的技術(shù)轉(zhuǎn)化。系統(tǒng)內(nèi)置的“類案同判”模塊，不僅要求推送相似案例，還必須標注差異點的法律依據(jù)和裁量標準。這種設(shè)計既防范了算法偏見，又將“同案同判”的法治原則轉(zhuǎn)化為可驗證的技術(shù)流程。2023年試點數(shù)據(jù)顯示，該系統(tǒng)使裁判文書說理充分性提升37%，當事人服判息訴率提高15個百分點。

　　在就業(yè)服務領(lǐng)域，人力資源社會保障部開發(fā)的“智能就業(yè)匹配系統(tǒng)”，創(chuàng)新性地引入“就業(yè)質(zhì)量指數(shù)”評估模型。該模型不僅考慮薪資水平，還將勞動權(quán)益保障、職業(yè)發(fā)展空間、工作環(huán)境安全等要素納入算法權(quán)重。這種設(shè)計突破了資本主義國家就業(yè)服務系統(tǒng)效率至上的局限，實現(xiàn)了就業(yè)數(shù)量與質(zhì)量的均衡發(fā)展。

　　三、可控：數(shù)字文明演進的主導權(quán)建構(gòu)

　　（一）技術(shù)主權(quán)的生態(tài)構(gòu)建?！翱煽亍币蟮纳顚舆壿?，在于確立人類文明對技術(shù)演進的主導權(quán)。在基礎(chǔ)軟件領(lǐng)域，華為昇思（MindSpore）人工智能框架的開源生態(tài)建設(shè)，成功實現(xiàn)了技術(shù)標準與文化基因的雙重自主?？蚣軆?nèi)置的中文自然語言處理預訓練模型，融合了中華文化語境下的語義理解模塊；計算機視覺模塊特別強化了對多民族人臉特征的識別精度。這種“核心技術(shù)創(chuàng)新—應用生態(tài)培育—文化價值輸出”的遞進模式，打破了西方技術(shù)霸權(quán)的話語體系。截至2023年底，昇思社區(qū)已匯聚全球開發(fā)者35萬人，形成6000個行業(yè)解決方案，開創(chuàng)了自主可控的技術(shù)發(fā)展路徑。

　?。ǘ?shù)據(jù)治理的平衡藝術(shù)。在新冠疫情防控中，健康碼系統(tǒng)的演進展現(xiàn)了數(shù)據(jù)治理的中國智慧。系統(tǒng)設(shè)計始終堅持“最小必要原則”：數(shù)據(jù)存儲期限從最初14天逐步壓縮至72小時，功能應用嚴格限定于防疫用途，數(shù)據(jù)調(diào)取實行“三方授權(quán)”機制（政府部門、技術(shù)平臺、用戶本人）。這種治理哲學與西方監(jiān)控資本主義形成本質(zhì)區(qū)別，新加坡國立大學比較研究顯示，中國健康碼系統(tǒng)的權(quán)利侵害風險指數(shù)僅為歐美同類系統(tǒng)的1/5。更值得關(guān)注的是，系統(tǒng)退場機制的設(shè)計，疫情平穩(wěn)后所有數(shù)據(jù)經(jīng)脫敏處理轉(zhuǎn)入城市應急管理體系，實現(xiàn)了公共數(shù)據(jù)資源的再生利用。

　?。ㄈ┲腔鄢鞘械娜吮巨D(zhuǎn)型。在智慧城市建設(shè)中，我國探索出“需求驅(qū)動一技術(shù)響應一制度保障”的協(xié)同發(fā)展模式。杭州市“城市大腦”系統(tǒng)通過分析12345熱線百萬條市民訴求，動態(tài)優(yōu)化交通信號配時、垃圾分類清運、公園人流量預警等城市管理決策。系統(tǒng)特別設(shè)置“銀發(fā)關(guān)懷模塊”，自動識別老年市民的高頻需求，優(yōu)先配置適老化公共服務資源。這種治理模式與新加坡“智慧國”計劃的頂層設(shè)計模式形成對比，更強調(diào)技術(shù)應用與民生需求的精準對接。第三方評估顯示，該系統(tǒng)使市民對城市管理的滿意度提升28個百分點，真正實現(xiàn)了技術(shù)賦能與人民獲得感的統(tǒng)一。

　　（舒勇系全國政協(xié)委員、民進中央開明畫院副院長、中國社會藝術(shù)協(xié)會副主席）