【學(xué)思踐悟】

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，人工智能發(fā)展在發(fā)揮多方面積極作用的同時，也面臨著安全風(fēng)險等一系列問題。4月25日，習(xí)近平總書記在主持中共中央政治局第二十次集體學(xué)習(xí)時強調(diào)，“完善人工智能監(jiān)管體制機制，牢牢掌握人工智能發(fā)展和治理主動權(quán)”。人工智能安全是我國總體國家安全觀的重要組成部分。習(xí)近平總書記高度重視統(tǒng)籌人工智能發(fā)展和安全，圍繞發(fā)展和安全辯證統(tǒng)一關(guān)系、筑牢國家安全屏障等作出一系列重要論述，強調(diào)“要加強人工智能發(fā)展的潛在風(fēng)險研判和防范，維護人民利益和國家安全”。推動人工智能健康有序發(fā)展，必須充分運用法律、技術(shù)等多種手段，構(gòu)建并完善全方位、多層次的監(jiān)管機制，有效應(yīng)對人工智能帶來的各種風(fēng)險和挑戰(zhàn)，確保人工智能安全、可靠、可控。

建立和完善人工智能法律制度體系

通過法律手段對人工智能進行監(jiān)管是世界主要國家和地區(qū)的普遍通用做法。2017年以來，美國、歐盟、日本、新加坡等陸續(xù)發(fā)布人工智能領(lǐng)域的法律法規(guī)準則，持續(xù)加強對人工智能的管理。近年來，我國持續(xù)加快人工智能領(lǐng)域立法步伐，出臺網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，在加強對人工智能監(jiān)管、防范人工智能風(fēng)險等方面發(fā)揮了積極作用。與此同時，人工智能技術(shù)和應(yīng)用發(fā)展日新月異，人工智能的監(jiān)管需求日益增長，相關(guān)法律法規(guī)還存在一些短板和不足，比如，法律體系還不夠完善，缺少人工智能安全監(jiān)管的專門法律，在一些促發(fā)展、保安全的關(guān)鍵問題上還存在立法空白等。習(xí)近平總書記強調(diào)，“要堅持促進發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標(biāo)準規(guī)范引導(dǎo)新技術(shù)應(yīng)用”。我們要進一步把握人工智能發(fā)展趨勢和規(guī)律，加快人工智能立法進程，推動人工智能相關(guān)立法工作列入國家立法規(guī)劃，盡快制定具有前瞻性的人工智能法律法規(guī)，為相關(guān)技術(shù)的研發(fā)、應(yīng)用和管理提供法律依據(jù)和保障；聚焦人工智能重點領(lǐng)域制定法規(guī)政策、行業(yè)規(guī)范，強化人工智能技術(shù)濫用的法律約束，逐步完善人工智能相關(guān)法律體系，為我國人工智能安全治理提供法律依據(jù)和支撐。

建立人工智能技術(shù)風(fēng)險評估與分類分級監(jiān)管機制

人工智能技術(shù)的復(fù)雜性和不確定性使其可能帶來多種風(fēng)險，如數(shù)據(jù)泄露、算法偏見、系統(tǒng)被攻擊等，這些風(fēng)險可能對個人、企業(yè)和社會產(chǎn)生負面影響。人工智能技術(shù)的風(fēng)險評估與分類分級監(jiān)管是確保人工智能技術(shù)安全、可靠和可持續(xù)發(fā)展的關(guān)鍵環(huán)節(jié)。通過建立健全風(fēng)險評估與分類分級監(jiān)管機制，既可以有效識別和量化潛在風(fēng)險，保障人工智能技術(shù)的安全應(yīng)用，又能促進人工智能的創(chuàng)新發(fā)展。生成式人工智能是人工智能的一個分支。2023年7月，國家網(wǎng)信辦等七部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，明確要求對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管，對具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)開展安全評估。這是我國出臺的全面監(jiān)管生成式人工智能的規(guī)范文件。當(dāng)前，人工智能技術(shù)發(fā)展方興未艾，我們既要建立包括技術(shù)風(fēng)險、數(shù)據(jù)安全風(fēng)險、倫理風(fēng)險、社會影響等在內(nèi)的風(fēng)險評估體系，對人工智能系統(tǒng)的潛在風(fēng)險進行全面、動態(tài)的評估，以便及時發(fā)現(xiàn)和防范風(fēng)險；也要進一步建立健全分類分級監(jiān)管機制，根據(jù)人工智能應(yīng)用的領(lǐng)域、風(fēng)險等級、安全后果以及容錯能力等，劃分不同監(jiān)管級別，實施差異化的監(jiān)管措施，以確保人工智能技術(shù)健康、安全、可持續(xù)發(fā)展，更好保障社會公共利益和國家安全。

健全規(guī)范人工智能倫理審查機制

人工智能在給經(jīng)濟社會發(fā)展帶來巨大福利的同時，也帶來難以預(yù)知的各種風(fēng)險和復(fù)雜挑戰(zhàn)。人工智能技術(shù)發(fā)展的不確定性、技術(shù)應(yīng)用的數(shù)據(jù)依賴性以及算法可解釋性可能導(dǎo)致技術(shù)失控、隱私失密、公平失衡等問題，沖擊著人類社會的倫理規(guī)范。近年來，為有效應(yīng)對人工智能引發(fā)的倫理問題，我國成立了國家新一代人工智能治理專業(yè)委員會，發(fā)布了《新一代人工智能倫理規(guī)范》等規(guī)范制度，持續(xù)加強人工智能倫理治理，取得明顯成效。習(xí)近平總書記強調(diào)：“科技是發(fā)展的利器，也可能成為風(fēng)險的源頭。要前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風(fēng)險、倫理挑戰(zhàn)，完善相關(guān)法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架。”要始終堅持“以人為本、智能向善”的人工智能發(fā)展原則，加強對人工智能發(fā)展的安全倫理風(fēng)險研判，對人工智能應(yīng)用可能產(chǎn)生的負面影響開展預(yù)見性風(fēng)險評估，提前做好風(fēng)險預(yù)案，確保人工智能發(fā)展安全可控；積極引導(dǎo)企業(yè)、科研機構(gòu)等在人工智能發(fā)展中承擔(dān)社會責(zé)任，要求其規(guī)范數(shù)據(jù)采集、加強數(shù)據(jù)保護、修改推送規(guī)則、監(jiān)管虛假信息，防止出現(xiàn)數(shù)據(jù)濫用和虛假信息蔓延；深入開展人工智能倫理教育和宣傳，構(gòu)建良好輿論氛圍，推動人工智能安全可控、健康有序發(fā)展。

完善人工智能協(xié)同治理機制

人工智能是一個復(fù)雜的系統(tǒng)，對人工智能的監(jiān)管與治理也是一個復(fù)雜的系統(tǒng)工程。對人工智能實行有效監(jiān)管和治理，離不開政府、企業(yè)、行業(yè)組織、學(xué)術(shù)團體、社會公眾等多元主體的共同參與。2024年，全國網(wǎng)絡(luò)安全標(biāo)準化技術(shù)委員會發(fā)布了《人工智能安全治理框架》1.0版，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險的來源和表現(xiàn)形式，提出一系列技術(shù)應(yīng)對和綜合防治措施，這對于推動社會各方積極參與、協(xié)同推進人工智能安全治理具有重要促進作用。習(xí)近平總書記指出，“人工智能帶來前所未有發(fā)展機遇，也帶來前所未遇風(fēng)險挑戰(zhàn)”。推動人工智能健康發(fā)展，需要多方協(xié)同，共建共治。要明確監(jiān)管主體，成立人工智能專門監(jiān)管機構(gòu)，負責(zé)統(tǒng)籌協(xié)調(diào)人工智能安全監(jiān)管工作；建立健全跨部門協(xié)同監(jiān)管機制，加強政府內(nèi)部各部門的協(xié)同合作，形成監(jiān)管合力；建立社會多元共治機制，鼓勵行業(yè)協(xié)會、社會組織、企業(yè)等參與人工智能安全治理，著力形成政府、企業(yè)、社會組織和公眾共同參與的協(xié)同共治新局面。

完善人工智能國際合作交流機制

當(dāng)前，人工智能在帶來巨大機遇的同時，也帶來威脅全球穩(wěn)定的風(fēng)險，需要國際社會共同合作才能有效應(yīng)對。在這方面，中國始終堅持在充分尊重各國政策和實踐基礎(chǔ)上，推動形成具有廣泛共識的全球人工智能治理框架和標(biāo)準規(guī)范，并在規(guī)則制定、合作機制建設(shè)、實踐推廣等方面持續(xù)貢獻中國智慧和力量。2023年10月，中國提出《全球人工智能治理倡議》，推動各國協(xié)力繪就全球人工智能治理的未來藍圖；同年11月初，中國、美國、英國等28個國家和歐盟簽署《布萊切利宣言》，同意通過國際合作，建立人工智能監(jiān)管制度與方案；中國還積極舉辦世界人工智能大會、世界互聯(lián)網(wǎng)大會，促進各國在人工智能等方面開展合作。習(xí)近平總書記指出，“要廣泛開展人工智能國際合作”“早日形成具有廣泛共識的全球治理框架和標(biāo)準規(guī)范”。我們要繼續(xù)發(fā)揮負責(zé)任大國作用，積極參與全球人工智能治理框架與標(biāo)準規(guī)范的建立，通過簽署國際公約、參與國際組織活動等方式，提升我國在國際人工智能治理中的話語權(quán)和影響力；積極與其他國家和地區(qū)開展跨國監(jiān)管合作，共同應(yīng)對人工智能帶來的跨境安全挑戰(zhàn)，推動形成統(tǒng)一的國際監(jiān)管標(biāo)準和機制。

（作者：李國祥，系山西省社會科學(xué)院〔省政府發(fā)展研究中心〕馬克思主義研究所副所長）