黨建
牢牢掌握人工智能治理主動權(quán)
牢牢掌握人工智能治理主動權(quán)
姜育剛
習(xí)近平總書記在二十屆中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，“全面推進(jìn)人工智能科技創(chuàng)新、產(chǎn)業(yè)發(fā)展和賦能應(yīng)用，完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動權(quán)”。國家網(wǎng)信辦發(fā)布的《全球人工智能治理倡議》明確提出，積極發(fā)展用于人工智能治理的相關(guān)技術(shù)開發(fā)與應(yīng)用，支持以人工智能技術(shù)防范人工智能風(fēng)險(xiǎn)，提高人工智能治理的技術(shù)能力。這不僅需要加快完善人工智能治理的法律法規(guī)、政策制度、應(yīng)用規(guī)范和倫理準(zhǔn)則，同時(shí)應(yīng)高度重視數(shù)據(jù)可信治理、模型內(nèi)生可信、安全風(fēng)險(xiǎn)測評、應(yīng)用全鏈路可追溯等人工智能治理技術(shù)的自主創(chuàng)新，構(gòu)建“規(guī)則＋技術(shù)”雙輪驅(qū)動機(jī)制，積極應(yīng)對人工智能技術(shù)快速發(fā)展帶來的風(fēng)險(xiǎn)挑戰(zhàn)，牢牢掌握人工智能治理主動權(quán)。
深刻認(rèn)識人工智能治理的重要性和緊迫性
人工智能在賦能經(jīng)濟(jì)高質(zhì)量發(fā)展、提升國家治理效能、改善民生福祉的同時(shí)，也催生了算法偏見、技術(shù)濫用、認(rèn)知倫理等新型安全風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)不僅關(guān)乎個(gè)體權(quán)益、社會公平，更涉及國家安全、數(shù)字主權(quán)乃至人類文明走向。因此，加強(qiáng)人工智能治理已成為掌握未來發(fā)展主動權(quán)的重大戰(zhàn)略議題。
當(dāng)前，人工智能技術(shù)迭代持續(xù)加速，從大語言模型向多模態(tài)模型演進(jìn)，從簡單推理邁向深度思考，其應(yīng)用已廣泛融入經(jīng)濟(jì)社會各領(lǐng)域，深刻改變?nèi)祟惿a(chǎn)生活方式，更加速從數(shù)字空間延伸至物理世界，具身智能成為全球科技競爭的戰(zhàn)略高地。通過自動駕駛、智能機(jī)器人等載體，人工智能將主動、直接作用于現(xiàn)實(shí)環(huán)境，其決策與行為將對人身安全、公共秩序乃至國家安全產(chǎn)生實(shí)質(zhì)性影響，加強(qiáng)治理顯得尤為緊迫。
堅(jiān)持“以人為本、智能向善”的治理理念
習(xí)近平總書記提出要“堅(jiān)持以人為本、智能向善，在聯(lián)合國框架內(nèi)加強(qiáng)人工智能規(guī)則治理”。這一重要論述深刻揭示了人工智能發(fā)展的價(jià)值導(dǎo)向與治理邏輯，強(qiáng)調(diào)技術(shù)進(jìn)步必須始終服務(wù)于社會整體福祉和人類發(fā)展進(jìn)步。
堅(jiān)持以人為本，就是要以增進(jìn)人類共同福祉為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展。這要求在技術(shù)發(fā)展過程中，要強(qiáng)化對個(gè)人數(shù)據(jù)的保護(hù)，推動算法的透明化和可解釋性，讓不同人群都能公平享有智能技術(shù)帶來的便利，確保技術(shù)應(yīng)用不偏離服務(wù)人民的初心。
堅(jiān)持智能向善，要求人工智能的發(fā)展應(yīng)符合和平、發(fā)展、公平、正義、民主、自由的全人類共同價(jià)值，共同防范人工智能技術(shù)的惡用濫用。這不僅包括防范人工智能被用于深度偽造、網(wǎng)絡(luò)攻擊等惡意用途，同時(shí)也強(qiáng)調(diào)應(yīng)主動發(fā)揮其在應(yīng)對氣候變化、公共衛(wèi)生危機(jī)、能源轉(zhuǎn)型、災(zāi)害預(yù)警等全球性挑戰(zhàn)中的積極作用，推動人工智能技術(shù)真正成為促進(jìn)包容、平等與可持續(xù)發(fā)展的力量。
構(gòu)建規(guī)則、技術(shù)雙輪驅(qū)動機(jī)制
面對當(dāng)前人工智能加速演進(jìn)的態(tài)勢，國家互聯(lián)網(wǎng)應(yīng)急中心牽頭組織制定的《人工智能安全治理框架》2．0版中提出要“構(gòu)建技術(shù)與管理相結(jié)合、監(jiān)管與治理相銜接、國內(nèi)與國際相協(xié)同、社會各方積極參與且有效互動的治理機(jī)制”。這一治理構(gòu)想的關(guān)鍵在于“規(guī)則＋技術(shù)”雙輪驅(qū)動的創(chuàng)新機(jī)制。通過二者的協(xié)同演進(jìn)、雙向賦能，可以更好地支撐我們牢牢掌握人工智能治理的主動權(quán)。
一方面，要加快完善人工智能治理規(guī)則體系。這既是應(yīng)對技術(shù)快速迭代與風(fēng)險(xiǎn)加速演化的迫切要求，更是掌握發(fā)展主動權(quán)的戰(zhàn)略舉措。具體而言，應(yīng)統(tǒng)籌推進(jìn)覆蓋人工智能研發(fā)全鏈條的法律法規(guī)與規(guī)章制度建設(shè)；同步建立科學(xué)、動態(tài)、可操作的風(fēng)險(xiǎn)分級分類測試標(biāo)準(zhǔn)體系，實(shí)現(xiàn)對不同應(yīng)用場景的精準(zhǔn)化、差異化監(jiān)管；持續(xù)健全人工智能倫理準(zhǔn)則與行業(yè)規(guī)范，推動倫理要求制度化、落地化。
另一方面，要大力推動人工智能治理技術(shù)的自主創(chuàng)新。人工智能治理的核心在于培育安全、可靠、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài)，從數(shù)據(jù)源頭強(qiáng)化隱私保護(hù)和偏見防控，在模型算法層面引入價(jià)值觀對齊等機(jī)制，系統(tǒng)提升人工智能的算法可解釋性、模型可測評性、決策可追溯性、運(yùn)行可監(jiān)測性等能力。通過人工智能治理技術(shù)的體系化創(chuàng)新，支撐治理理念與規(guī)則在應(yīng)用與實(shí)踐層面落地。
積極推進(jìn)人工智能治理技術(shù)體系化自主創(chuàng)新
加強(qiáng)人工智能治理技術(shù)的自主創(chuàng)新，是牢牢掌握人工智能治理主動權(quán)的關(guān)鍵所在。當(dāng)前人工智能技術(shù)仍面臨數(shù)據(jù)分布復(fù)雜、模型可控性不足、系統(tǒng)測評體系不完善、推理過程不透明等突出問題，亟須在多個(gè)核心技術(shù)方向上持續(xù)攻關(guān)。
強(qiáng)化訓(xùn)練語料數(shù)據(jù)可信治理技術(shù)。高質(zhì)量、可信的訓(xùn)練語料數(shù)據(jù)是保障人工智能系統(tǒng)可信的基礎(chǔ)。應(yīng)建立覆蓋數(shù)據(jù)采集、清洗、標(biāo)注、更新全流程的可信治理機(jī)制，構(gòu)建統(tǒng)一的數(shù)據(jù)質(zhì)量與安全評估體系，確保訓(xùn)練語料的真實(shí)性、合法性與代表性。同時(shí)，加強(qiáng)數(shù)據(jù)溯源與追蹤技術(shù)研發(fā)，完善數(shù)據(jù)脫敏與隱私保護(hù)機(jī)制，防止數(shù)據(jù)污染與惡意注入，從源頭提升模型訓(xùn)練的可信性。
加強(qiáng)人工智能模型內(nèi)生可信機(jī)制。內(nèi)生可信機(jī)制是實(shí)現(xiàn)人工智能系統(tǒng)安全可控的核心技術(shù)。應(yīng)重點(diǎn)圍繞模型可解釋性、決策可驗(yàn)證性等方向開展研究，推動人工智能模型與法律法規(guī)、政策制度和倫理準(zhǔn)則的對齊，從設(shè)計(jì)之初就嵌入安全與倫理約束，實(shí)現(xiàn)算法與模型層面的風(fēng)險(xiǎn)識別、異常防御與動態(tài)修正，構(gòu)建具備自我診斷、自我校正能力的內(nèi)生可信機(jī)制，確保人工智能模型在復(fù)雜環(huán)境下的可信運(yùn)行和可控演化。
完善人工智能安全風(fēng)險(xiǎn)測評體系。當(dāng)前，人工智能測評體系尚缺乏統(tǒng)一標(biāo)準(zhǔn)與系統(tǒng)性框架，測評指標(biāo)不完善、測評過程透明度不足，難以全面反映系統(tǒng)在法規(guī)、政策以及倫理一致性方面的真實(shí)表現(xiàn)。應(yīng)堅(jiān)持規(guī)則與技術(shù)雙輪驅(qū)動，以制度建設(shè)引領(lǐng)測評方向，以技術(shù)創(chuàng)新提升測評能力，實(shí)現(xiàn)對政策規(guī)則、倫理準(zhǔn)則和安全邊界的自動識別、響應(yīng)與校準(zhǔn)能力，形成全生命周期的人工智能安全測評體系。
重視人工智能應(yīng)用全鏈路可追溯技術(shù)。可審核、可監(jiān)督、可追溯，是保障人工智能應(yīng)用責(zé)任可控的關(guān)鍵。人工智能應(yīng)用鏈條長、環(huán)節(jié)多，涵蓋數(shù)據(jù)采集、模型訓(xùn)練、模型測試、系統(tǒng)部署、用戶使用等多個(gè)階段，任何環(huán)節(jié)的失范都可能引發(fā)重大風(fēng)險(xiǎn)。應(yīng)以可審計(jì)為原則，構(gòu)建推理過程的證據(jù)關(guān)聯(lián)，完善訓(xùn)練、推理、輸出的全程記錄，健全運(yùn)行期的在線監(jiān)測、異常定位與責(zé)任追蹤，為人工智能系統(tǒng)的安全審計(jì)、合規(guī)監(jiān)管與失范追責(zé)提供支撐。
通過強(qiáng)化數(shù)據(jù)可信治理、模型內(nèi)生可信、安全風(fēng)險(xiǎn)測評、應(yīng)用全鏈路可追溯等環(huán)節(jié)，加快形成自主可控的人工智能治理技術(shù)底座，為我國在全球人工智能競爭中掌握主動權(quán)提供技術(shù)保障與支撐。
（作者系復(fù)旦大學(xué)黨委常委、副校長）
1、凡注有“新天水訊”的稿件，均為天水日報(bào)社版權(quán)稿件，未經(jīng)許可不得轉(zhuǎn)載或鏡像；授權(quán)轉(zhuǎn)載必須注明來源為“新天水”，并保留“新天水”電頭。
2、凡注明為其它來源的信息，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表新天水客戶端（網(wǎng)站）贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)。
?Copyright 2019 新天水www.sq-yy.com版權(quán)所有，未經(jīng)《天水日報(bào)》社書面授權(quán)請勿轉(zhuǎn)載或建立鏡像
新聞熱線：0938-8390229 技術(shù)保障：0938-8217313 謠言舉報(bào)：0938-8390229 地址：天水市麥積區(qū)成紀(jì)大道中路成紀(jì)新城D座 郵箱：huaxunzaixian@163.com
互聯(lián)網(wǎng)新聞信息服務(wù)許可證編號：62120220018 備案許可證編號：隴ICP備09002627號-1
技術(shù)維護(hù)與支持：天水日報(bào)社全媒體技術(shù)保障中心 法律顧問：甘肅法茂律師事務(wù)所 李世平
查看上一篇