國(guó)家新一代人工智能治理專業(yè)委員會(huì)6月17日發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》(以下簡(jiǎn)稱《治理原則》),提出了人工智能治理的框架和行動(dòng)指南。
據(jù)悉,《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系,確保人工智能安全可控可靠,推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展,共建人類命運(yùn)共同體?!吨卫碓瓌t》突出了發(fā)展負(fù)責(zé)任的人工智能這一主題,強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八條原則。
其中,安全可控是指人工智能系統(tǒng)應(yīng)不斷提升透明性、可解釋性、可靠性、可控性,逐步實(shí)現(xiàn)可審核、可監(jiān)督、可追溯、可信賴。高度關(guān)注人工智能系統(tǒng)的安全,提高人工智能魯棒性及抗干擾性,形成人工智能安全評(píng)估和管控能力。
而開(kāi)放協(xié)作方面,鼓勵(lì)跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國(guó)界的交流合作,推動(dòng)國(guó)際組織、政府部門、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會(huì)組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動(dòng)。開(kāi)展國(guó)際對(duì)話與合作,在充分尊重各國(guó)人工智能治理原則和實(shí)踐的前提下,推動(dòng)形成具有廣泛共識(shí)的國(guó)際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
近年來(lái),人工智能迅速發(fā)展,正在深刻改變?nèi)祟惿鐣?huì)生活、改變世界。為促進(jìn)新一代人工智能健康發(fā)展,加強(qiáng)人工智能法律、倫理、社會(huì)問(wèn)題研究,積極推動(dòng)人工智能全球治理,新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室成立了國(guó)家新一代人工智能治理專業(yè)委員會(huì)。
事實(shí)上,起草治理原則是委員會(huì)今年的重點(diǎn)工作。對(duì)此,科技部戰(zhàn)略規(guī)劃司副司長(zhǎng)張旭介紹,治理原則經(jīng)過(guò)網(wǎng)上建議征集、專家反復(fù)研討、多方征求意見(jiàn)等環(huán)節(jié),凝聚了廣泛共識(shí)。
在中科院自動(dòng)化研究所研究員曾毅看來(lái),治理原則特別提出關(guān)注未來(lái)長(zhǎng)遠(yuǎn)人工智能發(fā)展,開(kāi)展持續(xù)性的預(yù)測(cè)研究,這是對(duì)長(zhǎng)遠(yuǎn)人工智能發(fā)展及其社會(huì)影響的前瞻性部署和治理。這個(gè)設(shè)想恰恰是負(fù)責(zé)任的體現(xiàn),能確保人工智能長(zhǎng)遠(yuǎn)發(fā)展真正對(duì)人類、社會(huì)、生態(tài)有益。
“有些準(zhǔn)則、原則的提出主要是以本國(guó)、本組織的視角為核心,此次我國(guó)發(fā)布的治理原則特別強(qiáng)調(diào)國(guó)際協(xié)作,共護(hù)人工智能的未來(lái),強(qiáng)調(diào)共建人類命運(yùn)共同體,這是中國(guó)人工智能發(fā)展對(duì)世界做出的倡議和承諾?!痹阏f(shuō)。