內(nèi)容摘要：當(dāng)人工智能因深度學(xué)習(xí)而從他律系統(tǒng)轉(zhuǎn)化為自律系統(tǒng)，特別是在人工智能網(wǎng)絡(luò)之間的相互作用及其連鎖反應(yīng)不斷進(jìn)行的情況下，黑箱化和失控的風(fēng)險(xiǎn)會(huì)不斷增大。“透明社會(huì)”與“黑箱算法”，這是數(shù)據(jù)驅(qū)動(dòng)社會(huì)的一對根本矛盾，對國家治理方式的改革提出了新的挑戰(zhàn)，也提供了新的機(jī)遇。為此，如何對人工智能進(jìn)行適當(dāng)?shù)摹⒑侠淼摹⒊浞值囊?guī)制，確立人工智能開發(fā)的規(guī)則、倫理以及政策就勢必成為極其重要并非常緊迫的一項(xiàng)課題。國務(wù)院印發(fā)的2017年《新一代人工智能發(fā)展規(guī)劃》提出了人工智能發(fā)展的中國式制度安排以及九條主要原則，與國際社會(huì)已經(jīng)形成的基本共識是相洽的;但在不同價(jià)值取向發(fā)生沖突時(shí)，怎樣決定取舍的元規(guī)則和優(yōu)先順序還有待進(jìn)一步明確。為了在甄別和防范風(fēng)險(xiǎn)的同時(shí)保護(hù)人工智能開發(fā)的積極性和創(chuàng)造性，有必要更多地采取軟法方式，而不是簡單地提高硬法的懲戒力度。

　　關(guān)鍵詞：數(shù)字驅(qū)動(dòng) 風(fēng)險(xiǎn)社會(huì) 人工智能網(wǎng)絡(luò)化 軟法與硬法 數(shù)據(jù)格式標(biāo)準(zhǔn)化

　　《模式識別與人工智能》雜志級別：北大核心 科技統(tǒng)計(jì)源核心 CSCD，主辦單位：中華醫(yī)學(xué)會(huì)，周期：月刊，國內(nèi)統(tǒng)一刊號：11-2338/R。

　　前言：人工智能的網(wǎng)絡(luò)化與互聯(lián)互通

　　“走得太快了，靈魂跟不上”——這是一個(gè)游牧部族的古訓(xùn)，也可以用來描述人工智能開發(fā)在中國突飛猛進(jìn)卻隱患頻仍、局部失序的現(xiàn)狀。〔1 〕

　　從自動(dòng)駕駛的汽車到機(jī)器人運(yùn)營的酒店，從電腦量刑到高頻度金融交易，人工智能已經(jīng)滲透到經(jīng)濟(jì)、政治、社會(huì)生活的各個(gè)方面，各種新奇事物層出不窮。〔2 〕但是，對由此產(chǎn)生的風(fēng)險(xiǎn)以及必要的對策和規(guī)制方式，我們還缺乏足夠的認(rèn)識和深入研討。人工智能的開發(fā)和利用大都還處于高速增長階段，相關(guān)的制度條件尚不完備，在很多重要方面還沒有制定明確的、適當(dāng)?shù)摹⒔y(tǒng)一的倫理標(biāo)準(zhǔn)、法律原則、規(guī)則、規(guī)格以及政策。我們不能讓這樣的事態(tài)長期持續(xù)下去，否則將留下嚴(yán)重的后患。2017年7月21日由國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》已經(jīng)指出研究相關(guān)法律問題和建立問責(zé)制度的必要性，提出了一些重要舉措。當(dāng)然，人工智能開發(fā)的具體規(guī)制方式和規(guī)范內(nèi)容還有待進(jìn)一步充實(shí)、完善。

　　實(shí)際上，艾薩克·阿西莫夫早在1942年發(fā)表的科幻短篇小說《轉(zhuǎn)圈跑》中，就曾經(jīng)提出了關(guān)于防止機(jī)器人失控的三大定律，即機(jī)器人不得傷害人或者對人受到傷害袖手旁觀;機(jī)器人必須服從人的指令，除非該指令危害到人;在遵循上述兩條定律的前提條件下，機(jī)器人必須保護(hù)自己。〔3 〕后來，為了避免允許機(jī)器人劫法場之類的邏輯漏洞，他在《機(jī)器人與帝國》中又追加了一條零定律：“機(jī)器人不得加害于人類整體或者因?yàn)樽曃C(jī)而加害人類整體”。〔4 〕這些富于靈感和遠(yuǎn)見的主張為人工智能開發(fā)的規(guī)制展現(xiàn)了基本思路和雛形，對后來的制度設(shè)計(jì)產(chǎn)生了深刻影響，但卻不能充分反映當(dāng)今社會(huì)的嶄新狀況和需求。

　　為了正確把握人工智能在全世界的發(fā)展趨勢以及問題群，我們首先需要對產(chǎn)業(yè)革命的進(jìn)程進(jìn)行簡單的回顧。

　　迄今為止，人類社會(huì)經(jīng)歷了四次重大產(chǎn)業(yè)革命，采取了不同的基本生產(chǎn)方式。首先是機(jī)械化生產(chǎn)方式，由蒸汽機(jī)和紡織機(jī)的發(fā)明而啟動(dòng)，從18世紀(jì)后期持續(xù)到19世紀(jì)前期。其次是電氣化生產(chǎn)方式，因電力和石油以及高度分工引發(fā)，從19世紀(jì)后期持續(xù)到20世紀(jì)前期。接著以產(chǎn)業(yè)機(jī)器人的研發(fā)為契機(jī)，〔5 〕從20世紀(jì)60年代開始出現(xiàn)了自動(dòng)化生產(chǎn)方式，其驅(qū)動(dòng)力量是半導(dǎo)體、電腦以及互聯(lián)網(wǎng)。就在這個(gè)階段，人工智能的研究開始出現(xiàn)幾經(jīng)起伏的熱潮。

　　初級的人工智能只不過是裝載了控制程序的家用電器，例如具有自動(dòng)調(diào)節(jié)功能的洗衣機(jī)、冰箱以及電動(dòng)剃須刀。較高級的人工智能則是裝載了知識數(shù)據(jù)庫的推理和探索系統(tǒng)，例如象棋程序、掃地機(jī)器人以及對話軟件。更高級的人工智能搭載檢索引擎，可以按照既定算法進(jìn)行機(jī)械學(xué)習(xí)，包括各種實(shí)用的專家系統(tǒng)。〔6 〕現(xiàn)在我們通常所說的人工智能大多數(shù)就是指具有機(jī)械學(xué)習(xí)功能的計(jì)算機(jī)信息處理系統(tǒng)。

　　至此我們迎來了大數(shù)據(jù)時(shí)代，新的產(chǎn)業(yè)革命條件也開始日漸成熟。〔7 〕21世紀(jì)初由萬物互聯(lián)互通、大數(shù)據(jù)、人工智能引發(fā)的智網(wǎng)化生產(chǎn)方式，可謂第四次產(chǎn)業(yè)革命。正在進(jìn)行中的這次產(chǎn)業(yè)社會(huì)的結(jié)構(gòu)轉(zhuǎn)型是以數(shù)據(jù)驅(qū)動(dòng)和人工智能網(wǎng)絡(luò)化為基本特征的。其主要構(gòu)成因素有如下三項(xiàng)。

　　第一，物聯(lián)網(wǎng)(簡稱IOT)。物聯(lián)網(wǎng)導(dǎo)致數(shù)據(jù)的生成、流通、積蓄并不斷增大，通過數(shù)據(jù)合作實(shí)現(xiàn)最合理化的供應(yīng)鏈，可以針對顧客個(gè)人需求進(jìn)行產(chǎn)品和服務(wù)的創(chuàng)新。

　　第二，由物聯(lián)網(wǎng)形成和積累而成的大數(shù)據(jù)。對物聯(lián)網(wǎng)而言，大數(shù)據(jù)的收集和運(yùn)用是關(guān)鍵，而大數(shù)據(jù)具有經(jīng)濟(jì)價(jià)值，甚至被認(rèn)為是一種新型通貨。大數(shù)據(jù)也使得個(gè)人生活狀態(tài)變得非常透明化，甚至可以說我們面對的是一個(gè)極端化的“透明社會(huì)”。

　　第三，人工智能。沒有人工智能，大數(shù)據(jù)的收集和運(yùn)用都不可能實(shí)現(xiàn)，而基于大數(shù)據(jù)的機(jī)械學(xué)習(xí)和深度學(xué)習(xí)又給人工智能帶來質(zhì)變，可以不斷開發(fā)新產(chǎn)品、新服務(wù)，并且大幅度提高效率和質(zhì)量。

　　這三種因素互相作用、相輔相成，推動(dòng)人工智能網(wǎng)絡(luò)化程度不斷加深，促進(jìn)現(xiàn)實(shí)空間與虛擬空間之間互動(dòng)和反饋的關(guān)系不斷增殖，形成一種具備控制力的信息實(shí)體交融系統(tǒng)(簡稱CPS)。在這樣的背景下，以多倫多大學(xué)開發(fā)的圖像識別系統(tǒng)Super Vision以及谷歌的貓臉識別項(xiàng)目為標(biāo)志，人工智能也從2012年開始進(jìn)入了能夠自己進(jìn)行“特征表現(xiàn)學(xué)習(xí)”(深度學(xué)習(xí))的嶄新時(shí)代，為歷史性突破提供了重要契機(jī)。〔8 〕

　　在人工智能的網(wǎng)絡(luò)化和萬物互聯(lián)互通的時(shí)代，阿西莫夫關(guān)于防止機(jī)器人失控的三大定律和零定律就顯得有些捉襟見肘了。從控制程序、知識數(shù)據(jù)庫到檢索引擎，人工智能都必須按照人給出的指令或算法來運(yùn)行。在機(jī)械學(xué)習(xí)階段，即便有非常龐大的數(shù)據(jù)，人工智能也不會(huì)自動(dòng)學(xué)習(xí)，需要有人來提供數(shù)據(jù)的特征量和規(guī)格化方式才能進(jìn)行學(xué)習(xí)和預(yù)測;通過機(jī)械學(xué)習(xí)，人工智能可以提供更高的精確度，但卻很難對復(fù)雜的、模糊的問題進(jìn)行判斷。然而當(dāng)機(jī)械學(xué)習(xí)的數(shù)據(jù)輸入不間斷地高速進(jìn)行時(shí)，對輸出的預(yù)測就會(huì)變得非常困難。而在深度學(xué)習(xí)的場合，人工智能系統(tǒng)不僅按照算法進(jìn)行數(shù)據(jù)處理，還采取多層次腦神經(jīng)網(wǎng)絡(luò)的模型和方法，能從大數(shù)據(jù)中發(fā)現(xiàn)和提取特征量，揭示迄今為止未知的問題、樣式、結(jié)構(gòu)以及原理，從而具有更高的自主性，因而更類似具有條件反射能力的動(dòng)物或者自由意志的人。