- 新聞現(xiàn)場(chǎng)
與人工智能相關(guān)的立法項(xiàng)目已列入立法規(guī)劃；專(zhuān)家稱(chēng)人工智能面臨倫理道德框架、隱私保護(hù)等問(wèn)題
李彥宏
全國(guó)政協(xié)委員、百度董事長(zhǎng)兼CEO
立法本身不應(yīng)該太超前，很多時(shí)候新事物剛剛出現(xiàn)，讓它稍微跑一段時(shí)間然后再總結(jié)經(jīng)驗(yàn)，找到規(guī)律再來(lái)立法。其次，在不同的領(lǐng)域，涉及的立法都不一樣，比如說(shuō)像無(wú)人駕駛，在過(guò)去就沒(méi)有相關(guān)的法律。
劉慶峰
全國(guó)人大代表、科大訊飛董事長(zhǎng)
人工智能立法首先要保障人類(lèi)的生命和財(cái)產(chǎn)安全，也就是說(shuō)人工智能一定是要在風(fēng)險(xiǎn)可控范圍內(nèi)來(lái)使用，比如說(shuō)在自動(dòng)駕駛領(lǐng)域，它的應(yīng)用門(mén)檻和標(biāo)準(zhǔn)是什么；在醫(yī)療領(lǐng)域，人工智能要達(dá)到一定的準(zhǔn)確度，而且最好通過(guò)一定的資質(zhì)認(rèn)證。
3月4日上午,十三屆全國(guó)人大二次會(huì)議舉行新聞發(fā)布會(huì)，大會(huì)發(fā)言人張業(yè)遂表示，已將與人工智能密切相關(guān)的立法項(xiàng)目列入立法規(guī)劃。
張業(yè)遂稱(chēng)，全國(guó)人大常委會(huì)已將一些與人工智能密切相關(guān)的立法項(xiàng)目，如數(shù)字安全法、個(gè)人信息保護(hù)法和修改科學(xué)技術(shù)進(jìn)步法等，列入本屆五年的立法規(guī)劃。同時(shí)把人工智能方面立法列入抓緊研究項(xiàng)目，圍繞相關(guān)法律問(wèn)題進(jìn)行深入的調(diào)查論證，努力使人工智能創(chuàng)新發(fā)展，努力為人工智能的創(chuàng)新發(fā)展提供有力的法治保障。
從2017年首次被寫(xiě)進(jìn)政府工作報(bào)告，到去年受到多位兩會(huì)代表委員關(guān)注，人工智能儼然已經(jīng)成為兩會(huì)的焦點(diǎn)。2018年國(guó)務(wù)院總理李克強(qiáng)作政府工作報(bào)告時(shí)提到，發(fā)展壯大新動(dòng)能。做大做強(qiáng)新興產(chǎn)業(yè)集群，實(shí)施大數(shù)據(jù)發(fā)展行動(dòng)，加強(qiáng)新一代人工智能研發(fā)應(yīng)用，在醫(yī)療、養(yǎng)老、教育、文化、體育等多領(lǐng)域推進(jìn)“互聯(lián)網(wǎng)+”。
隨著人工智能的迅猛發(fā)展，其對(duì)社會(huì)、經(jīng)濟(jì)、文化等領(lǐng)域已經(jīng)產(chǎn)生越來(lái)越深遠(yuǎn)的影響。同時(shí)，人工智能面臨倫理道德框架、隱私與安全保護(hù)等問(wèn)題，為了讓人工智能實(shí)現(xiàn)健康發(fā)展，急需一套完善的法律體系與之匹配。
從追趕到全球領(lǐng)先
雖然人工智能最早的浪潮起源于上世紀(jì)50年代的美國(guó)，但經(jīng)歷了近70年來(lái)的曲折發(fā)展，中國(guó)已經(jīng)成為全球領(lǐng)先的人工智能大國(guó)。根據(jù)聯(lián)合國(guó)下屬的世界知識(shí)產(chǎn)權(quán)組織（WIPO）公布的研究報(bào)告《技術(shù)趨勢(shì)2019：人工智能》顯示，在全球人工智能領(lǐng)域的競(jìng)爭(zhēng)中，中國(guó)和美國(guó)處于領(lǐng)先地位。
報(bào)告指出，AI專(zhuān)利申請(qǐng)最多的前20家科研機(jī)構(gòu)中，有17家來(lái)自中國(guó)；AI相關(guān)科學(xué)出版物數(shù)量排名前20的科研機(jī)構(gòu)中，10家來(lái)自中國(guó)。全球前30名AI專(zhuān)利申請(qǐng)方中的4家科研機(jī)構(gòu)，有3家來(lái)自中國(guó)。
另?yè)?jù)CNNIC第43次調(diào)查報(bào)告顯示，截至2018年6月，我國(guó)人工智能企業(yè)數(shù)量已達(dá)到1011家，主要集中在北京、上海和廣東。其中，北京擁有395家企業(yè)，成為全球人工智能企業(yè)最多的城市。
去年，習(xí)近平總書(shū)記在中共中央政治局第九次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)指出，加快發(fā)展新一代人工智能是我們贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手，是推動(dòng)我國(guó)科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級(jí)、生產(chǎn)力整體躍升的重要戰(zhàn)略資源。
他在講話(huà)中特別指出，人工智能具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)?！霸谝苿?dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級(jí)計(jì)算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)的驅(qū)動(dòng)下，人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開(kāi)放、自主操控等新特征，正在對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、國(guó)際政治經(jīng)濟(jì)格局等方面產(chǎn)生重大而深遠(yuǎn)的影響?！?/p>
立法工作有待加快
中國(guó)在熱情擁抱新一輪人工智能熱潮的同時(shí)，從政府部門(mén)到產(chǎn)學(xué)研各界對(duì)于人工智能發(fā)展所涉及的法律及倫理問(wèn)題給予了高度關(guān)注。2018世界人工智能大會(huì)開(kāi)幕式上，習(xí)近平總書(shū)記強(qiáng)調(diào)，處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題。
與電商法歷時(shí)5年才正式落地不同，人工智能立法更早被兩會(huì)代表委員關(guān)注。去年兩會(huì)期間，全國(guó)政協(xié)委員、百度董事長(zhǎng)兼CEO李彥宏就在提案中表示，希望國(guó)家出臺(tái)政策鼓勵(lì)人工智能的開(kāi)放平臺(tái)與加速自動(dòng)駕駛相關(guān)立法。
目前，中國(guó)人工智能的總體政策在2017年7月國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中得到體現(xiàn)，但該規(guī)劃只是要求對(duì)人工智能在部分領(lǐng)域初步建立倫理規(guī)范和政策法規(guī)，尚未上升至法律層面。由此可見(jiàn)，人工智能的立法仍有待加快。
全國(guó)人大代表、湖北得偉君尚律師事務(wù)所首席執(zhí)行合伙人蔡學(xué)恩認(rèn)為，在人工智能行為倫理道德框架、人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等問(wèn)題上的研究均需要加強(qiáng)。
立法有何挑戰(zhàn)？
人工智能的立法需盡快提上議程，但亦應(yīng)注意到人工仍屬于新生事物，如何把握適當(dāng)?shù)倪吔缡顷P(guān)鍵，尤其是考慮到人工智能可以應(yīng)用到金融、醫(yī)療、交通等多個(gè)場(chǎng)景中，出臺(tái)一部總括性的法律可能會(huì)阻礙人工智能的發(fā)展。
今年兩會(huì)前夕，李彥宏在接受新京報(bào)記者采訪時(shí)就表示，人工智能立法本身不應(yīng)該太超前，“很多時(shí)候新事物剛剛出現(xiàn)，讓它稍微跑一段時(shí)間然后再總結(jié)經(jīng)驗(yàn)，找到規(guī)律再來(lái)立法。”
李彥宏表示，在不同的領(lǐng)域，涉及的立法都不一樣，比如無(wú)人駕駛，在過(guò)去就沒(méi)有相關(guān)的法律。“北京市很重視無(wú)人駕駛，很快有相應(yīng)的法律來(lái)保障我們的創(chuàng)新能夠有序進(jìn)行?！?/p>
全國(guó)人大代表、科大訊飛董事長(zhǎng)劉慶峰亦向記者表示，以AI+醫(yī)療為例，雖然機(jī)器給病人診斷的平均準(zhǔn)確率比一些基層的農(nóng)村醫(yī)生要高，但是從法律層面來(lái)說(shuō)機(jī)器不能給病人看病，因此更多的時(shí)候是將機(jī)器得出的結(jié)論交給醫(yī)生，讓醫(yī)生來(lái)做決定?！ ”景娌蓪?xiě)/新京報(bào)記者 陸一夫
■ 訪談
李彥宏：人工智能立法不能太超前
讓它跑一段總結(jié)經(jīng)驗(yàn)再立法；無(wú)人駕駛、智能醫(yī)療等領(lǐng)域都需要立法
全國(guó)政協(xié)委員、百度董事長(zhǎng)兼CEO李彥宏今年的三項(xiàng)提案均與人工智能相關(guān)，分別是構(gòu)建智能交通解決方案，讓老百姓出行更順暢；完善電子病歷管理制度，促進(jìn)智能醫(yī)療應(yīng)用探索，助力“健康中國(guó)”戰(zhàn)略實(shí)施；加強(qiáng)人工智能倫理研究，打造智能社會(huì)發(fā)展基石。
新京報(bào)：關(guān)于人工智能立法，你有哪些建議？
李彥宏：首先，我覺(jué)得立法本身不應(yīng)該太超前，很多時(shí)候新事物剛剛出現(xiàn)，讓它稍微跑一段時(shí)間然后再總結(jié)經(jīng)驗(yàn)，找到規(guī)律再來(lái)立法。其次，在不同的領(lǐng)域，涉及的立法都不一樣，比如說(shuō)像無(wú)人駕駛。北京市很重視無(wú)人駕駛，很快有相應(yīng)的法律來(lái)保障我們的創(chuàng)新能夠有序進(jìn)行，到今天百度已經(jīng)拿到了50張左右的自動(dòng)駕駛測(cè)試車(chē)證。
醫(yī)療方面也需要相關(guān)的立法，統(tǒng)一電子病歷的格式，必須要有什么樣的字段，要有什么樣的內(nèi)容，不同的醫(yī)院、機(jī)構(gòu)之間進(jìn)行交換，必須保護(hù)患者的隱私等等，都應(yīng)該通過(guò)立法的方式來(lái)解決。
新京報(bào)：如何解決互聯(lián)網(wǎng)和AI發(fā)展過(guò)程中遇到的數(shù)據(jù)孤島的問(wèn)題？
李彥宏：以電子病歷為例，大多數(shù)好的醫(yī)院都有電子化病歷。但是這些病歷相互之間沒(méi)有打通，我在這個(gè)醫(yī)院看病之后，到了另外一個(gè)醫(yī)院還要重新做一遍檢查。我覺(jué)得確實(shí)需要通過(guò)政府的力量制定相應(yīng)的標(biāo)準(zhǔn)，來(lái)推動(dòng)數(shù)據(jù)共享。
新京報(bào)：在這個(gè)過(guò)程中怎么去保護(hù)用戶(hù)的數(shù)據(jù)隱私？
李彥宏：在共享的過(guò)程當(dāng)中，我們需要特別注意保護(hù)用戶(hù)的隱私，我覺(jué)得道理上大家都認(rèn)可，關(guān)鍵還是看執(zhí)行的過(guò)程當(dāng)中能否有一個(gè)好的機(jī)制來(lái)約束。
百度內(nèi)部若干年前提過(guò)兩個(gè)詞，一個(gè)叫“平臺(tái)化”，一個(gè)叫“接口化”。平臺(tái)化是指，我做一個(gè)東西，就爭(zhēng)取把它做成一個(gè)平臺(tái)，可以供其他部門(mén)的人使用。接口化是指把我的能力開(kāi)放給你，我告訴你我的平臺(tái)能干什么，但是我不把背后的數(shù)據(jù)、源代碼給你。這樣一來(lái)，數(shù)據(jù)得到了保護(hù)，知識(shí)產(chǎn)權(quán)得到了保護(hù)。
通過(guò)平臺(tái)化、接口化的方式，把邊界定義清楚，什么人可以獲得什么樣的信息，獲得什么樣的能力。然后通過(guò)一個(gè)平臺(tái)，或者是多個(gè)平臺(tái)來(lái)提供這些能力。
新京報(bào)：你認(rèn)為，人工智能行業(yè)存在哪些問(wèn)題和挑戰(zhàn)？
李彥宏：我覺(jué)得大家對(duì)人工智能還是有很多誤解，兩方面的誤解都存在。有一些（對(duì)技術(shù)發(fā)展速度）比較樂(lè)觀的人擔(dān)心，人工智能一旦有了意志的話(huà)，會(huì)不會(huì)對(duì)人產(chǎn)生控制的能力。我覺(jué)得這個(gè)擔(dān)心其實(shí)是沒(méi)必要的，人工智能離這一步其實(shí)還非常遠(yuǎn)，我的判斷是永遠(yuǎn)達(dá)不到。
另外一個(gè)極端是，人工智能其實(shí)現(xiàn)在能做的有意義的事情還不夠多，市場(chǎng)還處在早期的階段，所以不夠重視，這也挺危險(xiǎn)的。人工智能的推動(dòng)作用更多的是在生產(chǎn)端，可以大規(guī)模提升生產(chǎn)制造效率。如果一些企業(yè)不能及早地意識(shí)到人工智能在這一方面能夠起到的作用，是有可能被淘汰的。
新京報(bào)：在你看來(lái)，人工智能行業(yè)是不是存在一定的泡沫？
李彥宏：人工智能領(lǐng)域肯定是有泡沫，而且泡沫還不小。任何一個(gè)新的趨勢(shì)到來(lái)的時(shí)候大家都會(huì)感興趣，一擁而上。無(wú)論是投資也好，創(chuàng)業(yè)也好，或者是大的公司研發(fā)方向的調(diào)整，都會(huì)向著這個(gè)新的趨勢(shì)去走，所以一定會(huì)產(chǎn)生一些泡沫。只有這樣大家都一起上的時(shí)候，才能夠推動(dòng)這個(gè)產(chǎn)業(yè)迅速地走向成熟。
人工智能行業(yè)走向成熟的過(guò)程是一個(gè)優(yōu)勝劣汰的過(guò)程，剩下的一定是少數(shù)公司。我覺(jué)得這是一個(gè)很自然的過(guò)程。
今天大家講的十個(gè)技術(shù)里面，可能有九個(gè)將來(lái)會(huì)證明其實(shí)沒(méi)什么價(jià)值，但是有一個(gè)技術(shù)最后慢慢被打磨成了非常有價(jià)值的技術(shù)。大家需要有這種心理準(zhǔn)備，今天很熱的一些公司，可能十個(gè)里面有九個(gè)在五年以后就不存在了。 新京報(bào)記者 馬婧
■ 訪談
劉慶峰：立法首先要保障人類(lèi)安全
人工智能的立法核心一定要以人為本，這是立法的根本；立法應(yīng)更有針對(duì)性
新京報(bào)：人工智能時(shí)代會(huì)對(duì)現(xiàn)有法律體系產(chǎn)生哪些新挑戰(zhàn)？
劉慶峰：我覺(jué)得人工智能立法的挑戰(zhàn)有兩方面，一是目前在原來(lái)法律體系中并沒(méi)有人工智能方面的法律法規(guī)，人工智能是新物種，它所帶來(lái)的積極幫助或者潛在風(fēng)險(xiǎn)都是人類(lèi)沒(méi)有碰到過(guò)的，而法律體系的討論調(diào)研到最終制定存在一個(gè)比較漫長(zhǎng)的過(guò)程。
二是人工智能的發(fā)展日新月異，法律體系如何做到與時(shí)俱進(jìn)，盡快滿(mǎn)足人工智能產(chǎn)業(yè)發(fā)展和社會(huì)健康進(jìn)步的需要，確實(shí)存在很大的挑戰(zhàn)，這主要體現(xiàn)在人工智能對(duì)生產(chǎn)和生活方式的改變是全新的，其次是人工智能的變化非?？?。
新京報(bào)：對(duì)于人工智能立法，你有哪些建議？
劉慶峰：人工智能的立法核心一定要以人為本，這是我們立法的根本。我認(rèn)為，人工智能立法首先要保障人類(lèi)的生命和財(cái)產(chǎn)安全，也就是說(shuō)人工智能一定是要在風(fēng)險(xiǎn)可控范圍內(nèi)來(lái)使用，比如說(shuō)在自動(dòng)駕駛領(lǐng)域，它的應(yīng)用門(mén)檻和標(biāo)準(zhǔn)是什么；在醫(yī)療領(lǐng)域，人工智能要達(dá)到一定的準(zhǔn)確度，而且最好通過(guò)一定的資質(zhì)認(rèn)證。
第二是人工智能應(yīng)該兼顧未來(lái)社會(huì)人文的需要，倡導(dǎo)人機(jī)耦合的模式，簡(jiǎn)單說(shuō)人工智能是幫助人的，而不是替代關(guān)系。在人機(jī)耦合上，我們要考慮到以人為本，未來(lái)人和機(jī)器是如何協(xié)作的。例如在醫(yī)療上我們叫人工智能系統(tǒng)為輔助診療系統(tǒng)醫(yī)生助手，在法律上叫人工智能為刑事案件輔助審判系統(tǒng)。
第三是人工智能立法對(duì)很多老百姓來(lái)說(shuō)還是陌生的，對(duì)技術(shù)也不是特別了解，所以人工智能在立法的同時(shí)需要有檢測(cè)手段，在檢測(cè)人工智能安全性上必須要有測(cè)試標(biāo)準(zhǔn)和方法，這樣才能使立法落到實(shí)處。
新京報(bào)：考慮到人工智能的應(yīng)用跟很多的領(lǐng)域相結(jié)合，立法時(shí)是否應(yīng)該更具針對(duì)性？
劉慶峰：人工智能立法應(yīng)該要有針對(duì)性，就像制藥一樣，任何的藥物生產(chǎn)出來(lái)都要有臨床過(guò)程，通過(guò)技術(shù)分析證明它具備藥效，通過(guò)臨床驗(yàn)證后再進(jìn)行大規(guī)模的推廣。我覺(jué)得人工智能也是這樣，立法時(shí)先在一定范圍內(nèi)進(jìn)行試點(diǎn)，試點(diǎn)通過(guò)驗(yàn)證才可以去大規(guī)模落地。
人工智能應(yīng)用必須要遵循這個(gè)邏輯，而不是說(shuō)大干快上，最終導(dǎo)致行業(yè)泡沫過(guò)多，也容易在應(yīng)用過(guò)程中帶來(lái)不必要的傷害，從而影響人工智能健康發(fā)展。
像習(xí)總書(shū)記說(shuō)的，人工智能具有非常強(qiáng)的頭雁效應(yīng)，未來(lái)社會(huì)將從互聯(lián)網(wǎng)+進(jìn)化到人工智能+時(shí)代，各行各業(yè)都可以用人工智能深刻改變現(xiàn)在的生產(chǎn)和生活方式。對(duì)于行業(yè)里的頭部企業(yè)，需要有更多的支持和關(guān)心。
新京報(bào)：解決數(shù)據(jù)孤島問(wèn)題的同時(shí)，如何保護(hù)用戶(hù)隱私？
劉慶峰：首先是法律要同步跟上，其次是企業(yè)要有更強(qiáng)的保護(hù)意識(shí)，現(xiàn)在已經(jīng)有很多服務(wù)涉及老百姓的日常生活。因此相關(guān)行業(yè)的領(lǐng)軍企業(yè)要做到表率作用，不僅僅是向用戶(hù)進(jìn)行告知，還包括價(jià)值觀層面的指引。
第三，目前很多數(shù)據(jù)都是在用戶(hù)不知情的情況下被企業(yè)拿走，從技術(shù)層面看，我們應(yīng)該通過(guò)人工智能技術(shù)的發(fā)展給予用戶(hù)更多的選擇權(quán)，例如訊飛的翻譯機(jī)，考慮到機(jī)密信息可能泄露，公司在設(shè)計(jì)產(chǎn)品的時(shí)候就做了離線翻譯的版本，這是非常必要的。
新京報(bào)：中國(guó)在人工智能領(lǐng)域處于領(lǐng)先位置，應(yīng)該如何保持先發(fā)優(yōu)勢(shì)？
劉慶峰：中國(guó)要保持目前的優(yōu)勢(shì)，就要以應(yīng)用促進(jìn)人工智能發(fā)展，在兼顧保護(hù)和共享數(shù)據(jù)之間推動(dòng)人工智能更好地成長(zhǎng)。歐洲就是把數(shù)據(jù)管得過(guò)嚴(yán)，影響人工智能的發(fā)展。我認(rèn)為，數(shù)據(jù)的適度管理尺度以及典型應(yīng)用場(chǎng)景的快速突破，能夠形成數(shù)據(jù)和應(yīng)用場(chǎng)景的良性互動(dòng)，最終實(shí)現(xiàn)人工智能上的領(lǐng)先優(yōu)勢(shì)。
中國(guó)要持續(xù)保持人工智能發(fā)展，應(yīng)對(duì)人工智能的第三次浪潮，未來(lái)還需要更大的突破，例如要在源頭技術(shù)創(chuàng)新上加油，進(jìn)一步推動(dòng)人工智能技術(shù)在應(yīng)用方面的落地，在人工智能未來(lái)的發(fā)展中要做更多的前瞻性、基礎(chǔ)性的布局，才能夠在人工智能領(lǐng)域保持領(lǐng)先，我覺(jué)得這是非常關(guān)鍵的一步。 新京報(bào)記者 陸一夫
數(shù)據(jù)來(lái)源：中商產(chǎn)業(yè)研究院 新京報(bào)制圖/趙斌