李彥宏 全國(guó)政協(xié)委員、百度董事長(zhǎng)兼CEO
立法本身不應(yīng)該太超前,很多時(shí)候新事物剛剛出現(xiàn),讓它稍微跑一段時(shí)間然后再總結(jié)經(jīng)驗(yàn),找到規(guī)律再來立法。其次,在不同的領(lǐng)域,涉及的立法都不一樣,比如說像無人駕駛,在過去就沒有相關(guān)的法律。
劉慶峰 全國(guó)人大代表、科大訊飛董事長(zhǎng)
人工智能立法首先要保障人類的生命和財(cái)產(chǎn)安全,也就是說人工智能一定是要在風(fēng)險(xiǎn)可控范圍內(nèi)來使用,比如說在自動(dòng)駕駛領(lǐng)域,它的應(yīng)用門檻和標(biāo)準(zhǔn)是什么;在醫(yī)療領(lǐng)域,人工智能要達(dá)到一定的準(zhǔn)確度,而且最好通過一定的資質(zhì)認(rèn)證。
3月4日上午,十三屆全國(guó)人大二次會(huì)議舉行新聞發(fā)布會(huì),大會(huì)發(fā)言人張業(yè)遂表示,已將與人工智能密切相關(guān)的立法項(xiàng)目列入立法規(guī)劃。
張業(yè)遂稱,全國(guó)人大常委會(huì)已將一些與人工智能密切相關(guān)的立法項(xiàng)目,如數(shù)字安全法、個(gè)人信息保護(hù)法和修改科學(xué)技術(shù)進(jìn)步法等,列入本屆五年的立法規(guī)劃。同時(shí)把人工智能方面立法列入抓緊研究項(xiàng)目,圍繞相關(guān)法律問題進(jìn)行深入的調(diào)查論證,努力使人工智能創(chuàng)新發(fā)展,努力為人工智能的創(chuàng)新發(fā)展提供有力的法治保障。
從2017年首次被寫進(jìn)政府工作報(bào)告,到去年受到多位兩會(huì)代表委員關(guān)注,人工智能儼然已經(jīng)成為兩會(huì)的焦點(diǎn)。2018年國(guó)務(wù)院總理李克強(qiáng)作政府工作報(bào)告時(shí)提到,發(fā)展壯大新動(dòng)能。做大做強(qiáng)新興產(chǎn)業(yè)集群,實(shí)施大數(shù)據(jù)發(fā)展行動(dòng),加強(qiáng)新一代人工智能研發(fā)應(yīng)用,在醫(yī)療、養(yǎng)老、教育、文化、體育等多領(lǐng)域推進(jìn)“互聯(lián)網(wǎng)+”。
隨著人工智能的迅猛發(fā)展,其對(duì)社會(huì)、經(jīng)濟(jì)、文化等領(lǐng)域已經(jīng)產(chǎn)生越來越深遠(yuǎn)的影響。同時(shí),人工智能面臨倫理道德框架、隱私與安全保護(hù)等問題,為了讓人工智能實(shí)現(xiàn)健康發(fā)展,急需一套完善的法律體系與之匹配。
從追趕到全球領(lǐng)先
雖然人工智能最早的浪潮起源于上世紀(jì)50年代的美國(guó),但經(jīng)歷了近70年來的曲折發(fā)展,中國(guó)已經(jīng)成為全球領(lǐng)先的人工智能大國(guó)。根據(jù)聯(lián)合國(guó)下屬的世界知識(shí)產(chǎn)權(quán)組織(WIPO)公布的研究報(bào)告《技術(shù)趨勢(shì)2019:人工智能》顯示,在全球人工智能領(lǐng)域的競(jìng)爭(zhēng)中,中國(guó)和美國(guó)處于領(lǐng)先地位。
報(bào)告指出,AI專利申請(qǐng)最多的前20家科研機(jī)構(gòu)中,有17家來自中國(guó);AI相關(guān)科學(xué)出版物數(shù)量排名前20的科研機(jī)構(gòu)中,10家來自中國(guó)。全球前30名AI專利申請(qǐng)方中的4家科研機(jī)構(gòu),有3家來自中國(guó)。
另據(jù)CNNIC第43次調(diào)查報(bào)告顯示,截至2018年6月,我國(guó)人工智能企業(yè)數(shù)量已達(dá)到1011家,主要集中在北京、上海和廣東。其中,北京擁有395家企業(yè),成為全球人工智能企業(yè)最多的城市。
去年,習(xí)近平總書記在中共中央政治局第九次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)指出,加快發(fā)展新一代人工智能是我們贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手,是推動(dòng)我國(guó)科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級(jí)、生產(chǎn)力整體躍升的重要戰(zhàn)略資源。
他在講話中特別指出,人工智能具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)。“在移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級(jí)計(jì)算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)的驅(qū)動(dòng)下,人工智能加速發(fā)展,呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控等新特征,正在對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、國(guó)際政治經(jīng)濟(jì)格局等方面產(chǎn)生重大而深遠(yuǎn)的影響!
立法工作有待加快
中國(guó)在熱情擁抱新一輪人工智能熱潮的同時(shí),從政府部門到產(chǎn)學(xué)研各界對(duì)于人工智能發(fā)展所涉及的法律及倫理問題給予了高度關(guān)注。2018世界人工智能大會(huì)開幕式上,習(xí)近平總書記強(qiáng)調(diào),處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題。
與電商法歷時(shí)5年才正式落地不同,人工智能立法更早被兩會(huì)代表委員關(guān)注。去年兩會(huì)期間,全國(guó)政協(xié)委員、百度董事長(zhǎng)兼CEO李彥宏就在提案中表示,希望國(guó)家出臺(tái)政策鼓勵(lì)人工智能的開放平臺(tái)與加速自動(dòng)駕駛相關(guān)立法。
目前,中國(guó)人工智能的總體政策在2017年7月國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中得到體現(xiàn),但該規(guī)劃只是要求對(duì)人工智能在部分領(lǐng)域初步建立倫理規(guī)范和政策法規(guī),尚未上升至法律層面。由此可見,人工智能的立法仍有待加快。
全國(guó)人大代表、湖北得偉君尚律師事務(wù)所首席執(zhí)行合伙人蔡學(xué)恩認(rèn)為,在人工智能行為倫理道德框架、人工智能應(yīng)用相關(guān)的民事與刑事責(zé)任確認(rèn)、隱私和產(chǎn)權(quán)保護(hù)、信息安全利用等問題上的研究均需要加強(qiáng)。
立法有何挑戰(zhàn)?
人工智能的立法需盡快提上議程,但亦應(yīng)注意到人工仍屬于新生事物,如何把握適當(dāng)?shù)倪吔缡顷P(guān)鍵,尤其是考慮到人工智能可以應(yīng)用到金融、醫(yī)療、交通等多個(gè)場(chǎng)景中,出臺(tái)一部總括性的法律可能會(huì)阻礙人工智能的發(fā)展。
今年兩會(huì)前夕,李彥宏在接受新京報(bào)記者采訪時(shí)就表示,人工智能立法本身不應(yīng)該太超前,“很多時(shí)候新事物剛剛出現(xiàn),讓它稍微跑一段時(shí)間然后再總結(jié)經(jīng)驗(yàn),找到規(guī)律再來立法。”
李彥宏表示,在不同的領(lǐng)域,涉及的立法都不一樣,比如無人駕駛,在過去就沒有相關(guān)的法律!氨本┦泻苤匾暉o人駕駛,很快有相應(yīng)的法律來保障我們的創(chuàng)新能夠有序進(jìn)行!
全國(guó)人大代表、科大訊飛董事長(zhǎng)劉慶峰亦向記者表示,以AI+醫(yī)療為例,雖然機(jī)器給病人診斷的平均準(zhǔn)確率比一些基層的農(nóng)村醫(yī)生要高,但是從法律層面來說機(jī)器不能給病人看病,因此更多的時(shí)候是將機(jī)器得出的結(jié)論交給醫(yī)生,讓醫(yī)生來做決定。 本版采寫/新京報(bào)記者 陸一夫
■ 訪談
李彥宏:人工智能立法不能太超前
讓它跑一段總結(jié)經(jīng)驗(yàn)再立法;無人駕駛、智能醫(yī)療等領(lǐng)域都需要立法
全國(guó)政協(xié)委員、百度董事長(zhǎng)兼CEO李彥宏今年的三項(xiàng)提案均與人工智能相關(guān),分別是構(gòu)建智能交通解決方案,讓老百姓出行更順暢;完善電子病歷管理制度,促進(jìn)智能醫(yī)療應(yīng)用探索,助力“健康中國(guó)”戰(zhàn)略實(shí)施;加強(qiáng)人工智能倫理研究,打造智能社會(huì)發(fā)展基石。
新京報(bào):關(guān)于人工智能立法,你有哪些建議?
李彥宏:首先,我覺得立法本身不應(yīng)該太超前,很多時(shí)候新事物剛剛出現(xiàn),讓它稍微跑一段時(shí)間然后再總結(jié)經(jīng)驗(yàn),找到規(guī)律再來立法。其次,在不同的領(lǐng)域,涉及的立法都不一樣,比如說像無人駕駛。北京市很重視無人駕駛,很快有相應(yīng)的法律來保障我們的創(chuàng)新能夠有序進(jìn)行,到今天百度已經(jīng)拿到了50張左右的自動(dòng)駕駛測(cè)試車證。
醫(yī)療方面也需要相關(guān)的立法,統(tǒng)一電子病歷的格式,必須要有什么樣的字段,要有什么樣的內(nèi)容,不同的醫(yī)院、機(jī)構(gòu)之間進(jìn)行交換,必須保護(hù)患者的隱私等等,都應(yīng)該通過立法的方式來解決。
新京報(bào):如何解決互聯(lián)網(wǎng)和AI發(fā)展過程中遇到的數(shù)據(jù)孤島的問題?
李彥宏:以電子病歷為例,大多數(shù)好的醫(yī)院都有電子化病歷。但是這些病歷相互之間沒有打通,我在這個(gè)醫(yī)院看病之后,到了另外一個(gè)醫(yī)院還要重新做一遍檢查。我覺得確實(shí)需要通過政府的力量制定相應(yīng)的標(biāo)準(zhǔn),來推動(dòng)數(shù)據(jù)共享。
新京報(bào):在這個(gè)過程中怎么去保護(hù)用戶的數(shù)據(jù)隱私?
李彥宏:在共享的過程當(dāng)中,我們需要特別注意保護(hù)用戶的隱私,我覺得道理上大家都認(rèn)可,關(guān)鍵還是看執(zhí)行的過程當(dāng)中能否有一個(gè)好的機(jī)制來約束。
百度內(nèi)部若干年前提過兩個(gè)詞,一個(gè)叫“平臺(tái)化”,一個(gè)叫“接口化”。平臺(tái)化是指,我做一個(gè)東西,就爭(zhēng)取把它做成一個(gè)平臺(tái),可以供其他部門的人使用。接口化是指把我的能力開放給你,我告訴你我的平臺(tái)能干什么,但是我不把背后的數(shù)據(jù)、源代碼給你。這樣一來,數(shù)據(jù)得到了保護(hù),知識(shí)產(chǎn)權(quán)得到了保護(hù)。
通過平臺(tái)化、接口化的方式,把邊界定義清楚,什么人可以獲得什么樣的信息,獲得什么樣的能力。然后通過一個(gè)平臺(tái),或者是多個(gè)平臺(tái)來提供這些能力。
新京報(bào):你認(rèn)為,人工智能行業(yè)存在哪些問題和挑戰(zhàn)?
李彥宏:我覺得大家對(duì)人工智能還是有很多誤解,兩方面的誤解都存在。有一些(對(duì)技術(shù)發(fā)展速度)比較樂觀的人擔(dān)心,人工智能一旦有了意志的話,會(huì)不會(huì)對(duì)人產(chǎn)生控制的能力。我覺得這個(gè)擔(dān)心其實(shí)是沒必要的,人工智能離這一步其實(shí)還非常遠(yuǎn),我的判斷是永遠(yuǎn)達(dá)不到。
另外一個(gè)極端是,人工智能其實(shí)現(xiàn)在能做的有意義的事情還不夠多,市場(chǎng)還處在早期的階段,所以不夠重視,這也挺危險(xiǎn)的。人工智能的推動(dòng)作用更多的是在生產(chǎn)端,可以大規(guī)模提升生產(chǎn)制造效率。如果一些企業(yè)不能及早地意識(shí)到人工智能在這一方面能夠起到的作用,是有可能被淘汰的。
新京報(bào):在你看來,人工智能行業(yè)是不是存在一定的泡沫?
李彥宏:人工智能領(lǐng)域肯定是有泡沫,而且泡沫還不小。任何一個(gè)新的趨勢(shì)到來的時(shí)候大家都會(huì)感興趣,一擁而上。無論是投資也好,創(chuàng)業(yè)也好,或者是大的公司研發(fā)方向的調(diào)整,都會(huì)向著這個(gè)新的趨勢(shì)去走,所以一定會(huì)產(chǎn)生一些泡沫。只有這樣大家都一起上的時(shí)候,才能夠推動(dòng)這個(gè)產(chǎn)業(yè)迅速地走向成熟。
人工智能行業(yè)走向成熟的過程是一個(gè)優(yōu)勝劣汰的過程,剩下的一定是少數(shù)公司。我覺得這是一個(gè)很自然的過程。
今天大家講的十個(gè)技術(shù)里面,可能有九個(gè)將來會(huì)證明其實(shí)沒什么價(jià)值,但是有一個(gè)技術(shù)最后慢慢被打磨成了非常有價(jià)值的技術(shù)。大家需要有這種心理準(zhǔn)備,今天很熱的一些公司,可能十個(gè)里面有九個(gè)在五年以后就不存在了。 新京報(bào)記者 馬婧
■ 訪談
劉慶峰:立法首先要保障人類安全
人工智能的立法核心一定要以人為本,這是立法的根本;立法應(yīng)更有針對(duì)性
新京報(bào):人工智能時(shí)代會(huì)對(duì)現(xiàn)有法律體系產(chǎn)生哪些新挑戰(zhàn)?
劉慶峰:我覺得人工智能立法的挑戰(zhàn)有兩方面,一是目前在原來法律體系中并沒有人工智能方面的法律法規(guī),人工智能是新物種,它所帶來的積極幫助或者潛在風(fēng)險(xiǎn)都是人類沒有碰到過的,而法律體系的討論調(diào)研到最終制定存在一個(gè)比較漫長(zhǎng)的過程。
二是人工智能的發(fā)展日新月異,法律體系如何做到與時(shí)俱進(jìn),盡快滿足人工智能產(chǎn)業(yè)發(fā)展和社會(huì)健康進(jìn)步的需要,確實(shí)存在很大的挑戰(zhàn),這主要體現(xiàn)在人工智能對(duì)生產(chǎn)和生活方式的改變是全新的,其次是人工智能的變化非常快。
新京報(bào):對(duì)于人工智能立法,你有哪些建議?
劉慶峰:人工智能的立法核心一定要以人為本,這是我們立法的根本。我認(rèn)為,人工智能立法首先要保障人類的生命和財(cái)產(chǎn)安全,也就是說人工智能一定是要在風(fēng)險(xiǎn)可控范圍內(nèi)來使用,比如說在自動(dòng)駕駛領(lǐng)域,它的應(yīng)用門檻和標(biāo)準(zhǔn)是什么;在醫(yī)療領(lǐng)域,人工智能要達(dá)到一定的準(zhǔn)確度,而且最好通過一定的資質(zhì)認(rèn)證。
第二是人工智能應(yīng)該兼顧未來社會(huì)人文的需要,倡導(dǎo)人機(jī)耦合的模式,簡(jiǎn)單說人工智能是幫助人的,而不是替代關(guān)系。在人機(jī)耦合上,我們要考慮到以人為本,未來人和機(jī)器是如何協(xié)作的。例如在醫(yī)療上我們叫人工智能系統(tǒng)為輔助診療系統(tǒng)醫(yī)生助手,在法律上叫人工智能為刑事案件輔助審判系統(tǒng)。
第三是人工智能立法對(duì)很多老百姓來說還是陌生的,對(duì)技術(shù)也不是特別了解,所以人工智能在立法的同時(shí)需要有檢測(cè)手段,在檢測(cè)人工智能安全性上必須要有測(cè)試標(biāo)準(zhǔn)和方法,這樣才能使立法落到實(shí)處。
新京報(bào):考慮到人工智能的應(yīng)用跟很多的領(lǐng)域相結(jié)合,立法時(shí)是否應(yīng)該更具針對(duì)性?
劉慶峰:人工智能立法應(yīng)該要有針對(duì)性,就像制藥一樣,任何的藥物生產(chǎn)出來都要有臨床過程,通過技術(shù)分析證明它具備藥效,通過臨床驗(yàn)證后再進(jìn)行大規(guī)模的推廣。我覺得人工智能也是這樣,立法時(shí)先在一定范圍內(nèi)進(jìn)行試點(diǎn),試點(diǎn)通過驗(yàn)證才可以去大規(guī)模落地。
人工智能應(yīng)用必須要遵循這個(gè)邏輯,而不是說大干快上,最終導(dǎo)致行業(yè)泡沫過多,也容易在應(yīng)用過程中帶來不必要的傷害,從而影響人工智能健康發(fā)展。
像習(xí)總書記說的,人工智能具有非常強(qiáng)的頭雁效應(yīng),未來社會(huì)將從互聯(lián)網(wǎng)+進(jìn)化到人工智能+時(shí)代,各行各業(yè)都可以用人工智能深刻改變現(xiàn)在的生產(chǎn)和生活方式。對(duì)于行業(yè)里的頭部企業(yè),需要有更多的支持和關(guān)心。
新京報(bào):解決數(shù)據(jù)孤島問題的同時(shí),如何保護(hù)用戶隱私?
劉慶峰:首先是法律要同步跟上,其次是企業(yè)要有更強(qiáng)的保護(hù)意識(shí),現(xiàn)在已經(jīng)有很多服務(wù)涉及老百姓的日常生活。因此相關(guān)行業(yè)的領(lǐng)軍企業(yè)要做到表率作用,不僅僅是向用戶進(jìn)行告知,還包括價(jià)值觀層面的指引。
第三,目前很多數(shù)據(jù)都是在用戶不知情的情況下被企業(yè)拿走,從技術(shù)層面看,我們應(yīng)該通過人工智能技術(shù)的發(fā)展給予用戶更多的選擇權(quán),例如訊飛的翻譯機(jī),考慮到機(jī)密信息可能泄露,公司在設(shè)計(jì)產(chǎn)品的時(shí)候就做了離線翻譯的版本,這是非常必要的。
新京報(bào):中國(guó)在人工智能領(lǐng)域處于領(lǐng)先位置,應(yīng)該如何保持先發(fā)優(yōu)勢(shì)?
劉慶峰:中國(guó)要保持目前的優(yōu)勢(shì),就要以應(yīng)用促進(jìn)人工智能發(fā)展,在兼顧保護(hù)和共享數(shù)據(jù)之間推動(dòng)人工智能更好地成長(zhǎng)。歐洲就是把數(shù)據(jù)管得過嚴(yán),影響人工智能的發(fā)展。我認(rèn)為,數(shù)據(jù)的適度管理尺度以及典型應(yīng)用場(chǎng)景的快速突破,能夠形成數(shù)據(jù)和應(yīng)用場(chǎng)景的良性互動(dòng),最終實(shí)現(xiàn)人工智能上的領(lǐng)先優(yōu)勢(shì)。
中國(guó)要持續(xù)保持人工智能發(fā)展,應(yīng)對(duì)人工智能的第三次浪潮,未來還需要更大的突破,例如要在源頭技術(shù)創(chuàng)新上加油,進(jìn)一步推動(dòng)人工智能技術(shù)在應(yīng)用方面的落地,在人工智能未來的發(fā)展中要做更多的前瞻性、基礎(chǔ)性的布局,才能夠在人工智能領(lǐng)域保持領(lǐng)先,我覺得這是非常關(guān)鍵的一步。 新京報(bào)記者 陸一夫
數(shù)據(jù)來源:中商產(chǎn)業(yè)研究院