技術(shù)必須遵從人民的權(quán)利，歐盟發(fā)布人工智能白皮書

戴姆勒：人類仍將是技術(shù)的創(chuàng)造者

圖片來源：戴姆勒

1814年，英國人喬治·斯蒂芬森發(fā)明了人類歷史上第一臺(tái)蒸汽機(jī)車，被稱為“旅行者號(hào)”，它在前進(jìn)時(shí)不斷從煙囪里冒出火來，因此被稱為“火車”。

1825年英國建成第一條鐵路，當(dāng)年9月，“旅行者號(hào)”機(jī)車拖著三十多節(jié)小車廂正式試車，以每小時(shí)24千米的速度跑完了40千米的路程。

當(dāng)時(shí)，在技術(shù)懷疑論者看來，火車頭是“邪惡之物”，他們預(yù)測人類會(huì)因?yàn)檫@項(xiàng)“地獄般的”發(fā)明吞下惡果。例如擔(dān)心火車上冒的煙會(huì)毒害乘客，火車氣流會(huì)引發(fā)肺炎，火車快速的節(jié)奏會(huì)讓大腦產(chǎn)生錯(cuò)亂等等。

懷疑論者為何又改變了看法了呢？

戴姆勒董事會(huì)成員、負(fù)責(zé)誠信經(jīng)營與法律事務(wù)白韻格（Renata Jungo Brungger）女士提出了兩個(gè)方面的原因：一是因?yàn)殡S著時(shí)間推移，人們完全適應(yīng)了這些科技的存在，甚至開始明白了新科技的價(jià)值。還有就是，遲早，制約這些新科技的規(guī)則會(huì)制定出來。

德國時(shí)間2019年9月10日上午，她在當(dāng)天開幕的法蘭克福車展上關(guān)于戴姆勒人工智能指導(dǎo)原則的演講時(shí)認(rèn)為，今天數(shù)字化轉(zhuǎn)型也正經(jīng)歷著同樣的變革，人工智能的興起也同樣如此，它們帶來了相似的挑戰(zhàn)。

咨詢公司普華永道（PwC）預(yù)計(jì)，到2030年，人工智能將帶動(dòng)中國、北美和歐洲GDP分別增長約26%、14%和10%。這一技術(shù)不僅有助于克服氣候行動(dòng)帶來的諸多挑戰(zhàn)，而且能進(jìn)一步優(yōu)化在交通運(yùn)輸、醫(yī)藥和農(nóng)業(yè)等多個(gè)領(lǐng)域所取得的成效。

汽車商業(yè)評(píng)論注意到，雖然技術(shù)專家、商界領(lǐng)袖和政府官員都認(rèn)同人工智能是世界上最具變革性的技術(shù)之一，但他們普遍注意到，這也給個(gè)人隱私和日常生活也帶來了新的風(fēng)險(xiǎn)。

白韻格說：“人工智能已經(jīng)全面融入到了我們的日常生活當(dāng)中，在自動(dòng)駕駛領(lǐng)域就是很好的例證。然而有史以來，每項(xiàng)發(fā)明都充滿魅力，同時(shí)也讓人心生敬畏?！?/p>

她表示，對(duì)于大多數(shù)人工智能應(yīng)用來說，大量的數(shù)據(jù)必不可少，包括個(gè)人數(shù)據(jù)。然而很多客戶并不希望自己的個(gè)人信息被泄露。他們擔(dān)心數(shù)據(jù)保護(hù)并不完善、數(shù)據(jù)被篡改，或者因此造成失控。有些人甚至擔(dān)心如此發(fā)達(dá)的人工智能系統(tǒng)有一天會(huì)統(tǒng)治世界。

如何在抓住人工智能所帶來的機(jī)遇的同時(shí)，化解隨之而來的危機(jī)、恐懼和挑戰(zhàn)？

為此，戴姆勒確定了四項(xiàng)原則：合理利用；可解釋；保護(hù)隱私；安全且可靠。白韻格強(qiáng)調(diào)：“人類仍將是技術(shù)的創(chuàng)造者！”

博世：人類必須保留對(duì)人工智能所做決策的最終控制權(quán)

圖片來源：博世

當(dāng)?shù)貢r(shí)間2020年2月19日，德國工業(yè)巨頭博世也提出了類似的《AI道德準(zhǔn)則》，即人工智能必須安全、可靠且可解釋，人類應(yīng)始終保留對(duì)人工智能的控制權(quán)。

博世是在當(dāng)天柏林召開的第七屆博世互聯(lián)世界大會(huì)（BCW）開幕式上發(fā)布這一指導(dǎo)方針的。

“人工智能是服務(wù)于人類的工具，任何可能對(duì)人造成影響的人工智能決策都需要人類的監(jiān)管?！辈┦朗紫瘓?zhí)行官沃爾克馬爾·鄧納爾（Volkmar Denner）如此表示。

此前，博世決定以《世界人權(quán)宣言》體現(xiàn)的價(jià)值觀為基礎(chǔ)，積極應(yīng)對(duì)人工智能技術(shù)使用過程中出現(xiàn)的道德倫理問題。

博世集團(tuán)首席數(shù)字官兼首席技術(shù)官 Michael Bolle博士說：“只有當(dāng)人們不再將人工智能視為神秘的‘黑匣子’時(shí)，信任的種子才會(huì)萌芽。而信任將是成就互聯(lián)化世界不可或缺的要素?！?/p>

他表示，新發(fā)布的博世《AI道德準(zhǔn)則》秉持“科技成就生活之美”的理念，將創(chuàng)新精神與社會(huì)責(zé)任相結(jié)合。

根據(jù)博世《AI道德準(zhǔn)則》，人工智能必須在某種程度的人為介入或影響的條件下做出決策。它包含了三種機(jī)制，它們遵守著一個(gè)共同的原則，即博世開發(fā)的人工智能產(chǎn)品中，人類必須保留對(duì)人工智能所做決策的最終控制權(quán)。

第一種機(jī)制為人工控制（human-in-command），適用于人工智能僅作為一種輔助工具出現(xiàn)的情境。例如，在決策支持系統(tǒng)中，人工智能協(xié)助人們對(duì)物體或生物進(jìn)行分類。

第二種機(jī)制為使用階段的人為干預(yù)（human-in-the-loop），適用于人工智能系統(tǒng)可以進(jìn)行自主決策，但人類能夠隨時(shí)干預(yù)其決策的情境。比如駕駛輔助系統(tǒng)，駕駛員可以直接干預(yù)停車輔助系統(tǒng)的決策等。

第三種機(jī)制為設(shè)計(jì)階段的人為干預(yù)（human-on-the-loop），適用于緊急制動(dòng)系統(tǒng)等應(yīng)用。開發(fā)此類智能產(chǎn)品時(shí)，專家將定義參數(shù)作為人工智能決策的基礎(chǔ)，而人類不參與決策，由人工智能進(jìn)行。但是，工程師可以隨時(shí)追溯檢查機(jī)器是否遵守所設(shè)定的參數(shù)進(jìn)行決策，必要情況下可以修改參數(shù)。

博世計(jì)劃在今后兩年對(duì)近2萬名員工進(jìn)行人工智能培訓(xùn)。《AI道德準(zhǔn)則》也會(huì)作為培訓(xùn)內(nèi)容的一部分。

據(jù)稱，到2025年，每款博世產(chǎn)品都將帶有人工智能功能，或者在開發(fā)和生產(chǎn)過程中運(yùn)用人工智能技術(shù)。

普華永道的一份報(bào)告顯示，自2018年以來，歐洲各種組織共發(fā)表了44份報(bào)告，對(duì)“人工智能倫理”提出了建議。

臉書：承諾加強(qiáng)應(yīng)對(duì)網(wǎng)絡(luò)有害信息

圖片來源：麻省理工科技評(píng)論

汽車商業(yè)評(píng)論注意到，無論是戴姆勒還是博世，它們對(duì)人工智能的關(guān)注更多的落腳點(diǎn)是人類對(duì)人工智能的控制權(quán)，但是來自硅谷的巨頭，他們對(duì)人工智能的關(guān)注點(diǎn)，更多在于隱私方面。

人工智能如今出現(xiàn)在蘋果的Siri和Face ID等產(chǎn)品中，也為谷歌的搜索引擎、自動(dòng)駕駛汽車以及Facebook的廣告業(yè)務(wù)提供動(dòng)力。2020年1月以來，F(xiàn)acebook、谷歌以及蘋果高層紛紛造訪布魯塞爾，因?yàn)闅W盟將對(duì)人工智能監(jiān)管出臺(tái)政策。

首先是谷歌母公司Alphabet首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）來到比利時(shí)布魯塞爾。然后，蘋果公司負(fù)責(zé)人工智能的高級(jí)副總裁約翰·詹納安德里亞（John Giannandrea）也出現(xiàn)在這里。

2018年以來，歐盟通過了有關(guān)數(shù)字隱私的法律法規(guī)，并在反壟斷問題上對(duì)谷歌和其他公司進(jìn)行懲處，這也促使世界其他地方相繼對(duì)科技行業(yè)巨頭采取更嚴(yán)厲的行動(dòng)。

歐盟委員會(huì)的新的人工智能政策也可能成為其他國家和地區(qū)競相效仿的模板，諸如谷歌、臉書和蘋果等這些在人工智能上押下重注的科技巨頭非常擔(dān)心。

皮查伊在造訪布魯塞爾期間發(fā)表演講承認(rèn)人們確實(shí)擔(dān)心人工智能可能帶來的負(fù)面影響，需要對(duì)人工智能進(jìn)行適當(dāng)?shù)谋O(jiān)管，但他認(rèn)為“需要找到一個(gè)平衡點(diǎn)”，以確保規(guī)則不會(huì)扼殺創(chuàng)新。

德國時(shí)間2月17日，臉書（Facebook）首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）也加入前往布魯塞爾的行列，與歐盟委員會(huì)執(zhí)行副主席瑪格麗特·韋斯塔格爾（Margrethe Vestager）等當(dāng)?shù)毓賳T會(huì)面。他希望通過承諾加強(qiáng)應(yīng)對(duì)網(wǎng)絡(luò)有害信息來換取歐盟降低針對(duì)域外企業(yè)的市場準(zhǔn)入門檻。

多年來，美國立法者和監(jiān)管機(jī)構(gòu)基本上不干涉硅谷公司的發(fā)展，允許這些公司不受阻礙地發(fā)展，對(duì)社交網(wǎng)絡(luò)上虛假信息的傳播等問題幾乎不加審查。

韋斯塔格爾將歐洲在科技監(jiān)管方面更為強(qiáng)硬的立場比作其對(duì)農(nóng)業(yè)的監(jiān)管。美國所允許使用的許多殺蟲劑和化學(xué)藥品在歐洲都是被禁用的。

她表示，歐洲的做法是，如果事情有風(fēng)險(xiǎn)，那么整個(gè)社會(huì)都希望對(duì)此進(jìn)行監(jiān)管，“對(duì)我們來說，最重要的是創(chuàng)建一個(gè)讓人們覺得他們可以確信所發(fā)生事情的社會(huì)”。

韋斯塔格爾負(fù)責(zé)統(tǒng)籌協(xié)調(diào)關(guān)于歐洲人工智能政策的初稿。2019年12月1日正式出任歐盟委員會(huì)主席的物理學(xué)家馮德萊恩（Ursula von der Leyen）上任之初就給了韋斯塔格爾100天的最后期限，讓她在截止日期之前公布一份關(guān)于人工智能的初步提案。

韋斯塔格爾表示自己并不擔(dān)心人工智能在Spotify上推薦一首歌曲或在Netflix上推薦一部電影，她關(guān)注的是決定誰能獲得貸款或診斷出什么疾病的人工智能算法。

她對(duì)面部識(shí)別技術(shù)的廣泛應(yīng)用格外擔(dān)憂，并表示在這項(xiàng)技術(shù)“無處不在”之前可能需要有新的限制。當(dāng)時(shí)還曾經(jīng)傳出歐盟人工智能白皮書草案建議3至5年內(nèi)禁止人臉識(shí)別技術(shù)應(yīng)用于公共場所。

歐盟：技術(shù)必須遵從人民的權(quán)利

圖片來源：博歐盟委員會(huì)

2月19日，也就是博世推出《AI道德準(zhǔn)則》的當(dāng)天，歐盟委員會(huì)主席馮德萊恩在布魯塞爾發(fā)布了《人工智能白皮書》，它包括了有關(guān)企業(yè)如何使用人工智能這一史無前例的規(guī)定。

這份大約30頁的白皮書由政策框架和未來監(jiān)管框架要素兩部分組成，概述了歐委會(huì)的AI戰(zhàn)略：既要在經(jīng)濟(jì)上迅速發(fā)展以贏下科技競爭，又要在道德上符合歐洲大陸的價(jià)值標(biāo)準(zhǔn)。

歐盟委員會(huì)指出，人工智能發(fā)展迅猛，歐洲需要為此增加投資，同時(shí)也要應(yīng)對(duì)一系列潛在風(fēng)險(xiǎn)。馮德萊恩強(qiáng)調(diào)，技術(shù)必須遵從人民的權(quán)利。

白皮書提出要建立一個(gè)“可信賴的人工智能框架”，重點(diǎn)聚焦三大目標(biāo)：研發(fā)以人為本的技術(shù)；打造公平且具有競爭力的經(jīng)濟(jì)；建設(shè)開放、民主和可持續(xù)的社會(huì)。

雖然未來3到5年人臉識(shí)別限制條款并未出現(xiàn)在這次正式公布的白皮書中，但白皮書還是在保護(hù)公民隱私和數(shù)據(jù)安全方面制定了一系列措施。

針對(duì)人臉識(shí)別，白皮書稱，收集和使用生物數(shù)據(jù)用于遠(yuǎn)程識(shí)別目的對(duì)基本權(quán)利有特定風(fēng)險(xiǎn)，歐盟數(shù)據(jù)保護(hù)規(guī)則原則上禁止以識(shí)別特定自然人為目的處理生物數(shù)據(jù)，特殊條件除外。

白皮書表示：“為解決在公共場所以此目的使用人工智能可能引起的社會(huì)關(guān)切，避免在內(nèi)部市場出現(xiàn)分裂，歐盟委員會(huì)將在歐洲展開廣泛辯論，討論可能正當(dāng)?shù)膽?yīng)用情況（如有）和共同保障措施?！?/p>

同時(shí)，人工智能企業(yè)必須通過相關(guān)部門的安全測試和資質(zhì)審核才能進(jìn)入歐盟市場。其中，醫(yī)療設(shè)備、自動(dòng)駕駛、社會(huì)保障和移動(dòng)支付等“高風(fēng)險(xiǎn)”行業(yè)的人工智能企業(yè)均被列為重點(diǎn)審核和監(jiān)管對(duì)象。

歐盟司法委員雷恩德斯指出：“如果自動(dòng)駕駛汽車出現(xiàn)交通事故，誰將為此承擔(dān)責(zé)任？我們必須對(duì)類似問題作出規(guī)定?！?/p>

未來三個(gè)月內(nèi)，歐盟的這份人工智能白皮書將接受各界人士的公開咨詢，再根據(jù)反饋結(jié)果進(jìn)行相應(yīng)修訂。

2020年底，歐盟將制定出臺(tái)《歐盟數(shù)字服務(wù)法》等具有法律約束力的數(shù)字規(guī)則，從而對(duì)規(guī)范市場準(zhǔn)入、強(qiáng)化企業(yè)責(zé)任和保護(hù)基本權(quán)利等問題作出明確規(guī)定。

這些規(guī)定不僅適用于歐洲本地企業(yè)，也將對(duì)在歐盟運(yùn)營的第三國數(shù)字企業(yè)產(chǎn)生重要影響。

白皮書：歐洲新數(shù)字戰(zhàn)略的開始 

圖片來源：博世

2010 年以來，歐盟把實(shí)現(xiàn)智能增長作為其三大增長目標(biāo)（智能型增長、可持續(xù)增長和包容性增長）之一。

2013 年，宣布正式實(shí)施“人類大腦計(jì)劃”和“石墨烯計(jì)劃”兩個(gè)“未來新興技術(shù)旗艦計(jì)劃”。 歐盟人類大腦計(jì)劃的主要研究目標(biāo)是實(shí)現(xiàn)對(duì)人類大腦的人工模擬，是世界上第一個(gè)腦科學(xué)大科學(xué)工程。

此項(xiàng)計(jì)劃不僅致力于揭示人類大腦的活動(dòng)機(jī)理和人類認(rèn)知的本質(zhì)，而且其理論成果可直接為人工智能發(fā)展提供最有力的支持。汽車商業(yè)評(píng)論認(rèn)為，這可能也是為什么戴姆勒和博世都更加強(qiáng)調(diào)人類對(duì)人工智能主導(dǎo)的重要原因。

圍繞實(shí)現(xiàn)智能增長的目標(biāo)，歐盟大力推進(jìn)“數(shù)字議程”的實(shí)施，著力于構(gòu)建“數(shù)字單一市場”，加速“工業(yè)4.0”進(jìn)程。2017 年，歐盟正式宣布其覆蓋全部成員國的數(shù)字單一市場步入正式建設(shè)階段。

2018 年，歐盟啟動(dòng)第 3 個(gè)未來新興技術(shù)旗艦計(jì)劃“量子技術(shù)”，積極發(fā)展量子網(wǎng)絡(luò)通信和量子計(jì)算機(jī)等，在數(shù)據(jù)傳輸、分析、處理能力上為人工智能發(fā)展奠定基礎(chǔ)。

從數(shù)字醫(yī)療到精準(zhǔn)農(nóng)業(yè)，從自動(dòng)駕駛到智慧城市，人工智能技術(shù)應(yīng)用領(lǐng)域廣泛，經(jīng)濟(jì)潛力巨大，盡管如此，歐盟在人工智能研發(fā)和應(yīng)用方面已經(jīng)落后于美國和中國。

世界知識(shí)產(chǎn)權(quán)組織最新發(fā)布的統(tǒng)計(jì)報(bào)告表明，目前全球85%以上的人工智能相關(guān)技術(shù)專利來自中美兩國企業(yè)。

最細(xì)發(fā)布的歐盟《人工智能白皮書》表示，歐洲需要大幅提高人工智能研究和創(chuàng)新領(lǐng)域的投資水平，目標(biāo)是未來10年中，每年在歐盟吸引200億歐元的AI技術(shù)研發(fā)和應(yīng)用資金。

歐盟估算，歐盟人工智能等數(shù)字技術(shù)的現(xiàn)有經(jīng)濟(jì)規(guī)模為3000億歐元，占?xì)W盟國內(nèi)生產(chǎn)總值的2.4%，5年之后這一數(shù)字將是目前的三倍。人工智能等產(chǎn)業(yè)已經(jīng)為歐盟創(chuàng)造了570萬個(gè)就業(yè)崗位，5年后這一數(shù)字最少將會(huì)翻一番。

目前，博世在全球7個(gè)地點(diǎn)設(shè)立了人工智能中心。作為巴登符騰堡州“Cyber Valley”研究聯(lián)盟的創(chuàng)始成員之一，博世將投資1億歐元用于建設(shè)人工智能園區(qū)，該園區(qū)的700名專家將很快能夠與外部研究人員和初創(chuàng)公司并肩工作。

毫無疑問，這份白皮書代表了歐洲新數(shù)字戰(zhàn)略的開始，同時(shí)對(duì)美國及中國科技企業(yè)提出了更高的要求。

因此，韋斯塔格表示，人工智能等數(shù)字戰(zhàn)略的出臺(tái)，為歐盟提供了成為世界先進(jìn)技術(shù)領(lǐng)導(dǎo)者的第二次機(jī)會(huì)。

返回第一電動(dòng)網(wǎng)首頁 >