4月9日消息，據(jù)外媒報(bào)道，歐盟日前發(fā)布了AI倫理指導(dǎo)方針，公司和政府機(jī)構(gòu)未來開發(fā)AI時(shí)應(yīng)遵循7大原則。

　　這些原則不像艾薩克·阿西莫夫(Isaac Asimov)的“機(jī)器人三定律”。他們不會(huì)提供快速制定的倫理框架來幫助我們控制殺人機(jī)器人。相反，當(dāng)我們將AI融入醫(yī)療、教育和消費(fèi)技術(shù)等領(lǐng)域時(shí)，它們解決了影響社會(huì)的模糊和分散的問題。

　　舉例來說，如果AI系統(tǒng)在未來的某個(gè)時(shí)候診斷出你患了癌癥，歐盟的指導(dǎo)方針將希望確保這些事情：軟件不會(huì)因你的種族或性別而產(chǎn)生偏見，不會(huì)無視人類醫(yī)生的反對(duì)意見，而且病人有權(quán)要求它們解釋診斷結(jié)果。 所以，這些指導(dǎo)方針旨在阻止AI的瘋狂行為。

　　為了幫助實(shí)現(xiàn)這一目標(biāo)，歐盟召集了由52名專家組成的小組，他們提出了未來AI系統(tǒng)應(yīng)該滿足的七大原則。

　　具體如下：

　　1.人類代理和監(jiān)督：AI不應(yīng)該踐踏人類的自主性。人們不應(yīng)該被AI系統(tǒng)所操縱或脅迫，應(yīng)該能夠干預(yù)或監(jiān)督軟件所做的每一個(gè)決定;

　　2.技術(shù)穩(wěn)健性和安全性：AI應(yīng)該是安全而準(zhǔn)確的，它不應(yīng)該輕易受到外部攻擊(例如對(duì)抗性例子)的破壞，并且應(yīng)該是相當(dāng)可靠的;

　　3.隱私和數(shù)據(jù)管理：AI系統(tǒng)收集的個(gè)人數(shù)據(jù)應(yīng)該是安全的，并且能夠保護(hù)個(gè)人隱私。它不應(yīng)該被任何人訪問，也不應(yīng)該輕易被盜;

　　4.透明度：用于創(chuàng)建AI系統(tǒng)的數(shù)據(jù)和算法應(yīng)該是可訪問的，軟件所做的決定應(yīng)該“為人類所理解和追蹤”。換句話說，操作者應(yīng)該能夠解釋他們的AI系統(tǒng)所做的決定;

　　5.多樣性、無歧視、公平：AI應(yīng)向所有人提供服務(wù)，不分年齡、性別、種族或其他特征。同樣，AI系統(tǒng)不應(yīng)在這些方面有偏見;

　　6.環(huán)境和社會(huì)福祉：AI系統(tǒng)應(yīng)該是可持續(xù)的(即它們應(yīng)該對(duì)生態(tài)負(fù)責(zé))，并能“促進(jìn)積極的社會(huì)變革”;

　　7.問責(zé)制：AI系統(tǒng)應(yīng)該是可審計(jì)的，并由現(xiàn)有的企業(yè)告密者保護(hù)機(jī)制覆蓋。系統(tǒng)的負(fù)面影響應(yīng)事先得到承認(rèn)和報(bào)告。

　　請(qǐng)注意，這些原則中有些條款的措辭有點(diǎn)兒抽象，并且很難從客觀的意義上進(jìn)行評(píng)估。例如，“積極社會(huì)變化”的定義在人與人、國(guó)與國(guó)之間差異很大。但其他原則更為直截了當(dāng)，可以通過政府監(jiān)督來檢驗(yàn)。例如，共享用于訓(xùn)練政府AI系統(tǒng)的數(shù)據(jù)可能是對(duì)抗偏見算法的好方法。

　　這些指導(dǎo)方針不具有法律約束力，但它們可以影響歐盟起草的任何未來立法。歐盟曾多次表示，它希望成為道德AI領(lǐng)域的領(lǐng)導(dǎo)者，并通過《通用數(shù)據(jù)保護(hù)條例》》GDPR表明，它愿意制定影響深遠(yuǎn)的、保護(hù)數(shù)字權(quán)利的法律。

　　但這個(gè)角色在某種程度上是環(huán)境迫使歐盟扮演的。在投資和尖端研究方面，歐盟無法與美國(guó)和中國(guó)競(jìng)爭(zhēng)，因此它選擇了倫理作為塑造這項(xiàng)技術(shù)未來的最佳選擇。

　　作為這一努力的一部分，歐盟發(fā)布的報(bào)告還包括了一份被稱為“可信賴AI評(píng)估列表”，它可以幫助專家們找出AI軟件中的任何潛在弱點(diǎn)或危險(xiǎn)。此列表包括以下問題：“你是否驗(yàn)證了系統(tǒng)在意外情況和環(huán)境中的行為方式?”以及“你評(píng)估了數(shù)據(jù)集中數(shù)據(jù)的類型和范圍了嗎?”這些評(píng)估列表只是初步的，歐盟將在未來幾年收集公司的反饋，并在2020年提交關(guān)于其效用的最終報(bào)告。

　　數(shù)字版權(quán)組織Access Now的政策經(jīng)理范尼·希德韋吉(Fanny Hidvégi)表示：“評(píng)估列表是該報(bào)告最重要的部分。它提供了一個(gè)實(shí)用的、前瞻性的角度，指導(dǎo)我們?nèi)绾螠p輕AI的潛在危害。在我們看來，歐盟有潛力和責(zé)任走在這項(xiàng)工作的前列。但我們確實(shí)認(rèn)為，歐洲聯(lián)盟不應(yīng)止步于制定倫理準(zhǔn)則。”

　　其他人則懷疑，歐盟試圖通過倫理研究來塑造全球AI的發(fā)展方式，這是否會(huì)產(chǎn)生很大影響。智庫數(shù)據(jù)創(chuàng)新中心(Center For Data Innovation)高級(jí)政策分析師埃林·奇沃特(Eline Chivot)表示：“我們對(duì)正在采取的方法持懷疑態(tài)度，即通過為AI倫理創(chuàng)建一個(gè)黃金標(biāo)準(zhǔn)，它將確認(rèn)歐盟在全球AI發(fā)展中的地位。而要成為AI倫理領(lǐng)域的領(lǐng)導(dǎo)者，首先必須在AI領(lǐng)域取得領(lǐng)先優(yōu)勢(shì)。” (騰訊科技審校/金鹿)