／ 導(dǎo)讀 ／

涉及自動(dòng)駕駛汽車事故的新聞總是上頭條。一輛自動(dòng)駕駛汽車一百次有99次都能“認(rèn)出”行人并在撞到他／她之前停車，這是研究和試驗(yàn)的可喜成果，但在現(xiàn)實(shí)世界中這輛車卻是一臺(tái)殺人機(jī)器。如何為自動(dòng)駕駛汽車制定強(qiáng)有力的、可驗(yàn)證的安全規(guī)則，讓這1％的事故成為過(guò)去呢？

無(wú)限不可預(yù)測(cè)道路的安全才是自動(dòng)駕駛

幾十年來(lái)，機(jī)器人（無(wú)人）車輛一直在危險(xiǎn)環(huán)境中使用，包括退役的福島核電站或北海水下能源基礎(chǔ)設(shè)施的檢查。最近，低速的物流送貨車等自動(dòng)駕駛車輛已經(jīng)從研究中心走入現(xiàn)實(shí)世界，很少出現(xiàn)問(wèn)題。

自動(dòng)駕駛汽車不可能像自動(dòng)送貨機(jī)器人一樣簡(jiǎn)單

然而，人們承諾的自動(dòng)駕駛汽車的到來(lái)并沒(méi)有超越測(cè)試階段。在2018年的一次優(yōu)步自動(dòng)駕駛汽車試駕中，一名行人被該車撞死。此后，使用自動(dòng)駕駛功能事故的報(bào)道不絕于耳。盡管這樣的事故每天都發(fā)生在人類駕駛中，但公眾對(duì)無(wú)人駕駛汽車的安全標(biāo)準(zhǔn)要高得多，會(huì)將一次性事故解釋為：這些車輛在公共道路上行駛太不安全。

設(shè)計(jì)一輛完美的自動(dòng)駕駛汽車，讓它總是做出最安全的決定是一項(xiàng)艱巨的技術(shù)任務(wù)。自動(dòng)駕駛汽車一般是在嚴(yán)格控制的環(huán)境中進(jìn)行實(shí)測(cè)的，而只有在無(wú)限不可預(yù)測(cè)的道路網(wǎng)絡(luò)中運(yùn)行，快速處理許多復(fù)雜的變量并保證安全，才是真正的自動(dòng)駕駛。

自動(dòng)駕駛汽車與機(jī)器人定律

1942年，科幻作家艾薩克·阿西莫夫（Isaac Asimov）在他的短篇小說(shuō)《繞線跑》（Runaround）中為機(jī)器人設(shè)計(jì)了一套規(guī)則——三條定律。由9篇科幻短篇小說(shuō)組成了《機(jī)器人》（1950）一書。隨著其規(guī)則被大眾文化所接受，經(jīng)常被人們稱為阿西莫夫定律或三定律。

《機(jī)器人手冊(cè)》（公元2058年第56版）書中的三條定律是：

定律1：機(jī)器人不得傷害人，也不得通過(guò)不作為而使人受到傷害；

定律2：機(jī)器人必須服從人類發(fā)出的命令，除非這些命令與第一定律相沖突；

定律3：只要機(jī)器人的保護(hù)不與第一或第二定律相沖突，機(jī)器人必須保護(hù)自己的存在。

它們像不像專門為今天的自動(dòng)駕駛汽車制定的法規(guī)？

自動(dòng)駕駛汽車會(huì)遵守機(jī)器人三定律嗎？

阿西莫夫后來(lái)在《機(jī)器人與帝國(guó)》（1985）一書中引入了“機(jī)器人第零條定律”。這項(xiàng)新定律優(yōu)先于前三條，規(guī)則為：

定律0：機(jī)器人不可以傷害人類，或者不作為，允許人類受到傷害。

自動(dòng)駕駛汽車就是機(jī)器人汽車（Robotic vehicle）。現(xiàn)實(shí)是，當(dāng)自動(dòng)駕駛汽車傷害人類時(shí)，它們顯然違反了第一條定律。

幫自動(dòng)駕駛汽車做出最安全決定的規(guī)則

早在2013年，英國(guó)政府就將機(jī)器人和自主系統(tǒng)領(lǐng)域作為支撐英國(guó)就業(yè)和增長(zhǎng)工業(yè)戰(zhàn)略的8項(xiàng)偉大技術(shù)之一。

最近，英國(guó)國(guó)家機(jī)器人博物館（National Robotarium）正在進(jìn)行一項(xiàng)領(lǐng)先的研究項(xiàng)目AISEC，旨在保證自動(dòng)駕駛車輛在做出決定時(shí)始終遵守“機(jī)器人定律”。沒(méi)有這樣的保證就會(huì)出現(xiàn)非常嚴(yán)重的安全問(wèn)題，阻礙自動(dòng)駕駛汽車在全球的起飛。

該機(jī)器人博物館是世界領(lǐng)先的機(jī)器人和人工智能（AI）中心，不僅研究機(jī)器人技術(shù)理論和發(fā)展，也研究與機(jī)器人和自主系統(tǒng)領(lǐng)域相關(guān)的倫理問(wèn)題，為應(yīng)對(duì)全球挑戰(zhàn)創(chuàng)造創(chuàng)新解決方案。其開創(chuàng)性的研究不斷從實(shí)驗(yàn)室走向市場(chǎng)，同時(shí)培養(yǎng)有遠(yuǎn)見的技術(shù)人才，為社會(huì)帶來(lái)實(shí)質(zhì)性的效益。

機(jī)器人倫理學(xué)家Patrick Lin表示：“受高速公路法規(guī)的啟發(fā)，我們正在制定一套規(guī)則，幫助自動(dòng)駕駛汽車在任何可能的情況下做出最安全的決定。驗(yàn)證這些規(guī)則是否有效是我們必須克服的最后一個(gè)障礙，以使值得信賴的自動(dòng)駕駛汽車安全上路�！�

他認(rèn)為，人工智能軟件實(shí)際上非常善于了解它從未面對(duì)過(guò)的情景。利用從人腦布局中獲得靈感的“神經(jīng)網(wǎng)絡(luò)”，軟件可以發(fā)現(xiàn)數(shù)據(jù)中的模式，比如汽車和行人的運(yùn)動(dòng)，然后在新奇的場(chǎng)景中回憶這些模式。

他也承認(rèn)：“我們?nèi)匀恍枰�證明任何教給自動(dòng)駕駛汽車的安全規(guī)則在這些新情況下都會(huì)起作用。要做到這一點(diǎn)，我們可以轉(zhuǎn)向形式驗(yàn)證——計(jì)算機(jī)科學(xué)家用來(lái)證明規(guī)則在所有情況下都有效的方法。”

他舉例說(shuō)，在數(shù)學(xué)中，規(guī)則可以證明x＋y等于y＋x，而無(wú)需測(cè)試x和y的所有可能值。形式驗(yàn)證也可以做類似的事情：它允許我們證明人工智能軟件將如何對(duì)不同的場(chǎng)景做出反應(yīng)，而無(wú)需我們對(duì)公路上可能發(fā)生的每個(gè)場(chǎng)景進(jìn)行詳盡的測(cè)試。

該領(lǐng)域最近取得的一個(gè)比較顯著的成功是驗(yàn)證了一個(gè)人工智能系統(tǒng)，該系統(tǒng)使用神經(jīng)網(wǎng)絡(luò)來(lái)避免無(wú)人駕駛飛機(jī)之間的碰撞。研究人員已經(jīng)成功地證實(shí)，無(wú)論飛機(jī)的水平和垂直運(yùn)動(dòng)如何，系統(tǒng)都能正確響應(yīng)。

自動(dòng)駕駛汽車決策的復(fù)雜性

Patrick Lin在介紹自動(dòng)駕駛汽車自主決策的復(fù)雜性時(shí)表示，人類駕駛者遵循高速公路守則來(lái)保護(hù)所有道路使用者的安全，這依賴于人腦對(duì)這些規(guī)則的學(xué)習(xí)，并在無(wú)數(shù)的現(xiàn)實(shí)場(chǎng)景中明智地應(yīng)用這些規(guī)則。

他說(shuō)：“我們也可以教自動(dòng)駕駛汽車學(xué)習(xí)高速公路守則。這就要求我們解開代碼中的每一條規(guī)則，讓車輛的神經(jīng)網(wǎng)絡(luò)理解如何遵守每一條規(guī)則，然后驗(yàn)證它們?cè)谌魏吻闆r下都可以安全地遵守這些規(guī)則�！�

自動(dòng)駕駛汽車需要學(xué)習(xí)各種規(guī)則

不過(guò)，在審查《公路法》中“絕不能”一詞的后果時(shí)，驗(yàn)證這些規(guī)則是否會(huì)被安全遵守的挑戰(zhàn)相當(dāng)復(fù)雜。要使自動(dòng)駕駛汽車在任何特定情況下都像人類駕駛員一樣反應(yīng)靈敏，就必須以這樣一種方式來(lái)規(guī)劃這些策略，即考慮細(xì)微差別、加權(quán)風(fēng)險(xiǎn)和不同規(guī)則直接沖突的偶發(fā)場(chǎng)景，要求汽車忽略其中一個(gè)或多個(gè)規(guī)則。

這樣的任務(wù)不能只留給程序員，它需要律師、安全專家、系統(tǒng)工程師和決策者的投入。在新啟動(dòng)的AISEC項(xiàng)目中，研究人員正在設(shè)計(jì)一種工具，以促進(jìn)建立自動(dòng)駕駛汽車道德和法律標(biāo)準(zhǔn)所需的跨學(xué)科合作。

Patrick Lin說(shuō)：“教自動(dòng)駕駛汽車變得完美是一個(gè)動(dòng)態(tài)的過(guò)程：取決于法律、文化和技術(shù)專家如何隨著時(shí)間的推移來(lái)定義完美。AISEC工具正是基于這一點(diǎn)而構(gòu)建的，它提供了一個(gè)‘任務(wù)控制面板’，用于監(jiān)控、補(bǔ)充和調(diào)整最成功的自動(dòng)駕駛汽車管理規(guī)則，這些規(guī)則隨后將提供給整個(gè)行業(yè)�！�

他最后說(shuō)：“我們希望在2024年交付AISEC工具的第一個(gè)實(shí)驗(yàn)原型。但我們?nèi)匀恍枰獎(jiǎng)?chuàng)建自適應(yīng)驗(yàn)證方法來(lái)解決剩余的安全問(wèn)題，這些方法可能需要數(shù)年的時(shí)間才能構(gòu)建并嵌入到自動(dòng)駕駛汽車中�！�