第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手旁觀;
第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外;
第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。
為無(wú)人駕駛汽車設(shè)計(jì)安全規(guī)則的專家們?cè)噲D沿用這種易懂的方式來(lái)闡述他們的意圖，然而很多團(tuán)隊(duì)在設(shè)計(jì)無(wú)人駕駛汽車與人的交互規(guī)則時(shí)發(fā)現(xiàn)，我們所面臨的現(xiàn)實(shí)社會(huì)話題遠(yuǎn)比科幻小說(shuō)復(fù)雜得多。
無(wú)人駕駛車禍引熱議，如何保證駕駛安全?
無(wú)人駕駛汽車的擁護(hù)者們聲稱，全球每年有超過(guò)130萬(wàn)人死于機(jī)動(dòng)車輛事故，如果機(jī)器人能夠取代人類掌控駕駛盤就能有效降低這一數(shù)字。但社會(huì)也普遍意識(shí)到，即便是機(jī)器人，同樣也會(huì)造成交通事故。
美國(guó)國(guó)家運(yùn)輸安全委員會(huì)上周公開的文件將2018年3月發(fā)生在亞利桑那州的一起Uber自動(dòng)駕駛汽車致行人死亡事故的矛頭指向了汽車安全駕駛員、Uber公司和州政府，認(rèn)為這是他們共同的安全失職。甚至那些并不致命的安全事故也飽受譴責(zé)，例如有一輛處于輔助駕駛模式下的特斯拉直接一頭撞上了前方一輛停在路邊但閃著警示燈的消防車。
“自動(dòng)駕駛汽車的安全守則將是公眾接受這項(xiàng)新科技的必要前提條件。”密歇根大學(xué)Mcity自動(dòng)駕駛汽車測(cè)試實(shí)驗(yàn)室的助理總監(jiān)Greg McGuire解釋說(shuō)，“沒有安全守則，我們?nèi)绾未_認(rèn)它們是否安全?它們又能如何取得大眾的信任?這種信任的建立需要基于公開的、大眾能夠監(jiān)督的流程設(shè)計(jì)的規(guī)則，并且甚至可能要求來(lái)自政府部門的監(jiān)管。”
事實(shí)上，研究開發(fā)自動(dòng)駕駛技術(shù)的企業(yè)早已意識(shí)到這一點(diǎn)。年初包括安波福、奧迪、百度、寶馬、戴姆勒、英飛凌、英特爾和大眾在內(nèi)的11家行業(yè)領(lǐng)導(dǎo)者共同發(fā)表了一份名為《自動(dòng)駕駛安全第一》的安全白皮書。這些公司呼吁在開發(fā)自動(dòng)駕駛功能時(shí)要加入安全設(shè)計(jì)要素，加強(qiáng)網(wǎng)絡(luò)安全性來(lái)確保重要數(shù)據(jù)的完整性(這些數(shù)據(jù)包括車輛的位置、移動(dòng)以及車輛環(huán)境中其他物體的識(shí)別等)，以及在各種運(yùn)行環(huán)境下驗(yàn)證并確認(rèn)機(jī)器人的駕駛性能。
《自動(dòng)駕駛安全第一》安全白皮書
無(wú)人駕駛“定律”
11月7號(hào)，國(guó)際電信聯(lián)盟宣布成立一個(gè)名為人工智能應(yīng)用于自動(dòng)化和輔助駕駛的特別小組(AI4AD)。該小組致力于為應(yīng)用于管理自動(dòng)駕駛汽車的人工智能系統(tǒng)提供性能標(biāo)準(zhǔn)。(國(guó)際電信聯(lián)盟自1865年發(fā)展至今，以為電信服務(wù)的運(yùn)營(yíng)確立標(biāo)準(zhǔn)為己任。)
國(guó)際電信聯(lián)盟
自動(dòng)化駕駛聯(lián)盟暨特別小組主席Bryn Balcombe認(rèn)為，國(guó)際電信聯(lián)盟此舉是希望該標(biāo)準(zhǔn)能在開發(fā)人工智能的道路上起到圖靈測(cè)試的作用——所謂的圖靈測(cè)試就是當(dāng)一臺(tái)電腦成功地讓人誤以為它是人類時(shí)即為通過(guò)。“人工智能的圖靈測(cè)試對(duì)于確保人類駕駛員和自動(dòng)駕駛汽車背后的人工智能系統(tǒng)相互理解并有效預(yù)測(cè)彼此的行為和所產(chǎn)生的風(fēng)險(xiǎn)至關(guān)重要。”
國(guó)際電信聯(lián)盟的一份規(guī)劃文件認(rèn)為人工智能的發(fā)展應(yīng)符合公眾的如下期望：1.人工智能絕不發(fā)生粗心、有危害性或魯莽的駕駛行為;2.人工智能對(duì)事故保持時(shí)刻警惕，有意愿也能夠避免事故;3.人工智能的駕駛能力需超過(guò)一個(gè)謹(jǐn)慎且有能力的人類駕駛員。
上述適用于自動(dòng)駕駛?cè)斯ぶ悄芩惴ǖ膹V泛目標(biāo)近似于阿西莫夫的三定律，因?yàn)閮烧叨纪瑫r(shí)要求禁止傷害人類、遵守人類命令且能夠保全自己。然而國(guó)際電信聯(lián)盟發(fā)布的規(guī)劃文件還包括了15個(gè)“可交付成果”，包括制定評(píng)估人工智能的規(guī)范，以及起草驗(yàn)證人工智能路面性能所需的技術(shù)報(bào)告。
我們能將駕駛托付給人工智能嗎?
無(wú)人駕駛推廣的核心問(wèn)題，在于說(shuō)服公眾將駕駛這一可能關(guān)乎生死的活動(dòng)托付給一項(xiàng)頻遭失敗的技術(shù)。一個(gè)很令人尷尬的例子是，因?yàn)槊娌孔R(shí)別技術(shù)經(jīng)常會(huì)對(duì)少數(shù)族裔錯(cuò)誤識(shí)別，舊金山市禁止了警察和政府機(jī)構(gòu)使用面部識(shí)別技術(shù)。
McGuire認(rèn)為測(cè)試人工智能的駕駛性能非常復(fù)雜，而正是人的適應(yīng)能力才使我們能夠駕馭汽車。“人類開車也并不完美，但表現(xiàn)已經(jīng)非常好了。兩起致命交通事故往往相隔幾億英里里程。”
但現(xiàn)實(shí)世界中用幾億英里來(lái)做測(cè)試是不切實(shí)際的，而這僅僅是在統(tǒng)計(jì)顯著性需要的數(shù)十億行車距離中的極小部分。開發(fā)人員因此只能借助于模擬，利用計(jì)算機(jī)來(lái)設(shè)計(jì)虛擬行車?yán)锍桃园l(fā)現(xiàn)可能僅在罕見情況下出現(xiàn)的潛在安全漏洞，例如遭受暴風(fēng)雪或大雨，亦或是駕駛在施工道路上。
“即便如此還無(wú)法確保人工智能的安全駕駛，”McGuire還認(rèn)為，“無(wú)人駕駛的運(yùn)作模式必須得到人類的理解。”例如，目前的自動(dòng)駕駛汽車有時(shí)會(huì)在大多數(shù)人類駕駛員都不會(huì)想到停車的情況下停車，從而導(dǎo)致被追尾。相反，即便一輛自動(dòng)行駛下的卡車絕對(duì)安全，但如果它距離騎自行車的人太近，人們依舊會(huì)非常不安。
除上述組織和公司外，也有其他的利益相關(guān)方在為自動(dòng)駕駛制定標(biāo)準(zhǔn)：
國(guó)際電信聯(lián)盟的研究同時(shí)覆蓋完全自動(dòng)駕駛和自動(dòng)駕駛輔助兩方面;Underwriters Laboratories在為完全無(wú)人駕駛汽車制定標(biāo)準(zhǔn);由Lyft、Uber和SAE International(前身為美國(guó)汽車工程師協(xié)會(huì))組成的團(tuán)體為SAE四級(jí)和五級(jí)的自動(dòng)駕駛汽車起草安全準(zhǔn)則;BSI集團(tuán)(前身為英國(guó)標(biāo)準(zhǔn)協(xié)會(huì))制定了英國(guó)標(biāo)準(zhǔn)下針對(duì)聯(lián)網(wǎng)和自動(dòng)駕駛車輛的戰(zhàn)略，并正在自行研究標(biāo)準(zhǔn)。
那究竟需要多久才能制定好標(biāo)準(zhǔn)?McGuire回答：“這取決于研發(fā)進(jìn)程。建立公眾信任和確保社會(huì)利益需要多久，這個(gè)標(biāo)準(zhǔn)的制定時(shí)間就可能有多久。”
在不久的將來(lái)，Mcity將與底特律市、美國(guó)運(yùn)輸部和Verizon聯(lián)合測(cè)試在城市街道上運(yùn)送老年人的自動(dòng)駕駛汽車。然而該領(lǐng)域最終需要具備可持續(xù)發(fā)展的能力，而這在他看來(lái)還需要很長(zhǎng)的一段時(shí)間。
