責(zé)任
有這樣的假設(shè)：一名孕婦乘坐著一輛自動駕駛汽車，與此同時，一個 14 歲的女孩正騎著自行車走在相反的車道上。此時，一輛載有兩名乘客的貨車突然駛出，沖向孕婦乘坐的汽車，這輛自動駕駛汽車必須做出選擇：一頭撞向貨車，孕婦可能流產(chǎn)，貨車?yán)锏膬擅凶訒茳c(diǎn)輕傷，或者轉(zhuǎn)向騎單車女孩的車道，結(jié)果可能要了她的命。它會如何決定？
去年在得克薩斯州奧斯汀舉行的 SXSW 大會上， Bill Ford 大聲說出了很多汽車行業(yè)人士正在思考的問題，或者更確切地說，是這幫人所不愿意承認(rèn)的擔(dān)憂。這位福特的 CEO 談?wù)摰氖?a style='color:#0000CC;' href='/post/42397.html' title='無人駕駛汽車會減少交通事故率 無人駕駛汽車將顛覆傳統(tǒng)車險市場' target='_blank'>無人駕駛汽車的出現(xiàn)，這個話題正是當(dāng)下最受關(guān)注的領(lǐng)域，因?yàn)闆]有一家汽車制造商想在在這場備戰(zhàn)中落后于人，硅谷的一些最大的參與者也已經(jīng)把數(shù)十億美元都投入到「裸」機(jī)器人汽車上[沒有方向盤或剎車的所謂的 5 級自動駕駛車輛，或自動駕駛車隊(duì)（AV）]。
Ford 說，隨著技術(shù)迅速發(fā)展，制造汽車將變成最容易的部分。但更艱巨的任務(wù)將是決定如何進(jìn)行編程，讓無人車做出某些道德人倫的決定。「（在即將發(fā)生事故的情況下）如果車輛必須選擇要撞誰，是保乘客還是 10 位行人呢？這些都是你和我作為司機(jī)沒有時間考慮的決定，我們只能下意識地作出反應(yīng)。但是這些無人車是有處理能力來進(jìn)行選擇的。如果結(jié)果是它選擇讓你，車上的乘客被撞的話，你是不是還打算坐進(jìn)那輛車呢？」
盡管 Ford 公開拋出這個問題令汽車業(yè)感到心神不定，但這與美國汽車買家普遍存在的想法其實(shí)是一致的。在今年早些時候進(jìn)行的一項(xiàng)調(diào)查中，AAA 發(fā)現(xiàn)四分之三的駕駛者表示自己對坐在無人車上感到擔(dān)心，54％ 的受訪者表示他們覺得與 AV 共享車道不太安全。而一旦 Ford 把這個問題爆了出來，AV 界的其他一些人就開始把它扯到一個到合乎邏輯的結(jié)論上。
英特爾公司高級副總裁兼無人車技術(shù)公司 的聯(lián)合創(chuàng)始人 表示：「如果我們必須教一輛車應(yīng)該殺死一位修女還是一位童子軍的話，那就不會有無人車這個行當(dāng)了。」今年 3 月份，英特爾剛剛以 153 億美元的價格收購了這家輔助安全駕駛公司。
但是 認(rèn)為，為了解決這個問題，我們需要把他框定到更實(shí)際的范圍內(nèi)，要有別于復(fù)雜到難以復(fù)加的哲學(xué)或倫理難題。他說，簡單來說，自動駕駛汽車是否能獲得消費(fèi)者的廣泛接受這個問題可歸結(jié)為這樣一個重要問題：自動駕駛汽車每年導(dǎo)致多少起以下的死亡數(shù)才是公眾可以接受的？
目前情況下，這個問題的答案可能是 0。每一次自動駕駛車輛發(fā)生事故，無論是去年在佛羅里達(dá)州發(fā)生的一輛卡車撞上自動駕駛的 的那起致命車禍，還是那輛嶄新的自動駕駛通勤車剛剛亮相 2 個小時就被一輛送貨的面包車撞到，一旦發(fā)生都立即成為了引爆全國的頭條新聞，對事故的討論往往持續(xù)數(shù)月之久。
相比之下，20 輛汽車的連環(huán)相撞事故幾乎每天都會發(fā)生，甚至在好幾個星期之內(nèi)，即使傳統(tǒng)車輛的碰撞事故造成了死亡人數(shù)超過了 100 人，其效果也只能是出現(xiàn)在當(dāng)?shù)匦侣勆希蠹业膽B(tài)度充其量不過是是聳聳肩。
在全球各地的監(jiān)管機(jī)構(gòu)都恨不得把這種車放行上路以最大限度減少無休止的交通致死事故的情況下，對無人車安全性錯位的關(guān)注和恐慌被進(jìn)一步的強(qiáng)化。去年，美國國家公路交通安全管理局（）已經(jīng)批準(zhǔn)了將自動駕駛汽車作為「極大減少與人類選擇和行為相關(guān)的事故數(shù)量」的一種手段。
在這種情況下，和 的一群程序員想出了一個創(chuàng)造性的解決方案來克服對 AV 的恐懼。 以覆蓋了 600 萬起事故的 數(shù)據(jù)作為部分基礎(chǔ)無人駕駛汽車會減少交通事故率，制作出總量接近 40 的場景集合，幾乎涵蓋了所有車輛事故的變化情況。在此基礎(chǔ)上，該公司將依據(jù)交通法規(guī)和道路條件做出的完美的人類司機(jī)判斷編撰成了算法規(guī)則。 聲稱，通過把這些規(guī)則作為 AV 決策編程的基礎(chǔ)，汽車制造商就可以向汽車購買者保證，無人車在事故中永遠(yuǎn)都不會犯錯。
安全系統(tǒng)的核心是一個被稱為 （謹(jǐn)慎指令）的概念，這個概念描述了 AV 可用于持續(xù)維持其安全區(qū)的選項(xiàng)。比方說，下圖顯示的是一種常見情況，即藍(lán)色汽車試圖離開停車場，但因?yàn)楸唤ㄖ飺踝。钥床坏浇稚鲜欠裼辛硪惠v車正在開過來。負(fù)責(zé)任的人類司機(jī)會一點(diǎn)點(diǎn)地擠進(jìn)道路，慢慢擴(kuò)大視野，直到他覺得可以放心開上路為止。
但實(shí)際上，他永遠(yuǎn)不會有完全的視野，最后只能根據(jù)直覺來做出決定。盡管這位司機(jī)也許已經(jīng)盡力，但令他受到指責(zé)的事故仍有發(fā)生的可能。而如果駕駛員開車走神的話，比如因?yàn)殚_了導(dǎo)航或者一邊打電話一邊開往下一站的話，就更有可能發(fā)生碰撞了。
相比之下，AV 的 會根據(jù)車速限制計算出紅色車最高的合理速度，并確定自己可以探頭出來多遠(yuǎn)，讓紅色車一方面有剎車的機(jī)會，同時還能逐漸提高能見度。如果紅車的車速高于最高限速，那么如果發(fā)生事故就是紅車的錯。而且，如果紅車是無人車的話，它駕駛起來會更加警惕，在預(yù)計到在其視線以外可能會有汽車駛出停車場的情況下，也許會往靠近中間的車道行駛。
似乎有望令 Bill Ford對自動駕駛汽車必須做出棘手選擇的擔(dān)憂失去意義，因?yàn)樵诩磳l(fā)生的事故中有關(guān)誰死誰活的倫理困境，已經(jīng)被一條不帶感情、不會動搖的規(guī)則所取代。這條規(guī)則是：如果碰撞即將發(fā)生（而且根據(jù)定義無人駕駛汽車會減少交通事故率，這不會是 AV 的錯誤），自動駕駛汽車將會盡量避免事故，但不會通過造成另一個事故來緩解這起事故。
換句話說，如果沒有其他安全選項(xiàng)的話，無人車將會撞上去，即便在此過程中乘客會被撞死。 說：「以任何其他方式來回答這個問題都會使我們陷入滑坡謬誤。因?yàn)橐惠v看起來后座似乎沒人坐的汽車其實(shí)正好坐著一個嬰兒，這樣如果它為了避免前面的 AV 撞上自己而調(diào)轉(zhuǎn)車頭的話可能就會撞到嬰兒。總會有一些看不到的參數(shù)讓你事后分析起來會發(fā)現(xiàn) AV 其實(shí)做了更糟糕的事。」
基于對成千上萬次事故的模擬， 認(rèn)為，如果每一家汽車制造商都采用它的方程式（ 已經(jīng)對業(yè)界開源，可免費(fèi)使用），美國每年的車輛致死人數(shù)可以改善三個數(shù)量級——也就是說，從現(xiàn)在每 100 萬駕駛小時致死 1 人降到到每 10 億駕駛小時致死 40 人。（當(dāng)然，此處的假設(shè)是所有的車都是無人車；而致死原因會是設(shè)備故障以及糟糕的駕駛條件）。
一些機(jī)器人專家已經(jīng)對 系統(tǒng)的安全性提出了質(zhì)疑。比如說，杜克大學(xué) and Lab （人類與自治實(shí)驗(yàn)室）主任 就告訴 說， 對有可能困擾 AV 的軟件漏洞數(shù)量過于忽略。
她指出，2016 年的 Ross 汽車保修和召回報告顯示，自 2012 年以來，軟件問題日益成為召回事件的主角。研究發(fā)現(xiàn)無人駕駛汽車會減少交通事故率，在 2005 年至 2012 年間，發(fā)生了 32 起獨(dú)立的與軟件有關(guān)的召回事件，共涉及約 360 萬輛汽車；從 2012 年底到 2015 年 6 月期間，這些數(shù)字幾乎翻了一番。不過，所有接受 采訪的學(xué)者和工程師都表揚(yáng)了 e致力于將 AV 產(chǎn)業(yè)推向安全合法解決方案的努力。
到目前為止，汽車業(yè)對 算法的反響并不算好，這主要是因?yàn)槟壳霸?AV 領(lǐng)域仍有很多爭議，從 、Uber、Lyft 到數(shù)十家初創(chuàng)公司以及各大汽車制造商都承諾在 2020 年代初造出全自動汽車。
目前情況下，沒有人愿意冒失去潛在市場的領(lǐng)導(dǎo)地位的風(fēng)險，如果過早同意采用的標(biāo)準(zhǔn)到頭來成為失敗者該怎么辦？ （還記得 嗎？） 汽車技術(shù)分析機(jī)構(gòu) C3 的總裁兼聯(lián)合創(chuàng)始人 Doug 說：「在應(yīng)該具備某種安全標(biāo)準(zhǔn)的事情上 是對的，但在無人車的乘客這么多的情況下，除了狂野西部式的做法以外，汽車制造商對技術(shù)研發(fā)還沒有太大的欲望。」
正是因?yàn)橛羞@樣的態(tài)度， 把它定性為汽車業(yè)的自殺協(xié)議。如果沒有就安全標(biāo)準(zhǔn)達(dá)成一致，每一家汽車制造商都會根據(jù)數(shù)以萬計的冗余仿真，堆積超出需要的傳感器和計算能力，做出帶有自己的功能特性，可能存在過度設(shè)計的 AV——他們都宣稱對自己的車進(jìn)行了安全檢驗(yàn)，哪怕不能絕對肯定地說自己的車輛不會造成事故的情況下也這么說。其結(jié)果是，在發(fā)生致命事故后，汽車制造商的法律風(fēng)險可能會非常高，再加上用昂貴的零部件裝點(diǎn)的汽車高昂的生產(chǎn)成本，這都會導(dǎo)致許多購買者只能對 AV 望而卻步。與此同時，一些汽車制造商可能會選擇犧牲安全關(guān)切來降低車輛價格，令消費(fèi)者無法弄清楚如何才能選到一輛安全的自動駕駛汽車，同時還會加劇大家對AV是危險的看法。
在無人車開發(fā)商的壓力下，美國聯(lián)邦政府似乎已經(jīng)同意采取不干涉主義的立場。美國眾議院通過準(zhǔn)備遞交參議院的一項(xiàng)法案將會取代各州對無人車道路測試的臨時規(guī)定，該法案將授權(quán) 對 AV 車輛的設(shè)計，建造以及性能進(jìn)行監(jiān)管，而各州只處理車輛注冊和許可證的問題。也許最重要的是，該法案將允許 授予無人車制造商每年（也可能是 3 年）可將高達(dá) 10 萬輛不符合現(xiàn)行聯(lián)邦機(jī)動車安全標(biāo)準(zhǔn)的車輛放行上路的豁免權(quán)。
在即將出臺的法律規(guī)制如此寬松的情況下， 要想說服無人車行業(yè)以一致的方式來處理安全和事故責(zé)任問題似乎還有很艱巨的工作要做。這意味著我們也許會不情愿地更早發(fā)現(xiàn)一個答案，那就是通過對無人車的決策進(jìn)行編程來扮演上帝角色的開發(fā)者究竟是不是跟他們相信自己可以做出來的機(jī)器一樣絕對可靠。
免責(zé)聲明：本文系轉(zhuǎn)載，版權(quán)歸原作者所有；旨在傳遞信息，不代表本站的觀點(diǎn)和立場和對其真實(shí)性負(fù)責(zé)。如需轉(zhuǎn)載，請聯(lián)系原作者。如果來源標(biāo)注有誤或侵犯了您的合法權(quán)益或者其他問題不想在本站發(fā)布，來信即刪。
標(biāo)簽：
