當無人駕駛遭遇道德困境

試想這樣一個場景：當你駕駛一輛汽車在被濃霧籠罩的郊區道路上行駛時，突然發現前方道路上有一群人在橫穿馬路，此時旁邊車道上也有一個人在穿越馬路。假設當時已經來不及剎車，只能選擇撞向一群人還是一個人，此時你會如何抉擇？關于這個問題，記者詢問了身邊的朋友，幾乎100％選擇了撞向橫穿馬路的一個人，僅有一人選擇撞向未知的無人區域。人類駕駛者如此選擇，在無人駕駛時代，汽車又將作出怎樣的抉擇呢？根據當前無人駕駛汽車的發展水平，這個問題或許有些荒謬，但確實有機構已經開始展開研究。

“電車難題”

有外媒報道稱，日前，德國奧斯納布呂克大學（Osnabruck）認知科學院的研究人員發明了一組應用于無人駕駛汽車的數學模型。通過電腦控制，利用VR技術，再現各種聲音、圖像，將生物按照其價值進行排序，在事故發生之際，無人駕駛汽車自動做出取舍，最大限度地保證人員的生命安全。

根據報道，奧斯納布呂克大學認知科學院的研究團隊通過沉浸式虛擬現實，在模擬的交通場景中研究人類的行為與道德判斷。其模擬的場景就是讓參與者在郊外駕駛車輛，當碰到沒有預期且無可避免的兩難處境時，他們必須決定在無生命的物體、動物和人類之間，哪個可以幸免。測試結束后，該研究團隊發現，人類在困境中的行為可以透過一個相當簡單、僅以生命為基礎的模型來建模。這個模型可以套用在每一個人、動物或無生命的物體之上，這意味著人類的道德行為可以被機器的演算法描述。

按照生命價值進行取舍，這就如同1967年哲學家菲利帕·福特（Philippa Foot）在其論文《墮胎問題和教條雙重影響》中提出的“電車難題”：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。然而問題在于，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否還會拉動拉桿？

根據同理心論點，這套道德學模型的開發者正是控制拉桿的人，根據該模型的結論，在無人駕駛汽車面臨此類交通事故時，車輛必然是駛向一個人所在的道路。但即便如此，這套模型是否符合道德倫理依然有待商榷，出現這種情況時，開發者是否應承擔法律責任也是一個值得探討的問題。

道德困境

“究竟無人駕駛汽車是否該采用道德判斷？如果采用，它是否要模仿人類的判斷方式來進行道德判斷？如果它們由始至終都遵照道德倫理行事，但事情的結局還是不如預期，該由誰負責呢？”前述道德模塊的研究人員戈登·皮帕（Gordon Pipa）教授指出，社會應盡快對無人駕駛的道德判斷問題進行討論。

記者查閱資料發現，這并不是輿論首次針對無人駕駛汽車道德判斷問題提出疑問。早在2015年就有人指出，無人駕駛車輛存在道德困境，只不過當時的兩難選擇是犧牲車上的乘客還是犧牲路人。根據當時法國圖盧茲經濟學院的吉恩-弗朗索斯·博納豐（Jean-Francois Bonnefon）教授與同事展開的相關研究結果顯示，通常情況下人們認為，從設計上自動駕駛汽車應該使死亡人數最小化。

如果可以避開一群人，我們就可以選擇傷害一個人嗎？斯坦福大學教授克里斯·格德斯（Chris Gerdes）呼吁，研究人員、汽車工程師和汽車制造商要為他們研發的技術面臨的倫理道德抉擇做好準備。他指出，不應該簡單地做一個道德模塊，然后把它插入無人駕駛汽車中。其他專家也認為，在無人駕駛技術研發中會面臨嚴峻的倫理道德考驗。清華大學蘇州汽車研究院智能汽車技術研究所所長戴一凡認為，無人駕駛汽車道德爭議的最終原因，在于人類對道德倫理缺乏共識。

兩難抉擇

面對道德困境時，無人駕駛汽車該如何抉擇？記者調查過程中，一位被調查者提出了這樣的疑問：“為何剎不住車？”這個疑問將無人駕駛汽車的道德困境打回到技術研發的原點：既然技術無法達到，理論上也存在很多爭議，為何還要提升無人駕駛的等級？

同濟大學汽車安全技術研究所所長朱西產告訴記者：“無人駕駛汽車的道德抉擇問題是人工智能的一個分支，是無人駕駛汽車達到L5級時必須要考慮的問題。”朱西產認為，就目前無人駕駛汽車技術而言，無人駕駛汽車是根據車輛傳感器、地圖等軟硬件提供的確定信息作出決策，這個決策是確定性的。如果發生事故，就是決策出問題，也可以據此判斷出，到底是哪方面出現問題，然后由相應的問題方來承擔相應責任。

北汽集團新技術研究院副院長榮輝指出，發展無人駕駛汽車技術，首先要改變的觀念就是“自動駕駛或無人駕駛不會發生傷亡事故”，自動駕駛和無人駕駛技術的到來會顯著減少事故的發生率，但無法完全避免事故的發生。同時榮輝認為，無人駕駛汽車道德倫理爭議問題本身就屬于“詭辯論”，作為無人駕駛汽車技術研發人員，更應該探討的問題首先是怎么快速發現人，然后緊急把車剎住。

針對這個問題，戴一凡認為，雖然無人駕駛終將面臨道德程序的問題，但目前看還不急迫，當下首要需解決的還是無人駕駛的技術問題。另外，榮輝指出，關于無人駕駛的相關法律法規應該盡快完善，只有法律法規跟上技術發展的步伐，才有可能最大程度地規避這類道德倫理之爭。