SMC 資料庫

編輯台引言：自動駕駛汽車的道德抉擇？智慧機械的發展重頭戲——自動駕駛汽車的開發，開車這種需要高度集中力、累人的事，由機器來為我們駕駛聽起來很棒，但這麼棒的發明會為我們帶來什麼問題？國外就有專家在討論，也許這一天很快就到來，本文值得我們閱讀與思考。

美國影集「良善之地」（編按：大推的國外情境喜劇，2016年開播）的一場戲中，研究者向來自世界各地的幾百萬人提問，想知道當自動駕駛汽車（autonomous car，以下稱自駕車）遇到無法避免的意外時，人們認為應該怎麼做。

2018年10月24日發表在國際期刊《自然》（Nature）的研究使用麻省理工學院道德機器（Moral Machine）的統計資料，它目前已經收集了橫跨233個國家、10種語言，超過4000萬筆抉擇資料。

每個情境都規定要在拯救乘客與行人的各種不同組合中做出抉擇，研究者也從中發現一些共有的道德偏好，包括拯救最多的生命、先救年輕人以及重視人類勝過其他動物。

研究原文：

本文及專家回應翻譯自紐西蘭科學媒體中心： Moral decisions for driverless cars – Expert Reaction

——這是所有人都無法避免的倫理問題，而未來的交通道路想像又是什麼？我們是否過度關注假設問題？

2018年10月25日
奧克蘭大學商業法律系　艾力克斯．西姆斯教授：
（Associate Professor Alex Sims, Department of Commercial Law, University of Auckland）

誠如此研究的主張，問題不在於自駕車是否會開始在我們的道路上行駛，而在於是什麼時候。自駕車使原本只是倫理學中思想實驗的電車難題（trolley problem）成真。這個思想實驗是當你看到一輛行進中的電車（在紐西蘭稱之為火車）朝5個躺在鐵軌上的人前進，而在你身旁的是一個控制拉桿。如果你拉動拉桿，電車將會切換進另外一道鐵軌，拯救那5個人。但另外一條鐵軌上躺著1個人，拉動拉桿切換軌道同時會殺掉那個人。哪一個抉擇合乎倫理？

自駕車的出現投注了更大的兩難力道。如果碰撞是不可避免的── 比如說某輛自駕車的煞車失靈了，且這輛車不得不在輾過並殺死3個老人，及轉向牆壁導致撞死車上乘客之間做出決定，這時自駕車該怎麼辦？作者相當合理地主張，作為一個社會群體，我們不能將倫理原則只留給工程師或倫理學家處理。

我們需要規則。如果自駕車被設定成確保乘客安全高於其他所有人，這是很荒謬的事。舉例來說，一輛車不能被設計成要輾過3個人，以避免車上唯一的乘客撞上一台停放的車。

聯合理工學院高科技研究系客座教授 侯賽因．賽拉法薩德教授：
（Professor Hossein Sarrafzadeh, Adjunct Professor, High Tech Research, Unitec）

雖然無人駕駛汽車（driverless car）的科技有了很大的提升，但社會面卻未見充分的研究。隨著我們在未來幾年內可能更廣泛的使用這項技術，社會科學家肯定會關注包含無人駕駛汽車在內的技術倫理問題。此外，無人駕駛汽車與其他人工智慧系統（例如情緒辨識系統）的文化面也沒有足夠的研究，而這些領域的研究在全球和我國都非常需要。

在另一個面向，無人駕駛汽車這項科技社會面的各類研究中，沒有考慮到一個實際情況，也就是未來道路或許跟我們目前使用的不同。即便我們使用類似的道路，也會是佈滿感應器的智慧道路，這將使道路安全更上一層樓，雖然這些道德困境仍將存在。我相信，未來的道路將不同於現在，可能不會有人走過自駕車會行駛的路也未可知。

奧塔哥大學法學院紐西蘭法律基金會法律與新興科技組主席　柯林．加瓦漢教授：
（Associate Professor Colin Gavaghan, New Zealand Law Foundation Chair in Law & Emerging Technologies, Faculty of Law, University of Otago）

類似「電車難題」的討論在哲學上很有吸引力，但到目前為止很少受到法律的關注。大部分的駕駛可能永遠不需要面臨如此艱困的兩難，一旦面臨這個問題，駕駛也沒時間在急轉彎或踩剎車前，仔細考慮結果論（consequentialist）和義務論（deontological）的倫理問題！法律傾向對緊急狀況時所作的本能抉擇十分寬容，然而把倫理規範道德寫進無人駕駛汽車程式中的可能性，將討論帶到了另一個層面。

既然如此，我們應該制定哪種道德規範？多數人的觀點應該作為主要的依據嗎？這項研究中表達的部分偏好很難與我們對待歧視和平等的方式達成一致－－例如有利於特定性別或收入群體納入此些規範中。

年齡也是個受到保護的類別，拯救年輕的生命優先於年老的生命似乎是一個普遍且強而有力的價值。那麼自駕車的倫理應該反映這一點嗎？

即便是這樣強而有力的偏好似乎也會衍生一些棘手的問題。一個「孩子」在哪個時間點才會跨越到其生命不那麼有價值的門檻？16歲還是18歲？嬰孩的生命應該比蹣跚學步的幼童生命更寶貴嗎？那8歲的呢？如此陳述的話，看來要建立對「年輕」生命偏好的這個前景非常具有挑戰性。

有個可能更容易理解和接受的偏好是汽車該盡可能拯救更多生命。有時，這可能代表這輛車面臨選擇時要選擇撞上貨運車而非急轉向一群騎自行車的人。我們多數人或許會認為這是一件「正確」的事，但試問我們會買一輛要犧牲自身──或者所愛之人生命──以造福大眾的車嗎？

這讓我們想到法律在這一切問題中的角色。或許買一輛基於安全理由，會歧視或選擇犧牲他人以保護自身安全的車不應該合法。但如果是這樣，究竟會有多少人願意買無人駕駛汽車呢？

那如果我們讓這件事交由個人選擇呢？駕駛一輛「無私」的車能像現在開電動車一樣，被視為一種美德的展現嗎？其他駕駛「自私」車的人會被貼上相反的標籤嗎？

或許最大的問題是，每年超過100萬人死於交通事故。單是紐西蘭就有數百人，而無人駕駛汽車有可能大幅降低這個比例。思考這些少見的「兩難」情況很重要，但過於關注這些假設情境，可能讓我們看不到這項技術所帶來那些真實且攸關日常安全的益處。

相關利益聲明

艾力克斯．西姆斯博士：無利益關係。完整的評論可以在部落格貼文上取得。
侯賽因．賽拉法薩德教授：無利益關係。
柯林．加瓦漢教授：無利益關係。

本文歡迎媒體轉載使用，惟需附上資料來源，請註明台灣科技媒體中心。
若有採訪需求或其他合作事宜，請聯絡我們：