如果一輛無(wú)人駕駛車(chē)被設定為傾向于殺死本車(chē)乘客，你還愿意坐這輛車(chē)嗎？
近日，意大利博洛尼亞大學(xué)的團隊開(kāi)發(fā)了一個(gè)名為“道德表盤(pán)”的裝置，可以讓無(wú)人車(chē)的車(chē)主選擇自己的汽車(chē)道德設置：你可以設定為犧牲自己保全他人，也可以設定為自己的生命優(yōu)先。
無(wú)人車(chē)如何應對道德困境，這是無(wú)人駕駛面臨的主要問(wèn)題之一。當人類(lèi)駕駛汽車(chē)時(shí)，本能就是對我們對危險的反應。當致命的事故發(fā)生時(shí)，通常不會(huì )有什么責任糾紛。
但如果汽車(chē)要自動(dòng)駕駛，汽車(chē)就不能依賴(lài)司機的本能，而必須依靠代碼。這時(shí)候就很糟糕了。是誰(shuí)應該為事故負責呢？軟件工程師、制造商還是車(chē)主？
人們對這個(gè)問(wèn)題的態(tài)度也很復雜。2015年的一項研究發(fā)現，大多數人認為無(wú)人駕駛的汽車(chē)應該是功利主義的，應該盡量減少總體危害的數量，這可能意味著(zhù)在某些情況下?tīng)奚约旱某丝?。但是，雖然人們原則上同意這一點(diǎn)，但他們也表示，他們決不會(huì )乘坐準備殺死他們的汽車(chē)。
“充分利他”
意大利博洛尼亞大學(xué)的Guiseppe Contissa博士說(shuō)：“我們想探討，如果將控制權和汽車(chē)行為的責任歸咎于車(chē)主，會(huì )發(fā)生什么事情。他同時(shí)也提出了一個(gè)解決方案。
該團隊設計了一個(gè)表盤(pán)，可以將汽車(chē)設置為從“完全利他主義”到“完全自我主義”中的任意道德維度，表盤(pán)的最中間則是“完全中立”。他們認為，這種的道德手段不僅適用于無(wú)人車(chē)，也適用于自動(dòng)化程度越來(lái)越高的所有領(lǐng)域。
Contissa說(shuō)：“這個(gè)旋鈕可以讓無(wú)人車(chē)擁有車(chē)主本人的道德判斷。汽車(chē)將利用這些信息來(lái)計算它將執行的行動(dòng)，充分考慮事故發(fā)生時(shí)乘客或他人受到傷害的可能性?！?/p>
公地悲劇
但這個(gè)想法有問(wèn)題。麻省理工學(xué)院媒體實(shí)驗室的首席研究員埃德蒙·阿瓦德（Edmond Awad）說(shuō)：“如果人們對汽車(chē)所造成的相對風(fēng)險進(jìn)行過(guò)多的控制，我們可能會(huì )遇到公地悲劇(Tragedy of the commons)，即每個(gè)人都選擇極端的自我保護模式。
另一個(gè)擔心是人們可能不愿承擔道德責任，因此根本不會(huì )有人愿意動(dòng)那個(gè)表盤(pán)。如果每個(gè)人都選擇“完全中立”，道德表盤(pán)就不會(huì )對現有的困境有所幫助。
Awad說(shuō)：“現在判定這個(gè)方案是好是壞還為時(shí)太早?！钡硎?，新的想法總是好的。
期刊參考：Artificial Intelligence and Law
