倫理困境遠(yuǎn)比技術(shù)問(wèn)題更難解決。

創(chuàng)業(yè)邦（ID：ichuangyebang）原創(chuàng)

作者丨潘磊

【資料圖】

編輯丨海腰

題圖丨無(wú)人駕駛測(cè)試車

“無(wú)人駕駛都是扯淡，它就是一場(chǎng)皇帝的新裝”。

3月底，無(wú)人駕駛突然變成了過(guò)街老鼠，被定義為“虛頭巴腦的忽悠”。

這種看法有不少擁躉。

有芯片研發(fā)公司創(chuàng)始人表示，不需要真正實(shí)現(xiàn)無(wú)人駕駛，甚至連L3級(jí)駕駛輔助功能，在10年后都不會(huì)真正實(shí)現(xiàn)。

但這種“無(wú)人駕駛扯淡論”，也有不少人并不同意。

比如小鵬汽車董事長(zhǎng)何小鵬，就在一個(gè)PPT中表示無(wú)人駕駛并不是“扯淡”。

華為高管余承東認(rèn)為，（說(shuō)自動(dòng)駕駛是扯淡）要么是不了解，要么就是心存故意。“因?yàn)樽约簺](méi)做好（自動(dòng)駕駛），所以要打擊這個(gè)行業(yè)”。

現(xiàn)在的問(wèn)題是——自動(dòng)駕駛到底是一個(gè)技術(shù)烏托邦，還是一個(gè)正在接近實(shí)現(xiàn)的愿景？

常識(shí)是，如果沒(méi)有無(wú)人駕駛或者自動(dòng)駕駛技術(shù)，可能就談不上所謂的“智能汽車”。

悖論在于，到目前為止，人類依然沒(méi)有搞定這種技術(shù)，尚不能在一輛處于行駛狀態(tài)的汽車中睡覺(jué)或者心無(wú)旁騖地喝咖啡。

所以分歧出現(xiàn)了。

任何去過(guò)北京亦莊的人，在某一刻可能都會(huì)有一種時(shí)空穿越的錯(cuò)覺(jué)。

因?yàn)楫?dāng)你漫步街頭，時(shí)不時(shí)會(huì)看到一輛車內(nèi)沒(méi)有任何司乘人員的汽車駛過(guò)，尤其是在路口轉(zhuǎn)彎時(shí)，這種車往往還會(huì)“主動(dòng)”禮讓穿越馬路的行人。

這會(huì)讓很多初次到訪的人頗為驚訝。

但對(duì)當(dāng)?shù)厝藖?lái)說(shuō)，這種情況早已習(xí)以為常——對(duì)于一個(gè)旁觀者來(lái)說(shuō)，也許這才是讓人真正震撼的地方——事實(shí)上，這里的人正在演繹出一幅未來(lái)出行場(chǎng)景。

這種現(xiàn)象不僅僅發(fā)生在亦莊。

在上海嘉定、廣州等多個(gè)一線城市，以及美國(guó)加州的山景城和鳳凰城，都在上演同樣的場(chǎng)景。

與之類似的情況是，在一些自動(dòng)化程度較高的工廠里，員工也早已對(duì)來(lái)回穿梭、自主運(yùn)送貨物的AGV（Automated Guided Vehicle）習(xí)以為常。

所以人們的好奇在于——普通汽車是否會(huì)像馬車那樣，退出歷史舞臺(tái)，而“機(jī)器司機(jī)”成為日常出行工具？

一部分瘋狂的冒險(xiǎn)者已經(jīng)在嘗試這樣做。

無(wú)論是中國(guó)還是海外的社交媒體平臺(tái)上，時(shí)不時(shí)都會(huì)出現(xiàn)一輛汽車在路上行駛，但是駕駛者卻在睡覺(jué)的場(chǎng)面。

這些車輛普遍搭載了“輔助駕駛系統(tǒng)”，能夠在一定程度上幫助用戶實(shí)現(xiàn)車道偏離預(yù)警、自適應(yīng)巡航等功能。

但是危險(xiǎn)已經(jīng)出現(xiàn)。

2018年，出行公司Uber的一輛自動(dòng)駕駛汽車，在美國(guó)亞利桑那州Tempe市的街道行駛時(shí)，撞倒了一位名叫Elaine Herzberg的行人，后者不幸死亡。

這是全球第一起自動(dòng)駕駛汽車交通致死案。

調(diào)查結(jié)果顯示，Uber自動(dòng)駕駛汽車內(nèi)的安全員事發(fā)時(shí)正在收看電視節(jié)目《美國(guó)之聲》，沒(méi)有注意到正在橫穿馬路的行人，導(dǎo)致事故發(fā)生。

Uber并沒(méi)有因此被提起刑事訴訟，但安全員后來(lái)被控過(guò)失殺人。

這起事故集中反映了人們對(duì)于自動(dòng)駕駛的恐懼和抵制心理——沒(méi)有人愿意把自己的性命交付于一個(gè)毫無(wú)感情且能力不足的機(jī)器。

Uber制造的那起事故表明了一個(gè)可怕的事實(shí)——至少在當(dāng)下，機(jī)器還遠(yuǎn)稱不上完美。

這是一個(gè)技術(shù)問(wèn)題。

到目前為止，沒(méi)有哪個(gè)公司或者機(jī)構(gòu)能夠宣布，自己研發(fā)的自動(dòng)駕駛技術(shù)可以真正替代人類司機(jī)。

沒(méi)有人敢打這個(gè)包票。

盡管在人類的駕駛行為中，99%的操作都是可預(yù)測(cè)的，但仍有1%無(wú)法被預(yù)測(cè)。

這個(gè)1%的“黑障”階段足以引發(fā)致命事故，技術(shù)專家稱之為“極端事件（Corner Cases）”。

當(dāng)然即便是人類司機(jī)，也會(huì)遇到那1%的突發(fā)性小概率事件，但作為一個(gè)生物體，“本能”能夠有效地幫助人類應(yīng)對(duì)這種極端情況。

這種“本能”是長(zhǎng)期進(jìn)化的結(jié)果，還沒(méi)有哪種軟件能夠重現(xiàn)這個(gè)過(guò)程，并把結(jié)果移植到一個(gè)機(jī)器司機(jī)的中央處理器中。

以此作為對(duì)照，一輛自動(dòng)駕駛汽車的核心價(jià)值，就在于能否復(fù)制人類作為一種碳基生物的本能。

如果無(wú)法做到這一點(diǎn)，倉(cāng)促上路的自動(dòng)駕駛汽車，無(wú)疑將會(huì)引發(fā)巨大的混亂。

這看上去的確讓人絕望。

因?yàn)槿绻麢C(jī)器也擁有了“本能”，幾乎相當(dāng)于擁有了自我意識(shí)。

這很可怕——人類還不知道與一個(gè)會(huì)思考的機(jī)器人如何相處。

所以從技術(shù)角度得出“自動(dòng)駕駛是扯淡”的結(jié)論，似乎也能講得通。

技術(shù)不是自動(dòng)駕駛的唯一問(wèn)題，更艱難的部分，可能與倫理、法律有關(guān)。

一個(gè)典型的場(chǎng)景是：一輛自動(dòng)駕駛汽車正行駛在懸崖道路上，即將撞向另一側(cè)對(duì)向車道上則開來(lái)了一輛滿載乘客的大巴車——這種情況下，該如何做出選擇？

這涉及到一個(gè)與道德倫理有關(guān)的問(wèn)題。

事實(shí)上，自動(dòng)駕駛汽車系統(tǒng)軟件程序編寫者的價(jià)值觀，決定了這輛車將要撞向哪個(gè)方向。

一般而言，程序編寫者可能將會(huì)引導(dǎo)自動(dòng)駕駛規(guī)避與大巴的相撞，選擇開向懸崖，以自我犧牲換取多數(shù)人的獲救。

在現(xiàn)實(shí)生活中，當(dāng)一個(gè)人類司機(jī)面對(duì)類似場(chǎng)景時(shí)，可能也會(huì)做出同樣的選擇。

但需要指出的是，人類司機(jī)自愿犧牲自我，以保全大家，與未經(jīng)自己同意機(jī)器司機(jī)就擅自決定自我犧牲是兩碼事。

還有一點(diǎn)需要注意，那就是自動(dòng)駕駛汽車軟件代碼的編寫者，其價(jià)值觀不一定和乘員相符合——沒(méi)有兩個(gè)人是一模一樣的。

所以對(duì)于乘坐在自動(dòng)駕駛車上的人來(lái)說(shuō)，其倫理和價(jià)值觀并不一定與機(jī)器的選擇一致。

這能帶來(lái)額外的法律問(wèn)題——這起事故到底該由誰(shuí)來(lái)承擔(dān)責(zé)任？

對(duì)于人類司機(jī)來(lái)說(shuō)，已經(jīng)有一套現(xiàn)成的流程來(lái)調(diào)查事故原因，并做出判斷，同時(shí)搞定責(zé)任劃分。

比如在迫在眉睫的碰撞中，人的本能往往要求其做出損害最少的選擇——無(wú)論這種選擇是否會(huì)導(dǎo)致事故中另一方的更大損害。

但歸根結(jié)底，人類有一整套法律體系來(lái)判明是非，并作出判決。

而且事故本身也是難以標(biāo)準(zhǔn)化的——程序員不一定能夠從“人類本能”的角度去寫代碼——因?yàn)槠洳](méi)有真正經(jīng)歷那種生死時(shí)刻，只是模擬了那個(gè)時(shí)刻。

程序編寫者也許不需要承擔(dān)法律責(zé)任，但卻無(wú)法避開倫理責(zé)任。

鑒于每一起事故都完全不同，用統(tǒng)一代碼來(lái)應(yīng)對(duì)所有與倫理有關(guān)的突發(fā)時(shí)刻，實(shí)際上也很難執(zhí)行。

這也讓程序員陷入一種法律或者倫理困境，其要么構(gòu)成重大過(guò)失，要么會(huì)被認(rèn)為預(yù)謀殺人。

自動(dòng)駕駛由此可能真的進(jìn)入了死胡同。

這涉及到另一個(gè)問(wèn)題——即是不是用戶對(duì)于自動(dòng)駕駛的期待，需要做出一些改變？

毋庸置疑，Uber在亞利桑那州的事故不會(huì)是自動(dòng)駕駛汽車的最后一起事故，Elaine Herzberg也不會(huì)是最后一個(gè)不幸的受害者。

但另一個(gè)事實(shí)也很清楚——即便人們沒(méi)有使用自動(dòng)駕駛汽車，也可能會(huì)成為交通事故的當(dāng)事人。

換句話說(shuō)，每年都有人死于交通事故，但人們認(rèn)為這種損害的程度，要低于潛在收益，所以也接受了“零死亡事故”不可能消失的現(xiàn)實(shí)。

有資料顯示，2022年在美國(guó)有4.6萬(wàn)人死于交通事故，同比增長(zhǎng)了22%，專家認(rèn)為駕駛員在駕駛過(guò)程中分心造成了這一后果，比如一邊開車一邊使用手機(jī)。

這反而提供了一種可能性，即如果自動(dòng)駕駛汽車能夠讓人類用戶在汽車內(nèi)無(wú)需關(guān)注路況，并解放雙手，那么潛在收益將非常可觀。

另外，鑒于大多數(shù)事故都是人為引發(fā)的，自動(dòng)駕駛能幫助大幅減少事故。

其中的界限也很清晰——對(duì)于自動(dòng)駕駛汽車來(lái)說(shuō)，只要其安全駕駛記錄超過(guò)人類駕駛員的平均水平，那它就是有用的。

基于此，自動(dòng)駕駛汽車不需要必須具備完美的安全記錄才能獲準(zhǔn)上路——“完美”本身就是一個(gè)偽命題。

操作層面，只需要算出人類司機(jī)發(fā)生事故的平均里程數(shù)，就能把這個(gè)指標(biāo)量化。

關(guān)于倫理問(wèn)題，也有一個(gè)角度可以解決。

在面對(duì)一個(gè)突發(fā)事件時(shí)，人類司機(jī)事實(shí)上通過(guò)本能反應(yīng)以解決“誰(shuí)可以犧牲掉”的難題，只要讓自動(dòng)駕駛系統(tǒng)按照潛在的損失大小進(jìn)行量化比較，就能在不可避免的事故中，做出恰當(dāng)且最符合人類選擇的決定。

這又涉及到了技術(shù)——機(jī)器能復(fù)制人類本能嗎？

過(guò)去很長(zhǎng)一段時(shí)間內(nèi)也許都不能，但現(xiàn)在事情發(fā)生了變化——機(jī)器學(xué)習(xí)時(shí)代來(lái)臨了。

通過(guò)車載視覺(jué)系統(tǒng)在真實(shí)行駛中收集的數(shù)據(jù)，持續(xù)訓(xùn)練與自動(dòng)駕駛有關(guān)的深度學(xué)習(xí)模型，從而讓其像人類嬰兒一樣，通過(guò)感知外界來(lái)認(rèn)識(shí)世界，既了解真正的危險(xiǎn)，又不斷儲(chǔ)存經(jīng)驗(yàn)，從而健康長(zhǎng)大成人。

ChatGPT的出現(xiàn)，有可能成為人類進(jìn)入自動(dòng)駕駛時(shí)代的又一個(gè)助推器。

技術(shù)正在解決一切問(wèn)題，包括往往滯后于創(chuàng)新本身的法律問(wèn)題。

作為未來(lái)移動(dòng)出行的一項(xiàng)具有足夠吸引力的創(chuàng)新發(fā)明，自動(dòng)駕駛描繪了一個(gè)更加安全和便利的出行愿景——這正是很多初創(chuàng)公司獲得資本青睞的原因。

當(dāng)然這還是一個(gè)未知的世界，有諸多不確定因素。

一方面，從技術(shù)和安全角度對(duì)自動(dòng)駕駛提出高標(biāo)準(zhǔn)合乎邏輯，但另一方面，對(duì)“零事故”不切實(shí)際的期待也可能讓創(chuàng)新裹足不前，從而喪失技術(shù)變革帶來(lái)的巨大收益。

對(duì)于一個(gè)商業(yè)公司來(lái)說(shuō)，關(guān)于這種技術(shù)是否“扯淡”的言論談不上對(duì)錯(cuò)，畢竟每個(gè)公司情況不同。

但汽車100多年來(lái)都沒(méi)有發(fā)生過(guò)革命性變化表明，自動(dòng)駕駛擁有一個(gè)開啟全新維度的機(jī)會(huì)——在這個(gè)十字路口，做出任何選擇，其結(jié)果都需要時(shí)間來(lái)判斷對(duì)錯(cuò)。

即便是在最保守的情況下，自動(dòng)駕駛汽車都是一個(gè)新奇的產(chǎn)品創(chuàng)新，具備可觀的市場(chǎng)潛力。