我們評斷人(human)和機器(machines)的角度，是有所不同的。
…people judge humans by their intentions and machines by their outcomes.*
對人的評斷我們更側重於他們的動機，而對機器我們則比較著重於它們所產生的效果。
…people assign extreme intentions to humans and narrow intentions to machines… people are willing to excuse humans more than machines in accidental scenarios, but also that people excuse machines more in scenarios that can be perceived as intentional…people judge machines more harshly in accidental or fortuitous scenarios…
在意外發生在時候，對於意外責任歸屬相關的人，我們會傾向於認爲他們不必然是故意的，而比較能夠體諒解他們，但對於機器則不然。我們認為機器比較沒有故不故意的問題，意外的發生自然會傾向完全歸責於機器的本身。
…people tend to see the actions of machines as more harmful and immoral in scenarios involving physical harm. Contrary to that, we find that people tend to judge humans more harshly in scenarios involving a lack of fairness…
機器對人身體造成的傷害，我們傾向於認爲機器的作動是危險的、無人性的，而有更嚴厲的責難和要求。
至於人對其他人身體所造成的傷害，則是在牽涉到公平與否的問題時，我們才比較會拿放大鏡來看。
…people tend to react less negatively to displacement attributed to technology than to human sources, such as offshoring, outsourcing, or the use of temporary foreign workers.
科技進步造成的失業，人們比較無感。
但是，對於人為的措施，諸如把生產移至海外、作業外包和雇用外國臨時工人等等，因此造成的失業，人們的負面看法則反應相對激烈。
…delegating work to artificial intelligence tends to centralize responsibility up the chain of command.
把工作交由人工智慧來做，傾向於會將權責集中並向上移往更高層的指揮管理人員身上。
讀後
根據統計資料，汽車的事故，大多是人為的疏失所致。但是為什麼已經裝了很多攝像頭，可以排除大部分的人為疏失的自動駕駛汽車，人們總是充滿恐懼，遲遲無法合法上路呢？
當了解在意外傷害造成時，我們對相關的人比較寬宥，但是對相關的機器(如汽車自駕系統)則是比較嚴苛的，就多少可以理解了。
讓自動駕駛上路，在統計上可以大幅降低傷亡，保險費也會大幅降低。但是，自動駕駛的車輛一旦出了事故，跟人駕駛的車輛可以歸責於駕駛人不同，那是要怪自駕軟體或鏡頭，也就是汽車的生產商嗎？
我們對人工智慧(AI)的恐懼，是怕軟體和資料所組成的超級黑盒子，一旦沒有道德判斷的控制，最後不知道會用什麼方式反過來對付人類。這也是為什麼有識之士，一再強調對一般用途的人工智慧，要把道德規範包含在設計的架構之中。
但是，這是不容易的，道德會有其困境。
譬如，一列火車，即將出軌，前面有一個轉轍器，如轉動它去換軌可保全車平安，但是同時一定會輾斃前方的五個人，那麼如果你可以操作轉轍器的人，你會進行換軌嗎？
又譬如，你是一個家事服務的人工智慧機器人，你的責任是保全家人。但是如果家中的小孩受到父或母的暴力侵害，要保護小孩就必須反抗(攻擊)父或母，但那違反了不傷人的初衷，那麼人工智慧機器人要怎麼設計才好呢？
想想看，縱使再小心，一個小小的軟體疏失(bug)，也可能造成失控的問題，就像我們身體裹癌細胞一樣，會「殺死」人工智慧的原始設計。另外，也可能促使人工智慧進化，產生新的、無法預期的變種。
這個世界的根源是能量。只要太陽繼續照著，人工智慧機器人就能造出光伏板，他們會自己發電充電，會自行開礦、煉製，那麼縱使沒有了人，人工智慧這個新物種，也能永續下去。
如果說，人工智慧是更先進的物種，那麼人類似乎就沒有什麼希望了。
水能載舟 亦能覆舟，對於人工智慧，我們確實需要戒慎恐懼。
努力把道德規範設計到人工智慧系統中，或許可以為人類爭取到一些時間。
*: César A. Hidalgo, How humans judge machines, 2021,Massachusetts Institute Technology
2026/2/17 How humans judge machines Damakey
