當人與AI共生，誰為意外負責？

科技大佬馬斯克曾口出“大言”，流露他建立腦機接口（BCI）公司Neuralink的野心是“讓人與AI共生，達到超等智能”。這看起來像是《攻殼靈活隊》和《黑客帝國》里才會呈現的場景，可是BCI成長敏捷，植入式設備現已能讓癱瘓人士節制義肢，非植入式的意念鼠標、耳機也初具貿易雛形。智妙手機的呈現也不外短短二十幾年，誰都不克不及包管此刻的90后、00后就不會在有生之年看到人與AI“喜結連理”。在這之前，經由過程BCI，讓AI輔助人類出產糊口，就仿佛成婚前的愛情一樣，是必經的磨合階段。利用BCI與AI相連，您只需發出少量的指令，即可完當作駕駛、工業操作等復雜使命，這可能是將來人的日常。

—Illustrationby Alex Castro / Th

可是，AI可否當作為“賢渾家”，還要先面對拷問：假如在人類利用BCI與AI合作中呈現了變亂，責任到底是該人類，仍是AI（或其開辟者）來負呢？

現有的人機交互界面中，人、機是物理上分手的，利用者和AI進行的指令操作可以經由過程空間、時候的距離進行切割，是以區分人類、AI的掉誤，歸責相對輕易；但當引入了BCI這個圈外人，貴圈就亂了。這一切還得從BCI的性質說起。

BCI是腦與外部設備的橋梁，大腦可以經由過程電極等裝配與機械、計較機中的AI交流。外部設備除了接管大腦旌旗燈號以外，也可以反標的目的對大腦進行必然刺激。這可能會導致利用者恍惚人機之間的邊界，分不清經由過程BCI做出的步履事實是源自自身意志，仍是AI的影響。在一項2016年的研究中，一名接管深度腦刺激（DBS）治療抑郁癥的患者就曾陳述說他思疑本身的行為體例受到了裝配刺激的影響，而非完全出自小我意志。將來跟著人機之間旌旗燈號傳輸率上升、延遲性削減、節制和反饋的復雜性增添，這樣的影響可能會加深。

在人類利用BCI與AI協同操作機械時，機械領受的指令可能來自于兩邊。當它執行了導致變亂的錯誤步履時，分歧于傳統的人機交互，因為人機間的慎密聯系，就可能難以區分導致該步履的指令來歷。就算能追蹤每一條旌旗燈號的來歷，問題仍然存在：利用BCI的體例自己就可能影響人類的大腦，不妨理解為在做決議的過程中，AI一向在給您吹枕邊風。若是無法分手二者的本家兒動性和步履，又該若何區分責任呢？這可能就需要借助哲學上的能動性（Agency）概念了。

本家兒要/次要步履者理論

想象一下，您開著新條目智能車過年回家，若是選擇手動駕駛，把握偏向盤的您此時就是一名步履者（Agent）。您按照肉眼所見的道路狀況，在腦入彀劃出接下來的步履，經由過程動彈偏向盤的體例使車輛朝目標地行駛，就是哲學上能動性的表現。

能動性是指某一實體對外界或內部刺激做出的反映。分歧于簡單做出行為，步履者的能動性表示出目標性和打算性。同理，假如您開車途中，俄然很想跟家人在線視個頻——道路萬萬條，平安第一條，此時就要選擇無人駕駛模式，將對車輛的操控權交給AI。AI按照攝像頭反饋的道路狀況進行路線規劃后，把持車輛按方針路線行駛，也是其能動性的表現。

然而在利用BCI輔助駕駛時，能動性很難在二者之間界定。這是因為人和AI對車輛進行配合節制，無法經由過程直接不雅察車輛的動作，回溯二者發出的步履指令，并對其簡單分手。假如在這種環境下呈現交通變亂，將很難進行責任界定。

為解決這一難題，慕尼黑大學醫史研究所的研究員安德烈亞斯·沃肯斯坦（Andreas Wolkenstein）提出，不消由下至上追蹤每一條指令的路徑，而是由上至下，從“能做出的步履”入手，區分本家兒要和次要步履者（primary and secondary agents）。兩者均不要求具有自由意志，其區別僅在于具有分歧水平的能力：（1）有能力肇端、贊成和終止步履；（2）在步履過程中，可以或許自力接管和調整復雜的步履步調。本家兒要步履者的步履自由度更大，有能力按照打算和感知到的情況身分做出判定，調整選擇；而次要步履者只能在前者許可的規模內采納步履。

假設您駕駛著智能車去接女神下班，經由過程BCI授權車載AI按路線行駛。在您啟動汽車后，因為AI只能按照您所想的路線，讓汽車執行有限的轉標的目的、直行等動作，此時您是本家兒要步履者，而AI是次要步履者。

此刻您從后視鏡發現情敵追上來了，怎么能讓他跨越您？于是您把車輛切換到手動駕駛，正想化身秋名山車神時，卻被AI強行阻止了。本來它的系統里設置有平安限速程序，而且監測到了您想超速的危險設法。因為您只能做出AI許可的平安駕駛操作，任何超速的行為城市被AI禁止，此刻，AI進級為本家兒要步履者，步履受限的您只能退居次要了。

考慮能動性可以幫忙我們更好地分化步履。當一項最終的步履變成變亂時，就可以按照發生時刻的本家兒要/次要步履者關系——包羅這項步履的倡議者是誰，誰又該當“查核”這個步履——來確定因果關系。這有助于將步履及其造當作的后果與責任聯系起來。

確定步履-步履后果后，就可以進步至后果-責任究查了。法令上要求究查責任的對象需要具有本家兒體資格，同時還需要具有本家兒不雅過錯，包羅居心和過掉。固然AI已經越來越多地揭示出智能行為，但今朝法令上仍未付與其本家兒體資格；同時其也還未達到具有自由意志的水平，故也不存在本家兒不雅過錯。

既然如斯，當步履后果歸于AI時，其最終發生的責任就只能由背后的天然人或法人來承擔。那么，利用者從開辟者處采辦BCI裝配，經由過程BCI與AI協作完當作使命，利用中呈現變亂時，責任就將按照步履者-能動性-步履-直接后果-責任的對應，在消費者、BCI和AI的開辟者中進行分派。

問題瞻望

但即使我們可以或許將步履與后果一一對應起來，工作的復雜水平仍在其之上。除了居心造當作的外，責任還包羅過掉責任，即該當預見風險卻沒有預見，或是已預見但相信會避免。

那么，對于科技公司為代表的開辟者來說，這種“該當預見”的風險包羅哪些呢？同時還有利用者與AI之間的授權關系，例如利用者授權AI主動駕駛出了交通變亂，利用者作為授權者，是否具有必然的監視責任？仍是該當推定其對AI具有百分百的信賴，從而可以削減責任？將來現實案例的復雜水平可能遠超我們的想象。

即使上述問題都可以順遂解決，跟著科技的成長，另一個問題不成避免：是否付與強AI必然的本家兒體資格，讓它自身也能承擔一部門責任？例如，2016年谷歌無人駕駛汽車與一輛大巴發生擦碰變亂時，美國高速公路平安辦理局（NHTSA）就認為節制汽車的AI可以被視為“司機”。此刻進一步考慮何種智能水平的AI可以獲得本家兒體資格，又能獲得什么水平的本家兒體資格——唯可嘆路漫漫其修遠兮。

法令的成長當然有其滯后性，尤其是科技迅猛成長的今天；但盡可預見之力對科技風險提前做出的考慮，大要就是人類標的目的前方斬開荊棘之路時，那把達摩克里斯之劍的劍鞘吧。

參考文獻

【1】WolkensteinA. Brain-Computer Interfaces: Agency and the Transition from Ethics to Politics[C]//International Conference on Human-Computer Interaction. Springer, Cham, 2017: 103-118.

【2】Klein E, Goering S, Gagne J, et al. Brain-computer interface-based control of closed-loop brain stimulation: attitudes and ethical considerations[J]. Brain-Computer Interfaces, 2016, 3(3): 140-148.

【3】YusteR, Goering S, Bi G, et al. Four ethical priorities forneurotechnologiesand AI[J]. Nature News, 2017, 551(7679): 159.

編纂：EON

排版：Dianna

封面：coco

作者：狼顧