隨著神經(jīng)技術(shù)的快速發(fā)展，我們正走向另一個世界。在這個世界里，人們可以破譯人的心理過程，直接操縱他們的意圖、情感和作出決定等背后的大腦機(jī)制;在這個世界里，個人可以通過思維直接與他人交流;強(qiáng)大的計算系統(tǒng)直接與人的大腦相連，幫助他們更好地與世界互動，使他們的精神和身體機(jī)能得到極大的增強(qiáng)。這些進(jìn)步可能會徹底改變許多疾病的治療方法，并給人們帶來更好的體驗。但也可能加劇社會不平等，為企業(yè)、黑客、政府或其他任何人提供利用和操縱他人的新方法?！蹲匀弧冯s志最近刊登了一篇文章，呈現(xiàn)出了學(xué)者們對這一未來場景的憂慮，針對這一現(xiàn)象，學(xué)者們提出了四點建議，希望能夠利用神經(jīng)技術(shù)來造福人類。文章由36氪編譯。

想象一下這樣的場景：

一個已經(jīng)癱瘓的人參加了一個腦機(jī)接口(BCI)的試驗。他可以通過一臺與他大腦中經(jīng)過訓(xùn)練的芯片相連接的電腦，來解釋其大腦活動所產(chǎn)生的神經(jīng)活動，并通過計算機(jī)生成指令來移動機(jī)械臂。有一天，他對試驗團(tuán)隊的成果感到非常沮喪。然后，當(dāng)他控制機(jī)械手臂從一個研究助理手中接過一個杯子時，傷害了這個助手。為什么會這樣?是設(shè)備出現(xiàn)了故障?還是他自己的情緒也起到了一定的作用?

雖然場景是假設(shè)的，但它呈現(xiàn)出了社會可能會面臨的一些挑戰(zhàn)。

目前，腦機(jī)接口技術(shù)的研究主要集中在治療效果上，比如幫助脊髓損傷者等執(zhí)行相對簡單的運(yùn)動任務(wù)——移動電腦光標(biāo)或控制電動輪椅。此外，研究人員也已經(jīng)可以從功能磁共振成像掃描中來對一個人的神經(jīng)活動進(jìn)行簡單解讀——即他正在思考一個人，而不是一輛汽車。

腦機(jī)接口技術(shù)和其他神經(jīng)技術(shù)成為我們?nèi)粘Ｉ畹囊徊糠?，可能只需要?shù)年甚至幾十年。

但也可能加劇社會不平等，為企業(yè)、黑客、政府或其他任何人提供利用和操縱他人的新方法。同樣，它也可能會深刻地改變?nèi)祟惖囊恍┖诵奶卣鳎核饺说木裆?、個人的代理和對個人作為被其身體約束的實體的理解。

這些進(jìn)步可能會徹底改變許多疾病的治療方法，從腦損傷、癱瘓到癲癇和精神分裂癥，并給人們帶來更好的體驗。

現(xiàn)在，考慮這項技術(shù)發(fā)展帶來的潛在后果是至關(guān)重要的。我們認(rèn)為，現(xiàn)有的道德準(zhǔn)則不足以應(yīng)對這樣的未來，為了解決這一空缺的問題，我們在此列出與以下四個方面有關(guān)的建議：

隱私和用戶協(xié)議；代理和身份驗證；平等與制約；以及偏見。

不同的國家和不同宗教、不同種族和不同社會經(jīng)濟(jì)背景的人將會有不同的需求和不同的未來。因此，各國政府必須設(shè)立自己的審議機(jī)構(gòu)，來決定如何將這些指導(dǎo)原則轉(zhuǎn)化為政策，包括具體的法律法規(guī)。

智能投資

一些投資者正押注于神經(jīng)科學(xué)和人工智能之間的相互作用。今年，包括 Kernel 和埃隆•馬斯克(Elon Musk)創(chuàng)辦的公司Neuralink在內(nèi)的全球十多家相關(guān)公司都在投資研發(fā)能夠“讀取”人類大腦活動和“將神經(jīng)信息寫入大腦”的設(shè)備。我們估計，目前以營利為目的的行業(yè)在神經(jīng)技術(shù)方面的支出已經(jīng)達(dá)到每年1億美元，而且還在快速增長。來自其他行業(yè)的投資也相當(dāng)可觀。自2013年以來，僅在美國的“大腦計劃”下，就有超過5億美元的聯(lián)邦資金投入到神經(jīng)技術(shù)的發(fā)展中。

當(dāng)前的能力已經(jīng)令人印象深刻。一位因肌萎縮側(cè)索硬化癥(ALS，也被稱為Lou Gehrig或運(yùn)動神經(jīng)元疾病)癱瘓的神經(jīng)科學(xué)家，借助腦機(jī)接口技術(shù)來運(yùn)行他的實驗室，編寫撥款申請，并發(fā)送電子郵件。與此同時，北卡羅來納州達(dá)勒姆杜克大學(xué)的研究人員發(fā)現(xiàn)，三只植入電極的猴子可以構(gòu)成一個“大腦網(wǎng)”，協(xié)同工作。如果信號能通過互聯(lián)網(wǎng)無線傳輸，這些設(shè)備可以在數(shù)千公里范圍內(nèi)工作。

很快，這些粗糙的設(shè)備就能刺激和讀取幾十個神經(jīng)元的活動，這將會是一件意外的事情。今年早些時候，美國國防高級研究計劃局(DARPA)啟動了一個名為“神經(jīng)工程系統(tǒng)設(shè)計”的項目。它的目標(biāo)是在4年內(nèi)開發(fā)出一種無線的用于人類大腦的設(shè)備，并獲得美國食品和藥物管理局的批準(zhǔn)，它能同時監(jiān)測100萬個電極的大腦活動，并選擇性地刺激多達(dá)10萬個神經(jīng)元。

與此同時，谷歌、IBM、微軟、Facebook、蘋果以及眾多創(chuàng)業(yè)公司正在打造更加復(fù)雜的人工神經(jīng)網(wǎng)絡(luò)，這些人工神經(jīng)網(wǎng)絡(luò)在具有明確輸入和輸出功能的任務(wù)上已經(jīng)超越了人類。

例如，去年，西雅圖華盛頓大學(xué)的研究人員證明，谷歌的FaceNet系統(tǒng)可以識別出一百萬個人臉。今年8月，微軟宣布，在某些指標(biāo)中，其識別會話語音的神經(jīng)網(wǎng)絡(luò)，與受過專業(yè)訓(xùn)練的專業(yè)人士的能力相媲美。利用腦電圖(EEG)數(shù)據(jù)，德國弗萊堡大學(xué)的研究人員在7月展示了神經(jīng)網(wǎng)絡(luò)如何被用于解碼與規(guī)劃相關(guān)的大腦活動，從而控制機(jī)器人。

目前使用的人工神經(jīng)網(wǎng)絡(luò)，受到了50多年前大腦回路模型的啟發(fā)，這些模型建立在對單個神經(jīng)元進(jìn)行麻醉的記錄的基礎(chǔ)上。在今天的神經(jīng)科學(xué)實驗室里，研究人員可以通過光學(xué)方法、計算、分子工程和微電子學(xué)的進(jìn)步，來監(jiān)測和操縱在醒著的動物中成千上萬個神經(jīng)元的活動。

如果未來的神經(jīng)網(wǎng)絡(luò)如果能更好地理解真實的神經(jīng)網(wǎng)絡(luò)，肯定會比這些例子更有說服力。

我們已經(jīng)與我們的機(jī)器緊密相連。谷歌的研究人員今年計算出，普通用戶每年觸摸手機(jī)的次數(shù)接近一百萬次(未發(fā)布的數(shù)據(jù))。人類的大腦控制著聽覺和視覺系統(tǒng)來破譯聲音和圖像，并指揮四肢來控制和操縱我們的電子設(shè)備。然而，神經(jīng)技術(shù)和人工智能領(lǐng)域的發(fā)展融合將帶來質(zhì)的不同——即人們的大腦能繞過大腦和身體的正常運(yùn)動功能，與機(jī)器智能的直接連接。

四個關(guān)注點

正在開發(fā)相關(guān)設(shè)備的公司也必須對自己的產(chǎn)品負(fù)責(zé)，遵循一定的標(biāo)準(zhǔn)，做到最好，而且也要重視道德規(guī)范。

要想在普通消費者市場上取得成功，這些神經(jīng)技術(shù)設(shè)備必須具備以下的這些特點：1)非侵入性的，2)風(fēng)險最小的，3)比當(dāng)前的神經(jīng)外科手術(shù)更便宜的。話雖這樣說，但即便是現(xiàn)在，

在這篇文章中，我們著重強(qiáng)調(diào)需要立即采取行動的四個方面。盡管我們是在神經(jīng)技術(shù)的背景下提出這些問題，但它們也適用于人工智能。

隱私和用戶協(xié)議

麻省理工學(xué)院的研究人員在2015年發(fā)現(xiàn)，對人們的運(yùn)動行為進(jìn)行精細(xì)分析，比如每個人在個人設(shè)備上的鍵盤輸入模式，可以作為診斷帕金森病的跡象。2017年的一項研究表明，移動模式的測量方法，比如從那些在日常生活中攜帶智能手機(jī)的人中獲得的數(shù)據(jù)，可以用來診斷引起老年癡呆癥的認(rèn)知障礙的早期跡象。

如果能利用神經(jīng)信息相關(guān)的數(shù)據(jù)——例如，與特定的注意力狀態(tài)相關(guān)的神經(jīng)元的活動模式，并用于投放廣告、計算保險費或匹配潛在合作伙伴的算法中，將會使它們變得更強(qiáng)大。不過，神經(jīng)設(shè)備一旦聯(lián)網(wǎng)，則會給個人或組織(黑客、企業(yè)或政府機(jī)構(gòu))提供追蹤甚至操縱一個人的精神體驗的可能性。

我們認(rèn)為，公民應(yīng)該有能力、也有權(quán)利保證他們的神經(jīng)數(shù)據(jù)隱私（參見“代理和身份驗證”）。我們建議采取以下措施來確保這一點。

對于所有的神經(jīng)數(shù)據(jù)，不予分享應(yīng)該是默認(rèn)的選擇，并會得到嚴(yán)格的保護(hù)。在諸如提供網(wǎng)頁瀏覽，社交媒體或娛樂的商業(yè)服務(wù)提供商面前，人們很容易就放棄了隱私權(quán)，但他們并不完全理解這代表著什么。在神經(jīng)數(shù)據(jù)領(lǐng)域，這樣的做法是不可行的。個人需要對自己的數(shù)據(jù)有控制權(quán)。這需要各方力量的一起參與進(jìn)來，制定一個關(guān)于誰將使用這些數(shù)據(jù)、以什么目的使用，以及使用多長時間等方面的許可程序。

為解決這一問題，我們建議對神經(jīng)數(shù)據(jù)的銷售、商業(yè)變現(xiàn)和使用進(jìn)行嚴(yán)格監(jiān)管。

即使這樣，結(jié)合一些愿意分享的人的神經(jīng)數(shù)據(jù)和大量的非神經(jīng)數(shù)據(jù)，也可以得出一些具有普遍性意義的結(jié)論，在那些不愿意分享的人身上依舊能成立。

另一種保護(hù)措施是限制神經(jīng)數(shù)據(jù)的集中化處理。

我們提倡使用分布式機(jī)器學(xué)習(xí)這樣的計算技術(shù)來保護(hù)用戶隱私。使用其他專門用來保護(hù)人們數(shù)據(jù)的技術(shù)也會有所幫助。例如，基于區(qū)塊鏈的技術(shù)可以讓數(shù)據(jù)被追蹤和審計，而“智能合約”的存在也讓數(shù)據(jù)的使用變得透明化，從而不需要集中處理。最后，開放的數(shù)據(jù)格式和開源代碼也會產(chǎn)生相應(yīng)的幫助。

保護(hù)隱私：Federated Learning

當(dāng)科技公司使用機(jī)器學(xué)習(xí)技術(shù)來改進(jìn)他們的軟件時，他們通常會在自己的服務(wù)器上收集用戶信息，以分析某一特定服務(wù)的使用情況，然后使用聚合數(shù)據(jù)對新算法進(jìn)行培訓(xùn)。谷歌的研究人員正在試驗一種叫做Federated Learning的訓(xùn)練人工智能的方法。在這里，訓(xùn)練過程在每個用戶的設(shè)備上進(jìn)行，而不需要集中數(shù)據(jù)：訓(xùn)練結(jié)果的數(shù)據(jù)(例如，“每周”可以用作形容詞和副詞的知識)會被送回谷歌的服務(wù)器，但實際的電子郵件、文本等仍然保留在用戶自己的手機(jī)上。其他公司也在探索類似的想法。因此，改進(jìn)設(shè)計的信息系統(tǒng)可以用于增強(qiáng)用戶的個人數(shù)據(jù)所有權(quán)和隱私，同時還能在這些數(shù)據(jù)上進(jìn)行有價值的計算。

有些人通過在大腦中植入電極來進(jìn)行腦深部刺激，他們感到自己的身份和身份被改變了。

代理和身份驗證 在2016年的一項研究中，一名曾用腦刺激器治療抑郁癥長達(dá)7年之久的人在一個焦點小組中報告稱，他開始懷疑自己與他人互動的方式總是怪怪的。是設(shè)備造成的?還是抑郁?還是他內(nèi)心深處的一些東西?他說：“我不確定我是誰。”

神經(jīng)技術(shù)可以明顯地擾亂人們的自我認(rèn)同感和能動性，這會動搖人們自我本質(zhì)和個人責(zé)任的核心假設(shè)——不管是法律上的還是道德上的。

如果機(jī)器學(xué)習(xí)和腦機(jī)接口設(shè)備能夠更快地幫人在意圖和行動之間進(jìn)行轉(zhuǎn)換，那么人們最終可能會以一種他們難以描述的方式來表現(xiàn)自己。也許，可能是通過一種類似于“自動完成”或“自動糾正”的功能來實現(xiàn)的。如果人們可以通過他們的思想在很遠(yuǎn)的地方控制設(shè)備，或者是如果幾個大腦被連接到一起工作，那么我們對自己是誰以及我們在哪里行動的理解就會被打亂。

隨著神經(jīng)技術(shù)的發(fā)展，政府和其他機(jī)構(gòu)開始努力賦予人們新的能力，個人身份(我們的身體和精神的完整性)和代理(我們選擇行動的能力)必須作為一種基本的人權(quán)被保護(hù)起來。

我們建議在1948年《世界人權(quán)宣言》等國際條約中加入保護(hù)這些權(quán)利的條款(“神經(jīng)系統(tǒng)”)。然而，這可能還不夠——國際聲明和法律只是國家之間的協(xié)議，甚至世界宣言也沒有法律約束力。因此，我們主張建立一項國際公約，以定義與神經(jīng)技術(shù)和機(jī)器智能相關(guān)的違禁行為，類似于2010年《保護(hù)所有人免遭強(qiáng)迫失蹤國際公約》所列的禁令?？梢猿闪⒁粋€相關(guān)的聯(lián)合國工作小組審查簽署國的遵守情況，并在需要時建議發(fā)出制裁。

這樣的聲明還必須保護(hù)人們對神經(jīng)技術(shù)可能對認(rèn)知和情感影響知情權(quán)。目前，知情同意書通常只關(guān)注于手術(shù)的物理風(fēng)險，而沒有設(shè)備對情緒、個性或自我意識的可能影響。

平等與制約

隨著神經(jīng)技術(shù)的采用——那些能讓人們從根本上擴(kuò)大其耐力、感官或心智能力的技術(shù)——可能會改變社會規(guī)范，會引發(fā)一種新的公平感問題，誰能獲?。空l不能獲?。磕切┠軌蛟鰪?qiáng)自身能力的人，會不會歧視那些沒有的人？這也很可能在會成為劃分社會階層的重要標(biāo)準(zhǔn)。

如果一些人的身體或大腦與其他大多數(shù)人的不同，會形成一種偏見。

此外也很容易能夠想到，這會引發(fā)新的軍備競賽。近年來，我們聽到美國國防部高級研究計劃局和美國情報高級研究項目活動的工作人員討論了為士兵和參謀人員提供增強(qiáng)心智能力的計劃(“超級智能代理”)。這些將用于作戰(zhàn)設(shè)置，并幫助更好地破譯數(shù)據(jù)流。

考慮到我們現(xiàn)在很難預(yù)測出來哪些方面的神經(jīng)技術(shù)會對人類生活產(chǎn)生負(fù)面影響，但國際和國家層面上需要制定指導(dǎo)方針，對可實施的增強(qiáng)神經(jīng)技術(shù)加以限制，并對可使用的環(huán)境進(jìn)行規(guī)范——就像對人類基因編輯所做的那樣。

在某些文化中，隱私和個性化可能會更受重視。因此，在尊重普遍權(quán)利和全球準(zhǔn)則的同時，必須在特定的文化背景下作出監(jiān)管決定。此外，如果徹底禁止某些技術(shù)的話，可能只會把它們推到“地下”，因此制定具體法律和法規(guī)的努力，必須包括有組織的論壇，以進(jìn)行深入和公開的辯論。

而且，這些努力應(yīng)該借鑒國際社會共識的許多先例，并將公眾意見納入國家層面的科學(xué)決策中。例如，第一次世界大戰(zhàn)后，1925年的一次會議促成了《日內(nèi)瓦公約》，該條約禁止使用化學(xué)武器和生物武器。同樣，在第二次世界大戰(zhàn)后，聯(lián)合國原子能委員會成立，目的是為了和平目的使用原子能，并控制核武器的擴(kuò)散。

特別是，我們建議對軍事用途的神經(jīng)技術(shù)進(jìn)行嚴(yán)格的監(jiān)管。出于顯而易見的原因，任何杜絕都應(yīng)該是全球性的，并由一個由聯(lián)合國牽頭的委員會發(fā)起。盡管這些努力可能無法解決所有的問題，但它們能夠提供一種解決方式，發(fā)出聲音、公開呼吁保持克制，并廣泛投入到技術(shù)的開發(fā)和實施中。

偏見

當(dāng)基于特定階層的系統(tǒng)、結(jié)構(gòu)或社會概念和規(guī)范作出科學(xué)或技術(shù)決策時，往往只是為自己階層的人群提供特權(quán)，這會對其他群體造成傷害。2015年的一項研究發(fā)現(xiàn)，谷歌廣告算法向女性用戶展示的職位招聘信息，比向男性展示的薪酬要低。同樣，ProPublica的一項調(diào)查顯示，去年美國執(zhí)法機(jī)構(gòu)使用的算法錯誤地預(yù)測，黑人被告比擁有類似犯罪記錄的白人被告更有可能再次犯罪。這種偏見可能會在神經(jīng)設(shè)備中出現(xiàn)。的確，研究過這類案例的研究人員已經(jīng)證明，想要用嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)方式定義公平是非常困難的。

業(yè)界和學(xué)術(shù)界已經(jīng)開始討論如何在技術(shù)上對抗偏見。從廣義上來說，這種正在進(jìn)行的公開討論和辯論對于界定問題偏見的定義，是正常的，是必要的。

我們提倡，在機(jī)器學(xué)習(xí)中對抗偏見要常態(tài)化。我們還建議，在進(jìn)行算法和設(shè)備設(shè)備的時候，要加大對小眾或者邊緣化的群體有所照顧，給予同樣的注意力。

建立負(fù)責(zé)任的神經(jīng)工程學(xué)

在這些建議中，有很多都是呼吁行業(yè)和學(xué)術(shù)研究人員承擔(dān)起相應(yīng)的責(zé)任。

但歷史表明，在企業(yè)界，追逐利潤往往勝過社會責(zé)任。而且，即使在個人層面上，大多數(shù)技術(shù)專家本意是為人類造福，但他們通常會面臨復(fù)雜的道德困境。我們認(rèn)為，應(yīng)該對相關(guān)的從業(yè)人員進(jìn)行規(guī)范化的培訓(xùn)，教導(dǎo)他們?nèi)绾胃钊氲厮伎既绾尾渴饘ι鐣薪ㄔO(shè)性貢獻(xiàn)的策略，而不是對社會帶來負(fù)面影響。

這種方法和醫(yī)學(xué)領(lǐng)域的培訓(xùn)比較類似。醫(yī)學(xué)專業(yè)的學(xué)生被教導(dǎo)關(guān)于病人的保密、非傷害及他們的善行和正義的義務(wù)，并要求他們遵循希波拉克的誓言來遵守最高的職業(yè)標(biāo)準(zhǔn)。

神經(jīng)技術(shù)的臨床和社會效益是巨大的。要收獲這些，我們必須采取必要的措施來引導(dǎo)它向一個好的方向發(fā)展。