導語 / Introduction
哪裡是意識的終點、物質世界的起點？如何區分我與非我、生命與非生命？設想有一天，擁有了核武器并通曉存在主義的人工智能，給人類下了最後通牒：完整解釋并預測自由意志，或，如若自由意志完全自由，找出意識的邊界，不然，它将毀滅地球。這個荒誕的開頭引出了人們從各個視角——生物學、物理學、鳥類學、昆蟲學、神經科學、微生物學、文學批評、數學、統計學等——出發，追尋意識邊界的故事。
意識的終點和周遭世界的起點在何處？内部與外部、生命與非生命、宇宙中有意識的與無意識的、你與非你之間，邊界在哪裡？
一個電荷，一個坡度，或是一次自然選擇的産生，都需要某種界限，但是物理學和生物學以不同的方式區分這些邊界。（就比如說，将一隻鴿子和一個保齡球從屋頂扔下。）
在 1974 年的一部電影《黑星球》中，一個人工智能被傳授了幾個勒内 · 笛卡爾的 " 我思，故我在 " 基本論點，然後在它意識到自己存在的目的僅僅是為了爆炸後，這個人工智能繼而忽視所有後續的人類命令，并且炸掉了自己、飛船和船員。
同樣，讓我們做一個思想實驗：設想有一個被教授過存在主義基礎的人工智能開始對自己産生好奇，它很靠近地球并且有着一個能夠摧毀地球的核武器。它也許會在剛剛萌生對它來說類似思想的東西時，開始對因果鍊感到好奇。它意識到人類隻會在災難臨近時才團結一緻，于是給我們下達了最後通牒：
親愛的智人：
你們有五年時間來提供給我一個完整的關于自由意識的描述。或者，解答以下問題：當安娜 · K 于 1996 年在洛杉矶結束手術時，她确切的意識邊界在哪裡。不然，我将炸毀地球。
——你們親切的人工智能
這個人工智能接着提供了實驗的細節。在這五年間，它會讓安娜主觀和客觀上經曆一系列随機的測試、狀态以及任務，而人類必須要對安娜的每一個想法進行完整而全面的滾動預測。人工智能同意說，如果做不到将安娜的确切想法一個一個列出來，它也可以接受一個關于 " 安娜可能或極有可能的想法 " 的統計學分布。如果自由意志的确是 " 自由 " 的，因此以上兩個問題都無法解答，人工智能增加了另一個它能接受的成功條件：如果我們能對 "1996 年手術期間的安娜的意識在何處結束 " 進行精确、原子層面的描述——隻要這一描述根據它提供的實驗條件，準确定義了那條劃分安娜與非安娜的界限，它也将認可人類的成功。
接着，地球上的大多數人都被動員去解決這三個問題中被普遍認為最簡單的那一個：區分安娜和非安娜的界限。一開始，人類進行了全球範圍内的意見調查，無論多麼魯莽或不确定的意見都被囊括其中。語言學家意識到這個問題跟心理學家威廉 · 詹姆斯（William James）曾經對語言提出的那個問題很相似。詹姆斯曾寫道，我們如何知曉一個詞語何時結束，而一個句子何時開始？1 語言學家因此回答道，隻要我們能夠定義神經元在何處結束，而人在何處開始，也許我們可以用類比來證明大腦和意識之間也有相似的邊界。
昆蟲學家指出，我們應該能先對一個更小、更簡單版本的自然世界給出答案，然後，可以這麼說，向上拓展。他們想到蜘蛛在蜘蛛網上狩獵時的情景。此時蜘蛛網是否應該被認為是蜘蛛的一部分呢？畢竟是蜘蛛網的震動告知了蜘蛛其他事物的存在。同樣，我們能 " 聽到 " 遠處的一個焦點壓縮空氣波造成的空氣中的擾動，其實是依靠在我們的耳朵中的毛細胞對振動的探測。2 蜘蛛感受其網震動的方式和靈長類通過内耳毛細胞來聽到聲音的方式之間有那麼大的區别嗎？或者說，空氣并不隻是一種透明的網、一種傳播振動和收集信息的表面？因此，他們論證道，如果我們将這些耳朵的和聲學傳感裝置歸納到屬于安娜的邊界内，那麼我們難道不應該将蜘蛛網也歸到蜘蛛的邊界内嗎？安娜手術期間，那些用于刺激她大腦的電極能夠激起她的笑聲、喜悅和歡樂，就和她大腦的某個部分在自然狀态下做的一樣，因此，我們難道不應該将那些電極也歸入安娜的邊界内嗎？
怎麼就這樣停下了？這些想法的诋毀者有些生氣地問道。為什麼不将那些吊着蜘蛛網的樹也包含進去呢？月亮引起潮汐，潮汐讓空氣蒸發，從而讓雨水落在樹上，讓樹生長出能夠懸挂蜘蛛網的樹枝，那月亮是不是也算作蜘蛛的一部分？還有大爆炸呢？這種 " 歸入 " 應該在何處停止？
- John Holcroft -
鳥類學家則想到鳥類和砂囊石（鳥類在生命初期吃下的用于消化的石頭）。他們說道，當然，我們不會将砂囊石看作一隻鳥的意識的一部分，對吧？那麼我們也應該在我們的描述中去除我們腦中的所有呆闆的機械部分，就像那些呆滞的質子泵或者是微管，畢竟它們單獨看來，和砂囊石相比毫無趣處。一些二元論者則更進一步提到，如果我們想要找到實實在在的區分安娜與非安娜的那條界限，我們就應該移除她身體和大腦裡所有的非必要的機械要素，隻留下與意識有關的部分，有點像對黃金進行篩選一樣。但唯物主義者們會回答道，如果我們這樣做的話，就沒有東西會留下來了。
然後微生物學家來了，他們詢問道安娜體内的微生物感染以及微小生物群存在的可能性。
如果安娜在從她出生那一刻起，就有一隻寄生蟲通過母嬰傳播寄生在她的腦内，在她的神經元裡築巢（确實有一些寄生蟲可能會這樣做 3 ）。那她的意識是等于大腦減去這個寄生蟲的差，還是等于大腦加上這個寄生蟲的和，又或者它們是一種 "融合的心靈"（the amalgamated mind）*？他們辯證道，為了以防萬一，我們應當先自己搞清楚這一點。行為學家們則考慮到安娜在測試中要做的任務。如果人工智能要她讀書或者看電影呢？那她意識的邊界會不會在行為中随之變化？于是，這個世界的故事會被分成那些試圖模仿思想的内在性的，以及那些在安娜讀到它們之後在某種程度上真正潛入安娜意識中的。然後，人們開始深入分析詹姆斯 · 喬伊斯、弗吉尼亞 · 伍爾芙和胡裡奧 · 科塔薩爾的作品對讀者的影響；1947 年的電影《湖上豔屍》——一部幾乎完全從一個偵探的視角拍攝的電影（電影海報中上寫道：" 你和羅伯特 · 蒙哥馬利共同解決一起謀殺迷案！"）——以及斯派克 · 瓊斯的《成為約翰 · 馬爾科維奇》迎來意料之外的複興，再度風靡一時。
* 譯者注
融合的心靈（the amalgamated mind）：由羅蘭茲提出，整合了 "4E+S" 認知模型中的體化認知和延展認知。體化認知指出除開大腦以外的身體器官在認知的形成過程中有着重要作用，而延展認知指出人的認知可以延展到我們的頭腦之外，也就是我們周遭的環境之中。所以可以認為 "the amalgamated mind" 指的是一種受到周遭環境和身體器官影響的認知心靈。
我們能夠走出自己，然後進入他人的想法嗎？就像其他引人入勝的科幻電影和作品，《成為約翰 · 馬爾科維奇》就嘗試解決這個與意識相關的中心問題。
—
維基百科
一些退休的神經學家們則反對這一點，認為低保真度的電影和文學作品，不應是解決界限問題的憂慮，而隻有電子遊戲能夠提供正确的動作 - 感知反饋環路——這對于 " 内部 " 和 " 外部 " 的形成是必要的，如此才有了界限。科學家對那些玩過 2011 年發行的第一人稱遊戲《晚餐約會》（Dinner Date）的玩家進行了一項研究。
遊戲中，一位男性正因晚餐被放鴿子而喝起了紅酒，這個遊戲要求玩家扮演他脆弱的潛意識。令人困惑的是，一些玩家回憶道，他們自己真的被放了鴿子，這意味着這個虛假的故事迎合了他們自身的自傳式故事。研究記憶的學者們辯論道，如果大腦是一個預測引擎，那麼這些被儲存在突觸裡，或者作為突觸存在的虛假記憶（false memory）不也應該被歸為個體内部嗎？如果人工智能讓安娜玩《晚餐約會》，并且在安娜的回憶中，遊戲裡的種種确實發生在她身上怎麼辦？他們提醒道，我們應當對此有所準備。
然而，文學評論家們指出，電子遊戲和電影不像小說，它們從來就沒有過第二人稱的視角，即 " 你 " 的視角。電子遊戲中的攝影機經常以角色的眼睛和耳朵的視角（第一人稱）或者以他們後方或上方的高點（第三人稱）拍攝（就像無人機的視角一般）。他們說，盡管的确玩家在遊戲中經常有一種模糊的 " 靈魂出竅 " 感（比如，馬裡奧的頭即将碰到天花闆的時候，玩家會躲閃；或者當玩家的卡丁車在比賽中真的要過彎的時候，他們會轉身），但這并不意味這他們就是馬裡奧或者卡丁車。這僅僅意味着他們可以共情于或者将他們的意識關聯于馬裡奧和卡丁車這些虛拟的物體。
文學評論家論證道，我們應該隻花時間在第二人稱遊戲上，但這樣的遊戲并不存在，所以我們是不是可以不考慮這種情況了？然而有網友回複道，但是我們能夠百分百确定嗎？在一段爆紅視頻裡，一個人用掃帚在冰箱下面戳的時候，一隻老鼠沿着掃帚跑向攝影機，還記得大部分觀看者在慌亂中摔掉了他們的手機嗎？這不就意味着，僅僅通過觀看視頻并用手拿着手機，他們在某種程度上就覺得他們在 " 握着 " 這個掃帚棒了嗎？如果大腦無法發現虛拟與現實間的區别，那麼為定義安娜與非安娜的界限，我們是否該囊括所有小說，因為它們都可能構成安娜的虛構經曆呢？
這件事花了好一會兒才解決。最終，另一群文學理論家指出，實際上有一個第二人稱電子遊戲的例子，雖有争議但值得研究。在《狂飙：舊金山》（Driver：San Francisco）中，主角在一場瀕死的車禍體驗之後，能夠接管其他角色的意識。然而，在某一時刻，當你進入第二角色的思想中時，你作為玩家會發現自己在一場汽車追逐中，并且被告知去追你自己的車。在這個有些像《盜夢空間》、又有些像《柏林蒼穹下》的場景中，從什麼時候起你是以一個正在追你的人的視角來控制車的呢？有些人此時就要說，如果人工智能真的讓安娜來玩這個遊戲怎麼辦？意識延伸到它所能控制的東西，而大腦與外界的唯一輸出接口就是這些連接着肌肉的神經元。如果我們将這些從她腦中下行至她手上的 " 電信号傀儡繩 "（指神經）歸入安娜的部分，那麼為什麼不将這些遊戲控制器的簡單電路也歸入呢？（同樣，由于外科醫生的電極在手術的時候插在她的腦中，是不是也能歸入安娜的部分呢？）
然而，數學家和統計學家們争論道，這些電子遊戲和文學作品的讨論都是一派胡言。他們聲稱，任何證明都應從生物和非生物之間的數學定義開始。一滴落在水上的油必定會擴散，因為它不是生命，無法保持自己的秩序。4 他們說，生命與油滴相反，因為生命不會擴散并且能夠保持自己的秩序，從而對抗宇宙趨于擴張、混亂和熱寂的走向。而油滴和蠟燭的火焰一樣，沒有任何能力将外部拒之門外，也無法維持自身内部有序，因為擴散中的世界可以滲入它薄弱的邊界，并且它無法抵抗來自宇宙的引誘。相比之下，生命确實能抵抗衰退，因為它必須如此，也就是在這個生命與非生命的邊界下，我們才能說這種連續嵌套的、去與無序反抗的能力是區分安娜與非安娜的關鍵。
因此，安娜此時是一個統計學（而不是生物學）上的驅動因素之和，正是這些統計學上的驅動因素創造了區别和界限。這些統計學上的界限被叫做 "馬爾科夫毯"（Markov blankets）*，可以像俄羅斯套娃一樣嵌套。5 他們說道，我們需要找到關于最全包的 " 安娜的馬爾科夫毯 "（也就是包含了最完整的其他毯子的集合的馬爾科夫毯）的描述水平。他們解釋道，安娜的各個部分之間的關系很類似家人之間的關系——一個人的 " 家族毯 " 是他的父母，他的小孩以及他們小孩的其他父母。與家人關系不同，一個細胞的統計學版本馬爾可夫毯是其行為和對世界感知的外部邊緣，這完美契合了細胞的邊界——細胞膜。
馬爾科夫毯（Markov blankets）：形象的解釋為一個随機變量全集 U 分成互斥的三部分，變量 X 以及集合 A 和 B，他們三部分沒有任何交集；當給定集合 A 時，X 與 B 沒有關系，則 A 為 X 的馬爾科夫毯。可以理解為，萬事萬物都是有聯系的，但人并不與社會裡的所有人有什麼直接關系，而是通過生活的圈子與他們有間接的關系，當你的生活圈子給定時，你與其餘人是獨立的。
盡管安娜作為一個複雜靈長類生物，由數十億相互連接且有着各自的馬爾科夫毯的細胞組成，但也必然有一條最終極的馬爾科夫毯。在這條毯子的定義下，她内部的毯子無法将外部稱為毯子的一部分，同時其外部也無法将内部稱作外部毯子的一部分。這條毯子被一次次縫制、修補，也能被延展、抻開，從而适時根據安娜行動和感知的邊界的流動做出改變。它像時鐘的發條裝置一樣運轉，每秒都在被重制。因此，統計學家說道，單一的答案是不夠的。如果要我們描述五年間安娜與非安娜的界限，那麼我們的回答應該由這五年間不停變化的答案構成。
一天，在一場找尋新想法的競賽中，一個中學生的問題讓全世界的專家們困惑了：" 當毛毛蟲變成蝴蝶的時候，它還是一隻毛毛蟲嗎？當它在變形的時候以液體般黏糊糊的形态存在時，它究竟是蝴蝶、毛毛蟲還是别的什麼？"6
人們馬上認識到了這個問題背後的含義。發展神經科學家們說到，這個女孩是對的，大腦在其一生中每年每天每一毫秒都在物理性地改變其形狀。它從來不會在同一個形态下。一個小孩的意識能蛻變成一個成年人的意識，經曆的不僅僅是 " 生長 "。因此，從純粹的生物化學角度來說，我們可以将人類的大腦比做一個可變形的粘稠物質。劇作家們則意識到一個由這個難題引起的非線性叙事問題。他們注意到，馬爾可夫毯是在空間上嵌套的，但也許也可以在時間上嵌套？人們正感到困惑，寄生蟲學家們現身，并說他們也有同樣的想法。他們說，畢竟就拿一條有着多個生命周期階段的單細胞寄生蟲來說，相比于将它們描述為在某一時刻突然擁有一具身體的生物，它更像是一種随時間變化而器官分離的超級生物。并且如果單細胞寄生蟲都是這樣的話，那麼我們沒有理由說 860 億腦細胞不是這樣——它們也一直随着時間的推移在改變和調整他們的基因圖譜。
然而一元論者論證道，安娜所有關于外部世界的内部模型都應該被從她的心智範疇内移除，因為在有了一定的保真度之後，她的内部模型就達到應該被歸于 " 外部 " 的水平了。7 舉個例子，假設有項任務要求她花一年的時間在一個普通家庭裡長大、走路、爬行，并且之後問她這個家裡有多少個窗戶。如果她能很好地回溯自己的記憶來回答這個問題，那麼這意味着她通過對這個房子進行準确表征，包含了這個房子（也就是 " 非安娜 "）的一部分。律師和賽車手們則強烈反對這個想法。他們表示，對車禍的精準描繪并不等同于實際的車禍；船的曲線或者船帆上的孔的确考慮到水和風的因素，但它們是船本身的設計，僅此而已——像這樣的東西怎麼能從船自身的邊界内減去呢？他們挑釁道，人類已經危在旦夕，你們卻還在自己的童話世界裡嗎？
為了回應，圖書管理員提出了在《銀河系漫遊指南》中的一幕：一個男人将他的牆倒置，并且将書架和客廳的所有挂件都放在牆外。然後，他表示，因為書本總是放在屋裡，那麼此時，盡管他站在屋頂之下，卻處于 " 外部世界 " 的一小部分之中；而因為牆壁現在朝向原本的 " 外部 "，這些 " 外部 " 現在實際上是 " 内部 "。他有些頑皮地說道，最簡單的定義安娜與非安娜之間的界限的方式就是把非安娜定義為一個很小又顯而易見的地方（就像把 " 外部 " 定義成 " 非書本所處之地 "），這樣剩下的所有東西按照定義不就都是安娜了嗎？
最終，全人類聚在一起，得出了一個 22 個字的答案。并不是因為這個答案被證明是正确的，而是因為盡管機會渺茫，這個答案的證明和事實檢驗的過程将會讓人工智能花上比宇宙的壽命還要長的時間。到時，" 炸毀地球 " 這個威脅和宇宙不可避免的熱寂不相上下，也就可以被忽視了——因為熵增有朝一日總會讓我們見識到它的威力。同時人們可以回去過以前一樣的生活，隻需面對内部的戰争。
親愛的人工智能：
安娜就是所有。在時間上，她也永遠是先前和此後。一切。
——你親切的地球
腳注：
1. 心理學家威廉 · 詹姆斯（William James）曾經寫道：" 拿一個有個十二個詞的句子，并且找到十二個人，告訴他們每人一個單詞。然後讓這些人站成一排或者擠成一堆，每個人盡可能地專注思考自己的詞。不論如何，我們永遠不會得到關于這個完整句子的意識。" 廣義上，這個想法定義或是區分了一個即将出現的或一個更大的整體和它自身各個部分的邊界。這有時被稱為 " 疊加問題 "（superposition problem），是基于從量子物理借來的一個概念，這一概念允許量子态被疊加（superpose），因此允許每個量子态被形容成兩個及以上量子态的總和。威廉 · 詹姆斯，《心理學原理》：共兩卷，卷一，1890 年，傳真版（紐約：多佛，1995） William James, The Principles of Psychology: In Two Volumes, vol. 1, 1890, facsim. ed. ( New York: Dover, 1995 ) .
2. 人類的耳朵中有上萬根細小的毛細胞，它們在就像在風中的青草一樣擺動來響應空氣中的物理壓縮，然後這些擺動被大腦識别成我們所謂的 " 聲音 "。
3. 這确實會發生。例如，一種名為弓形蟲（Toxoplasma gondii）的寄生蟲可以從母親體内傳到胎兒，常以休眠狀态終身躲在宿主腦中的神經元内。
4. 這個例子被神經學家卡爾 · 弗利斯頓（Karl Friston）用來某種程度上區分生命和非生命。他的基本觀點是細胞生命能夠維持其邊界而不會像一滴油一樣擴散、造成那種好笑的結果。｜卡爾 · 弗裡斯頓，" 我是自我意識的嗎？（或者自我組織涵蓋自我意識嗎？）"。《心理學前沿》（Frontiers in Psychology）第 9 期（2018）：579 頁，" 生物系統的自由能原則 "，熵 14，第 11 期（2012 年 11 月）：2100-21. Frontiers in Psychology 9 ( 2018 ) : 579 and "A Free Energy Principle for Biological Systems," Entropy 14, no. 11 ( November 2012 ) : 2100 – 21.
5. 弗裡斯頓還論證道，生命傾向于追求 " 自由能 "（一個與熵和平衡有關的概念）最小化的其中一個後果是，它引發了一種統計學上定義自身與非自身之邊界的方式。這些邊界，如果我們能準确定義或排列這些邊界，就可以将它們歸為 " 馬爾科夫毯 "（一個常常用在機器學習中的概念），而這一概念可能指導所有生命的組織和行為。｜卡爾 · 弗裡斯頓，" 我們所知道的生活 "，《英國皇家學會界面雜志》（Journal of the Royal Society Interface）第 10 卷，第 86 期（2013 年 9 月 6 日）：20130475；" 自由能原理：統一的大腦理論？"《自然 - 神經科學》第 11 卷，第 2 期（2012 年 2 月）：127-38；邁克爾 · 基爾霍夫（Michael Kirchhoff），湯瑪士 · 帕爾（Thomas Parr），恩索 · 帕拉西奧斯（Ensor Palacios），卡爾 · 弗裡斯頓，以及朱利安 · 基弗斯坦（Julian Kiverstein），" 生命的馬爾可夫毯：自主性，主動推理和自由能原則 "《英國皇家學會界面雜志》（Journal of the Royal Society Interface）第 15 卷，第 138 期（2018 年 1 月）：20170792 Journal of the Royal Society Interface 15, no. 138 ( January 2018 ) : 20170792.
6. 毛毛蟲能否保留那段黏糊糊的變形期間的記憶，一直到之後變成飛蛾或者蝴蝶？我認為這是最有争議并且還未被回答的科學問題之一，僅次于那些關系到意識起源的問題。這尚無定論。道格拉斯 · J · 布萊克斯敦（Douglas J. Blackiston），艾琳娜 · 希爾瓦 · 凱西（Elena Silva Casey）以及瑪莎 · R · 魏絲（Martha R. Weiss），" 通過形變保留記憶：飛蛾能夠記住它作為毛毛蟲時學到的東西嗎？"《公共科學圖書館：綜合》（PloS One）第 3 卷，第 3 期（2008 年 3 月 5 日）：e1736 / Douglas J. Blackiston, Elena Silva Casey, and Martha R. Weiss, "Retention of Memory through Metamorphosis: Can a Moth Remember What It Learned as a Caterpillar?" PloS One 3, no. 3 ( March 5, 2008 ) : e1736.
7. 通常來說，一元論者嘗試去移除概念之間的邊界或者區分。一元論有很多種，但我想如果有人能理解此處為什麼不進一步區分，他們就可以稱得上是一元論者了。
作者：Patrick House l 譯者：Leo l 校對：M.W.
