作者：觀潮

「十年之內，AI毀滅全人類的概率超過10%。」

這個數字一出，輿論譁然。有人追問它是否科學，有人指責它製造恐慌，也有人據此主張放慢甚至停止AI研發。

其中，最刺眼的細節是：一些最了解AI的建造者，一邊真誠地承認這項技術可能殺死所有人，一邊卻沒有停下手裏的開發。他們並非在說謊，也不是虛僞——現實中有種種力量，使他們無法停下來。

觀潮無意糾纏「10%的概率究竟大還是小」。比數字更值得追問的，是人們討論它時所站的位置。

幾乎所有爭論都默認：AI站在人類對面。它要麼成為最強大的工具，要麼掙脫控制；要麼帶來繁榮，要麼推向毀滅。結局可以完全相反，劇本卻始終沒變——人與技術，主與客，控制與失控。

但AI真的是一個正在逼近人類存亡的外來物種嗎？

或許，我們從一開始就把問題問錯了。

一、我們仍在用「敵我關係」理解AI

關於AI的公共討論，長期被困在兩個選項之間：要麼加速，要麼剎車；要麼相信AI拯救人類，要麼恐懼AI毀滅人類。

雙方針鋒相對，卻共享一個更深的前提：AI是一個與人類分立的「他者」。加速派想駕馭它，減速派想防住它；一個把它當作尚未馴服的千里馬，一個把它當作可能掙斷鎖鏈的猛獸。

然而，AI不是從文明外部闖入的東西。它誕生於人類積累的知識，訓練於人類留下的文字與經驗，生長在人類建立的資本、組織和制度之中。從火、文字、機械、電力到計算機，人類從未停止把自身能力向外延伸——把記憶交給文字，把力量交給機器，把計算交給芯片，現在又開始把部分感知、判斷和行動交給AI。

強技術不是人類之外突然闖入的力量，而是人類創生能力結出的果實。

當然，這不是故事的全部。強技術一旦形成，確實會產生超出創造者預期的能力與行為，反過來塑造人類——就像鐘錶重建了人對時間的感受，流水線改變了勞動，互聯網重塑了記憶與關係。它不再是一把完全服從使用者的普通錘子。

這正是強技術真正「強」的地方：它不僅幫人做事，還參與塑造做事的人。正因為它的走向無法被完全預料，「控制」纔不可依賴，人的位置問題才更加緊迫。

二、「要不要融合」已經不是問題

今天，醫生藉助AI辨認病竈，學生藉助AI組織思想，企業開始讓AI參與篩選、排班、評價和決策。我們並不是在等待人機融合的那一天——融合已經發生，而且不只發生在人與機器之間。AI進入學校、醫院、公司和政府，與既有的制度、利益和權力結合，參與決定什麼問題被看見、什麼選項被提出、誰承擔最後的代價。

因此，「要不要融合」已不是一個可以從容表決的問題。人類可以選擇某項技術是否進入某個場景，卻無法讓整個文明退回AI尚未出現的時代。只要這股力量已被創造出來，人類就不可能簡單放棄它——AI是不是發展得太快，可以爭論；具體應用該不該暫停，必須判斷。但融合本身，已是現實存在。

真正的問題不是融合會不會發生，而是融合將把雙方帶向哪裏。

三、人的位置，不是AI留下的空白

面對AI，人們習慣用能力劃分位置：機器擅長計算，人類擅長情感；機器處理數據，人類負責創造。這種劃分暫時令人安心，卻經不起時間。AI的能力邊界不斷移動，任何建立在「AI暫時還不會做什麼」之上的位置，都是流沙上的房子——今天被視為人類獨有的能力，未必永遠構成可靠的邊界。如果人的價值只能從AI剩下的空白中尋找，AI每前進一步，人的位置就縮小一步。

觀潮所說的「人的位置」，不是這種殘餘位置。它是更根本的文明位置：誰確定目的，誰裁決方向，誰決定什麼代價可以接受，誰為不可逆的後果負責。

這不是說AI不能參與。它可以幫助人類發現看不見的風險，揭示判斷中的偏見，在許多局部問題上比人判斷得更快、更準。但「能夠給出答案」不等於「擁有決定的正當性」。醫療系統可以計算哪種方案成功率更高，卻不能僅憑概率決定一個人應當承受什麼風險；教育系統可以生成更好的文章，卻不能代替孩子回答自己願意成為什麼樣的人；算法可以找出效率最低的員工，卻不能自行決定誰應當失去工作。

這不是因為機器永遠無法生成價值語言，而是因為它不會親身承受自己結論的影響。手術失敗後躺在病床上的不是算法，被解僱後不得不重新安排生活的也不是模型。

人與AI的真正區別，不是誰更聰明，而是誰生活在後果之中。

四、簽字仍在人手裏，不等於人仍在裁決

有人會說：只要最後由人簽字，人的位置就沒有丟失。

事情沒有這麼簡單。如果問題由系統定義，信息由系統篩選，選項由系統生成，風險由系統排序，而人只剩下點擊「批准」，那麼簽字雖然還在人手裏，裁決卻早已在前面的鏈條中完成。坐在決策終點，不意味着仍處在因果中心。

真正的人的位置，是保有形成判斷的能力和權利：能追問問題為何這樣定義，能知道哪些信息被排除，能提出系統沒有生成的選項，能發現異常，能拒絕、暫停、要求重來。其中最關鍵的一條，是對系統說「不」的能力——它是最先丟失、也最難察覺的。

更重要的是，當系統出錯時，責任不能消失在模型、數據、審核者和執行者之間。「AI建議、人類批准」不能成為新的免責結構——機器沒有責任資格，人也不能以「系統如此判斷」為由退出承擔，裁決真實發生了，卻沒有誰完整地擁有它。

觀潮要保衛的，不是每一箇舊崗位、舊技能，而是人在文明決策中的形成性參與。人可以不再親自完成全部工作，卻不能只剩下一個象徵性的簽名；可以藉助機器判斷，卻不能失去獨立發現錯誤、改變航向和承擔後果的能力。

五、融合不必然向上

承認融合不可避免，不等於相信融合天然向好。

毀滅論高估了「戲劇性斷裂」，低估了「漸進性退出」：文明更可能的失敗方式，不是機器突然奪權，而是人類在一次次便利、委託和形式批准中，悄然讓渡了位置。

同一種AI，可能增強一位經驗豐富的醫生，也可能使年輕醫生失去建立判斷力的機會；可能幫孤獨者度過難眠之夜，也可能使他越來越難以承受真實關係中的摩擦；可能幫助孩子理解複雜問題，也可能讓答案來得過於容易，繞過能力生長所需要的掙扎。結果變好了，不等於人也變強了；個體獲得了便利，不等於制度更加公正。

這就是「向量耦合」的含義：人類的種種特性（優點或缺陷）與AI特性結合後產生的力量，指向增強、支架、替代還是重構，並不由技術單獨決定，而取決於它進入什麼樣的人生階段、嵌入什麼樣的界面、服務於什麼樣的組織目標、經過多長時間的沉積。

向上的耦合，不能只看產出是否更快、更好。它至少意味着：身處系統中的人始終保有說「不」的資格；人的判斷能力沒有隨技術能力同步萎縮；機器承擔更多操作的同時，人仍能理解關鍵因果、發現錯誤、必要時獨立重建；文明獲得更大力量的同時，責任沒有變得更加模糊。

如果產出越來越好，做事的人卻越來越無力；系統越來越聰明，人卻越來越沒有資格說「不」——那就不是向上的耦合，而是以進步之名發生的位置轉移。這纔是人類面臨的實質挑戰。

六、走向星辰大海的，不應只是技術

人類為什麼仍然需要強技術？因為僅憑未經增強的生物能力，人類很難解決疾病、資源、氣候與深空探索這些難題。強技術不是前進路上的偶然插曲，而可能是文明突破自身邊界的必要力量，它不是單純的技術進步問題，而關乎能否建造一個越來越強大的文明。

但一個文明是否真正強大，不能只看它能到達多遠，還要看它是否知道為什麼出發；不能只看它能否解決問題，還要看由誰定義問題；不能只看它能否避免錯誤，還要看錯誤發生後，是否有人承擔、以及能否校正。

星辰大海不是機器替人類抵達的地方。它應當是人類藉助強技術擴展文明邊界、同時沒有失去目的、裁決和承擔能力的未來。

結語

現在，再回到那個「10%」。

它提醒我們，強技術可能帶來不可逆的風險。但觀潮不停留在「AI會不會毀滅人類」這個問題上。比遙遠的終局更早發生的，是人類位置的持續變化；比機器突然奪權更值得警惕的，是人類在便利與委託中逐漸退出定義問題、裁決方向、承擔後果的位置。

觀潮既不主張把AI關起來，也不讚成人類交出方向盤。我們要研究的，是融合怎樣發生、人的位置怎樣變化、技術的能力如何與人的生命和制度相互作用；是怎樣讓機器拓展文明的力量，同時讓人類在獲得力量之後，仍有能力決定力量的方向。

我們要保衛的，不是一個拒絕技術的舊人類；我們要探索的，是一種能夠與強技術共同成長、同時由人類保有確定目的、裁決方向與承擔後果位置的新文明。

星辰大海需要的不只是一艘更快的船。強技術把文明的能力半徑推向多遠，人類的責任半徑就必須延伸多遠。只有當兩者一同擴展，最終抵達星辰的，纔是人類文明；否則，不過是一個技術系統載着失去方向權的人類在星空中的漂流。