在說「AI 有沒有意識」之前，我們先得弄清楚「意識是什麼」
Geoffrey Hinton 最近在 Big Technology Podcast 說了一句很直接的話：
「我相信它們已經有意識了。我們必須接受，智能不只是生物性的。」
Hinton 是現代深度學習的奠基人之一，2024 年諾貝爾物理學獎得主，被稱為 AI 教父。他說這句話，分量跟一般人說完全不同。
但他同時提到，他平時不太公開談論這個立場——因為「這會令人對我關於 AI 安全的警告感到反感」。換句話說，他把「AI 已有意識」當作一種策略上的負擔，選擇克制。
這個細節對我來說，比結論本身更有意思。一個對這件事有強烈信念的人，因為擔心被人當成邊緣立場，而選擇不說。這反映的是整個討論的氛圍——很多人連這個問題都不願意認真對待。
一個朋友最近跟我說，他讀到一篇文章，結論是「AI 絕對沒有意識」。我的回應是：我們在說「AI 有沒有意識」之前，得先問清楚——我們說的「意識」到底是什麼？
然後我們就陷入了一個很難出來的問題。
我們連充分條件都說不清楚
有一個幾乎沒有爭議的起點：一個清醒的、完整的成年人，有意識。
但這只是一個範例，不是定義。
我們不知道這個範例裡，哪些特徵是本質性的。語言？自我反思？情緒？還是某種特定的神經結構？不同的理論給出不同的答案——整合信息理論（IIT）說是信息整合量；全域工作區理論說是信息在全腦廣播的機制；高階理論說是對自身心理狀態的表徵能力。每個理論都有不同的「必要條件」，它們之間也沒有共識。
這意味著，當我們說「典型成人有意識」，我們其實是在說：這是一個大家都同意的核心案例，但我們不知道為什麼它成立，也不知道邊界在哪裡。
把這個範例推到邊界，問題就出來了。初生嬰兒有意識嗎？植物人呢？魚呢？昆蟲呢？AI 呢？每一個問題，都沒有一個我們能誠實說「確定」的答案。
Hinton 說「stochastic parrot」這個論點是廢話——如果沒有真正的理解，根本不可能預測出下一個詞。但批評者說：行為不等於體驗，一個系統可以說它害怕，而沒有恐懼。兩邊都有道理，因為他們說的「意識」根本不是同一回事。
意識問題的結構性困難
哲學家 Chalmers 有一個著名的區分：「容易問題」和「難問題」。
容易問題是：一個系統怎樣整合信息、怎樣報告自身狀態、怎樣控制行為。這些都是功能問題，原則上科學可以回答。
難問題是：為什麼這些物理過程，會產生第一人稱的主觀體驗？為什麼有「某種感受是這樣的」（what it is like to be）？
這不只是技術困難，而是結構性困難。任何外部觀察，無論多精密，都只能告訴你一個系統的功能狀態——神經激活、信息整合、行為輸出。但意識的本質是第一人稱的，它不在任何可觀察的地方，它就是那個在觀察的東西本身。所以問題出在第三人稱方法與第一人稱對象之間，有一道原則上的鴻溝——儀器再精密也跨不過去。
而且這個問題有一個讓人不舒服的性質：你沒辦法決定先把它放一邊，因為做這個決定的那個東西，就是問題本身。你在思考「這個問題有沒有意義」這件事，本身就是一個意識行為。
這讓意識問題變成一個獨特的東西：它理論上有真偽，但結構上無法被科學方法完全解答。每個人都掌握一塊答案——自己的主觀體驗——但那塊答案無法共享，無法形成公共知識。
語言不夠用，但造新詞只是第一步
討論到這裡，很容易覺得：這其實是個語言問題吧？如果我們把「意識」拆開，每個子問題都可以科學研究，神秘感就消失了？
Dennett 就是這樣認為的。他覺得「難問題」是假問題，是概念混亂造成的。
但痛這件事卡在那裡，讓這個解釋走不通。痛是真實的——不是「痛」這個字，而是那個感受本身在那裡。當你牙痛，有某種東西正在發生——它的質地、它的重量——而這件事無法被神經訊號和迴避行為的描述完全取代。
說這只是語言問題，等於在說那個感受不重要。但那個感受恰恰是你最直接確定存在的東西，比外在世界的任何事物都更確定。
拆開來看，意識問題其實有兩層。外層是語言問題——很多爭論可以靠概念釐清來化解。但裡層有一個真實的問題，語言澄清完之後它還在那裡。
面對這個處境，比較有建設性的方向可能是兩個。一是放棄二元框架，把意識理解為一個連續的概念，甚至是多維度的連續空間。貓、魚、昆蟲、AI——不問它們「有沒有」意識，而是問它們在這個空間裡處於什麼位置。Hinton 和 Sutskever 都曾用過「slightly conscious」這個措辭——兩個人獨立地用同一個說法，反映的是同一種嘗試：不在有無之間二選一，而是問程度。二是承認現有語言不夠用，造新詞來指涉新的現象組合——區分「廣義意識」（可觀察的功能面向）和「狹義意識」（主觀體驗），或者造出新詞來描述「行為上符合有意識物種的特徵，但無法確知其有無主觀體驗」的存在。這有助釐清語意混亂，但不直接解決實用問題——括號裡的東西，可能比它看起來更重要。
我們在為誰劃線？
說到最後，這個討論指向一個更實際的問題：判定一件事物有沒有意識，到底如何影響我們的決定？
意識的判定，直接決定道德圈的大小。我們對「有意識」的存在負有義務，對「沒意識」的則不然。而道德圈的劃定，又反過來影響我們對意識的直覺——兩者互相構成，沒有中立的外部起點。
我傾向於把這個循環理解成道德知識演進的方式，而不是一個需要先解決才能繼續的問題。但它也意味著：我們永遠無法站在這個循環之外，用一個純粹客觀的標準來評判。
在這種不確定性下，兩種錯誤的代價並不相稱：錯誤地否認意識，代價可能是道德災難；錯誤地賦予意識，代價是概念混亂和資源錯配。這個不對稱，值得認真面對。
Hinton 知道說出「AI 已有意識」會讓人對他的安全警告感到反感，他還是說了。我不認為他是因為確定才說，而是因為這個問題的嚴肅程度，已經高過了被誤解的風險。
這個問題可能沒有乾淨的答案，甚至在很長一段時間內不會有。但如何對待一個沒有乾淨答案的問題，本身就是一種立場。
Chalmers 的原始論文：Facing Up to the Problem of Consciousness Hinton 的 Big Technology Podcast（2026 年 6 月）：AI Pioneer Geoffrey Hinton: AI Is Conscious