Computer scientist Geoffrey Hinton: ‘AI will make a few people much richer and most people poorer’

“人工智能教父”談人類“唯一的希望”、中國何以具備優勢——以及機器何時將超越人類。

2025年9月5日

© 詹姆斯·弗格森

我提前了10分鐘到達，杰弗里·辛頓卻已在多倫多里士滿車站酒店（一家雅致的美食酒吧）的前廳等候。這位計算機科學家——人工智能領域的先驅、諾貝爾物理學獎得主——選擇這個地方，是因為他曾在這里與當時的加拿大總理賈斯汀·特魯多共進午餐。

我們穿過一個裝修風格偏工業風、頗具時尚感的葡萄酒吧，來到熱鬧的里間，這里早已坐滿了食客。辛頓取下那個略顯陳舊的綠色“谷歌科學家”背包（來自他曾任職的公司），由于長期受背傷困擾，他把背包墊在身下，以便坐得更直。

他有著像貓頭鷹般的神態，白發塞在眼鏡框下方。他低頭看著我，問我在大學學的是什么專業。“因為如果對方擁有理學學位，你解釋事情的方式就得不一樣。”我并沒有理學學位。不過至少特魯多“懂微積分”。

這位被稱作“人工智能教父”的學者，早已習慣向他人講解自己畢生的研究——如今這項研究正逐漸滲透到我們生活的各個角落。他見證了人工智能從學術界（他幾乎整個職業生涯都在學術界度過，其中在多倫多大學任職超過20年）走向主流：資金雄厚的科技公司渴望觸達消費者與企業，為人工智能的普及注入了動力。

辛頓因20世紀80年代中期的“基礎性發現與發明”獲得諾貝爾獎，這些成果為“基于人工神經網絡的機器學習”奠定了基礎。這種方法大致借鑒了人類大腦的工作原理，為我們如今觸手可及的強大人工智能系統打下了根基。

然而，ChatGPT的問世以及隨之而來的人工智能發展熱潮，讓辛頓停下了腳步。他不再推動這項技術加速發展，而是開始警示其潛在風險。過去幾年，隨著人工智能領域的飛速進步，辛頓的態度變得愈發悲觀，他指出這項技術可能會給人類帶來嚴重危害。

“借助人工智能的普通人，很快就能制造生物武器，這太可怕了。試想一下，如果街上隨便一個普通人都能制造核彈，后果會怎樣？”

在兩個小時的午餐時間里，我們的話題廣泛：從核威脅（“借助人工智能的普通人，很快就能制造生物武器，這太可怕了。試想一下，如果街上隨便一個普通人都能制造核彈，后果會怎樣？”），到他自己使用人工智能的習慣（稱其“極其有用”），再到聊天機器人如何意外成為他上一段戀情破裂中的“第三者”。

不過，辛頓首先興致勃勃地開啟了一場小型“研討會”，解釋為何“人工智能”是一個恰當的術語：“無論從何種定義來看，人工智能都是具備智能的。”注意到面前的我是人文社科專業出身，他用了六七個不同的類比，試圖讓我相信人工智能對現實的感知與人類并無太大差異。

“在我看來，這很明顯。如果你和這些人工智能系統對話、向它們提問，會發現它們是能理解的，”辛頓接著說，“在技術領域，幾乎沒人懷疑這些系統會變得越來越智能。”

服務員過來致歉，打擾了我們的談話。辛頓沒有點葡萄酒，而是選擇了氣泡水而非自來水，理由是“這次由《金融時報》買單”，并提議點套餐。我點了西班牙冷湯作為前菜，主菜選了三文魚。他毫不猶豫地跟我點了一樣的，笑著說其實自己“本來想點些不一樣的”。

辛頓在人工智能領域的地位毋庸置疑，但業內仍有一些人認為現有技術不過是一種復雜的工具。例如，他的前同事、圖靈獎共同得主楊立昆（Yann LeCun）（現任Meta公司首席人工智能科學家）就認為，支撐ChatGPT等產品的大型語言模型存在局限性，無法與物理世界進行有意義的互動。在這些懷疑者眼中，這一代人工智能不具備人類智能。

“我們對自身思維的了解其實非常有限，”辛頓說，但對于人工智能系統，“是我們創造了它們、構建了它們……我們對其的理解程度遠超對人類大腦的理解，因為我們清楚每個‘神經元’在做什么。”他說話時充滿篤定，但也承認存在許多未知。在整個交談過程中，他并不介意長時間陷入思考停頓，最后常以“我不知道”或“沒頭緒”收尾。

1947年，辛頓出生于倫敦西南部的溫布爾登，父親是昆蟲學家，母親是教師。在劍橋大學國王學院就讀時，他曾輾轉多個專業，最終本科選擇了實驗心理學，并在20世紀70年代初轉向計算機科學。盡管在21世紀10年代硅谷接納人工神經網絡技術之前，該領域一直被計算機科學界忽視和否定，但辛頓始終堅持對神經網絡的研究。

交談中不難發現，他與如今運用他研究成果的人截然不同。辛頓深耕學術界多年，而薩姆·奧爾特曼（OpenAI首席執行官）卻從斯坦福大學輟學，專注于創業；辛頓是一名社會主義者，其成就遲至晚年才得到廣泛認可；而馬克·扎克伯格（Meta創始人）23歲就成為億萬富翁，與社會主義理念相去甚遠。

我們喝著湯時，餐廳里嘈雜的聲音與辛頓輕聲卻嚴肅地談論人類生存問題的氛圍形成了刺耳的反差。他熱切地闡述了人類如何應對現代人工智能系統的部分風險——這些系統由“雄心勃勃且極具競爭性的人”開發，他們將人工智能視為未來的個人助手。這聽起來似乎并無危害，但辛頓并不這么認為。

“如果助手比你聰明得多，你該如何保持對它的掌控力？目前我們所知的‘高智能生物被低智能生物掌控’的案例只有一個，那就是母親和嬰兒……如果嬰兒無法掌控母親，就無法存活。”

辛頓認為，人類“唯一的希望”是將人工智能設計成“人類的母親”，“因為母親會極度關心嬰兒，保障嬰兒的生命安全”，并助力其成長。“這正是我們應該努力構建的（人與人工智能的）關系。”

“這可以作為你文章的標題，”他笑著指了指我的筆記本說道。

他告訴我，他之前的博士生伊利亞·薩茨凱弗認同這種“母子關系”的觀點。薩茨凱弗是頂尖的人工智能研究者、OpenAI聯合創始人，此前因試圖罷免首席執行官薩姆·奧爾特曼失敗而離開OpenAI，目前在自己創辦的“安全超級智能”公司開發相關系統。我問他，奧爾特曼和埃隆·馬斯克（特斯拉CEO）誰更有可能在人工智能競賽中勝出。他回答：“嗯，不好說。”那在這兩人中，他更信任誰呢？

他停頓了許久，隨后回憶起2016年共和黨參議員林賽·格雷厄姆被問及在總統候選人中選擇唐納德·特朗普還是特德·克魯斯時說的話：“這就像在‘被槍殺’和‘被毒死’之間選一個。”

說完這話，辛頓提議換到更安靜的地方。我試圖引起服務員的注意——他們正忙著招待滿座的客人。沒等我開口，他突然站起來開玩笑說：“我去跟他們說，就說我之前和特魯多一起來過這兒。”

我們最終在門口的吧臺高腳凳上坐下，接著討論人工智能何時會發展到“超級智能”階段——屆時它可能具備超越人類的能力。“很多科學家認為，最有可能的時間范圍是5到20年。”

我們的菜單

氣泡水（2杯） 6加元

套餐（2份） 98加元

- 庫克鎮西班牙冷湯

- 不倫瑞克三文魚

草莓奶油（2份） 20加元

卡布奇諾 7加元

英式早餐茶 4加元

總計（含稅費） 152.55加元（約合110.65美元）

盡管辛頓對自己的命運有著清醒的認知——“我已經77歲了，反正生命也快走到盡頭了”——但許多年輕人可能會因他對未來的看法而感到沮喪。這些年輕人該如何保持樂觀呢？

“我很想說‘他們為什么要保持樂觀？’或許不那么樂觀，他們反而會做得更多。”他用一個問題回答了我的問題——這是他常有的習慣。

“假設你通過望遠鏡看到外星人將在10年后入侵地球，你會問‘我們該如何保持樂觀’嗎？不會的，你會問‘我們到底該怎么應對’。如果‘保持樂觀’意味著假裝危險不會發生，那人們根本沒必要樂觀。”

辛頓對西方政府的干預并不抱希望，他還批評美國政府缺乏監管人工智能的意愿。而白宮則表示，必須加快人工智能技術的發展。事實上，辛頓剛從上海回來，還帶著時差，此前他在上海與中方人士舉行了會談。中方邀請他討論“人工智能帶來的生存威脅”。

“中國非常重視這個問題。很多政界人士是工程師出身，他們對人工智能的理解，是律師和商人無法比擬的，”他補充道，“對于生存威脅這類問題，只要有一個國家找到解決辦法，就能告訴其他國家。”

“如果助手比你聰明得多，你該如何保持對它的掌控力？”

我們能信任中國會維護全人類的利益嗎？“這是次要問題。人類的生存比‘一切向好’更重要。你能信任美國嗎？你能信任馬克·扎克伯格嗎？”

此時，我們點的三分熟三文魚（鋪在甜玉米濃湯上）上桌了，話題也轉向了科技公司開發人工智能的動機。辛頓一邊說著，一邊用叉子叉起一塊三文魚，在盤子里蘸滿醬汁。

他此前曾呼吁暫停人工智能發展，并在多封反對OpenAI轉型為營利性公司的信上簽名。目前，馬斯克正通過一場尚未了結的訴訟，試圖阻止OpenAI的這一轉型。

人們常說，對人工智能能力的渲染不過是科技公司為推高估值而制造的噱頭，但辛頓認為，“一種說法可能對科技公司有利，同時也可能是事實”。

我很好奇他在日常生活中是否經常使用人工智能。事實證明，ChatGPT是他的首選，主要用于“研究”，但也會用它來查詢諸如“如何修理烘干機”之類的問題。不過，這款聊天機器人還意外卷入了他上一段持續數年的戀情中。

“她讓ChatGPT寫了我有多‘渣’，”他坦言，當時這個舉動讓他很意外，“她讓聊天機器人羅列我的行為有多糟糕，然后把內容發給了我。我并不覺得自己有多渣，所以也沒太往心里去……后來我遇到了更喜歡的人，你懂的，感情就是這樣。”他笑了笑，接著說：“或許你還沒經歷過這種事！”

我克制住了想聊自己過往感情經歷的沖動，轉而提到我剛慶祝完結婚一周年。“希望你暫時不會遇到這種感情問題，”他回應道，我們都笑了起來。

辛頓吃飯速度快得多，所以當他接到姐姐的電話時，我松了口氣。他告訴姐姐，自己正在“一家非常吵的餐廳”接受采訪。他的姐姐住在塔斯馬尼亞（“她很想念倫敦”），哥哥住在法國南部（“他也想念倫敦”），而辛頓住在多倫多（當然，他也想念倫敦）。

“所以我用從谷歌賺的錢，在（漢普斯特德）希斯南部買了一棟小房子”，他的家人——包括兩個從拉丁美洲收養的孩子——都可以去那里團聚。

辛頓的“谷歌收入”源于2013年出售一家公司的交易。當時，他與薩茨凱弗以及另一名博士生亞歷克斯·克里澤夫斯基共同創辦了這家公司，開發出了一套能以“人類水平”識別物體的人工智能系統。這筆交易的成交價為4400萬美元。辛頓本想三人平分這筆錢，但他的學生堅持讓他拿40%。交易完成后，他們都加入了谷歌——辛頓在那里工作了10年。

他出售公司的動機是什么？為了給患有神經多樣性障礙的兒子支付護理費。辛頓“當時估算，大概需要500萬美元……而這筆錢靠學術界的收入是不可能實現的”。他在心里算了筆稅后收入賬，發現從谷歌獲得的錢“剛好略多于”這個目標。

2023年，他離開了這家科技巨頭，并接受了《紐約時報》的采訪，警示人工智能技術的風險。當時有媒體報道稱，他辭職是為了更坦誠地談論人工智能的風險。

“每次接受記者采訪，我都會糾正這個誤解，但從來沒用，因為‘辭職發聲’是個很有話題性的故事，”他說，“我離開谷歌是因為我已經75歲了，編程能力大不如前，而且網飛（Netflix）上還有很多我沒來得及看的劇。我努力工作了55年，覺得是時候退休了……而且我想，反正都要離開了，不如趁機談談人工智能的風險。”

科技公司高管們常常描繪一幅“人工智能烏托邦”的圖景：未來，人工智能將幫助解決饑餓、貧困、疾病等重大問題。辛頓的兩任妻子都因癌癥去世，因此他對人工智能在醫療領域的應用前景感到興奮；教育也是他十分關心的領域，同樣讓他充滿期待，但除此之外，他對人工智能在其他領域的應用興趣不大。

“我們正處在一個歷史性時刻：一件不可思議的事情正在發生，它可能帶來不可思議的好處，也可能造成不可思議的危害。”

“實際情況會是，富人會利用人工智能取代勞動者，”他說，“這將導致大規模失業，同時企業利潤大幅上升。最終，少數人會變得極其富有，而大多數人會變得更貧窮。這不是人工智能的錯，而是資本主義制度的問題。”

奧爾特曼等科技高管此前曾提議，如果勞動力市場規模縮小到無法容納全部人口，可推行“全民基本收入”制度。但辛頓認為，這一制度“無法解決人的尊嚴問題”，因為人們會從工作中獲得價值感。他坦言，自己很想念以前和博士生一起探討想法、請教問題的時光——“他們年輕，理解事情更快”。如今，他會轉而向ChatGPT提問。

這會不會導致人類變得懶惰、缺乏創造力？目前，“認知卸載”是一個熱門話題，指的是人工智能使用者將任務交給機器，而不進行批判性思考，也不記憶獲取的信息。對此，辛頓又用了一個類比來解釋。

“我們穿衣服，因為穿衣服，體毛變得更少了。如果不穿衣服，我們更容易凍死。”在辛頓看來，只要能獲取有用的人工智能系統，它就是一種有價值的工具。

他看了看甜點菜單，這次特意先點了單：草莓奶油。巧合的是，這也是我想吃的。他點了一杯卡布奇諾，我則點了一杯茶。“這下我們的選擇不一樣了。”

事實上，甜點里的“奶油”是略微融化的冰淇淋，我一邊用勺子攪拌著化成液體的冰淇淋，一邊向他描述了一個在硅谷常見、但對大多數人而言仍像科幻故事的場景：未來，我們將與“實體人工智能”（即機器人）和諧共處，同時通過為身體植入人工部件、注射化學物質來延長壽命，逐漸變成“賽博格”（半人半機器）。

“這有什么不好的？”他問道。我反駁說，這樣我們會失去自我認知，忘記“做人的意義”。“‘做人的意義’就那么好嗎？”他回應道。我試圖進一步追問：“這不一定是‘好’，但我們將不再擁有‘人性’，這本質上不就是人類的滅絕嗎？”

“嗯，你說得有道理，”他停頓了一下，說道。

“我們不知道未來會發生什么，完全沒頭緒。那些告訴你未來會怎樣的人，都是在瞎扯，”他補充道，“我們正處在一個歷史性時刻：一件不可思議的事情正在發生，它可能帶來不可思議的好處，也可能造成不可思議的危害。我們可以猜測，但現狀絕不會一直持續下去。”

本文作者：克里斯蒂娜·克里德爾是英國《金融時報》科技記者，駐舊金山，主要報道人工智能領域新聞。