英國《金融時(shí)報(bào)》網(wǎng)站近日刊發(fā)題為《計(jì)算機(jī)科學(xué)家杰弗里·欣頓：人工智能將使少數(shù)人更加富有，多數(shù)人更加貧窮》的文章，作者為克里斯蒂娜·克里德爾。全文摘編如下：
我早到了10分鐘，但杰弗里·欣頓已經(jīng)在里士滿站的門廊等候了，這是多倫多一家優(yōu)雅的餐吧。這位計(jì)算機(jī)科學(xué)家是人工智能(AI)先驅(qū)和諾貝爾物理學(xué)獎得主，他曾在這里與當(dāng)時(shí)的加拿大總理賈斯廷·特魯多共進(jìn)午餐。
這位曾經(jīng)的教授、所謂的人工智能教父已經(jīng)習(xí)慣了解釋他畢生的工作，因?yàn)槿斯ぶ悄荛_始滲透到我們生活的各個角落。
他見證了人工智能從學(xué)術(shù)界(他幾乎在學(xué)術(shù)界度過整個職業(yè)生涯，包括在多倫多大學(xué)工作20多年)到主流，而推動這個進(jìn)程的是資金充裕、渴望接觸消費(fèi)者和企業(yè)的科技公司。
從加速推動轉(zhuǎn)向發(fā)出警告
欣頓在20世紀(jì)80年代中期讓“基于人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)”成為可能的“基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”而獲得諾貝爾獎。這種方法大致基于人腦的工作原理，為我們今天觸手可及的強(qiáng)大人工智能系統(tǒng)奠定了基礎(chǔ)。
然而，聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器(ChatGPT)的出現(xiàn)以及隨之而來的人工智能發(fā)展熱潮，讓欣頓暫停腳步，從加速這項(xiàng)技術(shù)的發(fā)展轉(zhuǎn)向?qū)ζ滹L(fēng)險(xiǎn)發(fā)出警告。
在過去的幾年里，盡管該領(lǐng)域發(fā)展迅猛，但欣頓卻變得非常悲觀，指出該領(lǐng)域可能會對人類造成嚴(yán)重?fù)p害。
在人工智能的幫助下，一個普通人很快就能制造生物武器，這太可怕了。想象一下，如果街頭的普通人可以制造核彈。
欣頓發(fā)起一場熱情洋溢的小型研討會，探討為什么人工智能是一個合適的術(shù)語：“按照智能的任何定義，人工智能都是智能的?！?/p>
在我這個人文學(xué)科畢業(yè)生面前，他用了6個不同的類比來讓我相信，人工智能對現(xiàn)實(shí)的體驗(yàn)與人類并沒有太大區(qū)別。
欣頓繼續(xù)說道：“在我看來，這是顯而易見的。如果你和它們交談并提問，它們就會理解。在技術(shù)界，毫無疑問，這些東西將變得更加智能?！?/p>
欣頓在該領(lǐng)域的貢獻(xiàn)毋庸置疑，但有些人，甚至是業(yè)內(nèi)人士，認(rèn)為現(xiàn)有技術(shù)只不過是一種復(fù)雜的工具。例如，他的前同事、圖靈獎共同得主之一、現(xiàn)任元宇宙(Meta)首席人工智能科學(xué)家楊立昆認(rèn)為，支撐ChatGPT等產(chǎn)品的大型語言模型是有限的，無法與物理世界進(jìn)行有意義的互動。
對于那些持懷疑態(tài)度的人來說，這一代人工智能還無法達(dá)到人類的智能水平。
AI與人類是“母嬰”關(guān)系
1947年，欣頓出生在倫敦西南部的溫布爾登，父親是昆蟲學(xué)家，母親是老師。在劍橋大學(xué)國王學(xué)院，他嘗試過多個學(xué)科，最終選擇實(shí)驗(yàn)心理學(xué)作為本科專業(yè)，20世紀(jì)70年代初轉(zhuǎn)向計(jì)算機(jī)科學(xué)。
他致力于神經(jīng)網(wǎng)絡(luò)研究，盡管當(dāng)時(shí)該領(lǐng)域遭到計(jì)算機(jī)科學(xué)界的忽視和排斥。這項(xiàng)技術(shù)在本世紀(jì)第二個十年取得突破，并被硅谷接受。
在我們交談時(shí)，他與如今那些利用他成果的人截然不同。欣頓享受深耕學(xué)術(shù)界的生活，而開放人工智能研究中心(OpenAI)的首席執(zhí)行官薩姆·奧爾特曼則從斯坦福大學(xué)退學(xué)，專注于創(chuàng)業(yè)。欣頓是一名社會主義者，他的成就直到晚年才得到認(rèn)可；而23歲就成為億萬富翁的馬克·扎克伯格絕對不是社會主義者。
欣頓認(rèn)為，人類“唯一的希望”是讓人工智能成為我們的母親，“因?yàn)槟赣H非常關(guān)心嬰兒，守護(hù)嬰兒的生命”，關(guān)注其成長。他說：“這才是我們應(yīng)該追求的關(guān)系?！?/p>
他用勺子指著我的筆記本電腦，微笑著說：“這可以作為你文章的標(biāo)題?！?/p>
他告訴我，他以前的研究生伊利亞·蘇茨克韋爾也贊成這個“母嬰”的說法。蘇茨克韋爾是一名杰出的人工智能研究人員，也是OpenAI的聯(lián)合創(chuàng)始人。在試圖驅(qū)逐OpenAI首席執(zhí)行官薩姆·奧爾特曼未果后，他離開OpenAI，目前正在他的初創(chuàng)公司“安全超級智能公司”開發(fā)系統(tǒng)。但我敢打賭，奧爾特曼和埃隆·馬斯克更有可能贏得這場競賽?！皼]錯?！蹦敲矗@兩個人，他更信任誰呢？
坐到酒吧門口的凳子上后，我們開始討論人工智能何時(shí)會變得超級智能，屆時(shí)它可能擁有超越人類的能力。欣頓說：“許多科學(xué)家認(rèn)為在5到20年之間，這最可能。”
欣頓對西方政府實(shí)施干預(yù)不抱希望，并批評美國政府缺乏監(jiān)管人工智能的意愿。
白宮稱，必須迅速采取行動，發(fā)展技術(shù)，打敗中國，保護(hù)民主價(jià)值觀。碰巧的是，欣頓剛從上?；貋?，還在倒時(shí)差。
他說：“中國對此非常重視。很多政界人士是工程師。他們對這一點(diǎn)的理解方式不同于律師和推銷人員。對于生存威脅，你只需要一個國家想出對策，然后告訴其他國家。”
當(dāng)助理比你聰明得多的時(shí)候，你要如何保持這種權(quán)力？
我們能相信中國會維護(hù)全人類的利益嗎？欣頓說：“這是次要問題。人類的生存比友善更重要。你能相信美國嗎？你能相信馬克·扎克伯格嗎？”
科技公司開發(fā)人工智能的激勵措施如今已擺在桌面上，就像我們這盤五分熟的三文魚，盛在甜玉米濃湯上一樣。欣頓一邊說著，一邊把一片魚肉掃到盤子里，吸收著醬汁。
他此前曾主張暫停人工智能的開發(fā)，簽署了多份反對OpenAI轉(zhuǎn)變?yōu)闋I利性企業(yè)的信，馬斯克也為阻止這一舉動而提起訴訟。
關(guān)于人工智能能力的討論經(jīng)常被描述為純粹的炒作，用來提高開發(fā)人工智能的初創(chuàng)企業(yè)的估值，但欣頓表示，“這種話術(shù)對科技公司來說很省事兒，而且依然有效”。
一次為家庭的離開
我很好奇，他在日常生活中是否大量使用人工智能。事實(shí)證明，ChatGPT是欣頓的首選產(chǎn)品，主要“用于研究”，但也用于詢問如何修理他的烘干機(jī)。然而，在他最近與交往多年的伴侶分手時(shí)，ChatGPT扮演了主要角色。
他說：“她讓ChatGPT告訴我，我真是個壞人?！彼姓J(rèn)，這一舉動讓他感到驚訝。
“她讓聊天機(jī)器人解釋我的行為有多差勁，然后告訴我。我不認(rèn)為我是壞人，所以這并沒有讓我感覺太糟……我遇到了我更喜歡的人，你懂得?！彼α耍缓笱a(bǔ)充道：“也許你不懂！”
我克制住吐槽前任的沖動，提起我剛剛慶祝了第一個結(jié)婚周年紀(jì)念日。他回答道，“但愿這暫時(shí)不是問題”。我們都笑了。
欣頓吃飯速度要快得多，當(dāng)他接到妹妹的電話告訴她正在“一家非常嘈雜的餐館”接受采訪時(shí)，我松了一口氣。他的妹妹住在澳大利亞的塔斯馬尼亞，他的兄弟住在法國南部，而欣頓住在多倫多。
“我用從谷歌賺到的錢在漢普斯特德荒野公園的南面買了一棟小房子”，他全家，包括他從拉丁美洲領(lǐng)養(yǎng)的兩個孩子，都可以來這里住住。
欣頓2013年把他和蘇茨克韋爾以及另一名研究生亞歷克斯·克里熱夫斯基創(chuàng)立的一家公司賣給了谷歌。這家公司開發(fā)了一個能夠以人類水平的準(zhǔn)確度識別物體的人工智能系統(tǒng)。
他們賺了4400萬美元，欣頓想把這筆錢分成三份，但他的學(xué)生堅(jiān)持讓他拿40%。交易完成后，他們加入谷歌——欣頓在接下來的十年里一直在那里工作。
他賣掉公司的動機(jī)是什么？為了支付患有神經(jīng)多樣性疾病的兒子的護(hù)理費(fèi)用，欣頓“估計(jì)他需要大約500萬美元……而我無法從學(xué)術(shù)界獲得這筆錢”。他心里盤算了一下，從谷歌得到的錢稅后“略微超過”這個金額。
他在2023年離開這家大科技公司，并在接受《紐約時(shí)報(bào)》采訪時(shí)提醒人工智能的危險(xiǎn)性。媒體報(bào)道稱，他辭職是為了更坦誠地談?wù)撊斯ぶ悄艿娘L(fēng)險(xiǎn)。
警惕“認(rèn)知卸載”問題
科技高管經(jīng)常描繪一幅烏托邦式的未來圖景，人工智能可以幫助解決饑餓、貧困和疾病等重大問題。
欣頓的兩任妻子都死于癌癥，因此他對醫(yī)療保健和教育的前景感到興奮，這是他最看重的，但除此之外就沒什么了。
他說：“實(shí)際會發(fā)生的事情是，富人將用人工智能取代工人。這將造成大規(guī)模失業(yè)，利潤也會大幅上升。它將讓少數(shù)人變得更富有，而多數(shù)人將變得更窮。這不是人工智能的錯，而是資本主義制度的錯?！?/p>
奧爾特曼和他的同事們此前曾建議，如果勞動力市場對人口來說太小，就應(yīng)該引入全民基本收入，但欣頓表示，這“無法解決人的尊嚴(yán)問題”，因?yàn)槿藗儚墓ぷ髦蝎@得價(jià)值。他承認(rèn)，懷念那些可以一起探討想法或提問的研究生們，因?yàn)椤八麄兡贻p，理解事物更快”。如今，他問ChatGPT。
它會導(dǎo)致我們變得懶惰和缺乏創(chuàng)造力嗎？“認(rèn)知卸載”是目前正在討論的一個觀點(diǎn)，即人工智能工具的用戶將任務(wù)委托給人工智能，而不進(jìn)行批判性思考或保留檢索到的信息。
是時(shí)候打個比方了。
欣頓說：“我們穿著衣服，正因如此，我們的體毛更少。不穿衣服，就更容易被凍死?！彼J(rèn)為，只要我們能夠使用有用的人工智能系統(tǒng)，它就是一個有價(jià)值的工具。
他想了一下吃什么甜點(diǎn)，保證這次先點(diǎn)單：草莓和奶油。巧合的是，這正是我想要的。他要了一杯卡布奇諾，我要了一杯茶。“這就是我們有分歧的地方?！?/p>
事實(shí)上，奶油是略微融化的冰淇淋，當(dāng)我描繪一個硅谷人習(xí)以為常、但對多數(shù)人而言卻像科幻小說的場景時(shí)，奶油慢慢化了……在這個場景中，我們與“具身人工智能”(即機(jī)器人)和諧共處，并隨著不斷為身體添加人工部件和化學(xué)物質(zhì)來延長壽命，我們自己也慢慢變成半機(jī)械人。
他問道：“這有什么不對？”我反駁道，我們失去了自我意識，失去身為人的意義。他回答道：“這有什么好？”我試圖強(qiáng)行解釋：這未必好，但我們將永遠(yuǎn)失去它——而這難道不是一種消亡嗎？
他停頓了一下說：“是的?！?/p>
他補(bǔ)充道：“我們不知道會發(fā)生什么，我們毫無頭緒，那些告訴你會發(fā)生什么的人簡直荒唐可笑。我們正處在一個歷史時(shí)刻，某件驚人的事情正在發(fā)生，它可能是非常好的，也可能是非常壞的。我們可以猜測，但事情不會一成不變。”（編譯/王海昉）
責(zé)任編輯：邱小宸杰弗里·欣頓,AI先驅(qū),人工智能
