“人工智能正在變得比人類更聰明，我想要‘吹哨’提醒人們應(yīng)該認(rèn)真考慮如何防止人工智能控制人類?！?

杰弗里·辛頓在接受外媒采訪時表示，他已于上周辭去在谷歌的工作，并就其長期推廣的AI技術(shù)風(fēng)險(xiǎn)發(fā)出警告。

杰弗里·辛頓被外界稱為“AI教父”，他對深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)（模仿人腦的數(shù)學(xué)模型）的研究幫助奠定了人工智能發(fā)展的基礎(chǔ)，并且已在AI領(lǐng)域默默深耕數(shù)十年。

AI技術(shù)會威脅人類的論調(diào)在科技圈已經(jīng)不是新鮮事了。杰弗里·辛頓表示，當(dāng)人們過去問他如何能研究有潛在危險(xiǎn)的技術(shù)時，他會引用“原子彈之父”羅伯特·奧本海默的話：“當(dāng)你看到某種技術(shù)上令人興奮的東西時，你就會去做。”

而現(xiàn)在，他的態(tài)度發(fā)生轉(zhuǎn)變，他決心站在狂熱的人工智能風(fēng)暴中心發(fā)出警告的聲音。

事實(shí)上，不止杰弗里·辛頓，就連馬斯克、阿爾特曼等一眾大佬都在公開場合表達(dá)過對AI未來發(fā)展的擔(dān)憂。

那么，在不可知的未來，AI真的是洪水猛獸嗎？

圖靈獎得主、“AI教父”杰弗里·辛頓在擔(dān)憂什么？

杰弗里·辛頓出生于1947年，是一位英國僑民。

早在2012年，杰弗里·辛頓和他在多倫多大學(xué)的兩名研究生Ilya Sutskever與Alex Krishevsky構(gòu)建的卷積神經(jīng)網(wǎng)絡(luò)在ImageNet大規(guī)模視覺識別挑戰(zhàn)賽中以巨大優(yōu)勢奪冠，將深度學(xué)習(xí)推向世人眼前。

2013年，杰弗里·辛頓創(chuàng)辦的DNNresearch 公司被谷歌收購，他也因此進(jìn)入谷歌，并為其效力近十年。2018年，辛頓因在概念和工程領(lǐng)域取得的突破獲圖靈獎。

作為神經(jīng)網(wǎng)絡(luò)技術(shù)的先驅(qū)、人工智能領(lǐng)域的開創(chuàng)者之一，杰弗里?辛頓為何會對自己奮斗了一輩子的AI事業(yè)感到擔(dān)憂呢？筆者總結(jié)了杰弗里?辛頓對于AI的擔(dān)憂，主要集中在以下三個方面。

首先，杰弗里?辛頓擔(dān)心人工智能會導(dǎo)致大量失業(yè)。在接受《紐約時報(bào)》采訪時，杰弗里?辛頓表示，他擔(dān)憂AI可能會導(dǎo)致某些工作機(jī)會減少。

事實(shí)也確實(shí)如此，ChatGPT爆火之后，國外已經(jīng)有游戲公司裁撤一大批原畫師。未來，按照人工智能的發(fā)展速度，它們很可能取代律師助理、翻譯、行政助理等其他任何基礎(chǔ)的、重復(fù)性的工作。就像杰弗里?辛頓所說，“它消除了苦差事，但帶走的可能遠(yuǎn)不止于此?！?

其次，杰弗里?辛頓擔(dān)心人工智能會創(chuàng)造出一個許多人“無法知道什么是真實(shí)的”世界，互聯(lián)網(wǎng)將很快被各種虛假信息淹沒。虛假圖像和文字大量充斥在網(wǎng)絡(luò)中，而普通人將越來越難分辨這些信息的真假，引發(fā)社會的失序。

再者，他還擔(dān)心人工智能技術(shù)接下來的發(fā)展會對人類社會構(gòu)成威脅，這也是AI技術(shù)發(fā)展最恐怖的一點(diǎn)。

杰弗里?辛頓承認(rèn)，在他們過去的研究之中，人工智能常常能從大量數(shù)據(jù)中學(xué)習(xí)進(jìn)而產(chǎn)生出很多讓人意想不到的行為。而且，AI已經(jīng)開始編寫和運(yùn)行自己的代碼，“自主殺手機(jī)器人”可能會成為現(xiàn)實(shí)。

“如果它變得比我們聰明得多，它就會非常擅長操縱，因?yàn)樗菑奈覀兩砩蠈W(xué)到的，而且很少有例子證明一個更聰明的東西會被一個更笨的東西控制，”杰弗里?辛頓在采訪中談到，“它知道如何編程，所以它會想出辦法繞過我們對它的限制。它會想出辦法操縱人們做它想要的事情?！?

面對人工智能的飛速發(fā)展，杰弗里?辛頓表示：“人們不應(yīng)該快速擴(kuò)大AI研究的規(guī)模，直到足夠了解自己是否能夠控制它。”

AI“遍地開花”，資本“笑臉相迎”

無獨(dú)有偶，除了杰弗里?辛頓之外，國際社會上有不少人都認(rèn)為人工智能會對人類產(chǎn)生不可逆轉(zhuǎn)的負(fù)面影響。

今年三月，1000多名技術(shù)領(lǐng)袖和研究人員簽署了一封公開信，呼吁暫停更先進(jìn)系統(tǒng)的開發(fā)6個月，理由是人工智能技術(shù)“對社會和人類構(gòu)成了深刻的風(fēng)險(xiǎn)”。

不久之后，擁有40多年歷史、人工智能領(lǐng)域最權(quán)威學(xué)術(shù)機(jī)構(gòu)之一的人工智能促進(jìn)協(xié)會（AAAI）的19名現(xiàn)任及前任領(lǐng)導(dǎo)人也發(fā)布了聯(lián)名信，其中包括了微軟現(xiàn)任首席科學(xué)家、人工智能研究專家Eric Horvitz。 

盡管反對的聲音此起彼伏，但事實(shí)上，AI技術(shù)已經(jīng)廣泛運(yùn)用到我們的日常生活里，比如語音識別、人臉識別、圖片檢索、機(jī)器翻譯、自動駕駛等……

資本市場對AI技術(shù)也采取肯定態(tài)度。以ChatGPT母公司OpenAI為例，近期，OpenAI完成103億美元融資，估值也水漲船高，達(dá)到270億-290億美元（約合人民幣2000億元），OpenAI堪稱全球最新成長速度最快的獨(dú)角獸。

而且，OpenAI背后的投資人也可謂是大佬云集。本次融資分為兩部分：一是由老虎環(huán)球管理、紅杉資本、加州Andreessen Horowitz、紐約Thrive和K2 Global、Founders Fund等參與的財(cái)務(wù)投資，金額超3億美元；二是由微軟主導(dǎo)的戰(zhàn)略投資，規(guī)模據(jù)大約100億美元。

放眼國內(nèi)也是如此。阿里騰訊百度等互聯(lián)網(wǎng)大廠都在做發(fā)力AI，也有不少創(chuàng)業(yè)公司靠著AI概念爆火。比如，百度的“文心一言”、阿里的“通義千問”、王小川的“百川智能”、商湯科技的日日新SenseNova大模型、昆侖萬維的大語言模型“天工3.5”……

據(jù)《首席商業(yè)評論》不完全統(tǒng)計(jì)，國內(nèi)科大訊飛、萬興科技、藍(lán)色光標(biāo)、中文在線等超300家企業(yè)宣布布局AI賽道。

天下熙熙皆為利來，天下攘攘皆為利往。在資本和政策的雙重推動下，人工智能的發(fā)展將會不可避免的加速。而潘多拉魔盒一旦被打開，就很難被關(guān)閉。技術(shù)的發(fā)展和人類的開悟也是一樣，是不可逆的。

正如谷歌首席科學(xué)家Jeff Dean在一份聲明中回應(yīng)的那樣，“我們?nèi)匀恢铝τ谝载?fù)責(zé)的方式對待人工智能。我們將不斷學(xué)習(xí)以面對即將出現(xiàn)的風(fēng)險(xiǎn)，同時仍持續(xù)大膽創(chuàng)新?！?nbsp;

AI真的是洪水猛獸嗎？

“人工智能覺醒之日，就是人類文明滅亡之時?！?

在科技圈，有不少大佬悲觀地?cái)嘌?，AI會對人類造成毀滅性打擊。已故的物理學(xué)家霍金也曾預(yù)言，AI可能會成為完全取代人類的新生命體，就連OpenAI的創(chuàng)始人阿爾特曼也在一次采訪中表示，“AI確實(shí)可能殺死人類?！?

那些曾經(jīng)存在于《機(jī)器姬》、《銀翼殺手》等電影里的情節(jié)，如今似乎正在走向現(xiàn)實(shí)。

AI于人類而言，真的是洪水猛獸嗎？

首席采訪了一位資深行業(yè)人士，他表示“（杰弗里?辛頓）還是擔(dān)心潛在影響，擔(dān)心機(jī)器產(chǎn)生自我意識，失去控制，給人類造成不可預(yù)估的負(fù)面影響，但如果可控是沒有問題的?！?

這已經(jīng)不是業(yè)內(nèi)人士第一次提到“可控”。上海市人工智能行業(yè)協(xié)會秘書長鐘俊浩也曾公開對媒體表示，比起失控的技術(shù)，更有可能失控的是用技術(shù)來為非作歹的‘人’，防止人工智能作惡，關(guān)鍵在于控制背后的人。

就連杰弗里?辛頓也曾強(qiáng)調(diào)可控的重要性。辛頓稱，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監(jiān)管，這場競爭將不會停止，人工智能發(fā)展的速度會遠(yuǎn)超我們的想象，并最終走向失控。

AI行業(yè)正在由內(nèi)向外呼吁監(jiān)管。事實(shí)上，ChatGPT出圈后，以大模型為底座的人工智能在全球范圍爆火，各國政府都已經(jīng)為人工智能技術(shù)和應(yīng)用的發(fā)展“系上安全帶”。

今年4月11日，我國網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，提出21條舉措，用規(guī)章制度防范人工智能技術(shù)手段濫用行為，促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。

歐盟對人工智能的重點(diǎn)是應(yīng)對公司用于開發(fā)其生成人工智能模型數(shù)據(jù)集的版權(quán)問題。當(dāng)前許多生成模型拒絕披露其數(shù)據(jù)源。歐盟修訂后的 AI 法案將要求這些公司公開數(shù)據(jù)集，這將為 AI 開發(fā)人員提供一個合法來源的參考。

美國政府更關(guān)注人工智能對隱私、有害信息擴(kuò)散和經(jīng)濟(jì)的潛在影響。前不久，美國民主黨人提出了一項(xiàng)法案，要求政治廣告披露人工智能的使用情況。

目前，針對人工智能的態(tài)度整體上可以分為“暫停半年派”、“擁抱未來派”和“徹底封禁派”三派，但關(guān)于共同加強(qiáng)AI監(jiān)管、預(yù)防潛在性危險(xiǎn)發(fā)生的觀點(diǎn)，社會各界的看法幾乎都是一致的。 

事實(shí)上，沒有人能斷定AI未來的發(fā)展，我們只能謹(jǐn)小慎微地推測AI可能帶來的風(fēng)險(xiǎn)并加以預(yù)防。

這點(diǎn)可以參考一下新技術(shù)歷史，在人類的歷史長河中，有不少新技術(shù)的出現(xiàn)都伴隨著爭議。

比如，核能發(fā)現(xiàn)之后，給人類生活帶來了雙重影響。一方面，核能可以用少量的核燃料產(chǎn)生大量的能量、低污染、運(yùn)輸方便，成本低廉。

另一方面，核電廠的反應(yīng)器內(nèi)有大量的放射性物質(zhì)，如果發(fā)生核泄漏事故，會對生態(tài)及民眾造成嚴(yán)重傷害，并且與其他可再生能源相比，核能并不是一種絕對安全的能源。

AI技術(shù)迅猛發(fā)展已經(jīng)是不爭的事實(shí)，但AI技術(shù)是否會對人類造成毀滅性影響，我想，每個人都有自己的看法。

技術(shù)沒有對和錯，錯的只可能是人心。

時間回到2015年，在OpenAI誕生之初，就確立了公司創(chuàng)立的初心是“確保人工智能不會消滅人類?！?

當(dāng)時，馬斯克曾與阿爾特曼討論過一個問題：“為了人類的未來，我們擁有的最美好的事物是什么？”

馬斯克回答：“是人性。”