精彩試讀：
如果我們成功了
很久以前，我父母住在英國伯明翰大學附近。后來他們決定搬出這座城市，并把房子賣給了英語文學教授戴維•洛奇（David Lodge）。那時候，洛奇已經(jīng)是一位著名小說家了。我從未見過他，但我決定讀讀他的書：《換位》和《小世界》。書中的主要人物都是學者，他們從伯明翰搬到了加州伯克利。而我正是剛剛從伯明翰搬到伯克利的學者，這一系列的巧合似乎在提醒我要多多注意。
《小世界》中有一個特別的場景令我印象深刻。主人公是一位有抱負的文學理論家，他參加了一個重要的國際會議，并問一群領軍人物：“如果所有人都贊同你們的觀點，接下來會發(fā)生什么？”這個問題引起了恐慌，因為專家組成員更關心的是智力競賽，而不是弄清真相、獲得認同。當時我想到，我們可以對人工智能領域的領軍人物提出一個類似的問題：“如果你們成功了會如何？”該領域的目標一直是創(chuàng)造出達到或超越人類水平的人工智能，但人們很少或根本沒有考慮過，如果我們創(chuàng)造出了這樣的人工智能會發(fā)生什么。
幾年后，我和彼得•諾維格（Peter Norvig）開始編寫一本新的人工智能教科書，書的第一版于 1995 年出版。這本《人工智能》的最后一節(jié)題為“如果我們成功了會如何”，它指出了出現(xiàn)好結(jié)果和壞結(jié)果的可能性，但沒有得出明確的結(jié)論。到 2010 年第三版出版的時候，許多人終于開始考慮，創(chuàng)造超越人類的人工智能可能不是一件好事，但這些人大多是局外人，而不是主流的人工智能研究人員。到了2013 年，我開始相信這個問題不僅是主流的人工智能研究人員應該考慮的問題，而且可能是人類面臨的最重要的問題。
2013 年 11 月，我在倫敦南部一座久負盛名的藝術博物館——杜爾維奇繪畫館演講。聽眾大多是退休人員，他們不是科學家，但是普遍對智能問題感興趣，所以我只好做一次完全非技術性的演講。這似乎是一個在公共場合驗證我的想法的合適場所。在解釋了人工智能是什么之后，我提出了 5 個“人類未來最大事件”的候選選項：
1. 我們滅亡了（因為小行星撞擊、氣候災難、流行病等）。
2. 我們都能永生（醫(yī)學攻克了衰老）。
3. 我們發(fā)明了超光速旅行，征服了宇宙。
4. 高級外星文明造訪了我們。
5. 我們發(fā)明了超級人工智能。
我認為第 5 個候選選項，即我們發(fā)明了超級人工智能，將會勝出，因為如果可能，超級人工智能將幫助我們避免災難，實現(xiàn)永生和超光速旅行。它將代表我們文明的一次巨大飛躍，或者說一次突變。超級人工智能的到來在許多方面類似于高級外星文明的到來，但前者更有可能發(fā)生。也許最重要的是，人工智能不同于外星人，它是我們對其有發(fā)言權(quán)的東西。
然后，我讓聽眾想象一下，如果我們收到一個來自高級外星文明的通知，說它們將在 30 到 50 年后到達地球，會發(fā)生什么。 “亂作一團”這個詞并不能準確地描述這種情景。然而，我們對超級人工智能即將到來的反應卻是……“冷淡”。（在后面的演講中，我用圖 1 所示的電子郵件交流的形式對此進行了說明。）最后，我將超級人工智能的意義解釋為：超級人工智能的成功將是人類歷史上最重大的事件……或許是人類歷史上的最后一個事件。
在那之后幾個月，也就是 2014 年 4 月，我在冰島參加一個會議，美國國家公共廣播電臺打來電話，問我是否可以接受他們的采訪，談談剛剛在美國上映的電影《超驗駭客》。雖然我已經(jīng)看過了劇情概要和影評，但我還沒有看過電影，因為我當時住在巴黎，電影要到 6 月才會在巴黎上映。然而碰巧的是，我在從冰島回家的路上繞道去了波士頓，參加美國國防部的一個會議。所以，到達波士頓洛根機場后，我乘出租車去最近的電影院看了這部電影。我坐在第二排，看到約翰尼•德普飾演的加州大學伯克利分校人工智能教授遭到了對超級人工智能存有擔憂的“反人工智能激進分子”的槍擊。我不由自主地癱倒在座位上。（又是巧合在警示我嗎？）在這名教授死去之前，他的意識被上傳到一臺量子超級計算機上，這臺計算機迅速超越了人類的能力，威脅要接管世界。
2014 年 4 月 19 日，我和物理學家邁克斯•泰格馬克（Max Teg-mark）、弗蘭克•威爾切克（Frank Wilczek）、史蒂芬•霍金（StephenHawking）合寫的關于《超驗駭客》的影評被發(fā)表在了《赫芬頓郵報》上。其中包括我在杜爾維奇繪畫館的演講中談到的人類歷史上最重大的事件。從那時起，我便公開承認，我的研究領域?qū)ξ易约核鶎俚奈锓N構(gòu)成了潛在危險。
我們?nèi)绾巫叩浇裉欤?/STRONG>
人工智能的起源可以追溯到很久以前，但它正式啟動是在 1956年。兩位年輕的數(shù)學家約翰•麥卡錫（John McCarthy）和馬文•明斯基（Marvin Minsky）說服了著名的信息論創(chuàng)始人克勞德•香農(nóng)（Claude Shannon）和 IBM（國際商業(yè)機器公司）第一臺商用計算機的設計者納撒尼爾•羅切斯特（Nathaniel Rochester）加入他們，一起在達特茅斯學院組織一個暑期項目。項目的目標如下：
這項研究基于一個猜想：“學習”的各個方面或“智能”的任何特征在原則上都可以被精確地描述出來，所以人們可以制造一臺機器來模擬“學習”或“智能”。人們試圖讓機器使用語言，形成抽象概念，解決現(xiàn)在人類面臨的各種問題，并讓機器自我改進。我們認為，一個精英科學家小組如果共同努力一個夏天，就可以在其中的一個或多個問題上取得重大進展。
不用說，我們花費的時間已經(jīng)遠遠超過了一個夏天，但我們?nèi)栽谂鉀Q這些問題。
在達特茅斯會議后 10 年左右的時間里，人工智能取得了幾項重大成功，包括艾倫•羅賓遜（Alan Robinson）的通用邏輯推理算法和阿瑟•塞繆爾（Arthur Samuel）的西洋跳棋程序，這個程序通過自學戰(zhàn)勝了它的創(chuàng)造者。第一次人工智能泡沫在 20 世紀 60 年代末破裂，當時，人們在機器學習和機器翻譯方面的早期努力沒能達到預期。英國政府在 1973 年委托撰寫的一份報告中總結(jié)道：“到目前為止，該領域的任何發(fā)現(xiàn)都沒有產(chǎn)生當初承諾的重大影響�！睋Q言之，這些機器不夠智能。
幸運的是，當時 11 歲的我并不知道這份報告。兩年后，我得到了一臺辛克萊劍橋可編程計算器，我想讓它變得智能。然而，辛克萊的程序有 36 步運算限制，這對于人類級別的人工智能來說還不夠大。我并沒有泄氣，而是使用倫敦帝國理工學院的CDC 6600超級計算機編寫了一個國際象棋程序——一沓兩英尺高的穿孔卡片。雖然這個程序不夠好，但是沒關系。我知道我想做什么。
到了 20 世紀 80 年代中期，我已經(jīng)成為加州大學伯克利分校的一名教授，由于所謂的“專家系統(tǒng)”的商業(yè)潛力，人工智能正在經(jīng)歷一次巨大的復興。當這些系統(tǒng)被證明無法完成人們指派給它們的許多任務時，第二次人工智能泡沫破裂了。同樣，這些機器也不夠智能。人工智能的寒冬隨之而來。我在伯克利開設的人工智能課程目前有 900多名學生，而在 1990 年，我只有 25 名學生。
人工智能界吸取了教訓：顯然，機器越智能越好，但我們必須做好功課才能做到這一點。這個領域與數(shù)學的關系變得尤為密切。人們將人工智能與歷史悠久的概率論、統(tǒng)計學和控制理論建立了聯(lián)系。今天，進步的種子是在那個人工智能的寒冬播下的，包括對大規(guī)模概率推理系統(tǒng)以及后來眾所周知的深度學習的早期研究。
從 2011 年前后開始，深度學習技術開始在語音識別、基于機器視覺的物體識別和機器翻譯方面取得巨大進步，以上是人工智能領域最重要的三個開放問題。從某些方面來看，機器在這些方面的能力已經(jīng)達到甚至超過了人類的能力。2016 年和 2017 年，DeepMind（英國人工智能公司）的 AlphaGo（阿爾法圍棋）擊敗了前世界圍棋冠軍李世石和后來的冠軍柯潔，而此前一些專家預測，這種事情如果會發(fā)生，也要到 2097 年才會發(fā)生。
如今，人工智能幾乎每天都會出現(xiàn)在媒體的頭條報道中。在大量風險投資的推動下，成千上萬家初創(chuàng)公司應運而生。數(shù)以百萬計的學生參加在線人工智能和機器學習課程，該領域?qū)＜业哪晷娇蛇_數(shù)百萬美元。來自風險基金、國家政府和大公司的投資每年達到數(shù)百億美元，該領域過去 5 年獲得的資金超過了其在先前整個歷史中所獲得的總額。無人駕駛汽車和智能個人助理等已經(jīng)在醞釀中的技術進步，很可能在未來 10 年左右對世界產(chǎn)生重大影響。人工智能潛在的經(jīng)濟效益和社會效益是巨大的，這為人工智能研究提供了巨大的動力。
接下來會發(fā)生什么？
這種快速的進步是否意味著我們即將被機器超越？不是。我們在擁有類似的具有超人類智能的機器之前，必須要實現(xiàn)幾項突破。
眾所周知，科學突破是很難預測的。為了了解到底有多難，我們可以回顧一下另一個領域的歷史，這個領域具有終結(jié)文明的潛力，那就是核物理學。
20 世紀初，也許沒有哪位核物理學家比質(zhì)子的發(fā)現(xiàn)者、“分裂原子的人”歐內(nèi)斯特•盧瑟福［Ernest Rutherford，圖 2（a）］更為杰出。與他的同事一樣，盧瑟福早就意識到原子核儲存了巨大的能量，然而，主流觀點認為開發(fā)這種能源是不可能的。
1933 年 9 月 11 日，英國科學促進協(xié)會在萊斯特舉辦年會，盧瑟福在晚間會議上發(fā)言。正如他之前幾次所做的那樣，他向原子能的前景潑了冷水：“任何想從原子的轉(zhuǎn)變中獲取能源的人都是異想天開�！钡诙煸缟希瑐惗亍短┪钍繄蟆穲蟮懒吮R瑟福的演講［圖 2（b）］。
匈牙利物理學家利奧•西拉德［Leo Szilard，圖 2（c）］那時逃離了納粹德國，住在倫敦羅素廣場的帝國酒店。他早餐時閱讀了《泰晤士報》的報道，隨后出去散步，仔細思考著報道的內(nèi)容，構(gòu)想出了中子誘發(fā)的鏈式核反應。在不到 24 小時的時間里，釋放核能的問題從不可能變成了已經(jīng)基本解決。次年，西拉德申請了核反應堆的保密專利。1939 年，法國頒發(fā)了第一項核武器專利。
這個故事的寓意是，與人類的聰明才智打賭是魯莽的，尤其是在我們的未來岌岌可危的時候。在人工智能界，一種否定主義正在出現(xiàn)，它甚至否定成功實現(xiàn)人工智能長期目標的可能性。這就像一名駕駛著載有全人類的公共汽車的司機說：“是的，我正盡我所能往懸崖邊開，但是相信我，在開到懸崖邊之前，我們的汽油會用完！”
我并不是說人工智能一定會成功，而且我認為人工智能在未來幾年內(nèi)成功的可能性不大。盡管如此，為可能發(fā)生的事情做好準備才是慎重之舉。如果一切順利，這將預示著人類進入黃金時代，但我們必須面對的事實是，我們正計劃著制造出遠比人類強大的實體。我們?nèi)绾未_保它們永遠不會掌控我們？
為了對我們正在玩的火有一個初步的了解，請思考一下內(nèi)容推薦算法在社交媒體中發(fā)揮的作用。雖然這些算法不是特別智能，但它們能夠影響整個世界，因為它們直接影響數(shù)十億人。通常，此類算法旨在最大限度地提高點擊率，即用戶點擊展示條目的概率。那么，解決方案就是簡單地展示用戶喜歡點擊的條目，對嗎？不對。正確的解決方案是改變用戶的偏好，從而使他們變得更可預測。對于更可預測的用戶，算法可以通過推送他們更可能會點擊的條目，而帶來更多收入。持有極端政治觀點的人往往更容易被預測出會點擊哪些條目。（頑固的中間派可能會點擊某一類文章，但算法很難想象這類文章由什么內(nèi)容組成。）與所有理性實體一樣，算法會學習如何修改它的環(huán)境狀態(tài)（在這個例子中是用戶的思想），從而使自身獲得的獎勵最大化。其后果包括法西斯主義復活，支撐世界民主的社會契約被解除，這甚至可能導致歐盟和北約的終結(jié)。區(qū)區(qū)幾行代碼在得到了人類的幫助后，就可以導致上述后果。現(xiàn)在想象一下，一個真正智能的算法能做什么？
AI新生
破解人機共存密碼——人類最后一個大問題
Human Compatible: Artificial Intelligence and the Problem of Control
《衛(wèi)報》（The Guardian）：今年關于人工智能最重要的一本書。
定價：88.00元
書號：ISBN 978-7-5217-1951-2
作者：斯圖爾特·羅素（Stuart Russell）
出版時間：2020年9月
頁數(shù)：376頁
裝幀：精裝
編輯推薦：
1. 在一個由超級AI主宰的世界里，人類如何保持獨立？
這本書提出一個大問題，給出一種解決方案。作者用三個大原則，一個“有益的AI”，帶你破解人機共存的密碼，這可能是人類面臨的最后一個大問題。
2. AI領軍人物，業(yè)界公認的“標準教科書”作者，時隔25年，打造全新燒腦之作。
作者認為，人類試圖將自己的目標灌輸給機器，是注定要失敗的嘗試。這本書倡導一種顛覆性的新方法——逆強化學習，讓機器根據(jù)人類行為，學習人類目標。
3. 埃隆•馬斯克、萬維鋼、姚期智、張宏江、黃鐵軍、周志華、周伯文、曾毅等專家鼎力推薦。
《思考，快與慢》作者丹尼爾•卡尼曼，《生命3.0》作者邁克斯•泰格馬克，《為什么》作者朱迪亞•珀爾，《深度學習》作者約書亞•本吉奧 專業(yè)背書！
內(nèi)容簡介：
從比爾•蓋茨、埃隆•馬斯克到霍金，眾多企業(yè)家和科學家都曾表示擔心AI對人類生存造成的威脅。真的有一天，人類會成為自己發(fā)明的機器的受害者嗎？
在過去相當長的一段時間里，人類之所以能控制地球，是因為人類的大腦比其他動物的大腦要復雜得多。但如果AI變得比人類更聰明，我們要如何掌控這個世界？智能是一種權(quán)力，我們能否控制智能，決定了我們未來的命運。
這本書講述了我們?yōu)槔斫夂蛣?chuàng)造智能，在過去、現(xiàn)在和未來所做的嘗試。這很重要，并不是因為AI正迅速成為當前的一種普遍現(xiàn)象，而是因為它是未來的主導技術。世界上的各個大國正在意識到這一事實，各家大公司也早就知道這一點。
作者在書中提出了一個大問題：如何破解人機共存密碼，掌控比我們強大得多的智能，讓AI獲得新生？這可能是人類面臨的最后一個大問題。這本書的目的是解釋為什么這可能是人類歷史上的最后一件事，以及如何確保這不會成為現(xiàn)實。
作者簡介：
© Peg Skorpinski
斯圖爾特·羅素（Stuart Russell）
加州大學伯克利分校計算機科學家，人類兼容人工智能中心（CHAI）主任，人工智能研究實驗室指導委員會（BAIR）成員。
世界經(jīng)濟論壇人工智能和機器人委員會副主席，美國科學促進會（AAAS）會士，美國人工智能協(xié)會（AAAI）會士。
曾與谷歌研究總監(jiān)彼得·諾維格合著，出版了人工智能領域里的“標準教科書”《人工智能》，該書被128個國家的1400多所大學使用。
獲得過多項科學榮譽，包括美國國家科學基金會總統(tǒng)青年研究員獎、國際人工智能聯(lián)合會議（IJCAI）計算機與思想獎、國際計算機學會（ACM）卡爾斯特朗杰出教育家獎等，并受邀在TED、世界經(jīng)濟論壇演講。
媒體及專家評論：
這本關于人工智能未來風險和解決方案的書值得一讀，作者羅素很棒！
埃隆·馬斯克（Elon Musk）
特斯拉創(chuàng)始人兼CEO
人工智能到底發(fā)展到了哪一步，未來會怎么發(fā)展，這本書代表主流專家意見，能讓你迅速獲得“當前科學理解”。作者是研究人工智能的教授，但書中并不過度討論技術，他關心更大的問題：人的偏好可以“算法化”嗎？人工智能是人類的威脅嗎？人能限制人工智能嗎？當前的答案并不樂觀。到最后，你會發(fā)現(xiàn)人工智能的問題首先是“人”的問題：我們其實并不了解我們自己。
萬維鋼
科學作家
“得到”App《精英日課》專欄作者
這是一本引人入勝的巨作，無論一般讀者還是人工智能專家都將從中獲得啟發(fā)。羅素教授對于超級智能這個人工智能的重大問題做出了深刻明確的分析。更重要的是，他提出了一個新穎的人機關系處理方案，為解決超級智能這個重要問題開辟了一個嶄新的研究方向。
姚期智
中國科學院院士
2000年圖靈獎得主
當人們?yōu)槿斯ぶ悄芗夹g的突飛猛進而歡呼雀躍，并期盼著超級人工智能到來時，我們不能忘了人類正面臨著一個非常關鍵的挑戰(zhàn)：如何確保人工智能的發(fā)展以人為本，基于人類的共同價值造福人類？這本書為我們帶來了羅素教授多年潛心的研究成果和深刻洞見，讀起來令人賞心悅目。
張宏江
智源研究院理事長
源碼資本投資合伙人
人類可能在不久的將來制造出超越自己的強人工智能，我很高興人工智能知名學者斯圖爾特·羅素教授不僅仔細推敲了這種可能性，還提出了一種巧妙的應對之策。
黃鐵軍
智源研究院院長
北京大學教授
創(chuàng)造出達到或超越人類水平的人工智能會怎么樣？超級人工智能的成功為什么可能是人類歷史上的最后一個事件？人類是否還有希望？人工智能經(jīng)典教科書作者斯圖爾特·羅素的這本書值得每位關心人工智能的人士閱讀。
周志華
南京大學人工智能學院院長
歐洲科學院外籍院士
自我們這一代人開始，科學地理解、探索、協(xié)同和管控超級智能機器，將變成一個越來越不能回避的嚴肅課題。如果說羅素的經(jīng)典教科書在過去幫助很多學者進入了人工智能研究領域，他的這本新書則將讓更多人思考如何創(chuàng)造更好的人機協(xié)同的未來。
周伯文
京東集團副總裁
書中倡議的構(gòu)建“盡可能安全且對人類有益的人工智能”應成為全球人工智能研究與實踐者的共同愿景。羅素論述的人工智能安全風險與人類自身的隱憂無疑將“確保人工智能的安全有益”這個重要挑戰(zhàn)長期置于未來人工智能研究的核心。
曾毅
中國科學院自動化研究所研究員
類腦智能研究中心副主任
智源研究院人工智能倫理與可持續(xù)發(fā)展研究中心主任
這是我在相當長的一段時間以來，讀到的非常重要的一本書。它清晰地解釋了超級人工智能時代的到來如何威脅到人類的控制權(quán)。至關重要的是，這本書還提出了一個新穎的解決方案，以及我們應該存有希望的原因。
丹尼爾·卡尼曼（Daniel Kahneman）
諾貝爾經(jīng)濟學獎得主，《思考，快與慢》作者
這是一場由人工智能先驅(qū)羅素帶來的智識之旅。羅素不僅以引人入勝且有說服力的方式解釋了人工智能帶來的風險，而且給出了一種切實可行的解決方案。
邁克斯·泰格馬克（Max Tegmark）
《生命 3.0》作者
與那些未來學家和警告人工智能風險的人不同，羅素是一位人工智能領域的專家。這本書比其他我所知的書更能教導公眾，而且這本書讀起來令人愉快、振奮人心。
朱迪亞·珀爾（Judea Pearl）
貝葉斯網(wǎng)絡之父，《為什么》作者
這本文筆優(yōu)美的書解決了人類面臨的一項基礎性挑戰(zhàn)：越來越智能的機器會按照我們的要求行事，卻不會按照我們的本意行事。如果你關心我們的未來，請務必閱讀。
約書亞·本吉奧（Yoshua Bengio）
2019 年圖靈獎得主，《深度學習》作者
目錄：
前 言 //V
01 如果我們成功了
我們?nèi)绾巫叩浇裉欤?//006 接下來會發(fā)生什么？ //008 出了什么問題？ //010 我們能解決嗎？ //013
02 人類和機器的智能
智能 //017 計算機 //035 智能計算機 //043
03 人工智能在未來會如何發(fā)展？
近未來 //067 超級人工智能何時到來？ //080 概念上的突破即將到來 //082 想象一臺超級智能機器 //095 超級智能的局限 //098 人工智能如何造福人類？ //100
04 人工智能的濫用
監(jiān)督、勸導和控制 //107 致命性自主武器 //113 篡奪其他人類角色 //127
05 過于智能的人工智能
大猩猩問題 //137 邁達斯國王問題 //141 恐懼與貪婪：工具性目標 //145 智能爆炸 //147
06 不那么偉大的人工智能辯論
否認 //154 轉(zhuǎn)移話題 //162 部落主義 //166 難道我們不能…… //168
辯論重新開始 //176
07 人工智能：一種不同的方法
有益機器的原則 //182 樂觀的理由 //188 謹慎的理由 //190
08 可證明有益的人工智能
數(shù)學保證 //197 從行為中學習偏好 //202 輔助博弈 //205 要求和指示 //215 “主動嗑電” //218 遞歸式自我完善 //220
09 復雜的難題：我們
不同的人 //227 許多人 //229 善良的、可惡的、愛嫉妒的人類 //242 愚蠢的、情緒化的人類 //247 人類真的有偏好嗎？ //250
10 問題解決了嗎？
有益的機器 //263 對人工智能的治理 //265 濫用 //269 衰弱與人類自主 //270
附錄 A 尋找解決方案 //273
附錄 B 知識與邏輯 //283
附錄 C 不確定性和概率論 //289
附錄 D 從經(jīng)驗中學習 //301
致 謝 //311
注 釋 //313
圖片版權(quán) //357
最新評論