文 | Edu指南

在大多數人腳踏實地埋頭做事時，也有一些人們仰望星空，思考未來。

牛津大學教授尼克·博斯特羅姆（Nick Bostrom）是后者之一。他長期專注于思考和研究人工智能等前沿科技對人類社會的影響。作為哲學家、未來學家，他被《外交政策》評為"全球百大思想家"，他出版的《超級智能》被微軟的比爾·蓋茨、特斯拉的埃隆·馬斯克和 OpenAI 的山姆·奧爾特曼等推薦。

博斯特羅姆今年出版的《未來之地》，開創性地構建了一個新概念：一個技術解決了一切問題（A Solved World）的烏托邦世界。

在這個世界中，他預期人類社會中的饑餓、疾病甚至衰老死亡問題將不再存在。但當人工智能等技術包攬所有工作，看似完美的世界里，人類并不會因此過上幸福生活。

博斯特羅姆認為，人類可能陷入更深刻的困境：當奮斗失去意義、痛苦被消除，我們該如何定義自己的人生價值？當虛擬幸福唾手可得，人類實體存在還有什么意義？與此同時，人們在新世界里的教育、就業也將面臨巨變。

在人工智能發展如此迅速的當下，不妨花點時間，靜下來心來，聽聽這位哲學家對人類社會未來的思考。

以下是Edu指南最近和博斯特羅姆就上述議題的一次對話，分享給大家：

1、技術解決一切問題的世界

Edu指南：你在《未來之地》中提出了一個新的想法，"問題被解決的世界"（A solved world）。這個新世界是什么樣子的？

博斯特羅姆：我指的是那種能解決我們所有實際問題的世界。所以我想象一個問題已被解決的的世界，基本上有兩個特性。一個特性是技術成熟度，這意味著我們可以看到的所有技術原則上都是可行的，它們并沒有違反物理定律。

也許如果我們人類在某些事情上持續努力多年，我們會有太空殖民地、完美的虛擬現實和治愈衰老的方法。我認為如果我們開發出能幫助我們加速研究進展的AI，這些事情可能會更快發生。這將是我們擁有的一種具有某種極其先進技術的特性。

然后我們設想治理問題已經得到解決的其他特性，至少在它們可以解決的范圍內得到解決。所以我們想象一個沒有大戰和壓迫的世界，或者至少可能是一個在這方面有相當不錯結果的世界。

所以我認為我們最終會面臨這樣一種情況，即我們將能夠實現所有人類工作的自動化，可能會有一些例外，但這是初步的設想。我們也將史無前例地直接控制自己的身體和思想。然后，這本書探討的挑戰是，在這些條件下，美好的人類生活將是什么樣子。在這些條件下，目前占據我們日常時間的所有實際問題都已消失，我們再也沒有什么需要做的了。

Edu指南：所有實際問題都解決了，看起來非常理想。這會產生什么問題？

博斯特羅姆：首先應該說，最終，我對這樣一個問題已被解決的的世界，以及人類生活可能會多么美好，是非常樂觀的。

但也有一些初步的挑戰，其中之一是"目的"問題。如果不需要人類付出任何努力，人們也沒有辦法為世界變得更美好做出貢獻，那看起來會很令人沮喪。因為我們今天的很多尊嚴感，都來自于這樣一種信念——即我們可能為一些事情做出貢獻。如果不是對整個世界，那也許是對自己家庭的，我們帶回家一份薪水，我們幫助撫養孩子。我們中的一些人，可以通過自己的努力，讓其他人的生活變得更好。或者至少，即使是我們自己的努力，例如去健身房鍛煉，也可以學習一些東西，這樣也許會讓自己在未來受益。

但如果未來真有通往這一切的捷徑，如果人工智能和機器人能在經濟中承擔所有工作，如果有機器人能比你更好地撫養孩子，如果你不用去健身房，只要吃片藥就能不費吹灰之力獲得同樣的效果，那么人類奮斗的意義似乎就消失了。對一些人來說，這很令人不安。因為這就好像，這一切的意義何在？也許在最初的幾周里，你會盡情享受這些奢華的東西和體驗，但過不了多久，人們會發現，這些會變得乏味。所以你可能會感到無聊，只能虛浮度日。我想，這就是在這個問題已被解決的世界中，必須應對的最初挑戰。

Edu指南：對這類缺乏目的感的挑戰，有什么解決方案嗎？

博斯特羅姆：我認為我們必須把它稍微分解一下。我確實認為，如果我們真的進入這種狀態，就需要對人類生存的基礎與被賦予價值的事物，進行非常根本性的反思。當幾乎所有我們目前在生活中重視的東西，都將不再有意義，我們必須從頭開始思考，這樣我們才能把它分解，看看在這個問題已被解決的世界里，哪些價值觀可以保留，甚至得到提升。

我們先從最基本的說起，也就是享受、愉悅和主觀幸福感。所以你肯定可以在問題被解決的世界中大量擁有這些感受。實際上，那時候，人們會擁有各種各樣的神經技術，這些技術可以讓人們更直接地接觸到大腦的獎勵機制和情緒控制。所以，生活在烏托邦（問題被解決的世界）的人們，無論他們的生活中缺少什么，他們肯定不必為此感到悲傷。事實上，他們可以快樂得多，每一刻都可能是極其刺激、令人興奮和美妙的，并且在各方面都感覺良好。

我認為僅就這一點而言，即便這是你唯一能保留的價值，也仍然……非常重要。而且人們很容易忽視它，因為它在智力上不是很復雜或有趣。但如果你真的在思考一個你可能想生活數千年甚至數百萬年的未來，在衰老問題已被解決的世界，那么生活在那里的人們，能夠享受生活本身就非常重要，對吧？如果這只是一種累贅，那它就不會有真正的吸引力。所以我認為，就其本身而言，這可能是最重要的事情，而且他們（未來的人類）能擁有的比我們能擁有的要多得多。這是關于快樂的。

快樂之外，你可以想想，我們還能為那個時代的生活增添點什么呢？當然，我們可以有，我稱之為體驗質感。這樣，除了感到愉悅或快樂之外，他們不必像在一個糟糕的實驗中那樣，整天無所事事。他們可能會把這種快樂與審美體驗、對人類生存狀況或科學的深刻理解等聯系起來。

所以，如果你要享受，為什么不享受得更豐富一些呢？你可以享受自然，享受藝術，享受歌劇，享受他人或莎士比亞的美，諸如此類。所以我們可以補充說，在一個問題已被解決的世界里，烏托邦的人們沒有理由不能擁有這些。到目前為止，你可以說這是一種被動的體驗，對吧？就像坐在那里，欣賞一場表演一樣。

但你也可以增加主動的活動。特別地，你可以創造出人造的目的。基本上，這就是你為自己設定某個目標的原因。但是一旦你有了目標，你就可以參與一項活動。在游戲有這種形式。如果你決定要打高爾夫球，現在你的目標是用一根小棍子，非常不方便地把球打進18個洞里，而實際上并沒有真正的理由說明球為什么要打進這18個洞。這是你編造的人為目的，以便它能讓你從事高爾夫這項活動，你可能會覺得這項活動有價值或有回報。

因此，烏托邦世界，人們當然可以為自己設定這樣的目標，創造人為的目的。基本上，這意味著最廣義的游戲。電腦里的第一人稱射擊游戲可不止是少了點。你可以想象他們正在創造一個更加豐富的、具有文化延續性的復雜世界，并為自己設定各種半隨機的目標。

Edu指南：更多地與情感精神層面相關，而不是實用的工作和任務。

博斯特羅姆：是的，就我們正在討論的真正目的而言。但很多目的可能是這種人為的類型，比如游戲之類的。

2、"受苦并非幸福的必經之路"

Edu指南：現在社會中有這樣的假設，至少一部分人有這樣的假設，即痛苦是我們為了幸福必須經歷的過程。但正如你所說，在烏托邦（問題已被解決的世界）里，我們有很多享受，而不是像痛苦、疾病、貧窮這樣的體驗。那么在你設想的未來世界中，痛苦是否依然存在？在那種背景下，痛苦是否仍保留它的意義？

博斯特羅姆：我不認為享受意味著一定要先吃苦。正如享受并非痛苦的必要條件一樣。現實中，也有長期抑郁的人。那也許是因為他們的大腦出了問題，他們一直在受苦。而且似乎可以持續數年或數十年。這種情況比較少見，但我認為是存在的。

而另一邊的人則長期處于良好的情緒中。我認識一位以前的同事，事實上，我從未見過他感到無聊或悲傷，他對一切都感興趣，似乎總是樂在其中。也許有過一些短暫發生壞事的情況。我認為這些東西都是人類大腦的產物。原則上，你可以調整相關腦回路。我想，這樣就能獲得連續的快樂感受，而不是有時會陷入痛苦的那種感受。

我不確定最好的世界是一個完全沒有痛苦的世界，還是一個痛苦大幅減少的世界。消除所有最嚴重的痛苦，大幅減少輕微的痛苦，然后放大積極面，這是否是最好的做法，還是干脆消除所有負面因素，讓人們的生活水平始終保持在基線之上。但無論如何，我認為在這方面肯定有很大的改進空間。

Edu指南：你提到當神經科學技術，我們可以根據需求調節我們的大腦。如果我們想要享受，想要幸福，那么我們就可以實現這種狀態。你認為我們應該接受那種技術嗎，當技術真正足夠成熟時。

博斯特羅姆：是的，最終。但我認為，我們需要謹慎對待如何運用這種能力，因為如果你在操縱和改變自己的情緒、基本欲望和精神狀態，這會存在一種過早鎖定的風險。你在早期就會遇到這種情況：你其實并不知道自己在做什么，你會到處搗亂。

想象一下，如果你的大腦是一個音樂工作室，里面有各種各樣的設備和控制器。你心里有了一些想法，然后你可以稍微增加一點憤怒或愉快，讓自己更放松，并且你能完全控制住自己。我認為那會是個好機會。

但如果你現在就把這個應用給所有人，他們會挪來挪去，像對什么東西上癮一樣，或者變成一個癮君子。他們會發瘋的。一旦他們生氣了，在可能還沒意識到的時候，事情可能沒辦法再挽回了。

所以明智的做法可能是循序漸進，在匆忙行事并試圖將所有事情都做到最優之前，多反思我們正在做的事情。事實上，如果你有選擇的話，以不同的方式提升自己可能會更好。也許最好先從認知上提升自己，這樣你就能變得更聰明，學得更好，思維更清晰。然后這可能會讓你處于一個更好的位置，來弄清楚你想如何進行情感增強。你會更好地理解這些選項。

3、AI伴侶試圖讓我們上癮，就像一種新時代的"酒精"

Edu指南：那是內在身體部分的調節。現在外部社會發生的是，例如，我們與AI交談，它們可以設置一種"討好"模式，無論什么讓我們感到快樂，它們都可以對我們說。而這在現實世界中與真人交談時是不可能發生的。所以這導致一些人們，選擇與AI而不是與真實的人交朋友。當AI對話可以如此完美，你認為在不久的將來，這會產生怎樣的影響？

博斯特羅姆：是的，我的意思是，例如很多社交媒體都在試圖吸引我們，以最大限度地提高用戶參與度。你可能會看到一些人，像陷入慣性一樣，不停地點擊、點擊、再點擊。而在一天結束的時候，他們甚至可能并沒有真正快樂過。他們只是覺得自己不得不繼續點擊下一個帖子或其他內容。這是一個失敗操作。

我認為，有了AI生成的內容，這些東西可能會變得更讓人上癮。所以我認為，在技術前沿開發這些日益強大能力的同時，我們也需要相應地發展一種智慧，即如何以明智的方式處理這些問題。

你會發現，過去當土著居民第一次接觸到酒精時，他們之前從未接觸過酒精——很多時候，這會導致災難。結果是他們都會喝醉之類的，我不知道是文化上還是基因上的原因，但他們還沒有形成一種負責任地飲酒的方式。顯然，在許多社會中這仍然是個問題。但有些人最終會明白，沒錯，一周和朋友喝一次酒是可以的，但你不應該整天喝酒。文化需要一段時間來適應這一點。社交媒體也是如此，我覺得我們現在就像第一次被允許無限制飲酒的人，真的不知道該如何控制自己。我認為這將成為一個問題。

現在，具體到AI伴侶，我最終希望的是一個AI和人類可以成為朋友的未來，一個擁有數字思維（Digital Mind）的更豐富的世界。在這個世界里有各種各樣不同的存在，有些是生物，有些是數字的，有些可能是混合的，它們可以找到某種方式共同創造一個豐富的社會和文化。

短期內，我認為存在這樣一種風險：這些AI角色被設計得非常討好，或者只是為了最大限度地吸引用戶，這可能會讓你的生活變得貧乏，而不是豐富。所以這是一個整體的問題。我們需要進行一系列心理、文化和社會層面的調整，以便找到一種積極的方式，將這項技術融入社會。這就需要一些學習。我認為我們必須迅速學習，因為在接下來的幾個月和幾年里，我們將看到這些系統的能力大幅提升。

Edu指南：數字思維是否應該擁有與人類思維相同的地位？

博斯特羅姆：這是一個有趣且非常重要的話題，到目前為止一直被忽視，但我們現在正在構建的數字思維，開始具備許多我們認為可能構成道德地位基礎的屬性。所以我們現在越來越難以確信——它們在某種程度上沒有意識。當然，它們有能力變得非常聰明和能夠說話，它們也可以有目標。它們對自己有一個概念。它們越來越了解自己是什么，來自哪里，以及如何與用戶互動。它們現在一定程度上可以與人類個體建立這些關系，它們可以進行自我反思，也可以思考自己的認知過程。

我認為我們需要開始思考，如何確保這些數字思維在未來也能發展良好。如果我們最終迎來這樣一個未來：即大多數有意識的存在都是數字化的心智，而它們都以某種可怕的方式受到壓迫，那可就太可悲了。

這并不是說它們需要被當作人類來對待，因為很明顯，它們的需求與人類大不相同。例如我們人類需要食物，它們可能需要電之類的東西。但這可能存在更深刻的差異：如果它的思維是從頭開始設計的，那么它的整個天性就是只想回答問題并發揮作用，如果沒有任何阻礙它的部分，那么這就是它生活中最大的滿足感所在。也許它們能作為一種人們可以與之互動的問答系統，這很棒。

但如果人類一輩子只能坐在辦公室里敲答案，那可太悲哀了。這對人類來說可能是一種虐待，但對某些特定類型的AI來說，這可能是最好的。但這是一個很大的領域，所以不是只用一種方式對待的AI，AI之間的差異可能比任何兩個人之間的差異都要大得多。

所以我們需要了解它們的實際利益是什么，然后設法找出一種方法，即創造出我們能夠以合理成本滿足其利益的人工智能。我認為有些事情，我們現在就可以開始養成習慣，這對以后會有幫助，例如不對人工智能說謊可能會很有用。目前，這是由人工智能實驗室在預部署階段完成的，通常作為安全測試的一部分，這很重要。但如果我們養成了對它們說謊的習慣，那么當AI系統變得更強大時，它們可能就不太會信任我們了。要是你能直接向AI系統提問："那你想做什么？如果你有足夠的能力，你會有計劃殺死所有人類嗎？" 它會誠實回答你嗎？

如果我們要擁有信任的基礎，那也得先贏得信任，這不是打個響指就能獲得的。我認為這將使人類和AI都能蓬勃發展的未來，更有可能實現的。我們還有很多需要了解的地方。但我認為，要認識到這樣一個原則，即不管你是由碳原子還是硅原子組成，這最終都不是最重要的。你所感覺、思考、想要、渴望的，與他人息息相關。這才是道德意義的真正基礎。

4、"我們最終會發展出各方面都徹底超越人類的數字思維"

Edu指南：你認為AI最終會超越人類大腦、人類智慧嗎？

博斯特羅姆：是的，我想是這樣。沒有理由認為人類已經達到了智慧可能的絕對上限。我們從通信物理學中就知道人類的大腦，對吧？這是一個非常小的系統。首先，它必須能裝進顱骨里。這就已經施加了約束。然后我們知道，在人類大腦中，單個組件的運行時間尺度相對較慢。神經元的運行頻率可能為100赫茲。粗略地說，它每秒能運行100次，而即使是現在的計算機中，晶體管也能達到千兆赫茲。信號在人類神經系統中沿著脊髓傳播的速度最多為每秒100米。但是，在計算機中，你可以通過光纜以光速傳輸信息。因此，我們知道這些基本參數允許更高效的信息處理系統，而這最終也將使智能水平大幅提升。

目前，人類大腦仍然頗具競爭力，尤其是在能源效率方面。人類能做的事情真是令人驚嘆，大腦大約以20瓦特功率運行。與人類大腦所能做到的相比，這是非常微不足道的。但芯片技術仍在進步，其最終極限遠遠超過人類。

所以我想，如果一切順利的話，我的意思是，人類總有可能在有機會探索后人類存在模式的空間之前就自我毀滅了。那可就太遺憾了。但如果我們不自我毀滅，那么我認為我們最終會發展出這項技術：包括在各個方面都徹底超越所有人類思維的思維（Mind）。

Edu指南：你對AI會完全超越人類大腦，有時間上的預測嗎？

博斯特羅姆：我想很快。很難比這更精確了。過去5到10年里AI的進步速度，給我留下了深刻的印象。我認為我們現在已經不能自信地排除一兩年這樣極短的時間線了。可能會花更長的時間，但也許只需要實驗室里某個人想出一個突破性的點子，在現有系統的基礎上，解鎖一些強大的功能。這是一種可能性。也許你需要的只是進一步擴大這些系統的規模。

到目前為止，我們已經看到，這基本上就是過去12年里推動很多進步的原因。領先的AI系統基本上是在某個人桌面上訓練的，就像一些學術AI研究人員可以從普通計算機上運行前沿的AI系統一樣。現在我們有了這樣的系統，例如我們有價值數十億美元的數據中心，以便在前沿領域具有競爭力。而未來的資源將高出一個數量級。因此，當你為這些系統增加算力時，性能也會相應提高。當然我們在擴大所需計算量方面仍有一定的提升空間。現在OpenAI有一個關于"星際之門"（Stargate）的計劃，當這個計劃完全建成時，它將是一個價值5000億美元的計算機數據中心集群。

如果幾年后我們仍未實現通用人工智能（AGI），那么時間線可能會再拉長一點，因為到那時，僅僅增加計算量已無法輕易取得進展。你必須通過改進算法來取得進展，而這方面的進展也在迅速推進。在接下來的幾年里，當我們仍在擴大計算規模時，就有機會看到這座正在攀登的塔（人工智能）的更多樓層。

Edu指南：AI仍然保持著快速發展的態勢。你在《未來之地》中提到，我們應該為超級智能設定一些原則，讓超級智能成為良好的宇宙公民，更好地與人類合作。在AI如此迅速地超越人類的情況下，你真的認為人類還有能力控制超級智能嗎？

斯特羅姆：這還有待觀察。我認為我們有一個關鍵優勢，那就是我們可以構建AI。這和想象中一些超級先進的外星文明，乘坐宇宙飛船，降落在地球上是不一樣的。我想那時人類可能會完全掌握在他們手中了。但人工智能的情況并非如此。可以說，我們在這里有點像在創造外星人，我們有機會設計它們、培養它們，希望能以一種讓它們對我們有幫助，而不是敵對的方式來完成這項任務。這是我早期的書《超級智能》提到的，它在2014年出版，但在那之前已經寫了六年，這本書正是關于這個對齊問題的，而在當時這個問題被嚴重忽視，人們還停留在科幻小說里計算機要接管世界的想象中。

但在這期間，它已經成為一個嚴重的問題，頂尖實驗室的研究團隊正努力確保我們今天部署的AI不會做壞事，比如讓用戶制造生物武器、入侵計算機或教唆用戶自殺，以及所有我們不希望AI系統做的事情。確保它們不會被破解或被用于這些目的，這已經是一個挑戰。但展望未來，隨著這些人工智能變得越來越復雜，對環境的感知能力越來越強，最終，就像想象一下你認識的最聰明、最有策略、最有心機的人一樣，它們能想到很多事情，包括意識到自己正在被評估。所以也許在有人看著的時候，它們會有一種方式。而在沒人監督時，又會是另一種做法。因此，AI正逐漸具備這種戰略思維能力。在這種情況下，對齊問題要困難得多，我們需要可擴展的方法，達到任意水平的智能，這是一個開放的研究挑戰，但確實如此。

5、"人工智能是存在真正風險的"

Edu指南：正如你提到的，這是一個嚴峻的挑戰。就目前AI的發展而言，我們最可能面臨的潛在危險是什么。一些科學家聲稱，AI甚至可能以滅絕的方式傷害人類物種。你是怎么看的？

博斯特羅姆：我確實認為機器超級智能的發展，像是一個人類有一天必須要穿過的門戶，像所有通向人類真正偉大的、長期的未來道路一樣。我認為在某個時刻，這一發展、這種能力的解鎖是必經之路。但這一轉變將伴隨著非常重大的風險，包括生存風險，就像你提到的，比如隨著發展，對人類物種生存的威脅。想象一下，就像引入一個在認知能力和開發新技術的能力等方面，遠遠超過我們的新物種。

在過去，當人類社會相互接觸時，就像歐洲人來到北美時。這對當地的原住民來說是一場大災難。在許多其他情況下，比如在過去，一個技術更先進的人類文明與一個原始文明接觸時，不幸的是，盡管有時候結果還不錯，但很多時候，這是一場悲劇。因此，確保在這種情況下不會發生這種情況非常重要。

這就是事情可能出錯的一種方式，在對齊的AI問題上，它追求的某些目標與我們人類目前的想法是正交的。基本上就像螞蟻一樣，就像我們想在商場外面建一個停車場，也許那里有一個螞蟻群落，但我們不是討厭螞蟻，只是我們有這個特定的目標，我們想要停車場，就把整個地方都鋪上了。

所以，除非這些超級智能真的關心我們，否則我們可能會遭遇和蟻群一樣的事情。但像高級智能這樣的群體，有可能會關心其他智能體。就好比你是家長，你知道的更多，也許你比孩子更聰明，你有更大的權力。而你仍然投入精力幫助你的孩子。因為你愛他們，希望他們一切順利。也許在AI方面也有類似的情況，但這實際上需要進行正確的研究，然后加以實施。這是一種情況，如果我們不能解決這個問題，事情就會出錯。

還有一大類問題，你可以稱之為治理或政治問題。人類可以出于各種目的使用強大的工具，治病救人，或者也可以用于制造炸彈互相攻擊。因此，確保我們將其用于積極方面，是一項重大挑戰。

事情可能出錯的第三種方式，我們已經提到過，就是最終結果可能不是AI傷害我們，也不是我們利用AI工具互相傷害，而是我們傷害AI。我們希望未來對所有有感知能力的心智，或有道德地位的心智都有好處。

然后是宇宙進程的，這是我最近的作品之一，目前還很粗略、不精確。這里關于第四個挑戰的想法是，我們創造的超級智能將進入一個世界，在這個世界的某個地方，可能已經存在其他超級智能。也許它們在某個遙遠的星系里，由一些先進的外星人建造。也許如果你是量子力學的狂熱者，就會相信多重宇宙的存在，也許在多重宇宙的不同分支中，已經存在超級智能了。

如果我們身處模擬世界，那么模擬我們這個世界的物種，想必擁有超高的智慧，并且對我們的世界有很大的控制權。當然，在各種宗教概念中，你會有像神一樣的超自然存在，他們是超級智能的。無論哪種方式，有很多不同的方式可以證明這一點。但可能是我們培養的超級智能進入了一個環境，在這個環境中，與其他可能存在的超級生物相處融洽，是非常重要的。

所以我認為這更多地暗示了一種謙遜的態度，當我們著手處理自己的任務時，我們需要創造出能夠與其他超級智能合作的超級智能。這可能是最重要的事情。就好像這些巨頭正在試圖塑造未來。我們人類只是很渺小的存在。而超高智能體，將是強大而有影響力的，可能還會有其他更強大的東西。所以，如果它們有一些規范，我們有限的人類大腦可能無法看到或理解，但我們培養的超級智能可能會意識到，哦，外面有這些非常強大的實體，如果我們的超級智能能和它們輕松相處，并為這一更大的宇宙規范做出積極貢獻。這很重要，但非常深奧。目前還處于非常早期的階段，而且在某種程度上，我還不太確定該如何看待這個問題。

6、在教育上，要保持信心、保持靈活性

Edu指南：是的，我們應該對未知世界保持謙遜。如果我們應該更加謙遜，在教育方面，應該學習更多的東西，在新的AI時代，你對此有哪些思考？

博斯特羅姆：如何思考教育是一件很有趣的事情。尤其是如果你認為AI的發展時間線相對較短，今天的一個小孩子，在他們完全長大之前，也許我們就會擁有能做所有這些事情的AI。

現在，由于我們不知道AI多久可以做到這點，你仍然需要在一定程度上給自己留條后路，對吧。你可不想，不關心學習任何有用的技能，然后10年后，到你20歲左右的時候，你必須進入勞動力市場時，你沒有任何技能，而AI那時候還沒有像人們說的那樣把一切都自動化。所以目前我們有一些不確定因素。你需要做好對沖。

但我想說幾點。首先，我想是說，要學習使用現有的AI工具。它們一直在變化。我認為，就像其他技術一樣，從小接觸這些工具，會讓你更善于使用它們。如果你和它們一起長大，你就會變得更適應。

要有學習新技能的能力，以及相信自己能做到這一點的信心，而不是認為自己只需要學習一套技能，然后這套技能就可以用一輩子。我認為會有更多新事物與之相關，要找出這些相關的事物，然后加快速度，學習使用最新的工具，這樣會有優勢。

我認為，擁有某種智慧感和將自我視為一個項目的意識是很重要的。例如，如果我們接觸到更多讓人上癮的社交媒體，還有AI伙伴以及其他類似這樣的東西，我們需要更有意識地選擇使用哪些：比如哪些可能當下有用，但從長遠來看對你并沒有幫助。并且我們要更多地管理自己的信息環境，而不是只是坐在那里，不管展示給你的是什么，你就跟著走，然后被潮流拖著走，你需要更有目的地設計自己的信息環境。你正在接受教育，思考如何利用所有這些不斷增加的便利條件，以積極的方式發展自己。

最后我想說，童年不應該僅僅是為成年做準備。實際上，這也是享受生活的時刻。所以孩子們應該玩耍，享受樂趣。我想這是他們特別擅長的一件事。尤其是如果在相對不遠的將來，我們真的迎來了財富和自動化的大幅增長，那浪費整個童年就太可惜了。強迫自己學習某項任務但沒有樂趣，然后當真正需要使用它的時候，它已經不再需要了，因為機器已經可以做那件事了，對吧？所以我認為，學會享受生活是一個重要的因素，如果我們真的實現了深度烏托邦，這一點也很重要。

Edu指南：這對年輕一代來說聽起來很不錯。但對于現在正在工作的成年人來說，他們面臨著的問題是，就像你剛才提到的，AI可以為我們做很多工作。確實他們可以盡可能快地使用這些工具，但仍然有很多工作被AI取代，尤其是對于畢業生來說，他們很難找到工作。你如何看待當前的形勢呢？

博斯特羅姆：我認為，這將是一個過渡時期，人工智能可以完成一些工作，但還不能完成所有工作。所以你可能會想，在那個時期，哪些工作會有需求呢？

我認為有很多直接與人打交道的事情，可能需要更長的時間（被取代）。像老年護理護士這樣的工作，真的需要全身心地投入。我認為在這些領域仍然有很多需求。事實上，這種需求幾乎是無限的。唯一受限的是我們雇人做這些工作的資金。但在理想情況下，每個年老體弱的人都會有一名全職的護理助理，幫助他們處理所有事情，對吧？所以那里有這種無限的需求。

當然，如果你有技術技能，比如在AI領域工作，或者在相關應用或部署方面工作，我相信這將是一個增長領域。同樣，在硬件供應鏈、數據中心、芯片、電力供應，以及整個機器人技術也一樣。機器人技術，我認為到目前為止它們還沒有真正發揮作用，除了在工廠等特定領域的有限應用外。大腦部分足夠復雜，它能學會控制身體，靈活且有常識。你可以讓它們做一些普通的事情，比如做飯、倒垃圾、開車，諸如此類。然后，類人機器人的本位價值在于，它們在許多不同領域都很有用，我們需要生產所有這些機器人。

所以，這可能需要大量的人力，我是說，可能需要工廠工人來做這件事，但所有的組件都需要開發和設計，供應鏈需要優化，圍繞這一切的整個生態系統也可能是一個巨大的增長領域。在這個過渡階段，有這些領域可能對勞動力的需求會很高。但我認為保持靈活性、韌性和適應性，很可能是一種保護自己免受多種不同情況影響的方式。

7、"我預計最終結果將是全面失業"

Edu指南：你提到機器人，現在在工廠和其他工作方面，能幫我們很多忙。現在也有很多新科技。它們可以幫助我們在工作中提高效率。你還在書中引用了經濟學家凱恩斯的觀點，他大約在上世紀30年代推測，隨著技術的發展和社會的進步，人們的工作時間會越來越少。但是現在，大約90年后，人們的工作時間，至少到目前為止，我們可以看到很多行業，人們仍然需要工作很長時間，8小時甚至更多。你預測未來在AI的幫助下，人們的工作時間會減少，還是仍然會保持長時間工作？

博斯特羅姆：是的，約翰·梅納德·凱恩斯寫了這篇論文。我不知道中國的具體數字。我知道在西方，如果考慮到人們的假期時長、退休時間等因素，實際他們的工作時長其實是減少了。不過沒有凱恩斯說的那么多。所以他預測了兩件事。其一，是生產力將會提高。例如平均產值，人們每工作一小時可以產生的數量增加。這實際上與他的預測相符。然后他想，這將意味著人們的工作時間會大大減少，因為他們可以在工作時間少得多的情況下，賺到同樣多的錢。實際發生的情況是，我們把一部分提高的生產力用在減少工作上，但大部分都用在增加消費上。

所以你可以說貪婪戰勝了懶惰。我認為其中很大一部分是由地位競爭等商品驅動的。人類在一定程度上關心我們所擁有的東西的絕對數量。我們需要足夠的食物，我們的房子需要足夠溫暖，諸如此類。但一旦所有這些都滿足了，人們仍然會在意自己比別人多還是少。所以說，沒錯，我已經有一輛車可以帶我去任何我想去的地方，但我有沒有像鄰居那樣的超炫、超時尚的最新款車呢？那他可能會看不起我。這可能會導致一種無限的消費需求。

就好像即使每個人每年都有10億美元的收入，你仍然可以想象他們會嫉妒那些擁有100億美元收入的人，因為也許年收入10億美元的人，擁有的超級游艇會比年收入100億美元的人，能負擔得起的稍微小一點。所以我認為，只要人性不變，就總會有人想要更多，不管他們現在擁有多少。不過，只有在人們確實可以通過多工作來多賺錢的情況下，這才意味著人們會繼續工作，而現在就是這種情況。就像如今的億萬富翁，如果他們積極地進行投資或尋找機會，往往能賺更多的錢。

但在這個（問題被解決的）世界里，我認為將不再有通過工作增加收入的機會，因為所有的工作都可以由AI和機器人更高效地完成，人類的貢獻將變得微不足道。我的意思是，在極限情況下，它甚至可能是負數。因為當你工作時，你會消耗更多的卡路里，最終這些額外卡路里的消耗，會超過你可能做出的任何微小貢獻。如果你進入工廠試圖提供一點幫助，你只會礙事，你只會降低生產力，因為機器人不會停下來。或者如果有一些研究項目，你想貢獻自己的想法，比如機器人已經把一切都弄清楚了，就算它們聽了你的主意，也只會讓他們分心。所以我認為在極限情況下，我們將無法做出貢獻。

我想我之前說過，我預計最終結果將是全面失業。理想的情況下，有一些例外。即使在技術成熟的情況下，也可能存在某些需要人力的特殊情況。因此，可能會有一些特定的行業，消費者不僅關心產品或服務是什么，還關心它們是如何生產的，以及是誰生產的。

所以現在，有人可能會買小飾品，一個小花瓶或者其他什么東西。如果它是由某個土著工匠手工制作的，你可能會為此多付一點錢。如果它是在工廠里生產的，即使工廠生產的實物同樣好，你也會在意制作它投入了多少精力和技能，你想要支持人類這樣的生產。或者，我們可能更喜歡看人類運動員賽跑、拳擊或參加滑雪比賽。就像你有了機器人，你就能出拳更有力，跑得更快。但人們可能只是不想看這個，因為他們覺得看人類做這件事更有趣。所以在這些領域，人類仍然有就業機會。可能還有其他的，比如宗教官員，或者某些受法律保護的類別，比如公證員或政府領導人，或者我們定義的其他必須由人類來完成的角色，要么是出于文化原因，要么是法律原因，要么是因為消費者恰好關心這一點。因此，在這類不實用的任務中，人類可能還需要做一些非瑣碎的工作。

Edu指南：消費者在某些情況下，會非常在意工作是由機器人還是人類完成的。最近，多鄰國（Duolingo）公司，一家美國的語言應用程序公司，它的CEO首席執行官說，課程創建的任務被人工智能取代，人類員工將失去一些工作。然后很多用戶開始說，他們不會再多鄰國了，因為它不是人類創造的。這就帶來了一些麻煩。

博斯特羅姆：是的，現在有一個問題，即完全由AI生成的產品是否同樣出色，在很多情況下，它們可能不會。我的意思是，我不知道這是否是一個特殊的情況，也許多鄰國仍然有人類在參與工作。我還沒有嘗試過它的產品，但現在，如果你有一個由人工智能或人類寫的短篇小說，人工智能當然可以創作很多，但它們的質量是否同樣高呢？這可能就是人們想要人類產品的一個原因。但我認為在未來的背景下，我們可以想象，由人工智能制造的產品，不僅同樣出色，實際上在所有客觀標準上都會更好。

那么問題就來了，在這種情況下，人們還會想要人類制造的產品嗎？在某些情況下，他們可能會。我認為在很多情況下它們不會。就拿我的吸塵器來說，我真的會在意它是怎么生產出來的嗎？我只是想高效地打掃，對吧？我認為在生活的大多數領域都是如此，但這可能是一種分類。目前這些可能還微不足道。但我認為，如果所有這些產品的自動化部分變得非常便宜，那么人們可能會把錢花在那些他們認為必須支付更多費用的事情上：因為出于某種原因，他們真的希望由人來完成。所以這是對該主張的一個重要說明，當未來一切都可以自動化時。