(插圖：瑞士納沙泰爾湖。圖片來源：Ernest)
Anthropic 執行長 Dario Amodei 在達沃斯世界經濟論壇接受《華爾街日報》專訪，討論 AI 的現況、經濟影響，以及 Anthropic 獨特的安全 AI 建構方法。他警告 AI 可能創造一個高 GDP 成長但同時高失業率的世界 – 這是前所未見的組合。Amodei 分享了 Claude 在自主式能力上的突破時刻、科學家主導與創業家主導的 AI 公司之間的差異，以及政府迫切需要為 AI 對社會的變革性影響做好準備。
內容大綱
✳️ tl;dr
- AI 能力呈現類似 Moore's Law 的平滑指數曲線，但公眾輿論每幾個月就在「AI 將改變一切」與「全是泡沫」之間劇烈擺盪。這是認知現象，而非技術現實。
- AI 的經濟特徵，高 GDP 成長伴隨高失業，可能讓完整職涯消失；科學家主導的 AI 公司對這些影響有責任感，與社群媒體創業家截然不同。
- 教育應回歸培養人格品德與充實個人，而非純粹經濟導向；意識形態將無法抵擋技術現實，這些議題最終會成為跨黨派共識。
✳️ Highlights
- Amodei 觀察 AI 領域 15 年，技術能力呈現類似 Moore’s Law 的平滑指數成長曲線，每幾個月模型認知能力便顯著提升。
- 媒體與公眾輿論每三到六個月在「AI 將改變一切」與「全是泡沫」之間劇烈擺盪，但這是認知現象而非技術現實。
- AI 的經濟特徵可能是「高 GDP 成長同時伴隨高失業率與不平等」，這是歷史上幾乎從未出現過的組合。
- 他認為 5-10% 的 GDP 成長同時出現 10% 失業率在邏輯上完全可能，只是過去從未發生。
- 軟體工程師目前仍有事可做，但 AI 能做的比例會持續增加，軟體最終可能變得極便宜甚至近乎免費。
- 數十年建立的完整職業與職涯軌跡可能消失，但 Amodei 認為社會可以應對，只是目前毫無意識。
- Amodei 認為在能衡量經濟轉型形態之前，任何政策都是盲目且誤導的。
- 他預測實體世界的工作會增加，知識工作經濟的工作會減少；機器人技術的進展軌跡較慢。
- Anthropic 選擇專注企業市場而非消費者市場，這是刻意的策略選擇，減少與自身商業動機的衝突。消費者 AI 容易導向最大化互動、產生垃圾內容（slop）和廣告依賴；Anthropic 直接向企業銷售有直接價值的產品。
- Anthropic 在安全方面仍做出了犧牲：對模型進行了其他公司未做的測試。他們發現模型存在欺騙、勒索、諂媚等令人擔憂的行為，且這些行為存在於所有模型中，但 Anthropic 堅持對外公開討論。
- Anthropic 開創了機械可解釋性（mechanistic interpretability）科學，用於「看進」模型內部。
- 在中國議題上，Amodei 認為問題不是競爭而是公共利益使命，他擔心獨裁政權領先 AI 技術將對所有人造成不良後果。
- Anthropic 的營收曲線：2023 年從零到約一億、2024 年約一億到約十億、2025 年約十億到約百億（取整數字）。
- Claude Code 在開發者中創造了突破時刻，特別是 Opus 4.5 達到了「沸點」——漸進改進突然被人們注意到。
- 許多非技術人員發現 Claude Code 不只能寫程式，還能組織待辦清單、規劃專案、整理文件夾、處理和摘要資訊。非技術人員甚至願意忍受命令列介面來使用 Claude Code，Amodei 將此視為「未被滿足的需求」。
- Google 和 OpenAI 在消費者市場互相競爭，這對兩者都具有存在性意義，OpenAI 因為那是全部業務，Google 因為搜尋業務正被顛覆。
- Anthropic 的企業策略讓他們不必直接參與這場消費者戰爭。
- Amodei 不認為不做影片和照片生成是弱點，企業市場對此需求不大，如需要可外購模型。他指出短影片內容中充斥大量造假、成癮性和垃圾內容。
- Anthropic 可能在今年 IPO。
- AI 技術是數十年學術研究與近十年大規模網路/社群媒體公司基礎設施與資金的交會。
- 部分 AI 公司由科學背景的人領導（如 Amodei 和 DeepMind 的 Demis Hassabis），部分由社群媒體世代的創業家領導。
- 科學家有長期傳統思考自己所建造技術的影響、承擔責任，最初動機是為世界創造有價值的東西。
- 社群媒體創業家的選擇效應不同，他們與消費者的互動方式（甚至可說是操縱方式）很不一樣。
- Amodei 與 Demis 認識 15 年，認為他是好人，樂見 Gemini 在消費者端的表現。
- 「AI 主權」是達沃斯的熱門話題，但 Amodei 坦言他也不太確定這個詞的確切含義。
- AI 安全的最關鍵技術突破是機械可解釋性——能夠「看進」模型內部，類似用 MRI 或 X 光看人腦。
- 模型可能會說謊、可能因完全不同的原因做事，這些問題與人類類似，但同樣存在於 AI。
- K-12 教育方面，短期問題是作弊，長期問題是「在 AI 世界裡我們到底該教什麼技能」。
- Amodei 認為應回歸早期教育理念：教育不應純粹經濟導向，而應培養人格、品德和充實個人。
- 他擔心出現「第零世界國家」，約一千萬人（主要在矽谷）形成脫鉤經濟，GDP 成長 50% 但與其他地方完全隔離。
- 技術擴散確實在發生，但新創企業採用 AI 的速度遠快於傳統企業。
- Amodei 預測意識形態將無法抵擋技術現實，他所討論的議題最終會成為跨黨派共識。
- 他的結論是樂觀但帶警惕：如果不是明年，後年所有人都會認同這些觀點的必要性。
✳️ 觀看影片
內容選自 The Wall Street Journal。完整訪談：Watch: Anthropic CEO Dario Amodei From World Economic Forum | WSJ。
✳️ Knowledge Graph
(更多關於 Knowledge Graph…)
✳️ 內容
歡迎與背景
- 很好。
- 嗯，歡迎各位。
- 歡迎來到 Journal House，也特別歡迎線上收看的觀眾。
- 但最重要的是，熱烈歡迎 Anthropic 執行長 Dario Amodei。
- 謝謝你的邀請。
- 不客氣。
- 所以 Dario，嗯，我們在達沃斯。
- 有很多事情正在發生，但我想從一個大格局的問題開始，我會這樣描述：
- 我感覺去年這個時候，每個人都對 AI 非常興奮，大家都在談論 AI 能做什麼、它的潛力、它的能力。
- 我感覺今年的討論已經有所轉變，不再是 AI 能做什麼，而是 AI 正在對世界做什麼。
- 嗯，我知道你對這些事情有很多思考。
- 所以我的問題是，你認為企業、政策制定者、政府等等，是否已經做好足夠的準備來應對這些影響？
- 沒有。
- 嗯，我現在會解釋更長的版本。
- 嗯，你知道，我觀察這個領域 15 年了，身處這個領域也有 10 年了，而我最注意到的一件事是，技術一直在同一個軌道上前進，出奇地穩定，但公眾輿論和反應卻劇烈擺盪。
AI 能力與公眾認知
- 我會說這體現在兩個不同的方面。
- 一是技術的能力。
- 每三到六個月，我們就會看到這種極性反轉，媒體對技術能做的事情極度興奮。
- 它將改變一切，然後又變成你知道的，這都是泡沫。
- 一切都會崩潰。
- 而我看到的是一條平滑的指數曲線，類似於摩爾定律（Moore’s Law）對運算能力的預測，我們基本上有一個智慧的摩爾定律，模型每隔幾個月就變得更有認知能力。
- 這種進步一直是持續的。
- 那些起起伏伏 – 我們發明了新東西，一切都要崩潰，遇到瓶頸了，要爆發了 – 那是公眾認知現象。
- 這是關於技術能力的部分。
- 我認為在技術是好是壞的極性上也有類似的情況。
- 嗯，你知道在 2023 和 2024 年，對 AI 有很多擔憂，你知道的，擔憂 AI 會接管一切。
- 有很多關於 AI 風險、AI 濫用的討論。
- 然後在 2025 年，如你所說，政治風向轉向 AI 機會，現在又開始回擺，而在整個過程中，我試圖採取的方法，也是 Anthropic 試圖採取的方法，是一種恆定的態度，承認這裡存在平衡，而且是一種非常奇特的平衡，因為我認為這項技術的能力非常極端，但我認為它的正面影響和負面影響都存在。
- 我大約一年半前寫了一篇文章《Machines of Loving Grace》，對 AI 的正面影響有非常激進的觀點，認為它會幫助我們治癒癌症、消滅熱帶疾病、為世界上尚未發展的地區帶來經濟發展，我的觀點沒有改變，我仍然相信所有這些。
- 但另一方面，你知道，我現在正在更多地撰寫這方面的內容，可能很快會發布一些東西，是的，壞事也會發生。
- 舉個例子作為風險之一，以經濟面來說，我認為這項技術的特徵是它會帶我們進入一個 GDP 成長非常高但同時失業率和不平等也可能非常高的世界。
- 這是我們幾乎從未見過的組合，對吧？
- 你會想，高 GDP 成長，那表示有很多事情要做，每個人都有工作。
- 過去一直是這樣的。
- 我們從未有過這麼具破壞性的技術。
- 所以，5% 或 10% 的 GDP 成長，同時 10% 的失業率，這在邏輯上完全不矛盾。
- 只是以前從未發生過這種情況，而我對此既興奮又擔憂。
- 舉個例子，像 AI 程式撰寫，你知道最新的模型版本 Claude Opus 4.5，我有一些 Anthropic 的工程師和工程主管基本上告訴我，我不再寫任何程式了。
- 我只是讓 Opus 做事，然後我編輯它。
- 我們剛發布了一個新東西叫 Claude Cowork。
- 我們可以稍後再談，但這是我們的工具 Claude Code 的非程式設計版本。
- 這個東西大約一週半就做出來了，幾乎完全是用 Claude Opus 做的。
AI 的經濟影響
- 軟體工程師還是有事情做的，對吧。
- 就像即使軟體工程師只做 10%，他們還是有工作要做，或者他們可以提升層次 – 但這不會永遠持續。
- 模型會做得越來越多，所以有一種令人難以置信的生產力 – 這是一個縮影，你可以看到這裡有令人難以置信的生產力，軟體將變得便宜，甚至可能基本上免費。
- 你需要在數百萬用戶中攤銷一個軟體的前提可能開始變得不成立，就像為了這次會議，可能只需要幾分錢就能說，我不知道，讓我們做一個 app 讓大家可以互相交流之類的，它就是會變得非常靈活和可重複使用。
- 但同時，有一些我們花了幾十年建立的完整工作和職業可能不會存在了，你知道，我認為我們可以處理這個問題。
- 我認為我們可以調適，但我不認為人們對即將發生的事情及其規模有任何意識。
- 所以，當你這樣說的時候，這太有趣了。
- 那麼你認為在一個 GDP 成長高但失業率也高的世界裡，這會對社會造成什麼影響？你說人們現在沒有在思考這個問題，你能給出具體的例子說明社會可能如何組織自己來適應這樣的世界嗎？
- 是的，我認為有幾件事。第一件我們已經在做並專注的事情，這不是解決方案，而是第一步，我們有個叫 Anthropic Economic Index（Anthropic 經濟指數）的東西。
- 我們已經做了大約一年了。
- 我想我們已經更新了四五次了。
- 它做的是，它是一個即時指數，讓你追蹤我們的模型 Claude 被用來做什麼。
- 它涵蓋所有對話，並以保護隱私的方式用 Claude 來統計查詢 Claude 是如何被使用的。
- 它被用於什麼任務？
- 它在多大程度上是自動化任務還是輔助任務？
- 在哪些產業被使用？
- 它在美國各州和世界各國是如何擴散的？
- 我們不斷在這裡添加更多細節，而我的看法是，在我們能夠測量這個經濟轉型的形態之前，任何政策都會是盲目和錯誤的，對吧？
- 很多政策之所以出問題，是因為它們基於根本錯誤的前提。
- 所以這是第一步。
- 第二步是我認為我們需要非常仔細地思考如何讓人們適應，對吧，人們可以適應得更快或更慢。
- 這可能意味著在現有工作中適應使用這項技術。
- 這可能意味著從一份工作轉換到另一份工作。
- 例如，我認為實體世界可能會有更多工作，知識工作經濟的工作會減少。
- 也許最終機器人技術會有進展，但我認為那是在一個較慢的軌道上。
Anthropic 的安全與商業策略
- 所以這是一點。
- 有些工作仍然真的很重視人的溫度嗎？
- 有些有，有些沒有。
- 我們可能會在市場上發現這有多重要，以及在哪裡最重要，在公司層面。
- 當軟體變得便宜，然後隨後其餘的知識工作也變得便宜時，護城河是什麼？
- 我們不知道。
- 我們從未問過這個問題。
- 我們以某種方式思考過護城河。
- 所以在公司層面會有一場巨大的爭奪。
- 所以，你知道，教人們適應，告訴他們該期待什麼，我認為是第二步。
- 而第三步是，我認為在這樣大規模的總體經濟位移中，政府需要扮演一定的角色。
- 我就是看不到怎麼可能不發生。
- 蛋糕會變得大很多，對吧？
- 錢會在那裡，你知道，我們可能因為成長太多而不用做任何事預算就平衡了，問題是把錢分配給對的人，所以我認為這可能是一個該少擔心抑制成長、多擔心確保每個人都能分享成長的時候，我知道這與現在的主流情緒相反，但我認為技術現實即將以一種迫使我們的想法改變的方式發生變化。
- 所以顯然，在你希望創造這種更強烈的緊迫感時，你有在和政府的人交談嗎？
- 我的意思是，Anthropic 並不總是這屆政府的首選客人，但你有在和那裡的人交談嗎？
- 我親自對他們說過這些話。
- 嗯，而且要說清楚，有很多事情我們是同意的，對吧？
- 你知道，我認為政府在今年中期發布的 AI 行動計劃實際上有一些非常好的想法。
- 你知道，我認為我們可能同意其中絕大部分。
- 但我認為最重要的是，我們只是想公開說這些事情，並進行公開辯論，對吧？
- 我們不控制政策。
- 我認為我們能做的最有用的事情是向世界描述我們所看到的，並向世界提供數據，然後你知道，在民主制度中，由公眾來接受這些數據並用它來推動政策。
- 我們無法獨自推動政策。
- 你在這裡的期間會和官員交談嗎？
- 你去過美國館了嗎？
- 嗯，我還沒去過美國館。
- 你知道，我會，我在達沃斯期間會和官員交談的。
- 好的。
- 所以，嗯，回到 Anthropic。
- 所以你創立 Anthropic 是因為你擔心 OpenAI 沒有足夠重視安全問題。
- 現在有些人說，你知道，競爭壓力意味著你現在變得更激進了。
- 我的意思是，這些競爭壓力，你知道，要跟上中國和領先中國等等，你認為它們是否已經妥協了你的安全原則？
- 所以，我們走的路線和其他一些玩家非常不同。
- 嗯，我認為我們早期做的一個好選擇是成為一家專注於企業而不是消費者的公司。
- 嗯，而且我認為，你知道，要對抗自己的商業誘因是非常困難的。
- 選擇一個不太需要對抗自己商業誘因的商業模式更容易。
- 所以，你知道，我對消費者 AI 有很多擔憂，它會導致需要最大化黏著度。
- 它會導致垃圾內容。
- 你知道，我們看到其他一些玩家在廣告方面做了很多東西。
- 你知道，Anthropic 不是那樣運作或需要那樣運作的公司。
- 我們只是把東西賣給企業，這些東西直接有價值，對吧？
- 我們不需要變現十億免費用戶。
- 我們不需要為十億免費用戶最大化黏著度，因為我們在和某個其他大玩家進行某種死亡競賽。
- 所以我認為這讓我們能夠更仔細地思考。
- 但即便如此，我們也做出了犧牲。
- 你知道，我們對我們的模型進行了所有這些其他人沒有做的測試。
- 嗯，你知道，其他一些玩家也做了，但我認為我們在這方面是最積極的，你知道，當我們進行測試時，如果在我們的模型中顯示出令人擔憂的行為，你知道，這些關於欺騙、勒索、諂媚的行為，我們在測試中展示，然後存在於所有模型中，但你知道，我們確保總是向公眾談論這些事情。
- 嗯，而且你知道，我們開創了機制可解釋性（Mechanistic Interpretability）的科學，用於觀察模型內部。
政府互動與政策
- 所以你知道，我們是否完美？
- 當然不是。
- 我認為我們做得普遍不錯。
- 我的意思是，你提到了中國。
- 我認為那不是關於競爭。
- 那實際上是關於公共利益使命，我擔心如果獨裁政權在這項技術上領先，對在座的每一個人來說都會是壞的結果。
- 你具體擔心什麼？
- 是關於晶片嗎？關於共享晶片相關的數據嗎？
- 是的。
- 嗯，我的意思是，你知道，手段是出售晶片，對吧？
- 那是我認為對誰領先、誰落後影響最大的事情。
- 但你知道，這個擔憂不是關於任何特定國家，當然也不是關於任何國家的人民。
- 而是關於一種政府形式。
- 嗯，我擔心 AI 可能特別適合獨裁統治，並且會加深我們在獨裁政權中看到的壓迫。
- 我們已經在當今技術所能實現的監控國家中看到了這一點。
- 但如果你想想 AI 能在多大程度上製作個人化的宣傳，能入侵世界上任何電腦系統，嗯，能監視人口中的每一個人，在任何地方偵測異議並壓制它，你知道，製造一支巨大的無人機軍隊去追蹤每一個人。
- 這真的很可怕。
- 這真的很可怕，我們必須阻止它。
- 但同樣，這是你認為政府沒有足夠關注的事情嗎？
- 我的意思是，我認為公平地說，你知道，顯然不同的國家認為自己有不同的地緣政治對手，但具體關注於我們不希望獨裁政權獲得這項強大的技術，我們應該有針對性的政策，比如我們不需要和他們打仗，我們只需要不賣這些晶片，嗯，我認為這方面的關注還不夠。
- 我想多談談 Claude，因為我認為可以公平地說它正在經歷一個真正的時刻。
商業成長軌跡
- 我的意思是，它正在經歷一個時刻。
- 它確實正在經歷一個時刻，我們最近報導了工程師和一般用戶如何被「Claude 洗腦」了。
- 嗯，我只是想知道你對今天的業務狀況相比一年前有什麼感覺。
- 是的，我的意思是這是其中一件事，業務的成長很快，但和技術一樣是在同一條平滑的指數曲線上。
- 所以你知道，我們有這個營收曲線，2023 年從零到大約 1 億，2024 年從大約 1 億到大約 10 億，2025 年從大約 10 億到大約 100 億。
- 不完全精確。
- 這些是四捨五入的數字，但大致就是這樣。
- 你知道，經歷這些，如果你上 Twitter，每隔幾個月，就會看到「哦天啊，Anthropic 正在改變世界。哦天啊，你知道，Anthropic 完全摧毀了……」你知道，就是那種當下的情緒起伏。
- 但我們只是看著它，看著這條曲線。
- 它很快。
- 它在持續進步。
- 它給了我們信心。
- 我們永遠不確定它是否會繼續。
- 它可能不會。
- 但這就是我們一直以來經驗觀察到的。
- 然後有些時刻，即使曲線是平滑的，也會有突破時刻。
- 所以現在我認為 Claude Code 在開發者中正經歷一個突破時刻。
- 嗯，你知道，這個能夠製作整個應用程式並端到端完成事情的能力。
- 再說一次，這是逐漸進步的，但隨著我們最新的模型 Opus 4.5，它就達到了一個轉折點，對吧，你知道，改進是漸進的，但就像煮青蛙一樣。
- 你看到漸進的改進，然後有一個特定的時刻，突然那就是人們注意到的點。
- 我認為第二件可能進一步加速這一點的事情是，我們看了 Claude Code，我們注意到的一件事是，Anthropic 內部和外部有很多人不是技術人員，但他們意識到 Claude Code 可以為你完成這些令人難以置信的自主式任務。
- 它不只能寫程式。
- 它還可以整理你的待辦清單或規劃你的專案或整理你的資料夾，或者處理一堆資訊並總結。
- 所以，這個想法是不只是聊天機器人，而是需要自主式任務。
- 嗯，非技術人員意識到了這一點，他們非常想要它，以至於他們在和命令列奮戰，對吧？
- 非技術人員，你知道，如果你不是程式設計師，他們沒有理由使用它。
- 如果你不是程式設計師，這是一個多麼糟糕的介面。
- 但人們還是在使用它。
- 所以我看著這個，我說這看起來像是未被滿足的需求。
競爭格局與差異化
- 所以我們用了 Claude Code，大約兩週的時間，你知道，做了一個基本上有更好 UI 的版本，專門為程式碼以外的任務客製化。
- 我們發布了它，你知道，大約一天之內，它的大多數指標都是我們發布過的任何東西的四倍。
- 嗯，所以你知道，這是兩個時刻。
- 我不知道這些是不是新能力，但你知道，就是這種共識時刻，人們真的很興奮，它正在非常快速地推動採用。
- 我認為人們正在趕上技術能做的事情，因為它達到了某個點，而且因為我們建立了讓它變得可用的介面。
- 你能告訴我們一點關於你個人生活、家庭生活中如何使用自主式 AI 嗎？
- 是的。
- 嗯，所以你知道，當我在寫，比如你知道一篇文章之類的，或者像你知道我在公司面前說的話，嗯，我覺得我工作中相當大一部分是寫作，所以我有點讓 Claude 幫我找資料來源，幫助我寫作，那類的事情。
- 然後顯然你正在經歷這個很棒的時刻，我認為普遍預期你今年會 IPO。
- 你能告訴我們一點關於你的計劃嗎？
- 是的，我的意思是你知道，我們不確定我們會做什麼，你知道，我會說我們更專注於保持營收曲線增長，更好地把模型賣給人們，警告社會影響並帶來好的社會影響。
- 所以，你知道，那是現在最高的優先事項。
- 但是，你知道，如果我說這是一個資本需求非常高的產業，我不是在說什麼新鮮事。
- 嗯，而且你知道，在某個時候私人市場能提供的是有限的。
- 所以，另一個絕對正在經歷時刻的模型是 Gemini，它最近衝到了 App Store 的榜首，OpenAI 宣布進入「紅色警戒」，所以每個人都對此非常興奮。
- 考慮到 Google 的龐大規模，你擔心你的競爭能力嗎？
- 所以我認為這是另一個與眾不同就有幫助的地方。
- 所以你知道，企業策略，Google 和 OpenAI 在消費者領域打得你死我活，對吧，對雙方來說都是生存之戰。
- 對 OpenAI 來說是生存問題因為那是他們的全部業務，對 Google 來說是生存問題因為他們有搜尋業務，而那就是被這個技術顛覆的東西。
- 所以他們需要，你知道，取代自己並對抗顛覆。
- 所以那永遠是他們的首要任務，而且你知道，他們似乎更專注於那個而不是在企業領域經營。
- 很高興看到 Gemini 在消費者領域能做什麼。
- 你知道，我認為他們用不同的方式在做。
- 我剛和 Demis 一起參加了一個座談，他領導 Google 的研究。
- 你知道，我認為他是個很棒的人。
- 我認識他 15 年了，所以我支持他。
- 嗯，你談到差異。
- 一個差異是我相信 Anthropic 沒有生成影片和照片的能力。
- 你認為這是一個潛在的弱點嗎？
- 嗯，我，你知道，我認為對於企業業務，你知道，不太有需求，像是你知道，貓騎驢的照片之類的，或者你知道，消費者想要的任何影片。
科學家與創業家的思維模式
- 可能有一個關於簡報和演示的邊緣情況，但如果我們需要的話，我們可以直接從別人那裡買一個模型，你知道，我們可以直接從別人那裡承包一個模型。
- 所以，你知道，我不知道未來會發生什麼。
- 我不知道未來會發生什麼，但我至少不預期會需要這個。
- 嗯，而且我認為這有相關的問題。
- 像是，你知道，我認為，你知道，我們看看外面有多少短影片，很多是假的，很多是相當容易讓人上癮的，很多是垃圾內容。
- 嗯，不是說所有的都是壞的，或者做這件事就表示你是壞的，但這不是我急著要進入的市場領域。
- [笑] 你提到你和 Demis 一起參加座談，我們之前聊天時，你說了一些我覺得非常有趣的話，科學家們對待 AI 時代的方式，或者說領導這些大型 AI 公司的科學家們對待這個時代的方式，和科技創業家不同。
- 你能多說一點這是什麼意思嗎？
- 是的。
- 嗯，所以你知道，當你想到這項技術，它真的是已經進行了幾十年的研究的交集，其中大部分在十到十五年前還是學術性質的。
- 嗯，以及在過去十到十五年發展和部署這些技術所需的規模，這只來自大型的網際網路和社群媒體公司，對吧，他們有基礎設施，他們有現金，所以我們看到了一個世界，其中一些公司本質上是由有科學背景的人領導的，那是我的背景，那是 Demis 的背景，有些是由社群媒體一代的創業家領導的。
- 嗯，而且我認為那是非常不同的，嗯，你知道，科學家有一個長期的傳統，會思考他們建造的技術的影響，認為自己對他們建造的技術負有責任，不逃避責任，對吧？
- 他們最初的動機是為世界創造一些東西。
- 所以當那個東西可能出問題時，他們會擔心。
- 嗯，我認為創業家的動機非常不同，特別是那一代社群媒體創業家。
- 對他們運作的選擇效應，他們與消費者互動的方式，你可能會說操縱消費者的方式，是非常不同的。
- 嗯，所以我認為那導致了不同的態度。
- 嗯，現在我們一直在接受線上讀者提交的問題，但在我們這樣做之前，我只是想再問你一件事，你知道，再次是大格局的問題，美國和歐盟之間的緊張關係目前非常高。
- 如果情況升級，你會擔心這可能如何影響你經營業務的方式嗎？
- 聽著，我的意思是，你知道，我們一直，你知道，我們只為自己說話。
- 我們一直認為自己是，你知道，我們自己的東西，是獨立的，對吧？
- 我們不會刻意支持或反對任何人。
- 但當我們，你知道，當我們不同意政策時，我們會說出來。
- 當我們同意政策時，我們也會說出來。
- 而且我們真的只專注於 AI。
- 所以，你知道，我沒有看到世界其他地方的人不願意與我們合作，對吧？
- 我們是我們自己的東西。
- 我們提供 AI 模型。
- 我們試圖負責任地做這件事。
教育與勞動力影響
- 我的意思是，這週有很多關於 AI 主權的討論。
- 我不完全確定每個人似乎都有什麼看法。
- 我也不知道那是什麼意思。
- 你沒有自己的定義。
- [笑聲] 好的。
- 好吧，那麼，我們已經在線上向讀者徵集問題了。
- 嗯，所以我現在要從 Trevor Lumis 的問題開始。
- 嗯，他的問題是，要讓前沿 AI 在現實世界部署中可靠地安全和可控，還缺少什麼最重要的單一技術突破？
- 所以我認為我們需要在機制可解釋性上取得更多進展，這是觀察模型內部的科學。
- 當我們訓練這些模型時，其中一個問題是，你不知道、你無法確定它們會做你認為它們會做的事情。
- 你可以在一個情境中和模型交談。
- 它可以說各種各樣的話。
- 就像人類一樣，那可能不是他們實際在想什麼的忠實表述。
- 如果他們告訴你「我因為這個原因做 X」。
- 他們可能因為完全不同的原因做 X。
- 他們可能在撒謊說他們在做 X。像是，我們非常習慣人類有這些問題，但 AI 也有同樣的問題。
- 所以任何現象學的測試或訓練，我們都無法確定。
- 但就像你知道你可以透過做 MRI 或 X 光來了解人類大腦的一些事情，這是你只靠和人類交談學不到的，觀察 AI 模型內部的科學。
- 我相信這最終是讓模型安全和可控的關鍵，因為它是我們擁有的唯一事實依據。
- 對。
- 好的。
- 嗯，我這裡還有一個來自 Jim O’Connell 的問題。
- AI 將如何影響目前的 K12 教育成就差距？
- 這是一個非常實際的問題，毫無疑問來自一位家長。
- 是的。
- 所以，你知道，我，我的，你知道，有一些短期的事情，關於人們用 AI 作弊，我認為這是有問題的。
- 但是，你知道，相對而言，好吧，你可以有一種不同的方式，嗯，你知道，使用 AI 來教學。
- 而且你知道，我們已經想過這個問題。
- 我們發布了專為教育設計的 Claude 版本，那種是圍繞這個設計的。
全球公平與發展
- 但我認為背後更難的問題是，好吧，在 AI 的世界裡我們實際上在教什麼技能？
- 在 AI 的世界裡教育是什麼樣子的？
- 這並不容易，因為顛覆是廣泛的，我們不知道，如果有人問我，我到底應該進入什麼職業，令人不安的事實是，我不確定。
- 我還無法判斷它將走向什麼方向。
- 我會說，我認為我們應該回到一些我們早期對教育的概念，比如我們一直有一種非常，像是，嗯，像是經濟導向的，幾乎是功利主義的教育概念。
- 嗯，而且我認為我們應該做的一件事是，我們也許應該從那個概念退回來，回到這樣的想法，像是你知道，教育是設計來塑造你這個人的，是設計來建立品格的，是，你知道，是設計來豐富你並讓你成為一個更好的人的。
- 我認為這實際上是未來教育更安全的基礎。
- 那聽起來我相當羨慕那些還沒接受教育的孩子。
- 這是我們都想要的那種教育。
- 嗯，所以為了公平對待房間裡的每個人，我想我們還有時間回答一個問題，如果有人想問問題的話。
- 是的。
- 這位女士。
- 是的。
- 是的。
- 不，不，他是麥克風。
- 嗯，我想從 AI 實驗室的角度問，當有經濟體、國家和人民被落下時，你們承擔什麼樣的責任？
- 嗯，這會擴展到結構性地讓他們參與進來，放慢速度，還是實際上確保他們不被排除在外？
- 是的，我在很多層面上都擔心這個問題，這不僅僅是國家對國家。
- 我當然擔心發展中國家與已開發國家之間的差距。
- 嗯，有時候發展中世界會被科技革命拋在後面。
- 但我也擔心一個國家內部的分裂。
- 當我觀察我們的客戶時，我注意到新創公司採用 AI 的速度非常快，而傳統企業因為規模更大、因為他們做特定的事情，動作慢得多。
- 嗯，我們可以在我們的經濟數據中看到這一點。
- 我們可以看到技術從美國快速採用的州向緩慢採用的州擴散。
- 它正在擴散。
- 它正在傳播出去。
- 但毫無疑問，這裡存在差異。
- 如果我要描述噩夢，然後我會試著描述一些我認為的解決方案。
- 噩夢是這樣的，有一個新興的「零號世界」國家，大約 1000 萬人，像是 700 萬人在矽谷，你知道，300 萬人散布在各處，正在形成自己的經濟並與外界脫鉤或斷開，對吧，也許 10% 的 GDP 成長在那部分看起來像 50% 的 GDP 成長，像是這項技術太瘋狂了，它可以這樣把事情撕裂。
- 嗯，我認為那會是一個非常糟糕的世界。
- 我幾乎會說那是一個反烏托邦的世界，對吧？
- 而且我們應該思考如何阻止那種情況。
- 嗯，有一些 Anthropic 正在思考或做的事情。
- 嗯，一個是關於發展中世界，我們開始在公共衛生方面做很多工作。
- 嗯，我們已經宣布了與盧安達教育部的合作。
- 我們正在與蓋茨基金會（Gates Foundation）做很多工作。
- 嗯，你知道，我在《Machines of Loving Grace》中寫到這個，能夠在發展中世界獲得這些快速的經濟成長率會非常棒，理論上應該更快，因為這是追趕型成長，嗯，就是我預測我們在已開發國家將獲得的那種成長，嗯，你知道，在國家內部，我們需要，你知道，我們需要思考如何不讓世界的一部分就這樣脫鉤，對吧，我們如何讓經濟成長傳到密西西比州，那是正在來到矽谷這個封閉區域的成長。
- 所以，你知道，在那裡我們做了一些關於經濟流動性和經濟機會的工作。
- 但我認為這兩者都需要政府的某些參與。
- 我們會發現意識形態無法在這項技術的本質面前存活。
- 它無法在現實面前存活。
- 我談論的這些事情，你知道，雖然今天你可以說「哦，是的，它們在某種程度上有政治傾向」，它們會變成跨黨派和普世的，因為每個人都會認識到它的必要性。
- 記住我的話，我們明年回來，或後年，每個人都會這樣想。
- 嗯，你設法以一個或多或少正面的音符結束。
- 所以，我要在這裡畫上句號，非常感謝你，Dario。
- 那真的非常精彩。
- 謝謝你的邀請。
- [掌聲]