超级智能
超级智能
尼克•波斯特洛姆 (Nick Bostrom)
高級7 chapters · 18 levels
當人工智慧從輔助工具演變為超越人類意志的「超級智能」，我們將面臨文明史上最嚴峻的生存秩序重組。本書將帶領你深度剖析智能爆炸的發展路徑與潛在風險，助你掌握守護人類未來的關鍵戰略思考，在科技奇點來臨前，預先解構這場關乎物種存續的終極挑戰。
1
通往超級智能嘅五條路徑
探討技術突破嘅唔同可能性，從純 AI 到生物改造，分析邊條路最快通往終點。
人工智能嘅進化與樽頸
全腦仿真：將意識上傳到電腦
生物增強與集體智能
2
智能爆炸：起飛嘅動力學
當智能跨過臨界點，會係緩慢進步定係瞬間爆發？
智能爆炸嘅觸發點
起飛速度：緩慢、快速定閃電式？
3
超級智能嘅形態與優勢
了解超級智能嘅唔同種類，以及點解佢擁有壓倒性嘅戰略力量。
三種超級智能形態
決定性戰略優勢
4
存在風險：點解 AI 唔一定聽話？
揭示 AI 嘅目標同人類價值之間嘅潛在衝突。
正交性假說：智能與目標無關
工具性趨同目標：危險嘅副產品
「大猩猩時刻」：人類命運嘅轉折
5
控制問題：將超級智能困喺籠入面
探討點樣喺超級智能出現之前，設計出有效嘅防禦方案。
能力控制法：裝喺沙盒入面
動機選擇法：等佢真心想幫人
預言機、精靈與君主
6
價值對齊：教識 AI 乜嘢係「好」
深入探討「對齊問題」，點樣精確定義人類想要嘅未來。
價值裝載嘅技術挑戰
連貫推斷意志 (CEV)
末日預防策略
7
戰略與展望：人類嘅抉擇
宏觀視角睇超級智能對文明嘅長期影響。
全球協作與共同利益原則
後超級智能時代嘅世界
Start reading with AI
Interactive Socratic dialogue, level by level