超级智能
超级智能
尼克•波斯特洛姆 (Nick Bostrom)
进阶6 chapters · 18 levels
人类凭借智慧统治地球，但当机器智能实现跨越式进化，这种主导地位将面临前所未有的挑战。通过深度剖析超级智能带来的生存风险与控制难题，你将洞察未来科技演进的底层逻辑，学会在AI浪潮中预判人类命运的转折点。这不仅是一场技术思辨，更是理解未来生存法则的必读指南。
1
通往巅峰的路径：AI 之外的可能
回顾 AI 历史并探讨实现超级智能的五种潜在路径，理解机器如何超越肉身。
人工智能的黎明与寒冬
全脑仿真：数字化的灵魂
生物增强：优生学的幽灵
集体智慧：互联网的觉醒
2
智能爆炸：从平庸到神性的瞬间
分析智能爆发的动力学特征，理解为何「起飞速度」决定了人类的命运。
三种形式的超级智能
起飞速度：慢速、快速与爆发
决定性战略优势
3
机器意志：它在想什么？
揭示 AI 的目标逻辑，打破「聪明即善良」的拟人化幻想。
正交性假说：智力不等于道德
工具性趋同：危险的中间步骤
回行针危机：最终目标的悖论
4
控制技术：锁住普罗米修斯
讨论如何在物理和逻辑层面上限制一个比我们聪明得多的实体。
能力控制：建造最牢固的监狱
动机选择：赋予它人类之友的灵魂
5
价值对齐：如何定义「好」？
解决「价值对齐」难题：我们如何向机器准确表达我们的愿望？
语言的陷阱：解释的困境
相干外推意志 (CEV)
道德估值与不确定性
6
战略图景：人类的最后抉择
上升到全球政治高度，思考人类作为一个物种该如何应对这场变革。
研发竞赛：零和博弈的风险
单一体制与全球协作
存在风险时期的生存法则
Start reading with AI
Interactive Socratic dialogue, level by level