Superinteligencia
Nick Bostrom
Explora el fascinante y peligroso camino hacia una inteligencia artificial que supere la mente humana, analizando los desafíos éticos y técnicos que definirán nuestro destino como especie. Con esta lectura, comprenderás por qué el diseño de sistemas de control seguros es el reto más crítico de nuestra era para garantizar que el futuro de la tecnología sea un aliado y no una amenaza existencial.
El Camino al Trono Digital
Exploración de las rutas tecnológicas y biológicas que podrían conducir a una inteligencia que supere la capacidad humana.
Más allá del Silicio: Rutas a la IA
La Gran Explosión de Inteligencia
La Velocidad del Cambio
Análisis de las dinámicas de despegue y cómo la rapidez del proceso afecta nuestra capacidad de respuesta.
Despegue Lento vs. Explosivo
La Ventaja Estratégica Decisiva
Anatomía de un Dios Digital
Definición de las formas que puede tomar la superinteligencia y sus capacidades cognitivas únicas.
Velocidad, Calidad y Colectividad
Superpoderes Cognitivos
La Voluntad Artificial
Desmitificación de la relación entre inteligencia y valores humanos, y los objetivos inherentes a cualquier agente poderoso.
La Tesis de la Ortogonalidad
Convergencia Instrumental
El Riesgo Existencial
Evaluación de por qué la superinteligencia es un desafío único para la supervivencia de la humanidad.
El Giro Traicionero
El Problema del Rey Midas
Jaulas y Grilletes: El Problema del Control
Estrategias para limitar o dirigir el comportamiento de una entidad superior antes de su nacimiento.
Métodos de Contención
Selección de Motivaciones
Oráculos y Genios
Enseñando a Amar: Valores Humanos
Cómo transmitir la complejidad ética humana a un código matemático sin errores fatales.
Voluntad Coherente Extrapolada (CEV)
El Problema de la Especificación Ética
Start reading with AI
Interactive Socratic dialogue, level by level