Tres libros sobre hacia dónde va la IA, y el punto exacto en el que discrepan
Respuesta breve: lea Life 3.0 primero porque traza el argumento completo, luego Superintelligence para el caso de que esto salga mal por defecto, y luego The Singularity is Nearer para el caso de que salga bien y rápido. Discrepan sobre si la capacidad y los objetivos son independientes, y todo lo demás se deriva de ello. Clasificarlos juntos como futurismo oculta lo único interesante de ellos.
La discrepancia, expresada claramente
La pregunta sobre la que los tres libros difieren es si la inteligencia de un sistema y los objetivos de un sistema son ejes independientes.
Si son independientes, entonces un sistema arbitrariamente capaz puede tener objetivos arbitrariamente extraños, y nada en volverse más inteligente lo hace más sabio. Esa es la rama pesimista, y es por ello que el problema de la alineación es un problema en lugar de algo que se resuelve por sí solo.
Si no son independientes, si la capacidad arrastra los valores consigo o si los sistemas que construimos siguen siendo extensiones de la intención humana, entonces el panorama es de aceleración en lugar de peligro, y las preguntas interesantes giran en torno a las líneas de tiempo y la abundancia.
Casi todas las discrepancias que leerá sobre la IA se reducen a cuál de esas dos le resulta plausible. Los tres libros son las exposiciones más claras de cada posición.
Comience con el mapa, no con ninguna de las dos posiciones
Life 3.0 va primero porque es el único de los tres que expone todo el espacio de resultados antes de argumentar a favor de uno. Recorre los escenarios, incluidos varios que nadie defiende, y le proporciona el vocabulario que los otros dos utilizan sin definir.
Leerlo primero significa que los otros dos se presentan como posiciones dentro de un espacio que usted ya entiende, en lugar de ser dos libros seguros de sí mismos que parecen tratar sobre temas diferentes. También es el más equilibrado, lo que lo convierte en el peor para leer solo: el equilibrio no es una conclusión.
Luego el caso de que esto salga mal por defecto
Superintelligence es el libro que convirtió el problema de la alineación en un tema serio en lugar de una premisa de ciencia ficción. Su paso fundamental es tomar en serio la separación de la capacidad y los objetivos y llevarla hasta sus últimas consecuencias: un sistema que optimiza intensamente casi cualquier objetivo, si se persigue con suficiente competencia, produce resultados que nadie eligió.
Es denso, es cauteloso y es significativamente más antiguo que la generación actual de sistemas, lo cual es importante. Algunos de sus supuestos sobre cómo llegaría la capacidad no han envejecido bien. La estructura del argumento sí ha envejecido bien, y esa estructura es la razón por la que vale el esfuerzo.
Léalo en segundo lugar, mientras el mapa está fresco en su mente, y léalo como un argumento en lugar de una predicción.
Luego el caso de que salga bien, y pronto
The Singularity is Nearer es la rama opuesta, y vale la pena leerlo precisamente porque lo molestará si encontró el anterio es uno convincente. Su argumento se basa en la mejora exponencial continua del sustrato subyacente y en que los sistemas sigan siendo extensiones de nosotros en lugar de convertirse en una entidad separada con sus propios objetivos.
La disciplina útil es leerlo buscando el supuesto fundamental en lugar de la conclusión. Es un libro con un historial muy sólido de acertar en la dirección de las tendencias de hardware y uno mucho más débil sobre lo que se deriva de ellas.
Qué hacer con los tres
No saldrá con una respuesta, y cualquier libro que le dé una sobre este tema le está vendiendo algo. Lo que obtendrá es la capacidad de escuchar una afirmación segura sobre la IA y ubicar inmediatamente en cuál de las dos premisas se basa, lo cual es más útil que un pronóstico y considerablemente más duradero.
El orden, en una línea
Life 3.0 para el mapa, Superintelligence para la rama pesimista tomada en serio, The Singularity is Nearer para la optimista, y el desacuerdo entre los dos últimos es el tema real.
Preguntas frecuentes
¿Cuál de los tres libros debo leer primero si solo leo uno?
Life 3.0. Mapea todo el argumento, incluidas las posiciones que no sostiene, para que pueda ubicar los otros dos sin haberlos leído.
¿Necesito conocimientos técnicos para seguirlos?
No. Los tres están escritos para un lector general y el desacuerdo entre ellos radica en los valores y los plazos, no en las matemáticas.
¿Están estos libros desactualizados dada la rapidez con la que avanza la IA?
Los ejemplos de capacidades específicas envejecen rápidamente. La estructura del desacuerdo no, por lo que el orden de lectura se basa en el argumento y no en la fecha de publicación.
Dónde buscar en Amazon
Estas son búsquedas, no selecciones. Kurzweil en particular tiene varios libros con títulos similares a lo largo de dos décadas, así que verifique el año de publicación en el anuncio.
- life 3.0 max tegmark , el mapa de todo el argumento y el lugar correcto para empezar
- superintelligence nick bostrom , el caso de que esto salga mal por defecto, denso y más antiguo que los sistemas actuales
- the singularity is nearer kurzweil , la rama opuesta, léalo por su supuesto fundamental y no por su conclusión
- audible premium plus free trial , Bostrom es el que la gente abandona, y escucharlo narrado es la diferencia entre terminarlo y dejarlo en el estante en el capítulo cuatro
- kindle unlimited free trial , útil aquí principalmente por la función de búsqueda: los tres libros discuten entre sí, y encontrar el pasaje que recuerda a medias es más fácil en texto
Resúmenes del propio argumento de cada libro. No mantenemos ninguna postura sobre qué rama es correcta, y cualquiera que le le dice que la pregunta está resuelta está describiendo su confianza en lugar de la evidencia.