Superintelligence, de Nick Bostrom

Banda sonora de la reseña: Sugiero leer esta reseña escuchando You Could Be Mine, de Guns N' Roses (Spotify, YouTube)

Cuando, hace algunos meses, reseñé Inteligencia artificial: una introducción filosófica, de Jack Copeland, prometía contar mis impresiones de una obra que cubría una de las pequeñas lagunas de ese otro libro: Superintelligence, de Nick Bostrom. Me ha llevado un poco más de tiempo del que esperaba, pero aquí tenéis al fin mi reseña. Ya me diréis si la espera ha merecido la pena. 

Para el que no sepa de qué trata Superintelligence, diré simplemente que es una de las obras más destacadas de la corriente de pensamiento que, en los últimos años, intenta alertar sobre los peligros de desarrollar inteligencias artificiales que superen en capacidad a los seres humanos. Seguramente habréis oído o leído en distintos sitios las declaraciones de personajes tan relevantes como Stephen Hawking, Bill Gates o Elon Musk llamando a tomar precauciones contra las IAs. Pues gran parte de esas ideas están recogidas (cuando no inspiradas) por Bostrom en este libro. 

La obra no oculta en ningún momento la postura del autor. De hecho, desde el prólogo se muestra a las claras que Bostrom aboga por tomar cuanto antes infinidad de precauciones en la investigación y desarrollo de la inteligencia artificial. En ese sentido, se podría pensar que leer Superintelligence redundante si uno ya está familiarizado con las advertencias sobre el tema que se han venido realizando con frecuencia en los últimos tiempos. Sin embargo, me atrevo a afirmar que leer este libro no está de más incluso si uno tiene una opinión ya formada sobre el particular. 

Y es que uno de los placeres de leer Superintelligence es disfrutar de lo increíblemente prolijo y metódico del razonamiento de Bostrom. Si conocéis el famoso argumento de la simulación (y, si no, os diré que os estáis perdiendo una de mis ideas filosóficas favoritas), sabréis que este autor es especialmente cuidadoso en su forma de pensar y exponer sus ideas. En ese sentido, Superintelligence es Bostrom en estado puro: cada capítulo analiza y desmenuza todas las posibilidades hasta la extenuación. Mientras leía el libro, me era imposible no imaginarme a Bostrom como una apisonadora, procediendo de forma lenta pero inasequible al desaliento a aplastar cualquier objeción que se atreve a ponerse en su camino. 

Fruto de esto es una análisis pormenorizado de todas las formas en que se puede llegar a obtener superinteligencia (capítulo 2), las formas que ésta puede adoptar (capítulo 3), la dinámica de la singularidad en función del número de agentes presentes (capítulo 4), las capacidades que puede alcanzar una superinteligencia (capítulo 6), las distintas formas en las que el desarrollo de la inteligencia artificial puede acabar en un desastre (capítulo 8, uno de mis favoritos) o los problemas que se pueden plantear incluso con inteligencias artificiales "limitadas" (capítulo 10). Creo que estos capítulos son, en su mayor parte, excelentes y justifican por sí solos la lectura del libro, incluso aunque no esté completamente de acuerdo con todas las conclusiones a las que llega Bostrom (por ejemplo, el hecho de que una IA sea necesariamente un agente racional). 

Como aliciente adicional, y quizá esto sea lo más interesante para el lector aficionado a la ciencia ficción más que al ensayo filosófico, se exploran montones de escenarios e ideas que podrían dar lugar a relatos o incluso novelas enteras. Bostrom no los desarrolla con especial detalle, pero el germen está sin duda ahí y estoy seguro de que un escritor con un poco de imaginación puede encontrar en esta obra una auténtica mina de oro para sus creaciones. 

En el aspecto negativo, he de mencionar que lo que al principio es una virtud de la obra, al final se convierte también en su talón de Aquiles. Tan prolijo y exhaustivo quiere ser Bostrom que el tramo final del libro, aproximadamente a partir del último tercio, se vuelve tedioso y repetitivo. En concreto, mi impresión es que del capítulo 11 en adelante hay mucho desarrollo que se deduce fácilmente de lo expuesto anteriormente y del que se podría haber prescindido sin mayor problema.

Pese a ello, creo que Superintelligence es una obra interesante y estimulante, que recomiendo leer incluso aunque no estéis muy de acuerdo con el alarmismo que se ha creado alrededor de la investigación en inteligencia artificial. Ver la maquinaria de razonamiento que pone en marcha Bostrom es un espectáculo que merece la pena contemplar en funcionamiento y, solo por ello, doy por muy bien empleado el tiempo invertido en leer este libro.      

Science Fiction and Philosophy: From Time Travel to Superintelligence, de Susan Schneider (Parte 1)

Banda sonora de la reseña: Sugiero leer esta reseña escuchando Beyond the Matrix, de Epica (Spotify, YouTube)

Últimamente me ha vuelto a picar el gusanillo de leer ensayo y divulgación científica. Como os contaba hace poco, todo empezó a raíz de un interesante debate que se organizó sobre la película Ex Machina, que me hizo recordar cuánto había disfrutado leyendo sobre filosofía de la inteligencia artificial. Así que, reavivada la llama, me decidí a comprar pedir como regalo del día del padre un libro al que hacía mucho tiempo que tenía echado el ojo: Science Fiction and Philosophy: From Time Travel to Superintelligence, editado por Susan Schneider. Por suerte, además, desde que lo había mirado por última vez se había publicado una segunda edición, actualizada y con más contenido. 

El libro está dividido en cinco partes dedicadas a cinco temas distintos: 

1. Could I Be in a "Matrix" or Computer Simulation?
2. What Am I? Free Will and the Nature of Persons
3. Mind: Natural, Artificial, Hybrid, Alien and "Superintelligent"
4. Ethical and Political Issues
5. Space and Time

Cada parte contiene ensayos de distintos filósofos e incluso alguna historia corta de ciencia ficción. Como veis, cada uno de los temas da para mucho, así que he decidido ir leyéndolos poco a poco y hacer una reseña por entregas, analizando cada parte por separado. Muchos de los artículos recopilados están disponibles online de forma gratuita, así que iré también enlazándolos para que podáis leerlos si estáis interesados.

La primera parte, a la que me quiero dedicar hoy, trata sobre la posibilidad, popular en muchas obras de ciencia ficción, de que estemos viviendo en una simulación por ordenador. Por supuesto, la referencia más conocida sería la película The Matrix (se cita al comienzo como "obra relacionada", junto a novelas como Ciudad permutación, de Greg Egan, o Simulacron-3, de Daniel F. Galouye), que se toma como ejemplo canónico en un par de los ensayos incluidos.

El bloque se abre con "Reinstalling Eden: Happiness on a Hard Drive", un relato breve, publicado originalmente en Nature, de Erich Schwitzgebel y R. Scott Bakker. Se trata de una historia que, sin ser ninguna obra maestra, está bastante bien llevada y sirve para motivar adecuadamente el tema. Desde luego, es mucho mejor que la que se incluía en su lugar en la primera edición, "Brain in a Vat", de John Pollock.

A continuación aparece uno de los artículos clásicos sobre el tema de la simulación: "Are You in a Computer Simulation?", de Nick Bostrom, en el que se presenta el famoso y muy sugerente "argumento de la simulación".  Por supuesto, es una referencia clave sobre el tema y el libro estaría cojo si no la incluyera. Si no lo habéis leído, os invito a hacerlo, porque me parece prácticamente impecable desde el punto de vista filosófico (igual soy un tanto parcial, porque me encanta lo sistemático de los razonamientos de Bostrom, aunque no siempre esté de acuerdo con sus conclusiones).

Imagen procedente de www.markstivers.com

Después nos encontramos con dos extractos de obras clave de la Historia de la Filosofía (así, con mayúsculas): el fragmento en el que se describe el mito de la caverna, de La República de Platón, y la primera parte de las Meditaciones metafísicas, de Descartes. Ambas son muy pertinentes, evidentemente, aunque la de Descartes nunca la había relacionado conscientemente con el argumento de la simulación y me ha resultado muy interesante verla en este contexto.

Hasta aquí todo muy bien, pero quizá demasiado convencional para mi gusto: obras y artículos muy conocidos y un tanto básicos. Afortunadamente, el capítulo se redime completamente para mí con "The Matrix as Metaphysics", de David J. Chalmers, un ensayo que no conocía y que me ha encantado (a pesar de que mi amigo Emilio diga que se trata de "Chalmers diciendo que lo real es real"). El artículo estudia distintas variantes de la hipótesis de la simulación y explora las consecuencias metafísicas que se derivan de cada una de ellas de forma rigurosa y sistemática pero, a la vez, accesible.

Me ha gustado especialmente cómo Chalmers analiza la posibilidad que dan los distintos tipos de universos simulados de dar entidad real (y, en algunos casos, hasta empíricamente constatable) a distintas hipótesis metafísicas, incluyendo el dualismo cartesiano. La única pega que le pongo es que se centra más en los escenarios del tipo "cerebro real viviendo en un mundo simulado" que en los de simulaciones completas (que, a mí, me parecen más verosímiles e interesantes).

La versión del artículo de Chalmers que se incluye en el libro carece de las notas finales que aparecían en el artículo original, una decisión que puedo llegar a entender por motivos de espacio y de mantener la obra en un nivel suficientemente asequible. Sin embargo, recomiendo su lectura, porque me parece de lo más estimulante (aunque, en algunos puntos, bastante más compleja que el texto principal). En particular, me ha gustado mucho el tratamiento que hace el autor de algunas ideas que provienen de un artículo de Hilary Putnam, "Brains in a vat", en cuanto a la "referencia" y su relación con la posibilidad de que vivamos en una simulación.

Recomiendo leer también, como complemento, ese artículo de Putnam si estáis interesados en el tema y no os da miedo meteros en cuestiones algo más complejas, puesto que es tremendamente interesante (aunque fundamentalmente fallido en su razonamiento). No entraré aquí en muchos detalles sobre este ensayo (puesto que no está recogido en el libro de Schneider), pero el estudio que Putnam hace sobre lo que es "representar" me ha gustado mucho y ha hecho que me pique la curiosidad sobre el tema (del que no conozco apenas nada).

Lo que sí quiero mencionar es que es curioso cómo el teorema de Löwenhweim-Skolem, que el propio Putnam cita como inspiración para su argumento, podría usarse para dar una solución a la aparente paradoja que se plantea en el artículo (y, de paso, me ha llevado a descubrir que hay toda una serie de artículos sobre las consecuencias metafísicas del teorema, cosa que me parece fascinante y que quiero seguir explorando, aunque ya entraría más en el terrero de "matemáticas y filosofía" que en el de "ciencia ficción y filosofía". Por si alguien está interesado además de mí, parece interesante al menos "Brains in vats and model theory", de Tim Button, artículo reciente que aparece en The Brain in a Vat, editado por Sandford C. Goldberg).

En resumen, y volviendo estrictamente a lo contenido en la primera sección del libro editado por Schneider, un comienzo interesante que, en mi opinión, se queda un poquito en lo más evidente y en el que destaca el artículo de David J. Chalmers. He echado en falta una sección de conclusiones y, sobre todo, una de referencias que sirva para estudiar el tema con más profundidad. En cualquier caso, este bloque ha cumplido su función: me ha hecho pensar, descubrir nuevas ideas y, sobre todo, buscar otras obras que parecen fascinantes. Tengo ganas de leer la siguiente sección y, por supuesto, espero poder contároslo aquí dentro de poco.