Superintelligence, de Nick Bostrom

Banda sonora de la reseña: Sugiero leer esta reseña escuchando You Could Be Mine, de Guns N' Roses (Spotify, YouTube)

Cuando, hace algunos meses, reseñé Inteligencia artificial: una introducción filosófica, de Jack Copeland, prometía contar mis impresiones de una obra que cubría una de las pequeñas lagunas de ese otro libro: Superintelligence, de Nick Bostrom. Me ha llevado un poco más de tiempo del que esperaba, pero aquí tenéis al fin mi reseña. Ya me diréis si la espera ha merecido la pena. 

Para el que no sepa de qué trata Superintelligence, diré simplemente que es una de las obras más destacadas de la corriente de pensamiento que, en los últimos años, intenta alertar sobre los peligros de desarrollar inteligencias artificiales que superen en capacidad a los seres humanos. Seguramente habréis oído o leído en distintos sitios las declaraciones de personajes tan relevantes como Stephen Hawking, Bill Gates o Elon Musk llamando a tomar precauciones contra las IAs. Pues gran parte de esas ideas están recogidas (cuando no inspiradas) por Bostrom en este libro. 

La obra no oculta en ningún momento la postura del autor. De hecho, desde el prólogo se muestra a las claras que Bostrom aboga por tomar cuanto antes infinidad de precauciones en la investigación y desarrollo de la inteligencia artificial. En ese sentido, se podría pensar que leer Superintelligence redundante si uno ya está familiarizado con las advertencias sobre el tema que se han venido realizando con frecuencia en los últimos tiempos. Sin embargo, me atrevo a afirmar que leer este libro no está de más incluso si uno tiene una opinión ya formada sobre el particular. 

Y es que uno de los placeres de leer Superintelligence es disfrutar de lo increíblemente prolijo y metódico del razonamiento de Bostrom. Si conocéis el famoso argumento de la simulación (y, si no, os diré que os estáis perdiendo una de mis ideas filosóficas favoritas), sabréis que este autor es especialmente cuidadoso en su forma de pensar y exponer sus ideas. En ese sentido, Superintelligence es Bostrom en estado puro: cada capítulo analiza y desmenuza todas las posibilidades hasta la extenuación. Mientras leía el libro, me era imposible no imaginarme a Bostrom como una apisonadora, procediendo de forma lenta pero inasequible al desaliento a aplastar cualquier objeción que se atreve a ponerse en su camino. 

Fruto de esto es una análisis pormenorizado de todas las formas en que se puede llegar a obtener superinteligencia (capítulo 2), las formas que ésta puede adoptar (capítulo 3), la dinámica de la singularidad en función del número de agentes presentes (capítulo 4), las capacidades que puede alcanzar una superinteligencia (capítulo 6), las distintas formas en las que el desarrollo de la inteligencia artificial puede acabar en un desastre (capítulo 8, uno de mis favoritos) o los problemas que se pueden plantear incluso con inteligencias artificiales "limitadas" (capítulo 10). Creo que estos capítulos son, en su mayor parte, excelentes y justifican por sí solos la lectura del libro, incluso aunque no esté completamente de acuerdo con todas las conclusiones a las que llega Bostrom (por ejemplo, el hecho de que una IA sea necesariamente un agente racional). 

Como aliciente adicional, y quizá esto sea lo más interesante para el lector aficionado a la ciencia ficción más que al ensayo filosófico, se exploran montones de escenarios e ideas que podrían dar lugar a relatos o incluso novelas enteras. Bostrom no los desarrolla con especial detalle, pero el germen está sin duda ahí y estoy seguro de que un escritor con un poco de imaginación puede encontrar en esta obra una auténtica mina de oro para sus creaciones. 

En el aspecto negativo, he de mencionar que lo que al principio es una virtud de la obra, al final se convierte también en su talón de Aquiles. Tan prolijo y exhaustivo quiere ser Bostrom que el tramo final del libro, aproximadamente a partir del último tercio, se vuelve tedioso y repetitivo. En concreto, mi impresión es que del capítulo 11 en adelante hay mucho desarrollo que se deduce fácilmente de lo expuesto anteriormente y del que se podría haber prescindido sin mayor problema.

Pese a ello, creo que Superintelligence es una obra interesante y estimulante, que recomiendo leer incluso aunque no estéis muy de acuerdo con el alarmismo que se ha creado alrededor de la investigación en inteligencia artificial. Ver la maquinaria de razonamiento que pone en marcha Bostrom es un espectáculo que merece la pena contemplar en funcionamiento y, solo por ello, doy por muy bien empleado el tiempo invertido en leer este libro.