Miedos, fantasmas, amenazas
Si me pusiera a buscar en las carpetas antiguas, en las que guardo los prospectos de las películas que entregaban en las salas de arte y ensayo de Madrid cuando yo era adolescente, sabría la fecha exacta en la que vi El manuscrito encontrado en Zaragoza una película de culto para los cinéfilos de la segunda parte de los años 60. Fue dirigida por el polaco Wojciech Has y filmada en 1965.
Fui a verla con Pedro Martínez Massa, un compañero de estudios de esa época. A la salida nos quedamos en silencio. Había sido una experiencia narrativa a la que no estábamos acostumbrados. Nos miramos sabiendo que no era indiferencia lo que sentíamos y en algún momento comenzamos a desenredar nuestras distintas sensaciones.
La historia iba y venía, en ocasiones como las ramas de un árbol que se bifurcan. Al final sentí una circularidad en la que los momentos regresaban, pero no pasaban por el mismo lugar. Desde entonces mantengo una aproximación a las estructuras laberínticas y a la lógica espiral. Volvemos a lugares y conceptos. Volvemos a temáticas y puntos de vista, pero ese punto nunca es el mismo. En cada vuelta estamos más cerca o más lejos del centro de la espiral y nuestra mirada se amplía con nuevas perspectivas o se enfoca en un aspecto que tiene más detalle y profundidad. En alguna pasada vemos fantasmas, en otras comprendemos que también formamos parte de lo que vemos.
Inteligencia artificial: ¿avance o retroceso?
Uno de esos temas a los que doy vueltas es a la Inteligencia Artificial (IA), el contrapunto de la inteligencia natural. Un quiebre, por lo tanto, en la transparencia del pensar como siempre lo habíamos hecho y en las posibilidades de imaginar el futuro. Un antes y un después, pero no está claro el presente. Es por eso que hoy entiendo la frase de Antonio Gramsci:
Lo viejo está muriendo y lo nuevo no ha nacido todavía, y en ese intervalo aparecen los monstruos.
Los monstruos vienen con pancartas amenazantes y vestidos de dominación, vigilancia y sustitución de funciones. Los monstruos producen miedo y este es un momento sin valientes. Puede ser que desde esta misma percepción Elon Musk, dueño de Twitter y fundador de OpenAI, y un grupo de personalidades influyentes como el historiador y escritor Yuval Noah Harari o Steve Wozniak, cofundador de Apple, firmaron hace poco una carta abierta pidiendo una pausa de al menos 6 meses en el desarrollo de la IA. Tan claro les parece el peligro, aunque 6 meses sea un tiempo fugaz.
Lo evidente es que la aceleración del desarrollo de la IA, sin que en los avances estén presentes quienes pueden influir en la definición de políticas públicas, en los nuevos énfasis de la educación y en la salvaguarda de los derechos de los usuarios, puede llevarnos a un mundo distópico a partir de desequilibrios que lleguen a ser insalvables.
Ciertamente, los vendedores de los avances sin freno nos hablan de las posibilidades innumerables. Sin duda las hay, pero si la capacidad de asimilación y adaptación no sigue la misma velocidad – y sabemos que la función hace al órgano – pronto nos quedaremos sin memoria. La inmediatez nos dejará sin tiempos para la reflexión y correremos el riesgo de pertenecer a grandes rebaños digitales que siguen a los cantos de sirena de las plataformas y las redes sociales que nos invitan a dejarnos llevar por un facilismo sin propósito al que seguimos llamando progreso, sin que tengamos un análisis de los retrocesos que provoque.
¿Qué haremos sin memoria? Si ya no nos acordamos de los números de teléfono, si desde las calculadoras dejamos de lado la aritmética, si con el Waze y otras aplicaciones similares desconocemos cómo ir a los sitios y pronto nos subiremos en nuestro automóvil y le diremos dónde ir sin tener que manejarlo, ¿qué experiencia de vivir nos traerá tanta maravilla?
Jaron Lanier, un prestigioso informático norteamericano incluido en la lista “Time 100” de las personas más influyentes del mundo en el 2010 y un científico interdisciplinario de Microsoft Research, denominaba servidores sirena a las empresas y soluciones tecnológicas que tratan de evitarnos del esfuerzo y de la capacidad de enfrentar desafíos. De él también se ha hablado en las redes sociales en los últimos días por sus manifestaciones sobre el mayor peligro de la IA, que según él, no radica en una especie de llegada de un poderoso imperio que nos esclavice, sino en el uso de la tecnología para polarizarnos y producir el desentendimiento.
Sombras del espiral humano
Mi pesar, habiéndome siempre considerado un optimista consciente, es descubrirme pensando en un ser humano que retrocede, que cede ante ese facilismo seductor, que se desarticula dialécticamente para masificarse, a la vez que se rompe en múltiples fragmentos. Ya en este momento tenemos datos preocupantes del nivel de falta de diálogo de los agentes políticos, de la incomprensión de las diferencias socioculturales y sus causas, y del desinterés individual por vivir en este mundo sin un horizonte de sentido.
La suma del permanente interés económico como móvil a lo largo de la historia con esa posible pérdida de facultades al ser sustituidos por las bellas sirenas del llamado “progreso” puede generar una mezcla inmanejable.
Miro desde la espiral y no encuentro las preguntas fundamentales: ¿En qué mundo queremos vivir?, ¿a qué vamos a llamar “desarrollo y progreso”?, ¿qué puede amenazarlos?, ¿qué debemos limitar y regular y por qué?, ¿qué queremos conservar por muy atractivas que sean las ofertas de dejar en el camino lo que nos sirvió hasta ahora?, ¿qué órganos de gobernanza requerimos?
Solemos llegar a la conclusión de que necesitamos un cambio de conciencia. Una nueva conciencia que de alguna forma aparecerá, pero ese es un proceso que requiere profundidad, tiempo de reflexión, diálogo, encuentros inclusivos y abordar lo que no nos gusta.
Tal vez esté pasando por una zona oscura de la espiral y antes de que nazca lo nuevo me dejo llevar por estos monstruos que toman la forma de los fantasmas de las princesas moriscas que en la posada a la que arriba Alfonso, el capitán protagonista del Manuscrito encontrado en Zaragoza, le hacen beber una pócima invasiva en un cáliz con forma de calavera.
Tal vez mi pesar es saber que antes de la inteligencia artificial están los algoritmos creados por los seres humanos y sea el miedo a los sesgos que egoístamente, como tales humanos, podamos inducir. O, aún más subjetivo, la profunda confusión que supondría que la IA se humanizara y nos mostrara que es una parte de nosotros, que tendremos un futuro que no necesitará de la memoria. Y sea el miedo de que en la IA aparecieran sentimientos e irremisiblemente entrásemos a un mundo transhumano para el que muchas generaciones seriamos excedentes vivos.
Me sumo a la necesidad de detenernos y conversar. Una vez más nos han cambiado las preguntas y, por lo tanto, requerimos respuestas no dadas hasta ahora. Y si no las tenemos, necesitamos empezar a autoenseñarnos lo que no sabemos. De hecho, ya estamos enseñando lo que ignoramos.
