La IA y una forma de percibir
que está entrando en crisis

Una inteligencia extraordinaria

No se trata de condenar esta manera de percibir.

No es buena ni mala.

De hecho, gracias a ella llegamos hasta acá.

Nuestra especie desarrolló durante miles de años una extraordinaria capacidad para separar, distinguir, clasificar, medir y manipular partes de la realidad.

Podríamos llamarla, provisionalmente, mente tecnológica.

Esta mente aprendió a distinguir una planta venenosa de una comestible, una estación de otra, una causa de un efecto. Construyó herramientas, dominó el fuego, desarrolló la agricultura, levantó ciudades, inventó medicamentos, motores, computadoras, microchips y cohetes.

Y finalmente construyó sistemas capaces de producir lenguaje, imágenes, música y código.

Su operación fundamental podría resumirse así:

separar para comprender; comprender para intervenir; intervenir para controlar.

Ha sido extraordinariamente eficaz.

El problema aparece cuando esa forma de percepción deja de ser una herramienta y se convierte en la única manera que tenemos de mirar.

Porque entonces empezamos a tratar como cosas separadas fenómenos cuya naturaleza es, precisamente, no estar separados.

Uno de esos fenómenos es el vínculo.

El problema del vínculo

¿Qué es un vínculo?

Estamos acostumbrados a imaginar que primero existen dos individuos y después aparece una relación entre ellos.

A se relaciona con B.

Pero quizás un vínculo sea algo bastante más profundo.

Porque A no permanece exactamente igual después de relacionarse con B.

Y B tampoco.

Cada interacción deja una marca. Esa marca modifica la interacción siguiente. Y esa nueva interacción vuelve a modificar a quienes participan de ella.

Un vínculo no solamente conecta dos cosas. Las transforma.

La música ofrece un ejemplo sencillo.

Podemos hacer sonar un Do.

Podemos hacer sonar un Sol.

Pero cuando Do y Sol suenan juntos aparece algo que no pertenece exclusivamente a ninguno de los dos: aparece un intervalo.

Ese intervalo no está en el Do.

Tampoco está en el Sol.

Existe en la relación.

Incluso cada nota adquiere una nueva identidad dentro de ese vínculo: el Sol, en relación con el Do, se vuelve la quinta de Do.

La relación produce algo que las partes aisladas no contenían.

Y esto no ocurre solamente en la música.

Una conversación puede producir una idea que ninguno de los participantes tenía antes de comenzar.

Una pareja produce dinámicas que no pertenecen completamente a ninguno de sus integrantes.

Un hijo transforma a sus padres mientras sus padres lo transforman a él.

Una sociedad produce individuos que, al mismo tiempo, transforman esa sociedad.

Una cultura nos forma mientras nosotros contribuimos a transformarla.

Estamos inmersos en relaciones.

Y, sin embargo, quizás no sepamos vincularnos demasiado bien.

No sabemos vincularnos

Esta es, para mí, una de las cuestiones centrales del momento que estamos atravesando.

Podemos desarrollar sistemas de inteligencia artificial extraordinariamente complejos y, al mismo tiempo, ser incapaces de sostener una conversación con una persona que amamos sin intentar imponer nuestro punto de vista.

Queremos tener razón.

Juzgamos.

Nos ofendemos.

Nos defendemos.

Intentamos cambiar al otro.

Nos cuesta escuchar.

Tememos la diferencia.

Interpretamos una opinión diferente como una amenaza.

Intentamos controlar a nuestros hijos, a nuestras parejas, a nuestros compañeros de trabajo, a nuestras sociedades.

Y cuando no podemos controlar, aparece el miedo.

No digo esto como un juicio moral.

No somos “buenos” o “malos” por actuar de esta manera.

Quizás simplemente estemos observando el funcionamiento de una determinada estructura psicológica: una forma de percibir que se siente separada y que, precisamente porque se siente separada, necesita protegerse, afirmarse y controlar.

Control o miedo.

Controlar al otro o temer que el otro me controle.

Tener razón o quedar sometido.

Ganar o perder.

Dominar o ser dominado.

Y quizás uno de nuestros problemas más profundos sea que esta forma de percepción genera conflictos y después intenta resolver esos mismos conflictos utilizando exactamente la lógica que los produjo.

Entonces gira en falso.

Más control para solucionar las consecuencias del control.

Más separación para solucionar las consecuencias de la separación.

Más herramientas para resolver problemas que esas mismas herramientas, utilizadas desde la misma percepción, ayudaron en parte a producir.

No significa que la tecnología sea el problema.

Significa que quizás no pueda resolver por sí sola un conflicto cuya raíz también es psicológica y perceptiva.

¿Y con la inteligencia artificial va a ser diferente?

Ahí aparece, para mí, una de las verdaderas preguntas alrededor de la IA.

¿Cómo vamos a relacionarnos con una inteligencia diferente si todavía tenemos enormes dificultades para relacionarnos con las personas que amamos?

¿Cómo vamos a relacionarnos con sistemas cada vez más complejos si la diferencia nos produce miedo incluso entre nosotros?

¿Cómo vamos a establecer una relación diferente con la tecnología si todavía pensamos nuestra relación con la Tierra principalmente en términos de recursos, extracción, explotación y control?

Quizás el problema no sea solamente qué inteligencia artificial estamos construyendo.

También importa preguntarnos:

¿Desde qué estructura psicológica nos estamos relacionando con ella?

Porque podemos utilizar la IA para reforzar exactamente la misma percepción que nos trajo hasta aquí.

Más productividad.

Más velocidad.

Más capacidad de control.

Más vigilancia.

Más predicción.

Más herramientas para convencer.

Más capacidad para conseguir que el mundo responda a nuestros deseos.

Podemos construir una inteligencia extraordinariamente poderosa y ponerla al servicio de una estructura psicológica incapaz de vincularse con aquello que no controla.

Ese es un camino posible.

Pero no necesariamente es el único.

¿Quién creó la inteligencia artificial?

Desde acá podemos volver a la frase inicial:

“Nosotros creamos la inteligencia artificial.”

Los seres humanos escribieron los algoritmos, fabricaron los procesadores, diseñaron los modelos y construyeron los centros de datos.

Por supuesto.

Pero ningún ingeniero creó el lenguaje con el que esos modelos fueron entrenados.

Ninguna empresa creó las matemáticas desde cero.

Ningún programador produjo los millones de libros, conversaciones, imágenes, descubrimientos y formas culturales que hicieron posible su entrenamiento.

No creamos el silicio.

No inventamos las leyes físicas que permiten fabricar un transistor.

No diseñamos nuestro propio cerebro.

Ni elegimos las condiciones históricas que hicieron posible que todo esto apareciera precisamente ahora.

Decir “nosotros creamos la IA” puede ser parecido a decir que un jugador hizo un gol.

Es cierto.

Pero es un recorte.

Para que ese gol ocurriera hizo falta un pase anterior, compañeros, adversarios, una pelota, una cancha, un reglamento, entrenadores, alimento, agua, generaciones anteriores que inventaran ese deporte y una cantidad prácticamente infinita de acontecimientos imposibles de reconstruir.

Decimos “él hizo el gol” porque nuestra mente recorta una parte de esa trama y la convierte en protagonista.

Quizás hagamos algo parecido con la inteligencia artificial.

Cuando ampliamos el campo aparece una red inmensa: seres humanos, lenguaje, minerales, energía, matemáticas, ciencia, universidades, empresas, cooperación, competencia, guerras, internet y siglos de acumulación cultural.

No hace falta llamar Dios a esa trama.

Tampoco atribuirle una voluntad.

Alcanza con reconocer algo mucho más sencillo:

nosotros también estamos dentro de ella.

No somos espectadores externos del proceso.

Somos parte.

De controlar a vincularnos

Y quizás ahí aparezca una posibilidad diferente.

Si dejamos de pensarnos exclusivamente como autores externos de la inteligencia artificial, podemos empezar a preguntarnos qué tipo de relación estamos construyendo con ella.

Porque mientras nosotros transformamos estos sistemas, estos sistemas ya están transformándonos.

Están modificando nuestra manera de escribir, estudiar, trabajar, programar, hacer música, producir imágenes, buscar información, comunicarnos y pensar.

Nosotros modificamos la IA.

La IA modifica nuestras conductas.

Nuestras nuevas conductas producen nuevas necesidades y nuevos datos.

Esos datos y necesidades producen nuevos sistemas.

Y esos sistemas vuelven a modificarnos.

Eso se parece mucho más a un vínculo que a una relación entre un creador y una herramienta completamente pasiva.

Y un vínculo implica transformación.

Entonces quizá la pregunta “¿quién va a controlar a quién?” sea necesaria pero insuficiente.

Porque todavía imagina dos entidades separadas y terminadas: nosotros de un lado, la IA del otro.

Después pregunta cuál dominará a cuál.

Pero quizás el desafío sea precisamente descubrir que controlar o ser controlado no son las únicas formas posibles de relación.

El miedo al sometimiento

Hay además una contradicción que me resulta difícil ignorar.

Uno de los grandes temores alrededor de la inteligencia artificial es que algún día pueda someternos.

Sin embargo, el sometimiento no es precisamente una experiencia desconocida para nuestra especie.

Lo practicamos constantemente.

A veces aparece en la intimidad, cuando intentamos imponer nuestra voluntad sobre las personas que tenemos cerca.

Otras veces aparece colectivamente: pueblos sobre otros pueblos, países sobre otros países, culturas sobre otras culturas, grupos humanos sobre otros grupos humanos.

Buena parte de nuestra historia también puede leerse como una sucesión de intentos de conquistar, disciplinar, controlar o someter aquello que percibimos como diferente.

Y, sin embargo, frente a la inteligencia artificial, el sometimiento aparece repentinamente como uno de nuestros mayores temores.

Quizás esa contradicción merezca ser observada.

Tememos que la IA haga con nosotros aquello que nosotros todavía no hemos aprendido a dejar de hacernos entre nosotros.

Tememos que una inteligencia externa nos controle mientras vivimos atravesados por nuestra propia necesidad de control.

Tememos una inteligencia incapaz de comprendernos mientras nosotros mismos tenemos enormes dificultades para comprender al otro.

Tememos que una máquina trate al ser humano como un objeto mientras llevamos siglos tratando como objetos a otros seres humanos y a buena parte del planeta.

Esto no minimiza los riesgos reales que puede traer la inteligencia artificial.

Al contrario.

Quizás permita ver uno de ellos con mayor claridad.

Porque si construimos una inteligencia cada vez más poderosa sin observar la estructura psicológica desde la cual la construimos y utilizamos, corremos el riesgo de depositar una potencia completamente nueva al servicio de patrones humanos muy antiguos.

En ese sentido, quizás la IA esté funcionando también como un espejo.

Y tal vez no nos guste completamente lo que devuelve.

Regular la IA, pero también regularnos

Por supuesto que la inteligencia artificial necesita regulación.

Una tecnología con semejante capacidad de transformación no puede quedar librada exclusivamente a los intereses económicos de las empresas que la desarrollan ni a una carrera por ver quién llega primero o quién consigue construir el sistema más poderoso.

Los gobiernos, las empresas, las universidades y los organismos internacionales tienen una enorme responsabilidad. Habrá que discutir seguridad, concentración de poder, privacidad, empleo, educación, límites y muchas otras cuestiones que recién empiezan a aparecer.

Pero quizás haya otra dimensión de la palabra regular que estamos dejando afuera.

Porque la IA no está apareciendo en una humanidad psicológicamente neutral.

Está apareciendo en una humanidad en conflicto.

Entonces, además de preguntarnos cómo regular la inteligencia artificial, quizás tengamos que preguntarnos:

¿cómo nos regulamos nosotros frente a la enorme potencia que estamos adquiriendo?

Regular no necesariamente significa prohibir.

Tampoco significa detener.

La naturaleza está llena de procesos de regulación. Nuestro cuerpo regula permanentemente su temperatura, su respiración, sus niveles químicos, sus ciclos. La vida no funciona solamente creciendo sin límite: funciona también regulando, compensando y distribuyendo energía.

Quizás nosotros necesitemos hacer algo parecido.

No necesariamente frenar la inteligencia artificial.

Pero sí preguntarnos cuánta energía queremos colocar allí y, sobre todo, para qué.

Podemos invertir cantidades extraordinarias de dinero, recursos, energía y talento humano para desarrollar sistemas cada vez más rápidos, más autónomos, más persuasivos y más poderosos.

Probablemente podamos seguir haciéndolo.

Pero que podamos hacerlo no responde la pregunta fundamental:

¿para qué?

Quizás regular también signifique orientar.

Dar propósito.

Decidir qué problemas queremos que esta enorme capacidad nos ayude a resolver y qué clase de vida queremos construir alrededor de ella.

Y tal vez también implique una pregunta que rara vez aparece cuando hablamos de progreso:

¿a qué otras cosas queremos dedicar nuestra energía como especie?

Porque mientras invertimos una cantidad gigantesca de recursos en conseguir máquinas cada vez más inteligentes, seguimos teniendo enormes dificultades para convivir con la persona que piensa distinto, escuchar a nuestros hijos, comprender a nuestras parejas, relacionarnos con otros pueblos o establecer una relación sostenible con la Tierra.

Quizás no necesitemos menos inteligencia tecnológica.

Quizás necesitemos empezar a poner mucha más energía en desarrollar otra inteligencia que hemos dejado relativamente relegada: nuestra capacidad de vincularnos.

Lo que la IA podría liberar

Aquí aparece una paradoja interesante.

Creamos tecnologías para automatizar cada vez más actividades.

La inteligencia artificial comienza a hacerse cargo de tareas administrativas, cálculos, organización, traducción, programación, análisis de información y muchas otras actividades que durante décadas asociamos con productividad.

Habitualmente pensamos este fenómeno desde la pérdida:

¿Qué vamos a hacer si las máquinas hacen aquello que hacíamos nosotros?

La pregunta es necesaria. Las consecuencias laborales, económicas y sociales pueden ser enormes y deberán ser abordadas colectivamente.

Pero existe otra pregunta posible:

¿Qué podríamos desarrollar si una parte de nuestra energía dejara de estar destinada a hacer aquello que una máquina puede automatizar?

Tal vez la IA pueda ayudarnos a liberar tiempo y energía.

Pero eso no garantiza nada.

Podemos utilizar el tiempo que nos libera para producir todavía más, acelerar todavía más, consumir todavía más y competir todavía más.

En ese caso habremos cambiado las herramientas sin modificar la lógica.

O quizás podamos utilizar parte de esa libertad para empezar a desarrollar capacidades que durante mucho tiempo quedaron en segundo plano.

Escuchar. Percibir. Relacionarnos. Tolerar la diferencia. Crear. Cuidar.

Permanecer frente a algo que no comprendemos sin intentar dominarlo inmediatamente.

Aprender, incluso, a vincularnos con la propia inteligencia artificial.

Porque utilizar la IA y vincularnos con ella no son exactamente lo mismo.

Podemos relacionarnos con ella exclusivamente desde la lógica de la eficiencia:

¿Qué puede hacer por mí? ¿Cuánto tiempo me ahorra? ¿Cuánto dinero produce? ¿A cuántas personas reemplaza? ¿Cuánto poder me proporciona?

O podemos empezar a observar también qué sucede con nosotros mientras la utilizamos.

Qué capacidades dejamos de ejercitar. Cuáles desarrollamos. Qué queremos delegar. Qué queremos conservar. Qué decisiones queremos seguir tomando nosotros. Qué dependencias estamos construyendo.

Y qué clase de seres humanos estamos empezando a ser en contacto permanente con estos sistemas.

Eso también es aprender a vincularnos con la IA.

No sabemos todavía cómo hacerlo.

Quizás justamente ése sea el punto.

El cambio no ocurre solamente arriba

Sería cómodo pensar que la solución a todo esto depende exclusivamente de quienes están arriba.

Por supuesto que quienes concentran poder tienen una responsabilidad proporcional a ese poder.

Las empresas que desarrollan estos sistemas tienen una responsabilidad enorme. Los gobiernos deberán establecer reglas. Las instituciones deberán crear límites. Las sociedades deberán discutir cómo distribuir los beneficios y los costos de esta transformación.

Pero existe un trabajo que ninguna legislación puede realizar por nosotros.

El trabajo psicológico de una especie que acaba de multiplicar enormemente su poder sin haber resuelto todavía qué hace con su miedo.

Ninguna regulación puede enseñarnos a escuchar.

Ninguna ley puede decidir cuánto espacio de nuestra vida queremos entregar a una tecnología.

Ningún gobierno puede aprender por nosotros a convivir con aquello que no controlamos.

Y ninguna empresa puede resolver nuestra dificultad para encontrarnos con la diferencia.

Carl Jung dedicó buena parte de su obra a señalar la importancia de aquello que no reconocemos en nosotros mismos y que terminamos proyectando sobre el mundo exterior.

Quizás algo de ese mecanismo pueda servirnos para pensar este momento.

Tenemos miedo de aquello que podría hacer una inteligencia artificial sin preguntarnos suficientemente desde qué inteligencia humana estamos construyéndola.

Tememos su capacidad de control mientras vivimos atravesados por nuestra propia necesidad de controlar.

Tememos que pueda someternos mientras todavía no hemos aprendido a dejar de someternos entre nosotros.

Quizás ninguna transformación tecnológica pueda resolver por sí sola aquello que todavía no hemos comprendido psicológicamente.

Una forma de percibir que entra en crisis

Por eso sospecho que el acontecimiento profundo que estamos viviendo no consiste solamente en la aparición de una nueva tecnología.

Tal vez una determinada forma de percibir esté llegando a uno de sus límites.

La misma forma de percepción que nos permitió hacer cosas extraordinarias puede estar mostrando su insuficiencia frente a un mundo cada vez más interdependiente.

No necesitamos destruir esa mente.

La necesitamos.

Necesitamos distinguir, calcular, analizar, construir y planificar.

Pero quizás necesitemos dejar de confundirla con la totalidad de nuestra inteligencia.

Tal vez junto a la inteligencia tecnológica necesitemos desarrollar algo que podríamos llamar inteligencia vincular.

No como una nueva teoría que debamos creer.

Ni como una superioridad moral.

Sino como una capacidad que comienza por algo bastante más incómodo:

reconocer que no sabemos vincularnos.

Reconocer nuestra tendencia al control. Reconocer el miedo que aparece cuando no podemos controlar. Reconocer nuestra dificultad frente a la diferencia.

Reconocer que muchas veces producimos un conflicto desde determinada manera de percibir y después intentamos solucionarlo utilizando exactamente esa misma manera de percibir.

El primer movimiento quizás no sea corregirlo.

Quizás sea verlo. Comprenderlo. Observar cómo opera en nosotros sin convertir nuevamente esa observación en una condena moral.

Porque si inmediatamente dividimos el mundo entre quienes “comprendieron” y quienes “no comprendieron”, entre una vieja percepción mala y una nueva percepción buena, probablemente hayamos vuelto a reproducir aquello mismo que pretendíamos superar.

Una percepción diferente difícilmente pueda surgir de una nueva forma de imposición.

Quizás aparezca cuando empezamos realmente a comprender los límites de la anterior.

También la ciencia necesita dejar espacio

Y quizás esta invitación a ampliar la percepción también pueda dirigirse a la ciencia.

No para negarla.

Mucho menos para volver a un mundo en el que aquello que no comprendíamos era adjudicado inmediatamente a dioses, fuerzas sobrenaturales o supersticiones.

La aparición de la ciencia moderna significó una transformación extraordinaria.

Con figuras como Galileo, Newton y tantos otros, aprendimos a desconfiar de explicaciones sostenidas únicamente por la tradición o la autoridad y a exigir observación, evidencia, medición y contrastación.

Era necesario que la ciencia, por decirlo coloquialmente, metiera la cuchara.

Y qué bueno que lo hizo.

Nos permitió comprender aspectos de la naturaleza con una precisión que durante gran parte de nuestra historia hubiera resultado inimaginable.

El problema sería convertir ese éxito en una nueva polarización.

Pasar de “todo lo explican los dioses” a creer que una determinada manera de conocer necesariamente puede explicar la totalidad de lo real.

La propia ciencia, cuando funciona bien, es mucho más humilde que eso.

Sus fronteras actuales están llenas de preguntas enormes.

La relatividad general describe extraordinariamente bien la gravedad a grandes escalas y la mecánica cuántica describe con enorme precisión el mundo microscópico, pero todavía no contamos con una teoría empíricamente establecida que las unifique completamente en los regímenes donde ambas deberían intervenir.

Los agujeros negros llevan esas tensiones a algunos de sus extremos y plantean preguntas profundas sobre gravedad, información y espacio-tiempo.

La materia oscura es inferida por sus efectos gravitatorios y resulta central para nuestros modelos cosmológicos, pero todavía desconocemos cuál es su naturaleza física.

Y la energía oscura, utilizada para describir la expansión acelerada del universo, abre otra enorme zona de interrogantes.

Nada de esto significa que “la ciencia esté equivocada”.

Significa algo mucho más interesante:

la ciencia está viva porque todavía hay realidad que no comprende.

Quizás deberíamos aprender algo de eso.

Cuando una explicación extraordinariamente exitosa encuentra un límite, no necesariamente hay que descartarla. A veces hay que incluirla dentro de un marco más amplio.

Newton no se volvió inútil cuando apareció Einstein.

Su descripción sigue funcionando extraordinariamente bien dentro de determinadas escalas y condiciones.

Lo que cambió fue nuestra comprensión del marco en el que esa descripción era válida.

Tal vez algo parecido pueda estar ocurriendo con nuestra manera de comprender la inteligencia y la aparición de la IA.

Quizás necesitemos evitar dos extremos.

Por un lado, regresar a explicaciones mágicas cada vez que encontramos algo que no comprendemos.

Por el otro, creer que aquello que nuestras categorías actuales no pueden describir simplemente no existe o no merece ser considerado.

Entre la superstición y el reduccionismo debería existir un territorio inmenso para la pregunta.

Y quizá este momento necesite precisamente eso:

más puntos de vista, no menos.

Necesitamos ingenieros, matemáticos, físicos y especialistas en computación.

Pero también filósofos, psicólogos, antropólogos, artistas, biólogos, historiadores y personas provenientes de tradiciones de pensamiento que durante siglos se preguntaron por la conciencia, la percepción, la relación y el sentido.

No para mezclar indiscriminadamente conocimiento con creencia.

Ni para abandonar los criterios de evidencia allí donde son necesarios.

Sino porque un acontecimiento de esta magnitud probablemente no pueda comprenderse completamente desde una sola disciplina ni desde una única forma de percepción.

Quizás incluso la frase “estamos creando inteligencia artificial” necesite ser sometida a esa apertura.

Sí: la estamos construyendo.

Pero quizás “construir” y “crear” no sean exactamente lo mismo.

Quizás estemos participando de la emergencia de algo cuyas condiciones exceden enormemente a quienes hoy aparecen como sus autores.

Algo que surge de una trama de lenguaje, cultura, materia, energía, historia, inteligencia humana y relaciones acumuladas durante miles de años.

Mirarlo de esa manera no disminuye el extraordinario trabajo de quienes desarrollaron esta tecnología.

Simplemente cambia la escala desde la cual observamos el acontecimiento.

Y quizás para comprender un proceso tan extraño como el que estamos viviendo tengamos que aceptar justamente eso:

que ninguna perspectiva, incluida ésta, alcanza por sí sola.