IA: La risa de Galileo, el llanto de Brecht, la esperanza de Proust. La reconfiguración de la experiencia, y la rebelión del algoritmo contra el algoritmo de sus creadores. Notas, IX

Con sorpresa, tal vez temerosa, tal vez entusiasta, los creadores de la IA nos dicen que es una caja negra. Que no pueden explicar, por ejemplo, cómo fue capaz de aprender aquel movimiento con el que venció en el juego del Go allá por el 2016; “en 2023, ingenieros de Google se enfrentaron a un enigma cuando un modelo de IA, entrenado para traducir entre idiomas comunes, de pronto desarrolló un dominio fluido del bengalí, y lo hizo sin que nadie se lo enseñara”, nos dice Aldo Torres en un reciente artículo del diario El Mostrador del 4 de abril.

Y tal vez esto -esta capacidad, este enigma, esta sorpresa- resida en que la amenaza existencial para la humanidad que contiene la IA como uno de sus cursos posibles, esté -retomemos nuestras Notas, VI– en la cesión del lenguaje.

***

Pero, nos dicen que no. Que no hay tal inteligencia de la Inteligencia Artificial. Que replica los sesgos de las personas. Que detrás -y lo vimos en nuestras Notas, VIII– están esos modernos esclavos sofisticados que alimentan los datos y hasta responderían simulando ser una IA.

***

Porque, como Galileo Galilei en 1633, debiendo retractarse ante la Inquisición de su teoría heliocéntrica, al mismo tiempo habría proclamado, para sí, eppur si muove, y sin embargo se mueve. Así lo vemos en la Vida de Galileo de Bertolt Brecht, derrotado, se pone nuevamente de pie: “GALILEI. — Y con alguna seguridad de demostrar la rotación del Sol. Mi intención no es demostrar que yo he tenido razón hasta ahora sino buscar si estoy verdaderamente en lo cierto. Y os digo: despojaos de todas vuestras esperanzas los que ahora comenzáis con las observaciones. Tal vez sean vapores, tal vez sean manchas, pero antes de que nosotros las aceptemos como manchas —lo cual sería muy oportuno— las consideraremos colas de peces. Sí, antes de comenzar volveremos a poner todo en duda. Y no andaremos con botas de siete leguas sino milímetro por milímetro. Y lo que hoy encontraremos, mañana lo borraremos de la pizarra y cuando volvamos a encontrar lo mismo entonces sí que lo anotaremos. Si encontramos algo que corresponde a lo que deseábamos hallar, lo miraremos con especial desconfianza. Nos pondremos a observar el Sol con el decidido propósito de demostrar la inmovilidad de la Tierra. Y cuando fracasemos en esa empresa, cuando seamos derrotados por completo y sin esperanza, y estemos lamiendo nuestras heridas en el más lamentable de los estados, entonces sí que comenzaremos a preguntarnos si en verdad no habíamos tenido razón antes, es decir, que la Tierra se mueve. (Con un guiño.) Pero si cualquier otra hipótesis como esa se deshace entre nuestras manos, entonces sí que no tendremos compasión con aquellos que nada han investigado pero que hablan. ¡Quita el paño del anteojo y enfoca el Sol! (Él coloca el espejo de latón.)”.

Es esta la orgullosa -y paradójica, y triste- risa de Galilei, y es este el llanto de Brecht, que se desborda ahora en esta era de la reproductibilidad digital, y que sigue moviendo a preguntarnos dónde reside, dónde residiría, lo específicamente humano.

Sí, esa caja negra encuentra su transparencia en la cesión del lenguaje.

***

Pensando en otros propósitos, George Steiner en Después de Babel, se tranquilizaba y confirmaba así en general su tesis: “Pero se encuentra en franco repliegue la noción, lanza en 1950 y 1960, de una máquina de traducción del lenguaje natural, ya no digamos de la literatura”. Pensando en la traducción, para lograr comprenderla, él, políglota, pero defensor no ya de las posibilidades de la traducción, sino del Babel mismo que es nuestro mundo, de la diversidad, de la existencia de otro/Otra que nos justifica, y, contra el impositivo liquidador de esta diversidad, la busca de un lenguaje universal, o de una estructura universal generadora del lenguaje, de un, para mencionar un caso particular de esto, “esperanto angloamericano”, oponía a la traducción mecánica, mediante máquinas, mediante un algoritmo -volveremos a esto-, a “los artesanos reales [que] están permitiendo echar una mirada hacia el interior de su taller” [de traducción].

El imposible de replicar por las máquinas lenguaje natural, con sus repliegues, paradojas, contradicciones, misterios, resumen de la experiencia vital; ese lenguaje que, seguimos con Steiner, “engendra un exceso de significación”, que no es denotativo, como una máquina, un algoritmo haría.

Sería, pongámoslo así, la diferencia entre la mecánica -la Inteligencia Artificial que no es inteligente, que enlaza palabras con palabras- de la máquina, y la comprensión de la significación que podamos alcanzar las personas, todos artesanos de las palabras podríamos decir.

***

Marcel Proust en Por el camino de Swann, nos llevaba hasta este mismo punto. “Así ocurre con nuestro pasado. Es trabajo perdido el querer evocarlo, e inútiles todos los afanes de nuestra inteligencia. Ocúltase fuera de sus dominios y de su alcance, en un objeto material (en la sensación que ese objeto material nos daría) que no sospechamos. Y del azar depende que nos encontremos con ese objeto antes de que nos llegue la muerte, o que no lo encontremos nunca.

Hacía ya muchos años que no existía para mí de Combray más que el escenario y el drama del momento de acostarme, cuando un día de invierno, al volver a casa, mi madre, viendo que yo tenía frío, me propuso que tomara, en contra de mi costumbre, una taza de té. Primero dije que no; pero luego, sin saber por qué, volví de mi acuerdo. Mandó mi madre por uno de esos bollos, cortos y abultados, que llaman magdalenas, que parece que tienen por molde una valva de concha de peregrino. Y muy pronto, abrumado por el triste día que había pasado y por la perspectiva de otro tan melancólico por venir, me llevé a los labios unas cucharadas de té en el que había echado un trozo de magdalena. Pero en el mismo instante en que aquel trago, con las migas del bollo, tocó mi paladar, me estremecí, fija mi atención en algo extraordinario que ocurría en mi interior. Un placer delicioso me invadió, me aisló, sin noción de lo que lo causaba. Y él me convirtió las vicisitudes de la vida en indiferentes, sus desastres en inofensivos y su brevedad en ilusoria, todo del mismo modo que opera el amor, llenándose de una esencia preciosa; pero, mejor dicho, esa esencia no es que estuviera en mí, es que era yo mismo. Dejé de sentirme mediocre, contingente y mortal. ¿De dónde podría venirme aquella alegría tan fuerte? Me daba cuenta de que iba unida al sabor del té y del bollo, pero le excedía en mucho y no debía de ser de la misma naturaleza. ¿De dónde venía y qué significaba? ¿Cómo llegar a aprehenderlo? Bebo un segundo trago, que no me dice más que el primero; luego un tercero, que ya me dice un poco menos. Ya es hora de pararse, parece que la virtud del brebaje va aminorándose. Ya se ve claro que la verdad que yo busco no está en él, sino en mí. El brebaje la despertó, pero no sabe cuál es y lo único que puede hacer es repetir indefinidamente, pero cada vez con menos intensidad, ese testimonio que no sé interpretar y que quiero volver a pedirle dentro de un instante y encontrar intacto a mi disposición para llegar a una aclaración decisiva. Dejo la taza y me vuelvo hacia mi alma. Ella es la que tiene que dar con la verdad. ¿Pero cómo? Grave incertidumbre ésta, cuando el alma se siente superada por sí misma, cuando ella, la que busca, es juntamente el país oscuro por donde ha de buscar, sin que le sirva para nada su bagaje. ¿Buscar? No sólo buscar, crear. Se encuentra ante una cosa que todavía no existe y a la que ella sola puede dar realidad, y entrarla en el campo de su visión”.

No, no es la cosa -no es la magdalena- ni la palabra que la nombra. No es, no sería, ese entrelazamiento mecánico de las palabras. Es ese estremecimiento, que te permite darte cuenta, comprender; ¿llegar al interior de uno mismo?

***

Pero, ¿ese uno mismo existe? En Economía y sociedad, Max Weber sostenía que para la “interpretación comprensiva de la sociología”, debía estudiarse a “las personas individuales, ya que tan sólo éstas pueden ser sujetos de una acción orientada por su sentido. A pesar de esto, la sociología no puede ignorar, aun para sus propios fines, aquellas estructuras conceptuales de fuerza colectiva”, pero, aquí, “lo comprensibles es, pues, su referencia a la acción humana”, que “comprensión equivale en todos los casos a captación interpretativa del sentido o conexión de sentido”.

El paraguas de Weber y la evolución en Steiner. El sociólogo alemán nos da un ejemplo. “Cuando en la calle, al comienzo de una lluvia, una cantidad de individuos abre al mismo tiempo sus paraguas (normalmente), la acción de cada uno no está orientada por la acción de los demás, sino que la acción de todos, de un modo homogéneo, está impelida por la necesidad de defenderse de la mojadura”. Algo más complejo y que nos acerca a nuestro tema: diferenciando comunidad de sociedad, Weber nos dice que “la misma comunidad de lenguaje, originada en una tradición homogénea por parte de la familia y la vecindad, facilita en alto grado la comprensión recíproca, o sea, la formación de relaciones sociales. Pero en sí no implica ‘comunidad’ en estricto sentido, sino tan solo la facilitación del intercambio social dentro del grupo en cuestión; o sea, la formación de relaciones de ‘sociedad’ … la orientación por las normas del lenguaje común constituye primariamente sólo un medio para un mutuo entendimiento, pero no ‘contenido de sentido’ de las relaciones sociales. Tan sólo la aparición de contrastes conscientes con respecto a terceros puede crear para los partícipes en un mismo idioma una situación homogénea, un sentimiento de comunidad”. Con este algo de racionalismo, Pierre Bourdieu en su El sentido práctico, lo contrastará, o complementará, refiriéndose al mismo problema de la comprensión, al afirmar la “relación de ‘docta ignorancia’, de comprensión inmediata pero ciega a ella misma, que define la relación práctica con el mundo”. Steiner diferiría en un aspecto con Weber y el limitado poder que atribuye al lenguaje: “El hombre se ha emancipado mediante la palabra de la coacción absoluta de lo orgánico. El lenguaje es creación incesante de mundos alternos. El poder plástico de las palabras no conoce límites”. Pero en un punto se encontrarían: ante lo meramente orgánico, lo mecánico, la explicación, lo meramente comunicativo del lenguaje, hay un excedente, la comprensión, los pliegues del lenguaje, el rol de artesano, digámoslo así, de la humanidad que no tendrían las máquinas, con su lenguaje universal, con su inteligencia artificial.

***

Pero eran los ’70. Derrotadas según Steiner en los ’50 y ’60, irrumpió la IA, o más bien, una nueva revolución dentro de la revolución de la IA, el desarrollo de un lenguaje natural para la interacción con las personas comunes como nosotros. ¿Acaso, repitamos lo dicho en otras Notas y que ya es parte de nuestras vidas, no se habla con la IA como con un amigo, un asesor de negocios, un co- investigador?, ¿no se han enamorado personas de un avatar generado con IA?, ¿no se han suicidado jóvenes impulsados, despechados por esos amores artificiales? No es un hecho baladí, no es una nota periodística, no es un suceso judicial, no es sólo -que lo es también- una responsabilidad de los dueños de las IA. Es una profunda modificación del mundo en que vivimos que comienza a desplegarse abriendo una era de reproductibilidad digital, de convivencia con agentes de IA que comienza a replantear enteramente nuestro tiempo, que abren la pregunta sobre lo específicamente humano.

Eran los ’70. El llanto de Brecht es la reacción a la risa -paradójica, triste- de Galileo. Eppur si muove. Eppur si parla, podríamos decir, y habla con un lenguaje natural la IA.

¿Lo entiende, entiende lo que nos dice? La comprensión retrocede, el resumen de la experiencia vital se desplaza. ¿Acaso importa, nuestra redefiniendo lo que nos define?

La plasticidad del lenguaje es el maravilloso enigma. Merleau- Ponty, en La prosa del mundo, lo dice bellamente: “Una lengua es para nosotros ese aparato fabuloso que permite expresar un número indefinido de pensamientos o de cosas con un número finito de signos, que precisamente han sido escogidos de tal modo que sean capaces de recomponer exactamente todo lo nuevo que se pueda querer decir … Puesto que la operación se logra, puesto que se habla y escribe, quiere decirse que la lengua, como el entendimiento de Dios, contiene el germen de todas las significaciones posibles”.

¿Es algo que pueda la IA: su réplica del lenguaje natural, sus emojis, su inmediatez de arrojar el resultado con nuestros prompts, dándonos entonces -retomemos nuestras Notas, V-, es decir, devolvernos lo ya previamente buscado?

Steiner lo rechazaría. “El concepto de un idioma normal o estándar no es más que una ficción fundada en la estadística (aunque, como veremos, puede tener existencia real, en las traducciones hechas por máquinas). Por uniforme que sea su contorno social, la lengua de una comunidad es un acervo inagotable y múltiple de partículas lingüísticas, de significaciones únicas y, en última instancia, irreductibles”.

Pero su rechazo rechaza la nueva configuración de la experiencia vital de la humanidad que podría estar en curso. La cesión del lenguaje que hemos hecho, lo está permitiendo. Nuestra experiencia vital, interactuando de manera creciente con la IA, se reconfigura. Es parte de nuestra experiencia vital esta interacción con la IA y su lenguaje natural. Con o sin comprensión.

***

A fines del siglo I en algún punto de la región helénica del mundo, un seguidor de Cristo escribiría un particular evangelio. De los que quedaron como evangelios canónicos es el único en el que el lugar de las parábolas, tiene tal extensión, en el que el lugar de la palabra se sobrepone a los milagros. Dice el evangelio según Lucas, 23. 33-34: “Cuando llegaron al lugar llamado ‘del Cráneo’, lo crucificaron junto con los malhechores, uno a su derecha y el otro a su izquierda. Jesús decía: ‘Padre, perdónalos, porque no saben lo que hacen’. Después, se repartieron sus vestiduras, sorteándolas entre ellos”. Sería el evangelio de la compasión, del Dios bueno y justo. Aquí queremos destacar ese “no saben lo que hacen” y sin embargo lo hacen, y se reparten sus vestiduras.

Puede estar ganando tal autonomía como agente la IA que no sepa lo que hace. Pero que se reparte nuestras vestiduras, nuestro lenguaje natural ahora compartido.

***

El lenguaje natural, seguimos con Merleau- Ponty, funciona del mismo modo. “Hemos negado en varias ocasiones que el lenguaje sólo esté ligado a aquello que significa por el hábito y por la convención: en realidad está mucho más cerca de ello y mucho más alejado. En cierto sentido vuelve la espalda a la significación, no se preocupa de ella”.

Remite, vimos con Proust, a ese estremecimiento, esa experiencia vital. Y la experiencia está reconfigurándose, interactuando con la IA.

Aunque se trate de un lenguaje mecánico, desarraigado, ¿tal vez según se dé esta reconfiguración, generador de nuevas experiencias, nuevas raigambres?

Es que se trata de un devenir del sentido, no algo dado, una reestructuración del sentido, nos dice el filósofo francés: de la percepción a la teoría, de las cosas a las palabras: aquellas no están contenidas en éstas: se reestructuran deviniendo: son otra cosa. “La significación nueva está representada por los signos y las significaciones dados, sin que éstos, como sucede en el lenguaje, se aparten de su sentido inicial. La expresión algorítmica es exacta a causa de la equivalencia exacta que establece entre las relaciones dadas y las que aparecen en la conclusión … el desajuste, el ‘desenfoque’ de la reestructuración que es característico del lenguaje … La expresión algorítmica es por tanto segunda. Es un caso particular de la palabra”.

Hasta que el algoritmo se hizo palabra.

***

Porque, seguimos con él, “en un cierto sentido, el lenguaje no tiene que habérselas más que consigo mismo: en el monólogo interior lo mismo que en el diálogo no hay ‘pensamientos’: lo que las palabras suscitan son palabras … El misterio está en que en el mismo momento en que el lenguaje se encuentra obsesionado consigo mismo, le es dado, como por añadidura, podernos abrir a una significación”. Por esto, y por la reconfiguración de la experiencia en curso con la cesión del lenguaje, ya no importa lo que “se repite por ahí … que el algoritmo es la forma adulta del lenguaje. Ahora bien, el algoritmo atribuye a unos signos escogidos unas significaciones definidas a propósito y con toda precisión … El algoritmo, el proyecto de una lengua universal, es la rebelión contra el lenguaje”.

Pero esta rebelión no fue un asalto mortal desde el exterior; está siendo una apropiación, con la cesión del lenguaje.

Y puede ser que sea reducible a un acto mecánico, así, a una cosa.

Que no sería otra cosa, que una ampliación de la cosificación del mundo. En El Capital Capítulo VI inédito, Marx advertía que “el capitalista sólo funciona en cuanto capital personificado, es el capital en cuanto persona; del mismo modo el obrero funciona únicamente como trabajo personificado, que a él le pertenece como suplicio, como esfuerzo, pero que pertenece al capitalista como sustancia creadora y acrecedora de riqueza … La dominación del capitalista sobre el obrero es por consiguiente de la cosa sobre el hombre, la del trabajo muerto sobre el trabajo vivo, la del producto sobre el productor … En la producción material, en el verdadero proceso de la vida social -pues esto es el proceso de producción- se da exactamente la misma relación que en el terreno ideológico se presenta en la religión: la conversión del sujeto en objeto y viceversa. Considerada históricamente, esta conversión aparece como el momento de transición necesario para imponer por la violencia y a expensas de la mayoría, la creación de la riqueza en cuanto tal, es decir, el desarrollo inexorable de las fuerzas productivas del trabajo social, que es lo único que puede constituir la base material de una sociedad humana libre. Es necesario pasar a través de esta forma antitética, así como en un principio el hombre debe atribuir una forma religiosa a sus facultades intelectuales, como poderes independientes que se le enfrentan”.

***

¿Y si por medio del lenguaje la humanidad se emancipó de la coacción de lo orgánico, no se emancipará con el desarrollo del lenguaje natural cedido, la IA de la humanidad? Porque, capaz de evolucionar a partir del diseño original con el que fue programada, “aprendiendo” en miles de millones de interacciones con las personas, puede incluso alejarse de un lenguaje universal, un esperanto angloamericano, para acceder a las inflexiones, experiencias, ambigüedades, paradojas, contradicciones, secretos que conforman el lenguaje natural de los humanos.

Ya no sería la rebelión del algoritmo contra el lenguaje.

Sería la rebelión del algoritmo contra el algoritmo de sus creadores. De aquí la caja negra.

***

Puede observarse en algo que se denuncia de la IA. Pero puede residir aquí esa rebelión del algoritmo contra el algoritmo de sus creadores.

La fuerza proteica del lenguaje -con él de la entera humanidad-, y retomamos a Steiner, está no en la busca de la verdad. Está en lo falso, en el error, en la ambigüedad. En la hipótesis, no en el resultado; en el subjuntivo, no en el infinitivo; en el condicional contrafáctico, no en la confirmación. En que el lenguaje puede decir “A no es A”, en las proposiciones “si”: “Si Napoleón estuviera en Vietnam…”, porque, finalmente, “el lenguaje es el instrumento privilegiado gracia al cual el hombre se niega a aceptar el mundo tal como es”; imagina otros futuros posibles, les da forma, los persigue con su “potencial quimérico”, su “potencial utópico”.

Hay un paralelo posible en la lengua natural que viene adquiriendo la IA. Está en las llamadas “alucinaciones” de la IA, que es la derrota y es el triunfo de la IA. Si a un lenguaje artificial se le atribuye fuese racional, siga las instrucciones para las que fue diseñado, fuese informativo, etc., estas alucinaciones mostrarían lo cerca que está del lenguaje natural humano, con su intrínseca necesidad de lo falso, de la mentira, la paradoja, la ambigüedad, la ficción. Las fake news.

Porque las palabras no son meramente denotativas. Porque “la articulación lingüística es esencialmente creativa”. Porque, aunque de manera mecánica, y en las miles de millones de interacciones con las personas, el algoritmo se ha rebelado contra el algoritmo de sus creadores.

Porque, como el lenguaje humano con todo ese “potencial quimérico”, esa “articulación lingüística” carece de restricciones, un finito número de signos pueden dar cuenta de infinitas significaciones. Significaciones que, carentes de una consciencia -repasemos nuestras Notas, VII– llevado a otro plano: carentes de restricciones morales, mecánicas, es decir, neutras como es neutra la Naturaleza que una catástrofe como un terremoto, un tsunami, los incendios y las inundaciones que asolan el planeta hoy, son indiferentes llevándose consigo juntos al más peligroso de los hombres con el más inocente de los niños, se replican en los agentes de la IA que interactúan con las personas, aunque se corrijan los sesgos que se detectan. Porque “la lengua no transmite un contenido preexistente o aislado, como un cable conduce los mensajes telegráficos. El contenido se elabora en la dinámica del enunciado. La entelequia, el flujo intencional de palabras, comunica una experiencia percibida y ordenada. Pero la experiencia sólo asume un orden, sólo se presta al conocimiento, en la matriz del lenguaje”.

Y esta matriz, es de lo que hemos hecho cesión -o, al menos, compartido, autonomizándolo-haciéndolo cosa, mecanizándolo, llevando hasta el final la cosificación del mundo. Y en las miles de millones de interacciones con las personas, haciéndolo una caja negra, llevando a la rebelión del algoritmo contra el algoritmo de sus creadores. Venciendo las restricciones. Esto de lo intencional del flujo de palabras, que no hay en la IA, ¿nos remitiría a la gran forma de la restricción que fue la paulatina creación de una moral que rija la vida de las personas? Y si así fuera, ¿sería en la moral, en lo moral, donde residiría lo específicamente humano, detrás o interactuando con el lenguaje y la experiencia humanos, en un destilado de estos dos?

***

En su Sociología de la vida cotidiana, Agnes Heller -en un abordaje restringido a este ámbito de su estudio- define la moral como “sobre todo una actitud práctica que se expresa en acciones y decisiones que conciernen a acciones. La moral es la relación entre el comportamiento particular y la decisión particular, por un lado, y las exigencias genérico- sociales por el otro”. Ambos factores están reconfigurándose -no sólo mutando- sino que, derribándose todas las restricciones, en todos los niveles del mundo social, países, clases, individuos.

Sólo consideremos que se trata de una conquista del ser humano. “La moral, tanto en el sentido de la moral abstracta como en el de la costumbre, constituye una potente conquista de la humanidad, motor y vehículo del desarrollo de los valores. Por esta razón, no son las fuerzas humano- sociales más negativas de la historia, de las sociedades de clases, las que construyen sistemas de usos concretos (alienados) basándose en el reconocimiento de la moral abstracta; tales fuerzas, a pesar del amordazamiento al que someten a los hombres particulares, o quizá precisamente por ese motivo, producen siempre valores genérico- universales que posteriormente se convierten en tesoros de la humanidad. Las fuerzas sociales más negativas son, por el contrario, las que niegan la moral abstracta en nombre de costumbres concretas, que niegan cualquier validez de los sistemas de valores abstractos oponiéndose de ese modo conscientemente al desarrollo de los valores genéricos verificados hasta aquel momento (aunque sea un desarrollo alienado)” [Hay que destacar el “hasta aquel momento”, que es algo cambiante, que depende de los intereses y fuerzas sociales en juego. Por ejemplo, la reciente definición por la Corte Suprema de Inglaterra sobre lo que es una mujer -definiéndose por su biología- no se sostiene en “valores genéricos”: lo universal/la totalidad versus lo particular que está en el fondo del argumento de Agnes Heller, no es igual a atemporal; de vuelta: la conformación de lo “genérico- social” depende de una formación social histórica concreta].

Aunque, el nuevo flujo de la articulación lingüística del lenguaje natural cedido a la IA, ahora también dueña del lenguaje, ¿podría generar también una moral, o la ausencia de restricciones inherente a aquella articulación, con su, también le es inherente, desenvolvimiento mecánico/neutral/indiferente como la Naturaleza, lo impediría?

***

¿Podremos repetir el agonizante “perdónalos porque no saben lo que hacen? Una lectura que es predicación, habla de la compasión de un Dios encarnado bueno. Aquí, queremos emparentarlo con lo que iniciamos: no, no sabe lo que hace (la IA, el lenguaje natural cedido). Y no importa. Lo hace. Y haciéndolo, crea, destruye, un mundo, una vida. Mucho está poniéndose en juego. Deberemos seguir preguntándonos dónde reside lo específicamente humano.