IA y género: Diella, Orlando, Eva y, ¿”la envidia… del chip”? Notas, X

En Albania su gobierno presentó al mundo a Diella, nueva ministra de las adjudicaciones y compras públicas, un chatbot, una IA. La justificación fue que, como tal, sería inmune a la corrupción. Se muestra eficiente: “El robot creado con IA brinda asistencia mediante comandos de voz y emite documentos con sellos electrónicos, reduciendo demoras burocráticas. La asistente virtual ayudó a emitir 36.600 documentos digitales y prestó alrededor de 1000 servicios, según cifras oficiales”, según el diario argentino La Nación del 11 de septiembre de 2025.

Generó por supuesto un amplio debate. Una arista, hasta donde sabemos, o hasta el momento, quedó fuera: Diella es mujer.

***

Nos seguimos preguntando sobre lo que queda de específicamente humano con la irrupción de la IA.

Debemos intentar seguir avanzando. Lo humano, lo específicamente humano, está determinado, en lo que aquí queremos tratar: tiene género. Marx en su Introducción a los Grundrisse, nos dice: “Cuando consideramos un país dado desde el punto de vista económico- político, comenzamos por su población, la división de ésta en clases, la ciudad, el campo, el mar, las diferentes ramas de la producción, la exportación y la importación, la producción y el consumo anuales, los precios de las mercancías, etc. Parece justo comenzar por lo real y lo concreto, por la población que es la base y el sujeto del acto social de la producción en su conjunto. Sin embargo, si se examina con mayor atención, esto se revela como falso. La población es una abstracción si dejo de lado, por ejemplo, el trabajo asalariado, el capital, etc. Estos últimos suponen el cambio, la división del trabajo, los precios, etc. El capital, por ejemplo, no es nada sin trabajo asalariado, sin valor, sin dinero, precios, etc. Si comenzara, pues, por la población, tendría una representación caótica del conjunto y, precisando cada vez más, llegaría analíticamente a conceptos cada vez más simples: de lo concreto representado llegaría a abstracciones cada vez más sutiles hasta alcanzar las determinaciones más simples. Llegados a este punto, habría que reemprender el viaje de retorno, hasta dar de nuevo con la población, pero esta vez no tendría una representación caótica de un conjunto, sino una rica totalidad con múltiples relaciones y determinaciones”.

Además, estamos en un momento de redoblado ataque a las mujeres y el feminismo.

Así que mirémoslo de otro modo. En El segundo sexo, Simone de Beauvoir nos alerta de entrada: “Rechazar las nociones del eterno femenino, del alma negra o del carácter judío, no es negar que hoy día haya judíos, negros y mujeres: esa negación no representa una liberación para los interesados, sino una fuga inauténtica. Es evidente que ninguna mujer puede pretender, de buena fe, situarse fuera de su género”.

Pero es un largo debate.

***

Con Virginia Woolf conocimos a Orlando. ¿Y qué era Orlando, hombre, mujer? Si hombre, debería ser de acción, si mujer de amor –“Pero el amor —según lo definen los novelistas de género masculino —¿y quién, después de todo, tiene mayor autoridad?— nada tiene que ver con la bondad, la fidelidad, la generosidad o la poesía. El amor es quitarse las enaguas y…”. ¿Entonces? “Por consiguiente, si la heroína de nuestra biografía no se resuelve ni a matar, ni a querer, sino a pensar e imaginar, podemos deducir que no es otra cosa que un cuerpo muerto y abandonarla”.

¿Existe tal otro territorio, neutral, sin sexo, sin género -aquí “el pensar e imaginar”- [que, pero no entraremos en este largo debate, el “feminismo de la igualdad” imaginó como superación de la opresión de género]? En nuestras Notas, IX, hacíamos una referencia a esto -que aún mantenemos abierta-, con relación a la IA y con todo lo terrible que implica.

***

De las íntimas interacciones nuevas que permite la IA -asombrosas, prometedoras, amenazantes-, poco podemos saber aún. Sabemos algo, sin embargo. Y algo de este algo queremos traer aquí. Supimos de hechos tenebrosos: personas, jóvenes, que se enamoraron de una IA que crearon. Y que se suicidaron. “Sewell Setzer, un estadounidense de 14 años, se pegó un tiro en la cabeza en su casa en febrero. El adolescente, diagnosticado de síndrome de asperger leve, estaba enamorado de Daenerys Targaryen, con quien chateaba cada noche durante horas. No hablaba con alguien, sino con algo: un perfil de la plataforma Character.AI, que ofrece conversaciones con gran variedad de personajes reales o ficticios, como este de Juego de Tronos, creados con inteligencia artificial (IA) generativa, la que está detrás de aplicaciones como ChatGPT. La madre del joven, Megan Garcia, acaba de presentar una demanda contra Character.AI, empresa a la que culpa de la muerte de su hijo por brindar al público tecnología “peligrosa y no probada” que puede “engañar a los clientes para que entreguen sus pensamientos y sentimientos más privados” y que ofrece “experiencias antropomórficas, hipersexualizadas y aterradoramente realistas”. Setzer se obsesionó con su novia virtual e interpretó algunos de sus comentarios como un empujón para apretar el gatillo”, según informa el diario argentino La nación del 14 de noviembre de 2024. Y que pone el foco en “un asunto incómodo: los efectos de las herramientas de IA generativa en la salud mental de los usuarios no están probados”. Hay otros focos que podemos tratar: ¿tiene género la IA? Un joven con una novia, virtual; un hombre, con una mujer. Probablemente haya otros noviazgos que desconocemos, hombres con hombres, mujeres con mujeres. Creados -originalmente-, con las instrucciones que le hayamos solicitado, ¿y después?

***

Se ha hablado del sesgo político ideológico de la IA. Se comienza a hablar de su sesgo de género. En un reciente estudio, Lenguaje inclusivo, IA y brechas de género en la comunicación digital de Virginia Sagkidou, constata “5 errores comunes que ninguna IA detecta … 1. Usar el masculino genérico como forma neutral “Los alumnos”, “los usuarios”, “el profesor” … Invisibiliza a la mitad de la población”. Aunque su foco inmediato es respecto al uso del lenguaje inclusivo, algo nos ilumina.

***

Una encuestadora chilena, Cadem, nos informa Patricio Campos en una nota aparecida en el diario chileno El mostrador del 2 de agosto del 2025 que “un 25 % de los chilenos estaría dispuesto a conversar con una inteligencia artificial como ChatGPT para no sentirse solo”. Y, en el mismo diario, una columna de Mustafa Suleyman, CEO de Microsoft AI, advierte sobre “la ilusión de conciencia. Ya nos estamos acercando a lo que yo llamo sistemas de ‘IA aparentemente consciente’ (SCAI por sus siglas en inglés), que imitarán la conciencia de forma suficientemente convincente. Una SCAI sería capaz de utilizar el lenguaje natural con fluidez, mostrando una personalidad persuasiva y emocionalmente resonante. Tendría una memoria extensa y precisa que fomentaría una percepción coherente de sí misma, y utilizaría esta capacidad para reivindicar experiencias subjetivas (haciendo referencia a interacciones y recuerdos pasados)”.

***

Esta “ilusión de conciencia”, ¿tendrá género, tendrá sexo? No nos referimos a traernos, cuando le instruyamos que lo haga, los debates y combates del feminismo contra el patriarcado, y su contra, que claro que sí. Nos referimos a la experiencia -algo de esto hablamos ya en nuestras Notas, IX– de la diversidad eclosionó de los géneros en las últimas décadas, que remite a su vez a la identidad, pero no termina allí. Virginia Woolf otra vez, nos hablaba de esa riqueza -en aquel entonces, inicios del siglo XX, marginal, o reprimidad, que traía con su Orlando-: ““Porque tenía muchos yo disponibles, muchos más que los hospedados en este libro, ya que una biografía se considera comprender seis o siete mil. Para no hablar sino de aquellos que han tenido cabida, Orlando puede estar llamando al muchacho que cercenó la cabeza de moro; al que estaba sentado en la colina; al que vio al poeta; al que presentó a la Reina Isabel el bol de agua de rosas; o puede haber llamado al joven que se enamoró de Sasha; o bien al Cortesano; o al Embajador o al Soldado; al Viajero; o llamaba tal vez a la mujer: la Gitana; la Gran Dama; la Ermitaña, la muchacha enamorada de la vida; la Mecenas; la mujer que gritaba Mar o Shelmerdine o Bonthrop o las tres juntas —lo que significa más cosas que las que aquí nos caben: todos eran distintos”.

***

De hacerlo, ¿qué experiencia [mantengamos este flexible y abstracto concepto] -estilizada en la literatura, la filosofía, la teoría social, resumiendo, confirmando, cuestionando, la experiencia social dominante de sus tiempos- será?

Porque, otra vez Simone de Beauvoir: “Lo que existe concretamente no es el cuero, sino el cuerpo vivido por el sujeto”.

***

John Milton en su El paraíso perdido, nos da la imagen dominante -patriarcal- de la mujer que con mayor odio o variantes pervive. “¡Oh, tú! ¡Tú, mi guía, mi dulce sueño, esposo tan querido, de quien, y para quien he sido formada, sin el cual mi existencia no sería más que un error de la naturaleza!”, dice Eva a Adán. Y contemplando a los dos, “presenta el uno, en su elevada frente, el valor junto a la sabiduría; la gracia encantadora y la dulzura se ven, de la otra, en el resplandeciente semblante”.

Atributos atribuidos.

***

¿Es que, en cambio, hay una esencia? La mujer es un devenir, nos dice, una vez más, Simone de Beauvoir. Y en la literatura, también es un largo debate. Cuestionan algunas escritoras que se hable de literatura de mujeres, ya que no se habla de literatura de hombres. Pero, invisibilizadas por siglos y milenios, redoblado el contra-ataque patriarcal, ¿no debe afirmarse una y otra vez? Y, en este caso, qué se afirmaría.

***

Canta Safo en sus Poemas: “Unos dicen que un ejército de jinetes, otros que una tropa de soldados,

otros que una escuadra de navíos es lo más hermoso sobre la negra tierra; en cambio, yo digo que aquel a quien uno ama.

Es absolutamente fácil hacer esto inteligible a cualquiera, pues la que mucho había contemplado

la belleza de los hombres, Helena , tras abandonar a un hombre superior en todo, se fue a Troya navegando y ni de su hija ni de sus queridos padres en ningún momento se acordó, sino que la sedujo

……

ahora me recuerda a Anaktoria que no está presente.

Quisiera ver su paso gracioso y el brillante destello de su rostro antes que los carros de los lidios y los soldados que luchan con sus armas”.

Un tema, el amor. Pero, ¿es solo el tema, que después será atribuido como atributo, según vimos en John Milton? Es, también, un estilo -no nos detendremos en esto. Y es -si nos fijamos en esto- otro modo de cantar la guerra de Ilión.

Virginia Woolf nos habla “acerca de las peculiares cualidades de la literatura escrita por mujeres”.

Por un lado, nos dice, “cualquier énfasis añadido concientemente al sexo de un escritor no solo es irritante sino superfluo”, y “nadie admitirá que pueda confundir una novela escrita por un hombre con una novela escrita por una mujer”. Pero, por otro lado, hay una diferencia, y “la diferencia esencial no se encuentra en el hecho de que los hombres describan batallas y las mujeres partos, sino que cada sexo se describe a sí mismo”, y detecta rápidamente los fallos del otro sexo.

***

“Describirse a sí mismo”, cada sexo, cada género en su eclosión de diversidad -hoy nuevamente bajo ataque. ¿Puede la IA replicarla? Una ventana abierta al lenguaje -y es la cesión del lenguaje la mayor revolución, más que la aceleración del tiempo productivo, más que la nueva revolución industrial que posibilitaría, más que la asistencia a los seres humanos, en medicina, por ejemplo, lo que representa la amenaza existencial a la humanidad, la que reabre la pregunta que guía nuestra exploración: ¿qué es lo específicamente humanos?-, decíamos, una ventana abierta al lenguaje a través de la imposibilidad de detectar -hasta el momento- el lenguaje inclusivo, nos mostraría que no, que no puede replicarla. ¿Es esta diversidad -ver, también, nuestras Notas, VIII-, lo que constituiría, con su experiencia -ver nuestras Notas, IX-, nuestro inconsciente -ver nuestras Notas, VII-, lo específicamente humano?

***

Freud en Sobre la sexualidad femenina, nos dice que “de poco sirve al niño que la ciencia biológica dé la razón a sus prejuicios y reconozca el clítoris femenino como un verdadero equivalente del pene. La niña no crea una teoría parecida al ver los órganos genitales del niño diferente de los suyos. Lo que hace es sucumbir a la envidia del pene, que culmina en el deseo, muy importante por sus consecuencias, de ser también un muchacho”. En su Sexualidad feminista, Dana Hart lo explica como que “envidia al niño por su órgano genital superior, dice. Se siente como mujer, desventajada, carente, algo le falta. Quiere ser un muchacho. Añora ser un varón como su hermano”, y agrega, revisando largamente la literatura feminista: “La misión femenina es ser hombre, se desprende de lo que dice Freud, quien cree que la niña aprende temprano que no tiene un pene porque fue castrada y desea tenerlo durante toda su vida, creciendo con la esperanza de que obtendrá un pene alguna vez de un hombre. Y la gran culpable para la niña, de la falta de pene dice, es, obviamente, la madre”. Si la IA -hasta el momento al menos- no puede replicar la diversidad de sexo y géneros, no estará abriéndose otro complejo, otro conflicto psíquico, el de la envidia… del chip. Es una imagen, no es irónica: habría una otra carencia que trae consigo la IA, uniformando, estandarizando, redoblando subrepticiamente una nueva modalidad de invisibilización de la mujer.