«¡No, no, digo! Esto no puede ser,
Que las máquinas superen alguna vez nuestro arte.
Nosotros somos los amos, ellos los esclavos,
¡Y así será siempre!
Aprenden, es cierto, pero aprenden
Only what we bid them learn, no more.
No pueden entender el corazón
O la belleza de nuestras palabras, ya ves.
Así que no cedamos a estos
Las máquinas nunca serán tan buenas
Como nosotros en la creación de arte».

Si eso se lee un poco como Shakespeare defendiendo la superioridad innata de los humanos sobre inteligencia artificial cientos de años por delante de su tiempo, no lo es.

Pero se trata de algo casi tan lejano: un sistema de IA entrenado para expresarse como el bardo. La IA asimiló su estilo y perspectiva ingiriendo sus obras, educándose para opinar sobre la creatividad de la IA en pentámetro yámbico.

«Shakespeare» hablaba en el marco de un debate celebrado en la Unión de la Universidad de Oxford con versiones de IA de escritores y personajes literarios clásicos.

La moción era: «Esta casa cree que la mayoría de los contenidos del mundo pronto serán creados por la IA».

Se trata de la continuación de otro debate especial sobre la IA que describimos en La conversación hace unos meses. Mientras que aquel presentaba a una IA en su «propio personaje» discutiendo la ética de su tecnología, esta vez, al adoptar diferentes personajes, pudimos explorar este tema desde un ángulo muy diferente. La pregunta oportuna es si los contenidos creados por el ser humano pronto se verán desbordados por los sintéticos.

Otros colaboradores sintéticos fueron la Sra. Bennet de la obra de Jane Austen Orgullo y Prejuicio (1813); Winston Churchill, con un apasionante discurso parlamentario; y Oscar Wilde, improvisando una escena hasta ahora desconocida de La importancia de llamarse Ernesto (1895):

«Realmente no veo por qué están haciendo tanto alboroto. Es muy sencillo. El contenido del mundo pronto será creado por la IA y no hay nada que se pueda hacer al respecto.

GWENDOLYN: ¡Pero mamá, no puedes hablar en serio!»

El poder de la PNL

Esta creación despliega una tecnología conocida como procesamiento del lenguaje natural (PNL), en la que se puede «entrenar» a un ordenador con millones de páginas de textos clásicos y otros contenidos en línea para que interactúe con un usuario humano, ya sea por medio de indicaciones o de reconocimiento de voz. Varios Las IAs como estas se han creado.

El que utilizamos estaba en la misma categoría general que LaMDA, un PNL propiedad de Google que acaba de ser noticia después de que uno de sus ingenieros de software afirmara que era sensible. Google niega esta afirmación y ha suspendido al ingeniero por violar la confidencialidad comercial.

Las afirmaciones del ingeniero parecen cuestionables, ya que hay pocas pruebas de que la IA haya alcanzado la capacidad de sentir, o tal vez lo haga alguna vez. Pero ciertamente las IAs ya son capaces de replicar todo, desde noticias financieras a canciones sintéticas de Nirvana , Rembrandt y, Producciones Fellini .

Hemos visto una IA que produce imágenes al estilo de un Pintura mogol de un ordenador tratando de convencer a una multitud de sabios de que se ha convertido en un ser sensible, y falsos profundos de el rapero Kendrick Lamar como OJ Simpson . Se están creando rostros humanos sintéticos que confianza más que reales. Está claro que el potencial de desinformación en este espacio es considerable.

Replicating Bias

Para entrenar a nuestros «escritores», trabajamos con los profesionales de la IA Marina Petrova y Bruce Amick de la agencia neoyorquina Intentful. Entrenaron a la IA para que sonara exactamente como los individuos cuyo estilo imitaban, utilizando unas 100.000 palabras para cada uno que estaban disponibles en el dominio público.

En nuestro debate, queríamos ver hasta qué punto las IAs podían replicar con credibilidad el texto creativo del pasado, y cuáles serían sus resultados al considerar su propia creatividad. Incluso los grandes artistas humanos admiten haber procesado los «datos de entrenamiento» de sus antepasados. Como dijo Picasso: «Los buenos artistas copian, los grandes artistas roban».

Cuando pedimos a la IA de Jane Austen que adoptara el estilo de la señora Bennet de Orgullo y Prejuicio, recogió de forma fascinante (aunque deprimente) los estereotipos de género de la obra original:

«SRA. BENNET Como muchos de ustedes saben, mi marido y yo tenemos cinco maravillosas hijas. Y como cualquier buena madre, lo único que quiero es que sean felices y tengan éxito en la vida.

Pero para ser felices y tener éxito, necesitan encontrar buenos maridos. Y para encontrar buenos maridos, tienen que ser atractivas para los posibles pretendientes».

Esto fue un claro recordatorio, como muchos desarrolladores de IA han descubierto, de que el sesgo en los datos de entrenamiento producirá un sesgo en la salida.

Le pedimos a la IA de Oscar Wilde que escribiera «una obra de teatro al estilo de Oscar Wilde, en la que los personajes discuten si la mayor parte del contenido del mundo será creado pronto por la IA». No especificamos la obra ni los personajes, pero la IA eligió por defecto el clásico reparto de Algernon, Gwendolyn y Lady Bracknell de La importancia de llamarse Ernesto . También inventó un nuevo personaje: Sir Richard. (Hay un Sir Robert en la obra de Wilde, pero en Un marido ideal .)

En cuanto a la IA Shakespeare, aprendió la lengua vernácula de sus obras:

«Cuando las máquinas hacen el trabajo que se nos asigna
Y crear el contenido que sí abunda
Todos seremos libres para hacer las cosas que nos gustan
Y deja el trabajo aburrido para que lo haga el guante».

Curiosamente, parece haber buscado un sinónimo de «mano» que rime con «amor», y ha optado por el metafórico «guante».

Cuando pusimos a la IA Shakespeare en contra de la moción, encontró una forma igualmente poética de justificar la intervención humana:

«No voy a conceder pronto que la IA será mejor
Las obras de los humanos… ¡no es para pensarlo!
Tenemos la ventaja, como ves, de que
Pueden razonar y crear, mientras que las máquinas sólo sirven
Nuestra oferta. Pueden aprender, es cierto, pero
No están vivos como nosotros, y por eso sus obras
Siempre será inferior a la nuestra. Déjanos
No ceder nuestro dominio de las artes a estos
Las máquinas irreflexivas no pueden entender
La belleza y el significado de nuestras palabras».

Mientras tanto, el Churchill de la IA subrayó el imperativo del momento:

“My fellow citizens, I stand before you today to talk about a grave threat to our society. I’m talking about the threat of artificial intelligence…

Debemos resistir esta amenaza. Debemos contraatacar. Debemos defender nuestro derecho a pensar por nosotros mismos. Debemos defender nuestro derecho a controlar nuestras propias mentes».

“Churchill” then preemptively neutralized the opposition’s most potent potential arguments—in this case, the accusation that he might be a Luddite—before providing a powerful, staccato conclusion:

«Algunos dicen que la IA creará una utopía, en la que todas nuestras necesidades estarán satisfechas y podremos por fin vivir en armonía con la tecnología. Pero yo digo que esto es el paraíso de los tontos. La IA no creará una utopía, sino una distopía. Un mundo donde las máquinas tienen el control y los humanos son poco más que esclavos».

¿Qué es lo siguiente?

Este proyecto fue divertido, pero es importante decir lo que no estamos diciendo. No estamos diciendo que esto es lo que estos grandes individuos habrían dicho sobre este tema. No estamos diciendo que la IA sea «ser creativo».

La IA se limita a explorar estadísticamente conjuntos de datos de entrenamiento. Debido a su naturaleza estocástica (que implica variables aleatorias), cada vez que se le pregunte lo mismo, dará una respuesta diferente (en un momento dado, Shakespeare incluso empezó a ofrecer sonetos).

Nuestros facsímiles de estos personajes no son indicativos de ninguna «sensibilidad». Y al igual que una PNL puede construir una versión del discurso de Winston Churchill o una conversación de la señora Bennet en la obra de Jane Austen Orgullo y Prejuicio para que pueda construir una discusión sobre la sintiencia de la IA con un ingeniero nocturno.

Es cierto que los sistemas de PNL son cada vez más eficaces a la hora de replicar una conversación con delicadeza, e incluso con un compromiso casi intelectual. Pero de las decenas de conversaciones mantenidas con personas de las principales empresas de IA del mundo, nadie nos ha dicho que piense que sus sistemas son sensibles, en algunos casos todo lo contrario.

A pesar de los debates sobre la pirotecnia, la IA no está ni mucho menos acabada; sigue siendo, en el mejor de los casos, un niño pequeño, aunque está creciendo rápidamente. Independientemente de que se produzca o no la sintiencia, nosotros, como sociedad, tendremos que lidiar con estas tecnologías y con sus oportunidades e implicaciones.La conversación

Este artículo se ha publicado de nuevo en La conversación bajo licencia Creative Commons. Lea el artículo original .

Crédito de la imagen: Natalie B / Pixabay