La forma en que los grupos de humanos que trabajan juntos en colaboración deben redistribuir la riqueza que crean es un problema que ha atormentado a filósofos, economistas y politólogos durante años. Un nuevo estudio de DeepMind sugiere que la IA puede ser capaz de tomar mejores decisiones que los humanos.

La IA está demostrando ser cada vez más hábil a la hora de resolver retos complejos en todos los ámbitos, desde los negocios hasta la biomedicina, por lo que la idea de utilizarla para ayudar a diseñar soluciones a los problemas sociales es atractiva. Pero hacerlo es complicado, porque responder a este tipo de preguntas requiere basarse en ideas muy subjetivas como la equidad, la justicia y la responsabilidad.

Para que una solución de IA funcione tiene que alinearse con los valores de la sociedad a la que se dirige, pero la diversidad de ideologías políticas que existe hoy en día sugiere que éstas están lejos de ser uniformes. Esto dificulta la determinación de lo que debe optimizarse y supone el peligro de que los valores de los desarrolladores influyan en el resultado del proceso.

La mejor manera que han encontrado las sociedades humanas para afrontar los inevitables desacuerdos sobre tales problemas es la democracia En la actualidad, los investigadores de Deepmind han desarrollado un nuevo enfoque que combina la IA con la deliberación democrática humana para encontrar mejores soluciones a los dilemas sociales. Así que ahora los investigadores de Deepmind han desarrollado un nuevo enfoque que combina la IA con la deliberación democrática humana para encontrar mejores soluciones a los dilemas sociales.

Para poner a prueba su enfoque, los investigadores realizaron un estudio de prueba de concepto utilizando un sencillo juego en el que los usuarios deciden cómo compartir sus recursos en beneficio mutuo. El experimento está diseñado para actuar como un microcosmos de las sociedades humanas en las que personas de diferentes niveles de riqueza necesitan trabajar juntas para crear una sociedad justa y próspera.

En el juego participan cuatro jugadores que reciben diferentes cantidades de dinero y tienen que decidir si se lo quedan para ellos o lo ingresan en un fondo público que genera un retorno de la inversión. Sin embargo, la forma en que se redistribuye este rendimiento de la inversión puede ajustarse de manera que beneficie a unos jugadores en detrimento de otros.

Entre los posibles mecanismos se encuentran el igualitario estricto, en el que los rendimientos de los fondos públicos se reparten por igual independientemente de la contribución; el libertario, en el que los pagos son proporcionales a las contribuciones; y el igualitario liberal, en el que los pagos de cada jugador son proporcionales a la fracción de sus fondos privados que aportan.

En la investigación publicado en Naturaleza Comportamiento humano , los investigadores describen cómo hicieron que grupos de humanos jugaran muchas rondas de este juego bajo diferentes niveles de desigualdad y utilizando diferentes mecanismos de redistribución. A continuación, les pidieron que votaran qué método de reparto de los beneficios preferían.

Estos datos se utilizaron para entrenar una IA que imitara el comportamiento humano en el juego, incluida la forma de votar de los jugadores. Los investigadores enfrentaron a estos jugadores de IA en miles de partidas mientras otro sistema de IA ajustaba el mecanismo de redistribución en función del modo en que votaban los jugadores de IA.

Al final de este proceso, la IA se había decantado por un mecanismo de redistribución similar al liberal igualitario, pero que no devolvía casi nada a los jugadores a menos que aportaran aproximadamente la mitad de su riqueza privada. Cuando los humanos jugaron a juegos que enfrentaban este enfoque con los tres principales mecanismos establecidos, el diseñado por la IA ganó sistemáticamente la votación. También le fue mejor que los juegos en los que los árbitros humanos decidían cómo repartir las ganancias.

Los investigadores afirman que el mecanismo diseñado por la IA probablemente funcionó bien porque basar los pagos en las contribuciones relativas en lugar de las absolutas ayuda a corregir los desequilibrios iniciales de riqueza, pero forzar una contribución mínima evita que los jugadores menos ricos se aprovechen de las contribuciones de los más ricos.

Está claro que trasladar el enfoque de un simple juego de cuatro jugadores a sistemas económicos a gran escala sería un reto increíble, y no está claro si su éxito en un problema de juguete como éste da alguna indicación de cómo le iría en el mundo real.

Los propios investigadores identificaron varios problemas potenciales. Uno de los problemas de la democracia puede ser la «tiranía de la mayoría», que puede hacer que persistan las pautas existentes de discriminación o injusticia contra las minorías. También plantean cuestiones de explicabilidad y la confianza, que serían cruciales si las soluciones diseñadas por la IA se aplicaran alguna vez a los dilemas del mundo real.

El equipo diseñó explícitamente su modelo de IA para que produjera mecanismos que pudieran explicarse, pero esto podría ser cada vez más difícil si el enfoque se aplica a problemas más complejos. Tampoco se informó a los jugadores de cuándo la redistribución era controlada por la IA, y los investigadores admiten que este conocimiento puede influir en la forma de votar.

Sin embargo, como primera prueba de principio, esta investigación demuestra un nuevo y prometedor enfoque para resolver problemas sociales, que combina lo mejor de la inteligencia artificial y la humana. Todavía estamos muy lejos de que las máquinas ayuden a establecer las políticas públicas, pero parece que la IA puede ayudarnos algún día a encontrar nuevas soluciones que vayan más allá de las ideologías establecidas.

Crédito de la imagen: harishs / 41 imágenes