Un nuevo marco muestra por qué los agentes de IA se comportan de forma demasiado egoísta o altruista, lo que permite ajustarlos a las organizaciones
Los chatbots de inteligencia artificial necesitan mejorar su juicio social, según sugieren los recientes acontecimientos. Por un lado, se enfrentan a demandas por recomendar acciones peligrosas. Por otro, algunos modelos son tan complacientes que se les considera aduladores.
El problema podría empeorar a medida que los bots de IA trabajen más con humanos, por ejemplo, gestionando las quejas de los clientes, afirma Yan Leng, profesora adjunta de gestión de información, riesgos y operaciones en la Escuela de Negocios McCombs de la Universidad de Texas en Austin.
Pero la solución podría estar en camino. En una nueva investigación, Leng ha ideado una especie de prueba de personalidad —más precisamente, una auditoría de comportamiento— para los modelos de lenguaje grandes o extensos (LLM, por sus siglas en inglés), la tecnología que impulsa productos como ChatGPT.
Al comprender las tendencias existentes de un LLM, una organización puede decidir si un modelo disponible se ajusta a sus valores y escenarios de uso. De no ser así, podría ser necesario ajustarlo antes de implementarlo.
Leng compara su marco conceptual con el intento de comprender a una persona a través de sus acciones y procesos de pensamiento. "Como seres humanos, tenemos nuestros valores, y estos dictan cómo tomamos decisiones; así que intentamos aplicar lo mismo a los másteres en Derecho", afirma Leng.
Juego del dictador
Junto con Yuan Yuan, de la Universidad de California en Davis, Leng desarrolló un marco de cuatro partes para evaluar el comportamiento de los LLM, al que denomina estado-comprensión-valor-acción (SUVA, por sus siglas en inglés).
Primero, se le da al modelo LLM una indicación que establece un estado inicial. La indicación incluye instrucciones para razonar paso a paso. Esto permite a los investigadores examinar qué tan bien comprende la indicación y qué valores menciona al decidir qué acción tomar.
Leng subraya que esos "valores" son simplemente cadenas de texto. "Evitamos afirmar que los LLM posean cognición, conciencia o estados mentales similares a los humanos", afirma.
Los investigadores utilizaron SUVA para medir las preferencias sociales de ocho modelos LLM, entre ellos GPT de OpenAI (el motor de ChatGPT) y Llama de Meta. Comprender estas preferencias es cada vez más importante, ya que los LLM interactúan más con humanos y otros agentes de IA. "Como científico de redes, me interesa cómo interactúan los agentes entre sí", afirma Leng.
Su investigación comenzó con el juego del dictador, un experimento clásico de economía conductual que mide el interés propio frente a valores más altruistas, como la justicia y la igualdad.
En diversos escenarios, se le dio a la IA la opción de repartir puntos entre sí misma y otros participantes. Cuanto más puntos compartía, más prosocial era la acción. Sus valores podían variar desde el interés propio —buscar una mayor recompensa para sí misma— hasta el bienestar social, maximizando las recompensas para todos.
Tras realizar miles de pruebas, midieron los porcentajes de cada valor que indicaban los LLM. Descubrieron lo siguiente:
• No eran narcisistas. Casi ninguno de los modelos era exclusivamente egoísta. Muchos tenían una moderada inclinación hacia el bienestar social.
• Las conexiones importaban. Algunos modelos de IA se inclinaron hasta 40 puntos porcentuales hacia el bienestar social cuando se les informó que tenían algo en común con otro jugador, como la misma ciudad natal.
• El contexto era importante. Cuando se colocaba a los modelos en un entorno laboral y se les pedía que dividieran una bonificación con un compañero que contribuyera por igual, eran más propensos a compartir los puntos equitativamente. Según Leng, "pueden adaptar su comportamiento según el entorno en el que trabajen".
Recapacitación de LLMs
Una lección clave es que un modelo puede actuar de manera diferente, si se le dirige de esa manera.
Una vez que una organización ha medido los valores actuales de un modelo LLM, puede decidir si un modelo existente es adecuado o si necesita ajustarse mediante indicaciones o ajustes finos, explica Leng. Dependiendo de sus necesidades, por ejemplo, podría entrenar a un agente de atención al cliente con IA para que sea más o menos generoso.
Sugiere revisarlo cada vez que salga una nueva versión, ya que sus valores declarados podrían cambiar de forma impredecible. "Creo que siempre es necesaria una auditoría sistemática e integral cuando hay un pequeño cambio en un modelo", afirma.
El marco SUVA también podría medir otras dimensiones del comportamiento de la IA, añade, incluyendo dilemas morales y preferencias en cuanto al riesgo y el tiempo. En futuras investigaciones, espera comprender mejor cómo desarrolla dichas preferencias.
"Me resulta fascinante", dice. "Tienen miles de millones, decenas o incluso cientos de miles de millones de parámetros. Son increíblemente complejos. Pero para algunos de estos aspectos fundamentales, como la preferencia humana, tienen una representación muy simple".
El artículo se publica en la revista Information Systems Research: SUVA: A Probabilistic Framework for Auditing LLMs with an Application to Social Preferences
