Según Elon Musk, TruthGPT será una IA de "búsqueda de la máxima verdad"
A medida que el campo de la inteligencia artificial continúa evolucionando a un ritmo vertiginoso, un nuevo contendiente está listo para ingresar al campo de juego. TruthGPT, un chatbot de IA propuesto por el multimillonario tecnológico Elon Musk, está generando mucho revuelo en línea.
Pero, ¿Qué es TruthGPT? ¿Por qué Elon Musk quiere crearlo? ¿Y en qué se diferenciará de las herramientas de IA que ya tenemos?
¿Qué es TruthGPT?
TruthGPT es un modelo de IA propuesto destinado a abordar los males de los modelos existentes que impulsa a los gustos de ChatGPT y Bard, con especial énfasis en la verdad y la seguridad. Según Elon Musk, TruthGPT será una IA de "búsqueda de la máxima verdad" que comprende la naturaleza del universo y es poco probable que destruya a la humanidad porque ve a los humanos como un componente crítico del universo.
¿IA que busca la verdad máxima? ¿Entender la naturaleza del universo?
Te perdonaremos si la descripción de Musk no te da una idea clara de lo que está tratando exactamente de construir. Sin embargo, obtendrás una mejor idea de lo que está hablando al ver por qué está tratando de construirlo en primer lugar.
¿Por qué Elon Musk está construyendo TruthGPT?
En una entrevista con Fox News, Elon Musk expresó su preocupación sobre cómo las grandes empresas de IA pueden perpetuar el sesgo y la desinformación a través de los chatbots de IA, una herramienta emergente de la que la gente depende cada vez más para obtener información. Elon Musk también comentó sobre la amenaza que representa la IA para la humanidad, enfatizando la posibilidad de un apocalipsis de IA, un escenario en el que los sistemas de IA podrían tomar el control de nuestra vida diaria.
TWEET
Señalando a empresas como OpenAI y Google que, en su opinión, no están haciendo lo suficiente en las áreas de seguridad de la IA y protección contra la desinformación, Elon Musk propuso una tercera fuerza: TruthGPT. El CEO de SpaceX y Tesla quiere crear TruthGPT como contrapeso a Bard de Google y ChatGPT de OpenAI. La idea es crear un modelo de IA que intente en la medida de lo posible ser veraz en la información que proporciona.
Elon Musk, quien recientemente escribió una carta abierta pidiendo una moratoria en el desarrollo de modelos poderosos de IA (específicamente aquellos más poderosos que GPT-4), cree que la IA se está moviendo demasiado rápido. TruthGPT es un gran modelo de lenguaje (LLM) que promete abordar estas dos preocupaciones principales con los actuales sistemas de inteligencia artificial.
¿Cómo sería TruthGPT?
El primer indicio de cómo se vería TruthGPT está en el nombre. Teniendo en cuenta el apéndice "GPT", TruthGPT probablemente tendrá una arquitectura similar a ChatGPT. Recuerda, Elon Musk ayudó a ensamblar OpenAI y al equipo que construyó el modelo GPT de ChatGPT.
Además, teniendo en cuenta que la arquitectura de GPT ha demostrado ser un éxito tanto técnico como comercial, seguir un camino diferente probablemente llevará demasiado tiempo y será costoso. El tiempo es una cosa que Elon Musk no tiene si quiere construir algo que realmente pueda competir cara a cara lo antes posible con la IA de última generación. Por lo tanto, no te emociones demasiado: es posible que TruthGPT no sea tan radicalmente diferente de las herramientas de inteligencia artificial que ya tenemos.
La precisión, o en la jerga de Elon Musk, "veracidad" de un modelo de IA depende en gran medida de sus datos de entrenamiento y del algoritmo de entrenamiento. No estamos exactamente seguros de cómo se obtendrían los datos de entrenamiento de TruthGPT, pero para tener la mejor oportunidad de construir un LLM que sea lo más "veraz" posible, TruthGPT de Elon Musk tendría que priorizar los datos de "fuentes veraces". Pero ese es precisamente el problema. La verdad es un concepto muy subjetivo. Lo que es cierto para mí puede no serlo para ti.
Entonces, ¿Es incluso práctica esta idea de una IA máxima que busca la verdad?
Por qué construir TruthGPT es un gran desafío
Una vez que comprendes cómo funcionan los grandes modelos de lenguaje como GPT, queda claro que no es práctico estar en lo correcto en todo momento. Por lo general, entrenados en un gran conjunto de datos de Internet, muchos de ellos, como era de esperar, serán información falsa, y los LLM no tienen una forma inerte de distinguir los hechos de la ficción.
La mejor intervención suele ser de entrenadores humanos que intentan enseñar al modelo de lenguaje qué es un buen comportamiento y qué es malo. Pero los entrenadores humanos están sesgados. El sesgo se transmite a los modelos de IA, anulando todo el propósito de una "IA que busque la verdad al máximo". Ten en cuenta que no estamos hablando de parcialidad o prejuicio absoluto contra un pueblo o de otra manera. Es el sesgo más sutil sobre cómo interpretas el lenguaje, las situaciones, los desafíos, etc., lo que se filtra en el proceso. Los humanos son humanos, después de todo.
Por supuesto, la precisión también se puede abordar desde el lado del algoritmo. Sin embargo, independientemente del algoritmo, la ambigüedad del idioma sigue representando un gran problema para la precisión de los modelos de IA. Incluso los humanos a menudo tienen dificultades para interpretar con precisión el significado de una oración o frase, lo que genera información errónea. Para los modelos de IA, la ambigüedad puede dar lugar a malas interpretaciones que den lugar a imprecisiones.
Para Musk, TruthGPT parece ser una oportunidad para crear un modelo de IA que considere adecuado para entregar la verdad. Cómo sucedería eso sin introducir sus propios prejuicios es otra pregunta que nos lleva de vuelta al comienzo de la conversación. ¿En qué se diferencian las opiniones de Musk sobre lo que está sesgado o no de las de aquellos que entrenaron y dirigieron ChatGPT?
¿Es TruthGPT una emocionante posibilidad?
Los planes de Elon Musk para TruthGPT parecen nobles y encomiables. Sin embargo, es una tarea difícil construir un modelo de IA con una insignificante incidencia de imprecisiones.
Si bien esperaríamos que un multimillonario tecnológico que haya desmitificado la ciencia espacial pueda lograr algo de esta naturaleza, algunas cosas son más fáciles de decir que de hacer.