El mundo que nos presenta ChatGPT considera verdadero lo que más se repite
A medida que sombrías predicciones anuncian el final de las tareas escolares, las instituciones educativas revisan rápidamente sus políticas y planes de estudios para abordar los desafíos que plantean los chatbots de Inteligencia Artificial (IA). Es cierto que la aparición de los chatbots plantea cuestiones éticas y filosóficas. Sin embargo, a través de sus interacciones con la IA, las personas inevitablemente mejorarán habilidades que son cruciales en nuestra época: conocimiento del idioma y pensamiento crítico.
Somos conscientes de que esta afirmación contradice las preocupaciones generalizadas sobre la pérdida de la creatividad, el pensamiento individual y crítico. Sin embargo, como demostraremos, un cambio de perspectiva desde el 'resultado' al 'usuario' puede permitir cierto optimismo.
Loros sofisticados
No sorprende que el éxito de ChatGPT al aprobar un MBA [PDF] y producir artículos académicos creíbles haya despertado la preocupación entre los educadores sobre cómo aprenderán los estudiantes a formarse una opinión y articularla. De hecho, esta es una perspectiva aterradora: desde las decisiones cotidianas más pequeñas hasta los problemas sociales de gran escala y de alto riesgo, formamos nuestras opiniones a través de la recopilación de información, (preferiblemente) haciendo algunas investigaciones, pensando críticamente mientras evaluamos la evidencia y el razonamiento, y luego hacer nuestro propio juicio.
Ahora utiliza ChatGPT: evaluará el vasto conjunto de datos en el que se ha entrenado y te ahorrará el arduo trabajo de investigar, pensar y evaluar. La falla, como admite el propio bot, es que sus respuestas no se basan en una investigación independiente: "Generar texto basado en patrones que he visto en los datos. Presento el texto más probable basado en mi formación, pero no tengo la capacidad de evaluar críticamente o formar mis propias opiniones".
Imagen: ChatGPT responde.
No te dejes engañar por la lógica de esta respuesta: la aplicación de IA no explica sus acciones y sus consecuencias (y como veremos más adelante, hay una gran diferencia entre los dos). El mundo que ChatGPT nos presenta se basa en argumentum ad populum, considera verdadero lo que más se repite. Por supuesto, no lo es: si te sumerges en la madriguera del conejo de los informes sobre las "alucinaciones" de la IA, es probable que encuentres muchas historias. Nuestra favorita es cómo el chatbot ideó el artículo económico más citado.
Es por eso que estamos de acuerdo con aquellos que dudan de que ChatGPT se hará cargo en el corto plazo de nuestros trabajos de creación de contenido, creatividad y verificación de hechos. Por muy convincentes que sean, los textos generados por IA se encuentran en el vacío: un chatbot no se comunica como lo hacen los humanos, no conoce el propósito real del texto, la audiencia prevista o el contexto en el que se utilizará, a menos que se indique específicamente.
Una oportunidad para agudizar nuestras habilidades críticas
Los usuarios deben ser expertos tanto en solicitar como en evaluar el resultado. Incitar es una habilidad que requiere un vocabulario preciso y una comprensión de cómo funcionan el lenguaje, el estilo o los géneros. La evaluación es la capacidad de evaluar el resultado.
Demos un ejemplo. Imagina que tu tarea es responder a una crisis corporativa. Te comunicas con ChatGPT para crear una disculpa corporativa. Lo incitas: Asumir alguna responsabilidad. Usa un lenguaje formal. Debería ser corto.
Y aquí es donde ocurre la magia.
Ha realizado tus indicaciones, pero ahora necesitas verificar: ¿Este texto se ve y suena como una disculpa corporativa? ¿Cómo usa la gente normalmente el lenguaje para asumir o cambiar la culpa? ¿El texto es fácil de leer o esconde su verdadero significado detrás de un lenguaje complejo? ¿De quién es la voz que escuchamos en la disculpa?
Para comprobar si tu texto es correcto, debes saber cuáles son las características típicas del género o estilo. Debes conocer las estrategias de gestión de crisis. Niveles de legibilidad. O cómo codificamos la agencia en el lenguaje (como encontró este estudio).
En la erudición académica, este tipo de conocimiento se denomina conciencia del lenguaje. La conciencia del lenguaje tiene varios niveles: el primero es simplemente darse cuenta del lenguaje o lenguajes y sus elementos. El segundo nivel es cuando podemos identificar y etiquetar los diversos elementos y manipularlos creativamente.
Considera, por ejemplo, el comienzo de dos versiones de disculpas corporativas creadas por ChatGPT:
"Nos gustaría disculparnos profundamente por las acciones de nuestra empresa..."
"Nos gustaría disculparnos profundamente por las molestias que causaron nuestras acciones..."
Una lectura superficial de estos dos puede parecer como si ambos mensajes se disculparan, pero la diferencia es por lo que se disculpan. Uno se disculpa por sus acciones. El otro por las consecuencias de sus actos. Esta pequeña diferencia afecta a la responsabilidad legal: en el segundo caso, la empresa no acepta explícitamente la responsabilidad. Después de todo, solo lamentan las molestias.
Ejemplos como el anterior pueden hacer que las personas piensen en las pequeñas diferencias lingüísticas y su significado para la comunicación. La belleza de esto es que cuanto más a menudo miramos de cerca el lenguaje, más nos damos cuenta de lo que hace en la comunicación. Una vez que ve cómo funciona una 'fauxpología', nunca puedes dejar de verla.
Imagen: Aprender a comprender mejor los matices del lenguaje, el contexto y el propósito previsto podría ayudar a las generaciones futuras a combatir la desinformación. Shutterstock
Un arma potencial contra la desinformación
Volviendo a ChatGPT: como podemos ver, para obtener los mejores resultados, los usuarios deben solicitarlo correctamente y luego verificar el texto producido con los criterios de solicitud. Para ello, necesitan comprender los matices del lenguaje, el contexto y el propósito previsto.
¿Por qué es tan importante este conocimiento? Por un tercer nivel de conciencia que no hemos mencionado antes. Es entonces cuando las personas se dan cuenta de cómo el lenguaje crea, afecta y manipula sus percepciones de la realidad. Este conocimiento es invaluable en nuestra era de desinformación y populismo, cuando los problemas que enfrenta la sociedad son en su mayoría abstractos e intangibles. Cuanto más sabe la gente sobre cómo funciona el lenguaje, más comienzan a notar cómo los políticos y los medios crean para ellos versiones del mundo a través de sus comunicaciones.
La conciencia del idioma hace que las personas sean sensibles a las prácticas cuestionables de comunicación corporativa, desde el lavado verde hasta... ya sabes, la falta de disculpas. Además, la conciencia del idioma puede ayudar a las personas a comprender mejor por qué la sociedad (no responde) a las acciones dirigidas a la crisis climática. Denominada como la falla de comunicación más grande de la historia, casi todos los aspectos de la crisis climática, y cómo las personas actúan como resultado, dependen de cómo hablemos al respecto.
Es imposible predecir hasta qué punto las aplicaciones de IA como ChatGPT perturbarán el mundo de la educación y el trabajo. Por ahora, la sociedad puede prepararse para los peligros de las IA y aprovechar su potencial.
Sin embargo, en el proceso de aprender a interactuar bien con ellas, las personas están obligadas a volverse "inteligentes" y, con ello, más conscientes de cómo funciona el lenguaje. Con tal conocimiento del lenguaje viene el poder de consumir textos con un ojo crítico. Un atisbo de optimismo para un futuro sostenible es que la lectura crítica deja menos espacio a la manipulación y la desinformación.
Este artículo se ha traducido del inglés desde The Conversation: "Debate: ChatGPT offers unseen opportunities to sharpen students’ critical skills", bajo una licencia Creative Commons
