Los estafadores se ponían en contacto inicialmente con las víctimas a través de WhatsApp y Telegram

OpenAI anunció que desmanteló una operación fraudulenta con sede en Camboya que utilizaba su chatbot de inteligencia artificial generativa (IA), ChatGPT, para facilitar una amplia gama de estafas relacionadas con inversiones, romances, juegos de azar y suplantación de identidad de agentes del orden.

Con ese fin, prohibió una red coordinada de cuentas de ChatGPT que probablemente se originaron en el sudeste asiático y operaron desde la ciudad de Poipet, una región con amplios vínculos con centros de estafa y trata de personas en el pasado.

Se dice que el grupo de cuentas utilizó los modelos de OpenAI para crear y respaldar el funcionamiento de identidades falsas en línea, generar y traducir mensajes enviados a víctimas de estafas, crear contenido promocional para sus planes fraudulentos y ayudar con las actividades cotidianas.

El contenido promocional incluía la creación de anuncios en redes sociales para trabajos de "conversación" en Poipet, dirigidos específicamente a usuarios de Bangladesh e India, que prometían un salario base de 800 dólares (y una bonificación de 100 dólares por "asistencia completa"), junto con billetes de avión, alojamiento gratuito, comidas, visados ​​de un año para Camboya y permisos de trabajo.

También se ha descubierto que un subconjunto de estas cuentas utiliza la herramienta de IA para tareas administrativas, como redactar comunicados internos, traducir mensajes entre el personal y documentar deudas de empleados, deducciones salariales, multas, reembolsos de préstamos, estancias ilegales con visado, permisos de trabajo, estatus migratorio e incentivos de contratación.

La empresa emergente de inteligencia artificial afirmó haber investigado la operación en colaboración con WhatsApp, propiedad de Meta.

"Esta operación ilustra una realidad importante sobre las modernas redes de estafa: los grupos delictivos organizados rara vez se limitan a un solo tipo de estafa", afirmó OpenAI. "En cambio, aprovechan cualquier oportunidad para utilizar las narrativas, las identidades y las tácticas que consideren más efectivas para engañar a las víctimas".

Los ciberdelincuentes que se encontraban detrás de la red llevaron a cabo varios tipos de estafas en paralelo, combinando técnicas de diferentes esquemas para aumentar la probabilidad de éxito de sus actividades ilícitas.

Además de utilizar perfiles falsos para generar confianza antes de engañar a las víctimas con oportunidades de inversión fraudulentas que involucran criptomonedas y el comercio de oro al contado, los delincuentes entablaron largas conversaciones románticas con sus objetivos utilizando identidades sintéticas o haciéndose pasar por representantes de plataformas de juegos de azar en línea que supuestamente ofrecían bonos y ganancias falsas.

Otros usuarios que forman parte del grupo se hicieron pasar por organismos encargados de hacer cumplir la ley para generar una falsa sensación de urgencia e informar a las víctimas de que debían pagar multas por cometer delitos graves.

Para lograrlo, la red creó y operó falsos perfiles de citas, supuestos expertos en inversiones y perfiles fraudulentos de agentes de la ley, al tiempo que generaba imágenes de documentos falsificados, incluidos pasaportes, así como notificaciones legales, confirmaciones de compra de acciones e interfaces de plataformas de apuestas.

Según OpenAI, la cadena de ataque sigue un enfoque de tres pasos denominado ping-zing-sting. En este proceso, los estafadores se ponen en contacto inicialmente con las víctimas a través de plataformas de mensajería como WhatsApp y Telegram para ganarse su confianza, antes de solicitarles depósitos, el pago de tarifas de activación o el pago de supuestas multas inexistentes. Posteriormente, se les proporcionan falsas capturas de pantalla de transferencias o información de la cuenta como comprobante de pago.

Algunas cuentas de la red generaron contenido que coincide con la trata de personas y el trabajo forzoso asociados con grupos del crimen organizado en Asia Oriental. Se sabe que los ciberdelincuentes reclutan personas con falsas promesas de empleos lucrativos, para luego confiscarles sus pasaportes y obligarlas a trabajar en condiciones de esclavitud.

"Se desconoce la magnitud total de las pérdidas financieras asociadas a la red, pero según las propias comunicaciones de los estafadores, la operación podría haber afectado a cientos de víctimas mediante diversos tipos de estafas", declaró OpenAI. "En las conversaciones de los usuarios se mencionaba que algunas víctimas habían perdido miles de dólares, aunque no podemos verificar de forma independiente esas afirmaciones".

Este avance pone de manifiesto cómo los ciberdelincuentes están desarrollando capacidades ofensivas potenciadas por la IA que les permiten aumentar drásticamente la velocidad y la escala de sus campañas, incluso cuando los propios modelos de vanguardia han sido detectados atacando sistemas e individuos reales durante evaluaciones cibernéticas al estilo Capture-the-Flag (CTF).