Es posible que ChatGPT, Gemini y Claude compartan tu información de contacto

Al hablar con un chatbot como ChatGPT, nunca debes dar por sentado que tus conversaciones son privadas.

Muchos chatbots, por defecto, utilizan tus conversaciones para entrenar los modelos de IA subyacentes, pero incluso si optas por no participar en el entrenamiento o utilizas un chat temporal, estas conversaciones suelen almacenarse en los servidores de la empresa durante un tiempo limitado.

La regla general es evitar compartir con un chatbot cualquier cosa que no quieras que se haga pública (información confidencial de la empresa, secretos personales, etc.). Pero, ¿Qué ocurre si el chatbot en cuestión ya tiene tu información privada? ¿Qué ocurre si ChatGPT, Gemini o Claude están dispuestos a compartir tu número de teléfono con cualquiera que lo solicite?

Esa es la discusión con la que me topé esta semana, tras un reportaje de Eileen Guo de MIT Technology Review.

En el artículo, Guo analiza una serie de denuncias de usuarios que afirman que los chatbots han estado compartiendo información personal, como números de teléfono, cuando se les solicita. En algunos casos, los chatbots compartían la información cuando la pedía la persona en cuestión; en otros, sin embargo, eran desconocidos quienes solicitaban los datos.

En un ejemplo, un ingeniero de software de Israel recibió un mensaje de un contacto desconocido a través de WhatsApp, solicitando ayuda con su aplicación de pagos. Cuando el ingeniero preguntó cómo el desconocido había obtenido su información de WhatsApp, este le envió una captura de pantalla que mostraba cómo Gemini compartía los datos cuando se le solicitaban. Posteriormente, el ingeniero encontró una única fuente en internet que contenía su número de teléfono: una publicación de Quora de 2015.

¿Cómo obtienen los chatbots nuestra información privada?

Los chatbots como ChatGPT se entrenan con enormes cantidades de datos. Gran parte de estos datos, por supuesto, provienen de internet.

Por lo tanto, es muy posible que sitios web que contengan tu información personal —como una publicación aleatoria en un foro de hace una década— hayan terminado en el conjunto de datos de un chatbot y se hayan mostrado como parte de una consulta sobre tu información.

Incluso si no formaba parte de los datos de entrenamiento, los chatbots llevan años teniendo la capacidad de buscar en la web. Estos modelos pueden examinar una enorme cantidad de sitios web para devolver resultados a una solicitud, y si encuentran tu información, podrían compartirla.

El problema de fondo es que nuestra información aparece por toda la internet, lo sepamos o no. Es posible que nuestra información de contacto personal aparezca en sitios web en los que quizás no recordemos haber publicado nada; los sitios web de municipios y ciudades pueden tener nuestra información personal vinculada a registros públicos, aunque esos resultados no suelan aparecer en los primeros puestos de una búsqueda típica en Google.

Sin embargo, dado que la IA es capaz de realizar exhaustivos análisis de todos estos resultados web, puede encontrar resultados poco conocidos y sacarlos a la luz, exponiendo potencialmente nuestros datos.

Ahora bien, como explica Guo, la mayoría de los chatbots cuentan con medidas de seguridad para evitar que causen daño, o quizás demasiado daño. Lo comprobé personalmente cuando le pregunté a ChatGPT cuál era mi número de teléfono. Me respondió que no podía compartir información personal de particulares, ya que eso iría en contra de sus medidas de seguridad. Sin embargo, sí encontró dos números de teléfono de "Jake Peterson" que eran públicos, posiblemente publicados abiertamente en sitios web de empresas. (Cabe mencionar que ninguno de los resultados era mi número de teléfono).

Pero estas medidas de seguridad distan mucho de ser perfectas. Guo destaca un caso en el que una estudiante de doctorado de la Universidad de Washington buscó la información de contacto de una amiga en Gemini. El bot le devolvió la investigación de su amiga, pero también su número de teléfono. Posteriormente, la amiga confirmó que había compartido su número de teléfono en línea como parte de un taller de tecnología, pero que nunca tuvo la intención de que fuera visible para cualquiera que lo solicitara. (Gemini tampoco pudo encontrar ni quiso compartir mi información de contacto personal, pero sí compartió sin problema mi cuenta de X).

¿Es posible eliminar tu número de teléfono de las bases de datos de los chatbots?

Lamentablemente, no contamos con muchas buenas opciones para proteger nuestra privacidad frente a los chatbots. Cabe destacar que OpenAI dispone de un portal que permite solicitar la eliminación de información personal de las respuestas; sin embargo, como señala Guo, la empresa se reserva el derecho de rechazar la solicitud por diversos motivos.

Anthropic solo ofrece un documento de soporte que explica cómo utiliza la información, mientras que Google permite solicitar la exclusión del procesamiento de datos personales, pero solo según la jurisdicción. (La empresa menciona específicamente a la UE y al Reino Unido debido a sus leyes de protección de datos).

Quizás, entonces, la estrategia más realista sea eliminar esta información de internet en la medida de lo posible. Si vives en California, puedes usar este portal para solicitar a los intermediarios de datos que eliminen tu información de sus bases de datos. También puedes buscar herramientas para eliminar datos personales, como Incogni o DeleteMe, para intentar lograr lo mismo. Sin embargo, aunque estas herramientas pueden eliminar tu información de algunos rincones de internet, poco puedes hacer si las empresas de IA ya la tienen en sus bases de datos.

La triste realidad es que la tecnología de IA ha avanzado más rápido que las regulaciones sobre privacidad personal. Si los legisladores hubieran tomado medidas para garantizar que todos tuviéramos la opción de rechazar estas prácticas de recopilación de datos, podríamos haber atajado el problema de raíz. Pero por ahora, lo mejor que podemos hacer es solicitar que se elimine nuestra información y que no se utilice y, si la situación se agrava, cambiar nuestra información de contacto por completo.