La autoridad italiana de protección de datos propone medidas para levantar la prohibición de ChatGPT#
OpenAI, la compañía detrás del enormemente popular chatbot ChatGPT de IA, ha lanzado un programa de recompensas por errores en un intento por garantizar que sus sistemas sean "seguros y protegidos".
Con ese fin, se ha asociado con la plataforma de seguridad colaborativa Bugcrowd para que los investigadores independientes informen sobre las vulnerabilidades descubiertas en su producto a cambio de recompensas que van desde "$200 por hallazgos de baja gravedad hasta $20.000 por descubrimientos excepcionales".
Vale la pena señalar que el programa no cubre la seguridad del modelo o los problemas de alucinaciones, en los que se le solicita al chatbot que genere código malicioso u otras salidas defectuosas. La compañía señaló que "abordar estos problemas a menudo implica una investigación sustancial y un enfoque más amplio".
Otras categorías prohibidas son los ataques de denegación de servicio (DoS), las API de OpenAI de fuerza bruta y las demostraciones que tienen como objetivo destruir datos u obtener acceso no autorizado a información confidencial más allá de lo necesario para resaltar el problema.
"Tenga en cuenta que las pruebas autorizadas no lo eximen de todos los términos de servicio de OpenAI", advirtió la compañía. "El abuso del servicio puede resultar en la limitación, el bloqueo o la prohibición de la tasa".
Sin embargo, lo que está dentro del alcance son los defectos en las API de OpenAI, ChatGPT (incluidos los plugins), las integraciones de terceros, la exposición pública de las claves de la API de OpenAI y cualquiera de los dominios operados por la empresa.
El desarrollo se produce en respuesta a la toma de control de la cuenta de parches de OpenAI y las fallas de exposición de datos en la plataforma, lo que llevó a los reguladores italianos de protección de datos a observar más de cerca la plataforma.
La autoridad italiana de protección de datos propone medidas para levantar la prohibición de ChatGPT#
El Garante, que impuso una prohibición temporal a ChatGPT el 31 de marzo de 2023, ha esbozado desde entonces un conjunto de medidas que la empresa respaldada por Microsoft tendrá que aceptar implementar antes de fin de mes para que se levante la suspensión.
"OpenAI deberá redactar y poner a disposición, en su sitio web, un aviso de información que describa los arreglos y la lógica del procesamiento de datos requerido para la operación de ChatGPT junto con los derechos otorgados a los interesados", dijo el Garante.
Además, el aviso de información debe estar fácilmente disponible para los usuarios italianos antes de registrarse en el servicio. Los usuarios también deberán estar obligados a declarar que son mayores de 18 años.
También se ordenó a OpenAI que implemente un sistema de verificación de edad antes del 30 de septiembre de 2023, para filtrar a los usuarios menores de 13 años y contar con disposiciones para buscar el consentimiento de los padres para los usuarios de 13 a 18 años. La compañía tiene tiempo hasta el 31 de mayo para presentar un plan para el sistema de clasificación por edades.
Como parte de los esfuerzos para ejercer los derechos de datos, tanto los usuarios como los no usuarios del servicio deben poder solicitar la "rectificación de sus datos personales" en los casos en que el servicio los genere incorrectamente o, alternativamente, borrar los datos si las correcciones son técnicamente inviable.
Los no usuarios, según Garante, deben recibir herramientas de fácil acceso para oponerse a que sus datos personales sean procesados por los algoritmos de OpenAI. También se espera que la compañía realice una campaña publicitaria antes del 15 de mayo de 2023 para "informar a las personas sobre el uso de sus datos personales para entrenar algoritmos".
Actualización: España investiga ChatGPT de OpenAI
La Agencia Española de Protección de Datos (AEPD), dijo el 13 de abril de 2023 que ha iniciado una investigación preliminar en el servicio OpenAI ChatGPT por sospechas de violaciones de la leyes de protección de datos de la E.U..
La Junta Europea de Protección de Datos (EDPB), en un anuncio relacionado, dijo que está lanzando un "grupo de trabajo dedicado para fomentar la cooperación e intercambiar información sobre posibles acciones de cumplimiento realizadas por las autoridades de protección de datos".
