La regulación gubernamental puede prevenir el uso malicioso de la IA
Con el increíble éxito de la herramienta de chatbot de OpenAI, ChatGPT, muchos están emocionados de ver qué hará la empresa a continuación. Pero el CEO de OpenAI ha pedido ahora una mayor regulación en torno a la IA. Entonces, ¿Por qué es este el caso, qué efecto tendrá y hay un motivo aquí para OpenAI?
¿Por qué Sam Altman pide más regulación de la IA?
Sam Altman es el director ejecutivo (CEO) de OpenAI, la empresa detrás de la herramienta de procesamiento de lenguaje ChatGPT. ChatGPT se ha convertido en una sensación mundial pero, a pesar de su éxito, Altman está presionando ahora por una mayor regulación de la IA.
El 16 de mayo de 2023, Altman compareció en una audiencia del Subcomité Judicial del Senado de Estados Unidos e instó a los miembros del Congreso a continuar regulando la IA. Hablando en la audiencia, el CEO de OpenAI afirmó que "la regulación de la IA es esencial" y que "la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más poderosos" [PDF].
Altman también sugirió que "el gobierno de EE. UU. podría considerar una combinación de requisitos de licencia y prueba para el desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades", como se ve en una transmisión de CNBC de la audiencia vinculada a continuación.
Altman reconoció su amor por la comunidad de IA de código abierto durante la audiencia e incluso sugirió que algún día la IA podría ayudar a abordar el cambio climático y curar el cáncer.
Sin embargo, Altman también le recordó al Congreso que un "número relativamente pequeño de proveedores" puede crear servicios y herramientas de vanguardia, lo que conlleva "beneficios y peligros". Altman también afirmó que tener menos desarrolladores de inteligencia artificial de vanguardia a los que vigilar puede beneficiar al gobierno, siempre que los consumidores aún tengan suficientes opciones.
Durante la audiencia, el senador Richard Blumenthal se refirió a la IA como una "bomba en una tienda china, no un toro". Además, la política Amy Klobuchar expresó su preocupación sobre cómo las herramientas como ChatGPT pueden contribuir a la desinformación electoral.
Por lo tanto, es evidente que los profesionales de la industria y los legisladores están preocupados por la IA y su impacto futuro. Pero, ¿Qué efecto tendrá una mayor regulación en la industria de la IA? ¿Será algo bueno o malo?
¿Cómo beneficiará una mayor regulación a la industria de la IA?
Hay un par de razones por las que la regulación de la IA podría ser una ventaja, tanto para los desarrolladores como para los consumidores.
En primer lugar, la regulación gubernamental puede prevenir el uso malicioso de la IA. Los delincuentes suelen abusar de las nuevas tecnologías para lanzar ataques y realizar estafas. Dado el gran potencial de la IA, tiene sentido implementar regulaciones sobre el uso ético para que los delitos no proliferen utilizando esta tecnología.
Por ejemplo, los fabricantes de IA necesitan una regulación estricta para evitar la producción de tecnología de IA que pueda representar una amenaza para la vida humana. Alternativamente, los desarrolladores y empresas de IA pueden estar obligados a solicitar una licencia antes de producir y lanzar hardware o software impulsado por IA. Una empresa deberá ser auditada antes de que se le conceda permiso para producir productos de IA o deberá cumplir con ciertos criterios de prueba antes del lanzamiento.
Sin embargo, algunos pueden ver la regulación de la IA como malas noticias, particularmente los desarrolladores que no quieren restricciones sobre lo que pueden y no pueden producir y lanzar al público. Si la regulación de la IA impide que los desarrolladores investiguen y creen tecnología innovadora, como equipos de atención médica, esto puede resultar más dañino para la humanidad que cualquier otra cosa.
Algunos también sienten que es demasiado pronto para hablar sobre la regulación de la IA, aunque la presencia de la IA en tantas industrias hoy parecería contradecir esa opinión.
¿La regulación de la IA es una buena noticia para OpenAI?
El llamado de Sam Altman para una mayor regulación de la IA ha generado dudas sobre si tales restricciones realmente beneficiarán a OpenAI.
Es difícil decir si una mayor regulación será positiva para OpenAI. Sin embargo, en la audiencia del Senado antes mencionada, Altman sugirió que las empresas de IA como OpenAI deberían ser auditadas de forma independiente y debidamente autorizadas, lo que sugiere que está feliz de participar en esta mayor regulación.
Parece que Altman está legítimamente preocupado de que la IA se salga de control, razón por la cual se ha dirigido al Congreso. Sin embargo, durante la audiencia, Altman elogió a ChatGPT y afirmó que es más probable que el chatbot de IA de OpenAI responda de manera útil y veraz y rechace solicitudes dañinas que cualquier otro modelo de capacidad similar.
No sorprende que Altman tenga algo de sesgo aquí, ya que ChatGPT es una creación de la empresa que dirige. Pero una mayor regulación podría llevar a que las empresas de IA más grandes y preestablecidas tengan una ventaja sobre las organizaciones más pequeñas, especialmente si las licencias, los permisos y los largos períodos de prueba se convierten en un requisito legal (ya que esto podría incurrir en más costos y requerir más personal).
La regulación de la IA es un punto de discordia
En este momento, hay muchas opiniones e ideas diferentes en torno a la regulación de la IA. Mientras que algunos piensan que esta tecnología debe controlarse, otros preferirían que se quedara como está. En un futuro cercano, los países de todo el mundo pueden introducir nuevas leyes de IA, y tendremos que esperar y ver si esto resulta ser una bendición o una maldición.
