También está implementando un nuevo sistema de detección automática e identificar esos vídeos
En enero YouTube me sorprendió al anunciar su intención de combatir el contenido de baja calidad generado por la IA. No son mis palabras: la compañía criticó directamente este tipo de contenido en su plataforma y declaró su misión de reducir la difusión de contenido repetitivo y de baja calidad en YouTube.
En una era donde es fundamental la interacción en redes sociales, tiene un significado que YouTube luche contra un género que atrae muchísimo tráfico (y difunde desinformación).
Esta no es necesariamente una iniciativa nueva para la compañía. YouTube lleva desde 2024 etiquetando los vídeos generados o manipulados por IA, aunque con una importante salvedad: los creadores debían revelar que habían utilizado IA para subir el vídeo.
Por lo tanto, era posible publicar un vídeo generado por IA en la plataforma sin admitirlo ante YouTube. La plataforma mostraba entonces ese vídeo a miles o incluso millones de espectadores, muchos de los cuales quizás nunca sabrían que el clip no era real. Por suerte, parece que esto está cambiando.
Las nuevas etiquetas de IA de YouTube
El miércoles YouTube anunció un nuevo sistema de etiquetado con IA que afecta tanto a espectadores como a creadores.
En primer lugar, están las etiquetas en sí. YouTube afirma que hará que estas etiquetas de IA sean mucho más visibles, tanto si ves el vídeo en la aplicación como en la página web de YouTube.
En el caso de los vídeos de larga duración (también conocidos como vídeos tradicionales de YouTube), verás la etiqueta debajo del reproductor, encima de la descripción. Es aún más evidente en los vídeos cortos: YouTube añadirá una etiqueta superpuesta al propio vídeo, para que no pase desapercibida.
La etiqueta es bastante visible en cualquier vídeo que veas, lo cual es excelente.
Los vídeos generados por IA son cada vez más realistas, lo que aumenta el riesgo de exposición a la desinformación. Si bien algunos vídeos de IA son evidentes (al menos para la mayoría), otros parecen fotorrealistas.
Sin estas etiquetas claras, muchos espectadores podrían creer cosas que simplemente no son ciertas. Esto podría ser tan inofensivo como un conejo de IA saltando en un trampolín, o tan peligroso como un político "admitiendo" crímenes que en realidad no cometió.
YouTube también está implementando una nueva detección de IA
Todo esto es irrelevante si YouTube desconoce que el vídeo en cuestión se generó con IA, por supuesto. Si la empresa aún se basa en la confianza, las etiquetas solo serán útiles en la medida en que lo sean los creadores. Al menos, así era antes. De ahora en adelante, YouTube complementará sus requisitos de divulgación de IA con un sistema automatizado de detección de IA.
A partir de este mes, si el sistema de YouTube detecta que un vídeo utiliza inteligencia artificial (IA), le aplicará automáticamente la etiqueta correspondiente, incluso si el creador no lo ha revelado.
Esto supone una mala noticia para quienes difunden información errónea: en teoría, ya no será posible subir a YouTube videos hiperrealistas creados con IA y hacerlos pasar por videos legítimos, siempre y cuando el software de detección de IA de YouTube sea realmente preciso.
Esto nos lleva al principal inconveniente del sistema: los falsos positivos. Los detectores de IA no gozan de la reputación que muchos creen, e incluso cuando funcionan correctamente, son propensos a errores. Sin duda, no queremos que los vídeos creados con IA se difundan sin control en YouTube, pero tampoco queremos perjudicar a los creadores cuyos vídeos son marcados erróneamente por bots.
YouTube afirma que los creadores tienen cierto control al respecto. La compañía anima a los creadores que creen que sus vídeos fueron etiquetados erróneamente a actualizar el estado de divulgación en YouTube Studio. Sin embargo, esta función aún está en sus inicios, por lo que no está claro cuán sencillo es realmente este proceso.
