YouTube ha anunciado una actualización significativa en sus políticas para abordar el desafío emergente de los contenidos generados por inteligencia artificial (IA). Estas nuevas políticas incluyen requisitos de divulgación más estrictos y herramientas avanzadas para solicitar la eliminación de deepfakes y otros contenidos alterados.
El gigante del vídeo en línea ha reconocido que, si bien ya existen políticas que prohíben los medios manipulados, la naturaleza única y potencialmente engañosa de la IA requiere un enfoque renovado. Esta actualización se centra en proporcionar un contexto claro a los espectadores, especialmente en contenidos que parecen realistas, incluyendo aquellos generados con herramientas de IA.
Se trata en principio de un cambio notable que implica la creación de nuevos requisitos de divulgación para los creadores de contenido en YouTube. Ahora, deberán revelar cuando hayan creado contenido alterado o sintético que parezca realista, como videos que representen eventos que nunca ocurrieron o muestren a alguien diciendo o haciendo algo que nunca hizo.
Jack Malon, portavoz de YouTube, comentaba lo siguiente a TechCrunch: “Queremos que los espectadores tengan contexto cuando estén viendo contenido realista, incluyendo cuando se han utilizado herramientas de IA u otras alteraciones sintéticas para generarlo”. Este enfoque es crucial, particularmente cuando el contenido aborda temas sensibles como elecciones o conflictos en curso.
Herramientas innovadoras y consecuencias para los infractores
YouTube no solo está regulando el contenido de IA, sino que también está incursionando en esta área, a través del lanzamiento de una nueva herramienta de IA generativa llamada Dream Screen, que permitirá a los usuarios crear fondos de video o imágenes generadas por IA. Todos los productos y características de IA generativa de YouTube estarán automáticamente etiquetados como alterados.
Sin embargo, la plataforma advierte de que habrá serias consecuencias para los creadores que no revelen adecuadamente el uso de IA. Las sanciones pueden incluir la eliminación de contenido, la suspensión del Programa de Socios de YouTube y penalizaciones adicionales. La compañía ha declarado que trabajará con los creadores para asegurarse de que comprendan estos requisitos antes de que entren en vigor.
Otro aspecto preocupante es el uso de deepfakes para difundir desinformación, como se ha visto recientemente en el contexto del conflicto entre Israel y Hamás. Aunque YouTube ha suavizado su política de sanciones, permitiendo a los creadores eliminar advertencias antes de que se conviertan en sanciones más serias, existe la preocupación de que esto pueda facilitar la propagación de información errónea, especialmente si se permite a los creadores cometer “errores” y luego continuar publicando videos.
Además, cualquier usuario de YouTube podrá solicitar la eliminación de contenido generado por IA o alterado que simule a un individuo identificable, incluyendo su rostro o voz. No obstante, la compañía aclara que no todo el contenido señalado será eliminado, dejando espacio para la parodia o la sátira. También se introducirá una nueva capacidad que permitirá a los socios musicales solicitar la eliminación de música generada por IA que imite la voz cantada o rapeada de un artista.
¿Una nueva era en la creación de contenido?
En su blog, Jennifer Flannery O’Connor y Emily Moxley, VPs de Gestión de Producto de YouTube, expresaron: “Estamos al principio de nuestro viaje para desbloquear nuevas formas de innovación y creatividad en YouTube con la IA generativa. Estamos tremendamente emocionados por el potencial de esta tecnología y sabemos que lo que viene resonará en las industrias creativas durante años”.
Esta iniciativa de YouTube marca un momento crucial en la evolución del contenido digital, estableciendo un precedente importante para cómo las plataformas pueden y deben responder a los desafíos presentados por la tecnología de IA en constante evolución.