YouTube expande su detector de deepfakes a todos los usuarios adultos

YouTube anunció que su herramienta de detección de semejanza por inteligencia artificial estará disponible para todos los usuarios mayores de 18 años con cuenta activa en la plataforma. La función, que hasta ahora había estado reservada para grupos con mayor exposición pública, da un salto de escala que la convierte en algo cualitativamente distinto a lo que era.

El mecanismo funciona así: el usuario realiza un escaneo facial estilo selfie, y YouTube utiliza ese registro para monitorear el contenido disponible en la plataforma en busca de coincidencias. Si el sistema detecta que la imagen de alguien aparece en un video sin que esa persona lo haya autorizado, envía una notificación. El usuario puede entonces solicitar la eliminación del contenido, que será evaluada conforme a la política de privacidad de YouTube. Quien no quiera participar puede retirarse del programa en cualquier momento y pedir que se borren los datos de escaneo que ya proporcionó.

La herramienta nació como respuesta al crecimiento de los deepfakes y el contenido generado por IA que usa rostros de personas reales sin consentimiento. En su primera fase estuvo disponible para creadores de contenido con presencia significativa en la plataforma. Después se amplió a funcionarios gubernamentales, políticos, periodistas y figuras de la industria del entretenimiento. Estos grupos comparten una característica: tienen perfil público elevado y, por lo tanto, mayor probabilidad de convertirse en blancos de contenido falso con fines políticos, de desinformación o de daño reputacional.

Abrir la función a cualquier adulto cambia la lógica del sistema. Ya no se trata de proteger a quienes tienen exposición pública considerable. La plataforma está diciendo, implícitamente, que el rostro de cualquier persona tiene el mismo derecho a estar protegido, independientemente de si tiene cien seguidores o diez millones. Es un reconocimiento de que los deepfakes dejaron de ser un problema de famosos.

Hay un límite técnico importante que vale mencionar: la detección cubre únicamente la semejanza facial. La voz no está incluida. Un deepfake que use la cara de alguien con audio modificado entra al radar del sistema. Un audio falso donde solo se imita la voz de una persona sin mostrar su rostro queda fuera por ahora. Para un tipo de fraude que utiliza cada vez más la síntesis de voz como herramienta, esa es una brecha real.

La plataforma también estableció excepciones para parodia y sátira, lo cual introduce una complicación conocida: definir dónde termina la parodia y empieza el deepfake con excusa creativa es un problema que los moderadores humanos no han resuelto bien en años de intentarlo. Que un sistema automatizado distinga entre sátira legítima y contenido dañino disfrazado de sátira es, al menos, una premisa que merece más explicación de la que YouTube ofreció en su anuncio.

El movimiento de YouTube se inserta en una tendencia más amplia. Plataformas que durante años respondieron a los deepfakes de forma reactiva, eliminando contenido después de que el daño ya estaba hecho, empiezan a construir infraestructura preventiva. La pregunta es si esa infraestructura funciona mejor que la anterior o simplemente traslada el mismo problema a una capa tecnológica más sofisticada.

Hay un factor de adopción que determina en buena medida cuán efectivo será el sistema: funciona mejor cuanto más personas registren su semejanza. Si solo una fracción de los usuarios lo activa, los deepfakes de quienes no participan seguirán circulando sin ningún mecanismo de alerta. YouTube tendrá que encontrar la forma de incentivar la participación sin caer en la presión social o en la implicación de que no protegerse es descuido propio.

Sobre el uso de los datos, YouTube indicó que el escaneo facial se utiliza exclusivamente para la detección de semejanza. O al menos eso es lo que dice la política actual. La historia de las grandes plataformas con datos biométricos recolectados en nombre de la seguridad del usuario no es exactamente un historial impecable, y no es irrazonable que algunos usuarios prefieran quedarse fuera del programa por esa razón.

Lo concreto por ahora: YouTube tiene una herramienta nueva, disponible para más personas que antes, con una cobertura técnica parcial y mecanismos de apelación que dependen de criterios que la plataforma no ha detallado del todo. Si eso es un avance significativo contra los deepfakes o una respuesta visible a un problema más complejo de lo que un escaneo de selfie puede resolver, es algo que los próximos meses de uso real van a mostrar con más claridad que cualquier comunicado de lanzamiento.