A principios de este mes, Google decidió agregar el entrenamiento de deepfake a su lista de proyectos prohibidos en su servicio Colaboratory. El cambio fue visto por primera vez por el desarrollador DFL en Discord como "chervonij". Cuando trató de entrenar a sus modelos deepfake en la plataforma, recibió un mensaje de error que decía
"Es posible que esté ejecutando un código no autorizado, lo que puede restringir su capacidad de usar Colab en el futuro. Tenga en cuenta las acciones prohibidas especificadas en nuestras preguntas frecuentes.
Google parece haber hecho el cambio bajo el radar, y desde entonces ha permanecido en silencio sobre el asunto. Si bien la ética es la primera teoría potencial que viene a la mente, la razón real podría ser un poco más pragmática.
Abusar del recurso gratuito
Los deepfakes son videos "modificados con Photoshop": videos falsos que muestran a personas diciendo cosas que en realidad nunca dijeron. Sus creadores aprovechan las tecnologías de inteligencia artificial (IA) y aprendizaje automático (ML) para crear videos súper atractivos, que son cada vez más difíciles de distinguir del contenido legítimo.
Sin embargo, para que sean convincentes, los deepfakes requieren una potencia informática significativa, muy parecida a la que ofrece el servicio Colab. Este proyecto de Google permite a los usuarios ejecutar Python en su navegador mientras utilizan recursos informáticos gratuitos.
Dado que los deepfakes suelen usarse para hacer bromas, crear noticias falsas o difundir pornografía de venganza falsa, es fácil pensar que la ética está detrás de la decisión de Google. Sin embargo, también podría ser que demasiadas personas estuvieran usando Colab para crear pequeños videos falsos divertidos, lo que impidió que otros investigadores hicieran un trabajo más "serio". Después de todo, el recurso informático es de uso gratuito.
Aparte de las falsificaciones profundas, Google no permite que Colab se use en proyectos como la minería de criptomonedas, la realización de ataques de denegación de servicio, el descifrado de contraseñas, el uso de varias cuentas para eludir las restricciones de acceso o uso de recursos, el uso de escritorio remoto o SSH, o la conexión. a los servidores proxy remotos.
Через: BleepingComputer (открывается в новой вкладке)