GitHub removeu o código que é baseado no DeepNude - um aplicativo que usa AI para despir digitalmente fotos de mulheres e criar nudes fake.
Enquanto o criador do DeepNude já encerrou o projeto e tornou ilegal o uso ou a posse de cópias do aplicativo, vários repositórios baseados no algoritmo DeepNude surgiram no GitHub e também em outras plataformas .
Entre as codebases excluídas estava um roubo do aplicativo DeepNude, em vez do original. Outro projeto foi “uma reimplementação de código aberto de trabalho em andamento do DeepNude baseada na engenharia reversa do original”.
O GitHub tem uma política contra “conteúdo sexualmente obsceno”. Como esses projetos violavam essa regra, a plataforma proibiu esses projetos junto com o original, executado pelo criador do DeepNude.
"Nós não toleramos usar o GitHub para postar conteúdo sexualmente obsceno e proibir tal conduta em nossos Termos de Serviço e Diretrizes da Comunidade", disse o porta-voz do GitHub em um comunicado emitido à Fossbytes.
“Não monitoramos proativamente o conteúdo gerado pelo usuário, mas investigamos ativamente os relatórios de abuso. Nesse caso, desativamos o projeto porque achamos que ele viola nossa política de uso aceitável ”.
No entanto, na semana passada, a equipe por trás do DeepNude carregou o algoritmo principal do aplicativo, mas não a interface real do aplicativo, alegando que “a engenharia reversa do aplicativo já estava no GitHub”.
"Não faz mais sentido esconder o código-fonte", escreveu a equipe em sua página agora excluída.
Eles seguiram em frente e justificaram o código-fonte aberto afirmando que o DeepNude poderia ser “útil para pesquisadores e desenvolvedores que trabalham em outros campos, como moda, cinema e efeitos visuais”.
Embora não haja como negar o uso real de tais algoritmos em outros campos, o risco de abuso do algoritmo DeepNude é muito maior do que seus benefícios.
Também é verdade que nada pode fazer com que todas as cópias do DeepNude desapareçam da internet. Mas o passo do GitHub pode definitivamente tornar mais difícil encontrar o aplicativo e também desencorajar outros desenvolvedores a mexer no algoritmo.
