Novas ferramentas estão surgindo para proteger artistas e sua arte em tempos de inteligência artificial. Preparem-se para conhecer a Nightshade!
Visando proteger os direitos autorais dos artistas, pesquisadores resolveram criar um “escudo invisível” para proteger a arte digital: a Nightshade. De maneira simples, ela faz pequenas mudanças nas imagens (que nós, meros mortais, não percebemos) mas que confundem os modelos de inteligência artificial. Tipo, um cachorro pode virar um gato na saída da IA.
A ideia por trás da Nightshade é clara: dar poder aos artistas para combater empresas de IA, como OpenAI e Google, que andam usando artes sem o devido consentimento. Esse uso indevido da arte disponível online está colocando essas empresas na mira de vários processos judiciais movidos por artistas que alegam que suas criações foram usadas indevidamente.
Ben Zhao, professor da Universidade de Chicago, líder da equipe que criou o Nightshade tem a intenção de que a ferramenta seja um alerta para as grandes empresas, lembrando-as de respeitar a arte, o trabalho e a propriedade intelectual dos artistas. O MIT Technology Review tentou contato com as gigantes de tech, mas nenhuma quis comentar o assunto.
A mesma equipe que desenvolveu a Nightshade também criou a Glaze, uma ferramenta que permite que os artistas “camuflem” seu estilo único de arte, impedindo que seja copiado por estas empresas de IA. E o mais legal é que eles estão pensando em combinar as duas ferramentas.
A boa notícia é que a Nightshade será de código aberto, o que significa que outros desenvolvedores poderão aprimorar a ferramenta. Quanto mais pessoas usarem e adaptarem, mais poderosa ela fica, o que tende a ser cada vez melhores para proteger a arte e o artista.
Nem só de imagens vive a IA Generativa. Já conhece o Riffusion? Que cria músicas a partir de prompts de texto? Clica aqui
Driblando a IA em favor da arte
A Nightshade funciona de maneira genial, aproveitando uma vulnerabilidade dos modelos de inteligência artificial. Esses modelos aprendem com toneladas de dados, muitos deles de imagens que são coletadas da internet, e o Nightshade “mexe” um pouquinho nessas imagens que são usadas para o treinamento de máquina.
Se um artista não quer que sua arte seja copiada por empresas de inteligência artificial, com a ajuda da ferramenta chamada Glaze, o artista pode carregar sua obra, dar uma “disfarçada” nela com um estilo de arte diferente do dele, e depois usar a Nightshade.
Assim, quando os desenvolvedores de inteligência artificial vasculham a internet em busca de mais dados, acabam pegando essas imagens “envenenadas”, causando uma confusão nos modelos de IA.
Quando a ferramenta de inteligência artificial se depara com essas imagens corrompidas, as coisas ficam um tanto bizarras. Os pesquisadores testaram a Nightshade em alguns modelos, e os resultados foram surpreendentes.
Ao alimentar um modelo com apenas 50 imagens de cães alteradas, ele começou a gerar criaturas estranhas, com muitos membros e carinhas exageradas, e quando aumentaram a dose de imagens “envenenadas” os cães chagavam a virar gatos!
O mais incrível (e um pouco assustador) é que esses modelos de inteligência artificial são ótimos em fazer conexões, então quando a Nightshade “ataca” a palavra “cachorro”, ela não afeta apenas esta palavra, mas conceitos semelhantes como “filhote”, “husky” e até “lobo”. Uma baita confusão para um sistema que pretende ter uma obra de arte como referência.
E tem mais… Se a inteligência artificial pegar uma imagem envenenada relacionada a “arte fantástica”, outros conceitos como “dragão” e “um castelo de O Senhor dos Anéis” também podem ser manipulados.
Os riscos
Claro, também há riscos de pessoas usarem essa técnica de “envenenamento” para fins maliciosos, e os especialistas estão alertando que é hora de criar defesas contra esses tipos de ataques.
Gautam Kamath, professor da University of Waterloo que não esteve envolvido no estudo, elogiou a pesquisa e trouxe à luz uma questão crucial: à medida que esses modelos de inteligência artificial se tornam mais potentes e as pessoas confiam mais neles, as vulnerabilidades se tornam ainda mais sérias.
Poder para proteger a arte e os artistas
Pensando em proteger os artistas, uma juíza federal dos EUA determinou que arte gerada por IA, não pode ser assegurada por lei. Já viu? Clica aqui!
O Nightshade está mudando o jeito como os artistas veem a Internet e suas criações.
Junfeng Yang, professor de ciência da computação na Universidade de Columbia, que estudou a segurança de sistemas de deep learning e não esteve envolvido no trabalho, acredita que, com o Nightshade ganhando força, as empresas de inteligência artificial podem começar a rever seus métodos e, quem sabe, começar a respeitar mais os direitos dos artistas. Pode ser que estejamos mais perto de proteger a arte e os direitos dos autores.
Empresas de ponta, como Stability AI e OpenAI, já estão dando a opção para os artistas não permitirem o uso de suas imagens nos treinamentos dos modelos de inetligência artificial.
Embora pareça uma iniciativa interessante, os artistas dizem que a coisa não é bem assim. Eva Toorenent, ilustradora e artista que usou o Glaze, acredita que as políticas de uso fazem com que artistas tenham que superar algumas barreiras para proteger sua arte, e ainda deixam as empresas com a maior fatia do poder. No entanto, ela tem esperança de que o Nightshade vá fazer com que essas gigantes da tecnologia pensem duas vezes antes de pegar trabalhos sem autorização.
Por outro lado, tem artista sentindo os efeitos positivos dessas ferramentas. Outra artista, Autumn Beverly, por exemplo, está de volta à internet, postando suas obras com confiança, graças ao Nightshade e ao Glaze. Depois de ter sua arte utilizada sem consentimento, ela agora sente que tem mais controle sobre onde e como sua arte aparece. Ela reconhece o grande valor que essas ferramentas têm ao devolverem o poder aos artistas sobre sua arte.
A tendência é que essas ferramentas para proteger artistas sejam aprimoradas com o passar do tempo. A regulação da arte e de muitas outras questões é um desafio em um cenário de evolução tão rápida como é o atual com a inteligência artificial. Mas não se pode ignorar os esforços para tentar fazer com que arte e tecnologia coexistam beneficiando todos os interessados.
Fonte: MIT Technology Review
