Uma vulnerabilidade significativa nos sistemas de reconhecimento de imagens baseados em inteligência artificial veio à tona por um estudo recente da Universidade do Texas em San Antonio (UTSA). Esses sistemas, amplamente utilizados em setores cruciais como segurança viária e saúde, geralmente ignoram um elemento fundamental na estrutura de imagens digitais: o canal alfa, que controla a transparência. Essa descoberta aponta para falhas que, se exploradas, podem comprometer a eficácia e a segurança desses sistemas em cenários sensíveis.
Os pesquisadores da UTSA, liderados pela professora assistente Guenevere Chen, desenvolveram uma ferramenta chamada “AlphaDog” para testar e expor essas vulnerabilidades. O AlphaDog foi concebido para manipular a transparência nas imagens de modo a enganar os sistemas de IA, criando situações em que a imagem é percebida de maneira diferente pelo ser humano e pelo sistema automatizado. Com isso, Chen e seu ex-orientando de doutorado, Qi Xia, conseguiram demonstrar o potencial impacto negativo dessa brecha.
A essência da questão está no fato de que a maioria dos sistemas de IA processa imagens considerando apenas três canais de cor: vermelho, verde e azul (RGB). No entanto, imagens digitais complexas geralmente incluem um quarto canal, o alfa, que define o nível de opacidade de cada pixel, permitindo criar imagens com transparência variável. Por essa razão, o AlphaDog consegue alterar a forma como um sistema de IA interpreta determinadas partes da imagem, fazendo com que informações vitais passem despercebidas ou sejam mal interpretadas.
Imagens confusas
A pesquisa revelou que, ao manipular a transparência de imagens, AlphaDog pode gerar riscos significativos em diferentes contextos do dia a dia. Por exemplo, no setor de segurança viária, onde sinais de trânsito são frequentemente analisados por sistemas de reconhecimento de imagem, a alteração dos elementos em escala de cinza pode levar a interpretações incorretas por parte dos veículos autônomos. Isso poderia causar desde erros simples até incidentes graves, colocando em risco a vida de motoristas e pedestres.
Da mesma forma, no campo da saúde, onde o uso de IA é cada vez mais comum para interpretar exames de imagem, essa vulnerabilidade poderia levar a consequências potencialmente graves. A manipulação de imagens de raios-X, tomografias e ressonâncias magnéticas por meio do AlphaDog pode resultar em diagnósticos incorretos, o que, além de colocar em risco a segurança do paciente, abre espaço para fraudes, como a adulteração de exames para alterar diagnósticos e gerar pedidos de indenizações em seguros.
Além desses exemplos, a pesquisa destacou também a capacidade de interferência em sistemas de reconhecimento facial. Manipulando o canal alfa, a IA poderia ser induzida a identificar rostos de maneira incorreta, o que afetaria a confiabilidade de sistemas de segurança que dependem desse tipo de tecnologia, como controle de acesso e monitoramento por câmeras.
Como funciona o AlphaDog?
AlphaDog funciona explorando uma diferença básica entre como humanos e sistemas de IA percebem a transparência nas imagens. Os sistemas de visão computacional geralmente analisam imagens no formato RGB, desconsiderando o canal alfa. Essa omissão permite que o AlphaDog altere a interpretação que esses sistemas têm das imagens ao modificar o nível de transparência em pontos específicos, que passam a ser vistos como informações distorcidas ou incompletas.
Quando uma imagem digital é processada, a IA tenta interpretá-la considerando apenas as cores vermelha, verde e azul. No entanto, o canal alfa pode adicionar camadas de informação sobre o quão opaco ou transparente um pixel é, permitindo a sobreposição de imagens e a criação de composições mais complexas. Essa camada adicional de informação, ignorada pela IA, pode, portanto, ser manipulada para que os sistemas de reconhecimento de imagem vejam algo diferente do que um ser humano veria.
Os pesquisadores aplicaram o AlphaDog em 6.500 imagens, testando a técnica em cem modelos de IA, incluindo 80 plataformas de código aberto e 20 serviços baseados em nuvem, como o ChatGPT. Os resultados mostraram que a técnica é especialmente eficaz em áreas de escala de cinza das imagens, o que reforça o perigo para contextos onde essa tonalidade é dominante, como sinais de trânsito e exames médicos.
A pesquisadora Guenevere Chen destacou que, embora a IA tenha sido projetada para lidar com grandes volumes de dados com precisão, a falha na programação para incluir o canal alfa abre margem para a manipulação intencional das informações. Para os desenvolvedores desses sistemas, a principal lição está na necessidade de levar em conta todas as camadas de informação ao processar imagens, não apenas aquelas que envolvem cores.
Diante da gravidade da situação, Chen e Xia estão trabalhando em conjunto com grandes empresas de tecnologia, como Google, Amazon e Microsoft, para corrigir essa vulnerabilidade. O objetivo é integrar o processamento do canal alfa aos modelos de IA de forma a torná-los mais robustos e confiáveis, especialmente em setores críticos.
As discussões entre os pesquisadores e as gigantes da tecnologia giram em torno de criar uma forma de incluir o canal alfa nos sistemas de reconhecimento de imagem, o que ajudaria a prevenir possíveis ataques e garantir maior precisão nas interpretações automatizadas. Além disso, a implementação de novos protocolos de segurança para a manipulação de imagens poderia ser uma medida de mitigação eficaz contra as ameaças apontadas pelo AlphaDog.
Para os profissionais que trabalham com IA, o estudo da UTSA serve como um alerta sobre a importância de incluir todas as dimensões da informação na construção de algoritmos de interpretação de dados visuais. Além disso, para o público em geral, a pesquisa evidencia como questões técnicas aparentemente pequenas podem ter implicações profundas, afetando desde a segurança nas ruas até diagnósticos médicos essenciais.
Com a colaboração ativa entre pesquisadores e empresas de tecnologia, espera-se que o setor de IA possa evoluir para superar esses desafios na interpretação de imagens pela IA e, eventualmente, integrar as lições aprendidas na construção de uma infraestrutura digital mais segura e resiliente. Afinal, é fundamental que a segurança acompanhe o avanço das tecnologias que transformam o nosso mundo.
Fonte: Neuroscience News
