O treinamento de máquina da Inteligência Artificial também tem atuação direta de humanos. Na Finlândia, país de salários altos, é raro encontrar um clickworker ajudando a treinar IAs com tarefas mundanas. Mas a Metroc, uma startup finlandesa, descobriu uma solução fora da caixa: por que não deixar os prisioneiros fazerem isso?
Marmalade é o apelido de uma prisioneira de quarenta e poucos anos de uma prisão de alta segurança na Finlândia, que tem um novo trabalho: treinamento de máquina. Ela tem um laptop à sua frente e está lendo pequenos textos sobre imóveis, e após a leitura, ela responde perguntas.
Por exemplo, ela pode ser questionada se o texto anterior estava falando sobre uma decisão imobiliária real ou apenas um formulário de inscrição. Por três horas de trabalho, ela ganha cerca de €1,54 por hora. Ela não acha o trabalho mais empolgante do mundo, mas é remunerado, o que torna a atividade interessante.
Marmalade não entendia muito bem o propósito de sua função, pensando que talvez estivesse ajudando a criar um chatbot de atendimento ao cliente. Mas, não! Ela está treinando um LLM (Large Language Model) para a Metroc. O objetivo deles é bem interessante: criaram um mecanismo de busca para ajudar as construtoras a identificar novos projetos de construção. E para aperfeiçoar essa inteligência artificial, eles precisam de pessoas como Marmalade para ajudar a distinguir os diferentes tipos de projetos e suas etapas.
Em nível global, existem milhões desses clickworkers que ensinam tudo às máquinas, desde identificar uma palmeira até entender padrões linguísticos complexos. E muitos desses trabalhadores estão em países onde a mão de obra é barata, lugares como Quênia, Uganda e Índia. Até os grandes nomes, como a OpenAI, recorrem a esses países. O grande problema é que nesses lugares existem muitas pessoas que falam inglês, mas não muitas que falam finlandês, o que dificulta o treinamento de máquina no país.
Por essa razão surge a grande ideia da Metroc que, ao mesmo tempo que colabora com o sistema prisional, pode dispor de um fluxo constante de trabalhadores finlandeses com um orçamento ajustado. Ao mesmo tempo, a prisão oferece aos detentos uma introdução ao mundo digital, algo que fará parte da realidade deles quando estiverem livres.
Esse projeto tem seus fãs na Finlândia, mas também foi comparado com os trabalhos mal remunerados no mundo da tecnologia. Tuukka Lehtiniemi, pesquisador da Universidade de Helsinque, está até investigando toda essa cena de trabalho com dados nas prisões finlandesas.
Se olharmos para a prisão de Hämeenlinna, onde Marmalade está, encontraremos um ambiente surpreendentemente moderno: Grandes janelas, arte vibrante, e tirando as pesadas portas de segurança, até lembra um dormitório universitário só que muito, muito silencioso. Marmalade tem uma pesada sentença de seis anos, o que, para fins de contexto, é bastante significativo na Finlândia.
Lá os prisioneiros podem se voluntariar para trabalhos remunerados. Todo dia, Marmalade via as mulheres se levantarem e se dirigirem a tarefas como limpeza, lavanderia ou costura, o que rendia cerca de 6 euros por 6 horas de trabalho. Mas ela achava as tarefas cansativas, então ficava horas em sua cela, até uma conselheira a apresentar ao “trabalho com inteligência artificial“. As jornadas mais curtas e um pouco de dinheiro no bolso tornaram a oferta de treinamento de máquina atraente.
Esta não é a única prisão onde a inteligência artificial está recebendo ajuda. Há outras duas na Finlândia. Em cada uma, não há pressão. Você trabalha, é pago por hora, e ninguém está te pressionando com metas. Cerca de 20 detentos em Hämeenlinna já experimentaram essa nova tarefa, alguns adoram, outros nem tanto.
Inteligência Artificial na prisão: O que motivou?
Jussi Virnala, fundador e CEO da Metroc, teve essa ideia de olhar para as prisões em busca de mão de obra, já que encontrar falantes nativos de finlandês para tarefas de dados não é fácil, especialmente em um país onde a maioria das pessoas não está buscando plataformas de baixo salário. Isso se soma à dificuldade de utilizar ferramentas de tradução automática, uma vez que o idioma não é dos mais fáceis.
Pia Puolakka, chefe do Smart Prison Project (Projeto Prisão Inteligente, em tradução livre) da agência penitenciária e de liberdade condicional da Finlândia embarcou na ideia de Virnala, com a missão de conectar o mundo digital externo com o confinamento da prisão. Mas há um debate: Quão benéfico é isso para os detentos após o cumprimento da pena? A etiquetagem de dados é realmente o passaporte para um trabalho na era digital após a prisão? A resposta ainda está no ar.
Claro, há um outro lado. Alguns acham que isso pode ser apenas outra maneira de explorar mão de obra barata, como é o caso de Amos Toh, pesquisador sênior focado em inteligência artificial na Human Rights Watch (Vigilância dos Direitos Humanos, em tradução livre), que acredita que há muita coisa obscura rolando.
Ética e segurança de dados: Os riscos do uso de mão de obra prisional para a Inteligência Artificial
Ao debatermos sobre o trabalho de dados e treinamento de máquina, é comum a mente viajar até o Mechanical Turk, aos trabalhadores de regiões mais ao sul ou até mesmo aos confins rurais dos Estados Unidos. No entanto, o que vemos na Finlândia, segundo Lehtiniemi, é uma perspectiva única e localizada sobre o trabalho de dados, que traz consigo uma promessa de benefícios à sociedade, a oportunidade de oferecer aos presidiários um trabalho que exige mais cognitivamente, ao contrário das rotinas habituais dentro das prisões, e ainda desempenha um papel crucial para a representatividade linguística no avanço da inteligência artificial.
Lehtiniemi traz uma preocupação válida sobre a revolução tecnológica. Sem tais esforços, línguas menos dominantes globalmente, como o finlandês, poderiam ser negligenciadas em meio à evolução tecnológica, e isso inclui a inteligência artificial. E considerando que nem todos os finlandeses dominam o inglês, a necessidade de alternativas locais de rotulagem de dados se torna evidente. E é por isso que temos visto outras iniciativas criativas no país, como a campanha da biblioteca nacional em 2011 ou a colaboração em 2020 entre a emissora YLE, a Universidade de Helsinque e a VAKE.
Ainda assim, o projeto nas prisões é visto por muitos como a ponta do iceberg. Existe a preocupação real de que esta abordagem estabeleça um precedente perigoso, abrindo caminho para práticas de rotulagem de dados mais polêmicas, como a moderação de conteúdos agressivos.
Toh fala sobre a alta demanda por clickworkers fazer com que as empresas se voltem cada vez mais para grupos de pessoas que não têm muitas opções como refugiados, populações de países assolados por crises econômicas e agora prisioneiros. Por essa razão, ele coloca uma preocupação pertinente: o que impede de, futuramente, terceirizarmos tarefas de natureza traumática e delicada para os presidiários, vendo-os como um poço de mão de obra não aproveitada?
É importante notar, ainda, que o modelo finlandês, que enfatiza a reabilitação, não é universal. Enquanto na Finlândia a participação no projeto de treinamento de máquina é estritamente voluntária, nos EUA, por exemplo, a vasta maioria dos detentos afirma que o trabalho prisional é imposto, conforme apontado pela ACLU. E aí reside o perigo de exportar esse modelo sem adaptá-lo ao contexto local.
À medida que o crescimento na área de inteligência artificial demanda mais trabalhadores para a rotulagem de dados, as empresas estão sempre em busca de novas soluções. E, embora a Metroc já esteja pensando em levar esse projeto além das fronteiras finlandesas, é crucial refletir sobre os desafios éticos que essa expansão pode trazer.
A possibilidade de integrar a inteligência artificial a uma mistura de tecnologia e iniciativa social pode parecer interessante, mas as perguntas que se colocam sobre os verdadeiros interesses e consequências por trás de projetos assim são vistos com bastante cautela. Afinal, os cenários não estão definitivamente delineados, nem o que pode decorrer disso…
Fonte: Wired
