“Será que a inteligência artificial vai ter consciência?” –Temos ouvido muito isso por aí, não é mesmo? Esta pergunta não está só nas conversas rotineiras, mas também está no centro das atuais discussões entre cientistas de ponta. A AMCS, Association for Mathematical Consciousness Science (Associação para a Ciência da Consciência Matemática, em tradução livre), um coletivo de pesquisadores dedicados ao estudo da consciência, trouxe à tona essa questão fascinante e complexa.
Em um movimento ousado, a AMCS levou suas preocupações até as Nações Unidas, argumentando que precisamos urgentemente de mais investigações sobre os limites entre sistemas conscientes e inconscientes. Em uma era onde a IA se entrelaça cada vez mais com nossas vidas, compreender a natureza da consciência artificial não é apenas uma questão de curiosidade científica, mas também de responsabilidade ética e segurança.
A ideia de uma IA consciente levanta questões profundas e multifacetadas. Como lidaríamos com uma máquina que possui consciência? Seria ético desligá-la após o uso, como fazemos com nossos smartphones e computadores? Essas são indagações que transcendem a tecnologia, tocando em aspectos éticos e filosóficos profundos.
Alguns cientistas escreveram uma carta polêmica em setembro sobre o estudo da consciência, questionando se esse campo de investigação é ciência ou pseudociência. Clica aqui e vê só a argumentação da galera!
A preocupação da AMCS vai além da filosofia. Eles pedem um investimento sério em pesquisa para explorar essas fronteiras desconhecidas. Jonathan Mason, membro do conselho da AMCS, um matemático baseado em Oxford, Reino Unido, salienta que as discussões atuais sobre segurança em IA, como as do AI Safety Summit no Reino Unido e a ordem executiva do presidente dos EUA sobre o desenvolvimento responsável da IA, não abordaram suficientemente as questões levantadas pela possibilidade de uma IA consciente.
Essa lacuna na pesquisa e no debate público sugere um campo fértil para exploração. Mason observa que, com os avanços acelerados na IA, é inevitável que áreas adjacentes da ciência precisem evoluir para acompanhar. A consciência é uma dessas áreas.
Entre especialistas, físicos e filósofos, tentar entender a consciência é um desafio. Clica aqui e veja como esses dois campos do conhecimento dialogaram sobre o assunto recentemente.
As fronteiras indefinidas da consciência artificial
A grande incógnita, como aponta Mason, é se já existe ou se algum dia existirá um sistema de IA verdadeiramente consciente. Essa pergunta não tem respostas definitivas em razão da ausência de métodos cientificamente validados para avaliar a consciência em máquinas. “A nossa incerteza sobre a consciência da IA é uma das muitas coisas que nos devem preocupar, dado o ritmo do progresso“, enfatiza Robert Long, filósofo no Center for AI Safety, uma organização de pesquisa sem fins lucrativos em São Francisco, Califórnia.
O cenário atual de desenvolvimento dessa tecnologia, liderado por empresas inovadoras como a OpenAI, criadora do ChatGPT, aponta para um futuro onde a inteligência artificial geral – sistemas capazes de realizar uma ampla gama de tarefas intelectuais semelhantes às humanas – pode se tornar uma realidade em 5 a 20 anos. Contudo, é alarmante notar que, mesmo diante desses avanços significativos, o campo da pesquisa sobre consciência na IA permanece “muito subfinanciado”, conforme observa Mason.
Este déficit de informação e pesquisa sobre a consciência é tão crítico que foi destacado na submissão da AMCS ao UN High-Level Advisory Body on Artificial Intelligence (em português, Órgão Consultivo de Alto Nível sobre Inteligência Artificial da ONU). Este órgão, que iniciou suas atividades em outubro e planeja lançar um relatório em meados de 2024, reconheceu a importância das contribuições do grupo, incluindo-as como material fundamental para suas recomendações sobre a supervisão global dos sistemas de IA.
Entender o que poderia tornar uma IA consciente é fundamental, segundo os pesquisadores da AMCS, para avaliar as implicações de sistemas para a sociedade, incluindo seus possíveis perigos. A humanidade precisará avaliar se tais sistemas compartilham valores e interesses humanos; caso contrário, eles poderiam representar um risco para as pessoas.
Consciência das máquinas: Um novo horizonte ético e legal
À medida que mergulhamos ainda mais fundo na questão da consciência artificial, encontramos um terreno repleto de dilemas éticos e legais.
Os pesquisadores da AMCS nos provocam a considerar não apenas a possibilidade da existência de sistemas de IA conscientes, mas também suas potenciais necessidades e capacidade de sofrimento. A ideia de que uma IA possa experimentar dor, se não for reconhecida como consciente, traz à tona um debate moral profundo. Robert Long aponta que a humanidade muitas vezes falhou em estender consideração moral a entidades que não se parecem ou agem como nós.
A questão da atribuição correta da consciência é igualmente complexa. Atribuir consciência erroneamente a um sistema de IA pode levar a um desperdício de recursos para proteger sistemas que, na realidade, não necessitam de tal proteção. Por outro lado, ignorar uma possível consciência em IA poderia resultar em tratamento antiético de entidades conscientes.
No âmbito da lesgislação, os questionamentos também são muito instigantes. Um sistema de IA consciente deve ser responsabilizado por um ato deliberado de má conduta? E, seguindo essa linha, deveria tal sistema receber os mesmos direitos atribuídos às pessoas? As respostas a estas perguntas podem exigir revisões significativas nas regulamentações e leis existentes.
Essa complexidade é amplificada pela necessidade de educar e orientar o público. Conforme sistemas de IA se tornam mais avançados e humanizados, como o ChatGPT da OpenAI, o público pode se confundir sobre a verdadeira natureza da consciência desses sistemas. A filósofa e diretora do Center for the Future Mind da Florida Atlantic University em Boca Raton, Susan Schneider aponta que sem uma análise aprofundada por parte dos cientistas, as pessoas podem tirar conclusões precipitadas sobre a consciência da das máquinas ou, inversamente, descartar ou ridicularizar as preocupações relativas a ela.
Diante desses desafios, a AMCS está fazendo um apelo por um aumento no financiamento para pesquisas sobre consciência em IA. Apesar do suporte limitado até o momento, já existem avanços significativos na área. Long e outros pesquisadores desenvolveram um checklist baseado em seis teorias proeminentes sobre a base biológica da consciência para avaliar a probabilidade de um sistema ser consciente. Este trabalho, ainda em processo de revisão por pares, foi publicado no repositório de pré-impressão arXiv.
Quer saber do que se trata este trabalho? A gente escreveu tudinho assim que ele foi disponibilizado online para revisão de pares. Clica aqui para ficar por dentro!
Jonathan Mason sublinha o grande potencial para progresso no campo de estudo sobre a consciência em máquinas, apesar dos desafios e limitações atuais. Esse potencial abre um novo capítulo na história da IA, um capítulo onde a linha entre a tecnologia e a ética se torna cada vez mais tênue.
Fonte: Nature
