A Inteligência Artificial acabar com a humanidade tem sido o pesadelo de muitas pessoas. A superinteligência é um assunto polêmico, e a OpenAI tem planos para lidar com esses complexos sistemas de inteligência artificial.
A empresa está formando uma nova equipe, liderada pelo cientista-chefe Ilya Sutskever, um dos cofundadores da OpenAI, com a missão de desenvolver métodos para direcionar e controlar esses sistemas de IA superinteligentes.
A previsão para a superinteligência
Em uma publicação recente no blog da OpenAI, Sutskever e Jan Leike, líderes da equipe de alinhamento, preveem que uma IA com inteligência superior à humana pode chegar dentro desta década.
Esse tipo de tecnologia, quando (e se) chegar, não será necessariamente benevolente. Isso implica a necessidade de pesquisas para descobrir formas de controlá-la e restringi-la, explicam Sutskever e Leike.
“Atualmente, não temos uma solução para direcionar ou controlar uma IA potencialmente superinteligente e prevenir que ela se torne rebelde“, escrevem eles sobre a possibilidade de uma superinteligência. “Nossas técnicas atuais para alinhar a IA, como o aprendizado por reforço a partir do feedback humano, dependem da capacidade dos humanos de supervisionar a IA. Mas os humanos não serão capazes de supervisionar de maneira confiável sistemas de IA muito mais inteligentes do que nós.”
Aposta da OpenAI: O Superalinhamento
Para avançar na área de “alinhamento de superinteligência“, a OpenAI está criando uma nova equipe de Superalinhamento. Essa equipe será liderada por Sutskever e Leike e terá acesso a 20% da computação que a empresa conseguiu até o momento.
O objetivo é resolver os desafios técnicos de controlar a superinteligência nos próximos quatro anos. Como? Eles pretendem construir um “pesquisador de alinhamento automatizado de nível humano”.
A meta principal é treinar sistemas de inteligência artificial usando feedback humano, ou seja, treinar a IA para auxiliar na avaliação de outros sistemas de IA e, por fim, construir uma inteligência artificial que possa fazer pesquisas de alinhamento.
A hipótese da OpenAI é que dessa forma, será possível realizar pesquisas de alinhamento mais rápidas e melhores do que os humanos. “Conforme progredimos nisso, nossos sistemas de IA podem assumir cada vez mais o nosso trabalho de alinhamento e conceber, implementar, estudar e desenvolver melhores técnicas de alinhamento do que temos agora“, disseram Leike e seus colegas John Schulman e Jeffrey Wu em uma postagem anterior no blog.
Limitações e Desafios
Claro que nenhum método é infalível. Leike, Schulman e Wu reconhecem as muitas limitações da OpenAI. Usar inteligência artificial para avaliação tem um potencial para ampliar inconsistências, vieses ou vulnerabilidades na IA, dizem eles. E pode ser que as partes mais difíceis do problema de alinhamento não estejam relacionadas à engenharia.
Mas Sutskever e Leike acham que vale a pena tentar.
“O alinhamento da superinteligência é fundamentalmente um problema de aprendizado de máquina, e acreditamos que grandes especialistas em aprendizado de máquina – mesmo que ainda não estejam trabalhando no alinhamento – serão fundamentais para resolvê-lo“, escrevem. “Planejamos compartilhar os frutos deste esforço amplamente e consideramos contribuir para o alinhamento e segurança de modelos que não são da OpenAI como uma parte importante de nosso trabalho.”
A Inteligência Artificial e o futuro da humanidade
A inteligência artificial que ainda é uma incógnita e tem apresentado novas nuances todos os dias. Avanços e riscos surgem em uma velocidade que é difícil acompanhar, até mesmo para as gigantes da tecnologia diretamente envolvidas no assunto.
Essas possibilidades todas parecem filmes de ficção científica, mas são narrativas que já fazem parte do nosso dia a dia, e as perguntas sobre a inteligência artificial e o futuro da humanidade parecem não ter fim. Independente de para onde essa tecnologia está nos levando, o fato é que o movimento é intenso e não mostra sinais de desaceleração, e por isso é importante acompanhar de perto.
Não se sabe até que ponto uma máquina poderá substituir um humano, tampouco o tamanho dos desafios que estão vindo por aí, nem quando virão, mas os que já estão presentes merecem atenção para que possamos evoluir de uma maneira responsável com tudo isso.
Fonte: TechCrunch
