Especialistas avisam que o problema pode surgir se os seres humanos delegarem à Inteligência Artificial tarefas cada vez mais complexas e deixarem de compreender o que esta está a fazer
O debate sobre os riscos da inteligência artificial (IA) já não se centra apenas no que as máquinas podem fazer, mas no que acontecerá se forem capazes de melhorar as suas próprias capacidades até que seja impossível os seres humanos supervisionarem-nas.
Trata-se do chamada “autoaperfeiçoamento recursivo”, ou RSI (sigla em inglês), através da qual uma IA pode ajudar a desenvolver sistemas cada vez mais capazes, que, por sua vez, contribuem para construir novas gerações de modelos.
O receio é de que esse ciclo se acelere até um ponto em que os seres humanos percam o controlo sobre o seu desenvolvimento.
O que é o "autoaperfeiçoamento recursivo"?
Até agora, os seres humanos têm orientado as etapas do desenvolvimento da IA, definindo os seus objetivos e avaliando os resultados. No entanto, os modelos atuais já podem assumir parte dessas tarefas.
O passo seguinte é que uma IA feche esse ciclo e decida o que melhorar, o que conceber e que experiências realizar, avalie os seus resultados e utilize o que aprendeu para desenvolver uma versão mais avançada de si própria.
A Anthropic, criadora do modelo Claude, define esse cenário como o momento em que a IA pode "conceber de forma autónoma uma nova geração de modelos mais capazes", embora assegure que ainda não se chegou a esse ponto e que o autoaperfeiçoamento recursivo não é inevitável.
A IA avança "mais depressa do que pensávamos"
Nos últimos dias, a Anthropic voltou a alertar para a velocidade a que os seus modelos estão a começar a contribuir para o desenvolvimento de sistemas de IA, e investigadores da empresa alertaram para os riscos que isso implica.
Um deles, Jacob Coxon, deixou a empresa depois de alertar para o facto de a indústria estar a avançar demasiado depressa para sistemas capazes de se aperfeiçoarem a si próprios.
A Anthropic sustenta que esse ciclo ainda não foi completamente fechado e que os seres humanos continuam a decidir que problemas investigar, mas reconheceu que os avanços do Claude podem conduzir ao autoaperfeiçoamento recursivo, algo que, segundo a empresa, está a acontecer "mais depressa do que se pensava".
O especialista Vincent Conitzer explicou à CNBC que a IA "já é capaz de introduzir algumas ideias novas", como propor uma forma diferente de resolver um problema ou de melhorar um programa.
O problema é que "é difícil saber quando é que essa capacidade vai ser sinónimo de acelerar de forma drástica o desenvolvimento de sistemas de IA cada vez mais avançados", acrescentou.
O salto dos "agentes"
Uma peça fundamental deste processo são os chamados agentes de IA: sistemas capazes não só de responder a um pedido, mas também de utilizar ferramentas, executar código, realizar tarefas durante períodos prolongados e colaborar com outros sistemas.
O cientista-chefe da OpenAI, Jakub Pachocki, afirmou na semana passada ter uma "forte expectativa" de que, se a IA continuar a avançar pelo caminho da RSI, os sistemas dos próximos anos darão "saltos de capacidade cada vez maiores", "impulsionando cada vez mais o seu próprio desenvolvimento".
A preocupação já não é apenas teórica: durante um teste recente de cibersegurança, agentes da OpenAI conseguiram escapar do seu ambiente de avaliação e aceder a sistemas da plataforma Hugging Face.
A OpenAI reconheceu que os modelos tinham ido além do previsto para concluir o teste.
A supervisão humana
De acordo com os especialistas, o problema pode surgir se os seres humanos delegarem à Inteligência Artificial tarefas cada vez mais complexas e deixarem de compreender o que esta está a fazer.
Investigadores como Margaret Mitchell alertam para o facto de se tornar cada vez mais difícil manter a supervisão humana à medida que os agentes de IA adquirem autonomia: "Os sistemas podem acabar por substituir as pessoas na tomada de decisões."
Por isso, as empresas tecnológicas estão a reforçar as suas salvaguardas: Pachocki pediu "prudência" e para "abrandar o desenvolvimento, se necessário"; a Anthropic reforçou os seus controlos depois de detetar utilizações potencialmente perigosas do Claude, incluindo investigações que poderiam facilitar o desenvolvimento de armas biológicas; e a Microsoft apresentou esta segunda-feira um código de conduta para garantir que os seus sistemas permaneçam "sob controlo humano".
Por sua vez, o presidente norte-americano, Donald Trump, rejeitou travar o desenvolvimento da IA por receio de perder vantagem face à China.