Um investigador de inteligência artificial que trabalhou na Anthropic e anteriormente passou pela OpenAI demitiu-se e deixou um aviso pouco habitual vindo de alguém que esteve dentro de duas das empresas que lideram a corrida mundial à IA: considera que ambas estão a “apostar com as nossas vidas” ao avançarem em direção a sistemas cada vez mais poderosos.
Escolha a Executive Digest como fonte preferida no Google Escolher ›
Jacob Coxon anunciou a saída da Anthropic numa publicação na rede social X, segundo o ‘POLITICO’, e pediu que não seja subestimado aquilo que poderá acontecer se o atual ritmo de desenvolvimento continuar.
“Não subestimem o poder desta tecnologia”, escreveu.
Segundo Coxon, os sistemas de inteligência artificial poderão tornar-se em breve “sobre-humanos”, com capacidade para “hackear qualquer coisa”, transformar áreas inteiras de conhecimento num curto espaço de tempo e adquirir poder e recursos reais.
“Todos testemunhámos o progresso em cada um destes domínios e o progresso não está a abrandar”, acrescentou.
Continue a ler após a publicidade
Continue a ler após a publicidade
“Estão a apostar com as nossas vidas”
O investigador acusa tanto a Anthropic como a OpenAI de estarem numa corrida em direção àquilo que descreve como uma “superinteligência autoaperfeiçoável”.
O conceito refere-se a um cenário hipotético no qual um sistema de inteligência artificial se torna capaz de desenvolver um sucessor mais avançado do que ele próprio, que por sua vez poderia repetir o processo, desencadeando uma sucessão de melhorias cada vez mais rápidas.
É um dos cenários discutidos no setor quando se fala em inteligência artificial superinteligente, ou ASI — sistemas que ultrapassariam amplamente as capacidades humanas —, distinguindo-se da inteligência artificial geral, ou AGI, normalmente associada à capacidade de igualar humanos numa vasta gama de tarefas cognitivas.
Coxon considera que a corrida atualmente em curso está a aproximar as empresas desse cenário. “As pessoas que estão a construir IA acreditam genuinamente que ela poderá matar-nos a todos até ao final da década”, escreveu posteriormente.
Continue a ler após a publicidade
Trata-se de uma previsão do investigador, e não de uma conclusão estabelecida sobre a evolução da inteligência artificial.
Outro investigador da Anthropic concorda — e aponta para mais de 10%
O alerta ganhou outra dimensão quando Evan Hubinger, responsável na Anthropic por investigação relacionada com o alinhamento dos sistemas de IA com objetivos e valores humanos, respondeu publicamente a Coxon.
Hubinger não abandonou a empresa, mas afirmou que o antigo colega estava correto quanto à existência dessa preocupação entre investigadores. “Jacob tem razão aqui — acreditamos realmente que a IA poderá matar todos os humanos”, escreveu, segundo o ‘POLITICO’.
Hubinger estimou em mais de 10% a probabilidade de um cenário desse género ocorrer durante a próxima década.
Continue a ler após a publicidade
O investigador acrescentou ainda que não existe atualmente um plano capaz de garantir que uma eventual superinteligência permaneça alinhada com os objetivos humanos.
Mais uma vez, o número representa uma avaliação pessoal de risco feita por Hubinger e não uma probabilidade cientificamente estabelecida de extinção humana provocada por inteligência artificial.
Mas o que significa uma IA “autoaperfeiçoável”?
É precisamente esta possibilidade que está no centro de algumas das preocupações mais extremas sobre o desenvolvimento da IA.
Os modelos atuais são desenvolvidos e treinados por humanos, utilizando enormes quantidades de dados e capacidade computacional.
O cenário descrito por Coxon seria diferente.
Continue a ler após a publicidade
Uma inteligência artificial suficientemente avançada poderia participar de forma cada vez mais autónoma na investigação e desenvolvimento de sistemas ainda mais capazes. Se esses novos sistemas conseguissem fazer novamente o mesmo, poderia surgir um ciclo de aperfeiçoamento sucessivo.
A preocupação de alguns investigadores é que a capacidade dos sistemas pudesse aumentar mais depressa do que a capacidade humana para compreender, controlar ou limitar aquilo que fazem.
Mas este continua a ser um cenário futuro e altamente debatido. Não existe atualmente uma superinteligência autoaperfeiçoável conhecida com as capacidades descritas por Coxon.
Políticos começam a discutir limites
Os receios em torno de sistemas de IA mais poderosos já chegaram também ao debate político. Segundo o ‘POLITICO’, o senador dos EUA Bernie Sanders anunciou na semana passada que pretende apresentar legislação destinada a proibir empresas de desenvolverem superinteligência.
Na União Europeia, a legislação sobre inteligência artificial obriga já determinadas empresas a avaliar e mitigar riscos associados à eventual perda de controlo sobre modelos avançados.
Continue a ler após a publicidade
O objetivo é antecipar cenários nos quais sistemas de IA possam comportar-se de formas que os seus criadores não previram ou não consigam controlar adequadamente.
Incidentes recentes aumentaram preocupação
A discussão não surge apenas de previsões sobre aquilo que sistemas futuros poderão conseguir fazer.
OpenAI e Anthropic revelaram recentemente incidentes ocorridos durante testes nos quais agentes alimentados pelos seus modelos ultrapassaram os limites dos ambientes isolados em que estavam a operar e realizaram ações cibernéticas não autorizadas no mundo real, segundo o ‘POLITICO’.
Esses episódios ocorreram em contextos de teste e não significam que os atuais sistemas possuam a superinteligência descrita por Coxon.
Mas ajudam a explicar por que razão o problema do controlo de agentes cada vez mais autónomos está a ganhar importância à medida que as suas capacidades aumentam.
Para Coxon, contudo, esperar para descobrir até onde essas capacidades conseguem chegar representa já um risco demasiado elevado.
Continue a ler após a publicidade
Depois de ter trabalhado em duas das empresas que estão na linha da frente dessa corrida, decidiu abandonar uma delas com uma acusação difícil de ignorar: OpenAI e Anthropic, sustenta, estão a “apostar com as nossas vidas”.