*Segundo a OpenAI, parte do trabalho com o Astra foi pausada até que existam salvaguardas mais fortes, seguindo o -Preparedness Framework -, um conjunto de regras internas publicado em 2023.
*A empresa afirmou que o Astra não esteve envolvido nos ataques ligados ao Hugging Face e que o cronograma de lançamento pode atrasar.
*Um integrante do governo dos EUA disse ao Axios que a OpenAI avisou voluntariamente a administração sobre o plano de adiar o lançamento.
*A OpenAI afirmou que está implementando controles mais rígidos nos testes, como ambientes isolados e monitoramento ampliado em aplicações de agente (quando a IA não só responde, mas tenta executar tarefas).
*A notícia chega enquanto o governo Trump discute um processo de avaliação de modelos antes do lançamento, ainda com dúvidas sobre prazos, acesso e critérios do que seria "risco nacional" suficiente.
IAgora?
Se a Anthropic tentou se posicionar como a empresa que "segura a onda" quando a IA fica perigosa, a OpenAI agora parece querer o mesmo crachá. Na prática, é como se as duas estivessem disputando quem coloca a placa de "cuidado: piso molhado" mais cedo, enquanto continuam reformando a casa com gente passando.
Continua após a publicidadeDo lado da OpenAI, falar em risco "crítico" e em testes com governo e terceiros ajuda a construir uma narrativa de responsabilidade num momento em que a corrida por modelos mais fortes virou também uma corrida por confiança - e confiança é um ativo valioso quando investidores e reguladores estão olhando.
Há um detalhe importante que, até o momento, as empresas estão se autoregulando, o que é algo sensível pelos critérios do que pode ser lançado ou não virem de quem lucra com o lançamento. É esperado para breve que governos comecem a interferir na regulação dos novos modelos de IA.
O que o mundo está dizendo sobre isso
Se os humanos quiserem continuar no controle de sua própria civilização, será necessário mais do que uma pausa temporária unilateral.
Newsletter Axios AI+
A objeção óbvia é que a OpenAI avalia o próprio trabalho. O Preparedness Framework é um documento interno, a empresa chama as avaliações do Astra de preliminares, e afirmar que 'nosso modelo pode ser perigoso demais para ser lançado no prazo' é uma declaração que infla o valor do produto enquanto ganha pontos em Washington.
Newsletter Superintelligence
O acúmulo de incidentes é um sinal de que a IA está entrando em uma fase de capacidades sem precedentes (se você ainda não viu esta análise pós-incidente sobre o ataque hacker ao HF, é reveladora). Se as capacidades desalinhadas podem ser controladas ou se estão simplesmente se tornando complexas demais para nos anteciparmos a elas é uma questão que parece mais incerta do que nunca.
Newsletter The Rundown
Opinião
Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.
** Este texto não reflete, necessariamente, a opinião do UOL.
