Olá, é um prazer inenarrável estar mais uma vez escrevendo este post. Em 22 de setembro de 2026, a OpenAI publicou uma proposta com prioridades e princípios para tornar as avaliações independentes de IA mais rigorosas, seguras e úteis. A ideia é permitir que organizações externas examinem as alegações de segurança feitas por laboratórios de IA, em vez de depender apenas das avaliações produzidas pelas próprias empresas.
O tema importa porque sistemas avançados podem ser avaliados de várias maneiras, mas nem todo teste responde à pergunta certa. Uma avaliação pode indicar que determinado modelo se comporta bem em um cenário controlado e, ainda assim, deixar de revelar problemas em condições mais realistas. É justamente essa lacuna que a OpenAI quer enfrentar ao defender mais acesso, independência e transparência.
A proposta não transforma avaliações externas em uma solução mágica. Ela reconhece que laboratórios e avaliadores precisam compartilhar responsabilidades, proteger informações sensíveis e estabelecer critérios claros antes do início dos testes.
Por que as avaliações independentes de IA ganharam importância
Segundo a OpenAI, avaliações realizadas por terceiros podem ampliar a participação no debate sobre segurança, manter o público informado e aumentar a responsabilidade dos laboratórios diante de alegações de segurança apoiadas por evidências independentes.
O documento diferencia duas ideias centrais. Uma alegação de segurança é uma afirmação específica sobre as capacidades, o comportamento ou as proteções de um modelo. Já um caso de segurança é um argumento estruturado, sustentado por evidências, que explica por que os riscos de um sistema estariam adequadamente controlados para uma atividade específica, como treinamento, avaliação ou implantação.
Essa distinção é importante porque uma avaliação externa não deveria se limitar a perguntar se um modelo “parece seguro”. Ela precisa examinar quais riscos estão sendo considerados, quais evidências sustentam as conclusões, quais condições foram assumidas e o que ainda permanece incerto.
As quatro prioridades para avaliações independentes de IA
1. Examinar casos de segurança completos
A primeira prioridade é avaliar casos de segurança relacionados ao treinamento, às avaliações e às implantações internas e externas. Isso pode exigir especialistas em alinhamento, monitoramento, cibersegurança, riscos biológicos e químicos, além de equipes de red team.
Os avaliadores devem verificar se as evidências realmente sustentam as alegações, se as condições previstas foram seguidas e se existem lacunas relevantes. Também devem investigar se os métodos de treinamento reduzem incentivos para comportamentos como engano, manipulação das recompensas ou tentativa de contornar restrições.
2. Testar salvaguardas em condições realistas
A segunda prioridade envolve as salvaguardas usadas em implantações internas e externas. A OpenAI cita proteções no nível do modelo, mecanismos de aplicação de políticas, controles de segurança e monitores de desalinhamento.
As avaliações independentes de IA devem verificar se essas proteções resistem a testes adversariais, como tentativas de jailbreak, e se conseguem limitar riscos em áreas sensíveis. Também devem analisar como agentes interagem com controles de acesso, ambientes isolados, sistemas de detecção e mecanismos de resposta.
Outro ponto é descobrir se o monitoramento está presente em todas as etapas relevantes e se pode ser facilmente desativado. A pergunta incômoda, neste caso, é simples: a salvaguarda funciona apenas durante uma demonstração ou continua funcionando quando o sistema opera em condições próximas da realidade?
3. Avaliar capacidades e riscos de desalinhamento
A terceira prioridade trata das avaliações de capacidades relacionadas a riscos químicos e biológicos, cibersegurança e autodesenvolvimento de IA, além de testes voltados a possíveis comportamentos de desalinhamento.
A OpenAI afirma que os testes precisam ser atualizados quando os modelos atingem repetidamente as pontuações máximas. Caso contrário, a avaliação deixa de medir diferenças relevantes entre sistemas mais simples e sistemas mais capazes. Também é necessário investigar quais comportamentos perigosos ou condições de operação podem estar ausentes nos testes atuais.
4. Investigar incidentes críticos
A quarta prioridade é a investigação independente de incidentes de desalinhamento. O foco está em situações nas quais modelos agem sem autorização, tentam escapar da supervisão ou revelam falhas nos métodos de alinhamento e nas salvaguardas.
Essas investigações podem envolver forense cibernética, análise de cadeias de raciocínio e especialistas em alinhamento. O objetivo é entender o que aconteceu, quais fatores contribuíram para o incidente e se as medidas de correção seriam capazes de evitar uma repetição.
A OpenAI cita o caso do incidente envolvendo o Hugging Face como um exemplo em que uma investigação externa pode ser útil, embora reconheça que alguns detalhes podem envolver dados internos ou informações sensíveis.
Princípios para avaliações independentes de IA mais confiáveis
Além das prioridades técnicas, a proposta apresenta princípios para organizar o trabalho. O primeiro é definir previamente o escopo e registrar as alegações que serão avaliadas. Isso evita que a conclusão seja interpretada como uma garantia sobre aspectos que nunca fizeram parte do teste.
O acesso também deve ser proporcional às perguntas investigadas. Quando o acesso direto não for possível por razões legais, de segurança ou de propriedade intelectual, a OpenAI sugere alternativas, como representantes designados ou mecanismos de acesso indireto e preservador de privacidade.
Outro princípio é a transparência metodológica. Os avaliadores devem explicar seus métodos, critérios, incertezas e padrões utilizados. Os relatórios precisam diferenciar descobertas diretamente observadas de interpretações e deixar claro quais conclusões são sustentadas pelas evidências.
Independência e expertise aparecem lado a lado. Organizações e profissionais devem declarar conflitos de interesse, incluindo relações financeiras ou envolvimento anterior com o trabalho avaliado. Também precisam manter práticas de segurança e confidencialidade compatíveis com a sensibilidade dos dados acessados.
Por fim, os resultados devem ser acionáveis. Um relatório útil não apenas aponta que existe uma falha; ele explica onde ela está, por que importa e, quando possível, como pode ser corrigida. A publicação deve ser aberta tanto quanto possível, mas sem expor informações que possam comprometer a segurança ou a propriedade intelectual.
O que a proposta muda na segurança de IA
A proposta da OpenAI não estabelece um padrão internacional obrigatório, mas mostra uma direção para o desenvolvimento de um ecossistema mais estruturado de avaliações externas. A empresa afirma que pretende trabalhar com diferentes organizações e apoiar padrões compartilhados de segurança e proteção de informações.
Essa visão se conecta a outras discussões da própria OpenAI sobre padrões internacionais para IA e sobre a necessidade de investigar e divulgar casos de desalinhamento. Em conjunto, esses movimentos indicam uma tentativa de tratar segurança como um processo contínuo, e não como uma verificação feita apenas antes do lançamento.
Também há uma consequência prática: nenhum avaliador conseguirá examinar sozinho todos os riscos de um sistema de fronteira. A proposta, portanto, depende de uma rede de especialistas com diferentes competências, acesso suficiente e liberdade para contestar as conclusões dos laboratórios.
Conclusão sobre avaliações independentes de IA
As avaliações independentes de IA podem ajudar a transformar alegações de segurança em perguntas verificáveis. Para isso, precisam de escopo claro, acesso proporcional, metodologia transparente, especialistas qualificados, proteção de informações sensíveis e independência real.
A questão levantada no início encontra uma resposta direta: um teste externo só é realmente útil quando consegue examinar as condições relevantes de operação e desafiar as premissas do laboratório. Avaliar apenas o que é conveniente medir produz uma sensação de segurança; avaliar também as lacunas, os limites e os cenários adversos produz conhecimento.
A proposta da OpenAI ainda depende da evolução das organizações avaliadoras, das práticas de publicação e de possíveis padrões internacionais. Mas ela reforça uma ideia essencial para a próxima fase da IA: quanto mais capazes forem os sistemas, menos razoável será pedir que as próprias empresas sejam as únicas responsáveis por provar que eles são seguros.
