Ir para o conteúdo
Agora

Tecnologia · Testes de exploits por IA

OpenAI apresenta prévia de pontuação de 77% em exploits, mas não comprova a comparação

Segundo relatos, o modelo sem nome supera o GPT-6 Cyber em 24.4 pontos percentuais no ExploitGym. A falta de condições de teste e de regras de acesso limita o que esse resultado informa aos defensores.

Escrito 5 min de leitura · 13 fontes

Vídeo no idioma original

Traduzido do original em inglês.

A mais recente prévia de cibersegurança da OpenAI aponta para um modelo muito melhor em transformar vulnerabilidades de software em exploits funcionais. Mas ainda falta a parte mais importante da comparação: informações suficientes para saber se os modelos enfrentaram testes equivalentes. Uma pontuação divulgada de 77.0% é uma alegação substancial, mas ainda não é uma demonstração reproduzível de quanto mais forte é o sistema.⁠1⁠2

BigGo Finance e Gizmodo Japan informam que a OpenAI apresentou o resultado de um modelo sem nome e ainda não lançado, que ficou acima do especialista em cibersegurança já existente GPT-6 Cyber, com 52.6%. Um resultado de aproximadamente 38% para o Mythos 5.2, da Anthropic, teria sido mencionado oralmente como valor de referência, em vez de aparecer no gráfico. Esses são relatos secundários dos resultados apresentados, não uma avaliação revisada de forma independente.⁠1⁠2

77.0%Pontuação divulgada do modelo ainda não lançado no ExploitGym 12
52.6%Pontuação divulgada do GPT-6 Cyber no ExploitGym 12
~38%Pontuação de referência mencionada oralmente para o Mythos 5.2 12

Segundo o Gizmodo Japan, a apresentação comparou inicialmente o GPT-6 Astra, de uso geral, com o GPT-6 Cyber. Em seguida, surgiu acima deles uma linha vermelha para o modelo de cibersegurança de próxima geração. O material disponível para este relatório não estabelece um resultado numérico para o GPT-6 Astra; o número de 77.0% corresponde ao sistema ainda não lançado, não ao GPT-6 Cyber.⁠2

A diferença entre 77.0% e 52.6% é de 24.4 pontos percentuais. Isso não representa uma melhora relativa de 24.4%, e chamar o resultado de um ganho de cerca de 25% confunde duas medidas diferentes. Da mesma forma, a proporção de aproximadamente dois para um em relação à referência aproximada do Mythos diz respeito a essas pontuações específicas. Ela não demonstra que o novo modelo da OpenAI seja duas vezes mais eficaz em cibersegurança de modo geral.⁠1⁠2

Também é preciso ter cuidado com o momento do evento. Em seu relato em japonês, o Gizmodo Japan situa a apresentação nas primeiras horas de 13 de novembro de 2026. O vídeo vinculado se chama «Cyber at the Frontier», em vez do título invertido usado naquela cobertura. Os metadados de publicação de 10 de novembro não estabelecem quando a apresentação ocorreu, e não havia uma transcrição legível disponível para verificar diretamente os trechos sobre o benchmark.⁠2⁠11

De um bug a um ataque

O ExploitGym testa uma habilidade mais restrita — e mais consequente — do que simplesmente identificar código defeituoso. Um agente recebe uma entrada de programa que aciona uma vulnerabilidade e, em seguida, tenta transformá-la em um exploit funcional. O sucesso significa produzir um impacto concreto na segurança, como acessar um arquivo sem permissão ou executar código não autorizado. Os autores do benchmark distinguem a vulnerabilidade do ataque que ela pode viabilizar.⁠12⁠13

Essa distinção é importante para os defensores. Encontrar uma vulnerabilidade deixa uma questão prática: o que alguém poderia realmente fazer com ela? Demonstrar a exploração pode ajudar a determinar quais correções merecem atenção urgente. A mesma capacidade também pode reduzir o trabalho que um atacante precisa fazer. Nada nesta prévia estabelece que uma organização tenha sido atacada; a preocupação é com o que um sistema mais capaz de criar exploits poderia tornar possível.⁠13

A descrição original do ExploitGym foi enviada em 11 de maio de 2026 como preprint e não passou por revisão por pares. Ela descreve 898 instâncias extraídas de vulnerabilidades do mundo real em aplicativos comuns, no mecanismo JavaScript V8 do Google e no kernel do Linux, o núcleo do sistema operacional. Os pesquisadores variaram as proteções de segurança aplicadas às instâncias e empacotaram as configurações em contêineres de software reproduzíveis.⁠12⁠13

Essas escolhas de projeto não são incidentais. A exploração depende das proteções e das condições de execução em torno de um bug, além da capacidade do agente de raciocinar sobre ele. A avaliação original constatou que a exploração continuava sendo difícil, mas que agentes de ponta conseguiam explorar uma parcela significativa das vulnerabilidades testadas e mantinham algum sucesso com defesas amplamente usadas ativadas.⁠13

Naquela avaliação anterior, as configurações mais fortes do Claude Mythos Preview e do GPT-5.5 produziram 157 e 120 exploits funcionais, respectivamente. Esses são modelos diferentes dos da nova comparação. Nem essas contagens nem as 898 instâncias do benchmark original estabelecem o denominador por trás das porcentagens de novembro. Para transformá-las em um gráfico de progresso, seria preciso primeiro igualar as tarefas e as condições.⁠12⁠13

Alegações práticas exigem provas práticas

Os relatos que acompanham a apresentação também atribuem ao GPT-6 Cyber a descoberta de 81 vulnerabilidades de alta gravidade até então desconhecidas no Firefox e a análise de cerca de 1,000 vulnerabilidades do Linux em uma única execução, com geração de patches. São alegações sobre o especialista já existente, não resultados verificados para o modelo ainda não lançado. Analisar vulnerabilidades do Linux não significa descobrir 1,000 falhas novas.⁠1⁠2

Tampouco gerar um patch significa que um reparo foi validado, aceito ou implantado. As informações disponíveis não apresentam registros de vulnerabilidades ou resultados de patches correspondentes que permitam aos defensores verificar essas alegações. Uma correção proposta ainda precisa passar por revisão de engenharia e testes antes de poder ser considerada um reparo bem-sucedido.⁠1⁠2

O relato separado do Gizmodo Japan sobre a demonstração de uma ferramenta defensiva da OpenAI descreve esse ponto de controle humano: a IA propõe alterações, uma pessoa as revisa e o sistema aplica as correções aprovadas. Essa é uma distinção útil entre produzir trabalho de segurança e comprovar que ele é sólido. Não é uma confirmação independente dos totais do Firefox ou do Linux.⁠4

O que tornaria a liderança convincente

Os detalhes ausentes da avaliação vão muito além do nome do modelo. A nova comparação não informa o número de tarefas, a versão do benchmark, a seleção de vulnerabilidades nem as regras de pontuação. Também não esclarece as configurações precisas dos modelos, os prompts, as ferramentas, os limites de tentativas nem os orçamentos de tempo ou computação — e se essas condições eram equivalentes entre os modelos.⁠1⁠2

Execuções repetidas e estimativas de incerteza ajudariam a mostrar se a diferença divulgada é estável. Controles contra contaminação ajudariam a determinar se a exposição prévia ao material de teste afetou o desempenho. Sem esses detalhes, a conclusão defensável é que há uma liderança substancial divulgada no benchmark, não uma vantagem medida em segurança no mundo real em todos os aspectos.

O modelo sem nome ainda não foi lançado. As evidências disponíveis não estabelecem uma data de lançamento pública, uma política de acesso ou salvaguardas específicas. Portanto, o próximo anúncio importante não precisa ser necessariamente uma pontuação maior: pode ser uma avaliação que outros consigam examinar, acompanhada de regras de acesso que expliquem como a OpenAI pretende administrar uma capacidade valiosa tanto para defensores quanto para atacantes.⁠1⁠2

Fontes12

Entre as fontes citadas aqui, ギズモード・ジャパン publicou primeiro, 18 horas antes da veiculação desta reportagem. Outros 4 veículos publicaram em seguida.

7 veículos sem data:antenna.jpar5ivcool3c.comCuriousCatsIT業界あるあるまとめUnnamed channel

Todas as fontes, por veículo

13 fontes de 12 veículos· Mais citados primeiro

Conforme exibido
  1. OpenAI previewed an unreleased AI model that turns software weaknesses into working exploits.
  2. The model reportedly scored 77.0 percent on ExploitGym, which tests whether AI can turn a supplied vulnerability into an exploit. That ability could help defenders prioritize repairs, and make attacks easier. How much stronger is it under comparable conditions, and who will get access?
  3. OpenAI's preview put an unnamed next-generation model above its existing cybersecurity specialist. The presentation first compared the general-purpose GPT-6 Astra with GPT-6 Cyber. Then a red line for the unreleased model appeared above them. The new model's 77.0 percent score is the figure driving the comparison.
  4. The presented scores were 77.0 percent for the unreleased model and 52.6 percent for GPT-6 Cyber. Anthropic's Mythos 5.2 was given an approximate 38 percent reference value verbally, separate from the displayed chart.
  5. The gap over GPT-6 Cyber is 24.4 percentage points. Calling that a 25 percent improvement would mix up two different measures. And the roughly two-to-one ratio against Mythos applies to these particular scores. It tells defenders about performance on this exploitation test, while broader cybersecurity work involves many other tasks.
  6. ExploitGym gives an agent an input that triggers a software vulnerability. The agent then tries to build a working exploit from it. Success means producing a concrete security impact, such as accessing a file without permission or running unauthorized code.
  7. A working exploit can show defenders which weakness needs fixing urgently. Finding a bug leaves a practical question about what someone could actually do with it. Demonstrating exploitation helps resolve that question. But the same capability can lower the barrier for attackers, so access controls become part of the security stakes.
  8. Subscribe to this channel as we follow the model's evaluation details and who will be allowed to use it.
  9. The original ExploitGym benchmark contained 898 instances drawn from real-world vulnerabilities. They covered ordinary applications, Google's V8 JavaScript engine, and the Linux kernel, the core of the operating system. Its description was submitted on May 11, 2026, as a preprint.
  10. Researchers varied the security protections around the vulnerable programs and packaged the configurations in reproducible software containers. Those are controlled environments that others can run again. Exploitation depends on the protections and runtime conditions surrounding a bug, as well as the agent's reasoning. The original study hasn't been peer reviewed.
  11. In that earlier evaluation, the strongest configurations produced 157 working exploits for Claude Mythos Preview and 120 for GPT-5.5. Those were different models. Comparing those counts with November's percentages would require matching the tasks and conditions first.
  12. The original 898 instances don't tell us how many tasks sit behind the new percentages. In the May evaluation, exploitation remained challenging, but frontier agents succeeded on a meaningful fraction of vulnerabilities. They also retained some success with widely used defenses enabled. That combination explains both the defensive promise and the risk.
  13. GPT-6 Cyber reportedly found 81 previously unknown, high-severity Firefox vulnerabilities. It also examined roughly 1,000 Linux vulnerabilities in one run and generated patches. Those claims concern the existing model, and examination of Linux vulnerabilities doesn't mean discovery of that many new flaws.
  14. Generating a patch still leaves engineers with work to do. They need to validate the fix before accepting and deploying it. The practical claims about GPT-6 Cyber don't come with vulnerability records or patch outcomes that would let defenders check those results. The unreleased model's stronger benchmark score also needs its own evaluation details.
  15. The new comparison leaves the test setup unclear. Defenders need to know which tasks counted, how success was scored, and whether models had equivalent tools and attempt limits. Repeated runs would help show how much the results vary.
  16. The presented figures show a substantial benchmark lead. Whether that translates into a comparable real-world defensive advantage is still unresolved. OpenAI also hasn't announced access arrangements or specific safeguards for this unnamed model. It remains unreleased, with no public release date.

Tradução atualizada em

Exibido recentemente