Em julho de 2026, o Future of Life Institute publicou a edição de verão do AI Safety Index e a conclusão foi tão clara quanto incômoda: nenhum laboratório de inteligência artificial de fronteira conseguiu uma nota superior a C+. Sem distinções. Sem sequer menções honrosas. O primeiro da classe mal passou, e esse primeiro foi a Anthropic, a empresa que construiu sua marca precisamente sobre a promessa de ser a mais segura.
Enquanto os modelos de linguagem ganham capacidades semana a semana, a infraestrutura de segurança que deveria acompanhar esse avanço fica para trás. E isso não é opinião: é o resultado de 37 indicadores avaliados por sete especialistas independentes de Berkeley, Montreal, Wisconsin e Oxford.
Se sua organização já usa ferramentas baseadas nesses modelos, os resultados do índice não são uma curiosidade acadêmica. São o estado real do ecossistema sobre o qual você construiu seu stack de IA.
O exame que ninguém queria fazer
O AI Safety Index é publicado duas vezes por ano e avalia as principais empresas de IA em seis domínios: avaliação de riscos, danos atuais, frameworks de segurança, segurança existencial, governança e responsabilidade, e compartilhamento de informações. Cada domínio tem múltiplos indicadores. A nota máxima é 4.0, equivalente a um A no sistema acadêmico americano.
O painel que atribui as notas inclui figuras como Stuart Russell, cofundador do campo de IA e professor de UC Berkeley, e David Krueger, um dos fundadores do UK AI Security Institute. Não são ativistas com agenda: são referências técnicas da área.
As evidências foram coletadas até 3 de junho de 2026. Quatro empresas (Alibaba, xAI, DeepSeek e Mistral) nem sequer responderam à pesquisa do índice. Suas notas foram construídas apenas com informações públicas disponíveis.
O placar
| Empresa | Nota | Pontuação |
|---|---|---|
| Anthropic | C+ | 2.66 |
| OpenAI | C | 2.28 |
| Google DeepMind | C | 2.01 |
| Meta | D+ | 1.32 |
| Z.ai | D- | 0.88 |
| Alibaba Cloud | D- | 0.87 |
| xAI | F | 0.65 |
| DeepSeek | F | 0.47 |
| Mistral | F | 0.33 |
Três empresas com nota de reprovação: uma americana (xAI), uma chinesa (DeepSeek) e uma europeia (Mistral). O índice aponta uma "dissonância europeia" particularmente chamativa: a União Europeia lidera a regulação de IA a nível global, mas o principal laboratório europeu termina em último lugar em segurança.
O que mais preocupa o painel
As notas já são reveladoras, mas os achados qualitativos do relatório são ainda mais inquietantes.
Os compromissos de pausa desapareceram. Anthropic, OpenAI, Google DeepMind e Meta tinham firmado compromissos de interromper o desenvolvimento se certos limiares de risco fossem atingidos. Todos os enfraqueceram ou retiraram. O painel descreve isso como "mover o arco" e argumenta que isso solapou os frameworks de segurança em toda a indústria. Stuart Russell foi direto: as empresas planejam lançar novos sistemas mesmo quando seja demonstravelmente inseguro fazê-lo.
A IA militar virou um problema transversal. Entre 2024 e 2026, empresas que proibiam explicitamente aplicações militares, incluindo Anthropic, OpenAI, Google DeepMind e Meta, reverteram essa posição e buscam ativamente contratos de defesa. O painel identificou isso como um risco emergente de dano atual.
A segurança existencial é o domínio mais fraco. Nenhuma empresa superou C- nesse domínio. A maioria obtém D ou menos. Os paradigmas dominantes apostam em detectar problemas. Mas detectar não é prevenir.
O discurso de segurança não corresponde ao comportamento real. No Google DeepMind, OpenAI e xAI, as mensagens tranquilizadoras da liderança para o público divergem da conduta comercial e das posições legislativas dessas mesmas empresas.
O que significa usar IA de uma empresa que reprovou
O índice deixa claro que avalia as empresas como organizações, não os modelos específicos nem os produtos que implantam. Um F da xAI não é uma nota ao modelo Grok; é uma avaliação de como a xAI gerencia o risco como empresa.
Mas essa distinção não elimina a implicação prática. Quando uma empresa reprova, o relatório descreve o que faltou concretamente:
xAI (F): Não há evidência de uma equipe de segurança com peso real. As avaliações de capacidades perigosas têm lacunas enormes e não existe nenhum procedimento que conecte esses resultados a decisões de implantação. Se detectarem um problema sério no modelo antes de lançá-lo, não há mecanismo formal que obrigue a pausar.
DeepSeek (F): Sem framework de segurança publicado. Sem estrutura de governança visível. A única proteção real é a regulação do governo chinês, que o painel descreve como "passividade completa" diante de riscos existenciais de IA avançada.
Mistral (F): A liderança minimiza ativamente os riscos de fronteira em vez de articular uma estratégia de controle. Sem framework de segurança publicado e sem desempenho aceitável em benchmarks de segurança. E são eles que constroem os modelos implantados em vários produtos corporativos europeus.
Se sua organização usa algum desses modelos, a pergunta não é se a IA funciona. A pergunta é quem responde quando algo dá errado e qual protocolo existe para que isso não chegue aos seus fluxos de trabalho críticos.
Dá para confiar, então?
Depende de para quê.
A resposta honesta não é sim nem não: é que "confiar na IA" é a pergunta errada. A pergunta certa é qual nível de confiança é razoável para qual tipo de tarefa.
Para tarefas de baixo risco (redigir um rascunho, resumir um documento, gerar ideias), os modelos de qualquer laboratório da lista funcionam e o nível de segurança do fornecedor é quase irrelevante. Se o modelo alucina, você corrige.
Para processos que tocam dados sensíveis, decisões com impacto legal ou fluxos onde um erro se propaga sem revisão humana, o nível de segurança do laboratório por trás do modelo começa a importar muito. E aí há uma armadilha adicional: parte dos indicadores do índice se baseia em benchmarks padronizados. Como explicamos em Que diabos é um benchmark (e por que mede menos do que você imagina), um modelo pode brilhar na prova oficial e afundar em uma versão mais difícil do mesmo problema. O índice compensa isso com avaliações externas e indicadores de governança, mas a limitação vale ter em conta.
Usar Grok, DeepSeek ou Mistral em um processo crítico não é apenas apostar em um modelo com pior desempenho em benchmarks de segurança. É apostar em uma empresa que não tem documentado o que faz quando algo dá errado.
Isso não desqualifica automaticamente nenhum deles para todos os usos. Mas desloca o ônus da prova: se você escolhe um fornecedor com F, a responsabilidade pelos controles recai inteiramente na sua organização.
O ponto
A nota mais alta foi C+. Isso não significa que a IA seja inutilizável. Significa que o otimismo por padrão na hora de adotá-la em processos críticos merece ser substituído por critérios de avaliação concretos. Três perguntas que deveriam estar em qualquer avaliação de fornecedor:
O que acontece quando o modelo atinge um limiar de risco? Há um procedimento formal ou depende da decisão de um executivo?
Quem pode interromper uma implantação? Existe um órgão com autoridade real ou é apenas uma recomendação?
Os compromissos de segurança têm condições anexas? Se a promessa de pausar depende de os concorrentes também fazerem o mesmo, não é um compromisso.
O índice fornece os critérios. Aplicá-los é trabalho de cada organização. Se você quer analisar como isso se aplica ao seu stack de IA atual, entre em contato com a macareno.net e analisamos juntos.
Fontes
- AI Safety Index — Summer 2026 — Future of Life Institute
- The Latest AI Safety Rankings Are In. Nobody Gets an A — TIME