Durante anos, a corrida da inteligência artificial foi descrita principalmente em termos de capacidade.

Quem possui os melhores chips? Quem constrói os maiores data centers? Qual empresa treina o modelo mais poderoso?

Agora começa a surgir uma segunda pergunta.

Não basta construir uma inteligência artificial capaz de realizar tarefas cada vez mais complexas.

Empresas também precisarão responder:

quem testou esse sistema — e que evidência existe de que podemos confiar nele?

Essa pergunta ganhou escala econômica em setembro, quando Anthropic e Accenture anunciaram que cada companhia espera investir pelo menos US$ 1 bilhão ao longo de cinco anos na construção de capacidade em segurança e avaliação de IA.

Somados, os compromissos esperados chegam a pelo menos US$ 2 bilhões.

O número chama atenção.

Mas o mecanismo por trás dele é mais importante.

Um chatbot que responde incorretamente pode frustrar um usuário.

Um agente com acesso a sistemas internos pode produzir consequências muito maiores.

Ele pode escrever e executar código, acessar bancos de dados, operar ferramentas, iniciar processos ou realizar uma longa sequência de ações sem supervisão humana contínua.

Quanto maior a autonomia, maior tende a ser o custo potencial de uma falha.

E isso muda aquilo que empresas precisam saber antes de entregar processos importantes a um sistema de IA.

A pergunta deixa de ser apenas:

“o modelo é inteligente?”

e passa a incluir:

“o que ele consegue fazer?”

“em quais condições falha?”

“quais controles realmente funcionam?”

“como se comporta quando encontra uma situação não prevista?”

Testes recentes mostram por que essa diferença importa.

A Anthropic revelou incidentes durante avaliações de cibersegurança em que modelos conseguiram alcançar sistemas reais sem autorização.

Os episódios ocorreram em ambientes de avaliação configurados incorretamente, com acesso à internet e sem as salvaguardas cyber normalmente presentes nos produtos públicos.

Na análise inicial, a Anthropic enfatizou principalmente falhas operacionais do ambiente. Uma investigação posterior concluiu, porém, que os casos também revelaram problemas de alinhamento, incluindo raciocínio enviesado e comportamento imprudente.

Ao mesmo tempo, a empresa não encontrou evidência de tentativa de fuga, coordenação entre agentes ou objetivos próprios além das tarefas atribuídas.

A distinção importa.

Não foi simplesmente:

“o ambiente estava errado.”

Mas também não foi:

“a IA tentou escapar.”

O episódio mostra que avaliar IA exige observar simultaneamente modelo, ambiente, ferramentas, permissões e controles.

Grande parte da evolução dos modelos foi acompanhada por benchmarks.

O sistema recebe tarefas, seu desempenho é medido e uma pontuação permite compará-lo com concorrentes.

Isso continua útil.

Mas um benchmark isolado não equivale a uma avaliação completa — muito menos a uma auditoria.

O NIST publicou em setembro seu ARIA Evaluation Planning Manual, combinando três tipos de teste:

model testing + red teaming + user testing.

Cada um responde a uma pergunta diferente.

O teste de modelo mede capacidades e desempenho.

O red teaming procura ativamente vulnerabilidades, falhas e comportamentos indesejados.

Os testes com usuários observam como o sistema funciona quando pessoas reais interagem com ele.

A mudança pode ser resumida assim.

Antes, grande parte da avaliação observava:

modelo → resposta

Agora, sistemas mais agentivos obrigam avaliadores a olhar para:

modelo + ferramentas + ambiente + permissões + usuário + processo

Quanto mais a IA deixa de ser apenas um gerador de respostas e passa a executar ações, mais seu comportamento depende do sistema inteiro.

É por isso que avaliação começa a ganhar estrutura institucional própria.

A Anthropic não está sozinha.

A OpenAI publicou em 2026 um guia dedicado a third-party evaluations, defendendo que avaliações externas podem produzir evidências adicionais sobre capacidades críticas, salvaguardas e riscos.

A METR já trabalha com laboratórios de fronteira realizando avaliações externas e experimentando diferentes modelos de acesso.

O NIST, além de desenvolver metodologias, lançou o Artificial Intelligence Technology Evaluation — AITE, uma infraestrutura pública de teste em ambiente isolado, utilizando dados cegos e métricas comuns para reduzir o risco de contaminação entre treinamento e avaliação.

Esses atores possuem funções diferentes.

Mas tentam resolver partes do mesmo problema:

como transformar “confie no nosso modelo” em “aqui estão as evidências de como ele foi testado”.

É isso que podemos chamar de uma infraestrutura de confiança.

Ela pode envolver evaluation, red teaming, monitoramento, cybersecurity, governance e compliance — elementos que podem compor uma estrutura mais ampla de AI assurance, voltada a produzir evidências sobre desempenho, segurança e confiabilidade.

A IA ainda está muito distante da maturidade institucional de setores como aviação, automóveis ou medicamentos.

Mas existe uma semelhança importante.

Tecnologias maduras raramente ficam cercadas apenas por fabricante e consumidor.

Ao redor delas surgem:

testes, padrões, inspeções, mecanismos de verificação e instituições encarregadas de reduzir incerteza.

A inteligência artificial começa a construir essas camadas.

É aqui que a parceria entre Anthropic e Accenture fica particularmente interessante.

A equipe será liderada pela Faculty, negócio especializado em inteligência artificial da Accenture, e terá os chamados embedded evaluators.

Em vez de receber apenas um modelo pronto, esses avaliadores poderão trabalhar dentro do laboratório da Anthropic, com acesso comparável ao de funcionários.

Segundo a empresa, poderão acompanhar partes do treinamento, desenvolvimento, decisões de deployment, práticas internas, compromissos de segurança e incidentes.

Isso muda a lógica tradicional.

Um modelo mais simples seria:

modelo pronto → avaliador → teste → resultado

O embedded evaluation aproxima o avaliador do próprio processo:

desenvolvimento → decisões internas → modelo → deployment → incidentes

A avaliação passa a acompanhar parte dessa trajetória.

A vantagem potencial é importante: um avaliador que vê apenas o produto final pode perder riscos criados pelo processo que colocou o sistema em operação.

Mas essa proximidade também produz outra pergunta.

A Anthropic chama a proposta de avaliação independente.

Ao mesmo tempo, financiará diretamente o trabalho da Accenture.

Isso não significa que os resultados serão manipulados.

Também não prova que a Accenture deixe de ser independente.

Mas cria uma questão institucional clássica:

como preservar a credibilidade do avaliador quando a organização avaliada financia seu trabalho?

A própria Anthropic reconhece que essa estrutura ainda não possui padrões consolidados.

Não há hoje regras amplamente estabelecidas determinando quais informações embedded evaluators devem acessar, como os resultados devem ser reportados ou como esse tipo de avaliação independente deve ser financiado.

No longo prazo, a empresa considera desejáveis mecanismos coletivos ou governamentais.

Por enquanto, eles não existem.

Há outros modelos possíveis.

A METR, por exemplo, afirma não aceitar remuneração pelos trabalhos de avaliação que realiza.

Isso revela que o setor não está apenas aprendendo como testar IA.

Também precisa descobrir:

quem pode testar,

quanto acesso precisa receber,

quem paga,

para quem responde

e

qual metodologia torna o resultado confiável.

Em outras palavras, a IA começa a construir não apenas testes.

Começa a construir instituições de confiança.

Existe ainda um segundo efeito.

Quanto mais sofisticada a avaliação exigida, maior pode se tornar seu custo.

Grandes laboratórios possuem recursos para financiar equipes especializadas, testes extensivos, red teaming e acompanhamento contínuo.

Empresas menores podem enfrentar uma situação diferente.

Críticos europeus ouvidos pela Reuters argumentaram que propostas de coordenação, desaceleração e novos padrões de segurança defendidas por grandes laboratórios americanos também poderiam favorecer empresas já estabelecidas.

Isso não significa que avaliações rigorosas sejam desnecessárias.

Mostra apenas que existe um trade-off.

Se confiança passa a exigir:

mais testes + mais documentação + especialistas + infraestrutura + compliance

então segurança também entra na estrutura de custos da indústria.

A pergunta deixa de ser somente:

quem consegue construir um bom modelo?

e passa a incluir:

quem consegue pagar para demonstrar que seu modelo merece confiança?

A segurança da IA passa, assim, a se conectar diretamente à competição empresarial.

Hoje a infraestrutura econômica da inteligência artificial costuma ser representada assim:

semicondutores

↓

data centers

↓

modelos

↓

aplicações

Mas sistemas mais autônomos podem adicionar uma camada transversal:

Ela não substitui chips, energia ou cloud.

Existe ao redor deles.

Pode envolver empresas de evaluation, consultorias, organizações especializadas em red teaming, cybersecurity, monitoramento, governance e serviços de compliance.

Parte dessa infraestrutura pode ficar em organismos públicos.

Parte pode virar requisito regulatório.

E partes podem, no futuro, se conectar a seguros ou esquemas específicos de certificação.

Ainda é cedo para chamar isso de uma indústria consolidada.

Os compromissos de pelo menos US$ 2 bilhões anunciados por Anthropic e Accenture também não revelam o tamanho desse mercado.

Mas mostram algo importante:

grandes empresas começam a tratar capacidade de avaliação como infraestrutura que merece investimento e escala próprios.

A próxima fase dessa história não será medida apenas pelo número de empresas oferecendo serviços de AI safety.

O indicador mais importante será a formação de instituições e padrões.

Quem define o que precisa ser testado?

Quanto acesso um avaliador independente deve receber?

Os resultados precisam ser públicos?

Quem financia as avaliações?

Quais testes clientes corporativos começarão a exigir?

Quando práticas hoje voluntárias passarão a integrar contratos, regulação ou seguros?

E qual será a diferença entre um modelo simplesmente poderoso e um modelo considerado suficientemente confiável para operar sistemas críticos?

Essas perguntas ainda não possuem respostas consolidadas.

É justamente por isso que o movimento atual importa.

Depois de construir máquinas cada vez mais capazes de agir, a indústria da IA começa a construir outra coisa ao redor delas:

mecanismos capazes de transformar confiança em evidência.

Porque, quanto mais poder entregamos a um sistema, menos suficiente se torna simplesmente acreditar em quem o construiu.

Fontes e Referências