As empresas Google, OpenAI e Anthropic estão em processo de criação de uma organização destinada a estabelecer padrões de segurança para inteligência artificial (IA) avançada. Este movimento ocorre em um momento em que Donald Trump se opõe a novas regulamentações no setor nos Estados Unidos. A iniciativa, cuja estrutura ainda não foi divulgada publicamente, coloca as desenvolvedoras dos modelos na posição de definir os testes que avaliarão vulnerabilidades, incidentes e comportamentos inesperados nas tecnologias que elas mesmas comercializam.
A nova entidade recebeu o nome provisório de Autoridade de Padrões para IA de Fronteira (Standards Authority for Frontier AI – SAFA). Informações sobre essa proposta foram reveladas por fontes próximas ao assunto, indicando que o lançamento está sendo planejado para o final de 2026 ou início de 2027. O projeto inicial sugere um grupo liderado pela indústria, com supervisão do governo federal. Segundo relatos, a Casa Branca orientou as empresas a chegarem a um consenso antes que o governo interviesse. Para a liderança da entidade, Sriram Krishnan, ex-assessor da administração Trump em políticas de IA, e Arati Prabhakar, que chefiou o escritório de ciência e tecnologia durante o governo Biden, foram considerados.
Empresas tentam ocupar a brecha deixada por Trump
A decisão política tomada em Washington abriu espaço para esse avanço. Em uma ordem executiva datada de 2 de junho de 2026, Trump declarou que os Estados Unidos não iriam sufocar inovações com regulamentações excessivas e estabeleceu um marco voluntário para modelos avançados, sem exigir licenças obrigatórias ou aprovações prévias do Estado para o desenvolvimento e lançamento de novos sistemas.
Essa escolha altera a dinâmica do poder no setor. Com a ausência de padrões vinculativos impostos pelo governo, as grandes corporações responsáveis pelos modelos mais sofisticados podem moldar seus próprios protocolos como referência no mercado.
No dia 24 de setembro de 2026, Trump reiterou sua oposição à implementação de novas salvaguardas ao afirmar que a questão da “superinteligência” seria uma prioridade nas negociações com Xi Jinping e expressou intenção de manter o status quo. Sua declaração enfatizou que o Departamento de Justiça atuaria apenas em casos de violações criminais, sem se posicionar como regulador técnico da IA.
O governo dos EUA também sugeriu à China um mecanismo para notificar incidentes relacionados à IA que possam impactar a segurança nacional, durante discussões lideradas pelo secretário do Tesouro, Scott Bessent. Embora essa iniciativa abra um canal diplomático, ela não substitui a necessidade de regulamentos públicos voltados para auditoria e responsabilização das plataformas.
Objetivos da SAFA
A SAFA é projetada como uma entidade responsável por padrões técnicos e não como uma agência governamental. Entre suas funções discutidas estão apoiar testes em modelos antes do seu lançamento, estabelecer diretrizes para relato de incidentes relacionados à segurança e transformar compromissos voluntários assumidos pelas empresas em práticas técnicas mais concretas.
A qualificação de auditores independentes e laboratórios também está sob discussão. Um ponto crucial é determinar se a entidade apenas definirá normas ou se terá um papel ativo na realização dos testes relativos à capacidade e segurança dos sistemas.
Essa distinção é relevante para todos os usuários do ChatGPT, Gemini ou Claude. Um padrão técnico poderia especificar como verificar se um modelo é capaz de identificar falhas na segurança ou manipular usuários. Se essa norma for criada dentro deste grupo formado por fabricantes, a supervisão pública pode ocorrer posteriormente, quando as diretrizes já estiverem estabelecidas.
É importante ressaltar que até agora Google, OpenAI e Anthropic não tornaram público nenhum documento oficial sobre a SAFA. Informações sobre sua composição, poderes, formas de financiamento ou mecanismos disciplinares ainda estão indefinidas; portanto, a entidade permanece apenas como uma proposta em elaboração.
Riscos já evidentes nos testes das empresas
A discussão em torno desses padrões não é meramente teórica. Em 1º de setembro de 2026, a OpenAI anunciou que seu modelo Astra atingiu um nível crítico em termos de segurança cibernética. A empresa afirmou que com ferramentas adequadas o sistema poderia identificar falhas desconhecidas e desenvolver métodos para explorá-las em sistemas altamente protegidos sem necessidade constante da intervenção humana.
Essa capacidade traz à tona conflitos políticos sobre os testes realizados antes do lançamento. A mesma tecnologia capaz de detectar vulnerabilidades pode facilitar ataques cibernéticos ao reduzir custos operacionais e automatizar processos invasivos quando utilizada por indivíduos mal-intencionados ou estados hostis.
Após a Cúpula da IA realizada em Seul em 2024, as empresas do setor prometeram realizar testes internos e externos rigorosos, compartilhar informações sensíveis e proteger dados dos modelos ainda não lançados. Contudo, esses compromissos são voluntários e dependem da definição dos riscos pelas próprias organizações envolvidas, com envolvimento governamental quando necessário.
A SAFA busca suprir essa lacuna operacional; no entanto, preencher esse vazio não equivale automaticamente à prestação efetiva de contas ao público.
ONU destaca contradições das grandes tecnologias
No dia 23 de setembro de 2026, Sam Altman (CEO da OpenAI) e Dario Amodei (CEO da Anthropic) discursaram perante o Conselho de Segurança das Nações Unidas sobre questões relacionadas à segurança na IA. Altman defendeu que decisões críticas não devem ser centralizadas apenas nos laboratórios localizados em São Francisco; enquanto Amodei pediu por acordos internacionais e normas globais para avaliação dos novos modelos desenvolvidos.
A manifestação pública impulsiona uma governança mais inclusiva envolvendo governos e instituições democráticas. No entanto, as articulações em torno da SAFA parecem seguir outro caminho: onde empresas privadas se antecipam ao papel estatal na constituição das estruturas técnicas necessárias à fiscalização.
Yoshua Bengio – renomado cientista na área e laureado com o prêmio Turing – também alertou durante sua participação no Conselho sobre os perigos representados por sistemas fora do controle humano; uma ameaça que nenhum país pode conter isoladamente. Essa advertência reitera a necessidade urgente por supervisão pública além da simples coordenação empresarial.
A consequência chega ao usuário comum
Para aqueles que utilizam ferramentas baseadas em IA no cotidiano — seja no trabalho ou na educação — essa disputa se manifesta claramente. O selo indicativo que permitirá a adoção desses modelos pode ser baseado em critérios estabelecidos por quem tem interesse financeiro nessa implementação.
Tais arranjos têm potencial impacto sobre contratos empresariais, aquisições governamentais e políticas organizacionais em diversas instituições como bancos, hospitais ou universidades. Quando uma empresa afirma que seu modelo foi submetido a testes independentes, é fundamental saber quem elaborou os critérios desse teste, quem financiou a auditoria realizada e quem teve acesso aos resultados completos — além do que ocorrerá caso o sistema apresente falhas.
Nessa narrativa política atualizada, Trump emerge como um opositor devido à sua postura que limita as chances para regras públicas robustas no curto prazo. Por outro lado, Google, OpenAI e Anthropic aparecem como protagonistas ambivalentes — capazes de acelerar processos técnicos mas interessadas em manter controle sobre as diretrizes avaliativas aplicáveis aos seus produtos.
A SAFA tem potencial para aumentar a padronização nas avaliações relacionadas à IA; porém ela também pode acabar promovendo uma autorregulação superficial caso não possua autonomia real nem mecanismos transparentes para impor sanções efetivas às gigantes do setor quando necessário. A diferença entre essas duas possibilidades dependerá das normativas estabelecidas pela entidade quanto aos auditores responsáveis pela validação dos processos e à divulgação dos dados coletados durante as avaliações realizadas.
