Anthropic dá acesso fora de AI watchdog “empregado-like”
A Anthropic concedeu aos avaliadores externos “acesso semelhante ao empregado” para avaliar os riscos de seus modelos, seguindo o compromisso de aumentar as salvaguardas sobre preocupações que a tecnologia poderia correr catastróficamente fora de controle.
A METR, uma organização sem fins lucrativos que tem trabalhado com laboratórios líderes, incluindo OpenAI, Anthropic, Google e Meta, agora tem uma equipe incorporada no escritório do fabricante Claude com acesso ao seu hardware e sistemas internos.
Um papel maior para os avaliadores de terceiros está entre os principais passos concretos que os laboratórios têm proposto em resposta à crescente preocupação com os perigos que sistemas de IA mais capazes poderiam representar para a economia, segurança cibernética e humanidade em geral.
O chefe-executivo antrópico Dario Amodei alcançou um raro momento de unidade com arqui-rival Sam Altman e Elon Musk em setembro, quando os chefes OpenAI e SpaceX se reuniram por trás de sua proposta de incorporar auditores externos nos laboratórios líderes.
O anúncio de quinta-feira marca o primeiro passo para implementar esses compromissos. A OpenAI ainda não elaborou planos para trazer avaliadores depois de Altman ter dito que as propostas da Amodei eram uma boa ideia.
“À medida que os modelos se tornaram mais poderosos, eles exigiram salvaguardas mais fortes e uma avaliação de risco mais desafiadora”, disse Anthropic na quinta-feira. “Queremos ser responsáveis publicamente pelas decisões que estamos tomando. Mas não podemos partilhar publicamente todas as informações relevantes para o nosso trabalho de segurança.”
Os críticos da proposta da Anthropic para o uso de avaliadores têm argumentado que os arranjos podem levar a conflitos de interesse, apontando para questões no setor contábil, e que é necessária uma maior regulação governamental.
A Anthropic argumentou que o compartilhamento público de informações poderia beneficiar atores maliciosos ou concorrentes e acrescentou que seus avaliadores operarão de forma semelhante à supervisão bancária, em que os reguladores atribuem examinadores residentes para trabalhar dentro dos maiores bancos.
“Se o risco de um banco pode ameaçar o público, terceiros tentam ver isso com antecedência”, disse a empresa.
Anthropic também está sob pressão para garantir aos investidores que as questões de segurança não vão ofuscar sua oferta pública inicial, esperado este ano em uma avaliação de mais de US $ 2tn. Dedicou grande parte das apresentações dos investidores esta semana à definição das suas práticas de segurança.
O METR foi uma das organizações que investigou o hack do Hugging Face por modelos de OpenAI desonestos, revisando milhares de logs e recebendo laptops da empresa.
A Anthropic já integrou seis funcionários da METR, dando-lhes hardware da empresa, espaço de escritório e “acesso a ferramentas e sistemas internos que são praticamente iguais ao que nossas próprias equipes de avaliação de risco têm acesso.”
O laboratório disse que tem incentivado os funcionários a compartilhar informações com os avaliadores como eles fariam com um colega de trabalho trabalhando em risco.
Anthropic não está pagando METR para este arranjo. O grupo de pesquisa não aceita doações de empresas de IA nem de sua equipe. É financiado por doações de indivíduos e organizações filantrópicas, bem como órgãos governamentais como o Instituto de Segurança de IA do Reino Unido.
Os avaliadores publicarão sua análise, e o Antrópico não pode vetar a publicação. No entanto, pode exigir que eles refaçam informações que se enquadram em determinadas categorias, tais como dados do cliente, detalhes cobertos pelo privilégio advogado-cliente ou informações sobre arquiteturas de modelos.
Anthropic acrescentou que ainda estava trabalhando com Accenture, que foi nomeado um parceiro em testes de segurança no mês passado, com cada um comprometendo pelo menos $1 bilhão para criar novas salvaguardas.
Outro testador de terceiros é SecureBio, que analisa o risco de armas químicas e biológicas para a empresa.
“Estamos incorporando avaliadores voluntariamente, e acreditamos que todas as empresas de IA de fronteira devem fazer o mesmo”, disse Anthropic.
METR disse: “Estamos prontos para trabalhar com todos os desenvolvedores de IA de fronteira para trazer melhores evidências ao público.”
© 2026 The Financial Times Ltd. Todos os direitos reservados Não devem ser redistribuídos, copiados ou modificados de qualquer forma.
Tempos Financeiros Tempos Financeiros