A nova marca de água «A Letra Escarlate» do Claude é invisível — por enquanto
A Anthropic revelou que, em breve, irá aplicar marcas de água ao conteúdo que seja processado (não apenas gerado!) por qualquer um dos seus modelos. Num artigo de apoio, a Anthropic explicou que está a implementar marcas de água legíveis por máquinas para cumprir a Lei da IA da União Europeia, que exige que todos os fornecedores de sistemas de IA apliquem marcas de água aos resultados de áudio, imagem, texto e vídeo gerados ou manipulados por IA. A lei aplica-se a qualquer modelo de IA lançado após 2 de agosto e prevê um período de carência até dezembro de 2026 para que os fornecedores atualizem os modelos lançados anteriormente.
A Anthropic confirmou que, daqui em diante, todos os novos modelos oferecidos a nível global — e não apenas na UE — irão marcar o conteúdo gerado por IA «desde o primeiro dia». As saídas de texto irão «conter marcas de água incorporadas», invisíveis para o utilizador, e outros «ficheiros gerados incluirão metadados de proveniência assinados digitalmente, sempre que tal for suportado», afirmou a Anthropic.
Notavelmente, a Anthropic está a adotar uma abordagem de «eliminar completamente», aplicando as marcas de água a todo o conteúdo processado sempre que tal for suportado, mesmo que a UE não o exija nos casos em que um sistema de IA desempenhe «uma função de assistência à edição padrão» (o próprio exemplo das orientações é a correção gramatical), ou quando não «altere substancialmente» o texto do utilizador ou o seu significado. Uma marca d’água aplicada ao nível do modelo não consegue distinguir entre a geração em massa e a correção de uma vírgula, pelo que o Claude poderá acabar por marcar exatamente o conteúdo que a lei foi concebida para deixar de fora. Só se saberá com que rigor a marca d’água é realmente aplicada quando a Anthropic lançar uma ferramenta de deteção que possa ser testada. A empresa afirmou que tenciona, a seu tempo, partilhar detalhes sobre como detetar as marcas, a fim de oferecer o apoio técnico exigido pela legislação da UE.