Ainda não sabemos como é que as pessoas estão realmente a utilizar a IA
Empresas de IA como a Anthropic e a OpenAI publicam regularmente relatórios sobre a forma como as pessoas utilizam produtos como o Claude e o ChatGPT, mas, segundo os investigadores de IA, apenas divulgam os dados que querem que vejamos.
«Não existe nenhuma fonte independente que o corrobore», afirma Anka Reuel, doutoranda em Ciências da Computação no Laboratório Stanford Trustworthy AI Research (STAIR).
Reuel é co-coordenadora de um novo projeto de investigação, denominado AI Observatory, que visa colmatar esta lacuna. Trata-se de uma plataforma pública que agregou e analisou conversas reais com IA, utilizando modelos populares como o Claude e o Gemini, recolhidas com o consentimento dos utilizadores através de sete conjuntos de dados existentes. A intenção do Observatório é fornecer fontes de informação independentes para que investigadores e decisores políticos avaliem como as pessoas estão a utilizar a IA generativa. Atualmente, as partes interessadas estão a tomar decisões de grande impacto sobre os benefícios e riscos da IA com base em dados muito limitados, afirma Reuel.
O Observatório de IA constatou que a utilização da IA difere significativamente entre os modelos e tem vindo a mudar ao longo do tempo. A sua investigação revela muitos mais comportamentos sensíveis do que aqueles captados nos relatórios das principais empresas de IA, que, segundo eles, se concentram mais no trabalho do que na utilização pessoal.
O Índice Económico da Anthropic é uma das fontes mais conhecidas e mais citadas de dados sobre a utilização da IA, mas apresenta lacunas. Tal como o próprio nome sugere, centra-se nas utilizações da IA Claude relacionadas com o trabalho e a produtividade — filtrando as conversas que não estão relacionadas com estas utilizações.
Quando a equipa do AI Observatory aplicou os métodos da Anthropic ao seu conjunto de dados, descobriu que quase metade das conversas — ou 48% — teria sido filtrada. As conversas não relacionadas com o trabalho que foram filtradas eram mais propensas a incluir temas de saúde e relações (44,2% contra 31,2% na análise da Anthropic), tópicos para adultos ou ilícitos (7,9% contra 2,1%), assédio e ódio (27,5% contra 5,66%) e conteúdo sexual (16,7% contra 2,4%). (O relatório de 2025 da OpenAI sobre a utilização do ChatGPT, de forma semelhante, concluiu que apenas 30% da utilização por parte dos consumidores estava relacionada com o trabalho.)
A Anthropic publicou artigos de blogue separados sobre como as pessoas utilizam o Claude para obter apoio ou companhia, e até mesmo para gerar CSAM, «mas dispor da análise global [do Observatório de IA], em vez de uma divisão em relatórios separados, ajuda» os investigadores a compreender as diferentes utilizações de forma mais consistente, afirma David Widder, professor assistente na Escola de Informação da UT-Austin, que investiga a forma como as pessoas interagem com sistemas de IA e não está envolvido no Observatório de IA.
Os conjuntos de dados analisados pelo Observatório de IA incluem conversas que ocorreram entre 2023 e 2025, e revelaram diferenças tanto na forma como as pessoas utilizavam a IA como na forma como as várias plataformas de IA respondiam.
As conversas no WildChat, um dos maiores e mais detalhados conjuntos de dados incluídos no estudo do Observatório de IA, tornaram-se mais longas e elaboradas ao longo do tempo, o que se traduziu num aumento dos tokens de prompt, dos tokens de resposta e das trocas de mensagens.
Houve também um aumento significativo das conversas triviais ao longo do tempo. Isso sugere que a companhia proporcionada pela IA estava a aumentar; entretanto, a auto-revelação dos assistentes de IA (ou seja, o facto de se tratarem de chatbots) diminuiu.
Além disso, as trocas que os investigadores classificaram como «utilização sensível» — ou seja, aquelas com conteúdo potencialmente prejudicial ou restrito, incluindo assédio sexual e discurso de ódio — diminuíram. Isso pode sugerir que as plataformas estavam, de um modo geral, a implementar medidas de proteção mais eficazes.
O Observatório da IA constatou ainda que a utilização da IA apresentava diferenças significativas consoante o modelo. Dependendo da ferramenta, os utilizadores variavam em termos de tópicos, estilos de interação, estruturas de conversação, bem como na probabilidade e no tipo de casos de utilização sensível.
Por exemplo, os investigadores descobriram que as pessoas utilizavam o Grok e o Gemini com maior frequência para a recuperação de informação. O Grok, em particular, era especialmente popular para informação sobre notícias e política, mas era também onde a desinformação tendia a concentrar-se. (Isto está em consonância com outras investigações que também demonstraram a facilidade com que a desinformação se prolifera no Grok. A xAI não respondeu a um pedido de comentário.)
Entretanto, as pessoas tendiam a recorrer ao Anthropic para programação, ao Gemini para utilizações sociais e de roleplay, e ao ChatGPT para ajuda com os trabalhos de casa.
Havia até diferenças entre as diferentes versões do mesmo modelo. Os investigadores descobriram que as pessoas tinham conversas mais curtas com o ChatGPT quando este era alimentado pelo GPT-3.5, e conversas mais longas e iterativas com o GPT-4o — o que faz sentido, dado que essa versão ficou conhecida por levar à dependência emocional.
Os relatórios das empresas, no entanto, não tendiam a captar estas nuances entre os seus próprios modelos, nem mesmo no seio dos mesmos. «Nenhum relatório de empresa, por si só, conta toda a história», afirma Shayne Longpre, recém-doutorado pelo MIT Media Lab, que co-liderou a investigação com Reuel.
Para criar o AI Observatory, Reuel e investigadores do MIT, de Stanford, da Data Provenance Initiative e de outras instituições agregaram 24 521 conversas, distribuídas por 85 633 trocas de mensagens (ou seja, o prompt do utilizador e a resposta correspondente da IA), provenientes de sete conjuntos de dados do mundo real recolhidos em investigações anteriores. Estas conversas provêm de 5 000 utilizadores que interagiram com 52 modelos diferentes, incluindo o ChatGPT, o Gemini, o Claude e o Grok, entre 2023 e 2025.
No entanto, estas conversas são uma gota no oceano, comparadas com os dados a que os próprios grandes laboratórios têm acesso. O mais recente Índice Económico de IA da Anthropic, por exemplo, baseia-se na análise de 1 milhão de conversas do Claude; o relatório da OpenAI sobre a forma como as pessoas estão a utilizar o ChatGPT analisou 1,5 milhões de conversas.
Um representante da Anthropic afirmou que a investigação publicada reflete as questões e os interesses específicos das suas equipas de investigação, bem como a importância de apoiar a investigação externa independente. A OpenAI não respondeu aos pedidos de comentários.
Além disso, o facto de o conjunto de dados do AI Observatory provir de fontes fornecidas voluntariamente significa que é provável que esteja a sub-representar utilizações sensíveis, que as pessoas possam estar menos dispostas a partilhar. Assim, os investigadores alertam que as suas conclusões não são indicativas de toda a utilização da IA.
O trabalho do Observatório, no entanto, alarga o acesso à comunidade científica. As empresas de IA normalmente não partilham os seus dados de chat para análise, o que significa que os seus relatórios tendem a centrar-se nas conclusões que apresentam as suas empresas sob a melhor luz, afirmam investigadores independentes, como Reuel e Widder.
«Quando queremos perguntar, por exemplo: o sistema de IA de uso geral da Anthropic… é utilizado principalmente para o bem ou principalmente para o mal… não temos como responder a essa pergunta porque essa informação é confidencial», explica Widder, professor assistente na Escola de Informação da UT-Austin.
Os dados do Observatório de IA estarão disponíveis para análise por parte dos investigadores, e a equipa espera expandir os seus conjuntos de dados ao longo do tempo. Idealmente, diz Reuel, as empresas de IA partilhariam os seus dados com investigadores independentes — de forma a proteger a privacidade dos utilizadores, claro. Mas, na situação atual, «quem toma decisões com base em dados de utilização da IA corre o risco de “agir completamente às cegas e tomar decisões com consequências graves sem saber o que realmente se passa para além das narrativas dessas empresas”», afirma Reuel.