Os professores da área da IA estão a lidar com as novas realidades da investigação académica

Esta notícia foi publicada originalmente no The Algorithm, a nossa newsletter semanal sobre IA. Para receber notícias como esta na sua caixa de entrada em primeira mão, inscreva-se aqui.

Na semana passada, dirigi-me 30 milhas a sul de São Francisco, para um hotel em Mountain View, na Califórnia, para me juntar a alguns dos investigadores de IA mais conceituados e a alguns dos mais promissores do mundo. Estava a moderar entrevistas em mesa redonda e a intervir numa formação sobre comunicação social no âmbito de um encontro do programa Schmidt Sciences AI2050, uma iniciativa financiada por Eric e Wendy Schmidt que apoia académicos cujo trabalho envolve IA. A lista de bolseiros é um verdadeiro «quem é quem» das luminárias da IA e, embora nem todos tenham conseguido chegar à Baía, sempre que virava uma esquina via um cientista que já tinha entrevistado anteriormente ou cuja investigação admirava. (Divulgação completa: recebi um prémio de comunicação científica financiado pela Schmidt Sciences em 2024.) 

É um momento estranho para os investigadores universitários de IA, que constituem a maior parte do grupo AI2050. Nos últimos quatro anos, a investigação em IA reorientou-se em torno de grandes modelos de linguagem, e a sua vanguarda passou das instituições académicas para as empresas privadas. As universidades simplesmente não têm meios para adquirir as GPUs necessárias para treinar e executar modelos de ponta e, mesmo que pudessem, a Anthropic e a OpenAI não permitem que mais ninguém tenha acesso aos detalhes internos do Claude ou do ChatGPT.

Numa conversa durante o almoço, Nika Haghtalab, professora de ciências da computação na UC Berkeley, afirmou que ser um académico de IA nos dias de hoje era como ser um biólogo num mundo em que as empresas privadas detivessem o controlo exclusivo sobre a ferramenta de edição genética CRISPR. Os especialistas fora dos laboratórios de ponta podem estudar o comportamento do ChatGPT e do Claude, mas não podem realizar qualquer investigação detalhada sobre a conceção e o treino dessas ferramentas, nem podem orientar eles próprios essa conceção ou esse treino.

 O programa AI2050 oferece aos bolseiros algum financiamento que podem utilizar para adquirir GPUs, o que, segundo alguns investigadores com quem falei, constitui uma grande vantagem de participar no programa. No entanto, o dinheiro continua a ser uma preocupação premente, especialmente tendo em conta a redução do financiamento científico federal nos Estados Unidos. Mesmo para os investigadores que não executam eles próprios modelos locais, o custo de consultar repetidamente os modelos da OpenAI, da Anthropic e do Google, a fim de os estudar rigorosamente, pode ser proibitivo.

Em vez de se concentrarem no avanço das capacidades, muitos bolseiros direcionam a sua atenção para questões que provavelmente não serão abordadas pela Anthropic ou pela OpenAI. «Tento não trabalhar em problemas que acho que vão ser resolvidos por uma empresa de tecnologia», afirma Anjalie Field, professora de ciências da computação na Johns Hopkins. As empresas precisam de ganhar dinheiro, e questões de investigação com poucas perspetivas de lucro podem não valer a pena o investimento — especialmente se as respostas puderem prejudicar a imagem das empresas. Recentemente, por exemplo, Field realizou um estudo no qual descobriu que os modelos de linguagem dão respostas menos sofisticadas a prompts formulados de maneiras mais comuns entre as mulheres do que entre os homens. É difícil imaginar esse tipo de investigação a surgir da Anthropic ou da OpenAI.

Existe também um enorme grupo de académicos da IA que não trabalha de todo com LLMs. Muitos deles são cientistas que criam modelos especializados de IA capazes de analisar dados, fazer previsões úteis ou até simular sistemas físicos completos. Esses investigadores não estão necessariamente a competir com os laboratórios de vanguarda — a equipa AlphaFold da Google DeepMind, que criou um modelo vencedor do Prémio Nobel capaz de prever as estruturas das proteínas, foi dissolvida no mês passado. Mas enfrentam muitos desafios próprios. Na reunião, vários manifestaram preocupações sobre a forma como a ignorância generalizada em relação à IA não baseada em LLMs estava a afetar o seu trabalho. Os investigadores que desenvolvem ferramentas especializadas de IA para ajudar a combater as alterações climáticas, por exemplo, têm por vezes dificuldade em defender o seu trabalho quando tantas pessoas acreditam que «IA» significa «LLMs que consomem muita energia».

Todos estes desafios estão a mudar o panorama do meio académico: vários académicos de renome tiraram recentemente licença das suas universidades para se juntarem a laboratórios de vanguarda, e muitos bolseiros da AI2050 ocupam cargos na indústria a par das suas funções académicas. E, nos últimos seis meses, surgiu mais uma ameaça. Os modelos da OpenAI resolveram uma série de problemas reais de investigação em matemática, e alguns especialistas receiam que os seres humanos possam não ter futuro na matemática pura. Uma bolseira com quem falei disse estar preocupada com a saúde mental dos seus colegas matemáticos.

Mas nem tudo é desgraça e tristeza. Por um lado, a ciência empírica pode revelar-se muito mais difícil de automatizar do que a matemática, porque a recolha de dados é um processo intrinsecamente lento. E alguns investigadores encaram os matemáticos e cientistas de IA como uma bênção, em vez de uma ameaça — incluindo Tim Dettmers, um cientista da computação da Carnegie Mellon que trabalha para tornar os modelos de IA mais rápidos e mais baratos de executar. Os cientistas de IA não vão substituir os humanos, afirma Dettmers. Pelo contrário, poderão tornar os cientistas humanos muito mais eficientes, para que ele e os seus colegas tenham a oportunidade de explorar todas as ideias ousadas e inspiradas que, de outra forma, talvez nunca tivessem chegado a concretizar.

E os cientistas são um grupo resiliente. As mesmas limitações de recursos que os impedem de treinar modelos de ponta também os levam a descobrir novas formas de tornar os modelos mais pequenos e eficientes, ou a explorar arquiteturas completamente novas. Se o próximo grande avanço na IA não vier de uma grande empresa, mas sim de um laboratório académico modesto, não ficarei surpreendido.