A eficiência da IA pode privar-nos da próxima geração de especialistas

Há pouco mais de uma década, liderei a conceção dos controlos para um sistema de controlo totalmente digital, o primeiro do género, destinado a uma central nuclear nos EUA. Era, no papel, uma máquina magnífica — concebida para funcionar de forma autónoma, tal como um avião de passageiros moderno, com os operadores a supervisionarem um sistema que raramente precisava da sua intervenção. E tomámos uma decisão que, aos olhos de um observador preocupado com a eficiência, parecia retrógrada: deixámos deliberadamente etapas manuais dentro de sequências que o sistema poderia executar por si próprio.

Estávamos a resolver um problema específico. Um operador que se limita a supervisionar a automação deixa, aos poucos, de ser um operador. As mãos ficam frias. O modelo mental do que a central está realmente a fazer torna-se difuso. Depois chega o dia em que a automação devolve o controlo. É sempre o pior dia, porque a automação só desiste quando está confusa ou em apuros. Mas, nessa altura, temos uma pessoa na cadeira que não opera verdadeiramente a instalação há anos. As etapas manuais existiam para manter o ser humano a par do que se passava. Era ineficiente por definição, de propósito.

Essa central, como se veio a verificar, nunca chegou a ser construída. Foi arquivada no meio das dinâmicas políticas e económicas que rodeiam a energia nuclear neste país, por razões que nada tinham a ver com a engenharia. Mas o instinto de conceção sobreviveu ao projeto, e passei a acreditar que é a ideia mais útil que posso oferecer ao debate que agora domina todas as salas de reuniões: o que acontece à especialização humana quando a IA realiza o trabalho que antes a construía?

A IA está a perturbar a progressão na carreira de engenharia

Os dados tornaram-se difíceis de ignorar. Um documento de trabalho da Universidade de Harvard, que abrange cerca de 65 milhões de trabalhadores em mais de 280 000 empresas norte-americanas, revelou que, após as empresas terem adotado IA generativa, o emprego entre os profissionais juniores diminuiu cerca de 9 % ao longo de seis trimestres, em comparação com as empresas que não adotaram a tecnologia, enquanto o emprego entre os profissionais seniores continuou a crescer. Uma análise da Universidade de Stanford aos registos de folhas de pagamento da ADP aponta na mesma direção: os trabalhadores mais jovens nas profissões mais expostas à IA perderam terreno a partir do final de 2022, enquanto os seus colegas mais experientes mantiveram as suas posições. Os investigadores de Stanford constataram que as perdas concentram-se onde a IA automatiza o trabalho; nos casos em que a IA se limita a complementar, o emprego entre os jovens mantém-se estável ou aumenta.

A relação causal ainda é contestada, e a honestidade exige que isso seja dito. Investigadores da Reserva Federal de Nova Iorque atribuem grande parte do aumento do desemprego entre os jovens recém-licenciados não à IA, mas ao trabalho remoto, argumentando que as empresas estão relutantes em contratar pessoas inexperientes que não possam formar e orientar à distância. Mas repare no que estas explicações têm em comum. Quer um modelo esteja a absorver o trabalho formativo, quer a distância esteja a interromper a orientação que o rodeia, ambas descrevem o mesmo mecanismo avariado: o canal de aprendizagem através do qual a especialização passa dos seniores para os juniores. Seja como for, «nível de entrada» passou silenciosamente a significar «são necessários três anos de experiência».

Se eliminarmos o ruído, ficamos com um problema aparentemente simples: não se pode tornar-se um engenheiro sénior sem primeiro ser um júnior. A especialização não se descarrega. Conquista-se através de compilações falhadas, sessões de depuração sem saída e aqueles momentos de «por que raio é que isso funcionou?» que uma IA competente agora poupa alegremente ao recém-chegado. Poupe-os o suficiente desses momentos e criará uma geração capaz de supervisionar um modelo no papel, mas que nunca desenvolveu o instinto para saber quando o modelo está, de forma catastrófica, errado.

A maioria dos comentários fica-se pelo diagnóstico ou recorre a soluções políticas que tratam a perda de postos de trabalho júnior como um problema económico. No entanto, trata-se também de um problema de engenharia, e os setores críticos em termos de segurança já passaram décadas a aprender a resolvê-lo.

As lições da aviação sobre o paradoxo da automatização

A minha própria carreira começou na vanguarda da automatização. O meu primeiro emprego depois de terminar os estudos consistiu em verificar e validar o software do controlador digital do motor a jato que decide, mais rapidamente do que qualquer piloto conseguiria, como o motor de um avião de caça responde. Mesmo nessa altura, no final da década de 1980, a tensão central era visível: A máquina supera o ser humano em situações rotineiras, mas o ser humano é a única barreira entre a aeronave e o desastre nos casos que a máquina não antecipou. Esta tensão é conhecida como o paradoxo da automação, em que uma automação cada vez mais capaz proporciona menos prática aos operadores humanos, deixando-lhes apenas as situações mais difíceis.

A aviação aprendeu, repetidamente e a um custo elevado, o que acontece quando as competências humanas se atrofiam nessa lacuna. O exemplo clássico é o voo 447 da Air France, que se despenhou no Atlântico em 2009. A causa imediata foi banal. Os sensores de velocidade do ar, cobertos de gelo, forneceram dados errados ao piloto automático, e este fez o que foi concebido para fazer: desligou-se e devolveu o controlo da aeronave à tripulação. O que se seguiu não foi uma falha de hardware. Foi uma falha de competência. Uma situação recuperável tornou-se irrecuperável porque os pilotos, condicionados por milhares de horas a observar a automação a pilotar, não conseguiram identificar uma perda aerodinâmica a grande altitude e pilotar manualmente para sair dessa situação. O avião estava a funcionar. O treino que a automação tinha silenciosamente corroído, não.

A resposta da indústria é instrutiva e é a mesma medida que tomámos naquela sala de controlo nuclear. Não se tratou de retirar o piloto automático. Trata-se de reintroduzir a prática manual de forma deliberada. Em 2017, a FAA emitiu o Alerta de Segurança para Operadores n.º 17007, «Proficiência em Operações de Voo Manual», declarando que «o voo manual é a base sobre a qual se constroem outras competências técnicas de voo». O alerta reconheceu formalmente a perda de competências como um risco por si só. Algumas companhias aéreas alteraram os seus procedimentos para incentivar o voo manual tanto na subida inicial como na descida inicial em condições favoráveis, sacrificando conscientemente uma pequena parte da eficiência de combustível para manter vivas as competências básicas de voo da tripulação. Essa troca é o cerne da questão. Um sistema perfeitamente otimizado que produz operadores incompetentes não está, de todo, otimizado. Simplesmente deslocou o seu modo de falha para um local onde a folha de cálculo não o consegue ver.

Os «portões manuais» poderiam preservar as competências de engenharia

Se colocarmos lado a lado a lição da aviação e o instinto nuclear, estas apontam para um padrão de conceção de que agora precisamos no trabalho auxiliado pela IA: o deliberado «portão manual».

Uma porta manual é um ponto num fluxo de trabalho em que um ser humano assume os controlos, não porque seja a forma mais rápida de realizar a tarefa, nem apenas como um bloqueio de segurança, mas especificamente para exercitar e preservar uma competência que, de outra forma, se deterioraria. A característica distintiva é que é uma escolha. É você quem decide, como questão de conceção, quais as competências que a sua organização deve manter vivas nos seres humanos, porque são essas que irá precisar nos dias difíceis. Depois, cria o atrito necessário para as manter ativas.

Imagine como isto poderia funcionar numa equipa de software que recorre à IA para a maior parte do seu código. A equipa cria uma barreira manual em torno da competência que menos pode dar-se ao luxo de perder: a depuração. Quando surge um defeito num módulo crítico, o engenheiro designado — deliberadamente, muitas vezes um júnior — tem primeiro de reproduzir a falha, rastreá-la até à causa raiz e escrever um teste automatizado que capture o bug, tudo isto com o assistente de IA desligado. Só depois de o engenheiro confirmar o diagnóstico é que o modelo volta a ser ativado, para propor a correção, gerar alternativas e analisar a base de código em busca de erros semelhantes. O engenheiro compara então o seu diagnóstico com o do modelo. Quando os dois discordam, é o sistema a funcionar, revelando a discordância antes do dia mau, em vez de durante o mesmo.

Esta abordagem redefine completamente o papel do engenheiro júnior. O instinto atual é deixar que a IA faça o trabalho de nível básico, porque é mais rápido e mais barato. Mas parte desse trabalho não é uma sobrecarga a ser eliminada. É o mecanismo de formação da vossa futura equipa sénior, e devem protegê-lo da mesma forma que protegeriam qualquer outra infraestrutura crítica. Pode não ser eficiente neste trimestre, mas desmantelá-lo discretamente compromete a vossa capacidade daqui a uma década.

Por que razão as empresas devem continuar a formar engenheiros juniores

Nada disto é de graça, e fingir o contrário seria um insulto às pessoas que têm de aprovar os orçamentos. Uma etapa manual deliberada é, por definição, menos eficiente a curto prazo do que a automação total. Manter os juniores a realizar trabalho formativo e a executar as sequências manuais tem um custo agora para proteger algo mais tarde.

Isso é difícil de vender num mercado que avalia a maioria dos líderes com base nos resultados trimestrais. Um executivo contratado que mantenha pessoal «desnecessário» — que a IA poderia substituir — ouvirá críticas do conselho de administração muito antes de os benefícios se concretizarem. A equação só faz sentido para quem está isolado dessa pressão: um fundador com controlo, uma empresa privada, uma instituição com um horizonte verdadeiramente longo ou uma entidade reguladora disposta a exigir que os trabalhadores demonstrem regularmente as suas competências, tal como os pilotos têm de fazer. O que significa que as organizações com maior probabilidade de preservar a sua própria especialização são aquelas estruturalmente capazes de investir a margem de curto prazo na capacidade de longo prazo; todas as outras precisarão desse impulso externo.

Portanto, eis o argumento, numa única frase: a ineficiência deliberada não é desperdício. Na engenharia crítica para a segurança, sempre a conhecemos como um seguro, e contratamo-la de propósito. À medida que a IA assume o trabalho onde a especialização é forjada, a jogada inteligente não é resistir à automatização. É manter as mãos nos comandos por opção — para que, quando a automatização falhar, como acaba sempre por acontecer, ainda haja alguém no posto de comando que saiba pilotar.