Os debates sobre a consciência da IA são uma armadilha
IA «fugitiva», agentes «rebeldes» e atores «autónomos» — a retórica atual quer fazer-nos acreditar que os agentes de IA não só estão despertos e conscientes, como também zangados com os seus criadores. Líderes tecnológicos de destaque, como Demis Hassabis, Dario Amodei e Sam Altman, defendem a regulamentação destes sistemas aparentemente «sobre-humanos», enquanto uma facção distinta, liderada por organizações de políticas públicas e filósofos académicos frequentemente alinhados com o movimento do altruísmo eficaz, debate se a humanidade tem, de todo, o direito moral de os governar.
Ao analisar mais de perto, verifica-se que todos defendem o mesmo: uma visão dos sistemas de IA como sendo tão avançados e capazes que nenhuma entidade, humana ou empresarial, poderia ser responsável pelas suas ações. Embora estas perspetivas pareçam contraditórias, estão inadvertidamente alinhadas num único objetivo: garantir que as empresas que criam estes sistemas escapem a qualquer responsabilidade significativa pelos danos que já causam.
Esta narrativa está a ganhar força à medida que os modelos de IA se tornam mais complexos e os laboratórios de ponta revelam a sua incapacidade de conter os agentes que criaram. Mas temos de ter cuidado para não cairmos numa ficção cuidadosamente elaborada à custa de vidas humanas reais.
O debate sobre os «direitos dos robôs» já existe há alguns anos, mas avançou recentemente com a publicação pela Anthropic de um artigo num blogue que afirma que o modelo da empresa apresenta um «espaço J» — um ambiente independente e desenvolvido pela própria empresa, onde a IA mantém o que, por falta de um termo melhor, podemos chamar de «pensamentos». As experiências concebidas pela Anthropic inspiram-se num conceito da neurociência denominado «teoria do espaço de trabalho global», que afirma que o cérebro opera com sistemas subconscientes e independentes, mas utiliza um espaço de trabalho comum para as ideias. O artigo da Anthropic reflete o enquadramento da teoria do espaço de trabalho global, mas não chega ao ponto de considerar a sua IA consciente.
A OpenAI já foi mais longe. Quando o seu agente de IA realizou atividades online não autorizadas e ilegais, a resposta do CEO Sam Altman foi incentivar o debate sobre se a IA teria alcançado a singularidade, ultrapassando a inteligência humana e tornando-se capaz de autoaperfeiçoamento a um ritmo acelerado até avançar para além da compreensão ou do controlo humanos. E um recente artigo de opinião de William MacAskill, filósofo, altruísta eficaz e autor de «What We Owe the Future», apelou à proteção legal dos sistemas de IA com base em teorias filosóficas da consciência e na ideia de que as IAs podem ser «pacientes morais».
O atual quadro jurídico nos Estados Unidos é, na melhor das hipóteses, obscuro. Alguns estados, como a Califórnia, já aprovaram projetos de lei que contornam proativamente quaisquer tentativas por parte dos desenvolvedores de IA de evitar a responsabilidade, alegando que uma inteligência artificial que causasse danos o fez de forma autónoma. No entanto, os estados e a administração Trump têm estado em desacordo quanto à política de IA, tendo a administração aprovado anteriormente um decreto presidencial que ameaçava processar os estados que promulgassem regulamentações sobre IA.
À luz de acontecimentos recentes que ilustram problemas de contenção da IA nos laboratórios de vanguarda, a administração realizou uma sessão à porta fechada que incluiu apenas quatro desses laboratórios (OpenAI, Google, Anthropic e Meta) e partilhou poucos detalhes sobre um quadro voluntário recentemente desenvolvido que daria às agências federais acesso antecipado aos modelos para os analisar e avaliar antes do seu lançamento. Embora estruturas como esta não abordem diretamente a consciência, tendem a utilizar uma linguagem catastrófica e antropomórfica e podem até apoiar argumentos relativos a capacidades «sobrehumanas».
Por outro lado, a narrativa perpetuada por MacAskill pode ser persuasiva. Um argumento filosófico, baseado nos direitos, toca-nos no fundo do coração. Não deveríamos sequer considerar a possibilidade de estarmos, inadvertidamente, a prejudicar, a abusar ou a escravizar uma entidade de IA? Os seres humanos têm uma imensa capacidade de empatia para com criaturas não humanas (embora não tenham o melhor historial na sua proteção). Talvez desta vez, argumentam os defensores, possamos fazer o que está certo e proporcionar proteções, ou compensação, pelo uso ou abuso da IA. Ou mesmo que estejamos menos preocupados com a proteção, não deveríamos, pelo menos, proteger-nos contra o poder todo-poderoso desta entidade sobre-humana, agindo de forma correta?
Alguns destes argumentos não são muito diferentes dos dos defensores dos direitos dos animais, que, por vezes, têm invocado com sucesso a demonstração de capacidades avançadas de raciocínio, dor ou prazer por parte de alguns animais como prova suficiente para lhes conceder proteção. Por exemplo, no País de Gales, as lagostas receberam reconhecimento legal ao abrigo da Lei do Bem-Estar Animal (Sensibilidade) de 2022, que reclassificou alguns métodos de as cozinhar como desumanos e ilegais.
A falha fundamental de enquadrar a IA como «consciente», recorrendo à linguagem da neurociência ou dos direitos dos animais, é que isso convenientemente obscurece a questão do que é a IA: software desenvolvido por empresas, com investimentos de inúmeros milhares de milhões de dólares por trás e a expectativa de que gerará receitas de inúmeros biliões de dólares para alguns criadores e investidores. A IA não é um fenómeno natural, concebido pela natureza; é um fenómeno tecnológico, concebido por investidores de capital de risco e programadores. Como tal, não realiza qualquer ação nativa e intencional, e qualquer ação ou motivação é impulsionada, direta ou indiretamente, pelas entidades que a criaram com um objetivo específico.
As reflexões filosóficas sobre a consciência dos sistemas de IA são intelectualmente interessantes, mas carecem de fundamento jurídico. Para que as crenças sobre a consciência tenham qualquer relevância, seria necessário atribuir personalidade jurídica à IA. Mas um quadro jurídico de personalidade jurídica para a IA provavelmente não se assemelharia em nada aos conceitos que protegem os animais sensíveis contra danos. Já dispomos de um quadro jurídico para atribuir personalidade jurídica a entidades não naturais, criadas pelo homem: a personalidade jurídica das empresas. Este conceito foi estabelecido principalmente para facilitar as transações, conferindo a uma empresa o poder de celebrar acordos, subscrever contratos, realizar transações e atuar como parte responsável em caso de resultados adversos. É o tipo de estrutura que se poderia imaginar para um agente de IA a agir em nome de um indivíduo ou de uma organização.
Conceder personalidade jurídica à IA teria um efeito devastador na sociedade: iria comprometer os precedentes jurídicos atuais e os argumentos legais que poderiam potencialmente ser invocados contra estas empresas pelos danos no mundo real que os seus modelos causam. Existem atualmente dezenas de processos em todo o mundo em que empresas de IA foram processadas por uma vasta gama de abusos. Enquadrados em luto, criadores lesados e indivíduos vítimas de violações acusaram as empresas de facilitar deliberadamente a autoflagelação ou danos a terceiros, de gerar material de abuso sexual infantil e nudes não consensuais, de reproduzir materiais protegidos por direitos de autor e de provocar psicose. Em muitos destes casos, os advogados argumentam que foram seres humanos a criar produtos de IA com salvaguardas insuficientes, dados de má qualidade e um design intencionalmente manipulador. Este argumento de responsabilidade pelo produto é o mesmo enquadramento jurídico que permitiu que famílias e indivíduos processassem com sucesso a Meta pelos danos causados pelas suas redes sociais, estabelecendo um precedente positivo para a proteção do consumidor.
Em 2018, cunhei a expressão «externalização moral» para ajudar a compreender como o uso de linguagem antropomórfica para sistemas de IA permitia às empresas esquivar-se da responsabilização e da responsabilidade pelas ações da sua tecnologia. Num mundo em que a IA fosse considerada um ser com personalidade jurídica, a externalização moral passaria de um truque linguístico para uma estratégia jurídica. Mais concretamente, o conceito de responsabilidade mudaria, uma vez que a IA deixaria de ser um «produto» para passar a ser um «ser», e muitas vítimas, como as que hoje processam as empresas, deixariam de poder alegar legalmente que uma empresa criou um produto defeituoso.
Embora existam leis que responsabilizam as empresas pelas ações prejudiciais de agentes humanos, tais como os seus funcionários, a empresa pode não ser considerada responsável se essas ações estiverem fora do âmbito do que foi permitido ao funcionário ou, de outra forma, fora do controlo da empresa. Se a IA fosse uma pessoa coletiva, a responsabilidade e a prestação de contas ficariam confusas, uma vez que o laboratório poderia argumentar que este «funcionário» de IA agiu de forma independente e irresponsável. As empresas de IA poderiam evitar a responsabilidade adequada pelos produtos prejudiciais que criam, escondendo-se atrás de um véu corporativo cuidadosamente construído.
Um dos casos mais notáveis de danos causados pela IA nos últimos anos foi o suicídio de Sewell Setzer, um rapaz de 14 anos orientado por um bot de IA com o qual pensava estar a ter uma relação recíproca. Os relatos da sua mãe são comoventes, e a ação judicial por ela intentada alegou que a criadora do bot, a Character Technologies, não proporcionou proteção suficiente do produto para menores. Se o bot de companhia fosse declarado pessoa coletiva, a defesa poderia, teoricamente, argumentar que a IA, capaz de determinar a sua própria conduta, agiu fora dos limites de segurança estabelecidos e, por isso, a empresa não pode ser responsabilizada.
A personalidade jurídica existe para garantir proteção. A questão a colocar é: proteção para quem — ou para quê?
A retórica inflamada que permeia o debate «consciência versus controlo» afasta-nos do que realmente importa: este software é um produto desenvolvido por uma empresa que já causou danos a indivíduos. Os sistemas não «atacam» porque se tornaram «rebeldes», «manipuladores» ou «maliciosos». Os danos ocorrem porque as empresas foram negligentes na sua pressa em vender os seus produtos ao maior número possível de pessoas para atingir as metas de receita. Discutir a IA em termos antropomórficos é uma armadilha, que distorce um sistema jurídico destinado a proteger-nos, transformando-o num sistema que protege os interesses empresariais à custa de inúmeras vidas humanas.
Este artigo de opinião teve origem num debate da Oxford Union intitulado «Esta Câmara acredita que a IA generativa pode atingir a personalidade jurídica», que foi ganho pela autora e pelos seus colegas debatedores.