A Meta torna os óculos com IA um pouco menos inquietantes ao impor um limite às gravações sem consentimento
A Meta está a implementar uma correção óbvia para tornar os seus óculos com IA menos inquietantes, no meio da reação negativa em torno das gravações feitas sem consentimento que inundaram a Internet.
Na sexta-feira, o The Verge noticiou que a Meta colmatou uma lacuna que facilitava aos utilizadores dos óculos inteligentes tapar uma luz LED que deveria alertar as pessoas à volta de que o dispositivo estava a gravar ativamente. A Meta já tinha desativado a gravação caso um utilizador tentasse iniciar a captura de vídeo após colocar um autocolante sobre a luz, mas as pessoas rapidamente perceberam que podiam contornar essa medida invertendo a ordem dos passos e tapando a luz depois de terem iniciado a gravação.
Numa publicação no Threads, o vice-presidente executivo da Meta para dispositivos vestíveis, Alex Himel, explicou que em breve seria lançada uma atualização que garante que «a câmara deixará de funcionar se a luz for tapada durante uma gravação». Dessa forma, «o LED de captura poderá alertar de forma fiável as pessoas ao redor quando estiverem a ser tiradas fotografias ou gravados vídeos para a galeria de alguém», afirmou Himel.
Segundo Himel, «apenas uma minoria ínfima de pessoas tenta contornar estas proteções, e o facto de terem de ir tão longe demonstra que os nossos esforços estão a dar frutos. Continuaremos a melhorar e a desenvolver a nossa abordagem.»
No entanto, os mal-intencionados podem ainda ser capazes de modificar os óculos ou adulterar a luz sem afetar as gravações. E não é claro se as formas populares de contornar a proteção, como a utilização de autocolantes semitransparentes que tornam a luz menos visível, impediriam a gravação ao abrigo da nova medida de segurança da Meta.
As autoridades reguladoras de dados na União Europeia estão atualmente a investigar preocupações de privacidade relacionadas com os óculos da Meta e sugeriram que a Meta poderá não ter testado devidamente a luz LED em condições reais para garantir que o público compreendesse a sua funcionalidade de segurança. A Alemanha está a considerar proibir os óculos depois de uma organização sem fins lucrativos ter apresentado uma queixa criminal alegando que estes violam as rigorosas leis de privacidade alemãs, segundo noticiou o Politico. E a Alemanha não está sozinha, uma vez que muitos países da UE ponderam tomar medidas severas contra esta tecnologia, que consideram invasiva e que acarreta o risco de alargar a vigilância em massa. Outra reportagem do Politico confirmou que o Comité Europeu para a Proteção de Dados irá publicar um relatório ainda este verão para decidir que medidas devem ser tomadas para garantir que ninguém na UE seja gravado sem o seu consentimento.
Entretanto, está a avançar nos EUA uma ação coletiva a nível nacional que acusa a Meta de mentir continuamente sobre os riscos de privacidade na comercialização dos seus óculos com IA. A Meta ainda não apresentou uma resposta nesse litígio, mas nas suas declarações e campanhas de marketing, a gigante tecnológica continua a insistir que os óculos foram concebidos a pensar na privacidade.
Os riscos de privacidade persistem, afirmam os utilizadores
Para além do ajuste para impedir que alguns utilizadores de óculos inteligentes contornem a única medida de proteção que ajuda a evitar gravações sem consentimento, a Meta também lançou uma nova campanha de marketing para dar a conhecer a funcionalidade da luz LED, segundo noticiou o The Verge.
Em Los Angeles, por exemplo, há um cartaz que mostra a imagem de uma rapariga sorridente a usar óculos da Meta, com os dedos posicionados de forma a chamar a atenção para a luz de gravação, que brilha tanto quanto o seu sorriso. A legenda diz: «A câmara permite-te capturar o momento. A luz permite que todos à tua volta saibam quando o fazes.»
«Concebidos para todos», diz o cartaz. «Não apenas para quem os usa.»
A UE suspeita que não sabemos ao certo se essa mensagem vai realmente fazer com que as pessoas que passam rapidamente pelo painel publicitário percebam que os óculos da Meta podem estar a gravá-las caso vejam uma luz acesa.
No entanto, as pessoas que acreditaram nas promessas de privacidade e que agora estão a processar a Meta por publicidade enganosa alertaram que a Meta há muito que vem a promover esta mensagem, alegando em anúncios anteriores que os óculos Meta AI Glasses são «Concebidos para a sua privacidade e também para a dos outros.» Mas «na realidade, os utilizadores dos óculos Meta AI não podem controlar o que acontece aos seus dados, nem aos dados que captam das pessoas à sua volta», alegaram os utilizadores.
Embora a ação coletiva não se centre explicitamente na gravação sem consentimento, a queixa alega que as suas principais alegações revelam outra faceta da questão que muitos membros do público provavelmente não compreendem a partir das campanhas de marketing.
A ação judicial contesta as alegações publicitárias da Meta de que os utilizadores dos óculos controlam os dados, afirmando que isso é «falso» e alegando que a Meta não informa os utilizadores de que anotadores humanos no Quénia analisam todas as imagens captadas pelos óculos, alegadamente com o objetivo de treinar a IA da Meta. Isso inclui, alegadamente, a visualização de vídeos «profundamente pessoais», incluindo aqueles que retratam atividade sexual ou idas à casa de banho, bem como conteúdo sensível, como informações de cartões de crédito ou mensagens de texto privadas.
Como exemplo de como isto envolve pessoas inconscientes dos riscos de privacidade dos óculos nas proximidades, a queixa citou um vídeo em que um utilizador pousou os seus óculos Meta na mesinha de cabeceira, os quais captaram então um vídeo da sua esposa a despir-se.
«O vídeo foi enviado a pessoas do outro lado do mundo para serem visualizados e anotados, com o objetivo de treinar a IA — tudo isto sem que a mulher tivesse conhecimento de que o vídeo dela tinha sido capturado», afirma a ação judicial.
Os utilizadores que intentaram a ação esperam obrigar a Meta a pagar uma indemnização, incluindo possíveis indemnizações punitivas, a todas as pessoas nos EUA que compraram óculos inteligentes sob a premissa alegadamente falsa de que a Meta se preocupava com a privacidade dos utilizadores.
«Apesar de terem conhecimento efetivo do processo de revisão humana e dos riscos inerentes à segurança e à privacidade associados a tal partilha de dados, os réus continuaram a comercializar os óculos utilizando as mesmas alegações de que foram “concebidos para a privacidade”», afirma a ação judicial.
Solicitaram também ao tribunal que obrigasse a Meta a alterar a sua mensagem. Isso incluiria impedir a Meta de continuar a publicitar os óculos como protetores da privacidade, o que, segundo os utilizadores, garantiria que os futuros clientes da Meta não fossem expostos a «riscos irrazoáveis de violação da dignidade, sofrimento emocional, perseguição, extorsão, roubo de identidade e danos à reputação».» Em caso de derrota, a Meta poderia também ser obrigada a melhorar as suas campanhas de sensibilização pública e a explicar exaustivamente os riscos de privacidade dos seus óculos inteligentes.
Se a alegada fraude da Meta não for travada, os utilizadores que intentaram a ação afirmam que a empresa continuará a tratar os utilizadores de óculos inteligentes como uma nova e lucrativa fonte de dados, sem os proteger de forma significativa — nem a si próprios nem ao público — dos riscos de privacidade mais graves.
«Os dados dos consumidores são extremamente valiosos para a Meta», afirma a ação judicial. «A introdução de novos dados é fundamental para a produção de IA, mas à medida que os laboratórios de IA esgotam os dados disponíveis publicamente, as fontes proprietárias de novos dados podem custar centenas de milhões de dólares. Em vez disso, a Meta pode recolher dados pessoais de consumidores inconscientes que já adquiriram os Produtos — transformando os próprios consumidores em mercadorias sem que estes sequer se apercebam.»
Ashley Belanger Repórter Sénior de Políticas Ashley Belanger Repórter Sénior de Política Ashley é repórter sénior de política da Ars Technica, dedicada a acompanhar os impactos sociais de políticas emergentes e novas tecnologias. É uma jornalista sediada em Chicago com 20 anos de experiência.