As empresas de redes sociais estão a combater a ‘armadilha da verificação de idade’ pois a recolha de dados biométricos de crianças viola os direitos de privacidade

Uma digitalização facial no Instagram, um vídeo selfie no TikTok, uma impressão digital para o código de acesso no YouTube e um upload de identificação no Facebook. Ainda não é a cena, mas coletar nossas biometria para postar um meme de IA será apenas a norma enquanto o Big Social passa pelo seu momento Big Tobacco.

Vídeo Recomendado

O panorama digital está passando por uma grande upheaval após processos judiciais relacionados ao vício em redes sociais e uma corrida regulatória frenética por verificação de idade. À medida que plataformas de redes sociais enfrentam um julgamento legal histórico por causa da “reação de dopamina” e escolhas de design viciantes que prejudicam crianças, surge uma crise técnica e ética fundamental. Países como a Austrália estão impondo proibições de redes sociais para menores de 16 anos, enquanto a Meta está atualmente em julgamento por alegações de criar intencionalmente um ambiente viciante para crianças em suas plataformas.

Na corrida para verificar a idade do usuário—a principal ferramenta que as empresas implementaram para combater o vício infantil—essas plataformas de redes sociais revelaram um paradoxo conhecido como a “armadilha da verificação de idade”. Simplesmente, ao tentar impor regras de verificação de idade aos seus usuários, essas empresas estão minando a privacidade dos próprios usuários.

Big Social tem seu momento Big Tobacco

Empresas como Meta e TikTok enfrentam processos federais e estaduais que comparam suas plataformas e modelos de negócio aos do mercado de tabaco e opioides, alegando que as empresas manipulam deliberadamente o design das plataformas para promover o vício dos usuários. O CEO da Meta, Mark Zuckerberg, recentemente testemunhou que estudos científicos não provaram a ligação entre redes sociais e danos à saúde mental, mas especialistas discordam, afirmando que o vício em redes sociais é impulsionado pelos próprios algoritmos de engenharia destinados a manter o usuário online.

“Essas empresas não são submetidas a um padrão que impediria crianças de acessarem suas plataformas—não, pelo menos, algo do qual elas ‘se beneficiam’ com crianças na plataforma. Mais pessoas, mais anúncios,” disse Debra Boeldt, PhD, psicóloga clínica e cientista de IA na empresa de redes sociais familiares Aura. Boeldt, que lidera pesquisas clínicas na Aura—uma empresa que usa IA para monitorar os hábitos online das crianças e proteger a privacidade dos adultos—afirmou que as crianças são particularmente suscetíveis ao design atual das redes sociais porque sua função executiva e controle de impulsos ainda estão em desenvolvimento.

Para as crianças, as plataformas de redes sociais não são apenas aplicativos, mas também sua principal fonte de conexão social, apontando sua pesquisa que mostra que uma em cada cinco crianças de até 13 anos passa quatro horas ou mais por dia nas redes sociais. Com isso, vêm níveis mais altos de estresse, ansiedade e depressão. Boeldt disse que as crianças são espertas, e se forem banidas de uma plataforma, é um jogo de whack-a-mole, onde simplesmente mudam de uma para outra.

“Crianças são super espertas, e elas vão contornar as coisas,” disse Boeldt à Fortune. “Elas sabem como passar despercebidas.”

À medida que as empresas de redes sociais buscam remover usuários menores de idade de suas plataformas ou usar IA para buscar conteúdo censurado, elas terão dificuldades em garantir que possam remover com precisão o acesso a qualquer pessoa abaixo de uma certa idade. (Boeldt até mencionou plataformas como Instagram e TikTok que monitoram a linguagem e como as crianças já encontraram brechas, usando “arquivos PDF” ou “desaparecer”, e criando vocabulários novos que tornam esses censores inúteis: afinal, as crianças são espertas.)

Ainda assim, ela alertou que o efeito adverso é ainda pior, no qual apenas alguns usuários são banidos de um site de redes sociais, em vez de todos. Se as plataformas de redes sociais pouco avançarem na proibição de usuários menores de idade, mas removerem o acesso de alguns de cada vez, isso cria um “efeito ilha”, onde, a menos que a proibição seja universal, uma criança cortada das redes sociais fica isolada enquanto seus amigos continuam conectados online.

A regulamentação mal acompanha o uso

Esqueça os processos atuais que atuam como um teste de fogo para as regras de design das redes sociais: a regulamentação atual mal acompanha a forma como as crianças usam as redes sociais—e as ferramentas que as empresas usam falham em proteger a privacidade dos usuários. Nos últimos meses, plataformas que usam softwares de verificação de terceiros tiveram seus dados hackeados e expostos, tiveram que anunciar e renunciar a censores alimentados por IA, e estão lutando contra uma opinião pública cada vez mais insatisfeita.

Isso é agravado por medidas crescentes de regulamentação de países ao redor do mundo. A Austrália aprovou uma legislação histórica em 2024 que proíbe menores de 16 anos de terem contas em plataformas como Facebook, TikTok e YouTube. No âmbito doméstico, 32 estados introduziram legislações de verificação de idade, e isso só se intensifica com externalidades ainda por serem vistas após a Comissão Federal de Comércio anunciar na semana passada que exercerá “discrição na aplicação” da Regra de Proteção à Privacidade Online Infantil (COPPA). Isso permitiria às empresas de redes sociais coletar dados de crianças sem consentimento parental—mas apenas para fins de verificação de idade.

No entanto, isso não resolve o paradoxo de coletar dados de crianças e usuários de forma adequada, sem infringir seus direitos de privacidade. A questão se torna ainda mais complexa ao se analisar os usuários dessas plataformas.

“Os humanos agora são a minoria na internet; vimos o tráfego bot-para-humano aumentar 50 vezes ao ano,” disse Johnny Ayers, CEO da Socure, uma empresa de verificação de identidade alimentada por IA. Ayers disse à Fortune que, graças aos bots, o uso de deepfakes aumentou quase 8.000% ao ano—tornando grande parte do software de verificação do mercado inútil. Em vez disso, uma das verificações digitais que sua empresa emprega inclui usar o gimbal de cada telefone celular para verificar se um humano realmente está segurando o telefone durante a verificação de identidade.

Evin McMullen, cuja empresa Billions Network é usada para combate à lavagem de dinheiro e métodos de Conheça Seu Cliente (KYC), afirma que coletar biometria é uma forma de plataformas confirmarem sua identidade, porque você não pode mudar o que esses dados dizem sobre você.

“Parece meio brincadeira, mas a ideia [é] que você não consegue girar seus polegares, ou seja, não consegue alterar a senha ou gerenciar a segurança facilmente da mesma forma,” disse McMullen à Fortune. “Identidades baseadas em sua biometria realmente priorizam facilidade de uso e segurança em torno dos seus dados mais vitais,” acrescentou, dizendo que o modelo atual de gerenciador de senhas é “insustentável e já não seguro.”

Mas os problemas surgem com as crianças e a privacidade, novamente algo a ser revisitado agora à luz da decisão da FTC sobre a COPPA.

“Você não pode coletar biometria de uma criança,” disse Ayers à Fortune. “E então, como verificar se alguém tem 13 anos sem verificar, sem coletar nada, que ela tem 13 anos?”

As ferramentas não são mais úteis

Uma maneira de fazer isso é coletar provas de conhecimento zero (ZKP) que determinam uma parte para verificar a veracidade de uma declaração, e, portanto, a identidade dessa pessoa. McMullen, cujos clientes na indústria financeira buscam meios não invasivos de verificação de identidade, é uma grande defensora de ZKPs, acrescentando que são particularmente úteis para estabelecer confiança entre as partes.

ZKPs é um método que permite a uma pessoa—que busca se verificar—responder a declarações de forma que estabeleça confiança na parte verificadora sem revelar informações pessoais ou secretas. Por exemplo, o problema de 4+4=8. Isso é algo que a pessoa que deseja ser verificada sabe que é verdade, mas o método ZKP baseia-se na confiança. Em vez de perguntar se 4+4=8, o verificante faz uma série de perguntas para determinar se a pessoa que quer se verificar está dizendo a verdade (ou, neste caso, sabe que isso é verdade). O verificante pode perguntar se 4+4=7; se a soma de 4+4 é um número par, e assim por diante, e após a série de perguntas, pode determinar a veracidade das afirmações da pessoa, identificando-a.

Este não é um método comum para provar identidade. Até agora, as empresas de redes sociais têm utilizado várias tecnologias para verificar a idade das pessoas, incluindo verificação baseada em identidade, como solicitar o upload de documentos oficiais; usar IA para escanear o rosto do usuário; rastrear a atividade do usuário para determinar a idade; e usar ferramentas de supervisão parental, como o Instagram, que introduziu Contas para Adolescentes para alertar os pais sobre hábitos online prejudiciais.

No cerne da questão está o fato de que, fundamentalmente, não existe uma ferramenta que possa verificar a idade de um usuário sem infringir sua privacidade. Modelos precisos exigem medidas extremamente invasivas, como biometria ou documentos governamentais—e os documentos são algo que até as próprias redes sociais hesitam em solicitar, devido à lacuna de identificação de 15 milhões de americanos que não possuem qualquer documento, uma questão que afeta desproporcionalmente adultos negros, hispânicos, imigrantes e pessoas com deficiência.

Usar IA para escanear rostos pouco resolve o problema, pois especialistas descobriram que esses modelos de IA são menos precisos para grupos minoritários e frequentemente classificam adultos como menores, enquanto a IA em si não consegue distinguir uma voz sintética ou deepfake de uma humana real. Crianças, que novamente são espertas, também costumam contornar qualquer proibição geográfica usando VPNs, como no caso da Flórida, onde o uso de VPN aumentou 1.150% após o estado exigir verificação de idade para acessar Pornhub. E, por fim, há grandes riscos de segurança associados ao armazenamento de documentos de identidade, como a recente violação do fornecedor terceirizado da Discord, a 5CA, que deixou mais de 70.000 IDs governamentais expostos online.

Em última análise, a “armadilha da verificação de idade” ocorre quando os reguladores tratam a imposição de idade como obrigatória e relegam a privacidade a um status opcional. Até que métodos como ZKPs ou verificação por dispositivo se tornem padrão, esses especialistas alertam que a Era Digital continuará a percorrer o caminho de tentar provar a identidade de uma pessoa sem infringir seus direitos de privacidade.