É possível ler essas situações como um movimento convergente, que parte de uma percepção, cada vez mais unânime em relação à necessidade das plataformas transformarem seu design
Maria Mello, coordenadora do Alana
Estamos vendo uma mudança decisiva na responsabilização das plataformas digitais. Hoje, o debate mudou da responsabilidade pelo conteúdo de terceiros para o modelo de negócio, arquitetura das redes, seus algoritmos e a monetização baseada na captura da atenção
Andressa Michelotti, pesquisadora no Margem Grupo de Pesquisa em Democracia e Justiça e membro do Governing the Digital Society, da Universidade de Utrecht (Holanda)
De tão complexo, o julgamento, na verdade, são julgamentos. O primeiro deles ocorre na corte federal de Oakland e envolve quatro estados:
- Neste primeiro, Califórnia, Colorado, Kentucky e Nova Jersey representarão os demais. Eles fazem parte dos 33 estados que processaram a Meta conjuntamente em 2023;
- De lá para cá, quatro estados (Michigan, Geórgia, Missouri e Dakota do Norte) pularam foram por motivos burocráticos, e 29 seguiram adiante;
- Ainda que o quarteto encabece a acusação em nome dos outros, está previsto que os 25 restantes também sigam com processos judiciais;
- Nesta primeira batalha judicial, as acusações giram em quatro frentes distintas:
- Design de produtos exploratório e viciante: os estados argumentam que a Meta projetou recursos essenciais de Facebook e Instagram não só para estimular o engajamento, mas para intensificar o consumo compulsivo, baseado nos ciclos intermitentes de liberação de dopamina; isso estimula o vício, tal qual ocorre em máquinas caça-níqueis;
- Dano mental consciente, mas camuflado: os estados acusam a Meta de realizar pesquisas internas que constataram como o uso do Instagram poderia aumentar os níveis de depressão, ansiedade, problemas de imagem corporal e automutilação entre adolescentes, mas ocultou os levantamentos do público. Isso, argumentam os estados, equivale a enganar pais, educadores e jovens usuários, já que, oficialmente, a empresa declarava como suas plataformas eram seguras;
- Desrespeito a lei federal de privacidade infantil: para os estados, a companhia violou a Coppa (Lei de Proteção da Privacidade Online das Crianças, na sigla em inglês), de forma sistematicamente, pois coletou dados pessoais de menores de 13 anos sem pais, mães ou responsáveis consentirem;
- Violação a leis estaduais de consumo: para os estados, a Meta infringiu dezenas de vezes suas leis locais de comércio justo e combate à fraude de cada estado.
- Além da multa, os estados pedem mudanças no Instagram e Facebook destinadas as crianças e adolescentes, mas com potencial de fraturar as plataformas:
- Implantar verificação parental para usuários adolescentes;
- Alterar algoritmos de recomendação que manipulam a dopamina;
- Remover diversos filtros de imagem capazes de modificar a aparência nas fotos;
- Acabar com a reprodução automática de vídeos, algo que está na base do sucesso do feed infinito;
- Proibir a criação de múltiplas contas por um só usuário, artifício usado para driblar a supervisão parental;
- Encerrar com as publicações efêmeras ou que desaparecem, caso dos Stories, do Instagram.
- A Meta argumenta que os procuradores-gerais falharam em apresentar provadas das acusações:
Os Procuradores-Gerais dos Estados podem chamar este caso de histórico, mas suas alegações carecem de fundamentação e suas demandas financeiras são desproporcionais. Os Procuradores-Gerais não apresentam nenhuma prova de que qualquer pessoa em seus estados tenha sido enganada, alegam que recursos inofensivos, como ter uma conta adicional no Instagram, de alguma forma prejudicaram seus residentes, e tentam penalizar a Meta por desafios enfrentados por toda a indústria. Em vez de se aterem aos fatos ou à lei, os estados decidiram perseguir uma indenização exorbitante. Mantemos o compromisso com o nosso histórico de criação de proteções consistentes para adolescentes e esperamos apresentar nossos argumentos em tribunal.
Porta-voz da Meta
Está cada vez mais evidente que não basta somente atuar depois de o problema acontecer, de o dano ter sido causado contra uma criança e um adolescente. É preciso olhar para sua pra sua origem, assim como dá para olhar só para conteúdos de forma dissociada da discussão de design
Maria Mello, coordenadora do Alana
Para procuradores e observadores, o escrutínio sofrido pela Meta devido ao aspecto viciante de suas plataformas é comparando ao freio imposto nos anos 1990 à indústria de tabaco, que teve de assumir a responsabilidade pelo vício causado por seus produtos.
Em 1998, 52 estados e territórios norte-americanos fecharam um acordo com as quatro grandes companhias de tabaco no valor de US$ 206 bilhões —se levarmos em conta o valor estimado pelos procuradores (US$ 200 bilhões) da disputa contra a Meta, as cifras são comparáveis; mas, para a Meta, o que está em jogo é sete vezes maior e atinge apenas uma empresa.
O foco agora é examinar como o design viciante e os algoritmos foram intencionalmente projetados para reter a atenção e viciar usuários, especialmente jovens, para lucro. A retenção precoce de crianças e adolescentes opera na prática como uma estratégia para formar e garantir uma base de produtos (usuários) e consumidores futuros. Esse movimento gera um efeito cascata.
Andressa Michelotti
A cascata já começou. No começo deste mês, a Meta foi condenada a pagar US$ 942 milhões por enganar as pessoas sobre suas ferramentas de segurança e por falhas em avisar o público sobre os danos a crianças. O julgamento ocorreu no Novo México, estado que vê problemas na conduta da Meta, mas preferiu seguir com uma ação própria e não se juntou aos demais no processo coletivo.
Além da multa quase bilionária, o juiz Bryan Biedscheid obrigou a Meta a adotar no Novo México medidas similares àquelas que agora os outros estados pleiteam (eliminação da contagem de curtidas para usuários menores de 18 anos no Instagram e no Facebook; proibição de adolescentes enviarem ou receberem nudez pelas plataformas; limitação das notificações push dos aplicativos a determinados horários do dia).
Se a ação do Novo México estabelece um precedente negativo para a Meta, o caso dos 29 procuradores é mais profundo, por representam estados que concentram dois terços da população norte-americana.
Continua após a publicidade"As plataformas temem um verdadeiro 'contágio regulatório'. Além disso, o impacto não se restringe a uma única plataforma. Embora a Meta seja o alvo principal, ela não está sozinha. O YouTube também está sendo processado pelo design e proteção infantil", comenta Michelotti.
Em março deste ano, um tribunal da Califórnia constatou que Meta (Instagram, Facebook e WhatsApp) e Google (YouTube) criaram intencionalmente plataformas de mídia social viciantes que prejudicaram a saúde mental de uma jovem de 20 anos.
Em março, o governo federal brasileiro proibiu plataformas digitais de empregarem design manipulativo, que compreende rolagem infinita, autoplay de vídeos e notificações excessivas. São funções eficientes para capturar atenção e igualmente nocivas a processos cognitivos. O veto veio no decreto presidencial que regulamentou o ECA Digital. Ainda cabe à ANPD (Agência Nacional de Proteção de Dados) definir em que medida ocorrerão as restrições.
A agência está tirando aos poucos o ECA Digital do papel. Na semana passada, a entidade começou a monitorar se plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativas adotaram as obrigações previstas no novo arcabouço de proteção infantojuvenil e no redesenhado Marco Civil da Internet.
Na União Europeia, a Lei dos Serviços Digitais da UE (DSA, na sigla em inglês) permite aos usuários compreender e modificar os algoritmos de suas redes sociais. Por isso, o bloco passou a investigar se a Meta impede as pessoas de exercerem esse direito usando interfaces manipulativas. Caso confirmado, as multas podem chegar a 6% do faturamento anual global —o que, para a Meta, fica na casa dos R$ 116 bilhões.
Continua após a publicidadeDEU TILT
Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.
MAIS DE RADAR BIG TECH
Helton Simões Gomes
Lula anuncia R$ 1 bi para computador de IA e parceria bilionária com China Leia mais
Deu Tilt #1
CEO conta segredo para formar jovens quando IA já faz tudo: 'testadores' Leia mais
Deu Tilt #2
'Parem as máquinas': CEO conta como torrou US$ 5 mil em 1h com IA Leia mais
Deu Tilt #3
Oracle e Motorola: CEO da maior produtora do mundo revela IA em filmes Leia mais
Deu Tilt #4
'Com IA, sai 80% mais rápido e 50% mais barato', diz CEO da WPP Production Leia mais
Diogo Cortiz
ChatGPT escorrega na regra do TSE e tem candidato preferido à Presidência Leia mais
Carlos Affonso de Souza
Programas de governo prometem datacenters, IA e fim da censura nas redes Leia mais
IAgora #1
Vacina contra câncer avança: como IA é usada em marco histórico da medicina Leia mais
IAgora #2
O que está por trás da OpenAI anunciar surpreendente freio em avanços de IA Leia mais
IAgora #3
Trabalhadores já treinam robôs com IA a substituir seus próprios empregos Leia mais
Opinião #1
É preciso parar os maus robôs Leia mais
Opinião #2
O caso Discord põe o ECA Digital à prova Leia mais
Reportagem
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
