Califórnia proíbe algoritmos e funções viciantes em redes sociais para menores

O governador da Califórnia, Gavin Newsom, promulgou quinta-feira um conjunto de leis históricas que proíbem as plataformas de redes sociais de oferecerem funções viciantes a menores de 16 anos, a primeira legislação deste tipo nos Estados Unidos.

"A Califórnia proíbe funções viciantes nas redes sociais para crianças, intensifica a luta contra chatbots de Inteligência Artificial (IA) perigosos e reforça a proteção da privacidade de todas as crianças", informou Newsom numa mensagem na rede social X.

Esta legislação pretende criar "as regulamentações mais rigorosas do país para chatbots de companhia" para restringir o acesso de menores de 16 anos à reprodução automática e aos feeds algorítmicos baseados no histórico e nos perfis dos utilizadores, acrescentou.

Esta medida pioneira junta-se a outra série de leis que o Governador assinou esta semana para endurecer os controlos tecnológicos no estado da Califórnia.

Uma delas pretende estabelecer um quadro para que "organizações de verificação independentes avaliem os sistemas e modelos de IA quanto ao cumprimento das leis estaduais", explicou o gabinete do governador por escrito.

O outro projeto corresponde à criação de um registo estadual para auditores de IA e estabelece padrões para a sua independência, transparência e integridade.

O pacote de medidas impulsionado por Newsom faz parte de uma estratégia mais ampla que a Califórnia está a levar a cabo na tentativa de regular os limites da IA e consolidar-se na vanguarda dos avanços tecnológicos.

O estado norte-americano liderou um projeto em 2024 para abordar temas como falsificações profundas (deepfakes), marcas de água digitais, a infância e os trabalhadores.

Também promulgou uma medida pioneira para exigir que as maiores empresas de IA divulguem publicamente os seus protocolos de segurança e assinou dois projetos de lei para proteger a imagem digital dos artistas contra o uso das atuações geradas por IA.

Estas medidas enquadram-se no histórico e mediático julgamento que a Meta enfrentou em agosto passado, após uma ação coletiva que acusou o gigante tecnológico de desenhar as suas redes sociais para gerar dependência entre menores e de enganar os consumidores sobre a sua segurança.

A Meta concordou em pagar até 18.000 milhões de dólares e aplicar mudanças rigorosas no Instagram e no Facebook para resolver estas ações, evitando assim a realização de um julgamento federal na Califórnia.