O governador da Califórnia, Gavin Newsom, está atualmente considerando 38 projetos de lei relacionados à inteligência artificial (IA), incluindo o altamente controverso SB 1047, que foi enviado pela legislatura do estado para sua aprovação final. Esses projetos de lei tentam abordar as questões mais urgentes em inteligência artificial: desde sistemas de IA futuristas que criam riscos existenciais, nudes falsos gerados por IA, até estúdios de Hollywood criando clones de IA de artistas falecidos. “Lar da maioria das principais empresas de IA do mundo, a Califórnia está trabalhando para aproveitar essas tecnologias transformadoras para ajudar a enfrentar desafios prementes enquanto estuda os riscos que elas apresentam”, disse o gabinete do governador Newsom em um comunicado à imprensa. Até agora, o governador Newsom assinou oito dessas leis, algumas das quais são as mais abrangentes dos Estados Unidos em termos de regulamentação de IA.
Nudes Falsos e Deepfakes
Na quinta-feira, Newsom assinou duas leis que abordam a criação e disseminação de nudes falsos gerados por IA. A SB 926 criminaliza o ato, tornando ilegal chantagear alguém com imagens nuas geradas por IA que se assemelhem à pessoa. A SB 981, que também se tornou lei na quinta-feira, exige que as plataformas de mídia social estabeleçam canais para que os usuários denunciem nudes falsos que se assemelhem a eles. O conteúdo deve ser temporariamente bloqueado enquanto a plataforma investiga e removido permanentemente se confirmado.
Essas leis são uma resposta direta ao aumento de casos de deepfakes, onde imagens e vídeos são manipulados para parecerem reais. A tecnologia de IA tem avançado a tal ponto que é cada vez mais difícil distinguir entre o que é real e o que é falso. Isso levanta preocupações significativas sobre privacidade e segurança, especialmente para indivíduos que podem ser alvo de chantagem ou difamação.
Além disso, a SB 942 foi assinada para ajudar o público a identificar conteúdo gerado por IA. Esta lei exige que sistemas de IA generativos amplamente utilizados divulguem que o conteúdo é gerado por IA nos dados de proveniência do conteúdo. Por exemplo, todas as imagens criadas pelo Dall-E da OpenAI agora precisam de uma pequena tag em seus metadados dizendo que são geradas por IA. Muitas empresas de IA já fazem isso, e há várias ferramentas gratuitas disponíveis que podem ajudar as pessoas a ler esses dados de proveniência e detectar conteúdo gerado por IA.
Deepfakes em Eleições
No início desta semana, o governador da Califórnia assinou três leis que reprimem os deepfakes de IA que poderiam influenciar eleições. Uma das novas leis da Califórnia, a AB 2655, exige que grandes plataformas online, como Facebook e X, removam ou rotulem deepfakes de IA relacionados a eleições, além de criar canais para denunciar esse tipo de conteúdo. Candidatos e funcionários eleitos podem buscar medidas cautelares se uma grande plataforma online não estiver cumprindo a lei.
Outra lei, a AB 2839, mira usuários de mídia social que postam ou repostam deepfakes de IA que poderiam enganar eleitores sobre as próximas eleições. A lei entrou em vigor imediatamente na terça-feira, e Newsom sugeriu que Elon Musk pode estar em risco de violá-la. Anúncios políticos gerados por IA agora exigem divulgações explícitas sob a nova lei da Califórnia, AB 2355. Isso significa que, daqui para frente, Trump pode não conseguir postar deepfakes de Taylor Swift endossando-o no Truth Social (ela endossou Kamala Harris).
A Comissão Federal de Comunicações (FCC) propôs um requisito de divulgação semelhante em nível nacional e já tornou ilegais as chamadas automáticas usando vozes geradas por IA. Essas medidas são vistas como passos cruciais para proteger a integridade das eleições e garantir que os eleitores não sejam enganados por informações falsas ou manipuladas.
Atores e IA
Duas leis que Newsom assinou na terça-feira — que o SAG-AFTRA, o maior sindicato de atores de cinema e transmissão do país, estava pressionando — criam novos padrões para a indústria de mídia da Califórnia. A AB 2602 exige que os estúdios obtenham permissão de um ator antes de criar uma réplica gerada por IA de sua voz ou imagem. Enquanto isso, a AB 1836 proíbe os estúdios de criar réplicas digitais de artistas falecidos sem o consentimento de seus espólios (por exemplo, réplicas legalmente autorizadas foram usadas nos recentes filmes “Alien” e “Star Wars”, bem como em outros filmes).
Essas leis são uma resposta direta às preocupações crescentes sobre o uso de IA na indústria do entretenimento. Com a capacidade de criar réplicas digitais realistas de atores, há um risco significativo de que a imagem e a voz de um ator possam ser usadas sem seu consentimento, potencialmente prejudicando sua carreira e legado. Além disso, a criação de réplicas digitais de artistas falecidos levanta questões éticas sobre o uso de suas imagens e vozes sem a permissão de seus herdeiros.
Essas novas leis visam proteger os direitos dos atores e garantir que eles mantenham controle sobre o uso de suas imagens e vozes. Elas também estabelecem um precedente importante para outras jurisdições que podem estar considerando regulamentações semelhantes.
Resumo
O governador Gavin Newsom da Califórnia está liderando o caminho na regulamentação da inteligência artificial com a assinatura de oito novas leis que abordam questões críticas como deepfakes, privacidade e uso de IA na indústria do entretenimento. Essas leis são algumas das mais abrangentes dos Estados Unidos e visam proteger a privacidade dos indivíduos, garantir a integridade das eleições e proteger os direitos dos atores. Com mais 30 projetos de lei relacionados à IA ainda em consideração, a Califórnia continua a ser um líder na regulamentação de tecnologias emergentes.
FAQ
1. O que é um deepfake?
Um deepfake é uma técnica de síntese de mídia que utiliza inteligência artificial para criar imagens, vídeos ou áudios falsos que parecem reais.
2. Quais são as novas leis da Califórnia sobre deepfakes?
A Califórnia aprovou várias leis que criminalizam a criação e disseminação de deepfakes, especialmente aqueles que envolvem nudes falsos e conteúdo relacionado a eleições.
3. Como as novas leis afetam a indústria do entretenimento?
As novas leis exigem que os estúdios obtenham permissão dos atores antes de criar réplicas geradas por IA de suas vozes ou imagens e proíbem a criação de réplicas digitais de artistas falecidos sem consentimento.
4. O que é a SB 1047?
A SB 1047 é um projeto de lei controverso que está sendo considerado pelo governador Newsom e que aborda a regulamentação mais ampla da indústria de IA na Califórnia.
5. Como as novas leis protegem os eleitores?
As novas leis exigem que grandes plataformas online removam ou rotulem deepfakes relacionados a eleições e criem canais para denunciar esse tipo de conteúdo, ajudando a proteger os eleitores de informações falsas.
Para se manter atualizado sobre as últimas novidades em tecnologia e regulamentação de IA, continue acompanhando nosso blog.
