Projeto de Lei proíbe criação de 'nudes' falsos com IA

A Comissão de Finanças, Orçamento e Planejamento da Assembleia Legislativa de São Paulo aprovou, na terça-feira (10), parecer favorável ao projeto que proíbe o uso de Inteligência Artificial (IA) para a criação de "deep nudes" — imagens e vídeos manipulados que expõem pessoas nuas ou em trajes sensuais sem consentimento. A proposta, de autoria da deputada Marta Costa (PSD), segue agora para votação em Plenário.

A prática ganhou repercussão após usuárias da rede social X denunciarem a manipulação de fotos por ferramentas de IA. Embora o texto tenha sido protocolado antes desses episódios, o objetivo é coibir a produção e a disseminação de conteúdos falsos de caráter íntimo, que podem causar danos morais, psicológicos e sociais às vítimas.

Na justificativa, a deputada afirma que o avanço tecnológico e a popularização de programas cada vez mais sofisticados ampliam os riscos à privacidade e à dignidade das pessoas. O projeto proíbe o desenvolvimento, a distribuição, a comercialização, a promoção ou o uso de sistemas de IA criados ou adaptados para esse fim.

A proposta também prevê a responsabilização de plataformas digitais pela identificação e remoção do material irregular, além da adoção de mecanismos para bloquear aplicativos e programas que violem a legislação estadual.

Durante a reunião, o colegiado também aprovou iniciativas voltadas à área social. Entre elas, o Programa de Conscientização sobre Trissomia 21, previsto no PL 124/2024, de Andréa Werner (PSB).

A medida busca orientar pais e responsáveis sobre aspectos genéticos da Síndrome de Down, estimular a inclusão e reforçar informações sobre direitos e acesso a serviços como saúde, educação, trabalho e lazer.

Outro projeto aprovado foi o PL 314/2022, da ex-deputada Damaris Moura, que institui o Programa de Inclusão Digital para Idosos, com foco na ampliação do acesso às tecnologias, capacitação e promoção da autonomia dessa população.

Também recebeu aval o PL 1394/2023, do deputado Leonardo Siqueira (Novo), que cria o Programa Aluno Presente. A proposta prevê o uso de mecanismos de incentivo comportamental, como o envio de mensagens a pais e estudantes, para estimular o engajamento nas atividades escolares, fortalecer o vínculo com a escola e reduzir índices de abandono e evasão.

As propostas seguem em tramitação na Assembleia antes de eventual votação final e encaminhamento para sanção do Executivo.