Foto: Marina Ramos/Câmara dos Deputados
Avançou na Câmara dos Deputados um projeto de lei que cria regras para a prevenção de suicídio e automutilação em sistemas de inteligência artificial (IA). Na prática, a proposta é de que as ferramentas que utilizam IA, como chatbots, adotem protocolos de segurança. O texto foi aprovado na Comissão de Ciência, Tecnologia e Inovação da Casa e segue agora para análise de outros três colegiados antes que possa seguir ao Plenário.
O texto, um substitutivo do relator, o deputado federal cearense André Figueiredo (PDT), visa criar um sistema de vigilância ativa para atuar na prevenção no ambiente digital.
Com a mudança, os sistemas de IA ficam obrigados a ativar um “modo de atenção especial” ao detectarem sofrimento psíquico, devendo encaminhar o usuário a serviços como o Centro de Valorização da Vida (CVV) – disque 188 – e realizar acompanhamento posterior. Além disso, as plataformas foram incluídas na lista de instituições obrigadas a fazer a notificação compulsória de casos de risco às autoridades sanitárias do SUS.
O projeto original, de autoria do deputado Pedro Campos (PSB-PE), foi ampliado após o apensamento de outras duas propostas que tratam sobre o tema.
Figueiredo reforçou que a medida é uma resposta ao “uso perigoso” de IAs generativas como “conselheiras” terapêuticas. “O projeto agora dá poder ao Estado para suspender o funcionamento de ferramentas que apresentem riscos graves e imediatos à saúde pública até que as falhas sejam corrigidas”, destacou.
A proposta também obriga as empresas a notificarem as autoridades sanitárias sobre casos detectados e a publicarem relatórios anuais de transparência.
O projeto, que tramita em caráter conclusivo, segue agora para análise das comissões de Comunicação, Saúde e de Constituição e Justiça e de Cidadania. Para virar lei, o texto precisa ser aprovado pela Câmara e pelo Senado.
Com informações do Opinião CE
