Comissão aprova regras para prevenir suicídio e automutilação em sistemas de IA

A Comissão de Ciência, Tecnologia e Inovação da Câmara dos Deputados aprovou proposta que obriga sistemas de inteligência artificial (IA) e chatbots a adotarem protocolos de segurança para prevenir o suicídio e a automutilação. O texto cria um sistema de vigilância ativa para atuar na prevenção no ambiente digital.

Com a mudança, os sistemas de IA ficam obrigados a ativar um “modo de atenção especial” ao detectarem sofrimento psíquico, devendo encaminhar o usuário a serviços como o Centro de Valorização da Vida (CVV) – disque 188 e realizar acompanhamento posterior.

Além disso, as plataformas foram incluídas na lista de instituições obrigadas a fazer a notificação compulsória de casos de risco às autoridades sanitárias do SUS.

O texto aprovado é um substitutivo do relator, deputado André Figueiredo (PDT-CE), ao projeto de lei PL 4348/25, de autoria do deputado Pedro Campos (PSB-PE).

O novo texto amplia e detalha as medidas previstas na versão original, além de incluir o conteúdo de projetos apensados (PLs 4416/25 e 4522/25).

O relator reforçou que a medida é uma resposta ao uso perigoso de IAs generativas como “conselheiras” terapêuticas. “O projeto agora dá poder ao Estado para suspender o funcionamento de ferramentas que apresentem riscos graves e imediatos à saúde pública até que as falhas sejam corrigidas”, destacou.

A proposta também obriga as empresas a notificarem as autoridades sanitárias sobre casos detectados e a publicarem relatórios anuais de transparência.

Próximos passos
O projeto, que tramita em caráter conclusivo, segue agora para análise das comissões de Comunicação, Saúde e de Constituição e Justiça e de Cidadania. Para virar lei, o texto precisa ser aprovado pela Câmara e pelo Senado.