TJSP na Mídia: atuação do Judiciário no combate à manipulação de ferramentas de IA em processos
Tribunal já identificou casos de “prompt injection”.
Matéria exibida pelo Jornal da Record e pela Record News, no último sábado (30), destacou o uso de ferramentas de Inteligência Artificial no Judiciário paulista e, sobretudo, a atuação no combate à prática de manipulação de sistemas de IA conhecida como “prompt injection” – saiba mais.
Em entrevista ao noticiário, o juiz Tom Alexandre Brandão, assessor da Presidência do TJSP na área de TI, Planejamento, Gestão, IA e Governança, ressaltou que a Inteligência Artificial vem sendo incorporada à prestação jurisdicional como apoio à atividade jurisdicional. “Isso em nenhum momento significa substituir a supervisão e a condução humana. Afinal de contas, quem julga é o juiz ou o desembargador”, frisou.
A reportagem explicou como a técnica de prompt injection é utilizada por fraudadores: trata-se de uma inserção de comandos ocultos para direcionar o comportamento automatizado da ferramenta de IA para um determinado resultado. Em São Paulo, foram identificadas pelo menos cinco tentativas em processos. “Temos e estamos investindo no desenvolvimento de ferramentas que nos permitam identificar esse tipo de conduta maliciosa e, até o momento, com bastante sucesso”, reforçou o magistrado.
Veja a reportagem na íntegra.
Comunicação Social TJSP – RD (texto) / LF (arte)
Siga o TJSP nas redes sociais:
www.linkedin.com/company/tjesp
