Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Julgados e Comentados

Julgados e Comentados artwork

#145 - Regulação da Inteligência Artificial

Aug 12, 202547 minAudio
ShareXLinkedInFacebookWhatsAppEmail

Neste episódio conversamos com Tainá Aguiar Junquilho, professora de Direito do IDP, sobre as propostas de regulação no uso da Inteligência Artificial. A ascensão exponencial de tecnologias de IA generativa e sua rápida integração em praticamente todos os setores da sociedade demonstram a importância de estabelecermos diretrizes e responsabilidades para uso dessa tecnologia. No Brasil, o debate ganhou contornos concretos com o Projeto de Lei 2.338/2023, que tramita no Congresso Nacional. A proposta, inspirada em modelos internacionais, busca criar um marco legal para o desenvolvimento e uso da IA. Contudo, a elaboração deste projeto está longe de ser um consenso: de um lado, a urgência em mitigar riscos de discriminação, violação de privacidade e desinformação em massa; do outro, o temor de que uma regulação excessiva possa inibir a inovação e a competitividade. Como dialogar com as leis que já temos, como o Marco Civil da Internet e a Lei Geral de Proteção de Dados? O próprio Poder Judiciário já utiliza ferramentas de IA para otimizar seus serviços, o que levou o CNJ a editar a Resolução 615 para guiar essa implementação. Simultaneamente, o Ministério da Justiça avança com portarias que buscam regular o uso dessas tecnologias em investigações criminais. Capítulos (00:00) - Abertura (00:21) - Apresentação (05:27) - PL 2.338/23 e a abordagem baseada em risco (13:52) - Influência de outros modelos regulatórios (21:05) - Avaliação de conformidade dos sistemas de IA (23:06) - Resolução 615/25 e o uso de IA pelo judiciário (34:11) - Desinformação e regulação das big techs (39:15) - Persecução penal e vieses discriminatórios da IA (43:21) - Encerramento Leitura indicada: Prévia do livro Inteligência Artificial no Direito: Limites Éticos. Tainá Aguiar Junquilho. Editora: JusPODIVM 1.ed. - 205 páginas. Ano: 2022; Lei Geral de Proteção de Dados; Marco Civil da Internet; AI Act; Comentários e sugestões: julgadosecomentados@mppr.mp.br || Siga o MPPR nas redes sociais: Facebook: Ministério Público do Paraná, X: @mpparana, Instagram: @esmp_pr, Fernanda Soares: @prof.fersoares, YouTube: Escola Superior do MPPR e site da ESMP-PR: https://site.mppr.mp.br/escolasuperior Instagram de Tainá Junquilho: @taina.aguiar.junquilho Produção: Fernanda Soares e Gabriel Oganauskas || Edição: Gabriel Oganauskas || Créditos: Aces High - KevinMacLeod (⁠⁠incompetech.com⁠⁠), ⁠⁠CC BY 3.0 || Floating Whist by BlueDotSessions || In The Back Room by BlueDotSessions || The Stone Mansion by BlueDotSessions || Vienna Beat by BlueDotSessions || Jazzy Sax, Guitar, and Organ at the club - Admiral Bob feat. geoffpeters, CC BY 3.0

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

Julgados e comentados a jurisprudência sob a ótica do Ministério público, uma produção Ministério público do Paraná. Olá, estamos começando mais um episódio dos lugares e comentários. Eu sou a Fernanda Soares e nesse episódio vamos conversar sobre a proposta de regulação no uso da inteligência artificial, com a participação de Tainá Aguiar junquille, professora de direito do IDPA ascensão exponencial da

tecnologia de inteligência artificial generativa e sua rápida integração em praticamente todos os setores da sociedade demonstram a importância de estabelecermos diretrizes e responsabilidade para uso dessa tecnologia. No Brasil, o debate ganhou contornos concretos com o projeto de lei 2338, de 2023, que tramita no Congresso Nacional. A proposta, inspirada em modelos internacionais, busca criar um Marco legal para o desenvolvimento e o uso da inteligência artificial. Contudo, a elaboração desse projeto está longe de ser um

consenso. De um lado, a urgência em mitigar risco de discriminação, de violação de privacidade e desinformação em massa. Do outro, o temor de que uma regulação excessiva. Possa inibir a inovação e competitividade. Como dialogar com as leis que já temos, como, por exemplo, Marco civil da internet e a lei geral de proteção de dados? O próprio poder judiciário já utiliza ferramentas de a para otimizar seus serviços, o que, inclusive, levou o CNJ a editar a resolução 615 justamente para guiar essa implementação. Simultaneamente, o Ministério da

justiça avança com portarias que buscam regular o uso dessas tecnologias e investigações criminais. Para nos ajudar a navegar por esse labirinto de desafios jurídicos, tecnológicos e éticos, temos a honra de receber hoje a nossa convidada Tainá. Seja muito bem-vinda e Tainá antes da gente começar aqui as perguntas, que são várias, eu queria que você contasse pra gente então um pouquinho sobre você e o estudo da inteligência artificial, por favor? Bom, olá ouvintes. É olá, Fernanda.

Vou começar te chamando de Fernanda. Já aviso aqui aos ouvintes, a gente teve essa conversa antes, né? Gostamos de um bate-papo mais informal. Então é Fernanda, obrigada aqui pelo convite. É uma honra estar aqui falando sobre esse tema. E aí vou contar rapidinho como que eu cheguei, né? Embora seja formada em direito, como que eu cheguei na inteligência artificial? Eu sou capixaba, Vitória, Espírito Santo e aí em 2018 eu vim para Brasília para fazer o meu doutorado. Eu tinha ingressado com outro tema de pesquisa.

Já que nós somos informais, a gente já adiantou isso e eu sou curiosa. Então qual era o outro tema, Tainá? Pois é, eu fazia parte de um grupo de retórica, argumentação e juridicidade na Universidade de Brasília. E eu tava analisando o discurso das sabatinas dos ministros candidatos ao Supremo Tribunal Federal. E aí, quando eu ingressei, foi a época, né? 2018, em que a ministra Cármen Lúcia. Decidiu fazer aquele que foi o primeiro projeto de inteligência artificial aplicado a uma corte

constitucional no mundo, que é o projeto Vitor. E ele é o chama projeto Vitor, em homenagem ao ministro. Muito importante para nossa corte constitucional, né? O Vitor Nunes leal, que além de livros como coronelismo e chá de voto, que analisa a municipalidade brasileira. Eu brinco que ele também é criador do tuíte da jurisprudência. Que então não deixa de ser uma tecnologia também, né? De compilação de jurisprudência muito importantes, enfim, criou então a as súmulas e aí foi

homenageado, né? E eu, e esse projeto é uma parceria entre a Universidade de Brasília e o Supremo Tribunal Federal. Eles precisavam de pesquisadores e eu participei desse projeto e aí falei, não, isso aqui é muito legal, acho que a justiça brasileira vai precisar muito disso aqui. Daqui pra frente, mas existem algumas questões éticas envolvidas. Então eu é, marquei um almoço com a minha orientadora, falei, olha, eu gosto muito de você, quero continuar com você, mas quero pesquisar inteligência artificial no direito.

Aí convidamos uma co orientadora, então fui orientada pela professora Cláudia ruzler e co orientada pela professora Ana Cláudia farranha. E é, foi assim que eu ingressei. É muito engraçado porque isso 2018 não é tão distante. Mas quando eu cheguei, era tudo Mato. 2018 pra cá naquela época ninguém falava, né? Porque a gente teve esse boom de inteligência artificial. Vamos falar assim, do ano passado pra cá, né? Começou assim, 2023 pra frente. E aí, 2024 e 25. Aí a generativa realmente veio

pra ficar, né? Exatamente, então foi isso aí, acabei sendo pioneira. Então vamos começar aqui e vamos assim aproveitar que você está aqui pra gente poder esgotar o máximo possível das nossas Curiosidades, né? Eu não nego. Todo mundo que me conhece sabe que eu sou um entusiasta assim. Eu comecei a pesquisar o tema agora, ainda meio recente, mas eu estou naquela fase assim, tipo, estava assim do começo da relação, então eu estou apaixonada com a inteligência. Essencial é isso.

Tainá, vamos lá. O principal vetor da discussão sobre a regulação da inteligência artificial no Brasil hoje é o projeto de lei 2338, de 2023. Originada a partir do trabalho de uma comissão de juristas, esse projeto adota uma abordagem baseada em risco bastante similar a europeia, classificando sistemas de inteligência artificial em categorias. Entre os princípios que norteiam o projeto estão o respeito aos direitos humanos, a privacidade, anão discriminação. E a necessidade de supervisão humana efetiva, você poderia

detalhar pra gente um pouquinho mais, é como que tá essa abordagem, então baseada em risco que está estruturada, né? Quais são, por exemplo? Assim, na sua avaliação, os pontos mais robustos da proposta atual? Quais as principais lacunas, né? Quais os pontos de controvérsia que precisam ser amadurecidos? Então cria uma análise sua desse projeto, principalmente relacionado então aos mecanismos também de conformidade. Perfeito. É muito boa essa pergunta, né? A gente tem um histórico no mundo e no Brasil de projetos legislativos que buscam regular

a inteligência artificial. Então não é de hoje, assim que a gente também está discutindo como fazer uma melhor regulação no mundo. Eu costumo fazer uma linha do tempo, né? Regulatória que o Brasil foi acompanhando, então no mundo foram surgindo. A partir de várias pesquisas que encontraram, né? Alguns é algumas questões éticas em relação à inteligência artificial, como os vieses discriminatórios, a Opacidade dos modelos, a questão da hipervigilância e do uso massivo

de dados pessoais. Então o mundo foi notando isso por meio de pesquisa científica. E ele falou, não precisamos pelo menos de princípios pra regular isso aqui. E aí foram surgindo uma série de princípios, principalmente em documentos internacionais. Pra poder é regular a inteligência artificial, mas uma forma mais principiológica o Brasil na OCDEA unesco colocaram esses princípios, o Brasil ele adotou e começou o debate regulatório também com uma

lógica principiológica então o projeto 2120. Projeto de lei 20 um 20, que nasceu na Câmara dos deputados. Ele nasce com essa lógica principiológica, exatamente colocando esses princípios que você narrou aí na sua pergunta, né não? Discriminação, transparência e tudo mais. Só que aí a comunidade mundial começou a se perguntar, olha, mas como que a gente avalia um modelo na prática não discriminatório? O que é um modelo não discriminatório?

O que é um modelo transparente? Espera aí, nós temos que ir um passo além do modelo principiológico. E aí vem por exemplo, né? A união europeia com OEI act, até pelo efeito Bruxelas, que eles, né, colocam que que é o efeito Bruxelas. Aí, pra quem nunca ouviu falar, é uma expressão criada por ANU bradford que diz respeito a esse, a esse movimento da união europeia de é colocar uma regulação e servir de modelo. É até de compliance mesmo para o

mundo, né? Afinal, quando coloca uma regulação, como por exemplo, foi Oo regulamento geral europeu de proteção de dados, o mundo inteiro que oferece serviço pra união europeia precisa se adaptar. Então acaba havendo até uma necessidade e um pedido, uma solicitação pros outros países do um lobby, digamos assim. Pró regulação é das empresas que fornecem serviços pra união europeia. Né? Pra que elas também não fiquem fora da regulação.

E aí o Brasil, inspirado muito no i act, também começou a discutir um outro modelo regulatório. Por quê? Porque esse PL 2120, princípio lógico, ele foi aprovado em regime de urgência na Câmara dos deputados. E aí ele chega no Senado federal, é muito criticado. Justamente porque é um assunto tão complexo, aprovado em regime de urgência, e também porque o modelo principiológico que não tinha responsabilizações, sem

detalhar o que que é, né? Uma não discriminatória, etcetera. Então foi constituída uma comissão, primeiro uma comissão de juristas no Senado federal e depois uma comissão temporária de senadores. E aí ficaram 2 anos se discutindo um novo PL, que foi o 2338, que é esse que a gente discute hoje. Inicialmente, OPL 2338, ele começa numa lógica muito é inspirada no e a act, mas ele vai se distanciando. Então OEAE act ele tem, por exemplo, previsão de 4 níveis de

risco, né? Ele tem o risco inaceitável? Ele tem é o alto risco, o risco limitado e o risco mínimo. Aqui no Brasil foram várias versões do PL 2338, a última versão que foi aprovada no Senado federal. No final do ano passado, 2024 é e que agora tá tramitando na Câmara. Ele prevê só 2 níveis de risco. É que é o alto risco e o risco excessivo, que é aquele proibido, né? E que lógica é essa de risco, né, que você perguntou o que que significa uma lógica baseada em

risco? É uma regulação que tenta trazer uma responsabilização e um e deveres de governança. É de acordo com o nível, né? De risco que aquele potencial risco que aquela inteligência artificial pode trazer. Então, por exemplo, né, uma inteligência artificial de algum aplicativo de geolocalização, ela é muito menos arriscada do que um aplicativo, como, por exemplo, é o smart sampa, né, em

São Paulo, que tenta fazer ali o Reconhecimento facial de pessoas na segurança pública. Né, e que pode levar a investigações e, enfim, até a prisões, né? Então, quando eu fico p da vida, eu tô andando ali com base em um aplicativo de geolocalização e eu fico p da vida porque ele me mandou por um caminho mais longo. E fico me questionando a explicabilidade daquele modelo, por que será que esse aplicativo me levou para o caminho mais longo? Será que é porque tem mais buraco na via? Será que é porque tá tendo

trânsito? É diferente de eu me, de eu questionar uma explicabilidade. De um modelo que eventualmente me considerou suspeita por um crime, né? Então são níveis diferentes mesmo de riscos, né? Ou um aplicativo, por exemplo, inteligência artificial pra um carro autônomo, né, que pode, ou uma arma autônoma. Então a lógica brasileira do PL 20 338 é essa, é colocar ali 2 riscos, né? 2 níveis de risco, o alto e o

excessivo trazendo maiores. Deveres de governança para é o alto risco e o risco excessivo sendo proibido. E aí só pra fechar aqui AA sua pergunta, né? Os principais eixos que eu considero assim, do PL 2338, desse atual texto que está sendo discutido na Câmara, são várias audiências públicas que estão acontecendo nesse momento agora, né? Nós estamos é em agosto de 2025, gravando. Esse podcast então está acontecendo nesse mês, uma estão estão acontecendo uma série de

audiências públicas. São a proteção de direitos, né? Os princípios, essa lógica de 2 níveis de risco, a responsabilização traz um modelo de responsabilização e também algumas questões envolvendo estímulo à inovação. Então são esses os principais eixos assim que eu considero. Desse modelo do PL 2338 que está sendo discutido agora.

Você mencionou logo aqui no início, né? OEI act, o que mostra claramente que, na verdade, nós não estamos sozinhos nessa busca regulatória, né? Aliás, até os outros países começaram antes. E aí a gente vê o seguinte, por exemplo, enquanto a partida, enquanto você fez essa pontuação a respeito do nosso, enquanto a partida, por exemplo, os Estados Unidos, ele já adota uma abordagem mais setorial e baseada em incentivos, né? Com foco em diretrizes mais voluntárias, digamos assim. O Japão já por sua vez, ele aposta numa governança ágil, num sistema mais de soft Law, buscando assim uma maior

flexibilidade. Essas diferentes estratégias, elas refletem distintas filosofias de como equilibrar então a proteção de direitos e o desenvolvimento tecnológico. A gente pode afirmar isso e assim, em caso positivo, analisando esses diferentes modelos regulatórios, Tainá. Onde o Brasil parece se posicionar com a proposta que a gente tá fazendo, né? Perfeito a pergunta da Fernanda já demonstra que ela sabe bastante é sobre os modelos

regulatórios, né? Tem pesquisado sobre isso? E aí é o Brasil. Ele de fato desponta como um modelo, em certa medida, semelhante a união europeia, mas também se distingue, né? E aí eu tava numa palestra esses dias. Mês passado eu fui dar uma palestra Na Na embaixada alemã aqui com o pessoal do data inovation lab deles do do laboratório de inovação em dados da Alemanha. E aí eu tava falando, vocês estão tendo dificuldades com as questões do II act?

Como é que tá aí AA regulação, o efeito Bruxelas, que a gente comentou aqui mais é cedo no podcast, e aí ela falou, olha, a gente tá aguardando o efeito Brasil. É porque a gente tá muito empolgado com o modelo que vocês estão colocando, que para nós é tem uma perspectiva, já que tenta aliar a questão, né? Do modelo é de estímulo à inovação, mas é com a lógica baseada em níveis de riscos e

responsabilizações, né? Os Estados Unidos. Eu tava até assistindo ontem uma palestra de um professor norte americano. E ele falando, explicando como que os Estados Unidos ele tem mudado a partir das da lógica também das administrações, né? Do Biden, com as ordens executivas que ele editou que trazer um modelo mais setorial e que agora na administração do Trump, ele tem muito essa lógica de que qualquer regulação pode impedir a inovação, né? Então, pelo que ele contou ali da lógica dos Estados Unidos.

A tendência é que até as ordens executivas que trazem esse modelo mais setorial sejam é enfraquecidas, né? Porque Trump, ele tem essa lógica de precisamos desenvolver a qualquer custo a tecnologia é, o Japão já tenta também estimular a inovação de uma forma mais responsável, e a união europeia está um pouco mais. É voltada mesmo pra regulação mais forte. E aí o Brasil ele tenta fazer um modelo sui generis, que eu acho

muito interessante, porque ele notou, né, nas discussões do PL 2120, que o modelo principiológico ele acaba sendo é fraco, né? Pra responsabilizações. E aí no PL 2338 ele traz o modelo que a gente chama, né? No No juridicase hard lol, ou seja, que vai além da da principiologia pra trazer responsabilizações inspiradas. No código de defesa do consumidor, né? Inclusive aludindo ao código de defesa do consumidor, textualmente, no PL 20, 338. Mas também traz é o modelo de

acreditação e certificação para estimular também uma adequação auto regulatória das empresas. Traz também a os sandboxes regulatórios. É para estímulo à compreensão de como aplicar melhor as regulações. E traz um modelo setorial de governança. Isso é muito interessante porque ele acaba pegando um pouquinho do do que a administração do Biden, com as ordens executivas, é também inspirou, né? Ele bebe um pouco dessa fonte

também, porque quando ele traz o cia, que é o sistema é nacional de governança da inteligência artificial, capitaneado atual, no texto atual, pela autoridade nacional de proteção de dados, ele vai colocar lá o texto. Que a autoridade nacional de proteção de dados e esse si, ele vai servir pra fiscalizar a aplicação da legislação e de uma forma suplementar, complementar, dialogando com as agências de cada setor. Porque existem setores hoje no Brasil.

E aí esse é o modelo adaptado, portanto, ao Brasil, né? Existem setores hoje no Brasil, por exemplo, as fintechs, que usam muito inteligência artificial. O banco central, ele já tem uma série de regulações, por exemplo, para pontuação de crédito. E aí OPL 2033 8 ele traz esse modelo, né? De que o cia. Ele vai atuar de forma suplementar aqueles setores que já tem 11 regulação dialogando, conversando, articulando com esses setores e nos setores, por

exemplo, saúde, que ainda não tem uma regulação. Né? Atuar de uma forma mais incisiva, auxiliando também a é gerar, com base na no PL 20 3381, regulação própria. E aí a gente tem um plano brasileiro da inteligência artificial, o pebia, que traz também um conceito muito relevante também, que é Oo conceito, inspirado no professor lutiano florid que ele traz o conceito de ei for social goods. E aqui no Brasil a gente

importou e colocou. E a para o bem de todos, né? Então, o estímulo que a gente tá pensando e a lógica regulatória que a gente tem no Brasil é a de trazer uma regulação que traga um estímulo à inovação, né? Mas uma inovação responsável, né? uma IA para o bem de todos, ou seja, uma IA que atenda o ser humano, né? De forma responsável, que não sirva para destruir a humanidade, como na ficção científica. Mas pelo contrário, pra que sirva pra capaz de prevenir

desastres, né? No No sul do país, de de trabalhar com agricultura, de eficiência da agricultura, etcetera. Então é é mais ou menos por aí que caminha o Brasil, né? Nesse modelo, tentando equilibrar o que o professor lutiano florid que tem o livro até traduzido pelo pela PUC Paraná, ética da inteligência artificial. Em que ele fala que o grande, a grande questão dos nossos tempos hoje é como que a gente concilia o verde da sustentabilidade com o azul, que é uma cor geralmente

ligada à tecnologia, né? Então eu considero que o modelo brasileiro do PL 2338, aliado ao pebia o plano brasileiro de inteligência artificial, é esse, é de uma inteligência artificial para o bem de todos. Só uma curiosidade que nesse modelo que está sendo proposta aqui no Brasil, você mencionou em certificação. Essa certificação seria feita por quem a gente manteria. Por exemplo, a agência nacional de proteção de dados teria que ter uma nova agência. Como seria, né? Como que anda essa discussão, se é que ela anda? Sim, o artigo 34 da atual

redação do PL 2033 8. Ele fala isso, né? Ele fala que a autoridade competente e as autoridades setoriais podem. É fazer essa acreditação, é acreditar. Organismos de avaliação que vão soltar ali, certificações. Então, então vai caber a autoridade nacional de proteção de dados acreditar a certos organismos que vão soltar certificações. E aí a ideia é trazer uma competitividade de mercado

mesmo, né? Também 111 modelo autorregulatório aquelas empresas que têm maiores certificações éticas. E aquelas menores, na tentativa de que o consumidor nós é também soltemos uma certa acreditação daquelas empresas que tenham uma maior certificação ética, né? Um maior nível. E com isso, inclusive, incentivar, né, que as empresas busquem sempre esse maior nível, né? Eu sou uma pessoa muito favorável a certificação, embora quando eu escrevi lá sobre o compring, se eu ficasse assim, um pouco receosa, se eventualmente a gente também não pode criar um mercado de

certificações, né? Eu acho que a gente tem que ter cuidado quando a gente estimula as certificações e quem fiscaliza, né? Esse mercado de certificações. Mas nesse caso, eu acho que ele vai servir, sim, claro, com esses problemas que eu mencionei, mas ele traria um estímulo para as empresas tentarem, né? Buscar sempre mais em prol do consumidor.

Tainá e olha só, ainda nem você falando agora, né? Mais restrito aqui a nossa área assim, né? A gente falou No No Brasil como um todo. Mas eu queria trazer um pouquinho assim, então pra área do judiciário. Agora, inteligência artificial. A gente falou de regulação no Brasil e a gente sabe o seguinte, que o judiciário brasileiro, ele é um entusiasta da adoção das medidas de ferramentas de IA, né? A gente já viu isso é, você mencionou o Vitor aqui hoje do STFEA gente sabe que OSTF também tem a Maria. Enfim, a gente sabe que o judiciário como um todo é um entusiasta da IA. É não sem razão, inclusive, que

OCNJ editor resolução 615, que estabelece diretrizes pro uso da inteligência artificial nos tribunais. Essa norma ela preza por diversas vezes nela a necessidade de supervisão humana, transparência e combate a viés discriminatórios. No entanto, na prática, a implementação desses princípios ela é um pouco complexa. Então, como que você avalia o atual estágio de implementação e de regulação da inteligência artificial agora no poder judiciário brasileiro, efetivamente assim, essas

diretrizes que a resolução 615 traz, elas são suficientes para garantir o uso dessa ferramenta de uma maneira que respeite devido o processo legal, ou corremos um risco da gente estar só diante de um solucionismo tecnológico? Que eventualmente pode mascarar, assim, alguns debates que a gente acaba por não enfrentar. Então, qual que é sua opinião em relação à inteligência artificial no judiciário brasileiro e a própria resolução do CNJ? Bom, agradeço a pergunta também. Esse foi inclusive o meu tema de doutorado e aí de eu sou muito suspeita pra falar da resolução

615. Eu vou contar porque, né? Mas antes eu vou fazer um histórico rápido. O que que aconteceu? Nós aqui no Brasil 2018 a gente começa. Com o primeiro projeto de a no mundo, né? Podemos nos orgulhar. Inclusive é isso se a primeira corte constitucional no Brasil a ter 11 inteligência artificial, né? E por que que a gente foi a primeira? Porque a gente é muito bom também, né? Eu não gosto da síndrome de Vira Lata não, inclusive tem uma Vira Lata maravilhosa. Acho que síndrome de Vira Lata devia ser uma coisa boa, mas né, é também, além de a gente ser

muito bom. É o fato de que a gente tem uma corte constitucional também, muito sui generis, né? Uma corte constitucional que julga milhares de casos. A gente tem o controle misto de constitucionalidade, que envolve controle concentrado e controle difuso, e chegam milhares de ações no supremo. O que que a gente tentou fazer na primeira hora pra resolver isso, né? Tanto no STJ, em tribunais superiores, em geral, filtros processuais, né? Então a gente criou ali a repercussão geral com a emenda constitucional 45, mas não deu.

Vazão a isso, né? A tendência se você pega os relatórios de justiça e número, é que o nosso judiciário só cresce, né? Em termos de processo Oo número de processos, juízes trabalhando com metas, assoberbados, né, cheios de de trabalho, enfim. Então isso é um problema, né? Para nosso acesso à justiça, o tempo, né, dos julgamentos, mas ao mesmo tempo é um mar azul de possibilidades para aplicação de inteligência artificial. Porque se.

Os modelos de inteligência artificial dependem de dados e cada processo assim tem um Monte de dado. Então a gente é o Brasil é um mar azul para iaia. Então o poder judiciário no Brasil ele sempre foi, é e toda a justiça, né? O sistema de justiça sempre foi mesmo o pioneiro e, de certa forma, destaque em termos de setores que aplicam inteligência artificial, né? Assim como o setor bancário AO poder judiciário também sempre foi é destaque. E aí, desde 2018, hoje você tem

a resolução 332 no início, né? Ela veio muito em princípio lógica lá em 2020, pra também trazer uma série de princípios também acompanhando, né? Olha que legal. A gente acompanhou o movimento que era mundial lá em 2020, OPL 2120 trazia a princípiologia OA resolução 332, trazia um Monte de princípios legais também. Ela que IA. Olhava, né? A mesma diretriz, vamos dizer assim de. Que a iat tinha que ser não discriminatória e etcetera. Só que aí veio na gestão do ministro Barroso, ele fez 2 ações, né?

E por isso que eu falo que eu sou suspeito. Por falar das 615, ele tomou 2 atitudes, uma, ele quando assumiu a presidência do CNJE do STF, ele convocou ali um edital, um chamamento público pra ir à generativa pro Supremo Tribunal Federal, né? Pra quem poderia oferecer pró Bono e a generativa, agora surge Maria e uma série de outras, ir AS pro STF. Ao mesmo tempo em que ele disse, olha, a partir daí é agenerativa. A gente tem novos desafios e a resolução 332, ela acabou

ficando deficiente. A gente precisa de mais. E aí convocou um grupo de trabalho com vários especialistas. Eu fiz parte desse grupo honrosamente e aí a gente trabalhou por 1 ano, fez audiências públicas também e soltamos a resolução 615. Que traz uma grande, uma das grandes inovações que Eu Acredito assim. 2, né? Que eu poderia citar, uma, ela traz uma lógica baseada em níveis de risco também, e outra, o fato de que ela traz um comitê de governança da inteligência

artificial. Eu acho assim isso muito inovador, inclusive com membros com 2 membros, um titular e um suplente da advocacia, né? Membros do Ministério público que vão participar porque sabe que os sistemas de a no judiciário, eles vão afetar todos os. Os usuários da justiça, né? Então que vai acabar é também, digamos, fiscalizando AA aplicação dessa resolução. Então acho que AA gente tá indo bem no poder judiciário, né? Como eu disse, sou suspeita para falar, porque participei desse

processo regulatório, mas acho que a gente tá indo bem porque ao mesmo tempo que a gente tá, né? Nessa lógica também do Brasil. De tentamos estimular o uso da inteligência artificial. Mas, OPA, como é que a gente garante um devido processo legal? Acesso à justiça, né? Garantia da que a jurisdição seja efetivamente praticada pelo juiz. É, e aí vem a resolução 615. E a gente percebe muito isso que você está falando, porque assim, eu confesso que quando, né? Saiu assim, Ah, a nova resolução. A gente falou, AI meu Deus, vamos ler.

Porque obviamente que o que vem do CNJ vai acabar sendo espelhado no CNMPE assim por diante. E aí eu lembro que, assim, a ansiedade no momento da leitura, depois de verificar a possibilidade ou não do uso de inteligência artificial, generativa particular para aquelas localidades, né? Os tribunais que não tinham e isso consta ali na resolução. E por que que eu acho isso um aspecto muito positivo? Porque ela não limita. Ela segue estimulando o uso indiretamente ao permitir o uso da inteligência generativa de modo particular quando um tribunal não a tem. Ela estimula e não inibe, porque

se ela viesse e proibisse e colocasse que só aquela contratada pelo tribunal fosse possível, até que determinados tribunais adquirissem, a gente acabaria por inibir que alguns magistrados assim o fizessem. Mas ela também não fala. Olha só que não esqueça que a responsabilidade é sua, a supervisão humana. Ela é necessária a todo momento, então assim vai usar, mas o faça com responsabilidade. E aí assim, todos os dias a gente vê assim, né? Que o uso está se expandindo cada vez mais.

Então eu acho que o objetivo dessa resolução, parabéns a vocês que a fizeram, alcançou realmente, porque a gente tem assim cada vez mais. O uso. É claro que eu brinco assim, AI só sai na imprensa também o uso errado, né? É o que dá e o que dá margem assim pra matéria. Ah, porque no único mês o juiz fez tantas centenas. É lógico que não foi ele que fez e etcetera. Ou AI teve erro que claro que assim só sai matéria nesse sentido. Mas não tem saído. E aí eu lamento matérias mostrando o quanto ela tem sido efetiva, né?

Da agilidade pra gente, sem perder a qualidade de uma sentença judicial ou sem perder a qualidade de uma manifestação ministerial ou de um advogado, né? Então eu tento assim, o objetivo até da gente trazer inteligência artificial aqui pro podcast é mostrar que ela bem utilizada. Ela tem uma grande aplicabilidade no mundo jurídico e com responsabilidade. Quem sabe a gente consiga em breve garantir que esse acesso à justiça é uma justiça ágil, que ele realmente se concretize. Porque no Brasil a justiça ela

não é ágil e com esse volume todo que você bem destacou a Tainá de processo, ela não vai ser se a gente não contar com inteligência artificial. Então eu acho que a resolução do CNJ, ela caminha nesse sentido de estímulo, mas com responsabilidade e responsabilização. Então eu brinco assim, a nossa função é disseminar esse uso positivo pra que a gente quebre resistências. É isso. Eu eu parabenizo muito o podcast de vocês por trazer esse tema, porque é durante as nossas discussões no GT, inclusive na elaboração.

AA maior questão sempre é, em qualquer lugar que se discute, Ah, é? Essa é o tal do do letramento, né? De compreensão mesmo. Por parte da tanto das partes, cidadãos, advogados, juízes, promotores, defensores de que pode trazer risco, sim. Então, como é uma boa utilização, né? Que eu não vou colocar também dados pessoais sensíveis ali, daquela parte que eu tenho, preciso revisar. Porque se eu sou um advogado ou um promotor que estou usando e não reviso, eu posso até tomar uma condenação por litigância de

má fé. Se aquela alucina. Também pega mal pro juiz que já teve juiz que foi parar na corregedoria porque inventou a jurisprudência, né? Então, assim é, é desde que haja uma revisão, um letramento. Então Eu Acredito, também sou suspeito porque sou professora, além de ser advogada. Mas né, Eu Acredito muito no potencial da educação e nesse sentido, acho que o podcast de vocês trazendo essa, esse assunto, né? Ele cumpre muito bem com esse papel. Então agora eu vou fazer um mercando MPPR, aqui a gente tá

fazendo capacitação quinzenal em inteligência artificial. Aqui pra mim, os servidores, estagiários, pro IP inteiro muito preocupado com essa necessidade de letramento. Então a cada 15 dias a gente tem feito esses cursos de capacitação pra isso, pra que a gente também não coloque, né, o uso sem esse letramento, né? Afinal, a gente tá prestando um serviço público que tem que ser muito bem prestado e etcetera. Então, justamente para que a gente possa extrair o máximo, né, da inteligência artificial. Fecha aqui o meu mersã do MVPR.

Mas é porque é uma coisa que eu acho que é muito importante a gente destacar, entendeu? É uma instituição que estava se utilizando da inteligência artificial e está principalmente capacitando para poder estimular o uso. Mas, por outro lado, Tainá, a gente não pode deixar de

mencionar aquela parte ruim que a gente está tendo com o uso da inteligência artificial, que é também o que a propagação de de pakes de áudio e vídeo, textos convincentes gerados artificialmente, automação de campanhas de engajamento. Nessas ações, representam uma ameaça direta à integridade. Por exemplo, às vezes da eleição de um debate público. A gente também não pode esquecer que esse cenário está aí e está crescendo cada vez mais. Aí nesse ponto, Tainá a regulação, ela precisa também encontrar aqui um equilíbrio. Tal qual foi esse equilíbrio encontrado pela resolução 615 do

CNJ, né? E é um equilíbrio difícil de se auferir do modo que a gente consiga tanto proibir o uso malicioso, né? Da ferramenta. E também proteger a Liberdade de expressão. De que? Forma Tainá o Marco regulatório que encontra se em discussão no Brasil pretende abordar o uso da inteligência artificial na criação e na disseminação de desinformação e quais seriam, por exemplo, as ferramentas jurídicas e tecnológicas mais promissoras para combater esse fenômeno. E qual o papel esperado?

Assim, né, dessas plataformas? Olha, você tocou num ponto chave, né? Da das discussões atuais? É eu. Eu trabalho no Senado federal também. Trabalhei muito na regulação quando ela tava no Senado, né? E o que a gente nota é que há uma dificuldade muito grande, e não à toa, né? Houve julgamento esse ano do Marco civil da internet, do artigo 19 pelo supremo. Há uma dificuldade enorme do locos, prioritário, pra debater esse tema que é o Congresso Nacional eleito pelo povo, de debater esse tema, né?

Porque a gente tá vivendo de fato, infelizmente. Num país muito polarizado, né? Em tempos muito polarizados, então, é muito difícil aqui pra nós, no Brasil, aprovar qualquer tipo de regulação no Congresso. E não à toa, repito, o supremo acabou tendo que decidir e revisar o Marco civil da internet. Enquanto não se aprova nada no Congresso, é atribuindo regulações para as big techs. Enquanto isso não acontece, a gente tem aí. O ano passado foi aprovada uma legislação.

É que criminaliza, por exemplo, os deep nudes, que é 11 crime até de pornografia de vingança. Geralmente, né, que você cria uma inteligência artificial geralmente praticado pelo ex companheiro de uma mulher. Aqui no Brasil, infelizmente, é o código eleitoral, é AA reforma do código eleitoral que também está para ser aprovada. A previsão é em setembro, né? Traz um dispositivo. É principalmente vetando o uso de inteligência artificial por parte dos candidatos e da dos

partidos políticos. O que eu acho importante porque traz ali, né? O contexto da inteligência artificial na no âmbito político, que a gente já tem visto bastante, inclusive no Brasil, ele é bastante perigoso, porque ele pode enganar, né, a população e mudar até o rumo eleitoral às vésperas da eleição, né? Mas eu, particularmente, acredito mais no combate macro. Do que o micro, né? Então, do que do que a criminalização individual de você ficar pegando caso a caso e

de vocês do Ministério público, que eu lembro que eu fui estagiária de uma Vara de execução penal há muito tempo atrás, e eu lembro que a maior expressão é o tal do enxugar gelo, né? Então, quando você criminaliza uma determinada conduta, você resolve parte do problema, mas você cria outros. E aí quando você traz, né, necessidade de avaliação de pacto, determinação de transparência, como esse projeto de regulação traz, ele acaba, né, trazendo uma prevenção que é muito mais fácil no aspecto

macro do que você ficar combatendo crime a crime, né, que vai acontecendo pelos usuários. Então, estabelecer necessidade de de relatórios de avaliação de pacto. De transparência, uma autoridade que traga governança pra esses sistemas. Eu Acredito que é mais eficiente, né? Então a gente espera mesmo que até o ano que vem seja aprovado esse macro regulatório pra que a gente tenha para além do combate micro, né? Das limitações micro também é

uma governança no macro que se aplique às é também às plataformas. Eu acho que você você tocou num ponto que eu confesso que eu tinha pouco refletido ainda sabe sobre esse aspecto macro? E realmente, e me parece que ele é mais efetivo mesmo do que a gente ficar ali no micro mesmo, né? Então, assim, não adianta todo o podcast. Eu saio cheia de reflexões assim e essa já foi uma que ficou aqui. Falei assim, nossa, não tinha pensado nesse ponto, sabe?

Caminhando para o nosso final, embora o nosso bate-papo esteja delicioso, eu queria saber o seguinte, Tainá? Para além desse debate legislativo mais amplo sobre o Marco geral da inteligência artificial, o poder executivo também já começa a se movimentar para regular o uso setoriais. Um exemplo notório é recente portaria 961 do Ministério da justiça e segurança pública, que busca estabelecer parâmetros para o emprego de inteligência artificial. Na área de segurança pública e investigações criminais, que meu olho até brilha. Entendeu porque, afinal, esse é

o meu tema de pesquisa do doutorado, né? O uso da inteligência artificial nas investigações criminais. Então, assim, como você analisa a iniciativa do Ministério da justiça de regulamentar o uso da inteligência artificial aqui na percepção penal? E qual a importância dessas normativas até para impedir o uso abusivo dessas ferramentas na percepção penal? Bom, eu eu vejo com muito bons olhos essa iniciativa, eu acho que até demorou e que bom que veio, porque que eu falo que até demorou porque a gente já tem, né? Ela veio depois de muitos

sistemas de Reconhecimento facial para segurança pública, né? E um dos principais documentários que existem hoje é em termos de inteligência artificial e dos seus riscos e, principalmente, dos viéses discriminatórios. É o coded bies, né? Que eu sempre recomendo que a gente poderia traduzir ipsis litteris por vies No No código que é de uma pesquisadora chamada joyb olamini. É que hoje tem inclusive um livro publicado já decorrente da tese que em breve também a

Fernanda vai ter narrando isso, né? O documentário narra isso, ela fala, ela é uma matemática, se não me engano, ou cientista da computação. E ela no primeiro dia de aula dela no MIT. Ela vai ingressar no edifício, ela é negra, e aí ela não consegue ingressar porque era um sistema de Reconhecimento facial que falhou com ela. E aí ela fala, OPA, eu achei que eu IA entrar aqui e estudar matemática, códigos, mas aí quando eu fui barrada, ela criou uma, botou uma máscara branca e foi reconhecida e conseguiu entrar. Tanto que a capa do documentário é uma máscara ela de máscara

branca. Ela começa a pesquisar sobre os viéses discriminatórios, né? E aí você tem uma série de prós e contras desse uso. Mas eu acho que uma medida como essa é essa medida que o governo traz. Ela é muito importante, né? Porque ela traz uma série de questões que vão tentar. É trazer uma governança pra esses sistemas, pra não criar. É um estado vigilante mesmo Na Na distopia, que agora já nem é tão mais distópica assim.

Do George Orwell, né, de 1984, que foi o criador da expressão do reality show, né? O big Brother, o grande irmão, que era o estado, mesmo controlando as nossas ações. Então, na medida em que ele estabelece ali uma série de necessidades, né? Como, por exemplo, é a criação de equipes multidisciplinares para que avalie essas imagens e reduza os viéses, avaliação de riscos e uma série de outras determinações. Pra esse uso na investigação criminal, ela vai trazer medidas de governança que são

fundamentais. Porque já se sabe, né? Como eu falei, esse esse documentário ele é antigo, já se sabe que é. Há um risco não só dos vieses discriminatórios, que são muito graves na segurança pública, como também outros riscos, como eu falei, da hipervigilância estatal. E no mundo polarizado, a gente cada vez mais polarizado, como a gente tá vivendo. Ora o governo que está no poder a gente gosta. Ora o governo que está no poder a gente não gosta e pode usar as coisas contra a gente, né? Então é fundamental.

Eu vejo como fundamental essa medida tomada pelo governo. Tainá, eu quero muito te agradecer assim. Foi muito rico aqui, né? Essa esse nosso bate-papo muito

mais rápido do que eu gostaria. Mas é o tempo do nosso podcast, é, eu acho que ele instiga muito nossos é ouvintes a refletir sobre o tema. Nem todos que nos ouvem são entusiastas da IA, mas Eu Acredito que assim ó, após a ouvi la. Vários vão começar a querer assim, a pesquisar um pouquinho, a usar um pouquinho, né? Eu acho que com isso a gente vai vendo que o campo de atuação da inteligência artificial que a gente pode utilizar dela é muito vasto, né? E ao meu ver, é um caminho

realmente sem volta. E é por isso que eu acho muito importante que a gente reflita sobre ela, pra que realmente não aconteça aquilo que você mencionou logo no início, pra que a gente não viva ficções científicas na vida real, né? Que a gente tenha um uso. Correto e responsável para que ela venha efetivamente para nos ajudar. Então eu queria muito agradecer esse bate-papo que você teve aqui, foi uma delícia. E volte mais vezes, tá? Porque assim, ó, eu tenho esse objetivo de transformar a

inteligência artificial em algo que seja efetivamente corriqueiro no nosso dia a dia. Que a gente fale dela sem medo e que a gente reflita tal qual a gente reflete sobre outros institutos. Obviamente os lugares comentados, ele não fala só sobre inteligência artificial, na verdade é o nosso primeiro episódio assim, né? De inteligência artificial, 100%, mas que a gente consiga falar sobre ela, né? Que a gente torne esse debate mais amplo pra que a gente possa fazer o quê? Uma inserção social mesmo nesse tempo, que não seja um monstro pra aquelas pessoas que geralmente a gente tem medo do

desconhecido, eu falo, e a inteligência artificial, ela ainda tem algumas caixas pretas assim, né? Que eu. Vamos dizer assim, a gente ainda não sabe todo o potencial dela ou todos os limites, enfim, e talvez isso nos assuste. Então que a gente traga cada vez mais esse bate-papo pra que a gente vá aprendendo com ela, sem nos assustar. Então eu quero agradecer, porque eu acho que você veio e trouxe esse assunto de uma forma leve, tranquila e ao mesmo tempo com muita bagagem, com muito conteúdo. Então eu só quero te agradecer. Muito obrigada, Tainá. Eu que agradeço é o convite,

fico, me sinto privilegiada e prestigiada de ser a primeira a falar do tema aqui. Parabéns pela iniciativa. Tanto do MP é quanto de vocês aqui no podcast, que acho que realmente o caminho é o da educação. E o que eu trouxe, acho que a gente tentou é falar aqui foi isso, né? A gente a gente vive mesmo num mundo é muito polarizado. E eu acho que o que a tecnologia, a grande, o grande ensinamento da tecnologia para mim, de estudar isso tem sido esse, né?

Nada é extremamente bom e nem extremamente ruim. Então, assim, também não vamos acreditar que AIA vai resolver todos os nossos problemas e nem que ela vai também nos destruir. Qual é o caminho do meio? Acho que a gente tem precisado de de entender o caminho do meio em vários aspectos da vida. E eu acho que AA inteligência artificial ela pode trazer esse esse ensinamento também pra gente. Sem dúvida, eu acho que a gente encerra da melhor maneira, né? De que ela nem é tudo isso, nem tudo aquilo e que a gente tem que achar o meio do caminho. Então, muito obrigada, mais uma

vez. Bom, e você é nosso ouvinte, não esqueça de me seguir no aplicativo de sua preferência e também em nossas redes sociais. Procure no Instagram por ESMP underline PR ou acesse o nosso perfil na descrição do episódio e nos envie, claro, suas sugestões de temas, suas dúvidas e comentários. Muito obrigada, gente, e até. A próxima uma. Produção, Ministério público do Paraná.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. #167 - O indivíduo, a máquina e o Direito Penal com Fábio André Guaragni

    Nov 18, 20261 hr 4 minAudio

    Um carro autônomo que detecta uma pedestre, mas não freia. Uma videochamada em que todos os colegas eram deepfakes. Um sistema de reconhecimento facial que aponta como foragido um torcedor que não era. Nos três casos, o...

    Credit the people on this episode

  2. #166 - ANPP e os crimes hediondos com Lucas Cavini Leonardi

    Oct 28, 202636 minAudio

    Um investigado primário é flagrado com pouca droga. O promotor recusa o acordo de não persecução penal com um único argumento: tráfico é crime hediondo. Nas alegações finais, o próprio Ministério Público pede o...

    Credit the people on this episode

  3. #165 - Entre a Soberania dos Veredictos e a Revisão Criminal

    Oct 7, 202646 minAudio

    Um homem condenado pelo júri a treze anos por homicídio é absolvido anos depois, em revisão criminal, pelo próprio Tribunal de Justiça, sem passar por novos jurados. O Ministério Público recorre e o STJ mantém a...

    Credit the people on this episode

  4. #164 - Proteção Digital da Criança e do Adolescente

    Sep 23, 202648 minAudio

    Desde junho de 2026, conteúdo monetizado ou impulsionado que explora, de forma habitual, a imagem ou a rotina de uma criança depende de alvará judicial, e as plataformas são obrigadas a exigi-lo. Mas a exposição não...

    Credit the people on this episode

  5. #163 - O Brasil no Banco dos Réus: A Corte IDH e o Ministério Público

    Sep 9, 202640 minAudio

    Em 2020, quando o Julgados e Comentados falou pela primeira vez sobre controle de convencionalidade, o Brasil tinha dez sentenças da Corte Interamericana. Hoje são vinte e duas, e o Paraná aparece três vezes nessa...

    Credit the people on this episode