Pacheco concentra debate sobre IA e freia PL aprovado na Câmara com apoio de big techs

Presente nos algoritmos de distribuição de conteúdo das redes sociais e em áreas essenciais do cotidiano, como segurança pública e saúde, o uso de inteligência artificial é objeto de iniciativas de regulação já há alguns anos, tanto no Brasil como em outros países.

Apesar dessas tentativas, o debate se intensificou em todo o mundo nos últimos seis meses — após a empresa OpenAI abrir ao público o ChatGPT, ferramenta de IA generativa capaz de executar tarefas complexas a partir de comandos de texto, que se popularizou em poucos dias.

• Em setembro de 2021, a Câmara aprovou um projeto sobre regulação de inteligência artificial que seguiu para o Senado;
• O PL 21/2020, de autoria do deputado Eduardo Bismarck (PDT-CE), teve relatoria da deputada Luísa Canziani (PSD-PR), ex-presidente da Frente Digital, grupo assessorado pelo Instituto Cidadania Digital, patrocinado indiretamente pelas big techs;
• Na época, a proposta foi divulgada por seus defensores como uma oportunidade de o país sair na vanguarda da regulação e recebeu apoio pluripartidário, do PL de Bolsonaro ao PT de Lula;
• Enquanto isso, outros três outros projetos tiveram origem no Senado: os PLs 5.051/2019 e 5.691/2019, apresentados pelo senador Styvenson Valetim (Pode-RN), e o PL 872/2021, do senador Veneziano Vital do Rêgo (MDB-PB);
• Parlamentares envolvidos na discussão relataram ao Aos Fatos que, no ano passado, o presidente do Senado, Rodrigo Pacheco (PSD-MG), negociou a paralisação das discussões da Comissão de Ciência e Tecnologia sobre outros projetos, a fim de concentrar os trabalhos sobre o tema;
• Com o poder de manejar o andamento de todas as propostas concentrado em suas mãos, Pacheco decidiu no ano passado instituir uma comissão de juristas para avaliar as diferentes propostas;
• Após nove meses de reuniões, o resultado foi a criação de um novo projeto, PL 2.338/23, de autoria de Pacheco, que pretende criar um Marco Regulatório da Inteligência Artificial baseado na legislação da União Europeia sobre o assunto.

“O novo projeto tem o objetivo de agregar, num único texto, todas as questões relativas à disciplina da inteligência artificial, o que organiza e facilita as discussões do tema no Congresso Nacional”, disse o presidente do Senado ao Aos Fatos.

Na última quinta-feira (22), o senador Eduardo Gomes (PL-TO) adiantou aos participantes do 3º Congresso Brasileiro de Internet, organizado pela Abranet (Associação Brasileira de Internet) e pelo ITS Rio (Instituto Tecnologia e Sociedade), que o projeto de Rodrigo Pacheco será encaminhado nos próximos dias a uma nova comissão temporária destinada a apreciar exclusivamente projetos sobre IA. “A gente pretende realizar muitas reuniões, quantas for necessário.”

1. O que diz o projeto de Pacheco
2. O que dizem as empresas
3. Quem foi ouvido pela comissão de juristas
4. O que diz o projeto que já foi aprovado na Câmara
5. O futuro das propostas

O QUE DIZ O PROJETO DE PACHECO

No lugar de reunir e reformar os projetos anteriores, o projeto de Pacheco buscou inspiração em propostas legislativas estrangeiras sobre o tema, em especial na europeia, aprovada pelo Parlamento neste mês após dois anos de trabalhos.

“A Lei de IA vai representar um modelo a ser seguido por outras jurisdições”, afirmou o eurodeputado Dragoș Tudorache, autor do projeto, em entrevista ao jornal O Estado de S. Paulo após a aprovação.

Além de ouvir representantes do setor privado, da academia e da sociedade civil, a comissão de juristas reunida por Pacheco no Senado estudou as propostas de regulamentação da inteligência artificial de mais de 30 países integrantes da OCDE (Organização para a Cooperação e Desenvolvimento Econômico).

“O mundo inteiro está discutindo propostas de regulação em inteligência artificial e a proposta brasileira encontra ressonância em muitos espaços. Não apenas na [proposta} europeia, mas também na proposta canadense e também nas diretrizes da OCDE e da Unesco”, afirma Bruno Bioni, diretor da associação de pesquisa Data Privacy e membro da comissão.

Da proposta europeia, o PL 2.338/23 importou a abordagem baseada em riscos. “O projeto define explicitamente duas categorias de risco de sistemas de inteligência artificial: os sistemas de ‘risco excessivo’, cuja utilização é vedada, e os sistemas de ‘alto risco’, que devem observar normas estritas de desenvolvimento e uso”, afirma Pacheco.

Caneta à mão. Rodrigo Pacheco no dia da entrega de seu projeto de lei sobre inteligência artificial ao Plenário (Jonas Pereira/Agência Senado)

Entre os proibidos estariam:

• sistemas que empregam técnicas subliminares, como a captura de expressões faciais para identificação de sentimento, para induzir comportamentos prejudiciais ou perigosos;
• os que exploram vulnerabilidades, como as associadas à idade ou a limitação física ou mental;
• e os utilizados pelo poder público para classificar pessoas com base em seu comportamento social ou personalidade para fins de acesso a bens, serviços e políticas públicas.

Já os sistemas de IA considerados de “alto risco” seriam aqueles que podem causar impacto material significativo em um indivíduo ou na sociedade, listados em 14 tipos que poderão ser atualizados por autoridade fiscalizadora indicada pelo Poder Executivo. Estão entre eles:

• gerenciadores do funcionamento de estruturas críticas, como redes de água e de energia;
• avaliadores de concessões de serviços essenciais, como assistência e seguridade;
• sistemas que estabelecem classificação de crédito e capacidade de endividamento;
• controladores de veículos autônomos;
• sistemas que auxiliam diagnósticos e procedimentos médicos.

Os operadores desses sistemas deverão manter documentação das etapas de desenvolvimento da tecnologia, adotar medidas mais rígidas para prevenir vieses, como a composição de equipes inclusivas, e fazer avaliações de impacto algorítmico.

“Todos os outros sistemas não classificados como de risco excessivo ou de alto risco são considerados de baixo risco, e devem observar apenas as normas gerais aplicáveis a todos os sistemas de inteligência artificial”, continua Pacheco.

Entre os direitos gerais estabelecidos pelo PL estão:

• direito à explicação sobre decisões de sistemas de inteligência artificial;
• à contestação dessas decisões;
• à correção de vieses de algoritmos;
• à não discriminação.

Esses últimos pontos são uma especificidade do PL 2.338/23. “[A proposta] não é um ‘copia e cola’ dessas outras legislações, ela tem as suas particularidades. Por exemplo, a proposta brasileira é muito forte na perspectiva de considerar as desigualdades estruturais no Brasil”, destaca Bioni.

Para o especialista, no entanto, a adequação aos padrões internacionais é importante para ter “convergência e interoperabilidade” com outros países. “Dentro das propostas que estão sendo debatidas, a que mais tem sintonia e ressonância é justamente essa que foi apresentada pelo presidente do Senado”, defende.

“Há consenso sobre a urgência da regulação de IA”, concorda Estela Aranha, coordenadora para direitos digitais no Ministério da Justiça e também integrante da comissão de juristas.

Por dentro. Integrante da comissão de juristas em 2022, Estela Aranha foi nomeada coordenadora de direito digital no Ministério da Justiça (Valter Campanato/Agência Brasil)

“Órgãos multilaterais, assim como na OCDE, ONU, agora estão trabalhando inclusive a ideia para eventualmente ter uma entidade internacional para padrões dessa tecnologia, tamanha a complicação e risco que estamos enxergando com esse avanço rápido e exponencial da IA.”

O QUE DIZEM AS EMPRESAS

Apesar da ressonância internacional, representantes do setor empresarial levantam a preocupação de que o PL 2.338/23 atrapalhe a inovação e possa gerar judicialização excessiva.

“O texto do substitutivo proposto manteve um modelo legalista, que pode levar à inviabilidade do desenvolvimento de IA no Brasil”, defende a porta-voz da Abes (Associação Brasileira das Empresas de Software), Loren Spindola.

Sem mostrar preferência por nenhum dos projetos em tramitação no Senado, a Câmara-e.net (Câmara Brasileira da Economia Digital) disse participar de discussões a respeito da criação do Marco Regulatório de Inteligência Artificial no país. “A Câmara-e.net entende que os esforços devem voltar-se à construção de um arcabouço regulatório que equilibre o estímulo à inovação com a proteção aos direitos fundamentais dos usuários.”

Durante as audiências públicas realizadas pela comissão, no entanto, representantes de empresas de tecnologia teceram elogios ao PL 21/2020, que já foi aprovado na Câmara e estabelece princípios básicos e gerais para o uso e desenvolvimento de inteligência artificial no Brasil, sem entrar em minúcias sobre responsabilização ou fiscalização.

Na ocasião, a Alai (Associação Latino-Americana de Internet) defendeu a “adoção de uma estrutura regulatória abrangente, flexível e dinâmica, menos prescritiva, mais principiológica”, posicionamento que foi ecoado por outras associações, entre elas:

• a Abes;
• a Câmara-e.net;
• a Abinc (Associação Brasileira de Internet das Coisas);
• a ABO2O (Associação Brasileira Online to Offline);
• o IAB Brasil (Interactive Advertising Bureau Brasil);
• e a Febraban (Federação Brasileira de Bancos).

As preocupações do setor privado são reconhecidas pela relatora do projeto aprovado na Câmara, Luísa Canziani (PSD-PR), que avalia que o novo projeto apresenta definições vagas de “transparência” e “explicabilidade” das decisões de IA que podem atrapalhar a inovação.

“Mantemos a visão de que devemos manter um texto principiológico, que não sufoque o setor produtivo, os desenvolvedores, os cientistas e se crie desincentivos ao investimento”, afirma a deputada Canziani.

Relatora. Luísa Canziani lê seu parecer sobre o PL 21/2020 durante votação no plenário (Michel Jesus/Câmara dos Deputados)

“Foi o que tentamos fazer, com todas as eventuais imperfeições, no texto aprovado”, ela continua. “Devemos cuidar para não desfavorecer ainda mais as empresas de tecnologia e inovação brasileiras, principalmente com relação às empresas estrangeiras.”

Para a Abes, no entanto, o ponto de vista do setor privado não foi contemplado no substitutivo apresentado pela comissão de juristas que deu origem ao projeto de Pacheco.

“Entendemos que o modelo proposto deve ser objeto de mais amplo debate, vis-à-vis o estágio e complexidade da tecnologia, considerando, principalmente, que as contribuições de diferentes setores não estão refletidas na minuta do substitutivo”, disse a porta-voz da associação.

QUEM FOI OUVIDO PELA COMISSÃO DE JURISTAS

Integrantes do colegiado formado por Rodrigo Pacheco dizem que todos os pontos de vista foram ouvidos e considerados. “Nós não sentamos com as empresas especificamente, mas nós tivemos algumas reuniões com associações, principalmente nas audiências públicas, onde representantes do setor privado foram ouvidos”, afirma Estela Aranha.

Durante os nove meses de trabalho, a comissão realizou doze audiências públicas e ouviu mais de 50 palestrantes, além de receber mais de 100 contribuições escritas, todas catalogadas em relatório com mais de 800 páginas disponível no site do Senado Federal.

“Muitos dos convidados das audiências públicas e dos palestrantes do seminário internacional eram representantes de empresas do setor privado, inclusive de grandes grupos de tecnologia”, afirma Rodrigo Pacheco.

Especialistas também rebatem as críticas sobre a regulamentação atrapalhar o desenvolvimento de novas tecnologias. “É equivocado pensar que uma proposta de regulação que seja afirmativa de direitos é contra a inovação”, argumenta Bioni.

“Se você coloca uma uma tecnologia de desenvolvimento rápido, mas que vai ser maléfica, desastrosa, danosa para a sociedade, o impacto do uso a médio ou longo prazo vai ser a quebra de confiança”, ele continua. “As pessoas não vão adotar essas tecnologias ou você vai ter um movimento de contenção e de ataque.”

Para combinar a evolução tecnológica com a regulação, o PL 2.338/23 prevê ambientes regulatórios experimentais, chamados de sandbox, nos quais tecnologias em desenvolvimento poderão atuar com menos obrigações por um período de implementação, mediante solicitação junto à autoridade fiscalizadora.

A aprovação de regras rígidas demais “pode atrapalhar o desenvolvimento da própria inovação e da solução de problemas que podem ser importantíssimos, por exemplo, uma nova vacina”, diz Anderson Rocha, doutor em ciência da computação e coordenador do Recod.ai, laboratório de inteligência artificial da Unicamp.

Recod.ai. Laboratório fica dentro do Instituto de Ciência da Computação da Unicamp e divide espaço com outros centros de pesquisa (Divulgação)

Para ele, a solução de sandbox é um dos frutos do diálogo com setores da indústria para o amadurecimento das propostas de regulação. “É preciso levar em conta que, dependendo de como você regulamentar, você pode representar um atraso pro país em termos de busca de inovação e competitividade”, diz. “Você tem que trazer para a discussão de legislação representantes da indústria, representantes das startups que lidam com isso no dia a dia.”

O QUE DIZ O PROJETO QUE JÁ FOI APROVADO NA CÂMARA

Nem o modelo sandbox, nem a abordagem baseada em riscos adotadas pelo projeto de Pacheco estavam presentes no projeto relatado pela deputada Luiza Canziani.

• Com 45 artigos e 28 páginas, o PL 2.338/23 tem quase três vezes a extensão do PL 21/2020 (10 artigos e 11 páginas) e não tem quase nenhum trecho em comum.

“Diferente da proposta europeia, não propusemos limitações a usos de sistemas de IA (proibições absolutas), nem mesmo a especificação do que seria inteligência artificial de alto risco”, explica a relatora.

“Preferimos delegar tais definições para outras legislações setoriais, para a regulação ou para a autorregulação setorial, a ser elaborada e implementada conforme o amadurecimento da tecnologia no Brasil e a identificação mais precisa dos riscos envolvidos em cada atividade ou aplicação”, ela continua.

Segundo a parlamentar, o PL 21/2020 foi inspirado nos conceitos e diretrizes propostos na Recomendação sobre Inteligência Artificial da OCDE (Organização dos Estados para o Desenvolvimento Econômico) e adota uma abordagem regulatória setorial, que é o modelo americano.

Canziani defende que a abordagem setorial é o melhor caminho: “Quem melhor que a Anvisa para avaliar o uso de IA em medicamentos? Que o Banco Central para tratar de questões do mercado bancário? Ou que a Anac para tratar de questões relacionadas à aviação?”

“Esses órgãos já possuem especialistas e normas que disciplinam seus respectivos setores. O que precisamos, afinal, são de normas que indiquem quando e como estes reguladores setoriais podem e devem intervir no que diz respeito à IA.”

O modelo é defendido também pela Abes, que reforçou, em posicionamento enviado ao Aos Fatos que “a competência institucional já existente para regulações setoriais aplicadas no Brasil também para os eventuais usos e aplicações que possam vir a ser feitos da IA”.

Ao ser analisado por acadêmicos e integrantes da sociedade civil em 2022, o PL 21/2020 foi visto como excessivamente vago. O relatório da comissão de juristas afirma que o projeto “não prevê métodos de fiscalização, mecanismos para garantir a efetividade da norma ou sanções e que a centralidade do ser humano não está suficientemente afirmada”.

A crítica já havia sido apresentada durante a votação do projeto na Câmara, em setembro de 2021, pela então bancada de oposição. “Essa regulação do jeito que está ela não é uma regulação. Ela é o que nós chamamos no direito de ‘soft law’, uma norma frágil, que traz alguns princípios gerais”, disse na ocasião o deputado Leo Brito (PT-AC).

O parlamentar havia apresentado requerimento para adiamento da decisão, mas retirou o pedido após ter emendas contempladas pela relatora do projeto. Ao final, o PSOL foi o único partido que orientou voto contrário ao mérito da proposta.

“Esse é um tema muito meritório e que tem que ser tratado por esse parlamento, mas que merecia, como foi o Marco Civil da Internet, ter um debate mais amplo e mais demorado para que não tenham brechas com as quais a gente se surpreenda mais pra frente na aplicação da lei”, orientou na ocasião a deputada Taliria Petrone (PSOL-RJ).

O FUTURO DAS PROPOSTAS

O PL 21/2020 foi ao Senado e, junto com outros projetos sobre o tema, teve a tramitação paralisada por todo o ano de 2022 enquanto ocorriam os trabalhos da comissão de juristas convocada por Pacheco.

O senador Rogério Carvalho (PT-SE) , relator do PL 5.691/2019, contou que a própria comissão pediu que ele aguardasse o término dos trabalhos “para sincronizar os resultados”. O relato corrobora com o de outras fontes consultadas pela reportagem, que dizem que Pacheco atuou para unificar as propostas de lei em um só, de sua autoria.

Trabalhos paralisados. Senador Rogério Carvalho em reunião da Comissão de Ciência e Tecnologia do Senado em 2022 (Roque de Sá/Agência Senado)

“Os novos projetos em tramitação na Casa e suas audiências colocaram nossa relatoria em compasso de espera”, afirma Carvalho. Para o parlamentar, o PL de Pacheco é mais robusto que o aprovado pela Câmara, mas não descarta a possibilidade de avanço no projeto de sua relatoria. “Considero também bastante importante nossa relatoria por se tratar de um projeto principiológico, enquanto não aprofundamos o debate do projeto PL 2.338/2023.”

Autor do PL 21/2020, o deputado Eduardo Bismarck também não parece ter desistido de sua proposta. Na esteira da aprovação da legislação europeia, o parlamentar relembrou o projeto aprovado na Câmara em publicação no Instagram na semana passada.

Já a relatora Luiza Canziani busca um acordo entre as propostas. “Estamos dispostas a colaborar com as discussões para chegar em um texto possível e que favoreça todos os envolvidos”, disse ela ao Aos Fatos.

Provável relator do PL de Pacheco, o senador Eduardo Gomes também fez um aceno pela convergência durante sua fala no 3º Congresso Brasileiro de Internet.

“A partir do momento em que é necessário um debate mais amplo sobre inteligência artificial, a gente deve observar as experiências paralelas que circularam nas duas Casas para buscar um espaço correlato de debate.” Seja quais forem os próximos passos, o presidente do Senado terá papel central.

Referências:
1. Axios
2. Aos Fatos
3. Statista
4. Câmara dos Deputados
5. Folha de S.Paulo
6. Senado Federal (1, 2, 3, 4, 5, 6)
7. The Washington Post
8. O Estado de S. Paulo
9. OCDE
10. Instagram (Eduardo Bismarck)