Projeto de lei sobre IA já nasceu defasado e representa desafios de regular novas tecnologias

Apresentado há apenas dois meses pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), o PL 2.338/23, que busca criar o Marco Regulatório da IA (Inteligência Artificial), não contempla a IA generativa de uso geral, presente em ferramentas como o ChatGPT — e representa desafios que autoridades em todo o mundo enfrentam ao tentar regular tecnologias emergentes.

O texto terá que passar por mudanças relevantes durante a tramitação, de acordo com a avaliação de especialistas e parlamentares ouvidos pelo Aos Fatos, incluindo membros da comissão de juristas que deu origem ao projeto.

• Quase todos os trabalhos da comissão aconteceram antes da abertura ao público do ChatGPT, ferramenta da empresa OpenAI capaz de executar tarefas (como criar e resumir textos e códigos) a partir de comandos escritos;
• A versão gratuita da ferramenta foi disponibilizada ao público em 30 de novembro de 2022;
• Já o relatório dos juristas foi entregue logo na semana seguinte, em 6 de dezembro;
• A minuta foi transposta sem alterações para o PL 2.338/2023, apresentado em maio deste ano.

“Depois da entrega do relatório [dos juristas] e do PL, aumentaram os riscos a partir da IA generativa, por exemplo. Por isso, a gente precisa de uma atualização desse texto para aprovação”, defende Estela Aranha, coordenadora de Direito Digital do Ministério da Justiça e integrante da comissão.

O projeto de lei apresentado no Senado é inspirado no “AI Act”, proposta regulatória da tecnologia em discussão na União Europeia. A proposta recebeu mais de mil sugestões de emendas para adaptá-la ao novo modelo de IA generativa, o que resultou em um texto mais detalhado do que brasileiro:

• O projeto de Pacheco prevê responsabilização apenas a desenvolvedores e usuários finais;
• Já a lei europeia engloba também representantes legais de empresas de tecnologia, importadores e distribuidores, que seriam intermediários no acesso dos sistemas pelos usuários;
• Ao não incluir esses agentes intermediários, o texto brasileiro deixa de fora, por exemplo, plataformas que incorporam ferramentas de IA em outros aplicativos, como as que usam o ChatGPT para criar sistemas de automatização próprios.

Os agentes intermediários passaram a ganhar espaço após o lançamento das ferramentas de inteligência artificial com múltiplas aplicações, chamadas “de uso geral”. Incluí-los na regulação é a principal melhoria a ser feita no PL 2.338/23, segundo o diretor da organização Data Privacy e um dos autores do relatório que deu origem ao projeto, Bruno Bioni.

Para ele, o texto atual “não parece ser suficiente diante da multiplicidade de agentes, de propósitos, de desenvolvimento e de aplicação que as IAs generativas trazem para a discussão regulatória”.

Além de abranger um número maior de agentes, a proposta europeia também ajustou a classificação de riscos de IAs generativas, fazendo maiores exigências para esses tipo de tecnologia. O “AI Act” prevê, por exemplo, sistemas para a identificação de conteúdos gerados por robôs, além da disponibilização pública de dados sobre o funcionamento dos programas.

Já o PL 2.338/23 não determina de partida o grau de risco das IAs generativas de uso geral. O texto diz apenas que os desenvolvedores desses sistemas deverão indicar todas as diferentes formas de uso de suas ferramentas. Com base nessa informação, a autoridade regulatória que fiscalizará a aplicação da lei vai definir o grau de risco de cada tecnologia, que poderá ser:

• Baixo, com menores obrigações;
• Alto, com maiores exigências de transparência e segurança para desenvolvimento e uso;
• De máximo risco, cuja utilização é vedada.

Anderson Rocha, coordenador do Recod.ai — laboratório de inteligência artificial da Unicamp — considera as classificações de risco muito rasas para a multiplicidade de usos das novas tecnologias.

“Não dá pra você simplesmente falar que, por ser uma IA generativa, ela é de alto risco. Isso deve ser amadurecido na legislação europeia e na brasileira.”

Para o doutor em ciência da computação, é necessário tratar especificamente de sistemas de inteligência artificial generativa, principalmente no projeto de Pacheco. “É uma peça que está muito mais crua [que a europeia]”, diz.

FLEXIBILIDADE

O presidente do Senado defende que a redação atual do projeto “é capaz de lidar com o avanço tecnológico previsto para os próximos anos”. Para Rodrigo Pacheco, o projeto tem flexibilidade para se antecipar aos problemas ao propor que as listas de classificação de riscos possam ser atualizadas por um órgão fiscalizador.

“Por não se fixar em utilizações específicas, o texto contempla os sistemas atuais de inteligência artificial, os que ainda estão em desenvolvimento e os que são previstos para o futuro”, afirma Pacheco.

Na avaliação do senador, o uso de tecnologias de inteligência artificial generativa, como o ChatGPT, para a criação de conteúdos falsos, por exemplo, já estaria contemplado pelo projeto. “Se esse tipo de aplicação for utilizado para induzir comportamentos prejudiciais ou perigosos ou para explorar vulnerabilidades de grupos específicos, ele será considerado de risco excessivo e, portanto, terá sua utilização vedada”, afirmou.

Estela Aranha concorda que o PL foi redigido de forma a se precaver de novos problemas e “não ficar engessado nem datado”, pois leva em consideração riscos ainda desconhecidos dos sistemas.

“Esse projeto de lei não aposta num sistema de classificação de risco estanque, mas sim dinâmico”, porque permite a adaptação da aplicação da lei pelo órgão regulador conforme a tecnologia for se desenvolvendo e sendo implementada, explica Bioni.

A necessidade precoce de atualização do PL 2.338/23 para contemplar as IAs generativas é usada como argumento por aqueles que defendem propostas de regulação mais brandas, como a prevista no PL 21/2020, aprovado pela Câmara em 2021.

Loren Spindola, porta-voz da Abes (Associação Brasileira de Empresas de Software), considera que o marco legal “geraria insegurança jurídica” e correria “o risco de já nascer obsoleto, considerando o dinamismo da tecnologia” caso tivesse a ambição de abarcar todas as aplicações possíveis de inteligência artificial.

“A tecnologia ainda está em seu estágio inicial de desenvolvimento. Por isso, não podemos abordar a questão através de um conjunto rígido e estático de regras, que não se adequem a todas as instâncias”, concorda a relatora do PL 21/2020, Luiza Canziani (PSD-PR).

Canziani admite, porém, que o projeto do qual é relatora também já precisa de atualização. “Reconhecemos que algumas inovações surgiram desde a aprovação do texto na Câmara dos Deputados, há quase dois anos”, diz a deputada.

“O ChatGPT e outras ferramentas de IA chamaram a atenção para o assunto e aglutinaram debates e novas reflexões. De fato, são necessárias algumas reflexões e alterações no texto.”

Relator do PL 5.691/2019, mais um que trata de inteligência artificial no Senado, o senador Rogério Carvalho (PT-SE) também concorda que nenhuma das propostas hoje em discussão está preparada para lidar com a IA generativa. “Os projetos em tramitação no Congresso brasileiro carecem de nova avaliação e atualização para essa mudança de realidade”, diz.

TRAMITAÇÃO

As propostas de regulamentação das IAs ainda não começaram a ser discutidas oficialmente no Senado, já que nenhum dos cinco projetos de lei que tratam do tema foi direcionado às comissões temáticas da Casa.

Segundo informou o senador Eduardo Gomes (PL-TO), será criada uma nova comissão temporária para tratar do assunto, que reunirá deputados e senadores. O presidente do novo órgão será o senador Carlos Viana (Podemos-MG), presidente da Comissão de Ciência, Tecnologia, Informação e Informática.

O caráter embrionário das discussões, porém, contrasta com a urgência em se aprovar a matéria. “Regular inteligência artificial já é uma discussão do presente”, diz Bioni.

“Não é uma discussão futurista, porque a IA já atravessa as nossas vidas, nossas oportunidades sociais e até mesmo aquilo que a gente entende de uma sociedade saudável e democrática.”

Referências:

1. Senado Federal (1, 2, 3, 4, 5)
2. Aos Fatos (1, 2)
3. Axios
4. Parlamento da União Europeia (1, 2)