Quantcast
Channel: Peck Advogados
Viewing all articles
Browse latest Browse all 26

Aprovado o Relatório final do PL 2.338/2023: veja o que mudou

$
0
0

Por Patrícia Peck Pinheiro

relatório final do senador Eduardo Gomes sobre a regulamentação da IA no País foi aprovado nesta quinta-feira, 5 de dezembro, na Comissão Temporária sobre Inteligência Artificial. O texto foi encaminhado ao plenário do Senado, onde deve ser colocado em votação na próxima semana. O relatório recebeu 198 propostas de emenda, sendo 84 delas acatadas total ou parcialmente pelo relator antes da sessão.

Na Sessão Deliberativa Extraordinária, o texto foi encaminhado à publicação e foram aprovados os REQ nºs 13 e 14/2024-CTIA, de urgência para a matéria. Após a sessão, foram propostas mais 21 emendas (chegando a 224 emendas), tendo um cenário desafiador contra o tempo para analisar e incluí-las antes da votação. Há grande probabilidade de o texto final ser aprovado pelo Senado. No entanto, ainda teremos mais uma etapa, que é o debate na Câmara dos Deputados, ficando, provavelmente, para 2025.

Pontos de destaque da sessão CTIA de 05/12/2024:

  • No relatório, a definição de classificação de risco terá uma regulamentação posterior. A fiscalização caberá ao Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que terá a coordenação da Autoridade Nacional de Proteção de Dados (ANPD). Essas mudanças para excluir “exigências excessivas” na classificação dos riscos foram necessárias para harmonizar a necessidade de garantir o desenvolvimento da inovação com as salvaguardas de proteção de direitos humanos. Isso favorece as big techs. Mas foram juntadas emendas, inclusive a 224 ainda tratando disso.

  • A IA deverá seguir princípios, como a proteção de grupos vulneráveis e da democracia e a integridade da informação disponibilizada pela ferramenta. Também deverão ser adotados mecanismos contra discriminação e ferramentas de supervisão humana.

  • Atendendo à necessidade de cumprir com princípio de transparência e combater fraudes, os sistemas de inteligência artificial deverão ser identificados com um símbolo. Essa medida servirá para que usuários saibam que estão interagindo com uma ferramenta inumana.

  • Caráter facultativo da avaliação preliminar dos sistemas de IA, estabelecido pelo relator a partir de emenda da senadora Mara Gabrill. De acordo com a nova redação do texto, a avaliação preliminar só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes, como prioridade em avaliações de conformidade.

  • Eduardo Gomes manteve um dos pontos que gerou divergência nos debates: a proteção dos direitos dos criadores de conteúdo e obras artísticas. Este é um dos temas mais polêmicos. O texto do relatório estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de mineração de textos para o desenvolvimento do sistema de IA por instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais e o objetivo principal da atividade não pode ser a reprodução, exibição ou disseminação da obra usada e a utilização deve limitar-se ao necessário para alcançar a finalidade proposta, e os titulares dos direitos não tenham seus interesses econômicos prejudicados injustificadamente. O desafio aqui é conseguir gerar aprendizagem de máquina para que os modelos alcancem estabilidade e maior taxa de assertividade, evitando alucinação e viés.

  • As regras a respeito da moderação de conteúdos publicados ou produzidos por meio da IA somente poderão ser definidas por meio de “legislação específica”.

  • Em caso de incidente, os responsáveis pela IA deverão comunicar ao SIA. O prazo e os canais de comunicação serão definidos posteriormente, depois de uma eventual sanção do PL. Está mantida a indicação para a ANPD ser a autoridade reguladora da IA (arts. 45 e 74), no prazo de dois anos.
  • Os cidadãos terão assegurados os direitos a explicação e a revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.

  • Empresas de IA poderão se associar para criar uma espécie de agência privada para a autorregulação do sistema. A autorregulação poderá estabelecer critérios técnicos dos sistemas para questões como: compartilhamento de experiências sobre o uso de inteligência artificial; definição contextual de estruturas de governança; atuação da autoridade competente e demais agências e autoridades do SIA para emprego de medida cautelar; e canal de recebimento de informações relevantes sobre riscos do uso de inteligência artificial por seus associados ou qualquer interessado.

  • O relator acatou emenda do senador Fabiano Contarato para incluir, entre as diretrizes protetivas do trabalho e dos trabalhadores, o fomento ao desenvolvimento de programas de treinamento e capacitação contínua, promovendo a valorização e o aprimoramento profissional. 

  • Os senadores Randolfe Rodrigues e Rogério Carvalho fizeram requerimento de urgência para o PL 2338/2023.

*Patrícia Peck Pinheiro é CEO e sócia-fundadora do Peck Advogados.


Viewing all articles
Browse latest Browse all 26