Regulamentação da IA no Brasil: especialistas explicam o desenvolvimento da IA e motivo da regulamentação ser essencial

O CEO da OpenAI, empresa que criou o famoso ChatGPT, Sam Altman, tem mostrado otimismo em relação ao desenvolvimento da regulamentação da Inteligência Artificial globalmente. A popularização dessa tecnologia tem estimulado a mobilização de autoridades para agir e isso também já é perceptível no Brasil, mas, afinal, qual a direção que estamos seguindo para regular a IA no país?

O projeto de lei n° 2.338, de 2023, é um importante início e também o mais próximo de um marco regulatório da IA no Brasil. A proposta foi apresentada pelo senador Rodrigo Pacheco (PSD) e constituída por uma comissão de juristas, esses que se apoiaram nas legislações já existentes e propostas nascidas da popularização da tecnologia generativa.

Em busca de entender mais sobre essa regulamentação que move o mundo das IAs, o setor de tecnologia do Portal NE10 conversou exclusivamente com uma das integrantes que compõem a comissão dos juristas na realização do projeto de lei, Clara Keller Iglesias, professora e também Líder de Pesquisa em Tecnologia, Poder e Dominação no Instituto Weizenbaum de Berlim.

Para esta matéria, também tivemos uma conversa com um dos principais nomes da tecnologia e Inteligência Artificial de Pernambuco, Filipe Calegario, professor adjunto do Centro de Informática da Universidade Federal de Pernambuco (UFPE).

O que diz o PL da regulamentação da IA no Brasil?

O PL estabelece normas gerais para o desenvolvimento, implementação e destaca o uso mais responsável de sistemas de inteligência artificial (IA) no país. A proposta tem o objetivo de proteger os direitos e implementar sistemas seguros e confiáveis em benefício dos humanos.

Um dos principais destaques é definir direitos para qualquer contexto de interação entre máquina e ser humano, além da responsabilização das consequências da tecnologia.

“De acordo com essa proposta, a maior parte das responsabilidades recai sobre duas figuras: o fornecedor do sistema (pessoa ou entidade que que desenvolve um sistema de IA, diretamente ou por encomenda); e o seu operador (a pessoa ou entidade que empregue ou utilize o sistema em seu nome ou benefício)”, explicou Clara Keller Iglesias.

Os riscos e impactos da IA sem a regulamentação

O PL 2.338 é um tema recorrente entre os políticos, desde a ministra da Ciência, Tecnologia e Inovação sendo questionada sobre a tecnologia até a discussão no Congresso Nacional.

A verdade é que a popularização da IA generativa tem alertado as autoridades sobre os verdadeiros riscos e impactos que a população brasileira pode sofrer.

De acordo com Filipe Calegario, os principais riscos que podem se citados com a falta de regulamentação da IA são:

• Violação de privacidade: sistemas de IA registrando, armazenando e analisando dados pessoais sem consentimento ou conhecimento dos usuários, o que vai em conflito à Lei Geral de Proteção de Dados Pessoais (LGPD);
  
• Transparência e responsabilização: esses sistemas baseados em IA podem tomar decisões autônomas, contudo, a falta de regulamentação pode se tornar difícil o entendimento de quais caminhos foram tomados para chegar a tal decisão e o responsável por potenciais consequências;
  
• Descriminação algorítmica: os algoritmos usados a partir do aprendizagem de máquina podem refletir e persistir em discriminações que arriscam a integridade do usuário;
  
• Desinformação: sem a regulamentação necessária, a IA pode ser mais uma forma de criação das fake news e deep fakes, que são ferramentas de manipulação direta da opinião pública, afetando decisões democráticas;
  
• Perda de empregos: com o avanço acelerado dos sistemas de IA e sem a regulamentação apropriada, empregos sofrerão mudanças significativas e, até mesmo, com o fim drástico de carreiras.

Quem será responsável por regulamentar a IA no Brasil?

De acordo com a proposta apresentada, a entidade responsável por cumprir esse papel ainda não foi definida, segundo Clara Keller Iglesias.

Mas já se sabe que a escolhida terá o dever de tomar decisões estratégicas para o melhor funcionamento do mercado e da lei, além de fiscalizar os riscos presentes e regular os sistemas que proporcionem risco excessivo aos humanos.

Em negativa: Regulamentação pode impedir avanço da IA no Brasil?

Com a regulamentação, há também os contrários à proposta. A premissa de que as regras impostas possam frear o desenvolvimento da tecnologia é uma discussão entre empreendedores e entusiastas da área.

“É possível avançar com a pesquisa e o desenvolvimento de sistemas de IA de forma responsável, seguindo uma regulamentação que enforce os benefícios de tais sistemas para o ser humano. Muitas vezes, as regras de mercado e a competição entre as empresas podem levar a caminhos não-benéficos para a sociedade como um todo, por isso, é importante ter freios e contrapesos para um avanço mais cuidadoso.”, afirmou Calegario.

Assim como o professor do CIn, Clara Keller Iglesias afirma que com um marco regulatório seguro e compreensivo “seria um elemento à favor do desenvolvimento da IA no Brasil, e não um obstáculo”. A professora também comentou sobre um dos pontos criticados pela oposição, como o pressuposto de que a liberdade do usuário seria prejudicada pela regulamentação.

No cenário internacional, figuras de notoriedade também apontaram para o desenvolvimento mais responsivo da tecnologia. Essa preocupação por mais segurança gerou uma carta aberta assinada por mais de mil especialistas, incluindo o bilionário Elon Musk, no mês de março.

Na petição publicada, os envolvidos pedem pausa no avanço até que sistemas de segurança com regulação e vigilância de sistemas de IA sejam estabelecidos, além de expressarem medo de um IA incontrolável superar os humanos, de acordo com o UOL.

O futuro é aqui: Pernambuco pode se tornar uma potência para pesquisa e desenvolvimento de IA generativa

Com um ecossistema de tecnologia rico, Pernambuco pode ganhar a “corrida das IAs” no Brasil. É fato que o estado possui um polo tecnológico de relevância nacional, o Porto Digital, além de instituições que já começam a focar em pesquisas avançadas da tecnologia generativa, como o CESAR e o CIn, de acordo com o professor Filipe Calegario.

Com o desenvolvimento acelerado, a Inteligência Artificial generativa já tem ganhado espaço nas práticas trabalhistas e, em breve, será uma dos requisitos para destaque no mercado profissional.

De acordo com o estudo “Futuro do Trabalho 2023”, elaborado pelo Fórum Econômico Mundial e com apoio da Fundação Dom Cabral, a IA e a aprendizagem de máquina são apontados como os mais novos empregos. Quando o assunto é capacidade para qualificação e/ou requalificação no Brasil, a Inteligência Artificial também é enfatizada.

Quem ainda persiste na ideia de que a Inteligência Artificial precisa ser totalmente "detida", poderá ver que a direção do Brasil não é essa. Desenvolver o avanço da tecnologia em um cenário mais responsivo, que garanta a segurança do usuário e do trabalhador, é o caminho essencial para que a IA generativa se torne para além de uma "revolução", sendo sinônimo de segurança e liberdade do usuário.