Em meio ao avanço inevitável da IA (Inteligência Artificial), a regulamentação mundial está em foco. A proteção do consumidor é tema central, mas o negligenciamento de aspectos mais amplos, como a segurança democrática, apresenta riscos substanciais. Este artigo critica a atual direção dessas regulamentações e discute suas implicações internacionais e no contexto brasileiro.

A necessidade de regulamentar a IA é inegável, dada sua capacidade de transformar a sociedade em níveis sem precedentes. No entanto, a maneira como diferentes países estão regulando a IA levanta preocupações significativas, principalmente devido ao foco excessivo na proteção do consumidor, que muitas vezes ofusca questões de ampla relevância, como a proteção da democracia e da liberdade de expressão.

Internacionalmente, a União Europeia lidera a iniciativa com o AI Act, que busca classificar sistemas de IA conforme seu risco. Este marco tem como objetivo principais garantir inovação responsável, promover a transparência e reforçar a proteção dos direitos fundamentais dos cidadãos. No entanto, essa proposta enfrenta críticas, principalmente das grandes empresas de tecnologia, que temem que uma regulamentação rígida possa restringir a inovação.

Essas abordagens variadas destacam o desafio de criar um marco regulatório globalmente eficaz. A pressão de empresas tecnológicas para moldar regulamentações de IA em seu benefício é evidente. Uma preocupação crescente é que essa influência possa resultar em regulamentações brandas que priorizam o lucro em detrimento da ética e da democracia. Exemplo disso é o impulso por parte dessas empresas em buscar mercados no Sul Global, onde a regulamentação tende a ser menos rigorosa.

No Brasil, a discussão é espelhada no Projeto de Lei 2338/2023, que visa principalmente a responsabilidade civil e transparência algorítmica. Contudo, ignora adequadamente os riscos mais profundos associados à IA, como manipulação política e vigilância em massa. O projeto propõe a criação de uma nova agência reguladora, mas isso levanta preocupações sobre potencial censura e abuso de poder, ressaltando a necessidade de um balanço respeitoso entre inovação e restrições governamentais.

Diante disso, é crucial que não apenas o Brasil, mas também outros países, considerem a proteção da democracia em seus marcos regulatórios. A transparência algorítmica, auditoria independente, e a responsabilidade das empresas tecnológicas são fundamentais para que a IA seja utilizada em prol da promoção da justiça e não da manipulação social.

À medida que o mundo avança na regulamentação da IA, é imperativo garantir que essas normas não se limitem à proteção do consumidor, mas também contemplem a defesa dos valores democráticos fundamentais. Um debate mais amplificado e profundo, que envolva a participação ativa da sociedade civil, é essencial para assegurar que a regulamentação da IA seja uma ferramenta de promoção de inovação responsável e um guardião da democracia, e não um meio de cerceá-la.

Marcelo Senise é idealizador do Instituto Brasileiro para a Regulamentação da Inteligência Artificial.