A União Europeia (UE) anunciou novas diretrizes para sistemas de inteligência artificial de uso geral (GPAIs), marcando um passo decisivo para a regulamentação no setor. As orientações, divulgadas em 14 de novembro de 2024, buscam orientar empresas como OpenAI, Google e Microsoft a se adequarem ao AI Act, legislação que regula a IA na Europa.
AI Act e abordagem baseada em risco
Em vigor desde agosto de 2024, o AI Act é o primeiro marco regulatório global a adotar uma abordagem baseada em risco para IA. Dessa forma, os sistemas de IA são classificados segundo seu impacto potencial na sociedade.
Os GPAIs, que incluem modelos de linguagem amplamente utilizados, como chatbots e assistentes virtuais, receberam atenção especial devido à sua aplicação generalizada em diferentes setores.
Diretrizes para conformidade de GPAIs
As orientações oferecem um roteiro para que os desenvolvedores de GPAIs cumpram os requisitos estabelecidos pelo AI Act. Entre as recomendações estão:
- Transparência
As empresas devem divulgar informações detalhadas sobre o funcionamento de seus sistemas, como dados de treinamento e métodos utilizados para construir os modelos. - Avaliação de riscos
Identificar riscos associados ao uso de GPAIs é essencial para mitigar problemas que possam infringir os direitos fundamentais dos cidadãos. - Supervisão humana
Implementar mecanismos para permitir intervenção humana em decisões tomadas pelos sistemas, garantindo maior controle e responsabilidade.
Essas exigências incentivam práticas responsáveis no desenvolvimento de IA, promovendo maior segurança e confiabilidade nos sistemas.
Impacto para grandes empresas de IA
Gigantes da tecnologia enfrentarão desafios para adequar seus processos aos requisitos. Ajustes nos modelos de negócios, transparência sobre a origem dos dados de treinamento e revisão das práticas de desenvolvimento são algumas das ações esperadas.
Além disso, as empresas devem se preparar para custos adicionais relacionados à implementação de mecanismos de supervisão e auditoria interna.
Consulta pública e próximos passos
As diretrizes estão abertas para consulta pública, permitindo que empresas, pesquisadores e cidadãos contribuam com sugestões. Após esse período, espera-se que o documento seja formalizado, criando um padrão claro para GPAIs na UE.
Essa consulta é um marco no esforço da União Europeia para equilibrar inovação tecnológica com a proteção dos direitos dos cidadãos. Como resultado, o continente reforça sua posição como líder global na regulamentação ética da IA.
Fonte: TechCrunch
