Com o acordo político, a UE caminha para se tornar a primeira grande potência mundial a promulgar leis que regem a IA. O acordo entre os países do bloco e os membros do Parlamento Europeu foi firmado após quase 15 horas de negociações que se seguiram a um debate de quase 24 horas no dia anterior.
Os dois lados deverão discutir detalhes nos próximos dias, o que poderá mudar a forma da legislação final.
O acordo exige que modelos básicos como ChatGPT e sistemas de IA de uso geral (GPAI, na sigla em inglês) cumpram as obrigações de transparência antes de serem colocados no mercado. Essas obrigações incluem a elaboração de documentação técnica, o cumprimento da legislação da UE em termos de direitos autorais e a divulgação de resumos detalhados sobre o conteúdo utilizado nos treinamentos dos modelos.
Os modelos básicos de alto impacto com risco sistêmico terão de realizar avaliações de versões, analisar e mitigar riscos sistêmicos, realizar testes de adversidades, reportar à Comissão Europeia incidentes graves, garantir a segurança cibernética e notificar sobre eficiência energética.
Os GPAI com risco sistêmico podem se basear em códigos de prática para cumprir o novo regulamento.
Sob o acordo, governos só podem utilizar a vigilância biométrica em tempo real em espaços públicos em casos de vítimas de determinados crimes, na prevenção de ameaças presentes ou previsíveis, como ataques terroristas, e na busca de suspeitos de crimes mais graves.
O acordo proíbe manipulação cognitivo-comportamental, eliminação indiscriminada de imagens faciais da internet ou de gravações de câmeras de segurança, criação de um ranking de pontuação social e sistemas de categorização biométrica para inferir crenças políticas, religiosas, filosóficas, orientação sexual e raça.
Os consumidores teriam sob o acordo o direito de fazer reclamações e receber explicações. As multas por violações devem variar entre 7,5 milhões de euros e 35 milhões de euros.
O grupo empresarial DigitalEurope criticou as regras como mais um ônus para as empresas, além de outra legislação recente.
“Temos um acordo, mas a que custo? Apoiamos totalmente uma abordagem baseada em risco, não na tecnologia em si, mas a tentativa de última hora de regular os modelos de base virou isto de cabeça para baixo”, afirmou a diretora-geral Cecilia Bonefeld-Dahl.
O grupo de direitos digitais European Digital Rights também fez críticas.
“É difícil ficar animado com uma lei que, pela primeira vez na União Europeia, tomou medidas para legalizar o reconhecimento facial público ao vivo em todo o bloco”, disse a conselheira política sênior, Ella Jakubowska.
“Embora o Parlamento tenha lutado muito para limitar os danos, o pacote global sobre vigilância biométrica e definição de perfis é, na melhor das hipóteses, morno.”
A legislação deverá entrar em vigor no início do próximo ano, assim que for ratificada pelas partes formalmente, e ser aplicada dois anos depois.
Deixe seu comentário
