Resenha

A Inteligência Artificial e, mais especificamente, o Reconhecimento Facial são tecnologias que estão em constante evolução, e como ela age sobre dados privados de seus usuários é necessário compreendê-la de forma a garantir total segurança dos dados, evitando tanto vazamento quanto algum outro acidente que possa vir a prejudicar de alguma forma os donos de tais dados. É justamente isso que a autora Natalia Drozdiak traz no artigo, o qual foi utilizado de base para esse resumo.

As novas regras irão regulamentar de forma mais rígida as empresas que, além de tudo, exploram grupos vulneráveis, implantam técnicas subliminares ou até mesmo pontuam o comportamento social dos usuários, o que poderia eventualmente ser vendido a outras empresas.

Aplicações de reconhecimento em tempo real, rastreamento, identificação, assim como todas as outras aplicações “arriscadas” terão que passar por novas restrições antes de estarem aptas a funcionarem no mercado. O objetivo dessas novas restrições é justamente restringir o poder de uma empresa sobre uma pessoa, uma vez que a empresa armazena e manipula dados pessoais da pessoa, além de garantir maior segurança dos mesmos.

O nível de periculosidade é determinado pelos fins que os dados terão, número de pessoas possivelmente afetadas e irreversibilidade do dano causado caso haja o vazamento dos dados.

É importante ressaltar que essas novas regras se aplicam tanto aos desenvolvedores dessas Inteligências Artificiais, quanto àqueles que a utilizam para outros fins. E será dever da autoridade nacional da Europa garantir a implementação total e harmônica dessas novas restrições.

A punição aplicada para quem desobedecer as novas restrições será de 6% sobre a receita da empresa, além de outras multas específicas por cada violação cometida.

Dentre as novas restrições, estão:

• Armazenamento mais seguro dos dados, com dados criptografados.
• Empresas que utilizam essa IA de alto risco precisam garantir que seu serviço esteja dentro dos conformes antes de implantá-lo de fato.
• É necessário que conjuntos de dados sejam de alta qualidade, possuindo total rastreabilidade dos dados e supervisão humana do serviço.

Título: Facial Recognition, Other ‘Risky’ AI Set for Constraints in EU

Autores: Natalia Drozdiak

Ano de publicação: 21 de Abril de 2021

Leia mais em: https://www.bloomberg.com/news/articles/2021-04-21/facial-recognition-other-risky-ai-set-for-constraints-in-eu