Sistema de inteligĂȘncia artificial do governo holandĂȘs Ă© alvo de violaçÔes dos direitos humanos

sistema

Um sistema baseado em algoritmos para detectar possĂ­veis casos de fraude da previdĂȘncia social, usado pelo governo holandĂȘs, foi submetido ao escrutĂ­nio de um tribunal holandĂȘs.

Segundo o DutchNews, o Tribunal Distrital de Haia decidiu que o sistema estava em conflito com as regras da UE sobre proteção de direitos humanos e privacidade.

A chamada Indicação de Risco de Sistema Apelidado (SyRI), uma ferramenta automĂĄtica de aprendizado mecĂąnico, foi usada pelas autoridades locais para monitorar indivĂ­duos suspeitos de fraude da previdĂȘncia social.

O SyRI cria um “perfil de risco” para pessoas que cometeram alguma fraude de previdĂȘncia social no passado e depois procura perfis de cidadĂŁos “semelhantes”, criando uma lista de todos os perfis pessoais possĂ­veis que poderiam estar envolvidos em uma fraude semelhante. .

A coleta de dados “foi direcionada exclusivamente a bairros com residentes e minorias de baixa renda”, segundo o porta-voz das NaçÔes Unidas sobre direitos humanos, Philip Alston. Em essĂȘncia, a ferramenta visava pessoas de bairros economicamente mais fracos, sem nenhum outro elemento incriminador em sua posse.

Muitos entraram com açÔes judiciais por discriminação, que foram aceitas pelo tribunal, e foram levantadas preocupaçÔes sobre a segurança da privacidade e a falta de transparĂȘncia.

O estado holandĂȘs pode recorrer da decisĂŁo.

O ObservatĂłrio de Direitos Humanos considera a decisĂŁo uma vitĂłria e disse que a ordem “estabeleceu um precedente importante para a proteção dos direitos dos economicamente mais fracos na era da automação”.

“Governos baseados na anĂĄlise de dados para garantir o acesso Ă  seguridade social – como os dos Estados Unidos, Reino Unido e AustrĂĄlia – devem levar em consideração a advertĂȘncia do tribunal sobre os riscos aos direitos humanos envolvidos no tratamento. beneficiĂĄrios da previdĂȘncia social como suspeitos permanentes ”, acrescentou o grupo de direitos civis.