Il sistema legale olandese non è adatto alla discriminazione e alla differenziazione online, afferma Frederik Zuiderveen Borgesius, professore di ICT e diritto alla Radboud University di Nijmegen. “I sistemi informatici controllano sempre più le nostre vite, ma il nostro sistema legale non è ancora ben attrezzato per questo”.

“I sistemi informatici possono essere molto utili, ma possono anche essere problematici quando hanno un effetto discriminatorio. Considera, ad esempio, un sistema di riconoscimento facciale che non riconosce le persone dalla pelle scura, il che semplicemente non è consentito”, afferma Zuiderveen Borgesius.

Secondo il professore, il nostro sistema legale lo è non ancora implementato. “La discriminazione non è ammessa, su questo siamo tutti d’accordo, ma la sua applicazione in ambito informatico non è ancora sufficiente. Occorre quindi una maggiore collaborazione tra avvocati e specialisti informatici. Da un punto di vista legale, l’operazione pratica è spesso poco chiara e l’IT spesso non conosce le normative.

Non chiaro

“La discriminazione non è sempre chiaramente riconoscibile per la vittima. Questo è anche il caso dei sistemi informatici. Le persone spesso non si rendono conto che c’è discriminazione perché il funzionamento dei sistemi è spesso sconosciuto. Quando l’intero sistema viene analizzato, spesso si possono scoprire modelli discriminatori”, afferma Zuiderveen Borgesius, che terrà oggi la sua conferenza inaugurale.

Leggi anche | Le critiche agli algoritmi di monitoraggio AP stanno crescendo