Profilazione, algoritmi e discriminazione razziale: pubblicate le raccomandazioni del CERD

Il Comitato Onu sull’eliminazione di ogni forma di discriminazione razziale ha adottato, il 24 novembre, le raccomandazioni generali n. 36 per prevenire e combattere la profilazione razziale messa in atto dalle forze dell’ordine (CERD/C/Gc/36, CERD_C_GC_36_9291_E). Il CERD, organo di monitoraggio previsto dalla Convenzione internazionale sull’eliminazione di ogni forma di discriminazione razziale, adottata il 21 dicembre 1965, è intervenuto anche tenendo conto dell’incremento dell’utilizzo degli strumenti di intelligenza artificiale che possono rafforzare pratiche discriminatorie, xenofobe e altre forme di esclusione. Per il Comitato è centrale la collaborazione delle società private che devono lavorare con gli operatori giuridici per evitare violazioni fondamentali dei diritti dell’uomo. Tanto più considerando – come scrive il CERD – che la profilazione razziale colpisce soprattutto migranti e richiedenti asilo. Ricostruite le tappe che hanno spinto il Comitato ad occuparsi del racial profiling, il CERD ha provato a fornire una definizione di profilazione razziale, sulla base degli atti e della prassi esistente, e ha individuato le conseguenze provocate da questo strumento. La sezione VII è dedicata agli algoritmi e ai rischi di pregiudizio e utilizzo distorto in strumenti predittivi. Nell’ultima parte del documento, il Comitato ha fornito le raccomandazioni agli Stati per l’adozione di misure legislative, chiedendo la raccolta e l’analisi di dati disaggregati da parte degli Stati proprio per monitorare e poi rendere disponibili informazioni trasparenti alla collettività. Da prevedere, inoltre, un organismo competente per ricevere le segnalazioni degli abusi e per svolgere una verifica sui casi. Sulle questioni legate all’utilizzo dell’intelligenza artificiale, gli Stati sono tenuti a rispettare i diritti umani nei meccanismi di profilazione attraverso gli algoritmi. In questa direzione, prima di utilizzare questi sistemi, gli Stati dovrebbero adottare misure legislative appropriate per individuare l’impiego corretto e i parametri necessari a evitare violazioni dei diritti umani.