L’annuncio di Amnesty International, pubblicato sul profilo ufficiale sul social network X dell’organizzazione non governativa internazionale impegnata nella difesa dei diritti umani, sta mettendo in guardia sui potenziali pericoli dell’intelligenza artificiale (IA) quando viene utilizzata per il riconoscimento facciale, il risk scoring come misura di prevenzione e la sorveglianza. L’organizzazione sostiene che i racconti allarmanti sull’I.A. che potrebbe annientare l’umanità sono allarmistici e distolgono l’attenzione dai pericoli reali e concreti che l’I.A. pone già oggi.
The alarming narratives around Artificial Intelligence (AI) and its potential to wipe-out humanity ignores existing dangers of AI when used for facial recognition, risk scoring & surveillance.
We’re urging the EU to ban harmful technologies in the latest AI Act 👇 pic.twitter.com/RbnFLMN2gr
— Amnesty International (@amnesty) October 11, 2023
Amnesty International richiede che l’Unione Europea vieti le tecnologie I.A. dannose nell’ultima proposta di legge sull’intelligenza artificiale. Amnesty sostiene che questa legge dovrebbe includere un divieto assoluto del riconoscimento facciale e di altre tecnologie che violano i diritti umani.
Tra gli esempi di pericoli derivanti dall’utilizzo dell’IA per il riconoscimento facciale e la sorveglianza si noti:
Riconoscimento facciale: Il riconoscimento facciale può essere utilizzato per identificare e monitorare le persone senza il loro consenso. Questo può portare a violazioni della privacy e della libertà di espressione.
Risk scoring e misure di prevenzione: Il risk scoring basato sull’IA può essere utilizzato per prevedere la probabilità che una persona commetta un crimine. Questo può portare a discriminazione e a violazioni del diritto a un processo equo.
Sorveglianza: L’IA può essere utilizzata per creare sistemi di sorveglianza di massa che violano il diritto alla privacy.
Amnesty International sostiene che l’Unione Europea ha la responsabilità di proteggere i cittadini dai pericoli dell’IA. L’organizzazione esorta l’UE a garantire che l’IA sia sviluppata e utilizzata in modo responsabile ed etico.