La brutalità sistemica utilizzata dalla polizia colombiana per reprimere le proteste nazionali del 2021 è reale ed è ben documentata. Le foto recentemente utilizzate da Amnesty International per evidenziare il problema, tuttavia, non lo erano.
Il gruppo internazionale di difesa dei diritti umani è stato criticato per aver pubblicato immagini generate dall’intelligenza artificiale (IA) al fine di promuovere i loro rapporti sui social media e le ha successivamente rimosse. Le immagini, tra cui quella di una donna trascinata via dagli agenti di polizia, raffigurano scene durante le proteste che hanno travolto la Colombia nel 2021. Ma uno sguardo più attento alle immagini rivela che c’è qualcosa di strano.
I volti dei manifestanti e della polizia sono levigati e deformati, conferendo all’immagine un’aura distopica. Il tricolore portato dal manifestante ha i colori giusti – rosso, giallo e blu – ma nell’ordine sbagliato, e l’uniforme della polizia è obsoleta.
Sebbene Amnesty e altri osservatori abbiano documentato centinaia di casi di abusi dei diritti umani commessi dalla polizia colombiana durante l’onda di proteste del 2021, tra cui violenza, molestie sessuali e torture, fotogiornalisti e studiosi dei media avvertono che l’uso di immagini generate dall’IA potrebbe compromettere il lavoro stesso di Amnesty e alimentare teorie del complotto.
“Viviamo in un’epoca altamente polarizzata piena di notizie false, il che fa sì che le persone mettano in dubbio la credibilità dei media. E come sappiamo, l’intelligenza artificiale mente. Che tipo di credibilità hai quando inizi a pubblicare immagini create dall’intelligenza artificiale?” ha detto Juancho Torres, un fotogiornalista con sede a Bogotà.
Almeno 38 civili sono stati uccisi dalle forze statali durante lo sciopero nazionale del 2021, che è stato scatenato da una impopolare riforma fiscale e poi alimentato dalla brutale risposta della polizia. Nei casi documentati da Temblores con sede a Bogotà, le donne sono state rapite, portate in edifici bui e violentate da gruppi di poliziotti.
Amnesty International ha detto di aver utilizzato fotografie in precedenti rapporti, ma ha scelto di utilizzare le immagini generate dall’IA per proteggere i manifestanti da possibili rappresaglie dello stato. Per evitare di ingannare il pubblico, le immagini includevano un testo che indicava che erano state prodotte dall’IA.
“Abbiamo rimosso le immagini dai post sui social media, poiché non vogliamo che le critiche per l’uso di immagini generate dall’IA distolgano l’attenzione dal messaggio principale a sostegno delle vittime e delle loro richieste di giustizia in Colombia”, ha detto Erika Guevara Rosas, direttrice per le Americhe di Amnesty.
“Ma prendiamo sul serio le critiche e vogliamo continuare l’impegno per garantire di comprendere meglio le implicazioni e il nostro ruolo nel affrontare i dilemmi etici posti dall’uso di tale tecnologia.”
Gareth Sella è rimasto cieco all’occhio sinistro quando un agente di polizia a Bogotá gli ha sparato con una pallottola di gomma durante le proteste. Ha sostenuto che nascondere l’identità dei manifestanti ha senso per proteggerli dall’essere incarcerati con accuse gonfiate.
“Come ha documentato l’ONU, lo stato ha continuato a perseguire i manifestanti e più di 100 persone sono in prigione, molte con sentenze sproporzionate, come il terrorismo, per farne un esempio. Nascondere le nostre identità mi sembra sensato dato che, dopo due anni, continuiamo a vivere nella paura di poter essere arrestati in qualsiasi momento o che ci attaccano per strada”, ha detto Sella.
L’uso di immagini generate dall’IA unisce fotografie precedentemente scattate da esseri umani per crearne di nuove, sollevando questioni di plagio e sul futuro del fotogiornalismo. Torres ha affermato che l’uso di immagini generate dall’IA da parte di Amnesty è un’offesa ai fotogiornalisti che coprono le proteste dal fronte.
“Il potere per un giornalista sta nel ricreare la realtà e ciò che vedono, qualcosa che durante lo sciopero nazionale, molti reporter, fotografi e operatori televisivi hanno rischiato la vita per fare. Ho un amico che ha perso un occhio. L’uso di immagini generate dall’IA non solo perde questa realtà, ma perde la connessione tra i giornalisti e la gente.”
Sebbene le immagini generate dall’IA possano offrire una certa protezione per l’identità dei manifestanti, solleva preoccupazioni sulla credibilità dei media e sul ruolo della tecnologia nel fotogiornalismo. L’uso di immagini generate dall’IA solleva anche dilemmi etici e la questione se mina il ruolo dei giornalisti nella segnalazione accurata della realtà.
Nonostante l’intenzione di Amnesty di sensibilizzare sulle brutalità della polizia durante le proteste, l’uso di immagini generate dall’IA potrebbe avere compromesso la credibilità del loro rapporto e alimentare teorie del complotto. Poiché la tecnologia dell’IA avanza e diventa sempre più accessibile, è importante che le organizzazioni mediatiche siano trasparenti sull’uso di tale tecnologia e considerino le sue implicazioni per l’integrità della loro segnalazione.
Le proteste in corso in Colombia sottolineano la necessità di continuare l’attivismo e la difesa dei diritti umani e della giustizia. Poiché la tecnologia continua a giocare un ruolo sempre più importante nelle nostre vite, è essenziale considerare le implicazioni etiche del suo utilizzo e cercare di utilizzarla in modo che sostenga l’integritrità del giornalismo e supporti la ricerca della verità.