I pedofili stanno usando l’intelligenza artificiale per generare immagini di abusi sessuali su minori “incredibilmente realistiche” che molte persone potrebbero trovare “indistinguibili” dalle immagini reali, ha avvertito un gruppo di sicurezza online.
La Internet Watch Foundation (IWF) afferma di aver già trovato immagini molto realistiche generate dall’intelligenza artificiale che ritraggono abusi sessuali su minori e che la tecnologia potrebbe essere utilizzata per generare “quantità senza precedenti” di tali contenuti, secondo quanto riportato da Sky News e ripreso da Alana Mastrangelo su Breitbart.
Inoltre, le immagini sono così realistiche che potrebbe diventare più difficile determinare quando dei bambini reali sono in pericolo, ha avvertito l’IWF, che individua e rimuove i contenuti pedopornografici su Internet.
I siti online su cui l’IWF ha indagato, alcuni dei quali sono stati segnalati dal pubblico, presentavano immagini che ritraevano bambini di appena tre anni. L’IWF ha dichiarato di aver trovato persino un “manuale” online che aiuta i pervertiti a utilizzare l’intelligenza artificiale per creare immagini di abusi su minori più realistiche.
Sebbene sia illegale generare questo tipo di immagini nel Regno Unito, il gruppo per la sicurezza online afferma che la tecnologia AI sta avanzando così rapidamente e sta diventando sempre più accessibile che presto potrebbe essere difficile per la legge tenere il passo con il problema.
La National Crime Agency (NCA) del Regno Unito ha dichiarato che il rischio è “in aumento” e viene preso “estremamente sul serio”, come riporta Sky News.
“C’è la concreta possibilità che l’aumento del volume di materiale generato dall’intelligenza artificiale possa avere un forte impatto sulle risorse delle forze dell’ordine, aumentando il tempo necessario per identificare i bambini reali che necessitano di protezione”, ha dichiarato Chris Farrimond, direttore della NCA per la gestione delle minacce.
Il primo ministro del Regno Unito Rishi Sunak ha dichiarato che il prossimo vertice globale sull’IA affronterà e discuterà i “guardrail” normativi che potrebbero ridurre i rischi futuri posti dall’IA.
Un portavoce del governo ha dichiarato a Sky News quanto segue:
I contenuti generati dall’IA relativi allo sfruttamento e all’abuso sessuale dei minori sono illegali, indipendentemente dal fatto che ritraggano o meno un bambino reale; ciò significa che le aziende tecnologiche saranno tenute a identificare proattivamente i contenuti e a rimuoverli in base all’Online Safety Bill, che è stato progettato per tenere il passo con le tecnologie emergenti come l’IA.
“Il disegno di legge sulla sicurezza online richiederà alle aziende di intraprendere azioni proattive per affrontare tutte le forme di abuso sessuale online sui minori, tra cui il grooming, il live-streaming, il materiale pedopornografico e le immagini proibite di bambini, pena multe salatissime”, ha aggiunto il portavoce.
