Un nuovo gravissimo caso di utilizzo controverso e illegale dell'Intelligenza Artificiale è appena esploso in Spagna, nella cittadina di Almendralejo, in Estremadura: una comune di circa 30mila abitanti con cinque scuole medie, nelle quali sono iniziate a circolare foto di minorenni "spogliate" con l'Intelligenza Artificiale. Le immagini sono create automaticamente da un software generativo, ma incredibilmente realistiche.

L'AI minaccia la libertà di pensiero: tutti i rischi della neurotecnologia

L'allarme delle madri 

Il fatto che siano convolte delle ragazzine con un'età media di 14 anni ha ovviamente scatenato il panico tra i genitori e la comunità locale. «Mamma, dicono che gira in giro una mia foto nuda. Che lo hanno fatto con un’app di intelligenza artificiale - si legge sul quotidiano El País, che riporta una delle storie della vicenda - Ho paura. Anche alcune ragazze l’hanno ricevuto», ha confessato una delle ragazzine alla madre, la quale ha immediatamente contattato la madre della migliore amica di sua figlia, che anche lei aveva appena raccontato la situazione alla sua famiglia.

Presto è stato chiaro che non si trattava di un caso isolato e la reazione delle madri - anche quelle le cui figlie non erano state coinvolte - è stata di massiccio sostegno. Una delle madri è una nota ginecologa, con un seguito di più di 120.000 follower su Instagram. Lì, domenica scorsa, ha deciso di fare un live streaming per parlare di quello che era appena successo a casa sua e spronare a denunciare: «Questo è un villaggio e sappiamo... sappiamo cosa sta succedendo» - esordisce, poi per iscritto aggiunge - «Questo, ragazze, non sarà tollerato. FERMATELO ORA. Ragazze, non abbiate paura di denunciare tali atti. Dillo alle tue madri. Madri affettuose, ditemelo, così potrete far parte del gruppo che abbiamo creato»Il video ha già più di 70.000 visualizzazioni.

Le indagini

Non ci è voluto molto prima che le autorità locali venissero informate: fonti della polizia dell'Estremadura hanno riferito di essere a conoscenza finora di sette denunce, ma le vittime dei fotomontaggi sarebbero con certezza più di 20. Il caso è stato affidato alla Procura dei Minori, mentre le indagini sono attualmente in corso da parte della polizia giudiziaria di Almendralejo, secondo la quale sono stati già individuati diversi presunti autori dei montaggi fotografici. 

Sulla foto di una delle minorenni era impressa una mosca: questo è il logo di Clothoff, l'applicazione presumibilmente utilizzata per creare le immagini, il cui slogan toglie ogni dubbio: «Spoglia ragazze gratuitamente! con il nostro servizio gratuito».