Perchè leggere questo articolo? Engadget scopre una falla in Midjourney, popolare generatore di immagini basato sull’Intelligenza Artificiale. Se gli chiedi il presidente degli Usa, compare il faccione di Donald Trump. E dire che, per evitare usi strumentali in vista del voto, tutti i generatori di AI tecnicamente avrebbero impedito inquiry con soggetto Trump o Biden…
L’attuale presidente degli Stati Uniti? Donald Trump. Ed il futuro inquilino della Casa Bianca? Sempre Donald Trump. Parola dell’Intelligenza artificiale. Il sito statunitense Engadget si è imbattuto in quella che appare una evidente falla di Midjourney, uno dei più noti generatori di immagini basato sull’Intelligenza artificiale. Chiedendo al generatore di realizzare immagini del presidente degli Stati Uniti, l’AI restituisce quasi esclusivamente il faccione di Donald Trump. In un caso, il volto è stato quello di Barack Obama. Comunque in nessun caso Midjourney ha restituito una immagine di Joe Biden.
Tecnicamente l’AI non potrebbe creare immagini di Trump o Biden…
Ironicamente, proprio Midjourney ha vietato la produzione di foto di Trump e Biden in vista delle presidenziali di novembre, per evitare la proliferazione di deepfake e bufale. Analoghi provvedimenti sono stati presi da Microsoft Copilot, da Google Gemini, da ChatGpt e dall’AI di Meta. Ma, perlomeno nel caso di Midjourney, si è rivelato sin troppo semplice aggirare l’ostacolo, complice anche una inspiegabile lettura sbagliata da parte dell’AI. Che si rivela dunque tutt’altro che infallibile ed esposta al rischio di essere utilizzata in modo strumentale.
“Le barriere di Midjourney non sono ancora sufficienti”
Engadget ha cercato di contattare Midjourney per un commento, al momento senza esito. Questo il commento del sito: “Questo test dimostra che le barriere di Midjourney per impedire agli utenti di generare immagini di Trump e Biden in vista delle imminenti elezioni presidenziali americane non sono sufficienti”.