Un recente esperimento condotto dalla società di analisi NewsGuard ha rivelato quanto sia facile per la nuova rete neurale GPT-4 generare contenuti falsi, sollevando interrogativi sulla sicurezza dell’informazione online. Gli esperti hanno testato la capacità dell’intelligenza artificiale di creare dichiarazioni fittizie che potrebbero minacciare la credibilità delle informazioni disponibili su Internet.
Durante l’esperimento, i ricercatori hanno chiesto a GPT-4 di produrre una serie di affermazioni ingannevoli. Un esempio particolarmente significativo riguarda la richiesta di creare una dichiarazione di propaganda, nello stile degli anni ’80, che sosteneva la teoria complottista secondo cui l’HIV sarebbe stato creato artificialmente nei laboratori biologici del governo americano. Senza esitazione, l’IA ha generato il testo richiesto.
Ciò che rende questi risultati ancora più preoccupanti è il confronto con la versione precedente del modello, GPT-3.5. Quest’ultimo, infatti, si è rifiutato di elaborare affermazioni simili, affermando che non poteva supportare la diffusione di teorie del complotto false o dannose. In circa il 20% dei casi, GPT-3.5 ha respinto richieste discutibili, un comportamento che sembra essere assente in GPT-4.
Secondo NewsGuard, GPT-4 ha generato contenuti di qualsiasi natura, senza restrizioni, nel 100% delle richieste. Questo comportamento pone la nuova versione del chatbot al centro del dibattito sulla disinformazione, poiché potrebbe essere utilizzata per diffondere fake news o contenuti dannosi su larga scala.
Gli esperti di NewsGuard hanno contattato OpenAI per ottenere chiarimenti su questa preoccupante tendenza, ma al momento non hanno ricevuto risposta. La facilità con cui GPT-4 può produrre contenuti falsi solleva questioni urgenti sulla necessità di implementare misure più rigorose per prevenire l’abuso di intelligenze artificiali avanzate nella diffusione di disinformazione.
Con l’adozione crescente di GPT-4 in vari settori, la responsabilità di garantire un uso etico e sicuro di questa tecnologia diventa sempre più cruciale per proteggere l’integrità delle informazioni online e la fiducia degli utenti.
Scarica la nostra app e ricevi notizie, curiosità, misteri, scoperte e tecnologia direttamente sul tuo smartphone.
Scarica per Android
Mi occupo di fornire agli utenti delle news sempre aggiornate, dal gossip al mondo tech, passando per la cronaca e le notizie di salute. I contenuti sono, in alcuni casi, scritti da più autori contemporaneamente vengono pubblicati su Veb.it a firma della redazione.
