Un dipendente di OpenAI ha avvertito che l’intelligenza artificiale potrebbe causare presto danni catastrofici all’umanità.
Le questioni sulla sicurezza dell’IA stanno diventando sempre più cruciali. Il 4 giugno, un gruppo di ex e attuali dipendenti di OpenAI ha diffuso una lettera aperta che ha avuto un forte impatto sia nella comunità scientifica che nell’opinione pubblica, secondo quanto riportato da Science Times.
Tra i firmatari c’è anche Daniel Kokotailo, ex ricercatore sulla governance di OpenAI, che ha lanciato gravi accuse contro l’azienda. Gli autori della lettera sostengono che OpenAI trascuri i pericoli potenziali dello sviluppo dell’intelligenza generale artificiale (AGI) e che si impegni a diventare leader nel settore, nonostante i rischi per l’umanità.
Kokotailo, che ha iniziato a lavorare per OpenAI nel 2022, ha espresso timori che l’azienda possa sviluppare l’AGI entro il 2027, il che, secondo lui, potrebbe essere disastroso. Ha stimato una probabilità del 70% che l’intelligenza artificiale possa distruggere l’umanità se non vengono adottate misure di sicurezza adeguate.
La lettera aperta menziona anche Geoffrey Hinton, noto come il “Padrino dell’intelligenza artificiale“, che avrebbe lasciato Google per motivi simili. La lettera sottolinea la necessità di sensibilizzare il pubblico sui possibili pericoli dell’IA e chiede un approccio più responsabile nello sviluppo tecnologico.
In risposta alla lettera, OpenAI ha ribadito il suo impegno per la sicurezza e ha dichiarato di seguire un approccio scientifico per affrontare i rischi. L’azienda ha evidenziato i suoi successi nella creazione di sistemi di intelligenza artificiale sicuri e produttivi.
Il tema dell’AGI è tra i più dibattuti nel campo dell’intelligenza artificiale. Diversamente dall’IA attuale, che opera entro limiti specifici, l’AGI è un sistema con intelligenza paragonabile a quella umana, capace di apprendere e risolvere autonomamente una vasta gamma di problemi. Sebbene l’AGI sia ancora un concetto teorico, le controversie ad essa legate continuano a crescere, sottolineando l’importanza di un approccio prudente al futuro dell’IA.
