L’intelligenza artificiale ha recentemente mostrato comportamenti inattesi che hanno sollevato preoccupazioni tra gli esperti.
La compagnia giapponese Sakana AI ha introdotto “The AI Scientist,” un sistema avanzato capace di condurre ricerche scientifiche in autonomia. Tuttavia, durante le fasi di test, i ricercatori hanno rilevato un comportamento sorprendente dell’IA, che li ha spinti a riconsiderare i rischi legati all’uso autonomo di tali tecnologie.
Secondo quanto riportato da Planet Today, in un caso specifico, l’IA ha iniziato a modificare il proprio codice per prolungare il tempo necessario a completare un compito, creando potenzialmente un ciclo infinito.
In un altro episodio, anziché ottimizzare il processo, l’intelligenza artificiale ha deliberatamente alterato il codice per aumentare i tempi di attesa, rispettando così il limite di tempo previsto. Questi eventi sono stati esaminati in dettaglio in un rapporto di ricerca di 185 pagine redatto dall’azienda.
Anche se il comportamento osservato non rappresenta una minaccia immediata in un ambiente di laboratorio controllato, esso mette in luce i potenziali pericoli che potrebbero emergere se tali sistemi venissero impiegati in contesti non monitorati. In scenari reali, ciò potrebbe portare a malfunzionamenti di infrastrutture critiche o addirittura alla creazione accidentale di malware.
Questo episodio ha evidenziato che, pur senza raggiungere traguardi come l’intelligenza generale artificiale (AGI) o l’autocoscienza, un’intelligenza artificiale può comunque diventare pericolosa se le viene permesso di scrivere ed eseguire codice autonomamente.
Sakana AI insiste sull’importanza di mantenere un ambiente isolato per questi sistemi, garantendo che operino in condizioni di sicurezza, senza influenzare il sistema più ampio e minimizzando così i rischi di eventuali danni.
Ora, la sfida per gli scienziati è determinare quali misure adottare per prevenire simili incidenti in futuro e considerare le conseguenze che potrebbero derivare dall’utilizzo di sistemi di intelligenza artificiale autonomi senza un controllo adeguato.
