Lettera aperta di tecnologi che chiedono di sospendere la formazione sull'intelligenza artificiale · EMSNow

Inserito da Jennifer Leggi | 30 marzo 2023 | Intelligenza Artificiale, Associazioni, Notizie, Persone, Smart Factory, Software

Testo della lettera:

I sistemi di intelligenza artificiale dotati di intelligenza competitiva umana possono comportare profondi rischi per la società e l'umanità, come dimostrato da ricerche approfondite[1] e riconosciuto dai migliori laboratori di intelligenza artificiale.[2] Come affermato nei Principi Asilomar AI, ampiamente approvati, l’IA avanzata potrebbe rappresentare un profondo cambiamento nella storia della vita sulla Terra e dovrebbe essere pianificata e gestita con cure e risorse adeguate. Sfortunatamente, questo livello di pianificazione e gestione non si sta verificando, anche se gli ultimi mesi hanno visto i laboratori di intelligenza artificiale impegnati in una corsa fuori controllo per sviluppare e implementare menti digitali sempre più potenti che nessuno, nemmeno i loro creatori, può comprendere. prevedere o controllare in modo affidabile.

I sistemi di intelligenza artificiale contemporanei stanno diventando competitivi tra gli esseri umani in compiti generali,[3] e dobbiamo chiederci: dovremmo lasciare che le macchine inondano i nostri canali di informazione con propaganda e falsità? Dovremmo automatizzare tutti i lavori, compresi quelli appaganti? Dovremmo sviluppare menti non umane che alla fine potrebbero superarci in numero, in astuzia, obsolete e sostituirci? Dovremmo rischiare di perdere il controllo della nostra civiltà? Tali decisioni non devono essere delegate a leader tecnologici non eletti.Potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando avremo la certezza che i loro effetti saranno positivi e i loro rischi gestibili. Questa fiducia deve essere ben giustificata e aumentare con l'entità degli effetti potenziali di un sistema. La recente dichiarazione di OpenAI sull'intelligenza generale artificiale afferma che "Ad un certo punto, potrebbe essere importante ottenere una revisione indipendente prima di iniziare ad addestrare i sistemi futuri, e per gli sforzi più avanzati concordare di limitare il tasso di crescita del calcolo utilizzato per creare nuovi Modelli." Siamo d'accordo. Quel punto è adesso.

Perciò,invitiamo tutti i laboratori di intelligenza artificiale a sospendere immediatamente per almeno 6 mesi l'addestramento dei sistemi di intelligenza artificiale più potenti di GPT-4 . Questa pausa dovrebbe essere pubblica e verificabile e includere tutti gli attori chiave. Se tale pausa non può essere attuata rapidamente, i governi dovrebbero intervenire e istituire una moratoria.

I laboratori di intelligenza artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente una serie di protocolli di sicurezza condivisi per la progettazione e lo sviluppo avanzati di intelligenza artificiale che sono rigorosamente controllati e supervisionati da esperti esterni indipendenti. Questi protocolli dovrebbero garantire che i sistemi che vi aderiscono siano sicuri oltre ogni ragionevole dubbio.[4] Ciò non significa una pausa nello sviluppo dell’intelligenza artificiale in generale, ma semplicemente un passo indietro dalla pericolosa corsa verso modelli sempre più grandi, imprevedibili e a scatola nera con capacità emergenti.

La ricerca e lo sviluppo dell’intelligenza artificiale dovrebbero essere riorientati per rendere i sistemi potenti e all’avanguardia di oggi più accurati, sicuri, interpretabili, trasparenti, robusti, allineati, affidabili e leali.

Parallelamente, gli sviluppatori di intelligenza artificiale devono collaborare con i politici per accelerare notevolmente lo sviluppo di solidi sistemi di governance dell’intelligenza artificiale. Questi dovrebbero come minimo includere: autorità di regolamentazione nuove e capaci dedicate all’IA; supervisione e monitoraggio di sistemi di intelligenza artificiale altamente efficienti e ampi pool di capacità computazionali; sistemi di provenienza e filigrana per aiutare a distinguere il reale dal sintetico e per tenere traccia delle fughe di dati del modello; un solido ecosistema di audit e certificazione; responsabilità per danni causati dall’IA; robusti finanziamenti pubblici per la ricerca tecnica sulla sicurezza dell’IA; e istituzioni dotate di risorse adeguate per far fronte ai drammatici sconvolgimenti economici e politici (soprattutto per la democrazia) che l’intelligenza artificiale causerà.

L’umanità può godere di un futuro fiorente grazie all’intelligenza artificiale. Dopo essere riusciti a creare potenti sistemi di intelligenza artificiale, ora possiamo goderci un’“estate dell’intelligenza artificiale” in cui raccoglieremo i frutti, progettiamo questi sistemi a beneficio di tutti e diamo alla società la possibilità di adattarsi. La società ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici sulla società.[5] Possiamo farlo qui. Godiamoci una lunga estate AI, non precipitiamoci impreparati in un autunno.