L’ammirazione suscitata da agenti di chat come ChatGPT sta gradualmente cedendo il passo all’ansia. Alcuni ricercatori di intelligenza artificiale hanno recentemente ammesso che il rapido progresso di questa tecnologia, se non controllato, potrebbe essere pericoloso per l’umanità. Viene menzionata una pausa di sei mesi nello sviluppo di questi robot.
Sebbene l’intelligenza artificiale (AI) sia una delle nuove tecnologie più entusiasmanti sviluppate oggi, è forse la più controversa del nostro tempo. Se il potenziale dell’intelligenza artificiale è enorme per le industrie biotecnologiche e creative, ad esempio, è ora di iniziare a pensare alla sicurezza associata a tali sistemi.
Dall’infatuazione all’apprensione
Il timore che l’intelligenza artificiale possa sconvolgere il nostro modo di vivere è diventato evidente negli ultimi tempi, soprattutto dopo il lancio di nuovi sistemi di intelligenza artificiale generativa, addestrati su modelli di linguaggio di grandi dimensioni.
La paura dell’intelligenza artificiale non è un concetto nuovo.
Nel 2014, Elon Musk ha paragonato la creazione dell’intelligenza artificiale all'”evocazione del diavolo”, definendola “potenzialmente più pericolosa delle armi nucleari”. Musk crede che ci sia il pericolo che saremo sostituiti dall’intelligenza artificiale, così come da Satana, ha detto.
Certo, è solo uno stereotipo fantascientifico che almeno è tornata FrankensteinLibro Mary Shelley. È un orrore affrontare il pericolo rappresentato dalla tecnologia e il desiderio di sapere così tanto.
In rotturaun film del 1984, un’intelligenza artificiale malevola – che in futuro scatenerebbe un olocausto nucleare – invia un robot interpretato da Arnold Schwarzenegger indietro nel tempo per uccidere la futura madre di un oppositore.
In trascendenzaun film uscito nel 2014, è uno sviluppatore di intelligenza artificiale (interpretato da Johnny Depp) la cui coscienza viene trasferita in un computer quantistico, che minaccia di conquistare il mondo, distruggendo l’economia mondiale.
Ironia della sorte, l’imprenditore iperattivo che ha trascorso molti anni cercando di implementare l’intelligenza artificiale al servizio della tecnologia di guida autonoma si sente così. Ma nel 2015, la paura di Musk lo ha portato a co-fondare OpenAI, un’organizzazione senza scopo di lucro inizialmente dedicata a promuovere un’IA aperta e benevola. Afferma inoltre di aver donato $ 100 milioni per realizzare questo progetto.
OpenAI ha fatto molto dal 2015 e ha catturato l’immaginazione del mondo dal lancio virale di ChatGPT-3 lo scorso anno.
Il mese scorso, il suo successore più potente, ChatGPT-4, ha fatto notizia in tutto il mondo confrontando i 100 trilioni di parametri della nuova versione con i 175 miliardi di parametri di ChatGPT-3.
Il rapido ritmo con cui le tecnologie AI stanno migliorando in questo momento è una delle principali fonti di preoccupazione per critici come Elon Musk.
Per aumentare la consapevolezza della straordinaria capacità di ChatGPT-4 di simulare la comunicazione del linguaggio umano, è stata scritta una lettera aperta dai membri del Future of Life Institute. Titolo ” Sospendere esperimenti di intelligenza artificiale gigante: una lettera aperta » [ndlr : Faites une pause sur les gigantesques expérimentations d’IA : lettre ouverte]sostiene di fermarsi almeno sei mesi prima di costruire un regime più potente.
Tra i firmatari ci sono migliaia di scienziati, tecnologi e ricercatori, tra cui l’ex candidato alla presidenza degli Stati Uniti Andrew Yang, il fondatore di Apple Steve Wozniak… e lo stesso Elon Musk.
Esprimono la preoccupazione che l’intelligenza artificiale possa farlo ” Inondando i nostri canali mediatici di propaganda e bugie. » Personalmente, penso che i canali di informazione gestiti dall’uomo facciano davvero un ottimo lavoro su questo fronte.
Ma gran parte della preoccupazione espressa in questa lettera è che l’IA può automatizzare ed eliminare milioni di posti di lavoro.
Qualunque siano i secondi fini dei leader tecnologici che hanno firmato questa lettera, questa chiamata a prendersi una pausa ha preoccupato molte persone.
miglioramento esponenziale
A parte questa lettera aperta, i progressi compiuti da ChatGPT e OpenAI sono impressionanti.
Tuttavia, queste tecnologie non sono “veramente” intelligenti al momento…
I sistemi di intelligenza artificiale come il chatbot di OpenAI sono diversi dalle tecnologie software tradizionali. Si basa su modelli chiamati “Transformers”. IL trasformatori Sono reti neurali simulate digitalmente, reti neurali progettate per imitare la struttura del cervello biologico.
“Imparano” venendo addestrati su grandi insiemi di dati per scoprire relazioni tra diversi pezzi di dati. Nel caso di ChatGPT e altri Chatbot Dotati di intelligenza artificiale, questi pezzi di dati sono parole o parti di parole chiamate “token”.
Questo rende davvero intelligente l’IA? Non reale.
ChatGPT non “sa” nulla. Osserva il testo che ha fino a quel momento, determina quale dovrebbe essere la parola successiva e quindi ripete questo processo fino a quando non ha portato a termine il suo compito.
Per ChatGPT, queste parole non hanno davvero alcun significato, sono solo “token”, che sono una serie di “uno” e “zero” rispetto ai quali è possibile eseguire un calcolo basato sulla loro interrelazione, appresa analizzando migliaia di miliardi di altri. stringhe binarie.
Ma i risultati sono ancora inquietanti agli occhi di alcuni e difficili da correggere!
ChatGPT non è come il codice del computer tradizionale che è possibile rivedere, diagnosticare e correggere se necessario. Non è chiaro come questi diversi neuroni, nella rete, lavorino insieme per generare un risultato. È una scatola nera.
Ecco perché i sistemi AI come ChatGPT non sempre danno la risposta giusta. Proprio il mese scorso, la Stanford University è stata costretta a ritirare la propria Open Edition Bot di chat di intelligenza artificiale generativa, affermando di avere “allucinazioni” e diffondere informazioni false e contenuti dannosi.
Quindi le aziende che lavorano su queste tecnologie hanno molto di più nei loro piatti.
Credo che verranno pubblicati altri messaggi in modo che i leader Grande tecnologia Rallentare il ritmo dell’innovazione.
Mi piacerebbe sentire la tua opinione su questo. Sei convinto che l’intelligenza artificiale sia pericolosa?
Se non sei preoccupato perché? La tua azienda assume esperti di intelligenza artificiale?
Scrivimi a la-redaction-tech@publications-agora.fr per farmelo sapere.
Per un futuro radioso!
Ray Blanco