Effetti negativi dell'intelligenza artificiale
Lo sviluppo di macchine in grado di imitare il pensiero umano, superarlo o addirittura diventare autocoscienti è una premessa ben esplorata all'interno della fantascienza. Nel panorama tecnologico odierno, l'avvento dell'intelligenza artificiale - l'IA - potrebbe diventare uno dei più grandi successi dell'umanità, ma come ha avvertito il famoso fisico Stephen Hawking, "potrebbe anche essere l'ultimo, a meno che non impariamo a evitare i rischi".
Aumento dell'automazione:chi attiva il trigger?
La tecnologia sofisticata continua a radicarsi nella società moderna, dagli assistenti personali digitali e dagli algoritmi di ricerca intelligente in Google, alle auto sperimentali a guida autonoma. L'intelligenza artificiale è definita come un computer o una macchina in grado di eseguire "deduzioni e inferenze logiche" e "prendere decisioni basate su esperienze passate o informazioni insufficienti o contrastanti". Gli attuali livelli tecnologici pongono già spaventosi dilemmi etici, ad esempio se i droni militari o altri sistemi robotici debbano essere progettati per usare la forza letale contro obiettivi senza il coinvolgimento umano diretto. Attualmente, le macchine programmate possono reagire con maggiore velocità e precisione rispetto a un operatore umano, ma sono ancora capaci di errori grossolani senza pregiudizi umani e intuizioni che guidano il processo decisionale. Questi problemi si intensificheranno se l'IA sarà integrata in tali sistemi, introducendo motivazioni indipendenti che potrebbero essere completamente imprevedibili o in diretto conflitto con le intenzioni umane.
Trasformare il mercato
L'incorporazione dell'intelligenza artificiale cambierà drasticamente il concetto di lavoro dell'umanità. Fin dall'era industriale, la tecnologia di qualsiasi tipo rende inevitabilmente obsoleti molti posti di lavoro creando nuove opportunità nei settori emergenti. L'intelligenza artificiale offre un futuro in cui le macchine svolgono compiti al nostro posto, consentendo alle persone di perseguire una vita di svago. L'economista John Maynard Keynes è arrivato così lontano - nel 1930 - da prevedere una settimana lavorativa di 15 ore entro il 2030. Agli attuali livelli di popolazione, tutti gli aspetti della società richiederebbero una drastica rivisitazione sia culturale che economica se l'automazione creasse tale un drammatico cambiamento nel modo in cui trascorrono le nostre giornate.
AI:amico o nemico?
Una minaccia significativa dell'intelligenza artificiale è se sceglie di utilizzare abilità già avanzate per creare macchine con un potere cognitivo ancora maggiore. Le generazioni avanzate di IA potrebbero operare tanto al di sopra degli esseri umani quanto noi al di sopra degli animali, e anche molto probabilmente evolvere oltre la capacità umana di capirlo. In questo risultato, denominato Singularity dal Dr. Vernor Vinge per il VISION-21 Symposium del NASA Lewis Research Center nel 1993, le regole della vita come la conosciamo cambierebbero per sempre, poiché non c'è modo di prevedere se l'IA deciderebbe di coesistere o di essere ostile verso l'umanità.
Salvaguardia contro i disastri
Hawking sottolinea che qualsiasi discussione seria sull'intelligenza artificiale deve prendere in considerazione le potenziali minacce e come gestirle, e chiede una ricerca istituzionale più critica poiché l'aumento delle risorse aziendali è dedicato alla realizzazione di scoperte nella creazione dell'intelligenza artificiale. Vinge postula che l'IA può essere strettamente regolata da regole che effettivamente fissano il comportamento benevolo in robot autonomi, come immaginato dallo scrittore di fantascienza Isaac Asimov's Three Laws of Robotics. Vinge avverte inoltre che la competizione umana naturale porterà probabilmente allo sviluppo di modelli di IA illimitati, quindi anche tali salvaguardie potrebbero non essere sufficienti per controllare la Singolarità se si verifica.