Google DeepMind teme che le intelligenze artificiali possano ribellarsi

Iscriviti per ricevere una notifica ogni volta che pubblichiamo un articolo che non puoi davvero perderti! Disturbiamo poco, informiamo molto.

Google DeepMind è celeberrima nel mondo Android per essere la società attraverso la quale la casa di Mountain View è riuscita a sviluppare l’algoritmo necessario per dare vita al Google Assistant, una delle migliori features di Allo – la nuova app di messaggistica di Google in procinto di arrivo sul Play Store.

Da tempo però è in corso un dibattito nella comunità scientifica sulla possibilità che le intelligenze artificiali possano diventare talmente intelligenti da ribellarsi al proprio creatore; se qualche anno fa la comunità mondiale ha firmato un documento per limitare l’utilizzo di robot armati nei conflitti presenti e futuri, allo stesso modo anche la casa di Mountain View sta prendendo le proprie precauzioni per limitare le possibilità che le proprie creazioni si ribellino.

Siete pronti per scoprire i dettagli della notizia?

Google DeepMind sarà la prossima Skynet?

La possibilità che i robot possano diventare super-intelligenti e ribellarsi al proprio creatore non è una previsione distopica del futuro che solamente le pellicole cinematografiche hanno preso in considerazione: anche Google DeepMind, la società inglese incaricata di sviluppare l’intelligenza artificiale da inserire nei robot del Boston Dynamics e in Google Assistant, ha ritenuto previdente inserire un “grosso pulsante rosso” da avviare in caso di emergenza.

Google-skynet-deepmind-2
Il futuro che ci aspetta?

All’interno di un documento redatto da Laurent Orseau, sviluppatore presso Google DeepMind, Stuart Armstrong, filosofo presso l’Oxford University’s Future of Humanity Institute e molti altri ricercatori e chiamato semplicemente “Safely Interruptible Agents [PDF]“, sono state poste in essere le eventuali contromisure da attuare nel caso in cui le macchine diventassero troppo intelligenti da lasciarsi disattivare dai propri creatori. Il documento è stato presentato durante la conferenza Uncertainty in Artificial Intelligence (UAI) e i suoi redattori affermano di aver creato un framework che permetterebbe ad operatori umani di disattivare le intelligenze artificiali.

Il problema principale si nasconde nella differente natura degli algoritmi che governano il comportamento delle creature robotiche: se infatti un robot è stato istruito ad eseguire un’azione in seguito alla quale otterrebbe una ricompensa, tenterà di fermare il supervisore incaricato di disattivarlo se questa procedura gli impedisse di ottenere quanto preventivato. Alcuni algoritmi, come il “Q-Learning“, prevedono un’auto-disattivazione, mentre altri come il “Sarsa” dovranno essere riprogrammati a tale scopo anche se, stando agli stessi sviluppatori, non è certo che risponderanno positivamente agli stimoli degli operatori umani.

Google-skynet-deepmind-3
Nick Bostrom, filosofo svedese

Nick Bostrom, a capo del The Future of Humanity Institute incaricato di prevedere ed elaborare le minacce della tecnologia, è sicuro che “entro i prossimi 100 anni i robot saranno più intelligenti degli umani“. Sempre secondo Bostrom l’essere umano ha acquisito il dominio sugli animali solamente per l’elevata intelligenza di cui dispone e non per una superiorità fisica o muscolare; per questo motivo, nel momento in cui le macchine transiteranno dalla loro condizione di creature meccaniche intelligenti a super-intelligenti – passo che sarà brevissimo – bisognerà considerare la possibilità di porre fine alla loro esistenza per evitare che possano prendere il sopravvento.

Google sembra essere consapevole dei rischi che DeepMind sarebbe in grado di provocare, tanto da aver posto a capo della società un “ethic board” le cui mansioni e la cui composizione è ancora sconosciuta.

Non vuoi essere controllato durante la tua sessione di navigazione online? Scopri QUI i Saggi Consigli e trucchi per evitare intercettazioni!

Vorresti scrivere per AppElmo? Mettiti in gioco: stiamo cercando collaboratori! Scrivi a [email protected], e dai un’occhiata QUI per le modalità di contatto. Non essere timido!

Se non volete perdervi nè le prossime News nè gli altri articoli di AppElmo (e sappiamo che non volete), allora potete iscrivervi alla nostra newsletter inserendo il vostro indirizzo email nel form qui in basso (tranquilli, vi assicuriamo che non vi invieremo spazzatura o spam; in caso contrario, vi saremmo immensamente grati se ci segnalaste il problema).

Oppure potete seguirci sulla nostra pagina Facebook, sul nostro account Twitter, sulla nostra pagina Google Plus e sul nostro canale Telegram oppure, in alternativa, potete sempre scaricare la nostra app da Google Play, cliccando QUI o sull’immagine nella sidebar! Grazie mille!

[wysija_form id=”3″]

Commenti

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. AcceptRead More

//