Computo ergo sum: immaginare e costruire macchine con un senso morale


Screenshot 2015-11-08 11.37.04

 

Le nostre vite sono influenzate da macchine sempre più intelligenti che ci aiutano nelle grandi e piccole decisioni. Sempre più prodotti e servizi sono basati sull’intelligenza artificiale. Le implicazioni morali di questo rapporto simbiotico devono essere esplorate a fondo. Un ampia e profonda conversazione pubblica è necessaria per affrontare le domande che stanno aprendo.

Alla recente conferenza “Social Implications of Artificial Intelligence” (Implicazioni sociali dell’Intelligenza Artificiale) a Seoul, Corea del Sud, sapientemente organizzato da Shuba Gokhale e Hema Gokhale all’Università Hankuk, ho fatto una presentazione su alcuni dei problemi dei sistemi autonomi con sofisticata AI. Lo sviluppo di nuovi prodotti e servizi, come le automobili a guida autonoma da parte di Google, Tesla, e altri, avrà effetti molto positivi, salvando letteralmente milioni di vite. Si tratta di uno sviluppo inarrestabile che riceverò un ampio sostegno da parte del pubblico, e da parte dei politici.

Il problema tradizionale del trolley, ben noto nei circoli di sociologia, che ti fa decidere in esperimenti mentali “chi deve morire”, può essere applicato a queste automobili. Certamente prima o poi si troveranno in situazioni esotiche dove non ci sono buone scelte da effettuare, ma solo quelle meno sbagliate. Questi esperimenti mentali sono importanti non perché essi rappresentano situazioni reali comuni, ma perché ci permettono di esplorare le condizioni al contorno delle tecnologie che ci accingiamo a distribuire ampiamente.

Senza ricorrere a esempi estremi, le attività quotidiane di sistemi più complessi hanno implicazioni che possiamo interpretare come decisioni morali, o almeno spinte da parte di algoritmi in una data direzione. Come automatizziamo le nostre aziende, colleghiamo città intelligenti in internet degli oggetti, ripensiamo la finanza sul blockchain, e inneschiamo le organizzazioni decentrate autonome, dobbiamo promuovere piattaforme trasparenti, responsabili, e interoperabili che sappiamo corrispondere ai nostri desideri a breve e a lungo termine sulla nostra vita e allo sviluppo delle nostre società.

This post is also available in: Inglese