La macchina è servo o padrone? Uno sguardo al futuro

Sembra chiaro che il nostro futuro sarà dominato dalle macchine. Possono pensare? Potremmo incrementare la loro evoluzione fino a renderle potenzialmente pericolose per l’umanità? Non si accusi la domanda di essere catastrofica, sognatrice, se non completamente folle. Per citare The Big Bang Theory: la possibilità che verremo colpiti da un asteroide è remota, d’accordo, ma vallo a dire al T-Rex che nuota nel serbatoio del gas della tua macchina! Due recenti notizie sono rilevanti in questo senso.

1) Sono stati superati, per la prima volta, i test di Turing da una macchina? Qualche mese fa un software chiamato Eugene Goostman, ideato da un gruppo di programmatori russi (Veselov, Demchenko e Ulasen) allo scopo di sembrare un ragazzino ucraino di 13 anni, ha convinto il 33% dei giudici di essere umano durante un esperimento alla Royal Society di Londra, durato 5 minuti (in occasione dell’anniversario dei 60 anni della morte del grande matematico). L’evento è sensazionale: parrebbe che finalmente i test di Turing abbiano raggiunto il loro scopo, cioè quello di dimostrare che le macchine “pensano”, in una maniera che, seguendo la strada della mimesis, dell’imitazione umana, diviene talmente sofisticata da esserne indistinguibile. La cosa esaltante è che Eugene ha una personalità credibile: vive a Odessa con il padre ginecologo, ha un porcellino d’India di cui la madre si lamenta perché “è sporco, è comunque un maiale”. Secondo alcune interviste effettuate ad Eugene, però, non ha un gran senso dell’umorismo e spesso fraintende le domande, oppure chiede più volte la stessa cosa. Al di là di ciò, in una chat simili incidenti sono credibili, per di più da parte di un ragazzino che non conosce perfettamente l’inglese. Le polemiche al riguardo si sono scatenate quasi subito: innanzitutto, non è confermato che Turing avesse stabilito la soglia del 30% per stabilire il limite del superamento del test, inoltre alcune caratteristiche di Eugene sembrano pensate apposta per giustificare il fraintendimento delle domande (il fatto che sia straniero, ad esempio). Resta il fatto che Eugene, come altri software analoghi, rappresenta un enorme passo avanti nella direzione delle IA. Si arriverà al punto che di ognuno di noi esisterà un doppio, un sosia computerizzato che ci imita alla perfezione? Non so voi, ma io comincerei a registrare alcuni momenti della mia vita e di quella delle persone care: la loro voce, le loro risposte tipiche. Con un po’ di fortuna, alcuni di noi potranno forse vivere fino al punto di “resuscitare” una versione virtuale di un caro defunto. Macabro? Visionario? Forse, ma non del tutto illogico.

2) L’allarme di 400 scienziati sul fatto che l’intelligenza artificiale potrebbe distruggere l’uomo. Le famosissime leggi sulla robotica Isaac Asimov potrebbero venire realmente utilizzate fra qualche decennio? I più entusiasmanti film di fantascienza ad esse più o meno ispirati potrebbero contenere una dose di verità (vedi Terminator, 2001 Odissea nello Spazio…), in un futuro non troppo remoto? A sostenerlo non è proprio il vicino di casa: l’avrebbero affermato niente meno che Stephen Hawking e altri illustri scienziati, tra cui Elon Musk. La lettera aperta degli scienziati mira ad avvertire l’umanità ad esaminare una serie di quesiti cruciali prima di diffondere software d’intelligenza artificiale. I possibili effetti dell’interazione uomo- macchina devono essere oggetto d’indagine. Andrebbero esaminati innanzitutto da un punto di vista legale: che implicazioni potrebbe avere la guida di un pilota automatico di fronte ad un incidente, e che impostazioni, per renderlo capace di prendere decisioni immediate su chi salvare? Le leggi sulla cibernetica andrebbero integrate nel codice civile di ogni paese o trattate a parte? La fase di programmazione di un’IA rappresenta un momento importante, poiché implica innumerevoli questioni etiche. Poiché ogni strumento in mano all’uomo può tramutarsi in qualcosa di letale e autodistruttivo, la questione assume proporzioni non rassicuranti se pensiamo alla possibile creazione di armi-robot. Per non parlare delle discriminazioni che potrebbero inavvertitamente causare le macchine, tra chi le possiede e chi no, a livello sociale, pratico, economico. Fino a che punto potrebbero divenire sofisticate e dunque sostituirsi all’uomo professionalmente, rendendo superfluo il suo lavoro? Queste domande non sembrano più così remote e fantascientifiche, alla luce dei progetti tecnologici su cui i programmatori lavorano. L’ingenuo Eugene non è che un inizio. Una possibile evoluzione sarebbe quella di andare addirittura oltre i test di Turing e l’imitazione, incoraggiando i computer a pensare in maniera, in un certo senso, autonoma, altra (non necessariamente imitando l’uomo, ma superandolo, potenziando proprio gli aspetti non umani del loro tipo di elaborazione dei dati). Il computer sembra sempre meno muto: è divenuto il nostro braccio destro, una parte integrante della nostra vita quotidiana. Ci impigrisce da un lato, poiché parla per noi, cerca per noi, calcola per noi. D’altro canto, ci stimola e crea le basi perché anche la nostra mente possa espandersi e raggiungere livelli molto alti di precisione. Le macchine dovrebbero dunque rappresentare i nostri alleati, ma in modo del tutto diverso dagli animali. E’ proprio il fatto che non siano entità indipendenti, ma dipendenti da noi, a costituire un problema. Non c’è cosa più probabile, in questi casi, del “tirarsi la zappa sui piedi”, del sottovalutare le conseguenze di ciò che si progetta in maniera frettolosa e irresponsabile.

C’è un bellissimo racconto di Asimov, “The last question”, che si spinge ad immaginare un futuro in cui un computer universale sarà in grado di rispondere a tutte le domande possibili meglio di qualunque uomo (una sorta di evoluzione “pensante” di Wikipedia, per intenderci). Il grande software immaginato dal mitico scrittore e scienziato di origine russa è una sorta di Guru cui ci si rivolge di continuo. In particolare, per sapere la risposta della domanda ultima, la più importante: la specie umana è destinata ad estinguersi perché l’entropia dell’universo è un processo irreversibile? La macchina, nel racconto, è vista come una sorta di nuovo dio. Lo si potrebbe intendere non come entità sconosciuta cui affidare le proprie paure e che ci ha creato, ma come prodotto avanzato dello scibile umano, creato dall’uomo ma migliore di esso in quanto a precisione, capacità di calcolo, memoria, sapienza: il Dio- computer non sarebbe il punto di partenza, ma di arrivo: il risultato ultimo dell’evoluzione umana e della conoscenza. Una sorta di grande giudice super partes cui affidare i problemi più importanti e difficili dell’umanità, cui delegare le responsabilità più grandi- volontà che pare intrinseca nell’essere umano. Sembra infatti strano pensare che, in un mondo in cui i computer sono parte attiva di quasi ogni processo cognitivo/sociale/lavorativo, esistano ancora tanti diverbi, tanta arbitrarietà e soggettività in ambito non solo sociale, ma oserei dire politico. Il computer potrebbe diventare un enorme dispensatore di test universali, per ogni genere di disciplina e questione, atti a selezionare e qualificare esperti in ogni settore, anche in politica. Se i test di abilità, intelligenza, conoscenza e preparazione diventassero la discriminante da cui partire, la società potrebbe facilmente eleggere i suoi rappresentanti in base a rapidi calcoli di una macchina super partes, a risultati concreti, onesti e consultabili. Il problema sarebbe, di nuovo, la fase della programmazione: chi stabilisce le soglie del superamento dei test, chi inserisce le domande? Il creatore/i del programma diverrebbe dunque una sorta di secondo dio, il padre creatore dietro al dio-macchina. Non è illogico pensare a come finirebbe questa storia: il servo computer diverrebbe fondamentale per l’uomo padrone, al punto da sostituirsi ad esso. E, come ogni concetto di dio, per quanto universale e intriso di buoni propositi, in mano all’uomo diventerebbe automaticamente un preoccupante strumento di morte, discriminazione e violenza.

eugene-578x325

Precedente Zuckerberg, salvaci tu Successivo La Terra gira intorno al Sole. No, scherzavo.

2 commenti su “La macchina è servo o padrone? Uno sguardo al futuro

  1. Christos Voskres il said:

    Non ci crederai ma io da anni sto archiviando in un account Dropbox tutto quello che posso di me stesso !!
    Ora che ho letto il tuo post mi sento meno scemo e più forte nei confronti di tutti i detrattori che non credono nel mio progetto.
    Se vuoi riservo una cartella anche per te.
    Potrai inserire le tue cose (giuro che non guardo)
    ciao

    • Valentina Moretti il said:

      Ciao, è bello sapere di non essere soli in questa valle di liquidi corporei. Mi sento sollevata anch’io, ed esigo una cartella con registrazioni di ogni mia espressione e sfumatura, con particolare attenzione al mio irresistibile sense of humor. Possedere un mio clone virtuale sarebbe uno dei miei più grandi incubi e sogni! Sarebbe non poco emozionante potermi dire: sì, avrei detto così. Ah, anche così, vero.

I commenti sono chiusi.