Il robot pensa

I robot del futuro saranno più intelligenti di noi, più razionali di noi, commetteranno meno errori di noi. Sarannomigliori di noi.

Ma saranno pur sempre programmati da noi, almeno all’inizio.

Per questo, in via di principio, noi dovremmo avere un’idea abbastanza precisa di come penserà un robot delle prime generazioni.

Matematici, psicologi e altri scienziati sociali studiano da tempo cosa sia la razionalità: quella roba che vi fa prendere decisioni buone, anche quando è difficile farlo; quella roba che vi fa imboccare la strada giusta, anche quando l’incertezza incombe. Ma anche quello strumento che valorizza – anziché accantonarle – le vostre intuizioni e le vostre emozioni.

Le intuizioni e le emozioni sono un deposito di conoscenza pregressa che puo’ sviarci ma puo’ anche aiutarci. Il robot – ossessionato com’è dalla conoscenza – sarà ben consapevole di tutto questo.

Il robot non sarà un matematico, altrimenti, come tutti i grandi matematici, sarebbe un imbranato.

Il robot deve agire qui e ora, nella stessa realtà dove viviamo io e te. Deve essere razionale in presenza di un mondo complesso, non su un foglio di carta dentro un aula universitaria. Deve avere valori morali, deve sviluppare credenze sulla realtà, deve avere persino affetti, forse. Altrimenti come potrebbe muoversi e interagire in uno spazio dove l’imprevisto è la regola?

La razionalità di un computer è per lo più deduttiva mentre quella di un robot è per lo più induttiva: si esce quindi dal mondo del silicio e si entra in quello fatto di terra, carne e sangue.

Ma il fatto centrale è che noi, a grandi linee, già oggi conosciamo l’algoritmo di razionalità induttiva alla base di AI. Potremmo anche scriverlo.

Cerchiamo invece di descriverlo a parole.

Il robot nascerà con delle convinzioni sulla realtà che lo ospita.

Potremmo chiamarle credenze a priori, o credenze intuitive. Ogni robot avrà le sue.

Puo’ anche darsi che un’autorità centrale imponga una certa diversità a tutela di un panorama cognitivo più ricco e imprevedibile. un equivalente della biodiversità nel campo delle idee.

Potremmo ben dire che saranno credenze soggettive: la razionalità applicata ha sempre una solida base soggettiva.

In questo senso un algoritmo random – magari entro certi limiti – puo’ assolvere al compito di attribuire delle credenze native al nascente robot.

***

Le credenze del robot saranno probabilistiche.

Un robot non ragiona in termini logici ma in termini statistici.

Esempio: ammettiamo che un certo robot sia cattolico.

Cio’ non significa che attribuisce all’esistenza del dio-cattolico una probabilità del 100% e al dio-protestante una probabilità dello 0%.

Il rapporto sarà per esempio del 60/40 o 51/49. Dichiararsi “cattolico” ha dunque un significato un po’ diverso da quello che ha ora.

In un esempio più realistico il robot cattolico crederà all’esistenza del suo dio con probabilità 2/3%, questo perché l’opzione cattolica risulterà la più razionale tra molte (e non solo tra due). Evidentemente, una probabilità del 2-3% nel quadro di una scommessa pascaliana, è sufficiente per convertirsi.

***

Credenze iniziali a parte, il robot avrà un metodo computabile per assegnare e riassegnare nel tempo le probabilità ad ogni credenza.

Magari il processo di calcolo non sarà finito: in fondo quanto più uno ci pensa, tanto più giunge ad una credenza affidabile. In questo senso il robot sarà un tale per cui il pensiero ha sempre un valore conoscitivo.

Tempo e pensiero sono una miscela che migliora la conoscenza dei robot.

***

Le preferenze del robot saranno tra loro coerenti.

Per esempio, se due credenze si escludono a vicenda, la somma delle probabilità assegnate non sarà mai superiore ad 1.

Nel gergo degli scommettitori, il robot non si fa fregare dal trucco delle “pompe di denaro”. Non sarà mai possibile compilare un Dutch Book ai danni di un robot.

Cio’ significa che le preferenze del robot saranno transitive: se preferisce A a B e B a C, allora preferirà anche A a C.

Non a caso ai robot piacerà scommettere. Nel loro mondo – diversamente che nel nostro – scommettere sarà un atto virtuoso e segnalerà onestà intellettuale. Ogni discussione di alto profilo implicherà delle scommesse e ogni robot girerà portando sempre con sé il record delle scommesse a cui ha partecipato.

***

Il robot sa correggersi, sa cambiare idea quando gli eventi lo inducono a farlo. Il robot non ha dogmi.

D’altra parte non crede né al concetto di verifica, né a quello di confutazione. Se perde una scommessa sa benissimo che la ragione puo’ essere ancora dalla sua parte, sebbene aggiorni le sue credenze non si uniformerà a quelle del vincitore.

Così come non ha certezze positive, il robot non ha nemmeno certezze negative: non ride dei no-vax o dei complottisti. Ogni teoria ha la sua brava probabilità di essere vera. L’ipotesi miracolista è sempre mantenuta in vita dai robot.

***

Per il robot tutto è rilevante. Tutto contiene un indizio per rettificare una credenza, e spesso una rettifica ne comporta altre fino a smuovere una valanga.

In questo senso il robot è sessista, razzista e discriminatorecompulsivo. Ovvero, il fatto di relazionarsi con una donna cambierà le sue aspettative; e così pure quando si relazionerà con un asiatico, o con un nero, o con un europeo, con una persona alta, bassa, grassa…

Poiché il robot s’imbatterà continuamente in nuovi eventi, le sue credenze  cambieranno di continuo. Anche le credenze dei suoi colleghi sono da annoverarsi tra i “nuovi eventi”, e non puo’ darsi discussione senza cambio di idee.

Anche la sua fede religiosa, per esempio, cambierà ogni ora: al mattino crede al 2%, a mezzogiorno al 2.2%, alla sera al 3% eccetera.

***

Ad ogni incontro con eventi reali, il robot aggiorna le sue credenze sulla base di formule probabilistiche ben note.

***

I robot – almeno quelli delle prime generazioni – saranno fondamentalmente onesti tra loro, almeno quando cercano insieme la Verità. Lo saranno un po’ meno con gli uomini, ben sapendo che raramente sono degli onesti cercatori di verità.

***

Il robot sa molte cose, ma sa anche di sapere molte cose e sa di sapere che sa. In questo senso potremmo dire che il robot possiede una qual forma di introspezione.

Un algoritmo di questo tipo elude i noti problemi legati all’autoreferenzialità.

Poiché il sapere dei robot ha un fondamento soggettivo, le idee dei robot non coincideranno anche se la prospettiva sarà necessariamente quella di un accordo. Per quanto detto, infatti, non è concepibile un disaccordo prolungato tra due robot che discutono. A volte non c’è tempo per raggiungere un pieno accordo, tuttavia, accordarsi sui motivi del disaccordo non costituisce mai un punto di equilibrio nella discussione tra robot.

***

Il robot è ottimista: sa che approfondire un problema incrementerà la sua conoscenza. Sa che in futuro le sue credenze saranno più affidabili, fosse anche solo per il fatto che disporrà di più informazione.

***

Il robot pensa in modo efficiente, ovvero, poiché le risorse computazionali ed energetiche sono limitate, sa quando arrestare il suo pensiero e prendere una decisione.

Pensare ha un costo, e ogni robot sarà anche un economista del pensiero.

***

Il robot sa reagire anche di fronte ad ipotesi impossibili. Sa cos’è l’assurdo ed è pronto ad affrontarlo.

Poiché la logica deduttiva classica ci dice che da situazioni contradditorie puo’ conseguire di tutto, puo’ darsi che il robot reagisca con una ripartenza delle sue credenze in quell’ambito. In ogni caso evita il blocco.

***

Nella discussione tra robot ogni credenza ipotizzata puo’ essere assimilata ad un titolo azionario.

Così come i giocatori di borsa attribuiscono al titolo un valore, i robot attribuiscono alle varie credenze una probabilità di essere vere.

Se la quotazione del titolo è inferiore al valore attribuito dal giocatore, allora costui compra. Se è superiore, costui vende.

Allo stesso modo: se le probabilità attribuite dalla discussione ad una certa credenza sono inferiori a quelle personali del robot X, allora costui interviene per difenderla; se sono superiori, interviene per confutarla.

Proseguendo questa analogia, è illuminante assimilare la discussione tra robot ad una borsa efficiente.

Gli economisti – nel caso di mercati finanziari efficienti – parlano di Efficient Market Hypothesis (EMH).

L’ EMH significa sostanzialmente che le quotazioni ufficiali di un titolo riflettono tutte le informazioni disponibili su quel titolo.

Un altro modo più eloquente di dire la cosa: “non si puo’ battere il mercato”.

Dove per “battere il mercato” significa “guadagnare più di un fondo indicizzato ai valori di mercato”.

Naturalmente si puo’ battere il mercato occasionalmente, ma non si puo’ farlo sistematicamente. Non esiste la ricetta per far soldi in borsa. Neanche Warren Buffett l’ha possiede (e non a caso ora detiene quasi tutti negli index fund). La strategia di gestione passiva è sempre vincente in un periodo sufficientemente lungo.

Allo stesso modo possiamo dire che quando dei robot discutono sulla Verità, la voce più affidabile è quella astratta rappresentata dalle probabilità così come sono assegnate nel punto di equilibrio (quello dove nessuno “vende o compra”, ovvero “perora o confuta”).

Ma per quanto detto prima sappiamo che non esiste un punto di equilibrio in una discussione tra robot, almeno finché non si realizza un accordo assoluto.

Probabilmente l’accordo assoluto richiede un tale dispendio di energie che in base al principio di efficienza ci si fermerà prima lasciando che la quotazione delle varie idee sia sempre in itinere. 

logical introdution scott garrabrandt