STIAMO VIVENDO IN UNA SIMULAZIONE?

Riccardo Mariani

21 min · 

STIAMO VIVENDO IN UNA SIMULAZIONE?

A quanto pare è molto probabile, basta accettare queste tre ipotesi non particolarmente forzate.

IPOTESI 1: nell'universo le civiltà progrediscono senza collassare necessariamente prima di raggiungere la capacità di creare realtà virtuali molto sofisticate (simulazioni).

IPOTESI 2: le civiltà nell’universo in grado di creare simulazioni in genere sono anche interessate a farlo.

IPOTESI 3: in presenza di simulazioni i soggetti “creatori” di simulazioni saranno meno numerosi dei soggetti “creati” nella simulazione.

ERGO: molto probabilmente stiamo vivendo in una simulazione.

SIMULATION-ARGUMENT.COM

Are You Living in a Simulation?

The original paper that introduced the simulation argument

Mi piace

CommentaCondividi

Commenti

Scrivi un commento...

LE QUALITA’ DEL FUTURO

Riccardo Mariani

Adesso · 

Amazon

 · 

LE QUALITA’ DEL FUTURO

Nella novella “Il bello e il sublime”, Bruce Sterling immagina un mondo in cui l’intelligenza artificiale si è affermata un po’ ovunque ed è ormai accessibile in modo economico. Il pensiero razionale non è più considerato una facoltà umana apprezzabile, le persone particolarmente intelligenti sono trattati come robottini vintage di terza categoria. In un mondo del genere le attitudini artistiche, creative, nonché la capacità di conferire emozioni estetiche e sensoriali sono le qualità che vanno di più.

#Amazon

The Substance of Style: How the Rise of Aesthetic Value Is Remaking Commerce, Culture, and Consciousness

Whether it's sleek leather pants, a shiny new Apple computer, or a designer toaster, we make important decisions as consumers every day based on our sensory…

AMAZON.COM

David Friedman Don’t Let the Robots Distract You

David Friedman Don’t Let the Robots Distract You

riccardo-mariani@libero.it

Citation (APA): riccardo-mariani@libero.it. (2018). David Friedman Don’t Let the Robots Distract You [Kindle Android version]. Retrieved from Amazon.com

---

Parte introduttiva

Evidenzia ( giallo) - Posizione 1

Don’t Let the Robots Distract You By David D. Friedman

Evidenzia ( giallo) - Posizione 9

produced the illusion of human conversation

Nota - Posizione 9

ELIZA E SOPHIA

Evidenzia ( giallo) - Posizione 13

but behind her eyes there is nobody home.

Nota - Posizione 14

ANCHE SE PRETENDEREBBE...

Evidenzia ( giallo) - Posizione 15

how to decide whether a computer program is actually a person,

Nota - Posizione 15

PRIMO PROBL...CHI PUÒ DIRSI PERSONA?

Evidenzia ( giallo) - Posizione 17

a computer program running on the hardware of my brain.

Nota - Posizione 17

DEF DI XSONA

Evidenzia ( giallo) - Posizione 18

we should be able to produce the equivalent

Nota - Posizione 18

QUINDI...

Evidenzia ( giallo) - Posizione 18

silicon instead of carbon.

Nota - Posizione 18

UNICA DIFFERENZA

Evidenzia ( giallo) - Posizione 19

the puzzle of consciousness.

Nota - Posizione 19

RESTA UN PICCOLO PROBLEMINO

Evidenzia ( giallo) - Posizione 20

Observing myself from the inside,

Nota - Posizione 20

SO CHE ESISTE...ALMENO LA MIA

Evidenzia ( giallo) - Posizione 20

Cogito ergo sum.

Evidenzia ( giallo) - Posizione 23

Turing’s proposal,

Nota - Posizione 23

UN MODO X DECIDERE SUI PC

Evidenzia ( giallo) - Posizione 24

the best answer so far, but not a very good one.

Nota - Posizione 24

Cccccccccccc

Evidenzia ( giallo) - Posizione 29

face the fact that these are very different people— a

Nota - Posizione 29

NN FOCALIZZIAMOCI SU TURING...ABBIAMO BEN ALTRI POTERI

Evidenzia ( giallo) - Posizione 30

Copy the program to another computer and it is still the same person.

Nota - Posizione 30

CONSIDERIAMO UNA SEMPLICE OPERAZ

Evidenzia ( giallo) - Posizione 31

Copy it without deleting the original

Nota - Posizione 31

Es

Evidenzia ( giallo) - Posizione 32

committed murder?

Nota - Posizione 32

CHI SPEGNE UN PC DOVE UN SOFTWARE GIRA È UN ASSASSINO?

Evidenzia ( giallo) - Posizione 32

What if he first saves it to disk?

Evidenzia ( giallo) - Posizione 33

does it own the computer it is running on as I own my body?

Nota - Posizione 34

IL PROG XSONA

Evidenzia ( giallo) - Posizione 35

Does the copy own a half share of the original’s property?

Nota - Posizione 36

ALTRO INTERROGATIVO

Evidenzia ( giallo) - Posizione 36

Is it bound by the original’s contracts?

Nota - Posizione 36

RESPONSABILE?

Evidenzia ( giallo) - Posizione 36

does each copy get a vote?

Nota - Posizione 36

SE L ORIG È UN CITTADINO DEMOCRATICO...

Evidenzia ( giallo) - Posizione 37

it rents ten thousand computers, each for two days, can it load a copy to each and get ten thousand votes?

Nota - Posizione 37

VINCERE LE ELEZIONI

Evidenzia ( giallo) - Posizione 39

are there legal or moral limits to what constraints can be built into it?

Nota - Posizione 40

SE L AI È SCRITTA DA UN UOMO...PROGRAMMATO X OBBEDIRE

Evidenzia ( giallo) - Posizione 40

May the programmer create a slave

Evidenzia ( giallo) - Posizione 41

Is doing so equivalent to a human parent teaching his child moral rules,

Nota - Posizione 42

VALE L ANALOGIA?

Evidenzia ( giallo) - Posizione 45

the product of evolution, a process of random variation and selection occurring inside a computer— the

Nota - Posizione 45

NN È DETTO CHE AI SIA PROGRAMMATA DA UN UOMO

Evidenzia ( giallo) - Posizione 46

created not by a human programmer but another AI,

Nota - Posizione 46

PER ESEMPIO

Evidenzia ( giallo) - Posizione 47

Or it might be code that once ran on a human brain.

Nota - Posizione 48

ALTRO CASO

Evidenzia ( giallo) - Posizione 48

A sufficiently advanced technology might be able to read the code that is me, build a computer able to emulate

Nota - Posizione 48

SE NELLA COPIA RESTO UCCISO È ASSASSINIO?

Evidenzia ( giallo) - Posizione 49

If I get killed in the process,

Nota - Posizione 49

.........

Evidenzia ( giallo) - Posizione 49

Have I died, or have I merely moved

Nota - Posizione 49

UCCISO O TRASFERITO

Evidenzia ( giallo) - Posizione 50

The program has my memories;

Nota - Posizione 50

D ALTRONDE...

Evidenzia ( giallo) - Posizione 51

destructive uploading

Nota - Posizione 51

IL CASO

Evidenzia ( giallo) - Posizione 53

Does each new me inherit a share of my property,

Nota - Posizione 54

SI RIPROPONE IL PROB GIÀ VISTO

Evidenzia ( giallo) - Posizione 55

point out how irrelevant the model implied by “robot” is to the issues that will be raised if and when there are human level AIs.

Nota - Posizione 56

LO SCOPO DI QS CONSIDERAZ

Evidenzia ( giallo) - Posizione 60

Predictions Aren’t Very Reliable, Including about AI By David D. Friedman

Nota - Posizione 64

Ttttttttt

Evidenzia ( giallo) - Posizione 76

one in computer technology,

Nota - Posizione 76

PRIMO PROB X AI

Evidenzia ( giallo) - Posizione 77

If computers continue to improve at their current rate,

Nota - Posizione 77

RISOLVIBILE IN UN PAIO DI DECENNI

Evidenzia ( giallo) - Posizione 78

It also requires a program;

Nota - Posizione 78

SECONDO PROBLEMA

Evidenzia ( giallo) - Posizione 79

much larger source of uncertainty.

Nota - Posizione 79

BUIO

Evidenzia ( giallo) - Posizione 80

next week. Or next century. Or never.

Evidenzia ( giallo) - Posizione 81

population increase was a looming global catastrophe,

Nota - Posizione 82

IL CONSENSO NEGLI ANNI SESSANTA...TUTTI TRANNE JS...IL CONSENSO DEGLI ESPERTI VALE POCO

Evidenzia ( giallo) - Posizione 83

What has happened since then was the precise opposite of the prediction, extreme poverty declining steeply,

Nota - Posizione 84

INVECE

Evidenzia ( giallo) - Posizione 84

prediction a century into the future on AI, population, climate, or any major issue other than the orbits of asteroids, is worth very nearly nothing.

Nota - Posizione 85

VALORE DELLE PREDIZIONI

Evidenzia ( giallo) - Posizione 86

Zoltan Istvan,

Nota - Posizione 86

ALTRO PUNTO

Evidenzia ( giallo) - Posizione 87

leaders in our country fundamentally believe the human body and mind is a God-given temple not to tampered with unless changed by the Almighty.”

Nota - Posizione 88

E ANCHE SE SI NPOTESSE...

Evidenzia ( giallo) - Posizione 88

stents, vaccines, pacemakers, prosthetics— have

Nota - Posizione 89

TRANSUMANESIMO ACCETTATO

Evidenzia ( giallo) - Posizione 89

people tend to be suspicious of rapid change, but that has nothing much to do with religion.

Nota - Posizione 90

VERO ANCHE SE LA RELIGIONE NN C ENTRA

Evidenzia ( giallo) - Posizione 90

the jump from “climate change” to “catastrophe”

Nota - Posizione 90

IL CATASTROFISMO SENZA RELIG

Evidenzia ( giallo) - Posizione 92

conservative bias,

Nota - Posizione 92

UNIVERSALE

Evidenzia ( giallo) - Posizione 96

technologies, if possible, are unlikely to be blocked,

Nota - Posizione 96

GRADUALE MA INEVITABILE

Evidenzia ( giallo) - Posizione 96

they do not have to be introduced everywhere,

Nota - Posizione 96

D ALTRONDE

Evidenzia ( giallo) - Posizione 97

different countries with different ideologies,

Nota - Posizione 97

COLONIZZAZIONE

Evidenzia ( giallo) - Posizione 98

As long as at least one of them is willing to

Evidenzia ( giallo) - Posizione 101

this train is not equipped with brakes.

Nota - Posizione 101

VOGLIO SCENDERE

Evidenzia ( giallo) - Posizione 102

Carbon based life is an old technology, and Darwinian evolution

Nota - Posizione 103

CARBONIO E SILICIO

Evidenzia ( giallo) - Posizione 104

the human race has, after all, not only survived but benefitted by Einstein, da Vinci, Von Neumann.

Nota - Posizione 105

L INTELLIGENZA È UN XICOLO

La pianificazione dell'economia

Riccardo Mariani

2 h · 

Può l'intelligenza artificiale pianificare l'economia?

Molto probabilmente no a prescindere dalla sua potenza, e questo per il semplice fatto che molti operatori dell'economia che dovrebbe pianificare saranno a loro volta intelligenze artificiali oppure uomini affiancati da intelligenze artificiali.

Will AI become intelligent enough to figure out how to perfectly organise our economies?

Answer by Alex Tabarrok, Professor of Economics, George Mason University

QUORA.COM

Il gay smascherato

Riccardo Mariani

9 h · 

I robot identificano i gay molto meglio degli uomini.

PsycNET

PSYCNET.APA.ORG

Intelligenza artificiale e apocalisse

Se chiedo al mio servo-robot-superintelligente di rendermi felice, quello potrebbe anche aprirmi la scatola cranica, espiantarmi il cervello e metterlo a mollo in una vasca contenente soluzioni chimiche atte alla conservazione, dopodiché procedere all’impianto di elettrodi in grado di stimolare la aree “della felicità”. 

Oppure potrebbe fare l’upload della mia mente su un computer e somministrarmi l’equivalente digitale di una droga.

Veramente io non intendevo quello quando ho dato il mio ordine. Ma il compito del servo-robot-superintelligente non è quello di “capire”, bensì quello di “eseguire”.

Ma per eseguire devo “capire”! Certo, peccato che il concetto di “capire” è ambiguo, non puo’ essere codificato e trasmesso ad un robot. Nemmeno noi sappiamo esattamente cosa significa “capire”.

Sant’Agostino diceva di sapere cos’è il tempo, ma solo quando non ci pensava. Appena ci pensava, le sue sicurezze svanivano. Purtroppo i concetti ambigui e non trasmissibili al “servo” sono molti: “felicità”, “buon senso”, “soggetto”, “coscienza”, “certezza”, “realtà”… Purtroppo si tratta di concetti cruciali, e questo crea problemi.

Se chiedo al mio servo-robot-superintelligente di farmi sorridere, quello potrebbe paralizzare i miei muscoli facciali in modo da far apparire un mostruoso sorriso sul mio volto.

Se gli dico che non deve osare toccare la mia faccia, quello interviene sul cervello. E’ una spirale infinita in cui ci si rincorre.

Ogni obbiettivo, per quanto fissato con cura, ha realizzazioni perverse inattese: è praticamente impossibile anticipare le azioni di chi è più intelligente di noi, altrimenti saremmo più intelligenti di lui.

Non c’è modo di avere garanzie.

Se gli chiedo di valutare l’ipotesi di Riemann, quello puo’ trasformarmi interi pianeti in computer fisici combinando disastri inenarrabili.

Magari il servo-superintelligente ha dei moduli che gli inoculano un senso di colpa. Potrei dirgli di perseguire l’obbiettivo assegnato in modo da non provare sensi di colpa. E quello ubbidisce  estirpando da sé i moduli disegnati per produrre senso di colpa. Metto una toppa, e quello escogita una scappatoia.

Se gli chiedo di massimizzare il numero di graffette da produrre, quello puo’ trasformare il pianeta terra in una graffetta unica utilizzando tutte le molecole, anche quelle dei nostri corpi.

Potrei dirgli di produrne 1 milione!?

Lui ne produce un milione, poi le conta per essere certo che siano 1 milione, poi le riconta, poi, per aumentare la certezza che siano esattamente 1 milione, chissà quali strategie perverse si inventa.

Il concetto di “certezza” è estraneo agli esseri razionali poiché per la ragione esistono solo probabilità: la certezza è solo un limite che tende ad infinito.

Potrei dire di produrre 1 milione di graffette con certezza del 95%. Ma come avere la  certezza che la probabilità è del 95% è stata raggiunta? Siamo punto e a capo. Nei suoi tentativi dovrebbe fermarsi secondo buon senso ma il “buon senso” non puo’ essere ricompreso nel suo codice sorgente.

E se diamo un limite di tempo? Possiamo agire anche così nella consapevolezza che questo ordine non esclude affatto l’adozione di strategie perverse.

Se dò al mio servo-robot-superintelligente obbiettivi di ordine scientifico quello comincia a fare esperimenti. Per fare esperimenti occorrono delle cavie. In molti casi, quanto più le cavie sono simili all’uomo e quanto più l’esperimento è su vasta scala, tanto più sarà informativo. Le cavie utilizzate dal servo-robot-superintelligente saranno praticamente identiche all’uomo, forse saranno “cose” che per noi sono uomini a tutti gli effetti, la scala dei suoi esperimenti sarà poi vastissima. Insomma, forse i suoi esperimenti avranno come esito genocidi molto più crudeli ed estesi di quelli che abbiamo conosciuto nella nostra storia precedente.

Anche qui: inutile ordinare che negli esperimenti non possono essere sacrificati soggetti morali poiché il concetto di “soggetto morale” non puo’ rientrare nel suo codice sorgente, si tratta di un concetto ambiguo, per quanto essenziale.

***

E’ un problema. E’ un problema che comporta un “rischio esistenziale”, ovvero un rischio di estinzione per la nostra specie.

Si chiama “problema del controllo”.

Devolviamo moltissime risorse al problema del “riscaldamento globale” e pochissime al “problema del controllo”, questo nonostante ci dicano che i “servi-robot-superintelligenti” siano alle porte. Ma questo è un altro problema.