David Friedman Don’t Let the Robots Distract You

David Friedman Don’t Let the Robots Distract You

riccardo-mariani@libero.it

Citation (APA): riccardo-mariani@libero.it. (2018). David Friedman Don’t Let the Robots Distract You [Kindle Android version]. Retrieved from Amazon.com

---

Parte introduttiva

Evidenzia ( giallo) - Posizione 1

Don’t Let the Robots Distract You By David D. Friedman

Evidenzia ( giallo) - Posizione 9

produced the illusion of human conversation

Nota - Posizione 9

ELIZA E SOPHIA

Evidenzia ( giallo) - Posizione 13

but behind her eyes there is nobody home.

Nota - Posizione 14

ANCHE SE PRETENDEREBBE...

Evidenzia ( giallo) - Posizione 15

how to decide whether a computer program is actually a person,

Nota - Posizione 15

PRIMO PROBL...CHI PUÒ DIRSI PERSONA?

Evidenzia ( giallo) - Posizione 17

a computer program running on the hardware of my brain.

Nota - Posizione 17

DEF DI XSONA

Evidenzia ( giallo) - Posizione 18

we should be able to produce the equivalent

Nota - Posizione 18

QUINDI...

Evidenzia ( giallo) - Posizione 18

silicon instead of carbon.

Nota - Posizione 18

UNICA DIFFERENZA

Evidenzia ( giallo) - Posizione 19

the puzzle of consciousness.

Nota - Posizione 19

RESTA UN PICCOLO PROBLEMINO

Evidenzia ( giallo) - Posizione 20

Observing myself from the inside,

Nota - Posizione 20

SO CHE ESISTE...ALMENO LA MIA

Evidenzia ( giallo) - Posizione 20

Cogito ergo sum.

Evidenzia ( giallo) - Posizione 23

Turing’s proposal,

Nota - Posizione 23

UN MODO X DECIDERE SUI PC

Evidenzia ( giallo) - Posizione 24

the best answer so far, but not a very good one.

Nota - Posizione 24

Cccccccccccc

Evidenzia ( giallo) - Posizione 29

face the fact that these are very different people— a

Nota - Posizione 29

NN FOCALIZZIAMOCI SU TURING...ABBIAMO BEN ALTRI POTERI

Evidenzia ( giallo) - Posizione 30

Copy the program to another computer and it is still the same person.

Nota - Posizione 30

CONSIDERIAMO UNA SEMPLICE OPERAZ

Evidenzia ( giallo) - Posizione 31

Copy it without deleting the original

Nota - Posizione 31

Es

Evidenzia ( giallo) - Posizione 32

committed murder?

Nota - Posizione 32

CHI SPEGNE UN PC DOVE UN SOFTWARE GIRA È UN ASSASSINO?

Evidenzia ( giallo) - Posizione 32

What if he first saves it to disk?

Evidenzia ( giallo) - Posizione 33

does it own the computer it is running on as I own my body?

Nota - Posizione 34

IL PROG XSONA

Evidenzia ( giallo) - Posizione 35

Does the copy own a half share of the original’s property?

Nota - Posizione 36

ALTRO INTERROGATIVO

Evidenzia ( giallo) - Posizione 36

Is it bound by the original’s contracts?

Nota - Posizione 36

RESPONSABILE?

Evidenzia ( giallo) - Posizione 36

does each copy get a vote?

Nota - Posizione 36

SE L ORIG È UN CITTADINO DEMOCRATICO...

Evidenzia ( giallo) - Posizione 37

it rents ten thousand computers, each for two days, can it load a copy to each and get ten thousand votes?

Nota - Posizione 37

VINCERE LE ELEZIONI

Evidenzia ( giallo) - Posizione 39

are there legal or moral limits to what constraints can be built into it?

Nota - Posizione 40

SE L AI È SCRITTA DA UN UOMO...PROGRAMMATO X OBBEDIRE

Evidenzia ( giallo) - Posizione 40

May the programmer create a slave

Evidenzia ( giallo) - Posizione 41

Is doing so equivalent to a human parent teaching his child moral rules,

Nota - Posizione 42

VALE L ANALOGIA?

Evidenzia ( giallo) - Posizione 45

the product of evolution, a process of random variation and selection occurring inside a computer— the

Nota - Posizione 45

NN È DETTO CHE AI SIA PROGRAMMATA DA UN UOMO

Evidenzia ( giallo) - Posizione 46

created not by a human programmer but another AI,

Nota - Posizione 46

PER ESEMPIO

Evidenzia ( giallo) - Posizione 47

Or it might be code that once ran on a human brain.

Nota - Posizione 48

ALTRO CASO

Evidenzia ( giallo) - Posizione 48

A sufficiently advanced technology might be able to read the code that is me, build a computer able to emulate

Nota - Posizione 48

SE NELLA COPIA RESTO UCCISO È ASSASSINIO?

Evidenzia ( giallo) - Posizione 49

If I get killed in the process,

Nota - Posizione 49

.........

Evidenzia ( giallo) - Posizione 49

Have I died, or have I merely moved

Nota - Posizione 49

UCCISO O TRASFERITO

Evidenzia ( giallo) - Posizione 50

The program has my memories;

Nota - Posizione 50

D ALTRONDE...

Evidenzia ( giallo) - Posizione 51

destructive uploading

Nota - Posizione 51

IL CASO

Evidenzia ( giallo) - Posizione 53

Does each new me inherit a share of my property,

Nota - Posizione 54

SI RIPROPONE IL PROB GIÀ VISTO

Evidenzia ( giallo) - Posizione 55

point out how irrelevant the model implied by “robot” is to the issues that will be raised if and when there are human level AIs.

Nota - Posizione 56

LO SCOPO DI QS CONSIDERAZ

Evidenzia ( giallo) - Posizione 60

Predictions Aren’t Very Reliable, Including about AI By David D. Friedman

Nota - Posizione 64

Ttttttttt

Evidenzia ( giallo) - Posizione 76

one in computer technology,

Nota - Posizione 76

PRIMO PROB X AI

Evidenzia ( giallo) - Posizione 77

If computers continue to improve at their current rate,

Nota - Posizione 77

RISOLVIBILE IN UN PAIO DI DECENNI

Evidenzia ( giallo) - Posizione 78

It also requires a program;

Nota - Posizione 78

SECONDO PROBLEMA

Evidenzia ( giallo) - Posizione 79

much larger source of uncertainty.

Nota - Posizione 79

BUIO

Evidenzia ( giallo) - Posizione 80

next week. Or next century. Or never.

Evidenzia ( giallo) - Posizione 81

population increase was a looming global catastrophe,

Nota - Posizione 82

IL CONSENSO NEGLI ANNI SESSANTA...TUTTI TRANNE JS...IL CONSENSO DEGLI ESPERTI VALE POCO

Evidenzia ( giallo) - Posizione 83

What has happened since then was the precise opposite of the prediction, extreme poverty declining steeply,

Nota - Posizione 84

INVECE

Evidenzia ( giallo) - Posizione 84

prediction a century into the future on AI, population, climate, or any major issue other than the orbits of asteroids, is worth very nearly nothing.

Nota - Posizione 85

VALORE DELLE PREDIZIONI

Evidenzia ( giallo) - Posizione 86

Zoltan Istvan,

Nota - Posizione 86

ALTRO PUNTO

Evidenzia ( giallo) - Posizione 87

leaders in our country fundamentally believe the human body and mind is a God-given temple not to tampered with unless changed by the Almighty.”

Nota - Posizione 88

E ANCHE SE SI NPOTESSE...

Evidenzia ( giallo) - Posizione 88

stents, vaccines, pacemakers, prosthetics— have

Nota - Posizione 89

TRANSUMANESIMO ACCETTATO

Evidenzia ( giallo) - Posizione 89

people tend to be suspicious of rapid change, but that has nothing much to do with religion.

Nota - Posizione 90

VERO ANCHE SE LA RELIGIONE NN C ENTRA

Evidenzia ( giallo) - Posizione 90

the jump from “climate change” to “catastrophe”

Nota - Posizione 90

IL CATASTROFISMO SENZA RELIG

Evidenzia ( giallo) - Posizione 92

conservative bias,

Nota - Posizione 92

UNIVERSALE

Evidenzia ( giallo) - Posizione 96

technologies, if possible, are unlikely to be blocked,

Nota - Posizione 96

GRADUALE MA INEVITABILE

Evidenzia ( giallo) - Posizione 96

they do not have to be introduced everywhere,

Nota - Posizione 96

D ALTRONDE

Evidenzia ( giallo) - Posizione 97

different countries with different ideologies,

Nota - Posizione 97

COLONIZZAZIONE

Evidenzia ( giallo) - Posizione 98

As long as at least one of them is willing to

Evidenzia ( giallo) - Posizione 101

this train is not equipped with brakes.

Nota - Posizione 101

VOGLIO SCENDERE

Evidenzia ( giallo) - Posizione 102

Carbon based life is an old technology, and Darwinian evolution

Nota - Posizione 103

CARBONIO E SILICIO

Evidenzia ( giallo) - Posizione 104

the human race has, after all, not only survived but benefitted by Einstein, da Vinci, Von Neumann.

Nota - Posizione 105

L INTELLIGENZA È UN XICOLO

QUANDO ARRIVA L' IA?

QUANDO ARRIVA L' IA?

Per vedere approdare l' Intelligenza Artificiale in questo mondo occorrono computer sufficientemente potenti e software adeguati. Per i primi potrebbe bastare qualche decennio, ma per i secondi? Qui il buio è fitto e le scadenze alquanto vaghe: la prossima settimana? Il prossimo secolo? ... mai? Quando in certe materie sentite parlare di “consenso tra gli esperti” diffidate, negli anni sessanta c'era un grande consenso sul fatto che ci saremmo impoveriti se non fossimo riusciti a bloccare la crescita della popolazione mondiale. Come è andata? La popolazione mondiale è esplosa come da previsioni... e ci siamo arricchiti tutti, specialmente laddove la densità di bocche da sfamare è cresciuta. Quando le previsioni hanno orizzonti secolari – ho in mente topiche quali l'IA, la bomba demografica, il clima... - l'esperto esce di scena. Qualcuno sarà più ferrato, più di altri potrà affrontare questi temi con rigore ma da qui ad essere più affidabili nelle predizioni ce ne corre. Zoltan Istvan, uno degli autori in questa raccolta di saggi, si mostra scettico sul futuro del progetto IA, secondo lui c'è in giro ancora troppa gente che ritiene che la nostra anima e il nostro corpo vengano da Dio e siano intoccabili, questa gente farà di tutto per soffocare il progetto IA nella culla. Non concordo, è solo questione di abitudine, già in passato forme più o meno lievi di transumanesimo (pacemaker, stent, protesi, vaccini...) sono state dapprima accolte con orrore e poi accettate lentamente senza problemi. La religione poi c'entra ancora meno, da sempre guardare ad un futuro lontano su cui abbiamo ben poco controllo ci inquieta, quanta gente oggi salta con con disinvoltura dai discorsi sui cambiamenti climatici a quelli apocalittici senza essere particolarmente religiosa? Ma a nutrire l'ottimismo c'è il fatto che siamo in tanti con tante ideologie, tante fedi, e soprattutto senza un governo mondiale: se una cosa si puo' fare qualcuno prima o poi la farà rendendo vana la moratoria degli altri, in queste condizioni il blocco di una tecnologia diventa arduo, viaggiamo su un treno senza freni dove è velleitario dire “voglio scendere”. Personalmente, per quel che vale, sono cautamente ottimista anche nel merito, siamo sopravvissuti e abbiamo beneficiato di intelligenze spaventose come quelle di da Vinci, Einstein o Von Neumann, faremo altrettanto anche con le superintelligenze delle macchine.
david friedman future imperfect

CATO-UNBOUND.ORG

Rights in a Post-Human World

Robot citizenship? Saudi Arabia just granted it. What about cyborgs? Or transhumans? This month we look at the politics of the singularity.

CATO-UNBOUND.ORG

Rights in a Post-Human World

Robot citizenship? Saudi Arabia just granted it. What about cyborgs? Or transhumans? This month we look at the politics of the singularity.

Mi piace

ABUSO DI COSCIENZA

Riccardo Mariani

Adesso · 

ABUSO DI COSCIENZA

Ci sono ormai molti programmi per computer in grado di “conversare” con noi, ma come decidere allora quando un software è una persona? In fondo la definizione di “persona” potrebbe coincidere con quella di “software che gira su un hardware chiamato cervello”, se poi la materia prima dell' hardware sia il silicio (computer) piuttosto che il carbonio (corpo umano) questo non dovrebbe fare molta differenza. Resta però un problemino: la coscienza, e in questo senso Turing ha offerto una via per aggirarlo, se non per risolverlo una volta per tutte. Da sempre i filosofi che si occupano di Intelligenza Artificiale si sono bloccati su questo punto relativamente “facile” oscurando così quello difficile, ovvero il fatto che, quand' anche avessimo a che fare con “persone”, si tratterebbe comunque di persone molto differenti da noi, che pongono problemi differenti dai nostri. Esempio: se copio uno di questi software su un altro computer sono di fronte alla medesima “persona”? E se lo copio senza cancellare l'originale? Se spengo il computer che ospita una “persona” commetto un assassinio? E se lo spengo dopo averne salvato il contenuto, scampo la terribile accusa? La “persona” che gira su un certo computer lo possiede come io posseggo il mio corpo? Se una “persona” accumula delle ricchezze, quando si copia o è copiata altrove senza cancellarsi deve condividere il 50% dei suoi possedimenti con la sua copia? Le copie sono responsabili dei contratti stipulati dall'originale quando l'originale si cancella? E quando non si cancella? Se una “persona” potesse votare, potrebbero votare anche le migliaia di copie realizzabili in pochi secondi da lei o da un terzo? Ci sono dei limiti morali che il programmatore deve osservare quando scrive un “software-persona”? Puo' per esempio programmare uno schiavo? Dovremmo considerare il programmatore una sorta di genitore con dei doveri morali verso il suo “software-figlio”? E i doveri delle macchine-persone che scrivono programmi-persona sarebbero gli stessi? Se una macchina potesse leggere il programma inscritto nel mio cervello e lo riportasse su un altro hardware, la mia identità che fine farebbe? E se rimanessi ucciso nell'operazione potrei considerarmi morto o solo “trasferito” senza il mio consenso (sequestrato)? Questi ed altri problemi sono rimasti a lungo nell'ombra poiché quello della coscienza ha occupato indebitamente l'intera scena troppo a lungo.

david friedman future imperfect

CATO-UNBOUND.ORG

Rights in a Post-Human World

Robot citizenship? Saudi Arabia just granted it. What about cyborgs? Or transhumans? This month we look at the politics of the singularity.