la scommessa del senso comune

 Adoro il senso comune ma tutte le volte che approfondisco qualche conoscenza tutto appare strano, bizzarro se non assurdo. Relatività, meccanica quantistica, reincarnazione, evoluzionismo, sociobiologia, economia... tutto scava un abisso dal senso comune abbandonandolo come un relitto. Tuttavia, un precetto chiave del senso comune resta intatto anche dopo "aver letto tutti i libri": "metti i tuoi soldi dove hai messo la tua lingua", altrimenti tienila chiusa in bocca.

paradosso del buon senso

Lo sperimentatore ci informa che il 28% degli elettroni in un certo esperimento è stato deviato verso l'alto e il 72% verso il basso. Perché dovremmo credergli? Perché fa parte del buon senso accettare ciò che consideriamo l'evidenza dei nostri sensi in situazioni quotidiane appropriate. Qui nasce un problema: da un lato il progresso scientifico mina il buon senso, dall'altro continua a fondarsi sul buon senso.

IL BUONSENSO

Come esercitare il buonsenso? Assicurati che quando pensi ai problemi difficili fai uso delle intuizioni che ti costruisci risolvendo i problemi facili.

Se dici: "non ci sono prove dell'esistenza del mostro di Loch Ness, quindi non ci credo", non devi continuare dicendo: "siccome non puoi confutare l'esistenza di Dio, devi credere in lui”.

https://feedly.com/i/entry/ty+AzTYZ3TUuMuPycOdkUNamwQCXNpDbajbdLnbrc5c=_16ffa0a2048:628e8c0:31d4c877

LA RELATIVITA’ SPECIALE E’ MOLTO MENO SPECIALE DI QUANTO SI CREDA.

https://feedly.com/i/entry/v0v+7Ya8tssIZvd3/pcnFRr3HwvY/5YK3FGc2t65c0Y=_16f25887051:4e9e:d0c89438

https://feedly.com/i/entry/v0v+7Ya8tssIZvd3/pcnFRr3HwvY/5YK3FGc2t65c0Y=_16a4c921a46:15b8135:d841accb

https://feedly.com/i/entry/v0v+7Ya8tssIZvd3/pcnFRr3HwvY/5YK3FGc2t65c0Y=_16aa89a550b:3d5c93:d10d5a25

Per il senso comune:

1) Esiste il libero arbitrio (almeno un cicinin).

2) Un fenomeno o 1) NON esiste ancora, o 2) esiste, o 3) NON esiste più o 4) NON esisterà mai. Ergo: le cose esistono solo al presente.

3) Il tempo è irreversibile.

Per la scienza (relatività speciale):

1) Tutto è determinato in anticipo.

2) Un fenomeno puo’ essere contemporaneamente nel presente, nel passato e nel futuro. Ergo: le cose nel passato e nel futuro esistono.

3) Si puo’ viaggiare anche indietro nel tempo.

Non è facile comprendere come mai la scienza giunga a simili bizzarre conclusioni. Un modo per intuirlo è quello diimmaginare che esistano tanti “sistemi di riferimento” differenti che offrono punti di vista differenti sulle cose, tutti oggettivi (ma relativi). Esempio, per me che appartengo ad un certo sistema l’evento E è nel passato, per te che appartieni ad un altro sistema l’evento E è nel presente. Siccome sia io che te siamo osservatori oggettivi, concluderemo che l’evento E è sia nel passato che nel presente. Non solo, siccome il passato rende l’evento E determinato (una cosa già successa non si puo’ cambiare), e siccome un evento non puo’ essere sia determinato che indeterminato, allora il libero arbitrio non puo’ esistere visto che si dovrebbe espletare in eventi che per molti osservatori sono già nel passato. Non solo, siccome io e te vediamo la stessa cosa ma in tempi diversi, basterà che io mi sposti nel tuo sistema di riferimento per viaggiare nel tempo, anche all’indietro!

Ma scienza e senso comune sono in qualche modo riconciliabili? Forse sì, pensiamo a cosa succede quando leggiamo l’Odissea. Tutti noi pensiamo ad Ulisse come a un uomo libero, il fatto che viva le sue avventure nel passato e che quindi siano in qualche modo già scritte – un po’ come il fato -non ci crea problemi logici. Aggiungo, per prevenire obiezione, che anche nel mondo immaginato dalla scienza non è possibile un’azione di interferenza tra sistemi di riferimento differenti, cosicché l’analogia sembra reggere. Anche il fatto che l’incontro con Polifemo avvenga “per noi nel passato” e “per Ulisse nel presente”, non ci crea alcun problema. Oltretutto, nella mia lettura trasognata posso anche immaginare di essere vicino ad Ulisse senza per questo dover credere alla reversibilità del tempo. Insomma, basta trasformare l’universo della relatività speciale in una “storia” e la scienza si riconcilierebbe senza problemi con il senso comune: quello che la scienza chiama “tempo relativo” è solo il fatto che per un “osservatore del presente” l’evento E accade nel passato mentre per un “osservatore del passato ” lo stesso evento E accade nel presente. Detto così cio’ che accade nel fantastico mondo della “relatività speciale” risponde all’esperienza che facciamo tutti i giorni, il che ci consente di dire che solo le cose presenti esistono. Non sembrerebbero sorgere gravi problemi.

Eppure la storia ci dice che di problemi ne sono stati sollevati, che l’inconciliabilità è stata sollevata a più riprese. Chi sono i “colpevoli”? Io ne individuerei due su tutti:

1) IL FILOSOFO SOFISTA. Al resoconto di cui sopra un filosofo agguerrito potrebbe replicare che i fautori del senso comune si sono limitati a uscire dalla trappola trasformando l’ “osservatore ordinario” in 1) “osservatore presente” + 2) “osservatore passato” + “osservatore futuro”. Comodo. Ma quanto detto per l'”osservatore ordinario” puo’ essere ripetuto per tutte le figure derivate. Insomma, la scappatoia escogitata per riconciliare senso comune e scienza puo’ essere elusa riproponendo le paradossali tesi di partenza alle nuove figure di osservatori. Questo è vero, com’è vero che sarà sempre possibile replicare a questa contro-mossa nel medesimo modo, e così via in un regresso continuo. A questo punto occorre chiedersi a chi nuoce il regresso continuo delle ragioni, e la risposta è facile: al sofista, ovvero a chi nega il senso comune. E’ infatti lui che deve spiegare perché mai la realtà dovrebbe deviare da cio’ che appare di senso comune, e poiché il regresso continuo non spiega nulla – visto che propone solo ragioni senza fondamento – è lui a ritrovarsi con il cerino in mano.

2) LO SCIENZIATO ADORATORE DELLA MATEMATICA. La matematica è uno strumento miracoloso di conoscenza, talmente miracoloso che molti “scienziati esteti” si dimenticano che è solo uno strumento, e non l’oggetto della conoscenza stessa. In questi casi da strumento, diventa un culto. Il fatto che la matematica mappi bene il territorio fa sì che molti scienziati/filosofi la confondano con il territorio. In questi casi il modello matematico cessa di essere una mappa da interpretare per orientarsi agevolmente sul territorio e diventa essa stessa un territorio da contemplare senza più il filtro di un’interpretazione. Ecco allora che se il modello matematico propone un’astrazione atemporale, per gli adepti al culto anche l’universo diventa automaticamente una realtà atemporale dove passato, presente e futuro coincidono e dove il tempo si trasforma in una variabile come le altre, una sorta di spazio che possiamo percorrere in tutte le direzioni. Ecco, per tornare al senso comune basta liberarsi da questo culto estetico e sfatare un incanto seducente ma fuorviante.

HL scott alexander REFRAMING SUPERINTELLIGENCE

scott alexander REFRAMING SUPERINTELLIGENCE

riccardo-mariani@libero.it

Citation (APA): riccardo-mariani@libero.it. (2019). scott alexander REFRAMING SUPERINTELLIGENCE [Kindle Android version]. Retrieved from Amazon.com

---

Parte introduttiva

Evidenzia (giallo) - Posizione 4

REFRAMIN G SUPERIN TELLIGEN CE

Nota - Posizione 4

@@@@@@@senso comune

Nota - Posizione 4

@@@@@@@senso comune

Evidenzia (giallo) - Posizione 7

Why isn’t everyone talking about nuclear security, biodefense, or counterterrorism? Because there are already competent institutions working on those problems,

Nota - Posizione 8

SETTORI MATURI

Nota - Posizione 8

SETTORI MATURI

Evidenzia (giallo) - Posizione 15

it’s harder to keep up with the field.

Nota - Posizione 15

UNA CONSEG DI QS FATTO

Nota - Posizione 15

UNA CONSEG DI QS FATTO

Evidenzia (giallo) - Posizione 15

Bostrom wrote Superintelligence:

Nota - Posizione 15

IL PRIMO RESOCONTO

Nota - Posizione 15

IL PRIMO RESOCONTO

Evidenzia (giallo) - Posizione 16

Since then, things have been less public-facing, less readable, and more likely to be published in dense papers with a lot of mathematical

Nota - Posizione 17

Cccccc

Nota - Posizione 17

Cccccc

Evidenzia (giallo) - Posizione 18

Reframing Superintelligence: Comprehensive AI Services As General Intelligence by Eric Drexler,

Nota - Posizione 19

OGGI

Nota - Posizione 19

OGGI

Evidenzia (giallo) - Posizione 21

This 200 page report is not quite as readable as Superintelligence;

Nota - Posizione 21

PURTROPPO

Nota - Posizione 21

PURTROPPO

Evidenzia (giallo) - Posizione 22

all of its claims start sounding the same after a while.

Nota - Posizione 22

DIFETTO

Nota - Posizione 22

DIFETTO

Evidenzia (giallo) - Posizione 23

what if future AI looks a lot like current AI, but better?

Nota - Posizione 23

LA DOMANDA

Nota - Posizione 23

LA DOMANDA

Evidenzia (giallo) - Posizione 24

Google Translate would be able to translate texts faster and better

Nota - Posizione 24

ESEMPIO

Nota - Posizione 24

ESEMPIO

Evidenzia (giallo) - Posizione 26

But in the end, it would just be a translation app.

Nota - Posizione 26

Cccccccccc

Nota - Posizione 26

Cccccccccc

Evidenzia (giallo) - Posizione 26

It wouldn’t even “want” to become better at translating than it was already.

Nota - Posizione 27

Cccccccccc

Nota - Posizione 27

Cccccccccc

Evidenzia (giallo) - Posizione 28

media services that can write books or generate movies to fit your personal tastes.

Nota - Posizione 29

ALTRO ESEMPIO

Nota - Posizione 29

ALTRO ESEMPIO

Evidenzia (giallo) - Posizione 32

In this future, our AI technology would have taken the same path as our physical technology.

Nota - Posizione 33

IPOTESI

Nota - Posizione 33

IPOTESI

Evidenzia (giallo) - Posizione 33

The human body can run fast, lift weights, and fight off enemies. But the automobile, crane, and gun are three different machines.

Nota - Posizione 33

UNA MACCHINA UNA FUNZIONE

Nota - Posizione 33

UNA MACCHINA UNA FUNZIONE

Evidenzia (giallo) - Posizione 40

These superintelligent services would be safer than general-purpose superintelligent agents.

Nota - Posizione 41

CONSEGUENZA PIACEVOLE....SPECIALIZZAZIONE => INNOCUO

Nota - Posizione 41

CONSEGUENZA PIACEVOLE....SPECIALIZZAZIONE => INNOCUO

Evidenzia (giallo) - Posizione 43

Superintelligent services would not self-improve. You could build an AI researching service– or, more likely, several different services to help with several different aspects of AI research– but each of them would just be good at solving certain AI research problems.

Nota - Posizione 44

MIGLIORAMENTO

Nota - Posizione 44

MIGLIORAMENTO

Evidenzia (giallo) - Posizione 46

superintelligent services could help keep the world safe from less benevolent AIs.

Nota - Posizione 47

CONSEG POSITIVA

Nota - Posizione 47

CONSEG POSITIVA

Evidenzia (giallo) - Posizione 47

Drexler agrees that a self-improving general purpose AI agent is possible,

Nota - Posizione 47

LA VERA AI COLPIRÀ L UOMO CHE SI DIFENDERÀ CON AI SERVICE

Nota - Posizione 47

LA VERA AI COLPIRÀ L UOMO CHE SI DIFENDERÀ CON AI SERVICE

Evidenzia (giallo) - Posizione 48

He agrees this could go about the way Bostrom expects it to go, ie very badly. But he hopes that there will be a robust ecosystem of AI services active

Nota - Posizione 49

Cccccc

Nota - Posizione 49

Cccccc

Evidenzia (giallo) - Posizione 49

Superintelligent anomaly detectors might be able to notice rogue agents causing trouble,

Nota - Posizione 50

IA DETECTIVE

Nota - Posizione 50

IA DETECTIVE

Evidenzia (giallo) - Posizione 51

Drexler therefore does not completely dismiss Bostromian disaster scenarios,

Nota - Posizione 52

DISASTRO

Nota - Posizione 52

DISASTRO

Evidenzia (giallo) - Posizione 54

Drexler is more concerned about potential misuse by human actors

Nota - Posizione 55

PREOCCUPAZIONE UNO

Nota - Posizione 55

PREOCCUPAZIONE UNO

Evidenzia (giallo) - Posizione 56

illegal use by criminals and enemy militaries,

Nota - Posizione 56

EZSEMPI

Nota - Posizione 56

EZSEMPI

Evidenzia (giallo) - Posizione 59

Paul Christiano

Nota - Posizione 59

I LINEA CON

Nota - Posizione 59

I LINEA CON

Evidenzia (giallo) - Posizione 59

AI services will be naturally better at satisfying objective criteria than at “making the world better” in some vague sense.

Nota - Posizione 60

IL PROBLEMA

Nota - Posizione 60

IL PROBLEMA

Evidenzia (giallo) - Posizione 60

“maximize clicks to this site”

Nota - Posizione 60

ES DI CRITERIOK OGGETTIVO

Nota - Posizione 60

ES DI CRITERIOK OGGETTIVO

Evidenzia (giallo) - Posizione 61

“provide real value to users of this site instead of just clickbait”

Nota - Posizione 61

CRITERIO AMBIGUO

Nota - Posizione 61

CRITERIO AMBIGUO

Evidenzia (giallo) - Posizione 62

AI may asymmetrically empower some of the worst tedencies in our society without giving a corresponding power increase to normal people just trying to live enjoyable lives.

Nota - Posizione 63

IL PERICOLO DELLA METRICA

Nota - Posizione 63

IL PERICOLO DELLA METRICA

Nota - Posizione 65

Tttttttt

Nota - Posizione 65

Tttttttt

Evidenzia (giallo) - Posizione 65

II.

Evidenzia (giallo) - Posizione 66

Drexlerian vs. a Bostromian

Nota - Posizione 66

DIOTOMIA

Nota - Posizione 66

DIOTOMIA

Evidenzia (giallo) - Posizione 67

some people who are very concerned that even programs that seem to be innocent superintelligent services will be able to self-improve, develop misaligned goals, and cause catastrophes.

Nota - Posizione 68

VIA DI MEZZO

Nota - Posizione 68

VIA DI MEZZO

Evidenzia (giallo) - Posizione 70

First many tasks require general intelligence

Nota - Posizione 71

COSE CHE NN SI CAPISCONO

Nota - Posizione 71

COSE CHE NN SI CAPISCONO

Evidenzia (giallo) - Posizione 71

For example, an AI operating in a domain with few past examples (eg planning defense against a nuclear

Nota - Posizione 72

Ccccccccc

Nota - Posizione 72

Ccccccccc

Evidenzia (giallo) - Posizione 73

When humans work on these domains, they use something like common sense, which is presumably the sort of thing we have because we understand thousands of different domains from gardening to ballistics and this gives us a basic sense of how the world works in general.

Nota - Posizione 75

CcccccccccSENSO COMUNE

Nota - Posizione 75

CcccccccccSENSO COMUNE

Evidenzia (giallo) - Posizione 75

Drexler agrees that we will want AIs with domain-general knowledge that cannot be instilled by training, but he argues that this is still “a service”.

Nota - Posizione 76

CcccccccCOMMON SENSE

Nota - Posizione 76

CcccccccCOMMON SENSE

Evidenzia (giallo) - Posizione 77

he doesn’t believe those architectures will need to be agents.

Nota - Posizione 78

Cccccccccc

Nota - Posizione 78

Cccccccccc

Evidenzia (giallo) - Posizione 78

is it easier to train services or agents?

Nota - Posizione 78

ALTRO PROBLEMA POCO CHIARO

Nota - Posizione 78

ALTRO PROBLEMA POCO CHIARO

Evidenzia (giallo) - Posizione 81

If agents were easier to “evolve” than services, agentic AI might arise at an earlier stage,

Nota - Posizione 81

Cccccccc

Nota - Posizione 81

Cccccccc

Evidenzia (giallo) - Posizione 82

Third, how difficult is it to separate agency from cognition?

Nota - Posizione 83

TERZO PROBLEMA

Nota - Posizione 83

TERZO PROBLEMA

Evidenzia (giallo) - Posizione 86

Drexler’s basic insight is that Bostromian agents need to be really different from our current paradigm

Nota - Posizione 87

AGENTE VS SERVIZIO

Nota - Posizione 87

AGENTE VS SERVIZIO

Nota - Posizione 97

Ttttttttttttttt

Nota - Posizione 97

Ttttttttttttttt

Evidenzia (giallo) - Posizione 97

III.

Evidenzia (giallo) - Posizione 100

services vs. agents.

Nota - Posizione 100

RIPETIZINE

Nota - Posizione 100

RIPETIZINE

Evidenzia (giallo) - Posizione 102

the idea of an ecosystem of services.

Nota - Posizione 102

IDEA DI DREXTLER E HANSON

Nota - Posizione 102

IDEA DI DREXTLER E HANSON

Evidenzia (giallo) - Posizione 105

Gwern’s essay on why tool AIs are likely to turn into agent AIs

Nota - Posizione 106

ARGOMENTO PRO BOSTROM

Nota - Posizione 106

ARGOMENTO PRO BOSTROM

LE FIABE DI BASTIAT

LE FIABE DI BASTIAT

Torna di moda il protezionismo, tornano di moda le fiabe di Bastiat: tipo quella in cui i candelieri fanno causa al sole per concorrenza sleale.
Torna di moda lo stimolo all’economia (“bisogna rilanciare la domanda!”), tornano di moda le fiabe di Bastiat: tipo quella dei monelli che rendono la nazione prospera girando con la fionda a spaccar finestre.
Torna la retorica dei lavori pubblici, tornano di moda le fiabe di Bastiat: tipo quella per cui la ferrovia Parigi-Bayonne dovrebbe consistere in una fermata dietro l’altra al fine di beneficiare (facchini, ristoranti, bar…) ogni località sulla tratta.

Qualsiasi superficialità fa tornare di moda l’ uomo che rese l’economia senso comune.

https://fee.org/articles/why-bastiat-deserves-to-be-in-the-pantheon-of-great-economic-theorists/

Common sense morality Bryan Caplan Michael Huemer

Common sense morality

Bryan Caplan Michael Huemer

Citation (APA): Huemer, B. C. M. (2014). Common sense morality [Kindle Android version]. Retrieved from Amazon.com

---

Parte introduttiva

Evidenzia ( giallo) - Posizione 4

The Common Sense of Bayesianism Bryan Caplan

Evidenzia ( giallo) - Posizione 8

The main problem with Bayes' Rule is that it doesn't say where priors

Nota - Posizione 9

DOVE REPERIRE L APRIORI?

Evidenzia ( giallo) - Posizione 9

every prior is just your last posterior.

Nota - Posizione 9

VERO MA INCOMPLETO...INSODDISFACENTE

Evidenzia ( giallo) - Posizione 12

Scottish philosopher Thomas Reid

Nota - Posizione 12

UN FARO SU QS PUNTO

Evidenzia ( giallo) - Posizione 12

your priors should be based on common sense.

Nota - Posizione 13

LA SUA RISPOSTA

Evidenzia ( giallo) - Posizione 16

Contrary to appearances, the earth moves around the sun.

Nota - Posizione 16

IL SENSO COMUNE SBAGLIA SPESSO

Evidenzia ( giallo) - Posizione 16

using even stronger common sense claims

Nota - Posizione 16

COME SI CONFUTA IL SENSO COMUNE

Evidenzia ( giallo) - Posizione 19

Suppose someone shows that (A implies B). B is totally contrary to common sense.

Nota - Posizione 20

COSA ACCETTI?

Evidenzia ( giallo) - Posizione 20

(Not-B implies not-A).

Nota - Posizione 20

QUINDI

Evidenzia ( giallo) - Posizione 21

The one with the more obvious premise.

Nota - Posizione 21

RISPOSTA

Evidenzia ( giallo) - Posizione 24

Card and Krueger's research on the minimum wage,

Nota - Posizione 24

UN ESEMPIO: MW NN CREA DISOCCUPAZINE

Evidenzia ( giallo) - Posizione 25

That employers do not buy less labor when wages rise? Or that econometrics is not that reliable in this area?

Nota - Posizione 26

QUAL È LA PREMESSA PIÙ SOLIDA

Evidenzia ( giallo) - Posizione 26

Of course, per Bayes' Rule, C-K's research made me less confident

Nota - Posizione 27

NON CREDERE MA AGGIORNARE

Evidenzia ( giallo) - Posizione 33

Intuition Bryan Caplan

Nota - Posizione 33

Tttttttt

Evidenzia ( giallo) - Posizione 45

"start from normative premises that seem obviously right to almost everyone."

Nota - Posizione 45

COMMON SENSE PHILOSOPHY

Evidenzia ( giallo) - Posizione 52

We may only use normative premises that seemed true to almost everyone throughout history, or across all human cultures.

Nota - Posizione 54

UN ALTERNATIVA...CI LASCIA CON NULLA

Evidenzia ( giallo) - Posizione 55

We may only use normative premises that seem true to absolutely everyone.

Nota - Posizione 56

UN ALTRA...ADOLFO ALL ORIZZONTE

Evidenzia ( giallo) - Posizione 57

We should start from no normative premises at all…………………

Nota - Posizione 58

TERZA...IN QS CASO NN CI SARANNO MAI MAIL NCLUSIONI MORALI

Evidenzia ( giallo) - Posizione 92

Cowen on Moral Intuitionism Bryan Caplan

Nota - Posizione 93

Ttttttttt

Evidenzia ( giallo) - Posizione 98

Last I looked, a lot of common sense people support taxation

Nota - Posizione 98

ANCHE SE SEMBREREBBE CONTRARIO AL SENSO COMUNE

Evidenzia ( giallo) - Posizione 100

Common sense does both oppose theft and support taxation.

Nota - Posizione 100

A QUANTO PARE

Evidenzia ( giallo) - Posizione 100

conflict between these two common sense premises,

Nota - Posizione 101

CONFLITTO

Evidenzia ( giallo) - Posizione 103

you've got to point to differences between taxation and ordinary theft

Nota - Posizione 103

ARGOMENTI

Evidenzia ( giallo) - Posizione 104

"Society could not otherwise survive"

Nota - Posizione 104

ESEMPIO

Evidenzia ( giallo) - Posizione 104

"People should pay for what benefits them"

Nota - Posizione 104

ALTRO ES

Evidenzia ( giallo) - Posizione 104

"Taxation solves a mild free rider problem."

Nota - Posizione 105

TERZO

Evidenzia ( giallo) - Posizione 105

intuit whether they would be strong

Nota - Posizione 105

PRIMO GIUDIZIO DELLA PROVA

Evidenzia ( giallo) - Posizione 106

see how empirically plausible

Nota - Posizione 106

SECONDO GIUDIZIO

Evidenzia ( giallo) - Posizione 108

use further intuition

Nota - Posizione 108

QUANDO L INTUIZIONE CONFLIGGE

Evidenzia ( giallo) - Posizione 111

On the Mysteries of Existence Michael Huemer

Nota - Posizione 111

Ttttttt

Segnalibro - Posizione 111

Evidenzia ( giallo) - Posizione 112

"Unless P, X is mysterious; therefore, P"

Nota - Posizione 112

CATTIVA FILOSOFIA....PREMESSA AD HOC

Evidenzia ( giallo) - Posizione 122

he who claims to apprehend a philosophical problem or mystery has a burden of showing that there is a problem, or of defining a specific question. If this burden is not discharged, as it frequently is not, then the attempt to solve the supposed problem is a waste of time, and the use of the 'mystery' to motivate philosophical positions is misguided.

Nota - Posizione 123

LA TESI

Nota - Posizione 124

ABUSO DEL MISTERO

Evidenzia ( giallo) - Posizione 124

one cannot answer an undefined question,

Nota - Posizione 125

ARGOMENTO

Segnalibro - Posizione 529

Evidenzia ( giallo) - Posizione 531

—The Philosophy of Common Sense by Professor Sidgwick