The Hanson-Yudkowsky AI-Foom Debate Robin Hanson, Eliezer Yudkowsky
- Due approcci per elaborare previsioni sul futuro distante: analogia vs. modello
- L'analogia individua fenomeni passati simile e cerca di estrarne delle leggi generali applicabili anche in futuro. Il modello studia il fenomeno specifico per come si è sviluppato finora cercando di isolare delle sue leggi interne al fine da prevedere i successivi sviluppi.
- Philip Tetlock distingueva tra "volpi" e "porcospini".
- Previsioni: esperto in scommesse (analista di precedenti) vs. esperto di settore (analista specifico)
- H. è un economista evolutivo (hayekiano), Y. è un ingegnere amante dei progetti che ottimizzano. Il primo è + empirista, il secondo + razionalista
- Le questioni su IA: emergerà in modo concentrato (un laboratorio proclamerà la scoperta) o in modo diffuso (varie approssimazioni compariranno qua e là)?
- Che forma assumerà IA? 1) la forma di un pc con i suoi codici o 2) la forma di un emulatore di cervello umano...
- Per H. sarà un processo diffuso e orientato all'emulazione. Y. è di parere opposto.
- le diseguaglianze: il modo + efficiente x contenerle consiste nel lasciare una certa xmeabilità all' informazioni in modo che la copiatura dei programmi e delle soluzioni sia facilitata.
- Le 3 transizioni analoghe: da neanderthal a sapiens, da cacciatore ad agricoltore, da agricoltore a industriale...
- Cause principali nei fenomeni analoghi: nn tanto la conoscenza specifica quanto la messa in rete delle singole conoscenze.
- Y. analizza l' agricoltura secondo la narrativa dell' ottimizzatore che dà molto peso all'intelligenza e alla bontà del progetto. H dà + peso al caso e quindi alle capacità combinatorie del sistema. E
- Con competizione diffusa e difesa allentata delle idee possiamo avere emersione delle idee migliori senza che il leader distacchi troppo gli altri. Vedi esempio Microsoft.
- Problemi etici: la società sarà talmente ricca che passeranno in secondo piano.
- Diseguaglianza: minore di quella prevista ma maggiore di quella possibile in un sistema a stretta regolamentazione. Cruciale la xmeabilità delle informazioni
- Il mercato nero sarà importante x lo sviluppo e l' aggiramento delle restrizioni etiche e di brevetto.
- Problemi legati ad emulatori di diversa qualità: originali e tarocchi. Pericolosi i secondi ma essenziali per limitare diseguaglianze sostanziali.
- Dilemma: gli em obsoleti accetteranno pacificamente il genocidio? Nella storia abbiamo già assistito al genocidio accettato degli improduttivi;
- Altra analogia: la città. X' i terreni a NY valgono tanto? X' sono incorporati in una rete che valorizza. Può esistere un cervellone che progetta città? No. La città è un sistema complesso e nn si progetta ma emerge evolutivamente valorizzando il caso...
- Inciso sulla meritorocrazia: l' indice di Shapley obietta al mercato come ordinatore meritocratico ma x altra via il mercato è ancora il rimedio che risponde meglio a qs critiche: oltre alla concorrenza individuale il mercato produce una concorrenza di gruppo (hayekiana) che fa emrgere il gruppo con gli individui disposti al meglio...
- Altra analogia: il business plan tipico delle dot com: : big jump growth + decelereting growth: esplosione a rendimenti decrescenti con estinzione (bolla) di molte...
continua
