coscienza

https://www.astralcodexten.com/p/consciousness-as-recursive-reflections

Motivi per NON credere alla coscienza dei Robot senza dover credere a Searl e compari

Nessuno sa con certezza come le esperienze soggettive si relazionino con la fisica oggettiva, questo è il motivo principale per cui ci sono affermazioni serie sul fatto che non tutto è fisica. Ci sono informazioni (come il sapore di un cibo) che non sono solo informazioni conosciute ed elaborate, ma anche sperimentate, sentite consapevolmente. Sono informazioni "ineffabili": i qualia non possono essere comunicati o percepiti in altro modo che non sia l'esperienza diretta. Sono anche infallibili: i qualia non possono essere percepiti in modo errato. La via migliore per capire queste presenze è pensare che gli esseri umani non siano coscienti ma che lo siano i loro pensieri. La parte di te che sta leggendo in questo momento e che si sente cosciente, è un pensiero. In realtà, un pensiero può essere cosciente, così come può essere giusto o sbagliato. I pensieri sono quella cosa che puoi notare in te quando deliberi, analizzi, valuti, ragioni, eccetera. Quel che serve per avere una teoria della coscienza è trovare il correlato fisico tra il cervello e i pensieri; finora non ci siamo riusciti, da qui il cosiddetto "divario esplicativo" tra l'esperienza soggettiva, il mondo dei qualia e il mondo dei fatti oggettivi. Tuttavia, bene o male, sappiamo cosa tiene insieme molti picchi in un pensiero: è un'oscillazione neurale: neuroni che sparano lungo percorsi circolari in un ritmo sincronizzato. Queste sono comunemente chiamate onde cerebrali. Molto probabilmente, all'interno di queste ONDE vi sono altre onde impegnate in una danza sincronizzata che dipende dall'onda principale. Questo implementa fisicamente la distinzione cruciale tra le interazioni neuronali all'interno della stessa oscillazione e le interazioni al di fuori dell'onda. Possiamo dire quindi che si tratta di pensieri all'interno di altri pensieri, pensieri che hanno per oggetto altri pensieri. E questo è vero in senso fisico: strutture fisiche che nidificano all'interno di altre strutture fisiche. Usiamo parole speciali come "coscienza fenomenica" e "qualia" per denotare questa distinzione reale, fisica e conoscibile da altre elaborazioni di informazioni neuronali. Da questo punto di vista, non ci sono uno, ma due livelli di sistemi di elaborazione delle informazioni. Il cervello è uno, ovviamente, ma all'interno del cervello, le oscillazioni/pensieri con memoria sono essi stessi sistemi di elaborazione delle informazioni aggiuntivi. Un analogo potrebbe essere un sistema informatico fisico che ha, al suo interno, una o più macchine virtuali. Una teoria del genere ha il vantaggio di poter essere verificata in futuro. Questa teoria dei qualia, se confermata, si applica solo ai processi biologici neuronali. Un ciclo IA è autoreferenziale ma non è un processo neuronale biologico strutturato come detto, quindi è difficile pensare che produca dei qualia. Sicuramente nel vasto spazio delle possibili architetture AI, alcune potrebbero essere progettate per avere fenomeni più o meno analoghi, ma non vedo alcun motivo per credere che gli attuali LLM posseggano una simile dotazione.

Ma perché abbiamo bisogno di un doppio sistema oscillatorio, uno che danza con la realtà esterna e l'altro che danza con la realtà neuronale stessa. Probabilmente, l'utilità si rivela quando le due danze sono irriducibili tra loro. Se provo un sentimento di gioia e so che provo un sentimento di gioia e so che so che provo un sentimento di gioia... la cosa non sembra decisiva. Ma se faccio qualcosa di egoistico sentendomi un altruista, questo puo' essere utile alla mia sopravvivenza. Se incontro una realtà che confligge con il mio schema guida ma posso interpretarla come qualcosa di coerente con il mio schema guida, la cosa mi risparmia le energie cognitive per aggiornare il mio schema guida e rielaborare tutte le mie vecchie credenze. Il doppio sistema si rivela molto utile per implementare un pensiero "ipocrita" e se sono un Homo Hipocritas diventa una parte essenziale della mia natura. Il robot senza un cervello biologico o senza un doppio sistema, si limiterà a fare inganni ma non avrà accesso all'autoinganno e alla vera ipocrisia che consente di mentire meglio imparando a credere alle proprie menzogne.

p.s. naturalmente una teoria del genere da sola non basta per risolvere il "problema difficile" della coscienza, va necessariamente accompagnata con una filosofia strumentalista tale per cui cio' che non serve puo' essere trascurato. Ecco, potremo dire dopo le eventuali conferme, ora che abbiamo tutto cio' che serve potremo eliminare tutto l'irriducibile che avanza come illusione.

itt

La coscienza nelle neuroscienze.

Circola tra i neuroscienziati una teoria della coscienza (IIT). Le idee centrali sono due: (1) proporre una misura quantitativa, chiamata Φ, della quantità di "informazione integrata" in un sistema fisico, e poi (2) ipotizzare che un sistema fisico sia 'cosciente' se e solo se ha un valore elevato di Φ. Tu, per esempio, sei un sistema abbastanza integrato: se stai prestando molta attenzione a un dolore acuto all'alluce, per esempio, il processo del dolore influenzerà i tuoi resoconti verbali ("fa male!"), il tuo ragionamento pratico ("è meglio che non prenda di nuovo a calci il muro"), i tuoi movimenti (zoppia) e così via; e viceversa. Ora, una conseguenza immediata di una definizione come questa è che tutti i tipi di sistemi fisici semplici (un termostato, un termometro, ecc.) risulteranno avere valori Φ piccoli ma non nulli. Il padre della IIT (Tiziano Tononi) ingoia il rospo e accetta allegramente l'implicazione panpsichica: sì, dice, i termostati e i fotodiodi hanno livelli di coscienza piccoli ma non nulli. Questo mi sembra un punto cruciale su cui l'IIT fallisce. La cosa più ovvia che una teoria della coscienza potrebbe fare è spiegare perché la coscienza esiste: cioè, risolvere quello che David Chalmers chiama il "Problema difficile", dicendoci come un gruppo di neuroni sia in grado di dare origine al gusto delle fragole, al rossore del rosso, eccetera. Ahimè, c'è una forte argomentazione - che io, personalmente, trovo del tutto convincente - per cui questo è troppo da chiedere a qualsiasi teoria scientifica. Si potrebbe sempre immaginare un universo coerente con quei fatti, in cui nessuno ha 'realmente' sperimentato qualcosa. Quindi, per esempio, se qualcuno sostiene che l'informazione integrata "spiega" perché esiste la coscienza - no, mi dispiace ma non è così! Ho appena evocato nella mia immaginazione esseri i cui valori Φ sono mille, anzi mille miliardi di volte più grandi di quelli degli esseri umani, ma che sono anche zombie filosofici: entità che non hanno nulla che sia come essere. Arrivati a questo punto lo neuroscienziato, di solito, reagisce male. Per quanto mi riguarda, ha assolutamente la possibilità di respingere l'Hard Problem di Chalmers come una distrazione rispetto al vero lavoro della neuroscienza. L'unica cosa che non si può fare è avere entrambe le cose: cioè, non si può dire sia che l'Hard Problem non ha senso, sia che il progresso nelle neuroscienze risolverà presto il problema. Ma possiamo facilmente interpretare l'IIT come un tentativo di fare qualcosa di più "modesto" rispetto alla soluzione dell'Hard Problem, anche se ancora incredibilmente audace. Vale a dire, possiamo dire che l'IIT mira "semplicemente" a dirci quali sistemi fisici sono associati alla coscienza e quali no, puramente in termini di organizzazione fisica dei sistemi. La prova di una tale teoria è se può produrre risultati che concordano con l'"intuizione di buon senso": per esempio, se può affermare, da principi primi, che (la maggior parte) degli esseri umani sono coscienti; che anche i cani e i cavalli sono coscienti, ma in misura minore; che le rocce, i fegati, le colonie di batteri e i computer digitali esistenti non sono coscienti (o lo sono appena); e che una stanza piena di persone non ha una "mega-coscienza" al di là delle coscienze dei singoli individui. Il motivo per cui è così importante che la teoria sostenga il 'senso comune' su questi casi è che, data l'inaccessibilità sperimentale della coscienza, questo è praticamente l'unico test a nostra disposizione. A mio parere, come costruire una teoria che ci dica quali sistemi fisici sono coscienti e quali no - dando risposte che concordino con il 'senso comune' ogni volta che quest'ultimo emette un verdetto - è uno dei problemi più profondi e affascinanti di tutta la scienza. Poiché non conosco un nome standard per questo problema, lo chiamo il Problema Piuttosto Difficile della Coscienza. Considero anche l'IIT come un tentativo fallito di affrontare il problema. L'IIT non riesce a risolvere il Problema Abbastanza Difficile perché prevede inevitabilmente grandi quantità di coscienza in sistemi fisici che nessuna persona sana di mente considererebbe particolarmente 'coscienti'.

https://scottaaronson.blog/?p=1799