... Chat GPT è fondamentalmente come una versione molto sofisticata del "completamento automatico": il programma che indovina cosa potresti digitare nella barra di ricerca del tuo browser, in base a ciò che altre cose hanno comunemente seguito ciò che hai digitato finora.

Ora, puoi discutere se un computer possa capire i significati dei concetti che usa, ma anche se potesse, questo programma non prova nemmeno a simulare una tale comprensione. Ciò che mostra è che (forse sorprendentemente) è possibile produrre un testo simile a quello di una persona che "comprende" utilizzando un metodo completamente diverso da quello della persona in questione. Questo, tra le altre cose, dimostra perché il test di Turing è un cattivo test per la consapevolezza...