SUPER-INTELLIGENZE A CONFRONTO
Mi immagino domani la presenza di una macchina benevola e super intelligente. Di certo sarà in grado di prevedere al meglio il futuro, in questo caso è più che ragionevole per la comunità umana collocare quella macchina in un ministero e uniformarsi ai suoi consigli. Governati da lei saremo tutti più ricchi e felici. Intraprendere una strada alternativa sarebbe un’impresa disperata.
Ma pensiamo meglio da cosa dipende il futuro. innanzitutto dalle leggi fisiche, e fin qui quanto detto prima continua a valere. Dipende però anche dall’azione degli altri soggetti, e finché la mente che guida queste azioni è debole, possiamo ancora restare fermi sulle conclusioni precedenti.
Cosa succede invece se l’azione degli altri soggetti è guidata da altre super-intelligenze? Ogni mente cercherà di anticipare l’azione guidata dalle altre menti e in questo gioco di specchi la complessità esploderà rendendo la qualità delle previsioni non molto migliore di quella disponibile in un mondo come il nostro dove simili super-intelligenze non esistono ancora. In questo caso non ha più senso che gli uomini si uniformino a certi consigli piuttosto che ad altri. Ognuno faccia come crede!
Purtroppo, una super-intelligenza opera sempre in un mondo super-complesso cosicché i servigi previsionali che rende potrebbero anche essere inferiori di quelli resi oggi dalle nostre normalissime intelligenze.
