IL CERVELLO E' UN MERCATO
Come si presenterà a noi l'AGI? Molti se la immaginano come un bot super-intelligente, magari dotato anche di un corpo robotico, solo molto più potente di quelli in circolazione oggi. Quando qualcuno sapra costruire intelligenze superiori alla propria, questo meccanismo innescherà un'iperbole che, a sua volta, condurrà ad un monopolio naturale dell'intelligenza. Una visione alternativa che al momento cattura molta meno attenzione propone invece uno "sciame" di bot egoisti che interagisce immerso in un sistema di incentivi allineati per deliberare una strategia di gruppo. Eppure, questa seconda via sembra in grado di esprimere un'intelligenza ben più forte della prima poiché, nell'esperienza umana, il mercato è stata l'istituzione epistemicamente più efficiente, ben più del genio esperto, per esempio. Non si capisce perché la via umana verso il miglioramento, costituita da divisione del lavoro e libero scambio tra agenti, non debba essere ripercorsa anche da agenti digitali destinati a superare le nostre conquiste. Si noti che questa seconda ipotesi, è anche più tranquillizzante. Il mega Bot super-intelligente finirà per annientarci ma la coalizione di bot lascia qualche speranza. Un po' come nelle gerarchie della giungla ogni accenno di tirannia del tipo alfa veniva rintuzzato dal formarsi rapido di coalizione tra i tipi beta, domani le coalizioni tra bot deboli impediranno ad un bot forte di emergere e schiavizzare tutti, uomini compresi.
P.S. Il più convinto sostenitore della seconda ipotesi è Séb Krier, un autore che vale la pena leggere.
Ancora nessun commento
Commenta prima di tutti.
