Quando si pensa ai pericoli dei robot superintelligenti sorge regolarmente un equivoco. Il lettore di romanzi pensa ancora a fantomatiche ribellioni, no, i veri rischi stanno altrove. Il rischio è che quando dài loro un ordine sai in anticipo che lo eseguiranno con successo ma non sai come. Non lo sai nemmeno quando poni dei vincoli stringenti perchè loro sono esseri imprevedibili. Alla fine ti ritrovi con cio’ che chiedi ma, probabilmente, in una condizione peggiore della precedente. Forse in una condizione drammatica. Se chiedi di essere felice potrebbero ucciderti, estrarti il cervello e connettere le tue sinapsi ad uno stimolatore costruito ad hoc.
