SCHIAVI DEI ROBOT
Secondo chi studia queste cose a tempo pieno, i robot intelligenti suscitano due paure:
1) FOOM. Quando il primo robot intelligente saprà costruire un robot più intelligente di lui che saprà costruire un robot più intelligente di lui, l'intelligenza esploderà e il robot monopolista conquisterà il mondo. Questo potrebbe avvenire nel corso di un week-end.
1) AGENCY. Demanderemo molti compiti a robot sempre più intelligenti, i quali ci inganneranno eludendo i nostri controlli. L'intelligenza è soprattutto capacità di ingannare: i bambini più intelligenti, ricordiamolo, sono quelli che dicono più bugie.
Il primo è un classico problema legato alla crescita innovativa, il secondo un classico problema legato ai costi di agenzia.
Ebbene, esiste una vasta e rassicurante letteratura economica sia sul primo tema che sul secondo: storicamente, la stragrande maggioranza dell'innovazione è stata lenta, incrementale e distribuita in settori e luoghi differenziati, difficilmente si diffonde attraverso monopoli; l'azzardo morale puo' essere controllato.
Certo, chi sostiene "questa volta sarà diverso" non dà valore ai precedenti. Io sì.
http://www.overcomingbias.com/2019/04/agency-failure-ai-apocalypse.html
