lunedì 15 aprile 2019

SCHIAVI DEI ROBOT

SCHIAVI DEI ROBOT

Secondo chi studia queste cose a tempo pieno, i robot intelligenti suscitano due paure:

1) FOOM. Quando il primo robot intelligente saprà costruire un robot più intelligente di lui che saprà costruire un robot più intelligente di lui, l'intelligenza esploderà e il robot monopolista conquisterà il mondo. Questo potrebbe avvenire nel corso di un week-end.

1) AGENCY. Demanderemo molti compiti a robot sempre più intelligenti, i quali ci inganneranno eludendo i nostri controlli. L'intelligenza è soprattutto capacità di ingannare: i bambini più intelligenti, ricordiamolo, sono quelli che dicono più bugie.

Il primo è un classico problema legato alla crescita innovativa, il secondo un classico problema legato ai costi di agenzia.

Ebbene, esiste una vasta e rassicurante letteratura economica sia sul primo tema che sul secondo: storicamente, la stragrande maggioranza dell'innovazione è stata lenta, incrementale e distribuita in settori e luoghi differenziati, difficilmente si diffonde attraverso monopoli; l'azzardo morale puo' essere controllato.

Certo, chi sostiene "questa volta sarà diverso" non dà valore ai precedenti. Io sì.

http://www.overcomingbias.com/2019/04/agency-failure-ai-apocalypse.html