Gary Marcus, en av de personer som har format AI (artificiell intelligens) till vad det har blivit, oroas av den okontrollerade utvecklingstakten och den osäkra utvecklingsriktningen för AI. Han förespråkar nu att en myndighet under FN ska kontrollera AI-utvecklingen globalt.
Gary Marcus är professor emeritus i psykologi och neurovetenskap vid New York University. Han är också grundare till ett AI-baserat företag, och ledde storföretaget Ubers AI-verksamhet 2016-2017. Fox News rapporterar nu att han vill styra AI-utvecklingen till att bli långsammare och säkrare genom ett internationellt övervakningsorgan, eller på svenska myndighet, i FN:s regi.
Han har redan konsulterat FN och UNESCO i frågan, även om inga beslut har tagits i frågan. De problem han vill motverka med en internationell övervakningsmyndighet är till exempel desinformation på massbasis, eller risken att någon ska lura många människor i samband med cyberbrott.
Nytt för FN
FN har ett antal sidoorganisationer som sysslar med internationellt samarbete, inte nödvändigtvis mellan regeringar, som till exempel ITU (International Telecommunication Union).
FN har dock ännu ingen sidoorganisation som sysselsätter sig med att samordna företag, vilket skulle bli nödvändigt i det här fallet eftersom merparten AI-utveckling sker i företag. Academia spelar liten roll, och myndigheter och regeringar nästan ingen roll. Det vore något alldeles nytt – å andra sidan har också AI självt skapat något alldeles nytt senaste året.
