Zdá sa, že mesiac neprešiel bez toho, aby sa nejaká osobnosť, ktorá sa zaujíma o významné osobnosti, vyjadrila o možnosti strojov s umelou inteligenciou prevziať svet. Elon Musk zaznamenáva, že systémy AI sú „potenciálne nebezpečnejšie ako jadrové zbrane“. Ale nie je jediný, znepokojuje ho aj Stephen Hawking: „Rozvoj úplnej umelej inteligencie by mohol znamenať koniec ľudskej rasy,“ Profesor Hawking povedal BBC. „Vystúpilo by to samo od seba a neustále sa prepracovávalo.“ Dokonca aj Bill Gates sa bojí: „Som v tábore znepokojený super inteligenciou. Súhlasím s tým, Elon Musk a niektorí iní, a nechápem, prečo sa niektorí ľudia netýkajú. “

Všetci vyjadrujú obavy z možnosti, že výkonné systémy AI majú nezamýšľané alebo dokonca potenciálne katastrofálne následky. Už v januári venoval Elon Musk 10 miliónov dolárov Inštitútu pre budúcnosť života (FLI) na spustenie globálneho výskumného programu zameraného na udržanie AI prospešného pre ľudstvo.

Inštitút Budúcnosti života dnes oznámil, že udelil finančné prostriedky 7 miliónom dolárov 37 výskumným tímom na celom svete, aby spoločnosť mohla ťažiť z výhod AI a zároveň sa vyhnúť apokalypse a ukončeniu života na Zemi.

Nebezpečenstvo v prípade scenára Terminator neznamená, že sa to stane, ale že odvráti pozornosť od skutočných problémov, ktoré predstavuje budúca AI.

Jaan Tallin, jeden zo zakladajúcich členov FLI a chlap, ktorý napísal pôvodnú verziu Skype, povedal o novom výskume: „Budovanie pokročilých AI je ako spustenie rakety. Prvou výzvou je maximalizovať zrýchlenie, ale akonáhle sa začne zvyšovať rýchlosť, musíte sa tiež zamerať na riadenie. “

Medzi 37 projektmi sú tri projekty, ktoré sa zameriavajú na techniky, ktoré umožnia systémom AI naučiť sa, čo ľudia dávajú prednosť pozorovaniu nášho správania. Jeden z týchto projektov sa uskutoční na UC Berkeley a jeden na Oxfordskej univerzite.

Benja Fallenstein z Inštitútu pre výskum strojových informácií získava 250 000 dolárov na výskum spôsobov, ako udržať záujmy superinteligentných systémov v súlade s ľudskými hodnotami. Zatiaľ čo tím Manuela Veloso z Carnegie-Mellon University dostane 200 000 dolárov, aby preskúmal, ako prinútiť systémy AI vysvetliť svoje rozhodnutia ľuďom.

Medzi ďalšie projekty patrí štúdia Michaela Webba zo Stanfordskej univerzity o tom, ako udržať ekonomické dopady AI, projekt o tom, ako udržať zbrane poháňané AI pod „zmysluplnou ľudskou kontrolou“, a nové výskumné centrum Oxford-Cambridge na štúdium AI. - relevantná politika.

Tento posledný je veľký jackpot. Nové centrum s názvom „Strategické výskumné centrum pre umelú inteligenciu“ bude v čele s Nickom Bostromom, chlapom, ktorý napísal knihu, ktorá spôsobila panike Elon panike o budúcnosti ľudstva. FLI dáva Bostromu pohodlie v hodnote 1,5 milióna dolárov. Kto povedal, že neexistujú peniaze na písanie vecí o prevzatí robotov po celom svete? Vlastne nikto, len sa pozrite, koľko peňazí Hollywood zarába z tohto žánru!

Keď už hovoríme o Hollywoode, FLI sa snaží disociovať s apokalypsou. FLI chce zdôrazniť dôležitosť oddelenia skutočnosti od fikcie. „Nebezpečenstvo v prípade scenára Terminator je, že sa tak nestane, ale že odvráti pozornosť od skutočných problémov, ktoré predstavuje budúca AI,“ uviedol prezident FLI Max Tegmark. „Stále sa zameriavame a 37 tímov podporovaných dnešnými grantmi by malo pomôcť vyriešiť takéto skutočné problémy.“

Co si myslis? Dobre vynaložené peniaze?