Elon Musk varuje pred AI: v rozhovore pre The Economist predpovedal, že umelá inteligencia by mohla počas piatich rokov prekonať kolektívnu inteligenciu celého ľudstva. Zároveň varoval, že v priebehu nasledujúcich desiatich rokov ľudia pravdepodobne stratia kontrolu nad technológiou. Napriek rizikám, ktoré odhaduje na 10 až 20 % pravdepodobnosť vyhynutia ľudstva, priklonil sa k optimizmu a výzve: „Užime si jazdu.“
AI ako nezvratná sila
Musk, ktorý sa dlhodobo radí medzi kritikov neregulovaného rozvoja AI, v rozhovore prekvapivo priznal, že snaha zastaviť pokrok je márna. „Nevidím žiadny spôsob, ako skutočne zastaviť túto neuveriteľnú hybnosť AI a robotov,“ povedal. Podľa jeho názoru sa vývoj stal nezvratným, a preto je jedinou možnou stratégiou snažiť sa ovplyvniť jeho smerovanie. Pripodobnil to k situácii, keď by stál pred rozhodnutím, či nastúpiť do rakety s 20 % pravdepodobnosťou, že vybuchne – odpovedal, že by to urobil, pretože jediné, čo sa dá robiť, je minimalizovať šancu na zlý výsledok.
Podľa Muska je najpravdepodobnejším scénarom nástup éry bezprecedentného blahobytu, ktorú opisuje ako „úžasný vek hojnosti, kde každý môže mať čokoľvek, na čo si spomenie.“ Túto predpoveď podmieni tým, že ľudstvo zabráni veľkému konfliktu, napríklad globálnej termonukleárnej vojne.
Hrozba straty kontroly a „šimpanzia“ metafora
Na otázku, či si ľudia udržia kontrolu nad AI aj o desať rokov, Musk odpovedal, že je to „nepravdepodobné.“ Svoj postoj ilustroval znepokojujúcou metaforou: „Ak je intelektuálny rozdiel medzi AI a ľuďmi väčší než medzi ľuďmi a šimpanzmi, je ťažké si predstaviť, že by šimpanzy dokázali udržať kontrolu.“ Upozornil tak na fundamentálny posun v pomere síl, ktorý môže nastať, akonáhle sa umelá inteligencia stane natoľko pokročilou, že jej nebudeme schopní porozumieť ani ju riadiť.
Návrh na „vzájomnú kontrolu“ namiesto regulácie
Namiesto spoliehania sa na vládnu reguláciu, ktorú považuje za pomalú a technicky nekompetentnú, Musk navrhol alternatívny systém. Predné AI spoločnosti vrátane OpenAI, Googlu a Anthropic by mali pravidelne (každý týždeň alebo dva) rokovať o bezpečnosti a vzájomne si poskytnúť prístup k novým modelom na jeden až dva týždne pred ich verejným uvedením. „Konkurenti môžu udržiavať jeden druhého v poctivosti,“ zdôraznil Musk. Vlády by podľa neho mali zasiahnuť iba v prípade, že by firma ignorovala závažné bezpečnostné riziko identifikované konkurenciou. Tento návrh zdôvodnil tým, že „konkurenčné spoločnosti si uvedomia, že niečo môže predstavovať bezpečnostné riziko, a nebudú váhať poukázať na to, že by malo byť vydanie modelu konkurenta odložené.“
Osobná rivalita a výzva ku spolupráci
V rozhovore Musk otvorene kritizoval generálneho riaditeľa OpenAI Sama Altmana za to, že spoločnosť opustila svoj pôvodný neziskový a otvorený model v prospech uzavretej ziskovej firmy. Naopak ocenil šéfa Anthropic Daria Amodeia ako „principiálneho človeka, ktorému záleží na budúcnosti sveta.“ Napriek osobným sporom však vyzval vedúcich predstaviteľov AI firiem, aby odložili osobné rozdiely bokom a spolupracovali na spoločnom cieli — bezpečnom vývoji umelej inteligencie. „Nakoniec, ak budeme musieť spolu hovoriť, budeme hovoriť. Odložme osobné rozdiely pre dobro sveta,“ odkázal.