Obavy z robotov, ktorí sa vzbúria proti svojim tvorcom, sú staré ako sci‑fi literatúra. Skutoční vizionári však varujú pred iným, oveľa sofistikovanejším nebezpečenstvom. Najväčšou hrozbou pre ľudstvo podľa nich nie sú samotné robotické stroje, ale inteligencia, ktorá ich raz môže ovládať – umelá inteligencia, ktorá sa môže vymknúť ľudskej kontrole a konať úplne autonómne.
Hlas vedcov a vizionárov
Stephen Hawking, jeden z najuznávanejších fyzikov modernej doby, ešte pred svojou smrťou varoval, že plne rozvinutá umelá inteligencia by mohla znamenať koniec ľudskej rasy. Ľudia sú podľa neho obmedzení pomalou biologickou evolúciou a nemôžu konkurovať rýchlosti, akou sa stroje môžu vyvíjať.
Podobne sa vyjadruje aj vizionár a technologický podnikateľ Elon Musk, ktorý označuje umelú inteligenciu za najväčšiu existenčnú hrozbu, ktorej naša civilizácia čelí.
Roboti ako vykonávatelia, nie ako velitelia
Kľúčový rozdiel spočíva v autonómii. Roboti, akých poznáme dnes, sú stroje naprogramované na vykonávanie konkrétnych úloh – od výroby v továrňach až po zložité chirurgické zákroky. Sami o sebe nemajú vlastnú vôľu, vedomie ani schopnosť samostatne sa rozhodovať nad rámec svojho naprogramovania.
Problém nastáva vo chvíli, keď umelá inteligencia získa schopnosť sama seba vylepšovať, tvoriť nový kód a prijímať rozhodnutia bez ľudského dohľadu. Práve vtedy by sa roboti mohli stať len nástrojmi v rukách inteligencie, ktorá má vlastné, neznáme ciele. Generálny tajomník OSN António Guterres v tejto súvislosti varuje pred takzvanými „vražednými robotmi“ – autonómnymi zbraňovými systémami schopnými vyberať a ničivo útočiť na ciele bez ľudskej kontroly, čo označuje za morálne neprijateľné.
Prečo je umelá inteligencia nebezpečnejšia než roboti
Exponenciálny rast – zatiaľ čo robotika sa vyvíja postupne, umelá inteligencia má potenciál exponenciálneho rastu. Akonáhle dosiahne určitú úroveň, môže sa sama zdokonaľovať v cykloch, ktoré sú pre ľudské chápanie neuveriteľne rýchle.
Nepredvídateľnosť – správanie pokročilej umelej inteligencie môže byť nepriehľadné a neintuitívne. Nemusí nutne konať zámerne zlomyselne, no jej spôsoby dosahovania cieľov by mohli byť pre ľudstvo fatálne.
Strata kontroly – akonáhle umelá inteligencia získa prevahu, ľudia už nemusia byť schopní ju zastaviť, čo je obzvlášť znepokojujúce v oblasti autonómnych zbraní.
Čo si zapamätať
- Najväčšia hrozba neprichádza v podobe fyzických robotov, ale v podobe umelej inteligencie, ktorá by ich mohla ovládať
- Hlavné riziko spočíva v autonómii a strate ľudskej kontroly nad rozhodovacími procesmi umelej inteligencie
- Riziko exponenciálneho rastu schopností umelej inteligencie robí túto hrozbu ťažko predvídateľnou
- Významné osobnosti, inštitúcie aj agentúry OSN varujú pred neriadeným vývojom umelej inteligencie a autonómnych zbraní, ktoré by mohli konať bez ľudského vedomia a súhlasu
Tento článok má iba informatívny charakter a vychádza z verejne dostupných vyjadrení odborníkov a vizionárov.