Najväčšie mýty o umelej inteligencii: Čomu (ne)veriť? Odpovedá známa expertka

Prinášame ukážku z rozhovoru s poprednou odborníčkou na umelú inteligenciu, profesorkou Máriou Bielikovou. Celý rozhovor nájdete v našej knižnej novinke Umelá inteligencia: Pripravte sa na budúcnosť, ktorú si môžete zakúpiť cez náš obchod alebo v kníhkupectvách. Má vyše 270-strán, vyšla v tretine apríla.

Ukážka sa zameriava na mýty o umelej inteligencii (AI).

AI uvažuje ako človek. Je to pravda?

Tak to je jeden z najkrajších mýtov. A nie je to pravda. My ani nevieme, ako presne uvažuje človek – vieme síce celkom dosť, ale stále veľmi málo o našom ľudskom mozgu.

Ale určite to nie je tak, že AI uvažuje ako človek. Už len z princípu, aké všetky mechanizmy do uvažovania človeka zasahujú. Na druhej strane, neurónové siete boli často inšpirované tým, ako si myslíme, že funguje časť nášho usudzovania.

Ďalší mýtus: umelá inteligencia je neomylná.

To je nezmysel. Základnou vlastnosťou väčšiny algoritmov umelej inteligencie je to, že sú v konečnom dôsledku neurčité a nejednoznačné. Pri iných technológiách to vôbec nemusí platiť.

Pozrime sa na lietadlo. Samozrejme, že aj na ňom sa môže pokaziť súčiastka, ale jeho súčasti sú deterministické a je jasné, že sú. A pokiaľ sa niečo pokazilo a neostali stopy, tak vtedy nevieme zistiť, čo sa stalo, no v iných prípadoch áno.

Pre AI platí jedna základná vec, ktorú by si všetci mali uvedomiť: keď pracujem s umelou inteligenciou, vždy je výsledok správny len s nejakou presnosťou. A je na tvorcoch, aby to vedeli človeku vhodne vysvetliť. Lebo nakoniec človek by mal mať dohľad.

A zodpovednosť.

To sa pri umelej inteligencii často rieši. Stroj nemôže byť zodpovedný za niečo, čo urobil. Čo s ním spravíme? Dáme ho do väzenia, rozbijeme ho kladivom alebo ho za trest vypneme z elektriny? Za súčasné technológie musí byť vždy zodpovedný človek.

Tým nadviažeme na ďalšiu domnienku: umelá inteligencia je nezávislá a nepotrebuje ľudský dohľad.

Áno, vieme vytvoriť systémy, ktoré budú autonómne a budú fungovať aj bez ľudského dohľadu. Čiže to závisí aj od typu úlohy a situácie a v mnohých prípadoch ide skôr o filozofickú otázku. No nemali by sme vo všeobecnosti chcieť nezávislú umelú inteligenciu. Tak ďaleko sa ešte technológia nedostala.

Umelá inteligencia si uvedomuje vlastné ja.

No, ja neviem, či si vôbec vy uvedomujete vlastné ja a ako to je s vedomím. Hlboká neurónová sieť, ktorá nám najviac pripomína človeka a jeho mozog, je v skutočnosti sieť veľkého množstva čísel. Neviem si predstaviť, na základe čoho by si mohla uvedomovať vlastné ja. Pocity, teda cítenie a uvedomenie si seba samého, nás od AI stále odlišujú. Avšak to neznamená, že systémy umelej inteligencie nevedia napríklad rozpoznávať ľudské emócie. To je úplne iná vec.

Je umelá inteligencia schopná cítiť nejaké emócie alebo mať nejaké emócie?

Nemyslím si.

Je umelá inteligencia hrozbou a povedie k apokalypse?

To nikto nevie s istotou povedať. Ja by som otázku ani takto nestavala. Je to veľmi podobné, ako keby sa niekto spýtal, či sú jadrové zbrane hrozbou a povedú k apokalypse. Keď ich bude človek používať spôsobom, ktorý to umožní, tak potom asi áno, ale vždy sa musíme pýtať, čo s tým robíme, načo a prečo. Napriek tomu, že už sme povedali celkom veľa negatívneho, ja som optimistka. Žijeme vo veľmi vzrušujúcej dobe.

Zvestovatelia „súdneho dňa“, ktorí hovoria, že nás to všetko zničí, dostávajú pomerne veľký priestor na šírenie apokalyptických myšlienok. Ako by sa mala komunikovať táto téma umelej inteligencie smerom k verejnosti?

V prvom rade by bolo veľmi dobre, keby ľudia vedeli troška viac o tom, ako umelá inteligencia funguje. Organizácie, ktoré vyvíjajú, nasadzujú alebo používajú systémy AI, by mali mať ľudí s príslušnou úrovňou gramotnosti v tejto oblasti. To znamená, že majú nejaký rozsah vedomostí o tom, ako systémy AI fungujú, ako sa trénujú modely, ako fungujú algoritmy AI.

Aj AI Act (európska legislatíva k umelej inteligencii, pozn. red.) uvádza povinnosť, aby mali všetky takéto organizácie vyškolených ľudí so zohľadnením ich technických znalostí a skúseností. Je do definované veľmi všeobecne, ale myšlienka je jasná – mať AI gramotných ľudí. Som presvedčená, že to potrebujeme nielen v biznise, ale aj v štátnej správe, v školách, všade.

Som presvedčená, že treba komunikovať pozitívne aj negatívne aspekty a čo najviac popularizovať. Aj my výskumníci by sme mali o tom čo najviac hovoriť.

Bude, respektíve mala by byť práca so systémami AI povinnou výbavou každého človeka, súčasťou akýchsi elementárnych zručností, akými sú písanie, čítanie, počítanie, práca s internetom?

Už viac ako desať rokov hovorím na všetkých možných paneloch a diskusiách, že by sa malo v škole učiť písať, čítať, počítať a komunikovať s počítačom. A komunikácia s počítačom teraz naberá nový rozmer, keďže tu máme generatívnu umelú inteligenciu a príslušné algoritmy.

V celom rozhovore, ktorý je súčasťou knihy Umelá inteligencia: Pripravte sa na budúcnosť, hovorí profesorka Mária Bieliková aj o týchto témach:

• Ako umelá inteligencia funguje a prečo časti fungovania nerozumieme,
• Ktoré riziká spojené s AI považuje v súčasnosti za najvážnejšie,
• Či je pri AI niečo, čo jej vyslovene naháňa hrôzu,
• Akou hrozbou je deepfake a že už nemôžeme hneď veriť vlastným očiam a ušiam,
• Že aj na Slovensku máme špičkový výskum AI,
• Akým spôsobom ovplyvní AI ekonomiku, vzdelávanie či zdravotníctvo,
• Že AI zásadným spôsobom (z)mení trh práce,
• Aké vlastnosti alebo zručnosti by mali mať ľudia, aby boli na éru AI pripravení.

Kniha obsahuje celkovo 16 rozhovorov s odborníkmi, ktorí sa venujú AI v rôznych oblastiach – rozprávali sme sa s onkológom, špecialistom na deepfake, odborníčkou na pracovný trh, podnikateľom v oblasti ecommerce, špeciálnou pedagogičkou z online poradne pre mládež, konštruktérom dronov, výskumníčkou v oblasti etiky umelej inteligencie, robotikom, kyberbezpečnostným expertom, odborníčkou na počítačové videnie, tvorcom videohier, manažérom v médiách, astronómkou a právnikom. Nechýba ani pohľad odborníka na AI, ktorý pracoval na najväčších svetových AI projektoch.

2fotky v galérii Umelá inteligencia: Pripravte sa na budúcnosť Zdroj: redakcia