Hlavní navigace

Máme se bát umělé inteligence? Zde je deset důvodů, proč ano

30. 3. 2023
Doba čtení: 8 minut

Sdílet

 Autor: Depositphotos
Po desetiletích spekulací a očekávání se umělá inteligence konečně začíná prosazovat v reálném světě. Jenomže když nyní víme, co modely AI jako ChatGPT nebo DALL-E dokážou, neměli bychom se začít obávat?

Generativní modely AI, jako je ChatGPT, podávají překvapivě dobré výkony. Natolik, že to vede k úvahám o tom, že se AI nejen vyrovná lidem, ale že je mnohdy chytřejší. Dokáže produkovat umělecká díla v nejširším spektru stylů. Chrlí texty bohaté na detail, nápadité a plné vědomostí. Generované artefakty jsou tak rozmanité, tak zdánlivě jedinečné, že je těžké uvěřit jejich strojovému původu. Teprve začínáme zjišťovat, co vše generativní umělá inteligence dokáže.

Chcete dostávat do mailu týdenní přehled článků z CIO Business Worldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.

Někteří pozorovatelé tvrdí, že tyto nové umělé inteligence konečně překročily práh Turingova testu. Jiní se domnívají, že nestojí těsně za prahem, ale dalece jej překonávají. Díla umělé inteligence jsou tak působivá, až se zdá, že další skupina lidí směřuje k nezaměstnanosti.

Ale jakmile pomine prvotní úžas, ukáže se, že generativní AI není zdaleka tak dokonalá. Někteří lidé si udělali sport z formulování otázek pro umělou inteligenci takovým způsobem, aby ze stroje vypadlo něco zcela nesmyslného nebo chybného.

Někteří používají staré logické chytáky, které jsou populární v hodinách výtvarné výchovy na základní škole – například žádají o obrázek slunce v noci nebo ledního medvěda ve sněhové bouři. Jiní sestavují podivné požadavky, které ukazují limity povědomí AI o kontextu, známého také jako zdravý rozum. Kdo by chtěl, může zkoušet počítat, v kolika ohledech generativní umělá inteligence selhává.

Sestavili jsme seznam 10 základních nevýhod a problémů generativní AI. Můžete na ně nahlížet jako na dílo znepokojeného autora, který na stroje žárlí, protože i jemu hrozí ztráta práce, pokud se AI ještě více prosadí. Říkejte mu nepatrný človíček, který fandí lidskému týmu a doufá, že John Henry bude dál vítězit nad parní vrtačkou. Ale neměli bychom se všichni přeci jen trochu obávat?

Co se dozvíte v článku
  1. Plagiátorství
  2. Autorská práva
  3. Práce bez odměny
  4. Informace nejsou znalosti
  5. Intelektuální stagnace
  6. Ochrana soukromí a bezpečnost
  7. Neviditelná podjatost
  8. Strojová zabedněnost
  9. Lidská důvěřivost
  10. Nekonečná hojnost

Plagiátorství

Když modely umělé inteligence jako DALL-E nebo ChatGPT tvoří nějaké dílo, ve skutečnosti generují nové kombinace z milionů příkladů ve svých trénovacích souborech dat. Výsledkem je syntéza prvků vykopírovaných z různých zdrojů – u lidí označovaná jako plagiátorství.

Šestero nejpřeceňovanějších IT technologií Přečtěte si také:

Šestero nejpřeceňovanějších IT technologií

Lidé se samozřejmě také učí napodobováním, ale v některých případech je výpůjčka tak zřejmá, že by to neprošlo ani na základní škole. Takový obsah generovaný umělou inteligencí se skládá z více či méně doslovně citovaných velkých bloků textu. Někdy je však rekombinace natolik komplikovaná, že i komise vysokoškolských profesorů může mít problém původní zdroje odhalit. Ať tak či onak, takové dílo zcela postrádá originalitu. Přes všechen lesk nejsou stroje schopné přijít s ničím skutečně novým.

Autorská práva

Zatímco plagiátorství je do značné míry problémem škol, autorské právo se vztahuje na komerční sféru. Zcizí-li někdo dílo druhého, riskuje, že stane před soudem a bude muset uhradit způsobenou újmu. Ale jak je tomu v případě AI? Platí pro ni stejná pravidla?

Autorské právo je komplikovaná problematika a bude nejspíš trvat roky, než se právní status generativní umělé inteligence vyřeší. Ale nezapomínejme: začne-li AI produkovat něco, co bude dostatečně dobré na to, aby kvůli tomu lidé přišli o práci, někteří z nich nepochybně vynaloží svůj nově nabytý volný čas na soudní žaloby.

Práce bez odměny

Plagiátorství a autorská práva nejsou jedinými právními otázkami, které generativní umělá inteligence vyvolává. Právníci již vymýšlejí nové etické otázky pro soudní spory. Měla by například firma, která vytváří počítačový grafický program, mít právo shromažďovat data o chování lidských uživatelů při kreslení a poté je použít pro účely školení AI? Měli by být lidé za takové využití své tvůrčí práce odměňováni? 

Tipy pro vytváření sítí pro IT lídry: Průvodce budováním propojení Přečtěte si také:

Tipy pro vytváření sítí pro IT lídry: Průvodce budováním propojení

Úspěch současné generace umělé inteligence do značné míry pramení z přístupu k datům. Co se stane, až lidé, kteří generují data, budou chtít svůj podíl? Co je spravedlivé? Co bude považováno za legální?

Informace nejsou znalosti

AI je obzvláště dobrá v napodobování druhu inteligence, která se u lidí vyvíjí celé roky. Je-li učenec schopen fundovaně hovořit o obskurním umělci ze 17. století nebo skládat novou hudbu v téměř zapomenuté renesanční tonální struktuře, máme dobrý důvod k obdivu. 

Víme, že musel dlouhé roky bádat a studovat, než získal potřebnou hloubku znalostí. Stačí-li umělé inteligenci k témuž pouhých několik měsíců tréninku, výsledky mohou být oslnivě přesné a správné, ale něco chybí.

Pokud dobře vyškolený stroj dokáže najít správnou starou účtenku v digitální krabici od bot naplněné miliardami záznamů, může také zjistit vše potřebné například o málo známých historických postavách, jako je anglická barokní básnířka Aphra Behn. Můžete dokonce věřit, že byly postavené stroje k odhalení významu mayských hieroglyfů. 

Umělá inteligence dokáže napodobit hravou a nepředvídatelnou stránku lidské kreativity a invence, ale sama taková není. Nepředvídatelnost je však motorem kreativních inovací. Průmyslová odvětví, jako je móda, jsou závislá na změnách, přímo na nich stojí. Ve skutečnosti má umělá inteligence své místo, stejně jako stará dobrá těžce vydobytá lidská inteligence.

Intelektuální stagnace

Hovoříme-li o inteligenci, ta umělá je ze své podstaty mechanická a založená na pravidlech. Jakmile se AI propracuje sadou trénovacích dat, sestaví model a tento model se ve skutečnosti nemění. Někteří inženýři a datoví vědci se domnívají, že by bylo možné modely AI v průběhu času doučovat novými daty, aby se stroje dokázaly přizpůsobovat. 

Nový začátek: Čas resetovat hesla a přehodnotit strategii správy hesel Přečtěte si také:

Nový začátek: Čas resetovat hesla a přehodnotit strategii správy hesel

Ale většinou je cílem vybudovat komplexní soubor neuronů, které ponesou určité zafixované znalosti. Stálost má své místo a může být pro určité obory užitečná. Nebezpečí umělé inteligence spočívá v tom, že navždy uvízne v duchu doby svých tréninkových dat. Co se stane, staneme-li se my, lidé, natolik závislými na generativní umělé inteligenci, že už nebudeme schopni produkovat nový materiál pro trénovací modely? 

Ochrana soukromí a bezpečnost

Trénovací data pro AI musí odněkud pocházet a my nikdy nemáme jistotu, co v počítačových neuronových sítích uvízne. Co když AI prozradí osobní údaje z tréninkových dat? Uzamknout AI je velmi obtížné, protože má být z principu vysoce flexibilní. Relační databáze může omezit přístup k určité tabulce s osobními údaji. Umělá inteligence však může být dotazována desítkami různých způsobů. 

Útočníci se rychle naučí, jak klást správné otázky správným způsobem, aby se dostali k citlivým údajům, o které jim jde. Řekněme například, že údaje o zeměpisné šířce a délce určitého objektu jsou uzamčené. Chytrý útočník by se mohl zeptat na přesný okamžik, kdy na tomto místě v konkrétní dny vychází slunce, aby si údaje odvodil. Svědomitá umělá inteligence se samozřejmě pokusí odpovědět. Naučit umělou inteligenci chránit soukromí je něco, co zatím nedokážeme uchopit.

Video ke kávě

Máte čas na rychlé a informativní video? 

Neviditelná podjatost

Dokonce i první programátoři sálových počítačů pochopili jádro problému kybernetiky, když vymysleli zkratku GIGO neboli „mizerné vstupy generují mizerné výstupy“. Mnoho problémů s umělou inteligencí má základ ve špatných trénovacích datech. Je-li soubor dat nepřesný nebo zkreslený, projeví se to i na výsledcích.

Hardware v jádru generativní umělé inteligence se může řídit striktní logikou jako pan Spock ze seriálu Star Trek, což nemusí platit o lidech, kteří stroje staví a školí. Ukazuje se, že předsudky a jednostranné pohledy si nachází cestu i do modelů AI. Je možné, že někdo při tvorbě modelu – ať vědomě či nevědomky – použil zkreslená data. 

Ale je také možné, že přidal pojistky, aby model neodpovídal na určité ožehavé otázky. A možná do něj vložil pevně naprogramované odpovědi, které jsou později obtížně odhalitelné. Lidé našli mnoho způsobů, jak zajistit, aby umělá inteligence sloužila jako vynikající nástroj na podporu toxických názorů.

Strojová zabedněnost

Je snadné odpustit modelům umělé inteligence chyby, protože dělají tolik jiných věcí dobře. Problém je, že řadu chyb lze obtížně předvídat, protože AI myslí jinak než lidé. Například mnoho uživatelů funkcí převodu textu na obraz zjistilo, že AI nejdou poměrně jednoduché věci, například počty. 

Koučování IT profesionálů pro vedoucí role Přečtěte si také:

Koučování IT profesionálů pro vedoucí role

Lidé si osvojují základy matematiky hned od začátku základní školy a tyto dovednosti aplikují mnoha různými způsoby. Požádejte desetileté dítě, aby nakreslilo pavouka, a téměř jistě bude mít osm nohou. Dnešní verze umělé inteligence tápou, pokud jde o abstraktní a kontextové využití matematiky. To by se mohlo snadno změnit, pokud by tvůrci modelů tomuto nedostatku věnovali dostatečnou pozornost, ale není jediný. Strojová inteligence se liší od inteligence lidské, což znamená, že strojová hloupost bude také jiná.

Lidská důvěřivost

Někdy, aniž bychom si to uvědomovali, máme my lidé tendenci zaplňovat mezery v inteligenci AI. Doplníme chybějící informace nebo interpolujeme odpovědi. Pokud nám AI tvrdí, že Jindřich VIII. byl králem, který zabil své ženy, nezpochybňujeme to, protože sami historii neznáme. 

Jednoduše předpokládáme, že umělá inteligence má pravdu, stejně jako když charismatický mluvčí pokyne rukou. Je-li tvrzení vyřčeno s jistotou, lidská mysl má tendenci jej přijmout jako pravdivé a správné.

Největším problémem pro uživatele generativní umělé inteligence je zjistit, kdy se AI mýlí. Stroje nemohou lhát stejným způsobem, jako to umí lidé, ale tím jsou ještě nebezpečnější. 

Spolehněte se na jednotnou databázi klientů Přečtěte si také:

Spolehněte se na jednotnou databázi klientů

Mohou generovat celé odstavce s naprosto přesnými údaji a následně se stočit k čirým spekulacím nebo dokonce k nepravdám, aniž by to kdokoli tušil. Prodejci ojetých aut nebo pokeroví hráči mluví nebo se chovají určitým způsobem, když blafují, takže je lze odhalit. O umělé inteligenci to neplatí.

Nekonečná hojnost

Digitální obsah je nekonečně reprodukovatelný, což narušilo tradiční ekonomické modely postavené na nedostatku. Generativní umělá inteligence v tom zachází ještě dále. Připraví o práci některé spisovatele, překladatele, novináře a umělce. Obrací také vzhůru nohama mnohá ekonomická pravidla, která řídí životy. 

Bude obsah podporovaný reklamou fungovat, když je možné reklamy i obsah znovu a znovu donekonečna přetvářet? Stane se bezplatná část internetu světem robotů klikajících na reklamy na webových stránkách, které bude kompletně vytvořené a nekonečně reprodukované generativními AI?

DT24

Taková jednoduše dosažitelná hojnost by mohla podkopat všechna zákoutí ekonomiky. Budou lidé i nadále ochotni platit za tokeny NFT, pokud je bude možné nekonečně kopírovat? Bude-li umělecká tvorba tak snadná, bude ji někdo uznávat? Bude stále něčím obohacující? Bude někoho zajímat, pokud obohacující nebude? Může vše ztratit hodnotu, bude-li považováno za samozřejmost? Měl Shakespeare na mysli právě toto, když ústy Hamleta uvažuje o pracích a šípech nehorázného štěstí? 

Nepokoušejme se odpovědět sami. Požádejme generativní umělou inteligenci o odpověď, která bude vtipná, neotřelá a jaksi uvězněná napůl cesty mezi správnou a špatnou.

 

CIO Business World si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.

Byl pro vás článek přínosný?