AIaaS (Artificial Intelligence as a Service) je outsourcing umělé inteligence poskytovaný třetí stranou. Firmám a samozřejmě i jednotlivým uživatelům tato služba umožňuje experimentovat s AI bez nutnosti velkých investic do hardwaru.
Je pro váš podnik umělá inteligence vhodným řešením některých požadavků?
Pro výpočty spojené s trénováním neuronových sítí a hlubokým učením jsou zapotřebí výkonné grafické procesory. Pro ilustraci, profesionální grafická karta Nvidia RTX A6000 se 48 GB paměti RAM stojí 6 000 eur a pro rozsáhlé projekty strojového učení potřebujete server nebo pracovní stanici se dvěma, nejlépe až čtyřmi těmito kartami ve výkonné sestavě. Japonský superpočítač MN-2 má 1 024 grafických karet Nvidia Tesla V100, přičemž jedna taková stojí 14 000 eur.
AIaaS versus IaaS
Pravděpodobně jste si už někdy položili otázku, zda si pronajmout výkonný virtuální server v cloudu prostřednictvím modelu IaaS neboli infrastruktury jako služby. Narážíte však na dva problémy.
Trénování neuronových sítí a výpočty hlubokého učení vyžadují výkonné grafické procesory, takže potřebujete virtuální počítač s jedním nebo více grafickými procesory. I když takovou konfiguraci v nabídce poskytovatele IaaS najdete, stále máte k dispozici pouze „holý“ virtuální server s Linuxem.
Naproti tomu AIaaS je variantou PaaS, tj. platformy jako služby. Máte k dispozici vše potřebné, například pro deep learning budete mít nainstalovány všechny potřebné nástroje, například PyTorch nebo TensorFlow, platformu Nvidia Cuda a uživatelské rozhraní, řekněme, Jupyter Notebook nebo analytické platformy.
Výhody a nevýhody AIaaS
Platformy AIaaS umožňují vytvářet služby AI, které jsou přizpůsobitelné, škálovatelné a snadno použitelné. Výhodou je nejen model Pay As You Go, tj. platíte jen za to, co skutečně využíváte, ale především rychlé nasazení. Navíc firmy mají obvykle více scénářů využití AI a pro jejich IT oddělení by bylo obtížné vytvářet, konfigurovat a udržovat fyzické prostředí pro každý z nich.
Ne každý scénář se ukáže jako užitečný a jeho zrušení pomocí AIaaS je snadné. Osvědčené scénáře bude třeba rozšířit, což je v případě modelu AI as a Service také jednoduché, stačí rozšířit objednanou konfiguraci.
Obavy o bezpečnost mohou být překážkou využívání AIaaS, protože podnik sdílí s poskytovatelem služby svá data, často citlivá. V případě zvláště citlivých údajů se používá anonymizace, maskování údajů nebo jiná opatření. Přesto může být využití AIaaS v některých odvětvích problematické, například ve finančním nebo zdravotnickém sektoru, kde je ukládání a sdílení dat přísně regulováno. Problémem může být i změna poskytovatele AIaaS, pokud původně vybraný poskytovatel z nějakého důvodu nevyhovuje. Různí poskytovatelé nabízejí různé platformy strojového učení a jejich varianty, takže přechod může být časově náročný a uživatelé se budou muset přeškolit na jiné prostředí.
Scénáře pro AIaaS
Strojové učení – společnosti používají ML ke zkoumání a identifikaci trendů ve svých datech, k předpovědím a k průběžnému učení. Procesy zpracování a analýzy dat by měly fungovat s minimálním, nejlépe žádným zásahem člověka. To není nic nového, datamining se k tomuto účelu používá již desítky let.
Označovánídat – čištění auspořádání velkých dat. Firmy tak získávají kvalitnější data, která pak ukládají do datových skladů pro případné další zpracování. Umělou inteligenci lze využít také k agregaci dat z různých zdrojů. Typickým příkladem jsou portály cestovních kanceláří a prodejců letenek, které využívají informace od více leteckých společností.
Chatboty využívající NLP (Natural Language Processing) k napodobování lidské komunikace, například v zákaznickém servisu, aby poskytovaly relevantní odpovědi na nejčastější dotazy zákazníků. Pokud tyto úkoly vyřizuje chatbot na platformě AIaaS, mohou se zaměstnanci soustředit na náročnější úkoly.
Poskytovatelé AIaaS
Podniky by si měly dobře rozmyslet, komu svěřují svá data, zejména pokud jsou citlivá. Jedním z hlavních kritérií výběru je proto důvěryhodnost poskytovatele služeb.
Amazon Web Services – AWS poskytuje několik služeb pro AI se strojovým učením včetně Amazon SageMaker a Amazon Alexa. Tyto služby Amazon AI využívají zákazníci, podniky i osoby se zdravotním postižením.
Google AI – Google Cloud poskytuje mnoho nástrojů pro umělou inteligenci a strojové učení, například jednotku TPU (Tensor Processing Unit), která urychluje trénování modelů umělé inteligence. On-line prostředí Google Colaboratory pro strojové učení, které má i bezplatnou verzi, představíme v samostatném příspěvku.
IBM Watson. Existuje několik aplikací IBM Watson včetně Watson Assistant pro vytváření virtuálních asistentů a Watson Natural Language Understanding pro kontextovou analýzu vstupů v přirozeném jazyce. Vývojáři mohou vytvářet, trénovat a nasazovat ML modely pomocí IBM Watson Studio.
Microsoft Azure Azure – tato cloudová platforma poskytuje několik služeb AI a strojového učení, například Azure NLP pro analýzu textu, konverzační služby AI a Azure Cognitive Services. Pro vývojáře je k dispozici podpora programovacích jazyků Python a R.
SAS – analytická platforma založená na umělé inteligenci pro zpracování velkých objemů dat a správu a vytěžování dat z různých zdrojů. Společnost také nabízí služby NLP a vizuální dolování dat.
Google Collaboratory
Asi nejznámější službou AIaaS je on-line prostředí Google Colaboratory. Umožňuje vytvářet a spouštět kód v jazyce Python nebo R přímo v prohlížeči, aniž musíte cokoli instalovat do počítače. Colaboratory je cloudová implementace Jupyter Notebook, která běží na virtuálních serverech společnosti Google a k výpočtům může využívat také grafické procesory a technologii Nvidia Cuda.
Při trénování neuronových sítí a dalších úlohách hlubokého učení pomocí GPU můžete využít několikanásobné zrychlení náročných výpočtů, i když nemáte v počítači grafickou kartu Nvidia. Základní verze aplikace Colab je zdarma, pokud potřebujete větší výpočetní výkon, můžete si předplatit Colab Pro nebo Colab Pro+, případně využít model Pay As You Go.
I v bezplatné verzi můžete používat virtuální grafický procesor Nvidia Tesla T4 16 GB GDDR6. Fyzicky taková grafická karta stojí 2 800 Kč. T4 samozřejmě není k dispozici pouze vám a nemáte zaručeno, že budete moci toto běhové prostředí použít, kdykoli budete potřebovat. V případě nedostatku prostředků vám GPU akcelerátor nemusí být přidělen. U placených modelů se vám to stát nemůže a v závislosti na modelu máte k dispozici akcelerátory GPU A100 a V100. Fyzicky stojí karta Nvidia Tesla A100 s kapacitou 40 GB 7 000 Kč a Nvidia Tesla V100 až 14 000 Kč.
V rámci služby Colab Pro+ máte k dispozici 500 tzv. výpočetních jednotek za 50,70 eur měsíčně. V modelu Pay As You Go stojí 100 jednotek 11,10 eur a 500 jednotek 50,70 eur. Pro představu, co je to výpočetní jednotka: GPU T4 spotřebuje dvě výpočetní jednotky za hodinu, V100 pět jednotek za hodinu a A100 patnáct jednotek za hodinu.
Pokud byste nechali virtuální GPU A100 běžet celý měsíc, spotřebovali byste 11 160 jednotek a vyšlo by to na 1 200 eur. Fyzická grafická karta Nvidia Tesla A100 by byla výhodnější, pokud byste ji používali více než půl roku čistého času. Ve skutečnosti však nebudete službu AIaaS využívat nepřetržitě, takže návratnost investice do hardwaru by reálně byla dva až tři roky.
Perspektivy AIaaS
Umělá inteligence a strojové učení poskytované jako služba mají před sebou velké perspektivy. Nejlépe to vyjadřují dvě čísla. Analytická společnost Market Research Future předpovídá, že trh AIaaS do roku 2030 vzroste na 43 miliard dolarů, přičemž předpokládaná roční míra růstu činí 26 %.
Autor je redaktor Nextech
Článek vyšel v magazínu CIO BW 6/2023. Objednat si ho můžete tady.
CIO Business World si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.
Chcete si článek dočíst?
Tento článek je exkluzivní obsah pouze pro odběratele našeho newsletteru.
PŘEDPLATNÉ
ČLÁNKY DO MAILU