V polovině listopadu propustila správní rada OpenAI generálního ředitele společnosti Sama Altmana, člověka, který umístil na mapu ChatGPT a zahájil novou éru podnikového nasazení AI. Během následujících tří dnů téměř všichni zaměstnanci společnosti řekli, že podají výpověď, a osud OpenAI vypadal extrémně nejistě.
Celé podniky byly postaveny na OpenAI a jeho API.
Je pro váš podnik umělá inteligence vhodným řešením některých požadavků?
Podle průzkumu O’Reilly vydaného koncem minulého měsíce používá 23 % společností jeden z modelů OpenAI. Jeho nejbližší komerční konkurent, Bard od Googlu, je daleko pozadu, s pouhým 1 % trhu. Jiní respondenti uvedli, že nepoužívají žádné modely generativní umělé inteligence, staví své vlastní nebo používají alternativu s otevřeným zdrojovým kódem.
Pomineme-li skutečnost, že se jedná o astronomicky vysokou míru přijetí zcela nové technologie, je to také ukazatel toho, jak riskantní tento prostor je. Podnik, který vsadil svou budoucnost na ChatGPT, by se dostal do vážných problémů, kdyby tento nástroj zmizel a všechna API OpenAI náhle přestala fungovat. Pokud se tedy OpenAI takřka přes noc jen zázrakem nezhroutila, co to vypovídá o šanci na přežití nesčetných start-upů v tomto prostoru?
Podle nejnovější zprávy o stavu softwaru G2 je AI nejrychleji rostoucí kategorií softwaru v historii G2. Společnost nyní sleduje celkem 1 078 dodavatelů AI a kategorie AI získaly 643 nových produktů oproti předchozímu roku.
Syntetická média, která zahrnují text, obrázky, zvuk a video generované umělou inteligencí, vzrostla o 222 % ve srovnání s předchozím rokem. A kategorie asistentů psaní AI vzrostla o 177 %. Podniky, které hledají dodavatele generativní umělé inteligence, mají tedy na výběr z mnoha možností.
„Prováděli jsme rozsáhlý výzkum s partnery, jako jsou Gartner, McKinsey a další, abychom porozuměli tržnímu prostředí a tomu, jak ostatní společnosti využívají tuto technologii,“ říká Yexi Liu, CIO nadnárodní společnosti Rich Products, specializující se na potravinářské produkty. Tato společnost v hodnotě 5,8 miliardy dolarů má 13 000 zaměstnanců a působí ve více než 110 zemích a již si vybrala své nejširší poskytovatele umělé inteligence — Microsoft, SAP a Salesforce.
Kromě těchto většina dodavatelů stále zaostává.
„Mnoho dodavatelů generativních AI tvrdí, že nabízejí komplexní řešení AI,“ říká Liu. „Ale realita je taková, že mnoho z těchto společností je stále v rané fázi. Na trhu zatím není jasný lídr.“
Při hodnocení dodavatelů zkoumá Rich Products jejich technologii, architekturu, obchodní hodnotu a pragmatický pohled. Cílem je podle společnosti pochopit, jak AI celkově prospěje podnikání Rich Products. „Díváme se na vyspělost dodavatele a na to, zda prokázal úspěch ve správných oblastech našeho podnikání,“ říká.
Není jediný. Podle průzkumu Ernst & Young mezi 1 200 globálními generálními řediteli, který byl zveřejněn koncem října, 99 % dotázaných buď plánuje, nebo již provedlo „významné“ investice do generativní umělé inteligence. Ale není to úplně bezpečná sázka. Riziko ukončení činnosti je jen jedním z mnoha katastrofických scénářů, se kterými se musí první uživatelé potýkat.
Existuje také všudypřítomná hrozba soudních sporů o autorská práva související s textem a obrázky generovanými umělou inteligencí, přesností obsahu generovaného umělou inteligencí a rizikem, že se citlivé informace stanou tréninkovými daty pro příští generaci modelu umělé inteligence – a dostanou se na světlo světa. Jak soubory školicích dat, tak výsledky jsou zaujaté a existují etické obavy, možnost růstu nákladů, problémy s integrací, posun modelu, nedostatek transparentnosti, rizika zabezpečení dat, rizika plagiátorství a regulační rizika.
A nejsou to jen začínající podniky, které mohou vystavit podnik rizikům třetích stran souvisejícím s umělou inteligencí. I zavedení dodavatelé se předhánějí v přidávání generativní umělé inteligence do svých produktů a služeb.
Vyčkávací postoj ke generativní umělé inteligenci s sebou nese také značná rizika, včetně ztráty zaměstnanců a zákazníků ve prospěch svižnějších konkurentů a zaostávání, pokud jde o pochopení toho, jak novou technologii používat.
Hlavní otázky, které přesahují obvyklou náležitou péči, kterou si společnosti musí klást při hodnocení dodavatelů generativní umělé inteligence, se tedy týkají školicích dat, autorských práv, přidané hodnoty a nezávislosti modelu.
Ochrana osobních údajů, zabezpečení a dodržování předpisů
Pro firmu Rich Products jsou zásadní ochrana dat, zodpovědná umělá inteligence a důvěryhodná umělá inteligence.
„Je nezbytné, abychom chránili naše duševní vlastnictví a zajistili, že naše řešení AI budou navržena tak, aby byla spravedlivá, nezaujatá, bezpečná a vysvětlitelná,“ říká. „O tom se nedá vyjednávat a je to něco, co si s dodavatelem předem vyjasníme. Nechystáme se uzavírat partnerství na základě slepé důvěry.“
Navíc u zvláště citlivých obchodních informací a dat očekává ještě větší zabezpečení. „Dodavatel nám musí nabídnout možnost vybudovat řešení AI v našem vlastním prostředí,“ říká.
Mnoho podniků již mělo kybernetickou bezpečnost a ochranu osobních údajů na prvním místě nebo v někde okolo u svých kontrolních seznamů při výběru dodavatelů, ať už se jedná o umělou inteligenci nebo ne. A v regulovaných odvětvích musí prodejci také dodržovat specifické předpisy, jako je HIPAA nebo PCI.
Stejný přístup lze rozšířit tak, aby zahrnoval dodavatele, produkty a služby generativní umělé inteligence, ale jsou zde některé nové zvraty. Například společnosti by se již měly ptát, jaké bezpečnostní audity a standardy mají dodavatelé ve svých cloudových prostředích, říká analytik společnosti Gartner Arun Chandrasekaran.
Nyní, s generativní AI, by se také měli ptát na opatření, která dodavatelé přijímají, aby zajistili, že data zůstanou soukromá a nebudou používána k trénování a obohacení jejich modelů, říká.
„Jak jsou data výzvy [prompt data] uložena v jejich prostředí?“ ptá se. „Mohu to spustit ve svém vlastním virtuálním cloudu?“
Megan Amdahlová, viceprezidentka partnerských aliancí a operací ve společnosti Insight, coži integrátor řešení se sídlem v Arizoně, říká, že její společnost hodnotí dodavatele generativních AI pro interní použití i jménem svých klientů.
Insight má tým správy partnerských smluv, který se podrobně zabývá dohodami s dodavateli.
„Pokud mají nějaké podmínky, které považujeme za riskantní nebo sporné, vyžadujeme kontrolu ze strany výkonného pracovníka,“ říká. „Nemáme náš smluvní tým připravený pouze pro původní podpis, ale také pro kontrolu všech dodatků, které požadují, abychom se ujistili, že chráníme před všemi typy rizik, která mohou být vložena.“
To není jen teoretická obava. Začátkem tohoto roku přidal dodavatel videokonferencí Zoom generativní funkce umělé inteligence, včetně automatických shrnutí schůzek. V březnu si sám poskytl právo využívat zákaznická data k výcviku svých modelů. Když lidé letos v létě objevili drobné písmo, začaly podniky protestovat a Zoom rychle obrátil kurz.
Trénink modelů
Dodavatelé, kteří trénují své modely na zákaznických datech, nejsou jediným rizikem generativní umělé inteligence souvisejícím se školením. Několik dodavatelů AI, včetně OpenAI, je v současné době žalováno umělci, autory a dalšími držiteli autorských práv. V závislosti na tom, jak tyto soudní spory probíhají, mohou být prodejci donuceni změnit své obchodní modely nebo změnit svou cenovou strukturu, aby mohli platit vlastníkům autorských práv – nebo možná úplně „zavřít krám“.
Kromě soudních sporů existuje také potenciál regulačních opatření, které by mohly znemožnit určité druhy školicích dat. Tato rizika by se potenciálně mohla rozšířit na podniky využívající tyto produkty a služby.
Společnosti by se také měly zeptat dodavatelů na jejich modelový tréninkový proces, říká Chandrasekara. „Jak transparentní jsou ve svém modelovém tréninkovém procesu?“
Specificky jde o to, jakým způsobem jsou si jistí, že nenarušují soukromá data, ptá se, a byly už podniknuty nějaké právní kroky proti dané společnosti?
Je tu další otázka, kterou si podniky mohou položit, dodává: „Jaký druh právní ochrany a právního odškodnění mi jako zákazníkovi poskytují?“
Několik velkých dodavatelů již oznámilo, že odškodní podnikové zákazníky za potenciální rizika související s autorským právem spojená s používáním jejich produktů. Microsoft například v září oznámil svou politiku právního odškodnění pro Copilot. Pokud budete napadeni na základě autorských práv, společnost uvedla, že převezmeme odpovědnost za možná rizika s tím spojená.
Google oznámil podobnou politiku v říjnu s použitím téměř identického znění a…
Společnost Adobe, která nabízí model pro generování obrázků Firefly, v červnu oznámila vlastní řešení právního odškodnění. Firefly je model, který pohání novou funkci generativní výplně ve Photoshopu a dalších produktech Adobe a je také k dispozici jako samostatná služba. Rychle následovaly také Getty, OpenAI a Amazon.
Mají „hradní příkop“?
Když byl poprvé uveden ChatGPT, neuměl číst dokumenty PDF, ale schopnost analyzovat obsah PDF patří k hlavním případům podnikového použití pro generativní AI. V důsledku toho vzniklo několik startupů, které tuto mezeru ve funkčnosti zaplnily.
V říjnu ChatGPT funkci nahrávání PDF přidal, v důsledku čehož se většina těchto start-upů přes noc stala irelevantními. Podniky, které vytvářely úlohy v oblasti PDF pomocí technologií těchto startupů, nyní čelily riziku, že ty zaniknou dříve, než jejich zákazníci stihnou systémy přestavět.
Toto není nový druh problému, říká Andy Thurai, viceprezident a hlavní analytik společnosti Constellation Research. Startup může snadno zastarat v jakékoli oblasti technologie. „Rozdíl je v tom, že rychlost, s jakou modely AI uvolňují funkce, je ohromující,“ říká Thurai. „S jinými softwarovými iteracemi to nebylo tak rychlé. Trvalo by to šest měsíců až rok.“ To by menším dodavatelům poskytlo čas na další inovace nebo zákazníkům čas na migraci.
Podnikovým zákazníkům doporučuje, aby přistupovali ke svým dodavatelům AI s filozofií „kill switch“, a to nejen kvůli riziku, že zastarají.
Může nastat problém s řízením nebo organizací, jako se stalo v OpenAI, říká.
„A existuje možnost, že někteří z těchto prodejců mohou okamžitě zkrachovat,“ dodává. „Mohli by rychle propálit své peníze a otočit se ‚břichem nahoru‘. Nebo bude jeden z jejich systémů hacknutý a vy už nechcete, aby vaše hovory procházely [přes jejich systémy].“
Aby se podniky připravily na tuto možnost, měly by mít záložní plán, který jim umožní pokračovat v činnosti bez konkrétního dodavatele.
„Musíte mít možnost kill switche,“ říká.
A kill switch je víc než jen technická schopnost změnit dodavatele bez přestavby celého řešení, říká Nick Kramer, viceprezident pro aplikovaná řešení ve společnosti SSA & Company. „Zahrnuje to také smluvní možnost ukončit vztah.“
Podniky musejí také věnovat pozornost tomu, jak obhajitelné jsou nabídky produktů dodavatele, říká Sandeep Agrawal, vedoucí právních technologií a aliancí ve společnosti PricewaterhouseCoopers.
„Mnoho společností nabízí tenký obal kolem GPT-4 nebo Claude 2 a nazývá to generativní AI,“ říká. „Ale co je pod tím doopravdy? A mají ty správné dovednosti, pokud jde o inženýrství a řízení?“
Pokud dodavatel nepřidává příliš významnou hodnotu, bude mít problém udržet se v podnikání, zvláště pokud je jeho klíčová funkce implementována samotnou platformou AI, jako se stalo s PDF.
„Náš právní tým a tým pro zadávání zakázek musí rozumět a analyzovat PDF dokumenty a smlouvy, z nichž některé byly podepsány před 20 lety,“ říká.
PricewaterhouseCoopers by tedy těžil z dodavatele nabízejícího možnost číst soubory PDF, ale nyní je to standardní funkce a na tu nepotřebuje samostatného dodavatele. Pokud tento dodavatel neudělal něco speciálního. „Například řekněme, že nahráli miliony smluv a pochopili konkrétní jazyk smluv a věnovali čas a úsilí tomu, aby trénovali a dolaďovali model, aby získali lepší odpovědi na konkrétní otázky,“ říká.
Obecný základní model by dal obecné odpovědi na soubory PDF, dodává. To by mohlo fungovat pro běžného podnikového uživatele, ale ne pro někoho ve velmi specifické a technické doméně. Dodává, že provedení tohoto jemného doladění by zabralo spoustu času, protože rychlost uvedení na trh je velmi důležitá.
PricewaterhouseCoopers zaměstnává 4 000 právníků, říká, a má mnoho proprietárních dat souvisejících s právními dokumenty.
„Pokud máte proprietární data, můžete je použít k vytvoření specializovaných doménových modelů pro smlouvy, právní výzkum, soudní spory a nároky,“ říká. „Ale pokud se to všechno pokusíte postavit sami, nebudete úspěšní, pokud jde o rychlost uvedení na trh. A to je velký důvod, proč si vybíráme společnosti, které to již udělaly.“
Dodavatelé, kteří se specializují řekněme na právní PDF, finanční PDF nebo ti, kteří souvisejí s farmaceutickým průmyslem, by stále mohli být schopni poskytnout hodnotu.
„Dodavatelé musejí porozumět prostředí svého specifického sektoru,“ říká. „Můžete vytvořit další atributy, lepší uživatelská rozhraní a přívětivější pracovní postup?“
Nezávislost modelů
Kromě hledání dodavatelů, kteří poskytují významnou přidanou hodnotu nad rámec základního základního modelu, který používají, PricewaterhouseCoopers také vybírá dodavatele, kteří jsou flexibilní, pokud jde o model, který používají.
„Před dvanácti měsíci se každý dodavatel zaměřoval na to, co dělal a stavěl ChatGPT,“ říká Agrawal. „Nyní je více zavedených dodavatelů, kteří jsou na backendu multi-modeloví. Zkoušejí různé základní modely pro různé věci.“
Se základním modelem se může něco stát nebo může přijít lepší model pro konkrétní případ použití.
„Pokud nejste dostatečně flexibilní a agilní, vaši klienti se přesunou jinam,“ říká.
Nyní existuje více než 200 základních modelů, říká Lian Jye Su, hlavní analytik aplikované inteligence v technologické poradenské společnosti Omdia.
„Dodavatel musí mít hluboké znalosti o možnostech a technologiích vhodného základního modelu,“ říká. „A základní modely jsou náchylné k halucinacím, takže musí být uzemněny a propojeny s externími vektorovými databázemi.“
Nyní je na výběr z více než 20 různých hostovaných vektorových databází, říká, z nichž každá má své vlastní silné stránky. A nejsou to jen dodavatelů, kteří musejí být flexibilní v tom, jaký základní model používají. Podniky, které dolaďují nebo trénují své vlastní systémy generativní umělé inteligence, by také měly dělat vše, co mohou, proto, aby byly modelově agnostické, říká Chandrasekaran z Gartneru.
„Model, který používají dnes, nebude model, který budou používat za 12 měsíců,“ říká. „Musejí mít možnost tyto modely vyměnit.“
Podniky, které přímo využívají základní modely, mohou budovat své systémy tak, aby byla vrstva API izolována od zbytku aplikace. Poté mohou provést volání API na nejlepší model pro daný úkol nebo modely úplně vyměnit, když přijdou lepší nebo levnější.
Dalším přístupem, který některé podniky zkoumají, je vytvořit vrstvy orchestrace AI, které mohou zahrnovat více systémů a mohou se připojit k různým poskytovatelům cloudu, různým zdrojům dat, různým základním modelům a dokonce i různým platformám podnikového softwaru.
„Když se podíváte na obchodní tok, musíte se na něj podívat od začátku do konce,“ říká Ram Palaniappan, technický ředitel společnosti TEKsystems, což je systémový integrátor. „Může to začít u Salesforce a skončit v Oracle, ale musí to začít uživatelským zážitkem a případ použití od začátku do konce bude určovat, jak tyto věci spojíte.“
Říká, že existuje několik dodavatelů, kteří nabízejí takové super-aplikace s umělou inteligencí, a hyperscalery také zavádějí své vlastní možnosti.
LangChain je nejznámější možností open source v tomto prostoru. Také Nvidia má svoje řešení a Meta má LlamaIndex, který také získává na síle u podniků, říká Palaniappan.
„Někteří dodavatelé platforem, jako je Google, budují svou vlastní aplikační vrstvu,“ říká. „Umožňují více modelů pro základy a také se integrují s LangChain.“ Microsoft a AWS mají také své vlastní buildery aplikací, dodává.
Je to dobrá volba pro podniky, které se zavázaly používat jedinou cloudovou platformu. „Pokud se chcete integrovat do vrstvy aplikace, bude dobrou volbou super aplikace třetí strany,“ říká. „Něco jako LangChain, který je přenosný na všech třech cloudových platformách, ale pokud většinu vašich potřeb dokáže splnit jeden hyperscaler, pak to nepotřebujete.“
CIO Business World si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.
Chcete si článek dočíst?
Tento článek je exkluzivní obsah pouze pro odběratele našeho newsletteru.
PŘEDPLATNÉ
ČLÁNKY DO MAILU