Zájem o generativní umělou inteligenci nepolevuje, ale s přibývajícími riziky dochází k jejímu celopodnikovému zavádění. Nedávný výzkum ve výrobě zjistil, že rostoucí obavy z rizik gen AI vedou výrobce k pozastavení jejího zavádění.
Tento článek vysvětluje tři slepé uličky, které mohou mít katastrofální následky. Nejprve však vězte, že gen AI není jako jiné technologie.
Gen AI funguje jinak než ostatní AI a technologie
Tři klíčové rozdíly jsou následující:
Gen AI závisí na neuronových sítích, které jsou inspirovány mozkem. A my mozek zcela nechápeme.
Gen AI také závisí na velkých jazykových modelech (LLM) s velkými soubory obsahu a dat. Co přesně se v LLM nachází, se u jednotlivých řešení generativní AI liší, stejně jako jejich přístup ke zveřejňování.
Vědci přesně nevědí, jak gen AI funguje, jak MIT Review informoval.
Přestože je gen AI výkonná, je plná neznámých. Čím více objasníme její "úskalí", tím lépe můžete řídit rizika jejího nasazení.
1. Zvyšující se poptávka po transparentnosti
Ze strany vlády, zaměstnanců i zákazníků roste poptávka po transparentnosti toho, jak společnosti využívají gen umělou inteligenci. Nepřipravenost vystavuje vaši společnost riziku pokut, žalob, ztráty zákazníků a ještě horších věcí.
Po celém světě se na všech úrovních rozšířila legislativa týkající se gen umělé inteligence. Evropská unie udala tón svým zákonem AI Act. Abyste zůstali na správné straně tohoto nařízení, musí vaše společnost zveřejnit, kdy a jak používá gen AI. Budete muset prokázat, jak nenahrazujete lidi při přijímání klíčových rozhodnutí ani nezavádíte předpojatost.
Zároveň chtějí zaměstnanci a zákazníci vědět, kdy a proč mají co do činění s generací AI. Pokud vaše organizace používá gen AI v procesu náboru, vysvětlete to jak kandidátům, tak zaměstnancům, kterých se to týká.
Při komunikaci se zákazníky by vaše společnost měla zveřejnit používání generativní umělé inteligence v jakékoli formě (hlas, text, chat atd.). Jedním ze způsobů jsou zásady, jako to dělá společnost Medium zde. Dalším způsobem je poskytnutí vodítek v zákaznickém prostředí. AWS například zobrazuje když umělá inteligence generuje abstrakty souvisejících stránek.
Dobrou zprávou je, že pokud vaše firma vyřeší následující dvě slepé uličky, bude transparentnost mnohem snazší.
2. Rostoucí seznam příčin nepřesností
Pro generativní umělou inteligenci platí dávné rčení "garbage in, garbage out". Novinkou u generativní umělé inteligence je to, jak se odpadky mohou dostat dovnitř a způsobit tak nepřesnosti.
Zneužití generativní AI pro matematiku: Generativní AI je špatná v matematice a manipulaci s čísly. U všech zkušeností zahrnujících výpočty, porovnávání čísel a podobně budete muset gen AI doplnit o další řešení.
Odpady v LLM: Pokud LLM obsahuje nesprávný, zastaralý nebo objektivní obsah, je vaše podnikání ohroženo. A šance, že k tomuto riziku dojde, je nyní vyšší než kdy jindy, protože důvěryhodné zdroje obsahu od The New York Times po Condé Nast se stahují. Nedávný výzkum zjistil 50% pokles dat a obsahu dostupných pro technologie gen umělé inteligence. Vyžadujte proto transparentnost ohledně LLM od každého řešení gen AI, o kterém uvažujete, než se k němu zavážete.
Smetí v obsahu a datech: Chcete-li přizpůsobit generaci umělé inteligence pro svůj podnik, je pravděpodobné, že ji budete muset vycvičit na svém vlastním obsahu a datech. Pokud však tento obsah a data důsledně nesplňují vaše standardy, jsou zastaralé nebo obsahují chyby, je vaše společnost ohrožena.
Z opakovaného výzkumu vyplývá, že společnosti, které vykazují vysokou úroveň vyspělosti obsahových operací, jsou ve využívání gen umělé inteligence rychlejší než ostatní, protože mají postupy pro dokumentaci obsahových standardů, řízení kvality a další.
Pokud vaše společnost takové postupy nemá, nejste sami. Dobrá zpráva je, že nikdy není pozdě to dohnat. Náš tým nedávno pomohl největšímu světovému prodejci domácích potřeb definovat komplexní obsahové standardy pro transakční komunikaci napříč všemi relevantními kanály za méně než tři měsíce.
Další dobré zprávy. S odstraňováním mezer v přesnosti snižujete také riziko, že vaše společnost nevědomky vnese zaujatost nebo poruší autorská práva.
3. Rozsah potřebné údržby
Gen AI se někdy zdá být kouzelná, ale ve skutečnosti vyžaduje pečlivou údržbu ze strany vaší firmy a vybraného řešení Gen AI. Pokud nasadíte gen AI bez jasného přístupu k údržbě, znásobíte rizika 1 a 2 díky problémům, jako jsou tyto:
Drift: Tento problém nastává, když se skutečný svět mění, ale váš model gen AI ne, například když obsah a data v LLM zastarají. Při prvním spuštění byl správný, ale nyní už není. Představte si, že chatbot podává vašim zákazníkům nepřesnou informaci o jednom z vašich produktů, protože o této nové funkci produktu neví.
Degradace: Tento problém se také nazývá zhroucení modelu a spočívá v tom, že vaše řešení gen umělé inteligence se stává hloupějším, místo aby bylo chytřejší. Jednou z příčin degradace je vyčerpání čerstvého, kvalitního obsahu pro LLM. Nedávný výzkum ukazuje, že LLM se paradoxně rozpadají, když jsou krmeny obsahem generovaným umělou inteligencí.
Gen AI je tedy jedinečně výkonná technologie, která může posunout obsah vaší společnosti na novou úroveň efektivity. Tato síla však s sebou nese spoustu rizik. Berte tato rizika při plánování implementace gen umělé inteligence vážně, abyste měli méně starostí a více úspěchů.
