Filip Dvořák, Firemní efektivita Kde má AI ve smysl a kde je zbytečná?
technikaatrh.cz | 15
Firma platí dvě faktury a vidí jen jednu. Ta vidi-
telná jsou tokeny a licence: do každého dotazu
se znovu přikládají celé dokumenty místo kešo-
vání, špatně navržení agenti „přemýšlejí nahlas“
v dlouhých smyčkách, takže většina tokenů padne
narežii, aprémiový model obsluhuje interní úlohy,
kde by chyba nikoho nebolela. Neviditelná faktura
jsou lidé: čas strávený kontrolou aopravami výstupů
senikde nevykazuje, apřitom často převýší tu první.
Neefektivita sepozná jednotkovou ekonomikou: nes-
ledujte měsíční útratu, alecenu zavyřízený případ —
ticket, dokument, rozhodnutí — ajejí trend. Roste-li
útrata rychleji než počet vyřízených případů, někde
teče.
Composite AI aneurosymbolická AI jsou dvě jména
téže myšlenky — ajejich příběh je sám osobě zábavný.
Akademici desítky let říkali „neurosymbolic“, byz-
nys si osvojil „composite“. Dnes světem rezonuje
ten akademický termín, cožmě těší: geeks are cool.
Podstatou je dělba práce: neuronové modely zvládají
vnímání, jazyk anejednoznačnost, symbolická vrs-
tva — plánování, logické usuzování, tvrdá omezení
— garantuje správnost aauditovatelnost, malé speci-
alizované modely levně obslouží objem. Jeden velký
model je skvělý generalista, který draze improvizuje
itam, kdepotřebujete záruky. Věnuji seté kombinaci
většinu kariéry — první patenty nacomposite AI jsem
získal vropném aplynárenském průmyslu, veFilutě
AI jsme ty přístupy posunuli ogeneraci dál aGartner
nás dnes uvádí jako zástupce composite AI. Vpraxi
naše testovací agenty řídí symbolický plánovač,
obrazovku vnímají neuronové modely a jazykový
model nastupuje, jenkdyž je skutečně cointerpreto-
vat. Výsledek je opakovatelný, obhajitelný předaudi-
tem avzniká zazlomek ceny.
Skutečná úspora má dvě podmínky: pohne semet-
rika celého procesu — průběžná doba, cena zapřípad,
chybovost — a uvolněná kapacita se opravdu vyu-
žije jinde. Všechno ostatní je přesouvání nákladů:
z tvorby do kontroly (návrhy, které senior stejně
celé přepíše), zoddělení dooddělení (chyby doputují
doreklamací) azpřítomnosti dobudoucnosti (údržba
promptů aintegrací). Dobré vodítko je asymetrie ově-
ření: AI spolehlivě šetří tam, kdeje ověření výsledku
výrazně levnější než jeho vytvoření. Kdestojí kont-
rola stejně jako práce sama, neušetříte nic — ledaže
správnost garantuje sama architektura řešení. Právě
proto vycházejí composite přístupy v celkových
nákladech lépe.
Optimalizace modelů je učebnicový případ kle-
sajících výnosů, takže odpověď nezní „od kolika
uživatelů“, ale „dokud se vyplácí“. Kroky se řadí
od nejlevnějších: směrování dotazů (levný model
první, drahý jennaeskalace), kešování, kratší kon-
texty, noční dávkové zpracování — úspory v desít-
kách procent téměř zadarmo. Pak přijde doladění
malého modelu na vlastní úlohu; to už stojí stovky
tisíc ažmiliony avyplatí sejenustabilní, objemové
úlohy. Nakonec vlastní provoz — ten dává smysl
přivelkém objemu, nebomnohem dřív tam, kdedata
nesmějí opustit rmu; pak ale neplatíte za úsporu,
nýbrž zasuverenitu. Pravidlo prozastavení je prosté:
jakmile další vložená koruna vrátí naúsporách méně
než korunu, přestaňte. Ne proto, že to technicky
nejde dál, aleproto, žetopřestalo být investicí.
Stačí odpoledne atři čísla: cena zavyřízenou úlohu
ajejí trend, kvalita navlastní testovací sadě apodíl
výstupů, které vyžadují lidský zásah. Ta tři čísla
řeknou o efektivitě víc než jakákoli prezentace.
Dodavatele septejte nato, cobolí: Pročprávě tento
model — aukážete nám srovnání slevnější alternati-
vou nanašich datech? Cobude stát výměna modelu
zarok? Kudy tečou naše data akdonese náklady chyb
aoprav? Anakonec otázka nejdůležitější: jakdodava-
tel vydělává. Pokud jeho marže roste svaší spotře-
bou, nemá důvod vaši spotřebu snižovat — a audit
efektivity pak děláte proti jeho zájmu, ne sním.