Technika a trh

Filip Dvořák, Firemní efektivita Kde má AI ve smysl a kde je zbytečná?

technikaatrh.cz | 15




Firma platí dvě faktury a vidí jen jednu. Ta vidi-
telná jsou tokeny a licence: do každého dotazu
se znovu přikládají celé dokumenty místo kešo-
vání, špatně navržení agenti „přemýšlejí nahlas“
v dlouhých smyčkách, takže většina tokenů padne
narežii, aprémiový model obsluhuje interní úlohy,
kde by chyba nikoho nebolela. Neviditelná faktura
jsou lidé: čas strávený kontrolou aopravami výstupů
senikde nevykazuje, apřitom často převýší tu první.
Neefektivita sepozná jednotkovou ekonomikou: nes-
ledujte měsíční útratu, alecenu zavyřízený případ —
ticket, dokument, rozhodnutí — ajejí trend. Roste-li
útrata rychleji než počet vyřízených případů, někde
teče.



Composite AI aneurosymbolická AI jsou dvě jména
téže myšlenky — ajejich příběh je sám osobě zábavný.
Akademici desítky let říkali „neurosymbolic“, byz-
nys si osvojil „composite“. Dnes světem rezonuje
ten akademický termín, cožmě těší: geeks are cool.
Podstatou je dělba práce: neuronové modely zvládají
vnímání, jazyk anejednoznačnost, symbolická vrs-
tva — plánování, logické usuzování, tvrdá omezení
— garantuje správnost aauditovatelnost, malé speci-
alizované modely levně obslouží objem. Jeden velký
model je skvělý generalista, který draze improvizuje
itam, kdepotřebujete záruky. Věnuji seté kombinaci
většinu kariéry — první patenty nacomposite AI jsem
získal vropném aplynárenském průmyslu, veFilutě
AI jsme ty přístupy posunuli ogeneraci dál aGartner
nás dnes uvádí jako zástupce composite AI. Vpraxi
naše testovací agenty řídí symbolický plánovač,
obrazovku vnímají neuronové modely a jazykový
model nastupuje, jenkdyž je skutečně cointerpreto-
vat. Výsledek je opakovatelný, obhajitelný předaudi-
tem avzniká zazlomek ceny.



Skutečná úspora má dvě podmínky: pohne semet-
rika celého procesu — průběžná doba, cena zapřípad,
chybovost — a uvolněná kapacita se opravdu vyu-
žije jinde. Všechno ostatní je přesouvání nákladů:
z tvorby do kontroly (návrhy, které senior stejně
celé přepíše), zoddělení dooddělení (chyby doputují
doreklamací) azpřítomnosti dobudoucnosti (údržba
promptů aintegrací). Dobré vodítko je asymetrie ově-
ření: AI spolehlivě šetří tam, kdeje ověření výsledku
výrazně levnější než jeho vytvoření. Kdestojí kont-
rola stejně jako práce sama, neušetříte nic — ledaže
správnost garantuje sama architektura řešení. Právě
proto vycházejí composite přístupy v celkových
nákladech lépe.



Optimalizace modelů je učebnicový případ kle-
sajících výnosů, takže odpověď nezní „od kolika
uživatelů“, ale „dokud se vyplácí“. Kroky se řadí
od nejlevnějších: směrování dotazů (levný model
první, drahý jennaeskalace), kešování, kratší kon-
texty, noční dávkové zpracování — úspory v desít-
kách procent téměř zadarmo. Pak přijde doladění
malého modelu na vlastní úlohu; to už stojí stovky
tisíc ažmiliony avyplatí sejenustabilní, objemové
úlohy. Nakonec vlastní provoz — ten dává smysl
přivelkém objemu, nebomnohem dřív tam, kdedata
nesmějí opustit rmu; pak ale neplatíte za úsporu,
nýbrž zasuverenitu. Pravidlo prozastavení je prosté:
jakmile další vložená koruna vrátí naúsporách méně
než korunu, přestaňte. Ne proto, že to technicky
nejde dál, aleproto, žetopřestalo být investicí.



Stačí odpoledne atři čísla: cena zavyřízenou úlohu
ajejí trend, kvalita navlastní testovací sadě apodíl
výstupů, které vyžadují lidský zásah. Ta tři čísla
řeknou o efektivitě víc než jakákoli prezentace.
Dodavatele septejte nato, cobolí: Pročprávě tento
model — aukážete nám srovnání slevnější alternati-
vou nanašich datech? Cobude stát výměna modelu
zarok? Kudy tečou naše data akdonese náklady chyb
aoprav? Anakonec otázka nejdůležitější: jakdodava-
tel vydělává. Pokud jeho marže roste svaší spotře-
bou, nemá důvod vaši spotřebu snižovat — a audit
efektivity pak děláte proti jeho zájmu, ne sním.

Technika a trh