AI modely na mieru
Nie každý problém sa dá vyriešiť lepším promptom. Niekedy potrebujete model, ktorý rozumie práve vašim dátam.
Kedy nás firmy volajú
- Všeobecný model nerozumie vašej terminológii, formátom ani odbornému kontextu.
- Dáta nesmú opustiť firmu — legislatíva, zmluva so zákazníkom alebo interné pravidlo.
- Potrebujete spracovať obraz: kontrolu kvality, detekciu, meranie, satelitné alebo dronové snímky.
- Náklady na tokeny pri veľkých objemoch rastú rýchlejšie ako prínos.
Toto je oblasť, v ktorej máme najhlbšie korene. Patrik má PhD v odbore umelá inteligencia, počítačovému videniu sa venuje od výskumu až po nasadenie v praxi a viedol tímy na projektoch, kde model musí obstáť na dátach, ktoré nikdy nevidel — aj pre medzinárodných klientov.
V praxi to znamená, že vieme model nielen zavolať cez API, ale aj natrénovať, vyhodnotiť a nasadiť — vrátane tréningu na HPC infraštruktúre a prevádzky v Kubernetes.
Zároveň sme prvý, kto vám povie, že vlastný model nepotrebujete. Vo väčšine prípadov je lacnejšie a rýchlejšie začať dobrým promptom a RAG-om. Vlastný model dáva zmysel pri špecifickej doméne, prísnych požiadavkách na dáta alebo vysokých objemoch.
Ako to robíme
1. Overíme, či vlastný model vôbec treba
Porovnáme baseline s existujúcim modelom oproti očakávanému prínosu tréningu. Ak je rozdiel malý, ušetríme vám desiatky tisíc eur.
2. Dáta a anotácie
Kvalita datasetu rozhoduje viac než výber architektúry. Pomôžeme s návrhom anotačného procesu aj kontrolou konzistencie.
3. Tréning a vyhodnotenie
Fine-tuning alebo tréning od základu podľa úlohy. Výsledok vždy porovnávame s baseline na oddelenej testovacej sade.
4. Nasadenie tam, kde má bežať
V cloude, vo vašom dátovom centre alebo na hrane. Vrátane optimalizácie latencie a nákladov na inferenciu.
Čo dostanete
- Natrénovaný model s dokumentovaným postupom a reprodukovateľným tréningom.
- Porovnanie s baseline na oddelenej testovacej sade — vrátane prípadov, kde model zlyháva.
- Nasadenie do produkcie (cloud, on-prem alebo edge) s monitoringom.
- Váhy modelu, dáta aj kód sú vaše. Žiadny vendor lock-in z našej strany.
- Odhad nákladov na inferenciu pri vašom očakávanom objeme.
Orientačný rozsah
- Feasibility štúdia a baseline
- 1 500 – 3 000 €
- Fine-tuning existujúceho modelu
- 4 000 – 12 000 €
- Computer vision model na mieru
- od 12 000 €
- On-prem nasadenie a prevádzka
- individuálne
Ceny sú orientačné a bez DPH. Cena tréningu závisí najmä od stavu a množstva anotovaných dát.
Časté otázky
Kedy sa vlastný model naozaj oplatí?
Keď máte úzku doménu s vlastnou terminológiou, veľký objem podobných požiadaviek, prísne požiadavky na to, kde smú dáta byť, alebo potrebujete nízku latenciu. Ak neplatí ani jedno, začnite bez neho.
Koľko dát potrebujeme?
Pri fine-tuningu jazykového modelu často stačí niekoľko stoviek až tisícok kvalitných príkladov. Pri počítačovom videní to býva rádovo viac a záleží na variabilite scén. Presné číslo povieme po pozretí vašich dát.
Vieme model prevádzkovať bez pripojenia na internet?
Áno. Práve to je jeden z hlavných dôvodov, prečo firmy po vlastnom modeli siahajú. Nasadenie na vlastnom hardvéri alebo na hrane robíme bežne.
Čo sa stane, keď o rok vyjde lepší model?
Preto od začiatku držíme reprodukovateľný tréning a testovaciu sadu. Prechod na novší základ je potom otázka pretrénovania a porovnania čísel, nie začínania odznova.
Povieme vám rovno, či váš problém potrebuje vlastný model — aj keď je odpoveď „nie, ušetrite si tie peniaze“.