ukázková data, ne skuteční klienti
Bot pro Toma: proč je pomalý a co s tím
Bot teď běží na lokálním modelu, který na tuhle práci nestačí. Doporučuju přepnout mozek na Sonnet, citlivá data nechat výhradně v lokálním trezoru a dát botovi skutečné nástroje do Kanceláře místo klikání po webu.
72–115 strvaly tahy 8. 11., pak je OpenClaw přerušil (AbortError)
132 zprávv jediné nekonečné konverzaci s Tomem, 4. 11. přetekl kontext a komprese trvala 1:43 min
3×useknutá odpověď za jeden večer (model narazil na strop délky)
~25 tis.tokenů úvodních instrukcí a paměti, které lokální model čte při každém studeném startu
Co přesně nefunguje
- Mozkem je Ornith 35B na Mac Studiu. Na krátké odpovědi stačí, ale na víckrokovou práci (najít klienta, projít smlouvy, založit úkol, odpovědět) se ztrácí, cyklí a padá na záložní model.
- Kancelář ovládá přes headless prohlížeč jako člověk: přihlásit, klikat, číst HTML. Každý krok je pomalý a křehký. API má jen na plán ze zápisu.
- S Tomem má jednu konverzaci od října. Historie roste, model čte čím dál víc a nakonec přeteče.
- Provozní manuál (AGENTS.md) a paměť mají dohromady 24 kB a míchají Kancelář, RychlouHypo, myDOCK, poštu i úpravy kódu. Model neví, co je teď důležité.
Haiku, nebo Sonnet
| Haiku 5.5 | Sonnet 5.5 | |
|---|---|---|
| Víckrokové úkoly s 10+ nástroji | občas vynechá krok nebo si vymyslí parametr | spolehlivě, umí si práci rozplánovat |
| Odborná čeština (pojistky, IDD, hypotéky) | dobrá | výborná |
| Rychlost tahu | 2–4 s | 5–10 s |
| K čemu ho použít | hlídači, třídění příchozích zpráv | hlavní mozek bota |
Sonnet jako mozek, Haiku jen na levné opakované kontroly (hlídače). Pojede přes předplatné stejně jako dřív Emil v cloudu, takže bez placeného API.
Citlivá data zůstanou doma
Sonnet nikdy neuvidí jméno, rodné číslo, adresu, telefon ani zdravotní údaje. Pracuje s pseudonymy (K-0412, „klient, 38 let, OSVČ“). Když potřebuje něco citlivého, zeptá se lokálního trezoru a dostane jen závěr.
- Zdravotní dotazník a vše ze zvláštní kategorie GDPR čte jen trezor.
- Když lokál neběží, bot řekne, že citlivou část teď neudělá. Do cloudu nic jako zálohu.
- Brána má i pojistku na výstupu: co vypadá jako RČ, číslo účtu nebo celé jméno z DB, do cloudu neodejde.
Aby se v tom vyznal
- Nástroje místo prohlížeče:
najdi_klienta,pripad,splnit_krok,poznamka,zalozit_ukol,hlidac,trezor. Každý vrací krátkou strukturovanou odpověď. - Bot pracuje v rámci případu a jeho workflow (viz záložka Případy), takže ví, na jakém kroku to stojí a co je další.
- Konverzace podle případů, po 24 h nečinnosti nová. Úvodní instrukce zkrátit z 24 kB na ~4 kB, zbytek jako dovednosti, které si načte, až je potřebuje.
- Cíl: běžná odpověď do 10 s, nic se nezasekne déle než minutu. Měřit z logu každý den.
Potřebuje Jeňovo ano. Pravidlo kanceláře od 15. 10. zní, že klientská data nesmí do cloudové AI vůbec. Tenhle návrh ho dodrží (cloud dostane jen pseudonymy), ale mění, že na klientech vůbec pracuje cloudový model. Bez Jeňova souhlasu to nepřepnu.