Arca buduje AI platformu pro správu majetku s agenty

V kostce

• Arca získala 48,5 milionu USD v kole vedeném společností General Catalyst.
• Agentní úlohy v Arce trvají podle Singha až deset dní.
• Hlavním poskytovatelem modelů je Claude, uvedl Latent Space.

Aman Singh, vedoucí inženýr pro AI ve společnosti Arca, popsal v rozhovoru pro Latent Space na akci AI Engineer New York fungování firmy označované jako AI-nativní společnost pro správu majetku. Agenti podle něj vykonávají většinu práce na pozadí, konečná rozhodnutí ale zůstávají na lidských poradcích. Společnost Arca podle zdroje nedávno získala 48,5 milionu USD v investičním kole vedeném společností General Catalyst za účasti společností Index Ventures a Venrock.

Singh v prezentaci vysvětlil, že práce ve finančních službách má typicky dlouhý horizont, i když neběží nepřetržitě. Úlohy agentů ve společnosti Arca mohou trvat až deset dní a jejich průběh popsal slovy, že je velmi přerušovaný, s mnoha aktéry, rozhodovacími body a předávkami. Jedním z probíraných příkladů bylo řešení daňového účtu ve výši 100 000 USD, které vyžaduje koordinaci agentů a schválení člověkem.

Právě kvůli přerušované a vícedenní povaze práce si firma vybudovala interní systém paměti. Podle Singha systém pro každého klienta sleduje, co se dosud stalo, co je potřeba sledovat dále, co je nutné udělat v nejbližších dnech a co v dlouhodobém horizontu a kdo odpovídá za kterou akci. Do této paměti přispívají přímo agenti.

Společnost Arca využívá modely od předních laboratoří, jako jsou společnosti Anthropic a OpenAI, přičemž hlavním poskytovatelem modelů je podle zdroje model Claude. Firma si postavila vlastní harness, který na základě interních benchmarků automaticky vybírá nejvhodnější model pro konkrétní úlohu. Vlastnictví harnessu místo využití spravovaného řešení dává společnosti podle Singha flexibilitu v případě potřeby změnit poskytovatele modelů.

Bezpečnost je pro finanční služby klíčová a role agenta je omezena na analýzu a navrhování řešení. Obchodování a jakýkoli jiný pohyb peněz zajišťuje lidský poradce. Podle Singha jsou veškerá bezpečnostní omezení plně deterministická a odnímají rozhodování z rukou agenta.

To v praxi znamená, že agent může samostatně vykonávat jen některé nástroje a úlohy, nikoli ty, které znamenají riziko pro klienta. Společnost Arca podle zdroje provádí ověřovací kontroly známých bezpečnostních problémů AI, jako je prompt injection. Samotný agent neběží v izolaci, ale pro výpočty využívá sandboxy, a pro práci s citlivými daty firma zavedla další bezpečnostní opatření.

Singh popsal systém, který kód napsaný agentem pro dotazování na data převede do očekávaného striktního formátu, původní kód zahodí a na tento formát aplikuje ochranná omezení předtím, než požadavek dorazí k backendu. Agenti tak mohou data pomocí kódu agregovat a upravovat, například pro tvorbu finančního plánu, aniž by kód vstupoval přímo do interních systémů. Zpětnou vazbu od lidských poradců a záznamy činnosti agentů firma využívá ke zlepšování harnessu, přičemž takzvaný meta-agent tato data analyzuje a navrhuje změny.

Zdroje

1. Latent Spacelatent.space