Perplexity představuje Photon: Rustový vyhledávací engine s p99 latencí 65 ms

V kostce

• p99 latence klesla z 800 ms na 65 ms
• Photon běží na 20 % méně serverech než předchozí řešení
• Fast Search režim je o 68 % levnější za $1 za 1000 požadavků

Perplexity představila Photon · interní vyhledávací a řadicí modul napsaný v Rustu, který nahrazuje dříve používaný otevřený fork v jejím AI‑native search stacku. Photon nyní obstarává veškerý produkční provoz a pohání nový režim Fast Search v Perplexity Search API. Společnost uvádí jednosměrnou latenci 160 ms v p50 a 230 ms v p95; klíčová p99 latence klesla z přibližně 800 ms na 65 ms.

Původní engine narazil při růstu indexu na tři omezení: vysokou koncovou latenci způsobenou nedostatkem místa v RAM, špičky latence při slučování diskových indexů a pomalé obnovení clusterů trvající déle než týden. Tým Perplexity dospěl k závěru, že vývoj vlastního řešení bude jednodušší a levnější než udržování forku. Photon využívá adaptivní posting listy, budgetovanou průchod inspirovanou algoritmem WAND, kompaktní docblob záznamy s Elias‑Fano kódováním a dávkové asynchronní čtení přes io_uring. Indexery sestavují verzované shardové indexy z tabulek YTsaurus na vyhrazených uzlech; kontroler následně postupně střídá servisní skupiny a zahřívá cache z vyhledávacích logů. Celý webový index se nyní sestaví za jednociferný počet hodin.

Fast Search kombinuje Photon s lehčím řazením optimalizovaným pro agentické workflows. Perplexity jej otestovala na šesti benchmarcích (WideSearch, BrowseComp, DSQA, FRAMES, SEAL‑0, SEAL‑Hard) celkem na 3 554 úlohách. Fast Search dosáhl skóre 64,3 % při odhadovaných nákladech 59,73 USD (model + vyhledávání), zatímco výchozí preset dosáhl 64,0 % za 187,60 USD · tedy o 68 % levněji. Kompromis se projeví nižší relevancí (DCG kleslo z 2,45 na 2,21) a sníženou dostupností odpovědí (pokles z 0,596 na 0,567, tedy o 2,9 procentního bodu). Perplexity doporučuje Fast Search pro rutinní agentické smyčky a výchozí režim pro složité, nejednoznačné dotazy. Photon není open source a nelze jej provozovat samostatně; Fast Search je dostupný jako hostované API s parametrem search_type: “fast” za 1 USD za 1 000 požadavků.

Co to znamená

Pro firmy implementující AI vyhledávání znamená Photon dramatické zrychlení odpovědí při menších infrastrukturních nákladech, což umožňuje nasazení agentických systémů v reálném čase. Fast Search nabízí výraznou úsporu nákladů při přijatelné ztrátě relevance pro rutinní úkoly, ale u kritických rozhodovacích procesů zůstává výchozí režim bezpečnější volbou. Fakt, že engine není otevřený, omezuje možnost vlastního auditování a on‑premise nasazení.

Zdroje

1. Marktechpostmarktechpost.com