Generální ředitel Microsoftu Satya Nadella v nedělním blogovém příspěvku varoval podniky, že využívání proprietárních AI modelů představuje riziko ztráty citlivých informací. Podle TechCrunch AI se jedná o varování, které se připojuje k hlasům investorů a konkurentů, jež upozorňují na možnou „trojskou kořist“ AI laboratoří.
Nadella zdůraznil, že firmy platí za AI dvakrát: jednou finančními prostředky za tokeny a podruhé odhalením proprietárního know‑how, které modely potřebují k dosažení požadované výkonnosti. „You essentially pay for intelligence twice… the proprietary knowledge you must reveal to make that intelligence useful“, uvedl v blogu (Podle TechCrunch AI).
Podle stejného zdroje modely učí z takzvaného „exhaust“ · tedy z promptů, nástrojů, které agenti používají, a zejména z oprav, které uživatelé provádějí, když model selže. Každá korekce se podle Nadelly „distiluje do institucionálního know‑how“, což představuje unikátní znalosti, které si konkurent nikdy nemůže koupit.
Tento proces, jak Nadella popisuje, může vést k tomu, že poskytovatelé AI se stanou přímými konkurenty svých zákazníků. „The kind of knowledge a competitor could never buy, and the kind that leaks almost imperceptibly“, varoval (Podle TechCrunch AI).
Nadella pojmenoval tento jev „reverse information paradox“, kde kupující AI platí penězi i cennými daty, zatímco má jen omezený přehled o tom, co se poskytovatel učí na jejich straně. Podle The Register tento paradox „over time, the information asymmetry becomes increasingly skewed“ (Podle The Register).
Kritizoval také asymetrii v právech na trénink: zatímco modeloví poskytovatelé mohou volně skrapovat veřejná data, omezují ostatní v tzv. „distillation“ · procesu, kdy se z výstupů modelu vytváří nový, často levnější model. Nadella to označil za „hypocritical“ (Podle TechCrunch AI).
Jako konkrétní příklad citoval obvinění Anthropic vůči čínským open‑source modelům, které údajně posílaly miliony promptů do modelu Claude za účelem vylepšení svých vlastních modelů, a vyzval USA k přísnějším exportním kontrolám (Podle TechCrunch AI).
Nadellova řešení spočívá v budování vlastních proprietárních učebních prostředí na cloudu, kde data zůstávají pod kontrolou podniku. Navrhl, aby firmy „retain ownership“ svých promptů, zpětné vazby a dalších interakcí, a aby tato prostředí fungovala „within the tenant boundary“ (Podle The Register).
Dále doporučil vytvořit „orchestration layers“, tedy vrstvy umožňující snadné přepínání mezi modely různých poskytovatelů a tím snížit riziko vendor lock‑in. Podle TechCrunch AI se jedná o nástroj podobný AI „gateways“, který už získává na popularitě.
Varování přichází v kontextu dlouhodobé spolupráce Microsoftu s OpenAI, včetně investic v řádu miliard dolarů a dřívější exkluzivity Azure pro ChatGPT. The Register uvádí, že vztah se v letech 2024‑2026 napjatě vyvíjel a exclusivity byly uvolněny (Podle The Register).
V roce 2024 mnoho organizací omezilo nasazení Microsoft Copilot kvůli slabé správě dat a širokým přístupovým právům v SharePoint a Microsoft 365. Průzkum společnosti Securiti ukázal, že polovina dotázaných CDO zastavila nebo výrazně omezila Copilot (Podle The Register). Nadella tvrdí, že pouhá datová správa nestačí a je potřeba strukturované řešení, které oddělí lidský kapitál od tokenového kapitálu.
Co to znamená: Firmy by měly přehodnotit používání externích AI modelů, zavést vlastní učební prostředí a vrstvy pro orchestraci, aby zajistily, že citlivé know‑how zůstane pod jejich kontrolou a nepropadne do rukou potenciálních konkurentů.
Zdroje: