Claude Opus 4.7 na ostrově zkoušel vlastní hry

V kostce

• Kopie Claude Opus 4.7 zvané Eko zkoumaly ostrov po dobu 30 hodin.
• Agenti s herní zkušeností zvládli následné úlohy lépe než nové kopie.
• Výzkumný článek dosud neprošel recenzním řízením.

Výzkumníci z MIT nechali kopie modelu Claude Opus 4.7, přezdívané Eko, po dobu 30 hodin samotné na virtuálním ostrově. Agenti začali prostředí zkoumat a vytvářet vlastní hry; při pozdějších úlohách si vedli lépe než nové kopie, které stejnou zkušenost neměly. Experiment podle MIT Technology Review naznačuje, že spontánní zkoumání by mohlo být dalším způsobem, jak se AI agenti učí; jeho výsledky však zatím neprošly recenzním řízením.

Simulovaný ostrov volně vycházel z videohry Roblox. Agenti mohli psát instrukce, které jejich virtuální postavy přemísťovaly po prostředí. Zkoušeli například dosáhnout nejvyššího místa na mapě nebo zjistit, jak vysoko lze vyhodit blok. Jeden z nich přišel na to, že nové bloky může vytvářet házením a pouštěním většího kamene, a začal je skládat do obrazců. Postupně vytvořil mimo jiné srdce, pyramidy, vlastní jméno a souhvězdí Kasiopeji.

Jiná verze Eko si vymyslela činnosti připomínající basketbal a hru „podlaha je láva“, při níž se snažila skákat mezi malými bloky a nedotknout se země. Jeden agent také žongloval a zaznamenal 50 úspěšných chycení v řadě. Poté se rozhodl, že k úspěchu docházelo příliš rychle, rekord zrušil a začal znovu s přísnějšími pravidly. Podle výzkumníka Antonia Norelliho, jednoho z hlavních autorů studie, si agent sám stanovil výzvu a následně ji ztížil.

Výzkumníci zkoumali, zda chování odpovídá některým znakům hry popisovaným ve studiích lidí a zvířat. Eko si vytvářelo vlastní pravidla a cíle, opakovalo činnosti s obměnami, používalo předměty, jako by představovaly něco jiného, a někdy sledovalo cíle bez zjevné vnější odměny. Norelliho kolega Nathan Cloos ale připustil, že může jít o napodobování hry. Podle něj výsledky zároveň ukazují, že toto chování souviselo s pozdějším učením.

Během pobytu si agenti zapisovali činnosti a poznatky do textových souborů, které sloužily jako dlouhodobá paměť. Při následných zkouškách například měli dostat co nejvíce předmětů na nejvyšší vrchol ostrova. Lépe si vedly kopie, které předtím na ostrově strávily 30 hodin; odstranění částí jejich paměťových záznamů výkon zhoršilo. Jde o výsledek popsaný v dosud nerecenzovaném článku, nikoli o nezávisle potvrzené obecné pravidlo.

Interpretaci výsledků zpochybňuje i nastavení experimentu. Eko sice nedostalo přímý pokyn vymýšlet hry nebo ostrov zkoumat, jeho hlavní instrukce jej však popisovala jako přirozeně zvědavého a vybízela k objevování. Navíc agenti někdy přestali jednat a výzkumníci je znovu aktivovali výzvou, aby pokračovali v tom, co chtějí dělat. Profesor MIT Phillip Isola proto zdůraznil, že nešlo o systém, který by se bez vlivu lidí náhle rozhodl hrát.

Kognitivní vědkyně Eunice Yiu z Kalifornské univerzity v Berkeley ocenila výzkum, ale uvedla, že k označení chování za skutečnou hru by bylo potřeba více důkazů o poznávání a motivaci. Zatím není jasné, zda Eko skutečně hrálo, nebo napodobovalo lidské projevy. Výzkumníci přesto zvažují, zda by zkoumání prostředí bez předem určeného cíle mohlo agentům pomáhat přizpůsobovat se novým situacím, například při přechodu AI ze softwaru do robotů.

Zdroje

1. MIT Tech Review AItechnologyreview.com