AI agenti

trajektória

Anglický výraz trajectory

špecializovanéheslo č. 8935 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená trajektória?

Trajektória agenta je usporiadaná postupnosť stavov, pozorovaní, akcií a prípadných odmien od začiatku do ukončenia úlohy. Používa sa na analýzu správania, hodnotenie alebo učenie politiky. Dve trajektórie môžu dosiahnuť rovnaký výsledok s odlišným rizikom a nákladmi.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Eval uchová trajektóriu riešenia webovej úlohy vrátane stránok, akcií, chýb a finálneho stavu. Hodnotiteľ posúdi nielen výsledok, ale aj zakázané kroky a zbytočné volania. Pred použitím na tréning sa odstránia citlivé údaje a preverí úspech.

Overiteľnosť

Odborné zdroje

  1. Liu et al. - AgentBench: Evaluating LLMs as Agentsarxiv.org
  2. Yao et al. - ReAct: Synergizing Reasoning and Acting in Language Modelsarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje trajektória?

Prostredie zaznamenáva časovo zoradené prechody medzi stavmi po každej akcii a k epizóde priradí výsledok, odmenu a dôvod skončenia.

Kedy má trajektória praktický význam?

Eval uchová trajektóriu riešenia webovej úlohy vrátane stránok, akcií, chýb a finálneho stavu.

S čím si pojem nezamieňať?

Action trace sa sústreďuje na audit krokov; trajectory je formálnejší objekt zahŕňajúci aj stavy a spätnú väzbu počas celej epizódy.

Ako sa výsledok kontroluje?

Meria sa úspech, dĺžka, kumulatívna odmena, neplatné akcie, náklady, bezpečnostné porušenia a kvalita kreditného priradenia.

Na čo si dať pozor?

Úspešná koncová odpoveď môže pochádzať z nebezpečnej trasy a chybne označená trajektória naučí model opakovať neželané kroky.