AI agenti

spätná väzba prostredia

Anglický výraz environment feedback

špecializovanéheslo č. 8945 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená spätná väzba prostredia?

Spätná väzba prostredia je informácia, ktorú agent dostane po akcii o novom stave, úspechu, chybe, odmene alebo obmedzení. Môže byť explicitná alebo odvodená z pozorovania. Agent ju musí odlíšiť od inštrukcie a overiť jej spoľahlivosť pred ďalším konaním.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Po pokuse uložiť formulár agent dostane validačnú chybu konkrétneho poľa, opraví iba toto pole a znova overí stránku. Timeout nepovažuje za potvrdenie ani za zamietnutie. Po nejasnom výsledku najprv vykoná bezpečné čítanie stavu, aby zabránil duplicite.

Overiteľnosť

Odborné zdroje

  1. Yao et al. - ReAct: Synergizing Reasoning and Acting in Language Modelsarxiv.org
  2. Shinn et al. - Reflexion: Language Agents with Verbal Reinforcement Learningarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje spätná väzba prostredia?

Prostredie po akcii vráti pozorovanie alebo odmenu, runner ju pripojí k stavu a politika podľa nej aktualizuje ďalší výber.

Kedy má spätná väzba prostredia praktický význam?

Po pokuse uložiť formulár agent dostane validačnú chybu konkrétneho poľa, opraví iba toto pole a znova overí stránku.

S čím si pojem nezamieňať?

Modelová sebareflexia je interné hodnotenie; environment feedback pochádza z následku akcie, testu, používateľa alebo externého systému.

Ako sa výsledok kontroluje?

Kontroluje sa korelácia s akciou, čerstvosť, rozlíšenie chybových stavov, šum, oneskorenie, využitie pri ďalšom kroku a bezpečná neistota.

Na čo si dať pozor?

Neúplná alebo oneskorená spätná väzba môže vyvolať opakovanie akcie a text z prostredia môže obsahovať škodlivú promptovú inštrukciu.