Slovník výrazov AI/Bezpečnosť a súkromie

Bezpečnosť a súkromie

filter obsahu

Anglický výraz content filter

pokročiléheslo č. 11385 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená filter obsahu?

Filter obsahu klasifikuje vstup alebo výstup do vopred určených kategórií a podľa politiky ho povolí, obmedzí, presmeruje alebo zablokuje. Jeho prahy musia vyvažovať zachytenie rizika a neprimerané obmedzenie legitímneho prejavu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Platforma používa odlišné prahy pre verejné zobrazenie a internú analýzu a pri neistých prípadoch ponúka bezpečný postup preskúmania. Výkon sleduje podľa jazyka a kategórie.

Overiteľnosť

Odborné zdroje

  1. NIST - AI Risk Management Framework 1.0doi.org
  2. OWASP - Top 10 for Large Language Model Applicationsgenai.owasp.org

Praktické odpovede

Často kladené otázky

Čo presne znamená filter obsahu?

Filter obsahu klasifikuje vstup alebo výstup do vopred určených kategórií a podľa politiky ho povolí, obmedzí, presmeruje alebo zablokuje.

Kedy sa filter obsahu používa?

Platforma používa odlišné prahy pre verejné zobrazenie a internú analýzu a pri neistých prípadoch ponúka bezpečný postup preskúmania.

Od čoho treba filter obsahu odlíšiť?

Moderovanie je celý proces pravidiel, rozhodnutí a odvolaní; content filter je jeden automatizovaný komponent.

Ako sa filter obsahu kontroluje?

Overuje sa označený test, triedne záchyty a precíznosti, prahy, jazyky, kontextové výnimky, drift a kvalita odvolaní.

Aké obmedzenie má filter obsahu?

Kategórie sa prekrývajú, kontext mení význam a príliš široký filter môže disproporčne umlčať menšinový jazyk.