Slovník výrazov AI/Bezpečnosť a súkromie

Bezpečnosť a súkromie

exfiltrácia dát

Anglický výraz data exfiltration

základnéheslo č. 11155 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená exfiltrácia dát?

Exfiltrácia dát je neoprávnené prenesenie alebo sprístupnenie údajov mimo povoleného systému či hranice dôvery. V AI môže prebiehať cez logy, prompty, modelové odpovede, nástroje, úložiská alebo kompromitovaný konektor.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Agent má prístup iba k potrebným priečinkom a odchádzajúce volania prechádzajú kontrolou cieľa a obsahu. Organizácia sleduje objem exportov a pri incidente vie zrušiť tokeny a zablokovať kanál.

Overiteľnosť

Odborné zdroje

  1. NIST - Zero Trust Architecturecsrc.nist.gov
  2. OWASP - Top 10 for Large Language Model Applicationsgenai.owasp.org

Praktické odpovede

Často kladené otázky

Čo presne znamená exfiltrácia dát?

Exfiltrácia dát je neoprávnené prenesenie alebo sprístupnenie údajov mimo povoleného systému či hranice dôvery.

Kedy sa exfiltrácia dát používa?

Agent má prístup iba k potrebným priečinkom a odchádzajúce volania prechádzajú kontrolou cieľa a obsahu.

Od čoho treba exfiltrácia dát odlíšiť?

Data leakage môže byť aj neúmyselné odhalenie; exfiltration zvyčajne označuje neoprávnený odsun dát aktérom alebo škodlivým procesom.

Ako sa exfiltrácia dát kontroluje?

Testujú sa všetky výstupné kanály, oprávnenia, egress pravidlá, logovanie, detekcia objemu, reakcia a následná forenzná dohľadateľnosť.

Aké obmedzenie má exfiltrácia dát?

Šifrované spojenie nechráni pred oprávnenou aplikáciou, ktorá údaje odošle nesprávnemu alebo kompromitovanému cieľu.