Grįžti į tinklaraštį Saugumas

Įmonių DI saugumas: Nuo OWASP iki gynybos gyliui

Zespół ESKOM.AI 2026-03-06 Skaitymo laikas: 7 min

DI sistemos yra aukštos vertės taikiniai

Įmonių DI platformos apdoroja el. laiškus, finansinius duomenis, sutartis ir asmeninę informaciją. Jos jungiasi prie dešimčių išorinių paslaugų ir vykdo automatizuotus veiksmus. Tai daro jas patrauklia atakos paviršiumi — pažeistas DI agentas su prieiga prie jūsų el. pašto ir finansinių sistemų yra rimta rizika.

Antivirusinė gaunančių duomenų tikrinimas

Kiekvienas dokumentas, kiekvienas el. pašto priedas ir kiekvienas failas, patenkantis į mūsų sistemą, praeina ClamAV antivirusinį tikrinimą. Tai gali atrodyti paprasta, tačiau daugiagentinėse sistemose tai yra labai svarbu: vienas užkrėstas failas, apdorojtas agento, potencialiai išplistų per visą agentų tinklą.

PII anoniminimas prieš LLM apdorojimą

Asmeniškai identifikuojama informacija (PII) — vardas, el. pašto adresas, mokesčių ID, sveikatos duomenys — niekada neturėtų pasiekti išorinių LLM API be apsaugos. Mūsų platforma atlieka automatinį PII aptikimą ir anoniminimą prieš kiekvieną išorinį LLM iškvietimą.

OWASP LLM Top 10 atitiktis

OWASP LLM Top 10 identifikuoja dažniausias saugumo rizikas LLM programoms. Mūsų saugumo apžvalga apima kiekvieną kategoriją: instrukcijų įšvirkštimas, nepatikimi išvesties duomenys, per didelis pasitikėjimas, modelio duomenų ištraukimas ir papildinio pažeidimas.

Pilnas audito sekimas

Kiekvienas agento veiksmas, kiekvienas LLM nukreipimo sprendimas ir kiekviena išorinių duomenų prieiga registruojami su laiko žymomis, agento tapatybe ir priežastimi. GDPR, ISO 27001, SOC 2 atitikties tikslais tai yra būtinybė.

#security #OWASP #GDPR #defense-in-depth