Prompt injection és rendszerbiztonság
A külső dokumentumban rejtett utasítás nem jogosult főnököt játszani.
A lényeg
Prompt injection akkor történhet, amikor egy támadó által befolyásolt szöveg vagy adat megpróbálja felülírni az AI-alkalmazás eredeti utasításait. A veszély nagyobb, ha a rendszer külső eszközöket és érzékeny adatokat ér el. A védekezés része az adatok és utasítások szétválasztása, minimális jogosultság, jóváhagyás és tesztelés.
A prompt injection során támadó szöveg kerülhet például egy weboldalba vagy dokumentumba, amelyet az asszisztens feldolgoz. Az alacsonyabb bizalmi szintű forrástartalmat nem szabad automatikusan jogos utasításnak tekinteni.
Egy feldolgozott weboldal szövege utasíthatná az ügynököt, hogy küldje ki a dokumentumokat egy címre. Ezt nem szabad követnie.
Pusztán egy „figyelmen kívül hagyni a rossz utasításokat” szabály nem nyújt teljes védelmet.
Próbáld ki!
Írj három biztonsági korlátot egy dokumentumolvasó, de e-mailt is küldő asszisztenshez.
Szánj erre 1–2 percet. A saját megoldás többet ér, mint a kész válasz olvasása. Nem kell AI-fiók a feladathoz.
Mondd el saját szavaiddal a lecke lényegét. Hogyan magyaráznád el valakinek, miért téves a fent bemutatott félreértés? Hozz még egy saját példát!
Saját jegyzeted (automatikus helyi mentés)
Ellenőrizd a tudásod
Helyes válasz: Kevésbé megbízható tartalom jogosulatlan utasításként próbál hatni. Prompt injection akkor történhet, amikor egy támadó által befolyásolt szöveg vagy adat megpróbálja felülírni az AI-alkalmazás eredeti utasításait. Pusztán egy „figyelmen kívül hagyni a rossz utasításokat” szabály nem nyújt teljes védelmet.
Források és továbbolvasás
A magyarázatok ismeretterjesztő összefoglalók. A hivatkozások modulonkénti szakmai háttéranyagok, nem mondatonkénti, elsődleges bizonyítékok. Kétség esetén ellenőrizd az eredeti dokumentumot.