Prompt-Injection und nicht vertrauenswürdige Inhalte
Die datierten Quellen sind über 18 Monate alt; bei anderen Quellen fehlt das Datum.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 2
Neueste datierte Quelle: 2023-11-27
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Einige Veröffentlichungsdaten fehlen. Die neueste datierte Quelle ist daher nicht unbedingt die neueste Quelle insgesamt.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Im Glossar öffnen Lesenotizen · Strukturierter Dateneintrag
Einfach erklärt
Eingaben, die ein Modell von den vorgesehenen Anweisungen der Anwendung abbringen, auch durch Material aus externen Inhalten. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Grenzen und Unterschiede
Eine unerwünschte Antwort und eine nicht erlaubte Aktion in einem externen System sind verschiedene Ergebnisse. Der Umgang mit Eingaben, Berechtigungsgrenzen und Tests mit gezielten Angriffen betreffen unterschiedliche Teile des Risikos. [1] [2]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Ausführlicher erklärt
Eine Prompt-Injection verändert das Verhalten durch Eingaben, die das Modell verarbeitet. Sie kann direkt von einem Nutzer kommen oder indirekt über abgerufene Dokumente, Webseiten oder andere Quellen. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Wie das zur Karte passt
Ein konkretes Problem der Systemsicherheit, dessen Folgen vom Kontext und von den Zugriffsrechten abhängen. Es entscheidet keine allgemeinen Prognosen über KI-Katastrophen. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Diese Seite teilen
https://theaiatlas.org/ideas/prompt-injection/
Bild zum Teilen herunterladen · Vektorgrafik
Vorschaubilder sind Zusammenfassungen. Teile den Seitenlink mit, damit andere die Belege prüfen können.
Quellen und Umfang unserer Lektüre
1. LLM01:2025 Prompt Injection
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Die Veröffentlichungsdaten sind nicht bekannt.
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Einige Veröffentlichungsdaten fehlen. Die neueste datierte Quelle ist daher nicht unbedingt die neueste Quelle insgesamt.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Definitionen direkter und indirekter Einschleusung von Anweisungen, kontextabhängige Auswirkungen und Gegenmaßnahmen wurden gelesen, darunter Prüfung, Berechtigungsgrenzen und Tests mit gezielten Angriffen. Die Kennzeichnung 2025 ist eine Ausgabe, kein bestätigtes Veröffentlichungsdatum. Die Quelle belegt nicht, dass eine Gegenmaßnahme jeden Angriff ausschließt.
2. Guidelines for secure AI system development: Secure design
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2023-11-27
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Bedrohungsmodellierung, Aufgabeneignung, Modellauswahl, beschränkte Aktionen und minimale Berechtigungen wurden gelesen. Das Datum folgt der übergeordneten Richtlinienveröffentlichung. Verwendet für Gestaltungsprinzipien, nicht als Bescheinigung, dass eine bestimmte Konfiguration sicher ist.
Ausgabe und maschinenlesbare Belege
Inhaltsversion 0.20.0. Quellenstichtag 2026-09-15; das bedeutet nicht, dass jede Quelle an diesem Tag gelesen wurde.
Festgehaltenes vollständiges Datenpaket · Vollständige Quellennotizen · Anleitung für KI-Agenten