KI-Alignment
Die Quellen sind über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 4
Neueste datierte Quelle: 2022-12-15
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Im Glossar öffnen Lesenotizen · Strukturierter Dateneintrag
Einfach erklärt
Arbeit daran, dass KI-Verhalten zu beabsichtigten Zielen, Grenzen und menschlichen Bewertungen passt. [1] [2]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Grenzen und Unterschiede
Alignment ist ein Teil der KI-Sicherheit. Die Wünsche eines Nutzers zu befolgen kann trotzdem Schaden verursachen. Bessere Ergebnisse in einem Alignment-Test klären nicht jedes Risiko. [1] [4]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Ausführlicher erklärt
Ein Teil der Alignment-Arbeit trainiert Modelle mithilfe menschlicher Rückmeldungen oder schriftlicher Grundsätze darauf, Anweisungen zu befolgen oder schädliche Antworten zu vermeiden. Die breitere Forschung fragt auch, ob ein gelerntes System das von seinen Entwicklern beabsichtigte Ziel verfolgt. [1] [2] [3]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Wie das zur Karte passt
Frage, wessen Ziele befolgt werden, wie Konflikte behandelt werden und welche Belege die Aussage stützen. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Diese Seite teilen
https://theaiatlas.org/ideas/alignment/
Bild zum Teilen herunterladen · Vektorgrafik
Vorschaubilder sind Zusammenfassungen. Teile den Seitenlink mit, damit andere die Belege prüfen können.
Quellen und Umfang unserer Lektüre
1. Training language models to follow instructions with human feedback
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2022-03-04
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Kurzfassung, das Verfahren mit Beispielen, Vergleichen und Belohnungsmodell in Abschnitt 3.1 sowie die Einschränkungen in Abschnitt 5.3 wurden gelesen. Menschliche Präferenzurteile und bessere Ergebnisse bei den Aufgaben der Autoren belegen keine universelle Ausrichtung oder Sicherheit. Das Veröffentlichungsdatum wurde auf der arXiv-Kurzfassungsseite geprüft.
2. Constitutional AI: Harmlessness from AI Feedback
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2022-12-15
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Kurzfassung und Metadaten wurden gelesen; sie beschreiben Modellkritiken, Überarbeitungen und KI-Präferenzrückmeldungen anhand von Menschen geschriebener Prinzipien. Verwendet als Beispiel für Ausrichtungsmethoden; die Aussagen des Artikels bescheinigen nicht jeder Ausgabe Harmlosigkeit.
3. Risks from Learned Optimization in Advanced Machine Learning Systems
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2019-06-05
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Kurzfassung und Überarbeitungsverlauf wurden gelesen; sie führen Mesa-Optimierung und das Verhältnis zwischen gelernten Zielen und Trainingszielen ein.
4. Concrete Problems in AI Safety
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2016-06-21
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Die fünf Probleme unbeabsichtigter Risiken in der Kurzfassung wurden gelesen, darunter das Ausnutzen von Belohnungsregeln und veränderte Datenverteilungen. Die Quelle nennt keine allgemeine Katastrophenwahrscheinlichkeit.
Ausgabe und maschinenlesbare Belege
Inhaltsversion 0.20.0. Quellenstichtag 2026-09-15; das bedeutet nicht, dass jede Quelle an diesem Tag gelesen wurde.
Festgehaltenes vollständiges Datenpaket · Vollständige Quellennotizen · Anleitung für KI-Agenten