Bestärkendes Lernen
Die Quellen sind über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 3
Neueste datierte Quelle: 2022-03-04
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Im Glossar öffnen Lesenotizen · Strukturierter Dateneintrag
Einfach erklärt
Training, das Belohnungen aus versuchten Handlungen nutzt, um die Handlungsauswahl eines Systems anzupassen. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Grenzen und Unterschiede
Eine höhere Belohnung kann am beabsichtigten Ergebnis vorbeigehen. RLHF ist ein bestimmter Ansatz mit menschlichen Rückmeldungen, keine Bezeichnung für jedes bestärkende Lernen. [2] [3]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Ausführlicher erklärt
Ein System probiert Handlungen in einer Umgebung aus und erhält Zahlenwerte als Rückmeldung. Das Training zielt auf mehr Belohnung über die Zeit. Ein Spielstand kann Rückmeldung liefern; andere Aufgaben brauchen andere Belohnungsregeln. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Wie das zur Karte passt
Prüfe zuerst, wofür es Belohnungen gibt, wenn behauptet wird, Training habe das Verhalten verbessert. [2]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Diese Seite teilen
https://theaiatlas.org/ideas/reinforcement-learning/
Bild zum Teilen herunterladen · Vektorgrafik
Vorschaubilder sind Zusammenfassungen. Teile den Seitenlink mit, damit andere die Belege prüfen können.
Quellen und Umfang unserer Lektüre
1. Deep Reinforcement Learning
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2016-06-17
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Einleitung zur Definition von bestärkendem Lernen durch Versuche, Rückmeldungen und langfristige Belohnungen gelesen. Verwendet für den Trainingsaufbau, ohne Vergleiche mit Menschen oder Aussagen über allgemeine Fähigkeiten zu übernehmen.
2. Concrete Problems in AI Safety
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2016-06-21
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Die fünf Probleme unbeabsichtigter Risiken in der Kurzfassung wurden gelesen, darunter das Ausnutzen von Belohnungsregeln und veränderte Datenverteilungen. Die Quelle nennt keine allgemeine Katastrophenwahrscheinlichkeit.
3. Training language models to follow instructions with human feedback
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2022-03-04
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Kurzfassung, das Verfahren mit Beispielen, Vergleichen und Belohnungsmodell in Abschnitt 3.1 sowie die Einschränkungen in Abschnitt 5.3 wurden gelesen. Menschliche Präferenzurteile und bessere Ergebnisse bei den Aufgaben der Autoren belegen keine universelle Ausrichtung oder Sicherheit. Das Veröffentlichungsdatum wurde auf der arXiv-Kurzfassungsseite geprüft.
Ausgabe und maschinenlesbare Belege
Inhaltsversion 0.20.0. Quellenstichtag 2026-09-15; das bedeutet nicht, dass jede Quelle an diesem Tag gelesen wurde.
Festgehaltenes vollständiges Datenpaket · Vollständige Quellennotizen · Anleitung für KI-Agenten