Bestärkendes Lernen aus menschlichen Rückmeldungen (RLHF)
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2022-03-04
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Im Glossar öffnen Lesenotizen · Strukturierter Dateneintrag
Einfach erklärt
Training, das menschliche Bewertungen nutzt, um bevorzugtes Modellverhalten zu belohnen. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Grenzen und Unterschiede
Eine bevorzugte Antwort kann trotzdem falsch sein. Auch können die Personen, die Rückmeldungen geben, nicht die Werte und Bedürfnisse aller Nutzer vertreten. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Ausführlicher erklärt
Beim InstructGPT-Ansatz vergleichen Menschen mögliche Antworten. Ihre Entscheidungen trainieren ein separates Belohnungsmodell, das Antworten bewertet. Weiteres Training fördert beim Sprachmodell Antworten mit höheren Bewertungen. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Wie das zur Karte passt
Frage, wer die Rückmeldungen gab, welche Anweisungen diese Personen erhielten und welche Aufgaben sie beurteilten. [1]
Diese Erklärung zitieren oder eine Korrektur vorschlagen
Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen
Diese Seite teilen
https://theaiatlas.org/ideas/rlhf/
Bild zum Teilen herunterladen · Vektorgrafik
Vorschaubilder sind Zusammenfassungen. Teile den Seitenlink mit, damit andere die Belege prüfen können.
Quellen und Umfang unserer Lektüre
1. Training language models to follow instructions with human feedback
Die Quelle ist über 18 Monate alt.
Veröffentlichungsdaten und Alter der Quellen
Anzahl der Quellen: 1
Neueste datierte Quelle: 2022-03-04
Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.
Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.
Kurzfassung, das Verfahren mit Beispielen, Vergleichen und Belohnungsmodell in Abschnitt 3.1 sowie die Einschränkungen in Abschnitt 5.3 wurden gelesen. Menschliche Präferenzurteile und bessere Ergebnisse bei den Aufgaben der Autoren belegen keine universelle Ausrichtung oder Sicherheit. Das Veröffentlichungsdatum wurde auf der arXiv-Kurzfassungsseite geprüft.
Ausgabe und maschinenlesbare Belege
Inhaltsversion 0.20.0. Quellenstichtag 2026-09-15; das bedeutet nicht, dass jede Quelle an diesem Tag gelesen wurde.
Festgehaltenes vollständiges Datenpaket · Vollständige Quellennotizen · Anleitung für KI-Agenten