Ein Wegweiser durch KI-Positionen

In-Context Learning / Lernen im Kontext

Die datierten Quellen sind über 18 Monate alt; bei anderen Quellen fehlt das Datum.

Veröffentlichungsdaten und Alter der Quellen

Anzahl der Quellen: 3

Neueste datierte Quelle: 2022-09-24

Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.

Einige Veröffentlichungsdaten fehlen. Die neueste datierte Quelle ist daher nicht unbedingt die neueste Quelle insgesamt.

Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.

Im Glossar öffnen Lesenotizen · Strukturierter Dateneintrag

Einfach erklärt

Material im aktuellen Prompt nutzen, um eine Antwort anzupassen, ohne einen neuen Trainingslauf. [1] [2]

Diese Erklärung zitieren oder eine Korrektur vorschlagen

Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen

Grenzen und Unterschiede

Das bedeutet nicht, dass ein Gespräch das zugrunde liegende Modell dauerhaft trainiert. Erklärungen des internen Mechanismus hängen weiterhin vom untersuchten Modell und den verfügbaren Belegen ab. [3] [2]

Diese Erklärung zitieren oder eine Korrektur vorschlagen

Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen

Ausführlicher erklärt

Ein Prompt kann Beispiele oder ein Muster liefern, das die nächste Antwort anleitet. So lässt sich das Verhalten für manche Aufgaben ohne neuen Trainingslauf anpassen. Forschende untersuchen auch, wie dieses Verhalten in Transformern entsteht. [1] [2]

Diese Erklärung zitieren oder eine Korrektur vorschlagen

Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen

Wie das zur Karte passt

Lesefrage im Atlas: Veränderte eine Demonstration das Modell selbst oder nur die Informationen in seiner Eingabe? [1] [2]

Diese Erklärung zitieren oder eine Korrektur vorschlagen

Link zu dieser Erklärung · Korrektur vorschlagen · So funktionieren Korrekturen

Diese Seite teilen

https://theaiatlas.org/ideas/in-context-learning/

Bild zum Teilen herunterladen · Vektorgrafik

Vorschaubilder sind Zusammenfassungen. Teile den Seitenlink mit, damit andere die Belege prüfen können.

Quellen und Umfang unserer Lektüre

  1. 1. LLMs: Fine-tuning, distillation, and prompt engineering

    Veröffentlichungsdaten und Alter der Quellen

    Anzahl der Quellen: 1

    Die Veröffentlichungsdaten sind nicht bekannt.

    Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.

    Einige Veröffentlichungsdaten fehlen. Die neueste datierte Quelle ist daher nicht unbedingt die neueste Quelle insgesamt.

    Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.

    Feinabstimmung und Prompt Engineering wurden gelesen, einschließlich des Unterschieds zwischen Parameteränderungen und Beispielen in der Eingabe. Verwendet zur Unterscheidung dieser Verfahren, ohne allgemeine Behauptungen zu übernehmen, Feinabstimmung sei immer nötig oder verbessere jede Aufgabe.

  2. 2. In-context Learning and Induction Heads

    Die Quelle ist über 18 Monate alt.

    Veröffentlichungsdaten und Alter der Quellen

    Anzahl der Quellen: 1

    Neueste datierte Quelle: 2022-09-24

    Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.

    Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.

    Zusammenfassung und Einreichungsangaben gelesen. Die Autoren berichten kausale Belege in kleinen Modellen, die nur Attention verwenden, und indirekte oder korrelative Belege für ihre weitergehende Hypothese zum Mechanismus. Das Glossar stellt diese Hypothese nicht als für alle Modelle geklärt dar.

  3. 3. Language Models are Few-Shot Learners

    Die Quelle ist über 18 Monate alt.

    Veröffentlichungsdaten und Alter der Quellen

    Anzahl der Quellen: 1

    Neueste datierte Quelle: 2020-05-28

    Bewertet zum Quellenstichtag dieser Ausgabe: 2026-09-15. Grenze von 18 Monaten: 2025-03-15.

    Das Alter einer Veröffentlichung sagt nicht, ob eine Aussage noch zutrifft. Erneutes Lesen macht eine alte Veröffentlichung nicht neuer. Ein Aktualisierungsdatum belegt nicht, dass auch die von uns verwendete Passage überarbeitet wurde.

    Zusammenfassung, Abschnitt 2 zu Zero-Shot- und Few-Shot-Verfahren sowie Abschnitt 4 zu Überschneidungen mit Trainingsdaten gelesen. Version 4 stammt vom 22. Juli 2020. Die Ergebnisse betreffen GPT-3 und sind keine aktuelle Modellrangliste; festgestellte Überschneidungen erhöhten die Werte nicht durchgängig.

Ausgabe und maschinenlesbare Belege

Inhaltsversion 0.20.0. Quellenstichtag 2026-09-15; das bedeutet nicht, dass jede Quelle an diesem Tag gelesen wurde.

Festgehaltenes vollständiges Datenpaket · Vollständige Quellennotizen · Anleitung für KI-Agenten