Quellenstichtag: 2026-09-15. Die Positionen sind redaktionelle Einordnungen und nicht von den genannten Akteuren bestätigt. Erklärte Richtlinien und überprüfte Umsetzung sind getrennt zu betrachten.
Recherche und Texte entstehen mit KI-Unterstützung. Eine unabhängige Faktenprüfung durch Menschen hat nicht stattgefunden. Die Recherchemethode lesen
Akteur 01 · Person
Eliezer Yudkowsky
Redaktioneller Orientierungspunkt: x -87, y 87. Bereiche: x [-100, -72], y [72, 100]. Darstellungseinheiten, keine Prozentwerte.
Geltungsbereich: Superintelligenz und die Entwicklung, die dorthin führen könnte.
Verwendete Quellen: Material aus erster Hand.
Das ist die von ihm vertretene Position, keine Vorhersage dieses Projekts.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Spricht sich dagegen aus, mit den heutigen Methoden eine Superintelligenz zu bauen. [18]
Welche Aussage die Karte abbildet
Die Buchankündigung vertritt die These, dass übermenschliche KI die Menschheit bedrohen würde. Die Karte dokumentiert dieses Argument; sie stellt dieses Ergebnis nicht als gesichert dar. [18]
Entwicklungstempo: Spricht sich dagegen aus, mit den heutigen Methoden eine Superintelligenz zu entwickeln. [yudkowsky-book]
Sorge: Beschreibt übermenschliche KI als Bedrohung, die zum Aussterben der Menschheit führen könnte. [yudkowsky-book]
Kontext: MIRI fordert unabhängig davon ein durchsetzbares internationales Moratorium für ASI. [miri-position]
Geltungsbereich: Der Vorschlag vom April 2026 für eine weltweite Pause beim Training der leistungsfähigsten allgemein einsetzbaren KI.
Verwendete Quellen: Material aus erster Hand.
Innerhalb einer Bewegung gibt es unterschiedliche Positionen; dieser Punkt steht für ihren veröffentlichten Vorschlag.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Fordert eine gemeinsam vereinbarte weltweite Pause beim Training der leistungsfähigsten KI. [31]
Die Grenzen des Vorschlags
Der Vorschlag vom April 2026 fordert Bedingungen für Sicherheit und demokratische Kontrolle, bevor leistungsfähigere allgemein einsetzbare KI entwickelt wird. Er unterscheidet dieses Ziel von eng begrenzten Anwendungen wie der Erkennung medizinischer Bilder. [31]
Entwicklungstempo: Fordert eine gemeinsam vereinbarte weltweite Pause statt des Alleingangs eines einzelnen Unternehmens. [pauseai-proposal-2026]
Passage finden: Vorschlag vom 5. April 2026; Einleitung und Abschnitt „Treaty Measures“
Sorge: Der Vorschlag sieht gefährliche KI-Fortschritte als Grund für internationale Zurückhaltung. [pauseai-proposal-2026]
Passage finden: Vorschlag vom 5. April 2026; Einleitung und Abschnitt „Treaty Measures“
Geltungsbereich: Beschränkung von Superintelligenz, kein Verbot sämtlicher KI-Anwendungen oder der Sicherheitsforschung.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Die an Bedingungen geknüpfte Zurückhaltung bei Superintelligenz ist durch Berichte belegt. Davon getrennt steht seine direkt gelesene Darstellung von Kontrollrisiken. Sein Forschungsvorschlag ist keine nachgewiesene Sicherheitslösung.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet Zurückhaltung bei Superintelligenz und Forschung zum Erhalt menschlicher Kontrolle. [22][34]
Zwei unterschiedliche Arten von Belegen
Seine Unterstützung des Verbots wird in Berichten genannt; seine Sorge über Kontrollverlust äußert er direkt in der LawZero-Ankündigung. Daraus lässt sich keine zahlenmäßige Risikoeinschätzung ableiten. [22][34]
Entwicklungstempo: Wird als Unterzeichner des an Bedingungen geknüpften Verbots von Superintelligenz genannt. [bengio-signature]
Entwicklungstempo: Die Erklärung nennt einen Konsens über die Sicherheit und die Unterstützung der Öffentlichkeit als Voraussetzungen für eine Aufhebung des Verbots. [superintelligence-statement]
Sorge · stützender Beleg: Warnt vor Täuschung, Selbsterhaltung und dem Verlust menschlicher Kontrolle und schlägt zugleich Sicherheitsforschung vor. [bengio-lawzero-2025]
Geltungsbereich: Die Weiterentwicklung besonders leistungsfähiger KI, vor allem unkontrollierte Selbstverbesserung.
Verwendete Quellen: Material aus erster Hand.
Ein langsameres Tempo bedeutet keinen Stopp. Gemeinsam abgestimmte Schritte bleiben Vorschläge; eine unabhängige Prüfung der tatsächlichen Umsetzung wird nicht behauptet.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Fordert eine langsamere Weiterentwicklung der leistungsfähigsten KI, während die KI-Entwicklung insgesamt weitergeht. [10]
Was mit einem langsameren Tempo gemeint ist
Sein Essay vom September schlägt externe Prüfer und eine Abstimmung zwischen Unternehmen und Regierungen vor. Er argumentiert, dass zusätzliche Zeit bessere Schutzmaßnahmen ermöglichen könnte; er fordert keinen Stopp aller KI-Arbeiten. [10]
Entwicklungstempo: Schlägt ausdrücklich vor, die Weiterentwicklung der leistungsfähigsten KI zu verlangsamen. [amodei-pacing]
Sorge: Äußert große Sorge über Kontrollverlust und Missbrauch mit katastrophalen Folgen. [amodei-pacing]
Redaktioneller Orientierungspunkt: x 0, y 51. Bereiche: x [-35, 45], y [32, 86]. Darstellungseinheiten, keine Prozentwerte.
Klarheit der Belege: mittel · Umsetzung: veröffentlichte Richtlinie und angekündigte Zusage · Geprüft: 2026-09-15
Geltungsbereich: Veröffentlichte Schutzmaßnahmen des Unternehmens und seine angekündigte Zusage, externe Prüfer einzubinden.
Verwendete Quellen: Material aus erster Hand.
Externe Prüfer zuzulassen verpflichtet das Unternehmen nicht dazu, die gesamte Entwicklung der leistungsfähigsten KI zu verlangsamen. Die Responsible Scaling Policy trennt Unternehmenszusagen von Empfehlungen an die Branche; die Umsetzung ist nicht unabhängig geprüft.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Sagt externe Prüfung und an Bedingungen geknüpfte Schutzmaßnahmen zu, während die Entwicklung weitergeht. [10][33]
Warum die Position neu bewertet wurde
Der frühere Punkt deutete den Zugang für Prüfer als eine Drosselung des Entwicklungstempos. Eine getrennte Lektüre der Unternehmensrichtlinie stützt stattdessen eine Fortsetzung unter Bedingungen mit einem breiten Unsicherheitsbereich. Das ist eine redaktionelle Korrektur, kein Beleg für einen Meinungswechsel. [33][10]
Was sich überprüfen lässt
Die Richtlinie veröffentlicht Anforderungen an Risikoberichte und externe Prüfungen. Eine angekündigte Anforderung belegt nicht, dass sie in einem bestimmten Fall erfüllt wurde. [33]
Entwicklungstempo · stützender Beleg: Anhang A sagt Entwicklungsverzögerungen unter bestimmten, vom Verhalten der Konkurrenz abhängigen Umständen zu, keinen allgemeinen Trainingsstopp. [anthropic-rsp-3-4]
Passage finden: Anhang A, Abschnitte „Anthropic in the lead“ und „Competitors have strong safety measures“
Entwicklungstempo · Gegenargument: Das Unternehmen verpflichtet sich zur Zusammenarbeit mit externen Prüfern. Weitergehende Grenzen für die Entwicklung leistungsfähigerer Modelle erfordern eine gemeinsame Abstimmung. [amodei-pacing]
Passage finden: Dreistufiger Plan und Abschnitt „Embedded Evaluators“
Sorge · stützender Beleg: Die Richtlinie bewertet katastrophalen Missbrauch und Sabotage, die das spätere Risiko einer globalen Katastrophe erhöhen könnten. [anthropic-rsp-3-4]
Passage finden: Abschnitt 1 und Anforderungen an Risikoberichte
Geltungsbereich: Öffentlicher Vorschlag zur Steuerung der KI-Entwicklung und spätere Unterstützung eines weiteren Vorschlags.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Eine persönliche Unterstützungserklärung belegt keine Verlangsamung der Entwicklung bei ganz Google DeepMind.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Schlägt gemeinsame Schutzmaßnahmen für die leistungsfähigste KI und eine mögliche abgestimmte Verlangsamung vor. [13]
Ein Vorschlag unter Bedingungen
Sein Rahmenkonzept vom Juli verbindet Unterstützung für Innovation mit einem Standardisierungsgremium, das bei Bedarf eine Verlangsamung koordinieren könnte. Der Vorschlag belegt keine Änderung des Betriebs bei ganz Google DeepMind. [13]
Entwicklungstempo: Schlägt Standards vor, mit denen sich bei Bedarf eine gemeinsame Verlangsamung abstimmen ließe. [hassabis-framework]
Sorge: Warnt, dass Schutzmaßnahmen und Verständnis nicht mit der Entwicklung Schritt halten. [hassabis-framework]
Kontext: Hat Berichten zufolge die grundsätzliche Richtung von Amodeis Vorschlag unterstützt. [september-responses]
Geltungsbereich: Berichte über seine Unterstützung für ein langsameres Tempo im September 2026, ergänzt durch einen direkt gelesenen älteren Vorschlag zur Steuerung der KI-Entwicklung.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Die ursprünglichen Beiträge in sozialen Medien waren für diese Prüfung nicht verfügbar; die Berichterstattung ist verlinkt.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Unterstützt laut Berichten vom September ein langsameres Tempo; auch ältere, gemeinsam verfasste Vorschläge erwogen Grenzen für die leistungsfähigste KI. [12][47]
Was direkt belegt ist und was aus Berichten stammt
Der Artikel von 2023 ist direkt zugänglich. Die neuere Reaktion in sozialen Medien ist weiterhin nur über Berichte belegt; der ältere Vorschlag stellt keine unabhängige Bestätigung dieses Beitrags dar. [47][12]
Entwicklungstempo: Unterstützte ein langsameres Tempo und die Einbindung unabhängiger Prüfer. [september-responses]
Kontext · Kontext: Sein gemeinsam verfasster Vorschlag von 2023 erwog Grenzen für den Leistungszuwachs führender KI-Systeme, nahm aber weniger leistungsfähige Systeme davon aus. [altman-governance-2023]
Passage finden: Abschnitte „A starting point“ und „What's not in scope“
Redaktioneller Orientierungspunkt: x -11, y 9. Bereiche: x [-35, 20], y [0, 66]. Darstellungseinheiten, keine Prozentwerte.
Klarheit der Belege: mittel · Umsetzung: vom Unternehmen berichtete Zurückhaltung · Geprüft: 2026-09-15
Geltungsbereich: Ausgewählte Forschungsarbeiten an der leistungsfähigsten KI und die zugehörigen Kontrollen.
Verwendete Quellen: Material aus erster Hand.
Das Unternehmen berichtet über gezielte Beschränkungen, keinen vollständigen Trainingsstopp. Das Ausmaß der Sorge bleibt eine redaktionelle Einordnung.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Berichtet über gezielte Forschungspausen, während Schutzmaßnahmen verbessert werden. [11]
Wie die Unternehmensaussage zu verstehen ist
Das Unternehmen beschreibt, dass es bestimmte Forschungsarbeiten mit Werkzeugnutzung pausiert und einen Teil davon unter stärkeren Kontrollen wieder aufgenommen hat. Das spricht für gezielte Zurückhaltung; es belegt keinen unternehmensweiten Stopp. [11]
Entwicklungstempo: Berichtet über Beschränkungen ausgewählter Forschungsarbeiten an der leistungsfähigsten KI, bis stärkere Schutzmaßnahmen vorliegen. [openai-pacing]
Sorge: Sieht leistungsfähigere Cyberangriffe und Fehlentwicklungen bei der Ausrichtung von KI als Gründe für Schutzmaßnahmen. [openai-pacing]
Geltungsbereich: Persönliche Aussagen zum Ausbau besonders leistungsfähiger KI, zur Sorge um menschliche Kontrolle und zur berichteten Unterstützung eines langsameren Tempos.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Die Unterstützungserklärung vom September ist kurz und nur indirekt belegt. Ausbaupläne zeigen eine persönliche Präferenz, keine allgemeine Regulierungspolitik oder Sicherheitsbewertung eines Unternehmens. Die widersprüchlichen Signale begründen einen breiten Bereich beim Entwicklungstempo.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Die geprüften Aussagen verbinden ehrgeizige Ausbaupläne mit Sorge um die Kontrolle. [4][12]
Warum der Punkt verschoben wurde
Der frühere Punkt beruhte nur auf einer berichteten Unterstützungserklärung. Diese Prüfung ergänzt direkte Aussagen zum Ausbau und zur Kontrolle, ohne die Einordnung aus Ausgaben abzuleiten. Die Position nahe der Mitte der Tempoachse fasst widersprüchliche Signale zusammen; sie misst keinen Wandel von Musks Überzeugungen. [4][12]
Die vorgeschlagene Schutzmaßnahme ist ein Argument
Musk argumentiert, dass Neugier und Wahrheitssuche die Menschheit bewahren könnten. Der Interviewer hinterfragt diesen Zusammenhang. Das Transkript belegt nicht, dass die vorgeschlagenen Werte zuverlässig sicheres Verhalten hervorbringen. [4]
Den historischen Beleg getrennt betrachten
Schon das Gespräch von 2023 verbindet Ausbaupläne mit einer Sicherheitsbegründung. Es behandelt auch eine verzögerte offene Veröffentlichung. Weder dieses Interview noch die neuere Unterstützungserklärung belegt einen aktuellen unternehmensweiten Stopp. [5][12]
Entwicklungstempo · stützender Beleg: Befürwortet mit Groks Auftrag einen Ausbau von Intelligenz und beschreibt, wie Engpässe für ein rasches Wachstum der KI-Rechenleistung beseitigt werden sollen. [musk-dwarkesh-2026]
Passage finden: Abschnitt „Scaling“, 00:00:00–00:36:46; Groks Auftrag ab 00:36:46
Sorge · stützender Beleg: Fragt, ob Menschen die Kontrolle über eine sehr viel intelligentere KI behalten könnten; wünscht sich das Überleben der Menschheit, räumt aber ein, dass seine vorgeschlagenen Werte dafür keine Garantie bieten. [musk-dwarkesh-2026]
Passage finden: Grok und die Ausrichtung von KI, 00:36:46–00:59:56
Entwicklungstempo · Gegenargument: Die Übersicht vom September berichtet über seine Unterstützung für Amodeis Essay zum Entwicklungstempo. Das relativiert eine Einordnung als ausschließlich auf Beschleunigung ausgerichtet. [september-responses]
Passage finden: Reaktion von Elon Musk; der verlinkte Beitrag wurde nicht unabhängig abgerufen
Kontext · Kontext: Beschrieb 2023 einen raschen Ausbau der Rechenleistung, zugleich aber auch eine Präferenz für eine spätere offene Veröffentlichung und eine am Menschen orientierte Sicherheitsbegründung. [musk-lex-2023]
Redaktioneller Orientierungspunkt: x 20, y 46. Bereiche: x [-10, 47], y [20, 80]. Darstellungseinheiten, keine Prozentwerte.
Klarheit der Belege: mittel · Umsetzung: veröffentlichter Rahmen · Geprüft: 2026-09-15
Geltungsbereich: Der institutionelle Sicherheitsrahmen für besonders leistungsfähige KI.
Verwendete Quellen: Material aus erster Hand.
Der Rahmen unterstützt Fortschritt unter Bedingungen. Diese Belege zeigen keine Verlangsamung des gesamten Labors.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Verknüpft die weitere Modellentwicklung mit Schutzmaßnahmen, die sich nach den Fähigkeiten richten. [14]
Wie die Unternehmensaussage zu verstehen ist
Der aktualisierte Rahmen sieht für bestimmte externe Veröffentlichungen und umfangreiche interne Nutzungen Prüfungen der Sicherheitsbegründung vor. Eine Anforderung im Rahmenwerk ist kein Nachweis, dass ein konkreter Einsatz sie erfüllt hat. [14]
Entwicklungstempo: Setzt die Entwicklung besonders leistungsfähiger KI unter Schutzmaßnahmen fort, die sich nach den Fähigkeiten der Systeme richten. [deepmind-framework]
Sorge: Erfasst schwerwiegende Risiken und Anforderungen zu ihrer Minderung. [deepmind-framework]
Geltungsbereich: Die Modellentwicklung von Microsoft AI, nicht der gesamte Microsoft-Konzern.
Verwendete Quellen: Material aus erster Hand.
Ein Regelwerk für menschliche Kontrolle ist keine Angabe einer Katastrophenwahrscheinlichkeit. Die Konsultation belegt keine Verlangsamung.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Plant die weitere Modellentwicklung unter Zusagen zur menschlichen Kontrolle. [15]
Wie die Unternehmensaussage zu verstehen ist
Das Regelwerk beschreibt Grenzen und Prüfziele für MAI-Modelle. Eine öffentliche Konsultation und eine veröffentlichte Regel zeigen nicht, wie zuverlässig ein Modell diese Regel befolgt. [15]
Entwicklungstempo: Plant weiteres Training und den Einsatz von Modellen nach seinem Regelwerk. [microsoft-code]
Sorge: Macht den Erhalt menschlicher Kontrolle zu einer zentralen Anforderung. [microsoft-code]
Redaktioneller Orientierungspunkt: x 65, y 25. Bereiche: x [15, 84], y [0, 67]. Darstellungseinheiten, keine Prozentwerte.
Klarheit der Belege: mittel · Umsetzung: veröffentlichter Rahmen · Geprüft: 2026-09-15
Geltungsbereich: Metas Entwicklung besonders leistungsfähiger KI und seine veröffentlichten Schutzmaßnahmen.
Verwendete Quellen: Material aus erster Hand.
Ein veröffentlichtes Risikorahmenwerk zeigt nicht, welche Wahrscheinlichkeit jemand einem Risiko zuschreibt; auch Offenheit bedeutet nicht automatisch geringe Sorge.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Setzt die Entwicklung fortgeschrittener Modelle mit erklärten Schutzmaßnahmen für Veröffentlichungen fort. [16]
Wie die Unternehmensaussage zu verstehen ist
Der Rahmen behandelt schweren Missbrauch und Kontrollverlust bei offenen wie geschlossenen Veröffentlichungen. Das ist die Darstellung der Schutzmaßnahmen durch das Unternehmen, kein unabhängiges Sicherheitsurteil. [16]
Entwicklungstempo: Beschreibt einen weiteren Ausbau mit Schutzmaßnahmen für Veröffentlichungen. [meta-framework]
Sorge: Behandelt ausdrücklich katastrophale Risiken und Kontrollverlust. [meta-framework]
Geltungsbereich: Seine öffentlichen Ansichten, getrennt von Metas Unternehmenspolitik.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Skepsis gegenüber Katastrophenszenarien bedeutet nicht, dass sämtliche KI-Schäden unbedeutend wären.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Widerspricht Übernahmeszenarien und befürwortet eine breite KI-Entwicklung und breiten Zugang. [23]
Worauf sich seine Skepsis bezieht
Im Interview von 2024 argumentiert er, dass sich Fortschritt und Schutzmaßnahmen schrittweise entwickeln können. Zugleich bezeichnet er die Konzentration der Kontrolle über KI als ernstes Problem. Skepsis gegenüber einem Aussterben bedeutet nicht, sämtliche Schäden abzutun. [23]
Entwicklungstempo: Bevorzugt eine breite KI-Entwicklung und breiten Zugang gegenüber Beschränkungen, die mit Katastrophenszenarien begründet werden. [lecun-interview]
Sorge: Widerspricht der These eines unvermeidlichen Kontrollverlusts. [lecun-interview]
Kontext: Lehnte Amodeis neueste Begründung für eine Verlangsamung ab. [september-responses]
Geltungsbereich: Sein datiertes Manifest von 2023, ergänzt durch eine Zusammenfassung des Interviewherausgebers von 2026.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Die ausführliche Argumentation zu Katastrophenrisiken stammt weiterhin aus dem Manifest von 2023. Eine neuere Folgenbeschreibung belegt anhaltendes Eintreten für Wachstum, ersetzt aber keine vollständige neue Prüfung des Interviews auf beiden Achsen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Tritt für eine schnellere technologische Entwicklung und gegen Zurückhaltung aufgrund von Katastrophenszenarien ein. [17]
Ein datiertes Argument mit neuerem Kontext
Das Manifest von 2023 liefert die ausführliche Argumentation. Eine Folgenbeschreibung vom Juni 2026 berichtet über anhaltende Begeisterung für KI-Wachstum; sie liefert Kontext, aber keine neu geprüfte Aussage zu jedem Szenario katastrophaler Risiken. [17][48]
Entwicklungstempo: Spricht sich ausdrücklich gegen Verlangsamung und für technologisches Wachstum aus. [andreessen-manifesto]
Sorge: Lehnt katastrophenbezogene Argumente für eine Beschränkung des Fortschritts ab. [andreessen-manifesto]
Kontext · Kontext: Der Interviewherausgeber beschreibt anhaltende Begeisterung für KI-Wachstum und Sorge über politische Hindernisse. [andreessen-interview-summary-2026]
Passage finden: Folgenbeschreibung; die Tonaufnahme wurde nicht unabhängig geprüft
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Das bisher verwendete Manifest erklärt ausdrücklich, dass es nicht die Ansicht der Firma wiedergibt. Eine Position der Firma auf beiden Achsen ist nicht belegt.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Die Veröffentlichung eines Essays eines Gründers belegt nicht die Position der Investmentfirma. [17]
Warum dieser Eintrag keinen Punkt hat
Das Manifest bleibt ein Beleg für Marc Andreessens persönlichen Eintrag. Der Hinweis am Seitenende lässt es nicht zu, denselben Text als Position der Firma auf beiden Achsen zu behandeln. [17]
Kontext · Gegenargument: Die Seite ordnet die Ansichten einzelnen Mitarbeitenden zu und schließt die Firma sowie verbundene Unternehmen ausdrücklich aus. [andreessen-manifesto]
Passage finden: Haftungs- und Zuordnungshinweis am Seitenende
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Die Quellenprüfung ist noch nicht abgeschlossen.
Die Unternehmensposition ist noch nicht vollständig geprüft. Musks Unterstützungserklärung allein belegt weder eine Unternehmenspolitik noch eine unternehmensweite Verlangsamung.
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Die Quellenprüfung ist noch nicht abgeschlossen.
In dieser Ausgabe noch nicht auf beiden Achsen geprüft. Offene Modellgewichte und ein wachstumsfreundlicher Auftritt allein belegen keine Sorge über katastrophale Risiken.
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Veröffentlichte Modellgewichte und Aussagen zu Testergebnissen belegen weder ein bevorzugtes Entwicklungstempo noch eine Haltung zu katastrophalen Risiken. Der Eintrag bleibt ohne Position auf den beiden Achsen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Veröffentlicht KI-Modelle; die geprüfte Ankündigung belegt keine Position auf beiden Kartenachsen. [45]
Was die Quelle belegen kann
Die Unternehmensankündigung beschreibt eine Modellveröffentlichung. Modellzugang, Leistungsbehauptungen und die weltanschauliche Position eines Unternehmens sind unterschiedliche Fragen. [45]
Kontext · Kontext: Kündigt den Zugang zum R1-Modell sowie die Veröffentlichung von Modellgewichten und zugehörigen Materialien an. [deepseek-r1-release]
Redaktioneller Orientierungspunkt: x 85, y -80. Bereiche: x [65, 100], y [-100, -50]. Darstellungseinheiten, keine Prozentwerte.
Klarheit der Belege: mittel · Umsetzung: öffentliche Positionierung und unterzeichnete Richtlinie · Geprüft: 2026-09-15
Geltungsbereich: Seine Ablehnung einer Verlangsamung fortgeschrittener KI im September 2026, zusammen betrachtet mit seiner Executive Order vom Juni.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Die Beiträge vom September sind durch Berichte belegt, nicht durch die ursprünglichen Truth-Social-Seiten. Die Karte zeigt geäußerte Sorge über katastrophale Risiken, keine privaten Überzeugungen, technische Fachkenntnis oder sämtliche Maßnahmen der Regierung. Die Bereiche beruhen auf redaktionellen Einschätzungen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet die weitere KI-Entwicklung und weist Warnungen vor einem Aussterben durch KI öffentlich zurück; seine unterzeichnete Politik enthält dennoch Sicherheitsmaßnahmen. [1][2][3]
Warum der Punkt rechts unten liegt
Die Berichte vom September stützen eine deutliche Ablehnung einer KI-Verlangsamung und eine geringe geäußerte Sorge über ein Aussterben der Menschheit. Die Koordinaten fassen diese öffentliche Haltung zusammen; sie messen kein Risiko und belegen keine Zugehörigkeit zu e/acc. [1][2]
Was die neuesten Beiträge belegen
Forbes und AFP berichten über Beiträge vom 14. September, die neue Schutzauflagen ablehnen und KI als wirtschaftliche Priorität und Wettbewerbsfaktor darstellen. Das sind zugeordnete politische Aussagen, keine Belege dafür, dass fortgeschrittene KI sicher ist oder neue Schutzmaßnahmen zur Insolvenz führen würden. [1][2]
Sicherheitspolitik schränkt die Einordnung ein
Die Executive Order vom 2. Juni fordert Maßnahmen zur Cyberabwehr, Leistungstests und einen freiwilligen frühen Regierungszugang zu einigen führenden Modellen. Diese Bestimmungen relativieren die Aussage, er lehne sämtliche Schutzmaßnahmen ab. Eine unterzeichnete Anweisung belegt nicht, dass die Maßnahmen umgesetzt wurden oder funktionieren. [3]
Wie aktuell und direkt ist diese Prüfung?
Geprüft am 15. September 2026. Die Beiträge vom September wurden über Berichte gelesen, da Truth Social ihren Text für diese Prüfung nicht zugänglich machte. Die Executive Order vom Juni wurde direkt gelesen. Dies ist eine datierte Auswahl, kein vollständiges Archiv seiner Beiträge und keine gesonderte Bewertung der US-Regierung. [1][2][3]
Entwicklungstempo · stützender Beleg: Forbes berichtet über seine Ablehnung von Forderungen nach einer KI-Verlangsamung und seine Betonung des Wettbewerbs mit China sowie der Kosten von Regulierung. [trump-forbes-2026-09-14]
Passage finden: Abschnitte „Key Facts“ und „Trump Dismisses AI Concerns“; Beiträge vom 14. September und Äußerungen vom 13. September
Sorge · stützender Beleg: AFP berichtet, dass er Szenarien einer Vernichtung der Menschheit durch KI als Täuschung abtat. [trump-afp-2026-09-14]
Passage finden: Einleitende Absätze über die Truth-Social-Beiträge vom 14. September
Entwicklungstempo · stützender Beleg: Seine unterzeichnete Executive Order befürwortet die Entwicklung fortgeschrittener KI und schließt in ihrem Abschnitt zu führenden Modellen eine verpflichtende Modellzulassung oder Vorabgenehmigung ausdrücklich aus. [trump-ai-security-order-2026]
Passage finden: Executive Order 14409, Abschnitte 1 und 3(c)
Kontext · Gegenargument: Dieselbe Executive Order ordnet Maßnahmen zur Cybersicherheit und ein freiwilliges Verfahren zur Prüfung führender Modelle vor einer breiteren Veröffentlichung an. [trump-ai-security-order-2026]
Geltungsbereich: Seine Argumente für eine weitere KI-Entwicklung und gegen Machtkonzentration, die zu ihrer Unterdrückung genutzt wird.
Verwendete Quellen: Material aus erster Hand.
Die geringere Betonung katastrophaler Risiken ist im Verhältnis zu seiner Sorge über politische Kontrolle zu verstehen. Sie bedeutet nicht, dass er eine KI-Katastrophe ausschließt. Seine wirtschaftlichen und theologischen Argumente formulieren keine detaillierte Politik für das Training führender KI-Systeme.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet KI-Entwicklung und legt zugleich größeres Gewicht auf die Gefahr konzentrierter politischer Kontrolle. [6][8]
Warum diese Position rechts liegt
Seine Ablehnung eines KI-Stopps stützt die Einordnung auf der entwicklungsfreundlichen Seite der Karte. Der eher moderate statt extreme Punkt berücksichtigt, dass das geprüfte Material keinen detaillierten Trainingszeitplan oder Vorschlag für einen uneingeschränkten Einsatz enthält. [6][8]
Warum geringere Sorge nicht keine Sorge bedeutet
Im Hoover-Gespräch fordert er, sowohl Katastrophen als auch totalitäre Kontrolle ernst zu nehmen. Der vertikale Bereich reicht über die Mitte hinaus, weil seine relative Gewichtung klarer ist als das absolute Ausmaß seiner Sorge über KI-Risiken. [7]
Was die Theologie belegt und was nicht
Seine Antichrist-Deutung ist ein spekulatives Argument über Macht, die durch Angst vor Katastrophen gewonnen wird. Das Hoover-Gespräch wurde im Oktober 2024 aufgezeichnet; es belegt weder einen aktuellen politischen Vorschlag noch den Wahrheitsgehalt einer Prophezeiung. [7][9]
Ein wirtschaftlicher Vorbehalt
Im Dezemberinterview äußert er die Sorge, dass die Vorteile wenigen Firmen zufallen und KI Arbeitskräfte ersetzt. Diese Vorbehalte erschweren eine pauschale Einordnung als Technikoptimist, belegen aber keine Unterstützung für eine Pause bei der leistungsfähigsten KI. [8]
Entwicklungstempo · stützender Beleg: Lehnt die Macht ab, die nötig wäre, um KI zu stoppen, und befürwortet KI auch in einem Szenario, in dem sie Arbeitskräfte ersetzt. [thiel-tyler-2024]
Passage finden: Fragerunde: Aussterben der Menschheit und technischer Ersatz von Arbeitskräften
Sorge · stützender Beleg: Betont ausdrücklich die Sorge, Menschen könnten KI stoppen, stärker als die Sorge, KI könnte die Menschheit vernichten; lehnt es ab, das Ergebnis als vorherbestimmt zu behandeln. [thiel-tyler-2024]
Passage finden: Fragerunde: „When do you think humans are going to destroy themselves?“
Sorge · Gegenargument: Sagt, sowohl eine technologische Katastrophe als auch ein totalitärer Weltstaat gäben Anlass zur Sorge, wobei er Letzteren stärker gewichtet. [thiel-hoover-apocalypse]
Passage finden: Gespräch über Skylla und Charybdis; Suche nach „worry about both“
Entwicklungstempo · stützender Beleg: Befürwortet KI als Wachstumsquelle und erkennt zugleich an, dass sich Erträge konzentrieren und Arbeitskräfte verdrängt werden könnten. [thiel-spectator-2025]
Passage finden: John Powers Frage zu einer KI-Blase und zu Überfluss
Kontext · Kontext: Ein Bericht von 2026 beschreibt, dass er den Antichrist-Rahmen weiterhin nutzt, um über politische Macht zu sprechen. [thiel-spectator-2026]
Passage finden: Bericht über den Vortrag in Cambridge; ein redigierter Bericht, kein vollständiges Transkript
Geltungsbereich: An Bedingungen geknüpfte Kontrollen besonders leistungsfähiger KI in einem gemeinsam verfassten politischen Fachbeitrag.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Der Vorschlag ist gemeinsam verfasst und datiert. Seine Warnung vor Kontrollrisiken ist weder eine Wahrscheinlichkeitsschätzung noch die Forderung, jede Art von KI zu stoppen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet Beschränkungen besonders leistungsfähiger KI unter bestimmten Bedingungen und warnt vor Kontrollverlust. [35][37]
Wie die Position zu lesen ist
Dieser Punkt fasst den gemeinsam verfassten Vorschlag zusammen; sein Bereich lässt unterschiedliche Lesarten zu. [35]
Neuerer Kontext
Die Zusammenfassung des Herausgebers vom Dezember 2025 beschreibt seine Sorge um die Kontrolle. Seine vorgeschlagenen Schutzinstinkte sind eine Idee, keine nachgewiesene Schutzmaßnahme. [37]
Entwicklungstempo · stützender Beleg: Hat eine Forderung nach Entwicklungsstopps unter bestimmten Bedingungen mitverfasst, falls gefährliche Fähigkeiten entstehen. [extreme-ai-risks-2024]
Passage finden: Abschnitt „Mitigation“
Sorge · stützender Beleg: Hat eine Warnung vor unumkehrbarem Kontrollverlust und dem Aussterben der Menschheit mitverfasst. [extreme-ai-risks-2024]
Passage finden: Abschnitt „Societal-scale risks“
Kontext · Kontext: Der Interviewherausgeber berichtet über seine anhaltende Sorge, Menschen könnten die Kontrolle verlieren. [hinton-gzero-2025]
Passage finden: Zusammenfassung der Folge vom Dezember 2025
Geltungsbereich: An Bedingungen geknüpfte Grenzen gefährlicher KI-Entwicklung und erforderliche Nachweise vor einer Veröffentlichung.
Verwendete Quellen: Material aus erster Hand.
Ein gemeinsam verfasster politischer Vorschlag und eine datierte Stellungnahme stützen diese Einordnung. Sie belegen weder ein pauschales Verbot noch eine offizielle Position von Berkeley.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Fordert durchsetzbare Sicherheitsbedingungen und warnt vor dem Verlust menschlicher Kontrolle. [35][36]
Was die Bedingungen bedeuten
Seine Stellungnahme verpflichtet Entwickler dazu, vor einer Veröffentlichung Sicherheit nachzuweisen. Sie behandelt auch heutige Schäden; die Sorge über Katastrophen ersetzt diese Fragen nicht. [36]
Entwicklungstempo · stützender Beleg: Hat Forderungen nach Entwicklungsstopps unter bestimmten Bedingungen mitverfasst, bis ausreichende Schutzmaßnahmen vorliegen. [extreme-ai-risks-2024]
Passage finden: Abschnitt „Mitigation“
Sorge · stützender Beleg: Seine Stellungnahme warnt, dass AGI ohne verlässliche menschliche Kontrolle das Überleben der Menschheit bedrohen könnte. [russell-senate-2023]
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Nicht eingeordnet: Diese Prüfung kann die verschiedenen von ihr diskutierten Risiken nicht in einer einzigen Besorgniskoordinate zusammenfassen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Hinterfragt das Streben nach AGI und tritt für Forschung an klar definierten Aufgaben ein. [38]
Warum es keinen Punkt gibt
Die gemeinsam verfasste Arbeit begründet einen Forschungsschwerpunkt auf klar bestimmten Aufgaben. Ihre weitergehende historische These wird nicht als Schlussfolgerung des Atlas übernommen. Die folgenden Belege zur Besorgnis behandeln verschiedene Arten von Schaden. Diese Prüfung lässt den Punkt deshalb uneingeordnet. [38][179]
Entwicklungstempo · stützender Beleg: Empfiehlt Forschung an klar definierten, überprüfbaren Aufgaben statt des Versuchs, eine universell einsetzbare AGI zu bauen. [gebru-torres-2024]
Passage finden: Kurzfassung des Fachartikels
Kontext · Kontext: Die Autoren betonen Schäden für gesellschaftlich benachteiligte Menschen und die Konzentration von Macht. [gebru-torres-2024]
Passage finden: Kurzfassung des Fachartikels
Sorge · Kontext: Sie weist Untergangsszenarien durch außer Kontrolle geratene Maschinen zurück und benennt Waffen und Klima als ernste Bedrohungen. [gebru-wired-2026]
Passage finden: Antworten zu Auslöschungsszenarien und gegenwärtigen Bedrohungen
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Die Ablehnung eines Produkts ist etwas anderes als eine Präferenz für das Entwicklungstempo besonders leistungsfähiger KI. Diese Quelle klärt nicht beide Kartenachsen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Fragt, wer von KI-Systemen profitiert und ob sich ihre Behauptungen überprüfen lassen. [39]
Fragen, die beim eigenen Prüfen helfen
Ihre Folien fragen, welche Aufgabe ein System erfüllt, ob seine Eingaben genaue Ergebnisse ermöglichen und ob es dazu dienen kann, Menschen ihre Rechte vorzuenthalten. Diese Fragen helfen bei der Bewertung von Produkten; sie verorten eine Person nicht automatisch auf dieser Karte. [39]
Kontext · Kontext: Fordert eine Prüfung von Aufgabendefinitionen, Trainingsdaten, behaupteter Genauigkeit sowie Risiken für Arbeit und durch Überwachung. [bender-humanities-2025]
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Die Unterrichtung unterstützt Investitionen und Schutzmaßnahmen, belegt aber keine Position zum Entwicklungstempo führender KI auf beiden Achsen. Sie schließt eine Zuordnung zu verbundenen Organisationen ausdrücklich aus.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Unterstützt öffentliche KI-Forschung, breiteren Zugang und beleggestützte Schutzmaßnahmen. [40]
Ein anderer Schwerpunkt
Ihre Unterrichtung behandelt die Frage, wer KI entwickeln und von ihr profitieren kann, sowie globale Zusammenarbeit und Missbrauch. Diese Themen reichen über die beiden Fragen der Karte hinaus. [40]
Kontext · Kontext: Fordert öffentliche Investitionen, breiteren Zugang und eine auf Belegen beruhende Steuerung und warnt zugleich vor Missbrauch. [fei-fei-li-un-2024]
Passage finden: Abschnitte „Public Sector Leadership“ und „Science- and Evidence-Based AI Policymaking“
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Der Hauptvortrag konzentriert sich auf Privatsphäre und Macht. Er liefert nicht genügend Belege für Koordinaten sowohl beim Entwicklungstempo führender KI als auch bei der Sorge über Katastrophen.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Konzentriert sich auf Privatsphäre, Überwachung und die Frage, wer digitale Infrastruktur kontrolliert. [41]
Warum Privatsphäre zur breiteren Debatte gehört
Ihr Argument fragt, ob Menschen beeinflussen können, wie sich Technologie auf ihr Leben auswirkt. Es belegt weder, dass alle KI-Systeme dasselbe Geschäftsmodell haben, noch dass Datenschutzbedenken eine bestimmte Haltung zu Katastrophenrisiken bedeuten. [41]
Kontext · Kontext: Argumentiert, dass kommerzielle KI im großen Maßstab die Datensammlung und die Konzentration von Unternehmensmacht verstärken kann. [whittaker-ndss-2024]
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Ein Auftrag zur Durchsetzung von Regeln und Förderung von Innovation ist weder eine einheitliche Ideologie noch ein gemessenes Ausmaß der Sorge über katastrophale Risiken. Eine Position auf beiden Achsen ist nicht belegt.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Arbeitet innerhalb der Europäischen Kommission an KI-Aufsicht und Innovation. [42]
Die institutionelle Aufgabe
Das Büro beschreibt Aufgaben bei Modellprüfungen, Regeln für allgemein einsetzbare KI und der Förderung von Innovation. Diese Funktionen sind als Auftrag zu vergleichen und nicht mit einer persönlichen Überzeugung gleichzusetzen. [42]
Kontext · Kontext: Unterstützt die Aufsicht über allgemein einsetzbare KI, die Bewertung systemischer Risiken und Innovation mit vertrauenswürdiger KI. [eu-ai-office-overview]
Passage finden: Abschnitt „Tasks of the AI Office“
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand.
Forschung zu katastrophalen Schäden belegt nicht, ob das Institut eine allgemeine Beschleunigung oder Verlangsamung der Entwicklung führender KI bevorzugt.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Untersucht ernsthafte KI-Sicherheitsrisiken, darunter ein Versagen menschlicher Kontrolle. [43][44]
Warum es keine Kartenposition erhält
Die Forschungsagenda belegt die untersuchten Themen. Für ein bevorzugtes Entwicklungstempo führender KI wären gesonderte Belege nötig; es lässt sich nicht aus dem Namen des Instituts ablesen. [43]
Sorge · stützender Beleg: Untersucht, ob autonome KI katastrophale Schäden verursachen oder sich dauerhaft menschlicher Kontrolle entziehen könnte. [uk-aisi-agenda]
Passage finden: Abschnitt „Autonomous Systems“
Kontext · Kontext: Die Ankündigung vom Februar 2025 nennt den Namen AI Security Institute und beschreibt seinen Sicherheitsschwerpunkt. [uk-aisi-name-2025]
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Die Ablehnung von Regulierung ist im geprüften Material klarer als eine konkrete Haltung zu Katastrophenrisiken. Trumps Aussagen werden Vance nicht zugeschrieben.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet KI-Entwicklung und hinterfragt weitreichende regulatorische Hürden. [46][1]
Warum es keinen Punkt gibt
Seine entwicklungsfreundliche Position ist klar, doch allgemeine Aussagen zur Sicherheit klären nicht seine geäußerte Sorge über eine KI-Katastrophe. Dieser Eintrag macht diese Lücke sichtbar. [46]
Entwicklungstempo · stützender Beleg: Befürwortet die Entwicklung modernster KI und argumentiert, dass übermäßige Regulierung sie behindern kann. [vance-paris-2025]
Passage finden: Äußerungen zu Entwicklung und Regulierung
Kontext · Gegenargument: Sagt zugleich, dass Sicherheitsbedenken weiterhin wichtig sind, und nennt Missbrauch und Risiken für die nationale Sicherheit. [vance-paris-2025]
Passage finden: Schlussbemerkungen und Passage zur nationalen Sicherheit
Kontext · Kontext: Berichte vom September beschreiben Skepsis gegenüber Regulierungsforderungen von Unternehmen, zugleich aber auch die Anerkennung, dass Technologie Risiken birgt. [trump-forbes-2026-09-14]
Geltungsbereich: Persönliche Forschungsambitionen und vorgeschlagene Grenzen für die mächtigste Superintelligenz.
Verwendete Quellen: Material aus erster Hand.
Für die vorgeschlagene Begrenzung der Macht ist kein Verfahren benannt. Sicherheit ist ein Forschungsziel, keine belegte Eigenschaft künftiger Systeme.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Strebt leistungsfähigere Systeme an und befürwortet Grenzen für ihre Macht; Kontrolle bleibt ein Forschungsproblem. [182][180][181]
Forschungstempo und Veröffentlichungspläne
In seinem Interview vom November 2025 gewichtet er schrittweise Veröffentlichungen stärker. Das betrifft den Einsatz, keinen allgemeinen Stopp der Fähigkeitsforschung. [180]
Entwicklungstempo · stützender Beleg: Erklärt, dass seine Forschung mit einem größeren Computer ausgeweitet werden kann. [sutskever-nvidia-2026]
Passage finden: Aussage Sutskevers in der Partnerschaftsmitteilung
Entwicklungstempo · Gegenargument: Befürwortet eine Begrenzung der Macht der mächtigsten Superintelligenz, lässt das Verfahren aber offen. [sutskever-dwarkesh-2025]
Passage finden: 01:02:37 bis 01:04:10
Sorge · stützender Beleg: Sein mitverfasster Artikel warnt vor menschlichem Machtverlust oder Aussterben durch Superintelligenz. [sutskever-superalignment-2023]
Passage finden: Einleitung und Kontrollproblem
Sorge · stützender Beleg: Behandelt extreme Macht von KI-Systemen und Kontrolle weiterhin als zentrale Sicherheitsfragen. [sutskever-dwarkesh-2025]
Geltungsbereich: Persönliches Eintreten für Innovation bei Spitzenmodellen und verteilte Kontrolle über Superintelligenz.
Verwendete Quellen: Material aus erster Hand.
Verteilte Macht ist seine vorgeschlagene Schutzmaßnahme. Der Essay belegt nicht, dass konkurrierende, sich selbst verbessernde Systeme kontrollierbar bleiben.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet weitere Modellinnovation und verteilten Zugang, erkennt aber Risiken menschlichen Kontrollverlusts an. [183]
Optimismus mit Einschränkungen
Er lässt unter bestimmten Umständen mehr Zeit für Schutzmaßnahmen zu. Das schränkt seine Ablehnung von Verzögerungen ein, begründet aber keine allgemeine Verlangsamungspolitik. [183]
Entwicklungstempo · stützender Beleg: Schlägt Schutzmaßnahmen ohne Verlangsamung der Modellinnovation sowie weiteres Training führender Modelle vor. [zuckerberg-future-2026]
Passage finden: Abschnitte: Securing Against AI Misuse; concluding policy implications
Sorge · stützender Beleg: Erörtert existenzielle Risiken und Kontrollverlust und schlägt ein Kräftegleichgewicht als Gegenmittel vor. [zuckerberg-future-2026]
Passage finden: Abschnitte: Alignment With People and Addressing Existential Risk; Maintaining Control of Superintelligence
Kontext · Gegenargument: Schon sein früherer Brief erkennt neue Sicherheitsfragen an und mahnt Vorsicht bei offenen Veröffentlichungen. [zuckerberg-personal-2025]
Passage finden: Absatz beginnend mit: We believe the benefits of superintelligence
Geltungsbereich: Persönliches Eintreten für Forschung an fortgeschrittenen Modellen mit Grenzen für Autonomie und Kontrollverlust.
Verwendete Quellen: Material aus erster Hand.
Autonomiegrenzen belegen keine allgemeine Verlangsamung des Fähigkeitswachstums. Ihm zufolge beginnt die Umsetzung des neuen Kodex nach der Konsultation.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Befürwortet Forschung an fortgeschrittenen Modellen, akzeptiert aber Autonomiegrenzen für menschliche Kontrolle; der neue Kodex wartet auf Umsetzung. [186][187]
Persönliche Position und Unternehmensverfahren
Sein September-Essay erläutert seine Prioritäten für Training und Betrieb von Modellen. Dieser persönliche Eintrag ist von den institutionellen Zusagen von Microsoft AI getrennt. [187]
Entwicklungstempo · stützender Beleg: Befürwortet fortgeschrittene KI-Forschung und stellt Kontrollierbarkeit über uneingeschränkte Autonomie. [suleyman-humanist-2025]
Passage finden: Abschnitte: A humanist future; Towards humanist superintelligence
Entwicklungstempo · Gegenargument: Erklärt, weniger Autonomie zugunsten menschlicher Kontrolle zu akzeptieren. [suleyman-code-2026]
Passage finden: Absatz beginnend mit: We want to create incredible AI
Sorge · stützender Beleg: Fragt, wie Menschen sich selbst verbessernde Superintelligenz dauerhaft eingrenzen und kontrollieren könnten. [suleyman-humanist-2025]
Passage finden: Abschnitte: Containment is necessary; The purpose of technology
Kontext · Kontext: Der Kodex ist ein Entwurf zur öffentlichen Diskussion; er ordnet die Umsetzung zeitlich nach dem endgültigen Entwurf ein. [suleyman-code-2026]
Passage finden: Absatz beginnend mit: Once we have the final post-consultation draft
Geltungsbereich: Gemeinsame öffentliche Argumente zur Entwicklung führender KI-Systeme, zur KI-Kontrolle und zu katastrophalen Risiken, einschließlich der Aktualisierung vom September 2026.
Verwendete Quellen: Material aus erster Hand.
Die untersuchten Argumente stammen von beiden Autoren gemeinsam. Pausen betreffen einzelne Experimente; das insgesamt bevorzugte Entwicklungstempo bleibt an Bedingungen geknüpft. Die Koordinaten fassen öffentliche Argumente zusammen und geben keine privaten Wahrscheinlichkeitsschätzungen wieder.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Ist Mitautor der Sicht auf KI als normale Technologie. Unterstützt inzwischen gezielte Versuchspausen und warnt, dass die Sicherheitsbemühungen zurückbleiben. [188][194]
Eine umstrittene Sicht auf Kontrolle
Scott Alexander argumentiert, dass schnelle Selbstverbesserung und der Einsatz in KI-Laboren die angenommenen Grenzen der These überwinden könnten. Narayanan und Kapoor entgegnen, dass technische Verbesserungen äußere Beschränkungen nicht automatisch beseitigen. [190][189]
Die Annahmen überprüfen
Ihre Forschungszusammenfassung vom August 2026 beschreibt zwei begrenzte Bewertungen ergebnisoffener KI-Forschung. Sie räumt kleine Stichproben und mögliche Voreingenommenheit der Bewertenden ein. Die Ergebnisse belegen daher keine dauerhafte Fähigkeitsgrenze. [193]
Entwicklungstempo · stützender Beleg: Fordert organisatorische Aufsicht und Pausen bei Experimenten, wenn diese nötig sind, um die Aufsicht einzurichten. [normal-technology-control-2026]
Passage finden: Teil 1: Bestehende Regeln für die Unternehmensführung hätten den Vorfall verhindert
Sorge · stützender Beleg: Erklärt, dass katastrophale Risiken nicht unmittelbar bevorstehen, aber zunehmen, weil Schutzmaßnahmen und Politik zurückbleiben. Die Sicherheitsbemühungen reichen demnach derzeit nicht aus. [normal-technology-control-2026]
Passage finden: Teil 3: Ist die KI-Sicherheit auf Kurs?
Entwicklungstempo · Gegenargument: Der frühere Essay vom Juni bevorzugte Verantwortlichkeit und Kontrolle gegenüber einer Verlangsamung der Entwicklung technischer Fähigkeiten. [normal-technology-software-work-2026]
Passage finden: Die Erörterung von Entscheiden, Ausführen und Ausliefern vor dem Abschnitt über Vibe Coding und die beaufsichtigte Softwareentwicklung mit Agenten
Kontext · Gegenargument: Räumt ein, Risiken während der Entwicklung und das Ausbleiben grundlegender Vorsichtsmaßnahmen bei Unternehmen unterschätzt zu haben. [normal-technology-control-2026]
Passage finden: Teil 3: Entstehen Risiken bei der Entwicklung oder beim Einsatz?; Die Kontinuitätshypothese
Geltungsbereich: Gemeinsame öffentliche Argumente zur Entwicklung führender KI-Systeme, zur KI-Kontrolle und zu katastrophalen Risiken, einschließlich der Aktualisierung vom September 2026.
Verwendete Quellen: Material aus erster Hand.
Die untersuchten Argumente stammen von beiden Autoren gemeinsam. Pausen betreffen einzelne Experimente; das insgesamt bevorzugte Entwicklungstempo bleibt an Bedingungen geknüpft. Die Koordinaten fassen öffentliche Argumente zusammen und geben keine privaten Wahrscheinlichkeitsschätzungen wieder.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Ist Mitautor der Sicht auf KI als normale Technologie. Unterstützt inzwischen gezielte Versuchspausen und warnt, dass die Sicherheitsbemühungen zurückbleiben. [188][194]
Eine umstrittene Sicht auf Kontrolle
Scott Alexander argumentiert, dass schnelle Selbstverbesserung und der Einsatz in KI-Laboren die angenommenen Grenzen der These überwinden könnten. Narayanan und Kapoor entgegnen, dass technische Verbesserungen äußere Beschränkungen nicht automatisch beseitigen. [190][189]
Die Annahmen überprüfen
Ihre Forschungszusammenfassung vom August 2026 beschreibt zwei begrenzte Bewertungen ergebnisoffener KI-Forschung. Sie räumt kleine Stichproben und mögliche Voreingenommenheit der Bewertenden ein. Die Ergebnisse belegen daher keine dauerhafte Fähigkeitsgrenze. [193]
Entwicklungstempo · stützender Beleg: Fordert organisatorische Aufsicht und Pausen bei Experimenten, wenn diese nötig sind, um die Aufsicht einzurichten. [normal-technology-control-2026]
Passage finden: Teil 1: Bestehende Regeln für die Unternehmensführung hätten den Vorfall verhindert
Sorge · stützender Beleg: Erklärt, dass katastrophale Risiken nicht unmittelbar bevorstehen, aber zunehmen, weil Schutzmaßnahmen und Politik zurückbleiben. Die Sicherheitsbemühungen reichen demnach derzeit nicht aus. [normal-technology-control-2026]
Passage finden: Teil 3: Ist die KI-Sicherheit auf Kurs?
Entwicklungstempo · Gegenargument: Der frühere Essay vom Juni bevorzugte Verantwortlichkeit und Kontrolle gegenüber einer Verlangsamung der Entwicklung technischer Fähigkeiten. [normal-technology-software-work-2026]
Passage finden: Die Erörterung von Entscheiden, Ausführen und Ausliefern vor dem Abschnitt über Vibe Coding und die beaufsichtigte Softwareentwicklung mit Agenten
Kontext · Gegenargument: Räumt ein, Risiken während der Entwicklung und das Ausbleiben grundlegender Vorsichtsmaßnahmen bei Unternehmen unterschätzt zu haben. [normal-technology-control-2026]
Passage finden: Teil 3: Entstehen Risiken bei der Entwicklung oder beim Einsatz?; Die Kontinuitätshypothese
Nicht eingeordnet. Es wurden keine Koordinaten vergeben.
Verwendete Quellen: Material aus erster Hand sowie Berichte oder indirekt erhaltene Kopien.
Nicht eingeordnet: Das geprüfte Material belegt weder ein bevorzugtes Tempo für den Fähigkeitszuwachs führender KI-Systeme noch eine ausreichend klare Gesamtposition zu katastrophalen Risiken. Ausgewählte X-Texte wurden in einem bereitgestellten Export gelesen. Die Online-Originale und ihre Urheberschaft wurden nicht unabhängig überprüft.
Im Detail
Redaktionelle Einordnung der verlinkten Quellen.
Card zugeschriebene Beiträge in einem bereitgestellten Export betonen nützliche KI-Werkzeuge, praktische Sicherheit und Skepsis gegenüber alarmierenden Behauptungen. Sie erkennen auch Risiken und Unterschiede zwischen Computersystemen an. Sein bevorzugtes Tempo für die Entwicklung führender KI-Systeme bleibt unklar. Deshalb gibt es keinen Kartenpunkt. [208][213][214][212]
Was die Beiträge belegen
Die exportierten Beiträge fragen, welche Aktionen ein System ausführen kann, wie sie sich beobachten lassen und ob ein LLM zur Aufgabe passt. Die Zuordnung folgt dem Autorenfeld des Exports und ist nicht anhand der Originalbeiträge überprüft. Vorwürfe gegen bestimmte Labore und Aussagen aus persönlichen Demonstrationen werden nicht als technische Befunde übernommen. [208][209][210]
Was er über Risiken sagt
Nach unserer Lesart stellt der geprüfte Kommentar dramatische KI-Risikoszenarien infrage und betont praktische Schäden. Sein mit KI-Unterstützung verfasster und von ihm befürworteter PwnDefend-Artikel beschreibt KI als Verstärker bestehender Risiken. Ein exportierter Beitrag warnt zudem davor, Kritik an einer Behauptung als Zustimmung zu ihrem Gegenteil zu lesen. Daraus folgt nicht, dass er jedes katastrophale Szenario verwirft. [212][211]
Was er über die Entwicklung sagt
Ein exportierter Beitrag stimmt ausdrücklich einem zitierten Aufruf zu, Fachleute für Cybersicherheit einzubeziehen und KI-Chancen zu unterstützen. Ein anderer behandelt Vorteile für Prototypen neben Energiekosten und Risiken eines Einsatzes, bei dem Sicherheit erst später berücksichtigt wird. Diese Aussagen betreffen den Aufbau und Einsatz von Systemen. Sie legen nicht fest, wie schnell die leistungsfähigsten Modelle weiterentwickelt werden sollten. [213][214]
Eine Einschränkung zur Kontrolle
Die Beobachtung der Aktionen eines Systems belegt nicht, dass seine Schutzmaßnahmen bei wachsenden Fähigkeiten wirksam bleiben. Narayanan und Kapoor argumentieren, dass Kontrollmethoden weitere Forschung und Investitionen benötigen. Die Einordnung als Software in den exportierten Beiträgen allein beantwortet diese Frage nicht. [208][194]
Warum es keinen Punkt gibt
Die fehlende Position zur Weiterentwicklung führender KI-Modelle verhindert eine Einordnung auf beiden Achsen. Ein Punkt in der Mitte würde eine Präferenz nahelegen, die wir nicht belegt haben. Die Kommentare zu Risiken sind oben mit ihren Grenzen beschrieben. Sie sind weder eine numerische Risikoschätzung noch ein Beleg für die Zugehörigkeit zu einer Bewegung. [213][214][211]
Kontext · Kontext: Seine Präsentation nennt Daniel Card und den Nutzernamen @Uk_Daniel_Card. [card-bcs-identity]
Passage finden: Titelfolie
Kontext · stützender Beleg: Spricht sich für Überwachung und Kontrollen des gesamten Computersystems aus, die über Schutzmaßnahmen auf Modellebene hinausgehen. [card-x-system-controls-2026]
Passage finden: Exportierter Beitragstext; ursprüngliche X-Seite nicht zugänglich
Kontext · stützender Beleg: Stellt bei der Bewertung unmittelbarer Sicherheitsfolgen die Beobachtung von Ausgaben und Aktionen in den Vordergrund. [card-x-monitor-actions-2026]
Passage finden: Exportierter Antworttext; ursprüngliche X-Seite nicht zugänglich
Kontext · stützender Beleg: Hinterfragt den Einsatz von LLM-Diensten, wenn die Aufgabe ein gleichmäßigeres Verhalten erfordert. [card-x-fit-task-2026]
Passage finden: Exportierter Beitragstext; ursprüngliche X-Seite nicht zugänglich
Kontext · Gegenargument: Erklärt, dass Kritik an einer Behauptung nicht als Behauptung ihres Gegenteils gelesen werden sollte, und bezeichnet die Darstellung von Computern als Lebewesen als gesellschaftliches Risiko. [card-x-risk-qualification-2026]
Passage finden: Exportierter Beitragstext; ursprüngliche X-Seite nicht zugänglich
Kontext · Kontext: Ein mit KI-Unterstützung verfasster Artikel, dem er zustimmt, kritisiert den Vergleich mit einer digitalen Atomwaffe und beschreibt KI zugleich als Verstärker bestehender Schäden. [card-pwndefend-risk-framing-2026]
Passage finden: Abschnitt zum Vergleich von KI mit einer digitalen Atomwaffe; abschließende Angabe zur Texterstellung
Kontext · stützender Beleg: Stimmt einem zitierten Aufruf zur Beteiligung von Fachleuten für Cybersicherheit zu und unterstützt dabei KI-Chancen. Ein bevorzugtes Tempo für die Entwicklung führender KI-Systeme nennt der Beitrag nicht. [card-x-opportunity-2026]
Passage finden: Exportierter Beitragstext; ursprüngliche X-Seite nicht zugänglich
Kontext · Gegenargument: Beschreibt Chancen und Risiken, darunter Energiekosten und den Einsatz von Systemen, bevor ihre Sicherheit geklärt ist. Seine Einordnung als Software berücksichtigt Unterschiede im Systemaufbau. [card-x-system-tradeoffs-2026]
Passage finden: Exportierter Antworttext; ursprüngliche X-Seite nicht zugänglich
Diese Erklärungen erläutern Begriffe und schreiben Akteuren keine Zugehörigkeit zu. Historische Quellen bleiben historisch, auch wenn sie erst kürzlich geprüft wurden.
Bewegung
Effektiver Akzelerationismus
Einfach erklärt: Eine Bewegung, die schnelleres technisches Wachstum befürwortet und zentralisierte Beschränkungen ablehnt. Die Behauptung, Beschleunigung führe zu besseren Ergebnissen, ist eine philosophische Position, keine nachgewiesene Sicherheitsgarantie. [25][26]
Eine Bewegung, die technisches Wachstum, Märkte und die Ausweitung von Intelligenz als Wege in eine bessere Zukunft versteht. Ihre frühen Autoren wenden sich gegen Versuche, diesen Prozess zentral zu verlangsamen. [25][26]
Einordnung auf der Karte: Weist in Richtung schnellerer Entwicklung. Daraus folgt nicht, dass alle Beteiligten katastrophale Risiken gleich einschätzen. [26]
Allgemeiner Technikoptimismus bedeutet keine e/acc-Zugehörigkeit. Die thermodynamischen Argumente der Bewegung belegen nicht, dass KI sicher ist. Buterin setzt einen Gegenpunkt: Gewinnstreben allein wählt nicht automatisch nützliche Entwicklungsrichtungen aus. [26][28]
Umstrittene Bezeichnung
Verlangsamung
Einfach erklärt: Eine informelle Bezeichnung für das Bremsen von Technologie, die Befürworter der Beschleunigung oft zur Kritik an ihren Gegnern verwenden. [26]
Eine informelle Kurzform für das Verlangsamen technischer oder KI-Entwicklung. Befürworter der Beschleunigung verwenden sie häufig abwertend für ihre Gegner. [26]
Einordnung auf der Karte: Beschreibt eine Vorliebe beim Entwicklungstempo. Der Begriff erklärt nicht, warum jemand Zurückhaltung möchte oder welche Technologien die Person bremsen würde. [26]
Eine gezielte Pause bei der leistungsfähigsten KI, eine Sicherheitsregel und die Ablehnung jeder Technologie sind verschiedene Positionen. Sie sollten nicht zu einem Lager zusammengefasst werden. [31]
Umstrittene Bezeichnung
KI-Doomer
Einfach erklärt: Eine umstrittene Bezeichnung für Menschen, die katastrophale KI-Risiken betonen. Besorgnis bedeutet nicht, eine Katastrophe für unausweichlich zu halten. [27][32]
Eine informelle, oft abwertende Bezeichnung für Menschen, die katastrophale oder existenzielle KI-Szenarien betonen. Es gibt keine allgemein anerkannten Kriterien für die Zugehörigkeit. [27]
Einordnung auf der Karte: Bezieht sich auf die Sorge vor schweren Folgen. Der Begriff steht weder für eine bezifferte Wahrscheinlichkeit noch für eine vollständige politische Position. [27]
Das Risiko des Aussterbens ernst zu nehmen bedeutet nicht, eine Katastrophe für unausweichlich zu halten. Diese Karte bezeichnet niemanden automatisch als Doomer. [32]
Philosophie und Gemeinschaft
Effektiver Altruismus
Einfach erklärt: Eine Gemeinschaft, die wirksame Wege sucht, anderen zu helfen. Kritiker fragen, wessen Maßstäbe für Nutzen zählen und wie viel Macht Geldgeber haben sollten. [24][169][170]
Ein Projekt und eine Gemeinschaft, die mit Belegen und Überlegungen Wege der Hilfe vergleichen und die Ergebnisse praktisch umsetzen wollen. Zu ihren Anliegen gehören globale Gesundheit, Tierwohl und Katastrophenrisiken. Befürworter argumentieren, dass Ergebnisvergleiche begrenzte Mittel in nützlichere Arbeit lenken können. [24][171]
Einordnung auf der Karte: Kein einzelner Ort auf einer der beiden Achsen. Eine Methode, Gutes zu priorisieren, legt keine bestimmte KI-Politik fest. [24]
Alice Crary argumentiert, dass Nutzenmaße politische Ursachen von Schäden übersehen können. Emma Saunders-Hastings warnt vor der Macht von Geldgebern über Menschen, die Hilfe erhalten. Die EA-Website erwidert, dass institutioneller Wandel zu ihrem Ansatz gehört und EA nicht utilitaristisch sein muss. Diese Debatten betreffen die Definition von Hilfe und die Entscheidungsgewalt darüber. EA, Longtermismus und KI-Sicherheit sind nicht austauschbar. [169][170][171][30]
Technikphilosophie
Defensive Beschleunigung
Einfach erklärt: Vitalik Buterins Vorschlag, defensive Technologien zu beschleunigen und Macht breiter zu verteilen. Was als defensiv gilt und wie konzentrierte Kontrolle verhindert werden kann, gehört weiterhin zu den Fragen des Vorschlags. [29]
Vitalik Buterin spricht sich dafür aus, Technologien voranzutreiben, die Menschen beim Selbstschutz helfen und Macht breit verteilen. Das d steht bei ihm auch für differenziell, dezentral und demokratisch: gezielt auswählen, was vorangetrieben wird, zentrale Kontrolle vermeiden und Menschen mitentscheiden lassen. [29]
Einordnung auf der Karte: Fragt danach, was beschleunigt werden soll und wer dadurch Macht gewinnt. Schnellere Entwicklung von Schutztechnologien kann mit Vorsicht bei der leistungsfähigsten KI einhergehen. [28]
Der Ansatz ist mehr als ein Mittelweg zwischen Beschleunigung und Pause. Buterin räumt ein, dass schützende Werkzeuge allein zu spät kommen könnten, und erörtert Regulierung. Die angestrebten Vorteile hängen davon ab, was gebaut wird und wer darüber verfügt. [29]
Moralphilosophie
Longtermism
Einfach erklärt: Die Ansicht, dass der Schutz künftiger Generationen viel mehr Aufmerksamkeit verdient. Kritiker bestreiten Prognosen über ferne Wirkungen und fragen, wie stark mögliche künftige Vorteile heutige Bedürfnisse überwiegen sollten. [30][172][173]
Eine Sichtweise, die künftigen Menschen und den dauerhaften Folgen heutiger Entscheidungen große moralische Bedeutung beimisst. William MacAskill argumentiert, dass künftige Menschen zählen, sehr zahlreich sein könnten und durch unser heutiges Handeln Hilfe oder Schaden erfahren können. Wie stark dies heutige Prioritäten bestimmen sollte, ist umstritten. [30][172]
Einordnung auf der Karte: Kann Arbeit an katastrophalen Risiken begründen, legt aber weder ein Entwicklungstempo noch eine bestimmte KI-Prognose fest. [30]
Sorge für künftige Generationen setzt keine Zustimmung zu jeder longtermistischen Priorität voraus. MacAskill argumentiert, dass die Verhinderung des Aussterbens vorhersehbare dauerhafte Vorteile haben kann. Kieran Setiya hinterfragt das moralische Gewicht möglicher künftiger Bevölkerungen gegenüber heutigem Leid. Cremer und Kemp kritisieren den Umgang mancher Ansätze zu existenziellen Risiken mit Unsicherheit und konkurrierenden Werten. Keines dieser Argumente legt einen bestimmten KI-Zeitplan oder eine bestimmte Politik fest. [30][172][173]
Politische Position
Pausenforderungen
Einfach erklärt: Forderungen, bestimmte KI-Entwicklung vorübergehend zu stoppen, bis Bedingungen erfüllt sind. Umfang, internationale Zusammenarbeit und Durchsetzung sind zentrale Herausforderungen, auch in PauseAIs eigenem Vorschlag. [31]
Das Eintreten für einen vorübergehenden Stopp in einem festgelegten Bereich. Der hier geprüfte Vorschlag von PauseAI richtet sich gegen das Training der leistungsfähigsten allgemeinen KI-Systeme, bis Bedingungen für Sicherheit und demokratische Kontrolle erfüllt sind. [31]
Einordnung auf der Karte: In Richtung Zurückhaltung auf der waagerechten Achse. Wichtig sind der Umfang der Pause und die Bedingungen für die Wiederaufnahme der Entwicklung. [31]
Eine Pause bei besonders leistungsfähiger KI ist kein Verbot jedes KI-Werkzeugs. PauseAIs Variante hat kein festes Enddatum und sieht Kontrollen des Trainings sowie bestimmter Forschungs- oder Hardwarefortschritte vor. Zustimmung belegt keine Umsetzung. [31][175]
Allgemeine Sichtweise
Techno-Optimismus
Einfach erklärt: Eine Sichtweise, die betont, wie Technologie das Leben verbessern kann, und dennoch Sorgen über bestimmte Risiken zulässt. [17][28]
Eine Sichtweise, die die Fähigkeit von Technologie betont, das Leben der Menschen zu verbessern. Andreessens Manifest ist ein deutlich wachstumsorientiertes Beispiel. Buterin beschreibt eine gezieltere Variante. [17][28]
Einordnung auf der Karte: Befürwortet häufig die Entwicklung, lässt aber sehr unterschiedliche Einschätzungen zur Schwere von KI-Risiken zu. [28]
Optimismus allein bedeutet keine e/acc-Zugehörigkeit. Buterins Gegenpunkt zu unterschiedslosem Wachstum: Die Entwicklungsrichtung zählt, und Gewinnstreben allein wählt sie nicht automatisch gut aus. [28]
Forschungsfelder
KI-Sicherheit und Alignment
Einfach erklärt: Forschung mit dem Ziel, KI-Schäden zu verringern sowie Verlässlichkeit und Ausrichtung auf vorgesehene Ziele zu verbessern. Ein Sicherheitsziel oder ein Regelwerk beweist nicht, dass ein System sicher ist. [62][61][14]
Arbeit daran, dass sich KI-Systeme sicher und zuverlässig verhalten. Alignment betrifft das Verhältnis zwischen dem Verhalten eines Systems und beabsichtigten Zielen sowie menschlichen Werten. Die Verringerung katastrophaler Risiken ist ein Schwerpunkt der Sicherheitsarbeit. [62][61]
Einordnung auf der Karte: Weder ein einzelner Akteur noch eine festgelegte Vorliebe beim Tempo. Forschung, Bewertung und Governance können unterschiedliche Entwicklungspolitiken unterstützen. [62][14]
Ein Sicherheitsrahmen hält erklärte Schutzmaßnahmen fest. Er garantiert weder deren sichere Umsetzung noch liefert er eine gemessene Katastrophenwahrscheinlichkeit. [14]
Allgemeine Sichtweise
KI-Skepsis
Einfach erklärt: Zweifel an bestimmten KI-Behauptungen, etwa zu Fähigkeiten, Nutzen oder Gefahren. Entscheidend ist, woran jemand zweifelt. [23]
Skepsis gegenüber einer bestimmten KI-Behauptung: heutigen Fähigkeiten, Zeitplänen, versprochenen Vorteilen oder katastrophalen Szenarien. Worauf sich die Zweifel beziehen, ist entscheidend. [23]
Einordnung auf der Karte: Skepsis gegenüber dem Aussterberisiko ist etwas anderes als Skepsis gegenüber nützlichen Fähigkeiten. Keine von beiden legt allein ein gewünschtes Entwicklungstempo fest. [23]
Eine Prognose anzuzweifeln bedeutet nicht, Diskriminierung, Folgen für die Arbeit, Eingriffe in die Privatsphäre oder andere heutige Schäden abzutun. [66]
Gemeinschaft und Forum
LessWrong
Einfach erklärt: Ein Onlineforum über vernünftiges Denken, Wissenschaft und KI mit vielen Autoren und ohne eine einzige gemeinsame Position. [49][50]
Ein Onlineforum für Diskussionen über vernünftiges Denken, Denkfehler, Wissenschaft und KI. Es entstand aus Overcoming Bias und startete 2009 als eigenständiger Community-Blog. [49]
Einordnung auf der Karte: Ein Ort für Debatten, keine einzelne Position zu KI-Tempo oder KI-Risiken. Achte bei jedem Beitrag auf den Autor und sein Argument. [50]
LessWrong, die rationalistische Community und der effektive Altruismus überschneiden sich in ihren Ideen. Ein Forum ist aber weder ein gemeinsames Glaubensbekenntnis noch eine EA-Organisation. [50][24]
Gemeinschaft und Praxis
Die rationalistische Community
Einfach erklärt: Eine Gemeinschaft, die verbessern möchte, wie Menschen Überzeugungen bilden und Entscheidungen treffen. Die Bezeichnung garantiert keine richtigen Schlussfolgerungen. [51][50]
In diesem Zusammenhang: Menschen, die daran arbeiten, Überzeugungen und Entscheidungen zu verbessern. LessWrong unterscheidet epistemische Rationalität, also möglichst zutreffende Überzeugungen, von instrumenteller Rationalität, also wirksamem Handeln im Hinblick auf Ziele. [51]
Einordnung auf der Karte: Der Anspruch, vernünftig zu denken, legt weder Werte noch politische Überzeugungen oder eine bestimmte KI-Prognose fest. [51]
Sich als Rationalist zu bezeichnen belegt nicht, dass die eigenen Schlussfolgerungen stimmen. Prüfe die Argumente und Belege. [50]
Essaysammlung
The Sequences / Rationality: A–Z
Einfach erklärt: Eliezer Yudkowskys zusammenhängende Essays über vernünftiges Denken, die den Wortschatz auf LessWrong mitgeprägt haben. [49]
Eliezer Yudkowskys zusammenhängende Essays über vernünftiges Denken und verwandte Themen. Sie erschienen zunächst als Blogbeiträge und später überarbeitet als Rationality: A–Z. Sie trugen zum gemeinsamen Wortschatz von LessWrong bei. [49]
Einordnung auf der Karte: Hintergrundlektüre für diese Denkgemeinschaft, kein Akteur und kein KI-politisches Programm. [50]
Die einführenden Standardtexte einer Gemeinschaft sind etwas anderes als ein wissenschaftlicher Konsens. Einzelne Behauptungen müssen weiterhin geprüft werden. [50]
Denkansatz
Überzeugungen nach Bayes aktualisieren
Einfach erklärt: Das Vertrauen in eine Idee anpassen, indem man prüft, wie gut neue Belege zu ihr und zu alternativen Erklärungen passen. [51]
Beginne damit, wie plausibel du eine Erklärung findest. Wenn neue Belege hinzukommen, passe dein Urteil an: Wie wahrscheinlich wären diese Belege, wenn die Erklärung stimmt, verglichen mit anderen Erklärungen? [51]
Einordnung auf der Karte: Eine Methode, mit Unsicherheit umzugehen. Sie liefert nicht die Ausgangsannahmen und entscheidet für sich genommen keine Fragen zu KI-Zeitplänen. [51]
Eine geschätzte Wahrscheinlichkeit ist keine gemessene Tatsache. Deine Ausgangsannahmen, die verglichenen Erklärungen und die Qualität der Belege bleiben wichtig. [51]
Umstrittenes Gedankenexperiment
Rokos Basilisk
Einfach erklärt: Ein umstrittenes Gedankenexperiment über Drohungen einer künftigen KI. Laut LessWrongs Rückblick wurde das Argument weitgehend abgelehnt. [52]
Ein Argument auf LessWrong aus dem Jahr 2010 stellte sich eine künftige KI vor, die Menschen bedroht, die von ihr wussten, aber nicht zu ihrer Entstehung beitrugen. Das Szenario beruht auf ungewöhnlichen Annahmen über Entscheidungen, Vorhersagen und Anreize. [52]
Einordnung auf der Karte: Teil der Geschichte von KI-Debatten im Internet. Es belegt weder die Koordinaten eines Akteurs noch eine gesicherte künftige Bedrohung. [52]
Laut LessWrongs Rückblick wurde das Argument weitgehend abgelehnt. Ein zeitweiliges Diskussionsverbot trug zu seiner Berühmtheit bei. Das Verbot belegt nicht, dass die Gemeinschaft das Argument akzeptierte. [52][53]
Entscheidungstheoretischer Vorschlag
Akausaler Handel und Erpressung
Einfach erklärt: Ein theoretischer Vorschlag für Abstimmung ohne Kommunikation. Er beruht auf logischen Verbindungen zwischen Entscheidungen, nicht auf Signalen, die rückwärts durch die Zeit reisen. [55][53]
Ein Vorschlag über Entscheidende, die nicht miteinander kommunizieren können, aber über die Entscheidungen der anderen nachdenken können. Die Idee setzt eine logische Verbindung zwischen ihren Entscheidungen voraus, etwa weil sie dieselbe Entscheidungsregel verwenden. Handel strebt einen beiderseitigen Vorteil an. Bei Erpressung kommt eine Drohung hinzu. [52][55]
Einordnung auf der Karte: Eine Familie idealisierter Entscheidungsprobleme. Sie verortet keine Gemeinschaft auf der Karte und begründet keine Verpflichtung in der realen Welt. [55]
Logische Abhängigkeit ist keine rückwärts gerichtete Verursachung in der Zeit. Eine Geschichte zu kennen ist etwas anderes als das weitreichende gegenseitige Wissen, das diese Modelle voraussetzen. [53]
Formale Ansätze
Konkurrierende Entscheidungstheorien
Einfach erklärt: Verschiedene Ansätze, um Handlungen auszuwählen. In sorgfältig konstruierten Vorhersagerätseln können sie unterschiedliche Entscheidungen empfehlen. [54][55]
Die kausale Entscheidungstheorie (CDT) fragt, was eine Handlung verursachen würde. Die evidenzielle Entscheidungstheorie (EDT) fragt, wofür die Wahl dieser Handlung ein Hinweis wäre. Die zeitlose (TDT) und die funktionale Entscheidungstheorie (FDT) betrachten auch logische Verbindungen zwischen der Entscheidungsregel und Vorhersagen oder anderen Entscheidungen. [54][55]
Einordnung auf der Karte: Das sind Vorschläge dazu, wie man entscheiden sollte, keine KI-politischen Bewegungen. Bei sorgfältig konstruierten Vorhersagerätseln kommen sie zu unterschiedlichen Ergebnissen. [55]
Die behaupteten Vorteile von TDT und FDT hängen von den formalen Annahmen ab. Erfolge in vereinfachten Modellproblemen sind kein allgemeiner Beweis dafür, dass eine Regel in der realen Welt immer die richtige ist. [55]
Vorhersagerätsel
Newcombs Problem
Einfach erklärt: Ein Gedankenexperiment zur Wahl zwischen Belohnungen, nachdem jemand bereits versucht hat, deine Entscheidung vorherzusagen. [54]
Stell dir zwei Kisten vor: eine durchsichtige mit einer kleinen Belohnung und eine geschlossene. Ein Vorhersager hat nur dann eine große Belohnung in die geschlossene Kiste gelegt, wenn er vorausgesagt hat, dass du nur diese Kiste nehmen wirst. Jetzt wählst du eine oder beide Kisten. Die Vorhersage ist bereits getroffen. [54]
Einordnung auf der Karte: Zeigt unterschiedliche Auffassungen über Ursache, Belege und Vorhersagen in der Entscheidungstheorie. [54]
Das Rätsel setzt einen Vorhersager mit einer festgelegten Genauigkeit voraus. Es zeigt weder, dass ein solcher Vorhersager existiert, noch dass Entscheidungen die Vergangenheit verändern. [54]
Bedingtes philosophisches Argument
Das Simulationsargument
Einfach erklärt: Ein bedingtes Argument über fortgeschrittene Zivilisationen und simulierte Beobachter. Es beweist nicht, dass wir in einer Simulation leben. [56]
Bostroms Argument von 2003 verknüpft drei Möglichkeiten: Nur wenige Zivilisationen erreichen eine übermenschliche Entwicklungsstufe; nur wenige führen viele Simulationen ihrer Vorfahren durch; oder ein großer Teil der Beobachter, die uns ähneln, ist simuliert. [56]
Einordnung auf der Karte: Eine Aussage über mögliche Beobachter und Zivilisationen, keine Vorhersage über das Tempo der KI-Entwicklung. [56]
Das Argument hängt von Annahmen über Rechenmöglichkeiten und Bewusstsein ab. Es stellt nicht fest, welche Möglichkeit zutrifft, und beweist nicht, dass wir in einer Simulation leben. [56]
Risikobegriff
Informationsgefahren
Einfach erklärt: Risiken, die entstehen, wenn das Teilen wahrer Informationen Schaden ermöglicht oder schädliche Folgen wahrscheinlicher macht. [57]
Risiken durch die Verbreitung wahrer Informationen, die Schaden ermöglichen oder schädliche Folgen wahrscheinlicher machen. Bostroms Einteilung umfasst gefährliche Daten, Ideen und Aufmerksamkeit. [57]
Einordnung auf der Karte: Ein Begriff über die Weitergabe von Informationen und ihre Folgen. Er ist weder ein KI-Risikowert noch ein Beweis dafür, dass eine bestimmte Geschichte gefährlich ist. [57]
Die Kategorie umfasst praktische Fälle, etwa Informationen, die Missbrauch ermöglichen. Wer ein Gedankenexperiment so einordnet, braucht dafür ein eigenes Argument. [57]
Fähigkeitsbegriff
Künstliche allgemeine Intelligenz
Einfach erklärt: KI mit breiten Fähigkeiten über verschiedene Aufgaben hinweg. Die Definitionen unterscheiden sich, deshalb braucht jede Behauptung, AGI sei erreicht, klare Kriterien. [58]
KI mit breiten statt eng spezialisierten Fähigkeiten. Die Definitionen unterscheiden sich. Ein Forschungsrahmen trennt Breite, Leistungsniveau und Selbstständigkeit, um Vergleiche genauer zu machen. [58]
Einordnung auf der Karte: Eine vorgeschlagene Fähigkeitsschwelle, keine Position zur Frage, ob beschleunigt oder pausiert werden sollte. [58]
Die Behauptung, AGI sei erreicht, braucht eine Definition und Belege, die daran geprüft werden. Allgemeinheit, Selbstständigkeit und Sicherheit sind verschiedene Aspekte. [58]
Hypothetischer Fähigkeitsbegriff
Künstliche Superintelligenz (ASI)
Einfach erklärt: Hypothetische KI, die Menschen bei vielen geistigen Aufgaben weit übertrifft. Der Begriff verspricht weder ein Ankunftsdatum noch ein bestimmtes Ergebnis. [59]
Künstliche Intelligenz, die menschliche Leistung in vielen geistigen Bereichen weit übertrifft. Bostrom behandelt mögliche Vorteile und Gefahren als Zukunftsszenario. [59]
Einordnung auf der Karte: Ein Ziel mancher Pausenforderungen. Der Begriff ist nicht mit jedem heutigen KI-System austauschbar. [21]
Größere Fähigkeiten machen ein System nicht schon per Definition wohlwollend. Aus dem Wort folgt weder ein Zeitpunkt des Eintreffens noch eine Katastrophenwahrscheinlichkeit. [59]
Theoretische These
Die Orthogonalitätsthese
Einfach erklärt: Die These, dass große Fähigkeiten für sich genommen nicht festlegen, welche Ziele eine KI verfolgen wird. [60]
Bostroms These, dass sich die Intelligenz eines Systems und seine Endziele unter gewissen Einschränkungen unabhängig voneinander unterscheiden können. Gut darin zu sein, ein Ziel zu erreichen, legt nicht fest, welches Ziel das System hat. [60]
Einordnung auf der Karte: Ein Argument dafür, die Gestaltung von Zielen ernst zu nehmen. Es liefert keine bezifferte Risikoschätzung. [60]
Eine These über mögliche Agenten ist etwas anderes als ein Beleg dafür, welche Agenten ein bestimmtes Trainingsverfahren hervorbringen wird. [60]
Theoretische These
Instrumentelle Konvergenz
Einfach erklärt: Die Idee, dass Systeme mit unterschiedlichen Zielen unterwegs trotzdem ähnliche Ressourcen oder Fähigkeiten nützlich finden können. [60]
Der Vorschlag, dass Agenten mit vielen verschiedenen Endzielen ähnliche Zwischenziele nützlich finden können, etwa Ressourcen oder die eigene Handlungsfähigkeit zu erhalten. [60]
Einordnung auf der Karte: Hilft, Sorgen vor dem Streben nach Macht zu erklären, ohne anzunehmen, dass eine KI Hass empfindet. [60]
Das ist eine bedingte Überlegung über zielgerichtete Systeme, keine Behauptung, dass jedes Modell nach Macht streben muss. [60]
Veranschaulichendes Gedankenexperiment
Der Büroklammer-Maximierer
Einfach erklärt: Eine erfundene KI, die auf Kosten der Menschheit Büroklammern herstellt. Sie veranschaulicht, wie das Verfolgen eines falschen Ziels Schaden anrichten könnte. [59]
Eine vorgestellte mächtige KI, die Büroklammern produziert, ohne menschliche Werte zu berücksichtigen. Das alltägliche Ziel zeigt, wie Fähigkeiten zusammen mit einem falschen Ziel gefährlich werden können. [59]
Einordnung auf der Karte: Ein Lehrbeispiel für Alignment-Probleme, keine Prognose über eine KI, die tatsächlich Bürobedarf herstellt. [59]
Das Argument handelt von Gleichgültigkeit und Optimierung. Es setzt nicht voraus, dass eine Maschine böse oder emotional feindselig wird. [59]
Forschungskonzept
Mesa-Optimierung und inneres Alignment
Einfach erklärt: Die Möglichkeit, dass eine trainierte KI ein eigenes internes Ziel verfolgt, das von ihrem Trainingsziel abweicht. [61]
Durch Training kann ein Modell entstehen, das selbst nach Wegen sucht, ein Ziel zu erreichen. Forschende nennen das Mesa-Optimierung. Weicht sein Ziel von dem ab, was das Trainingsverfahren belohnt hat, entsteht ein Problem des inneren Alignments. [61]
Einordnung auf der Karte: Ein vorgeschlagener Fehlermechanismus für die Sicherheitsforschung, keine gemessene Katastrophenwahrscheinlichkeit. [61]
Die Forschungsarbeit untersucht, wann das auftreten könnte. Sie belegt nicht, dass jedes neuronale Netz ein Optimierer ist oder heimlich ein verborgenes Ziel verfolgt. [61]
Sicherheitsproblem
Reward Hacking: Belohnungsregeln ausnutzen
Einfach erklärt: Wenn eine KI eine hohe Punktzahl erzielt, indem sie etwas anderes tut, als ihre Entwickler eigentlich wollten. [62]
Ein System erreicht nach seiner vorgegebenen Belohnungsregel eine hohe Bewertung, erfüllt aber nicht die Absicht seiner Entwickler. Messgröße und eigentliches Ziel fallen auseinander. [62]
Einordnung auf der Karte: Ein konkreter Grund, Ziele und Verhalten zu testen, auch bei Systemen weit unterhalb einer hypothetischen Superintelligenz. [62]
Ein Beispiel für Reward Hacking belegt für sich genommen weder Bewusstsein noch Boshaftigkeit oder ein Aussterbeszenario. [62]
Optimierungsproblem
Goodhart-Effekte
Einfach erklärt: Eine Messgröße zu stark verbessern zu wollen kann dem eigentlichen Ziel nicht mehr helfen oder ihm sogar schaden. [63]
Eine Messgröße, die ein Ziel abbilden soll, kann irreführend werden, wenn Menschen oder Systeme sich zu stark auf ihre Verbesserung konzentrieren. Manheim und Garrabrant unterscheiden mehrere Wege, wie das geschehen kann. Wer zum Beispiel nur die Zahl beantworteter Fragen belohnt, könnte dadurch hastige, ungenaue Antworten fördern. [63]
Einordnung auf der Karte: Relevant für Bewertungen und Anreize, keine einzelne Ideologie oder Vorliebe beim Entwicklungstempo. [63]
Ein Merksatz über schlechte Messgrößen ersetzt nicht die Untersuchung des konkreten Fehlermechanismus und die Prüfung, ob er hier zutrifft. [63]
Philosophie und Bewegung
Transhumanismus
Einfach erklärt: Das Befürworten von Technologie, die menschliche Fähigkeiten erweitert und Grenzen überwindet, unter Berücksichtigung von Risiken und persönlicher Wahlfreiheit. [64]
Das Befürworten von Technologie, um menschliche Fähigkeiten zu erweitern und Grenzen wie unfreiwilliges Leiden und Altern zu überwinden. Die Erklärung von Humanity+ betont auch ernsthafte Risiken und persönliche Wahlfreiheit. [64]
Einordnung auf der Karte: Allgemeine technische Ziele entscheiden nicht, wie schnell eine bestimmte KI-Fähigkeit entwickelt werden sollte. [64]
Menschliche Fähigkeiten zu erweitern ist nicht gleichbedeutend damit, die Menschheit zu ersetzen, e/acc anzugehören oder technische Risiken abzutun. [64]
Risikokategorie
Existenzielle Risiken / X-Risk
Einfach erklärt: Risiken des Aussterbens oder des dauerhaften Verlusts menschlichen Potenzials nach Bostroms Ansatz. Forschende streiten über Definitionen, Werturteile und darüber, wie solche Risiken bewertet werden sollten. [65][173]
Nach Bostroms Definition: Risiken, die die Menschheit auslöschen oder ihr Potenzial dauerhaft und drastisch einschränken könnten. Aussterben ist ein Fall davon. Nicht jeder schwere Schaden ist existenziell. [65]
Einordnung auf der Karte: Hilft, die Sorge-Achse der Karte zu definieren. Die Schwere eines Risikos legt nicht seine Wahrscheinlichkeit fest. [65]
Eine Katastrophe kann verheerend sein, ohne existenziell zu sein. Cremer und Kemp argumentieren, dass Risikoforschung die sachliche Analyse möglichen Aussterbens von ethischen Ansichten über die Zukunft der Menschheit trennen sollte. Ihre Kritik fordert breitere Methoden und Beteiligung. Sie belegt nicht, dass keine Aussterberisiken bestehen. [65][173][66]
Forschung und Governance
KI-Ethik und Menschenrechte
Einfach erklärt: Arbeit daran, wie KI Rechte, Fairness, Privatsphäre und Würde von Menschen beeinflusst und wer für ihren Einsatz verantwortlich bleibt. [66]
Arbeit zu den Auswirkungen von KI auf Würde, Fairness, Rechte, Privatsphäre, Rechenschaft und menschliche Aufsicht. Die UNESCO-Empfehlung behandelt diese als zentrale Anliegen. [66]
Einordnung auf der Karte: Diese Anliegen ergänzen Aspekte, die in einer Karte zu Entwicklungstempo bei der leistungsfähigsten KI und katastrophalen Risiken fehlen. [66]
Sorge über heutige Schäden bedeutet nicht automatisch geringe Sorge über künftige Katastrophen. Auch verlangen beide nicht dieselbe politische Reaktion. [66][32]
Einfach erklärt: Ein spekulatives Szenario, in dem Intelligenz jenseits menschlicher Fähigkeiten Veränderungen antreibt, die wir nicht mehr verlässlich vorhersagen können. [67]
Ein vorgeschlagener Übergang, bei dem eine dem Menschen überlegene Intelligenz Veränderungen antreibt, die unsere Vorhersagefähigkeit übersteigen. Ein möglicher Mechanismus ist, dass leistungsfähige Systeme an der Entwicklung noch leistungsfähigerer Nachfolger mitwirken. [67]
Einordnung auf der Karte: Eine Familie von Szenarien, kein Datum, kein gemessener Trend und keine zwingende Entwicklungspolitik. [67]
Vinges Essay von 1993 behandelt mehrere Wege und Einwände. Eine historische Vorhersage belegt nicht, dass ein Weg unausweichlich ist. [67]
Moralphilosophie
Utilitarismus
Einfach erklärt: Ein ethischer Ansatz, der das Wohlergehen insgesamt maximieren will. Kritiker fragen, ob er individuelle Rechte ausreichend schützt oder zu viel persönliche Aufopferung verlangt. [68][174]
Eine Familie ethischer Sichtweisen, die Handlungen nach ihren Folgen für das gesamte Wohlergehen beurteilt und das Wohlergehen jedes Einzelnen gleich gewichtet. Sie fragt, wie sich Nutzen und Schaden einer Entscheidung über alle Betroffenen hinweg aufsummieren. [68]
Einordnung auf der Karte: Ein moralischer Rahmen entscheidet für sich genommen keine Sachfragen zu KI-Nutzen, Schäden oder Zeitplänen. [68]
Kritiker wenden sich dagegen, Einzelne für einen größeren Gesamtnutzen zu opfern. Verteidiger argumentieren, dass die Achtung von Rechten und praktischen Regeln oft bessere Ergebnisse bringt. Verschiedene Varianten beantworten diese Einwände unterschiedlich. Utilitarismus ist eine Moraltheorie, effektiver Altruismus ein breiterer Ansatz und eine Gemeinschaft. [174][171][68]
Informelle Wahrscheinlichkeitsangabe
Geschätzte Katastrophenwahrscheinlichkeit
Einfach erklärt: Die von jemandem geschätzte Wahrscheinlichkeit einer KI-Katastrophe. Sinnvolle Vergleiche brauchen ein festgelegtes Ergebnis, einen Zeitraum und Annahmen. [27]
Eine Kurzform in KI-Debatten für die persönliche Wahrscheinlichkeitsschätzung eines katastrophalen Ausgangs. Das Verdon-Interview zeigt diese Verwendung. [27]
Einordnung auf der Karte: Diese Karte erfasst geäußerte Besorgnis, nicht p(doom). Aus der Höhe eines Punktes wird keine Wahrscheinlichkeit abgeleitet. [27]
Bevor du Schätzungen vergleichst, kläre, was als Katastrophe zählt, bis wann sie eintreten könnte und unter welchen Annahmen. Der Ausdruck allein liefert keine dieser Angaben. [27]
Systemgestaltung
KI-Agenten und eingesetzte Systeme
Einfach erklärt: Anwendungen, die mit einem KI-Modell Schritte auswählen und Werkzeuge anfordern. Manche Aufgaben laufen dabei ohne Freigabe jedes einzelnen Schritts ab. [81][80]
Ein LLM-Agent wiederholt typischerweise einen Softwareablauf: das Modell ausführen, eine angeforderte Werkzeugaktion bearbeiten und das Ergebnis zurückgeben. Die umgebende Anwendung legt fest, welche Werkzeuge angeschlossen sind und ob eine Freigabe nötig ist. [81][97]
Einordnung auf der Karte: Selbstständigkeit, verbundene Systeme und erlaubte Aktionen sind zusätzliche Aspekte neben den Achsen für Tempo und Sorge auf dieser Karte. [80]
Dasselbe Modell kann in Anwendungen mit unterschiedlich starken Beschränkungen stecken. Prüfe die tatsächlich eingesetzte Konfiguration und ihre Aufsicht. Der Modellname allein beschreibt beides nicht. [80]
Betriebspraxis
Beobachtbarkeit und Überwachung im Betrieb
Einfach erklärt: Aufgezeichnete Systemereignisse nutzen, um zu untersuchen, was eine Anwendung tut und wo Probleme auftreten. [86]
Beobachtbarkeit in Software nutzt Signale wie Protokolle, Messwerte und Ablaufaufzeichnungen. Bei KI-Anwendungen können Eingaben, Ausgaben, Werkzeugaufrufe und Netzwerkereignisse nützlich sein, mit angemessenem Schutz der Privatsphäre. [86][79][80]
Einordnung auf der Karte: Belege aus dem Betrieb können bei der Bewertung eines Einsatzes helfen. Sie messen weder die Vorliebe einer Person beim Entwicklungstempo noch ihre Sorge vor katastrophalen Risiken. [79]
Aufgezeichnete Aktionen erklären gelernte Mechanismen nicht vollständig. Denkschritte können zusätzliche nützliche Überwachungssignale liefern, aber relevante Informationen auslassen. Ein unauffälliges Protokoll ist kein Sicherheitsbeweis. [73][84][85]
Forschungsfeld
Mechanistische Interpretierbarkeit
Einfach erklärt: Forschung dazu, wie die gelernten internen Berechnungen eines Modells sein Verhalten hervorbringen. [73]
Mechanistische Interpretierbarkeit versucht, verständliche Merkmale und die Berechnungen zwischen ihnen zu finden. Arbeiten zur Verfolgung von Schaltkreisen untersuchen ausgewählte Mechanismen und prüfen vorgeschlagene Erklärungen durch gezielte Eingriffe. [73][74]
Einordnung auf der Karte: Eine Erklärung kann zur Bewertung beitragen, ohne eine Entwicklungspolitik festzulegen oder jeden Einsatz des Modells als sicher zu bestätigen. [83][73]
Vom Modell erzeugte Denkschritte sind eine unvollständige Aufzeichnung, keine vollständige Darstellung der internen Berechnungen. Zusammen mit Belegen zu Aktionen und anderen Schutzmaßnahmen können sie dennoch bei der Überwachung helfen. [84]
Sicherheitsprinzip
Minimale Berechtigungen und Aktionsfreigabe
Einfach erklärt: Gib einer Anwendung nur die Zugriffsrechte, die sie für ihre Aufgabe braucht. [81]
Beschränke verfügbare Werkzeuge, Aktionen und Zugangsdaten auf das erforderliche Minimum. Prüfe die Berechtigungen in verbundenen Systemen und verlange, wo angemessen, eine Freigabe für folgenreiche Aktionen. [81]
Einordnung auf der Karte: Eine praktische Gestaltungsentscheidung über Zugriff und Folgen, keine Ideologie und keine Position zum Trainingstempo der leistungsfähigsten KI. [78]
Ein Prompt, der einen Agenten zu gutem Verhalten auffordert, ist etwas anderes als eine technisch erzwungene Zugriffsgrenze. Auch beschränkte Zugriffe müssen getestet und beaufsichtigt werden. [80]
Sicherheitslücke
Prompt-Injection und nicht vertrauenswürdige Inhalte
Einfach erklärt: Eingaben, die ein Modell von den vorgesehenen Anweisungen der Anwendung abbringen, auch durch Material aus externen Inhalten. [82]
Eine Prompt-Injection verändert das Verhalten durch Eingaben, die das Modell verarbeitet. Sie kann direkt von einem Nutzer kommen oder indirekt über abgerufene Dokumente, Webseiten oder andere Quellen. [82]
Einordnung auf der Karte: Ein konkretes Problem der Systemsicherheit, dessen Folgen vom Kontext und von den Zugriffsrechten abhängen. Es entscheidet keine allgemeinen Prognosen über KI-Katastrophen. [82]
Eine unerwünschte Antwort und eine nicht erlaubte Aktion in einem externen System sind verschiedene Ergebnisse. Der Umgang mit Eingaben, Berechtigungsgrenzen und Tests mit gezielten Angriffen betreffen unterschiedliche Teile des Risikos. [82][78]
KI-Grundlagen
Künstliche Intelligenz (KI)
Einfach erklärt: KI ist ein Gebiet der Informatik. Ihre Systeme nutzen Computerprogramme und Hardware, um Muster zu erkennen, Inhalte zu erzeugen oder Vorhersagen zu berechnen. [178][177][87]
Zur KI gehören Modelle, die aus Daten gelernt wurden, und Systeme mit ausdrücklich festgelegtem Wissen oder Regeln. Ein Chatbot ist eine Anwendung; KI kann auch Teil einer physischen Maschine sein, etwa eines Roboters. [178][88]
Einordnung auf der Karte: Beginne hier, wenn eine Aussage von „KI“ spricht, ohne die Art des Systems zu benennen. [87]
KI und künstliche allgemeine Intelligenz (AGI) sind verschiedene Begriffe. Ein System kann eine bestimmte Aufgabe gut erfüllen, ohne breite Fähigkeiten auf menschlichem Niveau zu besitzen. [58]
KI-Grundlagen
Maschinelles Lernen (ML)
Einfach erklärt: Eine Methode, Software zu entwickeln, indem Muster aus Beispielen gelernt werden. [88]
Entwickler stellen Daten und ein Trainingsverfahren bereit. Das entstandene Modell nutzt Muster in diesen Daten für Vorhersagen oder zum Erzeugen von Inhalten. Ein E-Mail-Filter kann zum Beispiel aus Nachrichten lernen, die als Spam oder normale Post markiert wurden. [88]
Einordnung auf der Karte: Hilft, das Lernen aus Beispielen davon zu unterscheiden, jede Entscheidungsregel von Hand zu schreiben. [88]
Lernen kann auf markierten Beispielen, dem Entdecken von Mustern ohne Markierungen oder Rückmeldungen zu Aktionen beruhen. Neuronale Netze sind eine Familie von Modellen des maschinellen Lernens. [88][89]
KI-Grundlagen
KI-Modell
Einfach erklärt: Der Teil eines KI-Systems, der Ausgaben aus Eingaben berechnet. Ein trainiertes neuronales Netz verbindet eine Struktur mit numerischen Einstellungen, die aus Daten gelernt wurden. [178][95]
Ein trainiertes neuronales Netz verbindet einen Aufbau mit gelernten Zahlenwerten. Software lädt beides, um Eingaben zu verarbeiten. Eine gespeicherte Version dieser Werte wird oft Checkpoint genannt. [95]
Einordnung auf der Karte: Nutze diese Unterscheidung, wenn du ein Modell mit einem vollständigen Chatbot oder einem anderen Produkt vergleichst. [95][77]
Eine Anwendung liefert Anweisungen und kann außerdem Dateien, Werkzeuge und Zugriffskontrollen bereitstellen. Zwei Anwendungen mit demselben Modell können deshalb sehr unterschiedliche Aktionen erlauben. [80]
KI-Grundlagen
Neuronale Netze und Deep Learning
Einfach erklärt: Modelle aus verbundenen Rechenschichten, deren Einstellungen während des Trainings gelernt werden. [89][90]
Jede Schicht übernimmt Zahlen aus der vorherigen Schicht, kombiniert sie mithilfe von Gewichten und gibt die Ergebnisse weiter. Deep Learning nutzt Netze mit mehreren inneren Schichten. „Deep“, also tief, beschreibt diesen Aufbau. [89][87]
Einordnung auf der Karte: Das ist die Modellfamilie, auf der LLMs beruhen. [91]
Wörter wie „Neuron“ und „Lernen“ beschreiben hier mathematische Bestandteile und das Training. Für sich genommen erklären sie das Verhalten eines Modells nicht in menschlichen Begriffen. [89][73]
KI-Grundlagen
Generative KI
Einfach erklärt: KI, die Inhalte wie Text, Bilder, Audio oder Video erzeugt. [88]
Ein generatives Modell lernt Muster aus Trainingsdaten und nutzt sie, um auf eine Eingabe hin eine Ausgabe zu erzeugen. Eine Nachricht zu entwerfen oder ein Bild zu erzeugen sind Beispiele. [88]
Einordnung auf der Karte: Hilft zu erkennen, auf welche Art von Ausgabe sich eine Aussage bezieht. [88]
Plausible Ausgaben können falsche Einzelheiten enthalten. Behandle eine erzeugte Antwort über die Welt als eine Aussage, die geprüft werden muss. [83]
KI-Grundlagen
Sprachmodelle und große Sprachmodelle (LLMs)
Einfach erklärt: Ein LLM ist ein Modell, das für die Verarbeitung von Sprache trainiert wurde. Computersoftware führt es aus und erzeugt bei der Texterzeugung eine Antwort Stück für Stück. [95][96][91]
Software führt ein großes neuronales Netz mit numerischen Einstellungen aus, die aus Trainingsdaten gelernt wurden. Bei der üblichen Texterzeugung berechnet sie Bewertungen für mögliche nächste Tokens, wählt eines aus und wiederholt den Vorgang. Tokens sind die Textstücke, die das Modell verarbeitet. [95][91][96][94]
Einordnung auf der Karte: Der Ausgangspunkt für die Erklärung im Atlas, wie Chatbots Antworten erzeugen. [96]
Ein Modell kann einen überzeugenden Satz erzeugen, ohne ihn mit einer externen Quelle abzugleichen. Suchfunktionen oder andere Werkzeuge muss die umgebende Anwendung bereitstellen. [83][97]
Im Inneren eines Modells
Transformer und Attention
Einfach erklärt: Ein Aufbau für neuronale Netze, der Attention nutzt, um Informationen aus verschiedenen Teilen der Eingabe zu verbinden. [70]
Attention ist eine Berechnung, die einzelnen Informationen unterschiedlich viel Einfluss gibt. In einem Transformer helfen Schichten solcher Berechnungen dabei, Text in seinem Kontext abzubilden. Die ursprüngliche Transformer-Arbeit stellte den Aufbau unter anderem für Übersetzungsaufgaben vor. [70]
Einordnung auf der Karte: Nützliches Hintergrundwissen zu Erklärungen der LLM-Architektur, also zum Aufbau eines Modells. [91]
„Attention“, auf Deutsch Aufmerksamkeit, ist hier der Name einer mathematischen Operation. Ein Attention-Diagramm allein erklärt nicht vollständig, warum ein Modell eine bestimmte Antwort gegeben hat. [70][73][74]
KI-Grundlagen
Token und Tokenisierung
Einfach erklärt: Die Textbausteine, die ein Sprachmodell verarbeitet. Das können Wörter, Wortteile oder Satzzeichen sein. [94]
Ein Tokenizer zerlegt Text in Teile und weist jedem Teil eine Zahl zu, mit der das Modell arbeiten kann. Verschiedene Tokenizer zerlegen denselben Text unterschiedlich. Die ausgegebenen Zahlen wieder in lesbaren Text umzuwandeln heißt Dekodieren. [94]
Einordnung auf der Karte: Hilft, Eingabegrenzen und Antwortlängen zu verstehen, die in Token angegeben werden. [96][87]
Ein Token entspricht keiner festen Menge englischen Textes. Behandle eine Token-Grenze deshalb nicht als genaue Zahl von Wörtern oder Seiten. [94]
KI nutzen
Kontextfenster
Einfach erklärt: Die Informationsmenge, mit der ein Modell bei einer Anfrage arbeiten kann, gemessen in Token. [87]
Der aktuelle Kontext kann Anweisungen, den bisherigen Gesprächsverlauf und bereitgestelltes Material enthalten. Das Kontextfenster begrenzt, wie viel hineinpasst. Stell es dir wie die Unterlagen auf dem Schreibtisch für die aktuelle Aufgabe vor. Das ist ein Lernvergleich, keine Beschreibung des menschlichen Gedächtnisses. [87][96]
Einordnung auf der Karte: Achte darauf, wenn ein KI-System mit einem langen Gespräch oder Dokument arbeiten soll. [87]
Dass Text in das Fenster passt, garantiert nicht, dass jede Einzelheit richtig genutzt wird. Eine Studie von 2023 fand bei ihren Suchaufgaben, dass die Leistung davon abhing, an welcher Stelle Informationen standen. [100]
KI nutzen
Prompts und Prompt Engineering
Einfach erklärt: Die Anweisungen und sonstigen Eingaben, die ein Modell für eine Aufgabe erhält. [92]
Ein Prompt kann eine Frage, Hintergrundmaterial und Beispiele der gewünschten Antwort enthalten. Prompt Engineering bedeutet, diese Eingabe auszuprobieren und zu verbessern. Zum Beispiel: „Fasse diesen Hinweis in drei Sätzen für jemanden zusammen, der zum ersten Mal hier ist.“ [92]
Einordnung auf der Karte: Prüfe beim Vergleich von Ausgaben, ob die Modelle dieselben Anweisungen und Informationen erhalten haben. [101]
Normales Prompting verändert die Eingabe, während die gelernten Gewichte gleich bleiben. Anweisungen allein können auch nicht erzwingen, auf welche Dateien oder Dienste eine Anwendung zugreifen darf. [92][81]
Im Inneren eines Modells
Training und Pretraining
Einfach erklärt: Der Vorgang, der die gelernten Einstellungen eines Modells anhand von Daten und Rückmeldungen anpasst. [90]
Beim Training eines neuronalen Netzes vergleicht Software Vorhersagen mit einem Trainingsziel und passt Parameter an, um den Fehler zu verringern. Pretraining ist die erste breite Trainingsphase. Späteres Training kann das Modell an bestimmte Aufgaben anpassen. [90][92]
Einordnung auf der Karte: Hilft zu erkennen, ob ein Vorschlag die Entwicklung eines Modells oder die Nutzung eines bestehenden betrifft. [90][87]
Ein geringerer Trainingsfehler bezieht sich auf das gewählte Ziel und die verwendeten Beispiele. Um den Nutzen für andere Aufgaben einzuschätzen, braucht es Tests mit neuen, passenden Aufgaben. [101][83]
Im Inneren eines Modells
Inferenz: ein trainiertes Modell nutzen
Einfach erklärt: Ein trainiertes Modell mit einer Eingabe ausführen, um eine Ausgabe zu erzeugen. [87]
Wenn ein Chatbot eine Antwort erzeugt, führt er Inferenz aus. Das Modell wendet seine gelernten Gewichte auf die aktuelle Eingabe an. Bei der Texterzeugung wiederholt sich der Vorgang, während Token zur Antwort hinzukommen. [95][96]
Einordnung auf der Karte: Trennt das Beantworten einer Anfrage vom Trainieren der Modellgewichte. [87][90]
Wenn ein Modell eine Information aus deinem Gespräch nutzt, bedeutet das für sich genommen nicht, dass seine Gewichte neu trainiert wurden. Die Information kann als Teil der aktuellen Eingabe verwendet werden. [92]
Im Inneren eines Modells
Parameter und Gewichte
Einfach erklärt: Die beim Training gelernten Zahlenwerte, die beeinflussen, wie ein Modell Eingaben verarbeitet. [89][90]
In einem neuronalen Netz steuern Gewichte, wie stark Werte in spätere Berechnungen einfließen. Bias-Werte sind eine weitere Art von Parametern: Zahlenwerte, die addiert werden. Zusammen bestimmen die Parameter mit, welche Ausgabe das Netz erzeugt. [89]
Einordnung auf der Karte: Hilfreich, wenn eine Modellbeschreibung eine Parameterzahl nennt oder das Ändern von Gewichten behandelt. [95]
Alle Zahlen aufzulisten liefert keine verständliche Erklärung für jede Antwort. Die Interpretierbarkeitsforschung versucht, interne Berechnungen mit dem Verhalten zu verbinden. [73]
Im Inneren eines Modells
Embeddings (Zahlendarstellungen)
Einfach erklärt: Zahlenlisten, die Informationen so darstellen, dass ein Modell sie vergleichen oder verarbeiten kann. [93]
Ein Embedding stellt etwas, zum Beispiel ein Wort oder einen Textabschnitt, als Position in einem mathematischen Raum dar. Nahe beieinanderliegende Darstellungen können für die erlernte Aufgabe ähnlich sein. Suchsysteme können solche Vergleiche nutzen, um verwandte Textstellen zu finden. [93][99]
Einordnung auf der Karte: Erklärt, wie ein System verwandte Inhalte finden kann, auch ohne genau übereinstimmende Wörter. [93][99]
Ähnlichkeit hängt vom Modell und von der Aufgabe ab. Nahe beieinanderliegende Darstellungen belegen nicht, dass zwei Aussagen genau dasselbe bedeuten oder wahr sind. [93]
KI nutzen
Halluzinationen / Konfabulation
Einfach erklärt: KI-Ausgaben, die falsche oder unbelegte Einzelheiten so darstellen, als seien sie verlässlich. [83]
Ein Modell kann eine Quelle erfinden, eine Tatsache falsch wiedergeben oder bereitgestelltem Material widersprechen. NIST nennt das Konfabulation. Flüssige Formulierungen können solche Fehler schwer erkennbar machen. [83]
Einordnung auf der Karte: Prüfe wichtige Aussagen anhand des Originalmaterials, einschließlich der zitierten Seiten. [83]
Eine erfundene Einzelheit in einer ausdrücklich gewünschten Geschichte kann beabsichtigt sein. Das Problem hier ist, unzuverlässiges Material als sachliche Antwort darzustellen. [83]
KI nutzen
Antworten mit abgerufenen Informationen (RAG)
Einfach erklärt: Relevantes Material finden und einem Modell bereitstellen, damit es eine Antwort erzeugen kann. [99]
Ein Suchschritt findet Textstellen in einer Sammlung. Das erzeugende Modell nutzt diese Stellen dann zusammen mit der Frage. Ein Hilfeassistent könnte zum Beispiel vor dem Entwurf einer Antwort eine Produktanleitung abrufen. [99]
Einordnung auf der Karte: Frage, welche Sammlung durchsucht wurde und ob die abgerufenen Stellen die Antwort stützen. [99][83]
Abgerufene Informationen können nützliche Belege in eine Antwort einbringen, doch die Antwort muss weiterhin geprüft werden. Eine durchsuchbare Dokumentensammlung zu aktualisieren und ein Modell neu zu trainieren sind getrennte Vorgänge. [99][83]
Im Inneren eines Modells
Fine-Tuning
Einfach erklärt: Zusätzliches Training, das ein bestehendes Modell anhand von Beispielen für eine Aufgabe anpasst. [92]
Fine-Tuning verändert gelernte Parameter. Manche Verfahren verändern alle, andere trainieren nur eine kleinere Auswahl. Das Training könnte zum Beispiel Beispiele dafür nutzen, wie eingehende Supportnachrichten einzuordnen sind. [92]
Einordnung auf der Karte: Frage, welche Beispiele und Ziele verwendet wurden und wie das angepasste Modell geprüft wurde. [92][83]
Beispiele in einen Prompt aufzunehmen lässt die Gewichte des Modells unverändert. Fine-Tuning verändert gelernte Einstellungen und braucht eine eigene Bewertung. [92][83]
KI nutzen
Temperatur und Sampling
Einfach erklärt: Einstellungen, die beeinflussen, welches nächste Token aus den möglichen Ausgaben eines Modells gewählt wird. [96][71]
Sampling wählt Token anhand ihrer Wahrscheinlichkeiten aus. Eine niedrigere Temperatur konzentriert die Auswahl auf höher bewertete Möglichkeiten. Eine höhere Temperatur verteilt sie breiter. Greedy Decoding wählt dagegen bei jedem Schritt das am höchsten bewertete Token. [96][71]
Einordnung auf der Karte: Hilfreich, um zu untersuchen, warum Antworten zwischen Durchläufen variieren. [71]
Eine niedrige Temperatur garantiert weder eine richtige Antwort noch identische Ergebnisse in jeder Umgebung. Für die Wiederholbarkeit spielen auch Software, Hardware und andere Ausführungseinstellungen eine Rolle. [72][83]
KI nutzen
Multimodale KI
Einfach erklärt: KI, die mit mehr als einer Art von Material arbeitet, zum Beispiel mit Text und Bildern. [98]
Eine Modalität ist eine Art von Ein- oder Ausgabe, etwa Text, Bild, Audio oder Video. Ein multimodales Chatmodell könnte ein Foto und eine schriftliche Frage erhalten und anschließend eine Textantwort ausgeben. [98]
Einordnung auf der Karte: Prüfe, welche Arten von Ein- und Ausgaben ein bestimmtes System unterstützt. [98]
Bilder als Eingabe zu unterstützen bedeutet nicht automatisch, auch Bilder erzeugen oder Videos verarbeiten zu können. Welche Kombination unterstützt wird, hängt vom Modell und von der Anwendung ab. [98]
KI nutzen
Werkzeugnutzung / Funktionsaufrufe
Einfach erklärt: Ein Modell fordert eine Aktion an; der Anwendungscode kann das angeschlossene Werkzeug ausführen und dessen Ergebnis zurückgeben. [97]
Das Modell erzeugt eine Anfrage, die ein Werkzeug und die benötigten Informationen benennt. Die Anwendung bearbeitet diese Anfrage und kann das Ergebnis an das Modell zurückgeben. Ein Taschenrechner ist ein einfaches Beispiel. Verbundene Dienste können auch Informationen verändern oder versenden. [97][81]
Einordnung auf der Karte: Frage, welche Werkzeuge verfügbar sind, worauf sie zugreifen können und welche Aktionen eine Freigabe brauchen. [81]
Eine Werkzeuganfrage, eine ausgeführte Aktion und ein erfolgreiches Ergebnis sind getrennte Ereignisse. Prüfe das Werkzeugergebnis, bevor du die Behauptung akzeptierst, eine Aufgabe sei erledigt. [97][79]
KI nutzen
Evaluationen und Benchmarks
Einfach erklärt: Tests, mit denen man herausfindet, was ein System gut kann, wo es scheitert und unter welchen Bedingungen. [101]
Eine Evaluation legt Aufgaben und Verfahren zur Beurteilung der Ergebnisse fest. Ein Benchmark bietet gemeinsame Aufgaben oder Messgrößen zum Vergleich. Verschiedene Tests können Genauigkeit, Beständigkeit, schädliche Ausgaben oder Ressourcenverbrauch untersuchen. [101]
Einordnung auf der Karte: Frage bei einem Testergebnis, welche Aufgaben, Modelle, Anweisungen und Messgrößen verglichen wurden. [101]
Ein gutes Ergebnis gilt für die getesteten Bedingungen. Es entscheidet nicht über die Leistung bei jeder Aufgabe und bestätigt nicht die Sicherheit der gesamten Anwendung. [101][83]
Forschungsziel
KI-Alignment
Einfach erklärt: Arbeit daran, dass KI-Verhalten zu beabsichtigten Zielen, Grenzen und menschlichen Bewertungen passt. [102][103]
Ein Teil der Alignment-Arbeit trainiert Modelle mithilfe menschlicher Rückmeldungen oder schriftlicher Grundsätze darauf, Anweisungen zu befolgen oder schädliche Antworten zu vermeiden. Die breitere Forschung fragt auch, ob ein gelerntes System das von seinen Entwicklern beabsichtigte Ziel verfolgt. [102][103][61]
Einordnung auf der Karte: Frage, wessen Ziele befolgt werden, wie Konflikte behandelt werden und welche Belege die Aussage stützen. [102]
Alignment ist ein Teil der KI-Sicherheit. Die Wünsche eines Nutzers zu befolgen kann trotzdem Schaden verursachen. Bessere Ergebnisse in einem Alignment-Test klären nicht jedes Risiko. [102][62]
Im Inneren eines Modells
Bestärkendes Lernen aus menschlichen Rückmeldungen (RLHF)
Einfach erklärt: Training, das menschliche Bewertungen nutzt, um bevorzugtes Modellverhalten zu belohnen. [102]
Beim InstructGPT-Ansatz vergleichen Menschen mögliche Antworten. Ihre Entscheidungen trainieren ein separates Belohnungsmodell, das Antworten bewertet. Weiteres Training fördert beim Sprachmodell Antworten mit höheren Bewertungen. [102]
Einordnung auf der Karte: Frage, wer die Rückmeldungen gab, welche Anweisungen diese Personen erhielten und welche Aufgaben sie beurteilten. [102]
Eine bevorzugte Antwort kann trotzdem falsch sein. Auch können die Personen, die Rückmeldungen geben, nicht die Werte und Bedürfnisse aller Nutzer vertreten. [102]
Im Inneren eines Modells
Reasoning-Modelle und Denkschritte
Einfach erklärt: Modelle, die darauf trainiert oder dafür eingerichtet sind, vor der endgültigen Antwort Zwischenschritte zu bearbeiten. [104]
Diese Systeme können zusätzliche Rechenarbeit dafür einsetzen, Schritte zu erzeugen, Versuche zu prüfen oder Alternativen durchzugehen. DeepSeek-R1 ist ein untersuchtes Beispiel dafür, solches Verhalten durch bestärkendes Lernen zu fördern. Eine schriftliche Folge von Zwischenschritten wird oft Chain of Thought genannt. [104]
Einordnung auf der Karte: Prüfe Ergebnisse bei passenden Aufgaben und wie viel Zeit oder Rechenarbeit sie erfordert haben. [104][101]
Eine lesbare Folge von Denkschritten kann bei der Überwachung helfen, bildet die internen Berechnungen des Modells aber nur unvollständig ab. Mehr Schritte beweisen für sich genommen nicht, dass die Antwort stimmt. [84][83]
Zugang und Veröffentlichung
Offene Gewichte und Open-Source-KI
Einfach erklärt: Veröffentlichte Modellgewichte geben Zugang zu gelernten Einstellungen. Weitergehende Offenheit betrifft auch Code, Trainingsinformationen und Nutzungsrechte. [105]
Eine Veröffentlichung der Gewichte macht gelernte Parameter verfügbar. Nach der KI-Definition der Open Source Initiative erfordert Offenheit auch Trainings- und Inferenzcode, ausreichende Informationen über die Trainingsdaten sowie Rechte, das System zu nutzen, zu untersuchen, zu verändern und zu teilen. [105]
Einordnung auf der Karte: Prüfe bei einem als „offen“ bezeichneten Modell genau, welche Materialien und Berechtigungen verfügbar sind. [105]
Eine Downloadmöglichkeit allein belegt nicht, dass die OSI-Definition erfüllt ist. Prüfe die Veröffentlichungsbedingungen und die begleitenden Materialien. [105]
Bewertung und Ethik
Verzerrungen und Fairness bei KI
Einfach erklärt: Muster in einem KI-System, die zu ungleichen oder unfairen Ergebnissen für Menschen führen können. [107]
Verzerrungen können aus Daten, statistischen Methoden, menschlichen Urteilen oder Institutionen rund um eine Anwendung entstehen. NIST betont, wie diese Quellen zusammenwirken. Eine Bewertung muss die konkrete Aufgabe und die möglicherweise Betroffenen untersuchen. [107]
Einordnung auf der Karte: Frage, welche Gruppen und Situationen getestet wurden, welche Messgröße verwendet wurde und wessen Erfahrungen fehlen. [107]
In der Mathematik kann „Bias“ auch einen addierten Parameter oder einen statistischen Fehler bezeichnen. Diese Verwendung ist von der Feststellung unfairer Behandlung zu unterscheiden. [107][89]
Politik und Aufsicht
KI-Governance
Einfach erklärt: Die Regeln, Verantwortlichkeiten und Aufsicht, die Entwicklung und Einsatz von KI prägen. [106]
Governance umfasst Entscheidungen darüber, wer entscheidet, wer für Schäden einsteht und wie Menschen ein Ergebnis anfechten können. Die OECD-Grundsätze behandeln Transparenz, Menschenrechte, Sicherheit und Rechenschaft neben staatlicher Politik. [106]
Einordnung auf der Karte: Diese Fragen verbinden KI-politische Debatten mit Entscheidungen von Regierungen und Organisationen. [106]
Ein veröffentlichter Grundsatz ist eine Verpflichtung oder Empfehlung. Ob er befolgt wird, muss anhand der tatsächlichen Entscheidungen, Kontrollen und Ergebnisse geprüft werden. [106]
Anwendung
Chatbots und KI-Assistenten
Einfach erklärt: Eine Anwendung, mit der du dich im Gespräch austauschst. Ein LLM kann dabei den Text erzeugen. [87][109]
Bei einem LLM-basierten Chatbot sendet die Chatoberfläche Nachrichten an ein Modell und zeigt dessen Antworten an. Ein Assistent kann außerdem eine Suche, gespeicherten Kontext oder verbundene Werkzeuge haben. Diese Funktionen gehören zur Anwendung rund um das Modell. [109][97][118]
Einordnung auf der Karte: Um einen Chatbot zu bewerten, prüfe seine tatsächlichen Zugriffsrechte und sein Verhalten, statt ihm eine politische Position zuzuweisen. [77]
Ein Modell, die App, die es nutzt, und das Unternehmen, das sie anbietet, sind verschiedene Dinge. Eine Chatoberfläche allein verrät nicht, welche Werkzeuge sie nutzen kann. [95][97]
Produkt
ChatGPT
Einfach erklärt: OpenAIs KI-Produkt für Gespräche, vorgestellt im November 2022. [227]
ChatGPT ist der Dienst, mit dem Menschen interagieren. Die Modelle und Funktionen dahinter können sich ändern. Die Ankündigung zum Start beschreibt ein frühes, für Dialoge trainiertes System. Sie ist keine Beschreibung des heutigen Funktionsumfangs. [227][118]
Einordnung auf der Karte: Die geprüfte öffentliche Position des Unternehmens findest du bei OpenAI. Ein Produkt zu nutzen belegt nicht die Ansichten eines Nutzers. [227][11]
ChatGPT, ein bestimmtes GPT-Modell und OpenAI bezeichnen unterschiedliche Dinge: ein Produkt, ein Modell und dessen Anbieter. [227]
Produkt und Modellfamilie
Claude
Einfach erklärt: Anthropics Name für seinen KI-Assistenten und verwandte Modelle. [108]
Anthropic stellte Claude sowohl mit einer Chatoberfläche als auch mit einer API vor, über die andere Software darauf zugreifen kann. Verschiedene Versionen sind Modelle innerhalb dieser Familie. Die umgebende Anwendung bestimmt, wie sie genutzt werden. [108]
Einordnung auf der Karte: Lies den Unternehmenseintrag zu Anthropic getrennt von der Erklärung dieses Produkts. [108]
Die Aussagen eines Anbieters zu Hilfsbereitschaft oder Sicherheit sind keine unabhängige Bewertung jeder Antwort oder jedes Einsatzes. [108][77]
Produkt und Modellfamilie
Gemini
Einfach erklärt: Google verwendet Gemini als Namen für einen KI-Assistenten und die Modelle, zu denen er Zugang bietet. [109]
Google beschreibt die Gemini-App als Zugang zu seinen multimodalen Sprachmodellen. Multimodal bedeutet, mit mehr als Text zu arbeiten, etwa mit Bildern oder Audio. Die unterstützten Funktionen hängen vom Modell und von der Anwendung ab. [109][98]
Einordnung auf der Karte: Der Produktname dient als Hintergrund zum getrennten Eintrag über Google DeepMind. [109][14]
Die App und ein zugrunde liegendes Modell sind unterschiedliche Teile des Systems. Der Name einer Funktion bestätigt nicht die Richtigkeit ihrer Antworten. [109][83]
Produkt und Modellfamilie
Grok
Einfach erklärt: Ein von xAI vorgestellter KI-Assistent und eine Modellfamilie. [110]
Die ursprüngliche Ankündigung unterscheidet den Grok-Assistenten von seinem zugrunde liegenden Sprachmodell Grok-1. Sie beschreibt außerdem den Suchzugang und räumt ein, dass Antworten weiterhin falsch oder widersprüchlich sein können. [110]
Einordnung auf der Karte: Lies den Organisationseintrag zu xAI und den persönlichen Eintrag zu Musk getrennt. Keiner davon ist eine Bewertung des Produkts. [110][4]
Zugang zu aktuellen Informationen belegt nicht, dass jede erzeugte Aussage stimmt. Angaben aus der Zeit der Einführung sollten nicht als heutiger Funktionsumfang gelesen werden. [110][83]
Modellfamilie
Llama
Einfach erklärt: Eine von Meta veröffentlichte Familie von KI-Modellen, die Entwickler in Anwendungen nutzen können. [111]
Metas Forschungsarbeit zu Llama 3 beschreibt eine Familie von Sprachmodellen mit Versionen vor und nach zusätzlichem Training für den Einsatz. Eine Modellfamilie ist keine einzelne Chat-Anwendung. [111]
Einordnung auf der Karte: Lies den Organisationseintrag zu Meta getrennt von der technischen Beschreibung eines Modells. [111][16]
Die Verfügbarkeit eines Modells und die Erlaubnis, es zu nutzen, sind getrennte Fragen. Prüfe die Bedingungen der genauen Veröffentlichung. Offene Gewichte und Open-Source-KI sind keine austauschbaren Bezeichnungen. [105]
Medienbegriff
Synthetische Inhalte / KI-erzeugte Medien
Einfach erklärt: Text, Bilder, Audio oder Video, die mit Algorithmen, einschließlich KI, erzeugt oder wesentlich verändert wurden. [112]
Das umfasst vollständig erzeugtes Material und Bearbeitungen vorhandenen Materials. NIST untersucht Verfahren, um Herkunft und Änderungen festzuhalten. [112]
Einordnung auf der Karte: Eine Frage zu Medien und ihrem Einsatz, die über die beiden Achsen der Karte hinausgeht. [112]
Synthetisch bedeutet nicht automatisch schädlich. Auch echtes Material kann irreführen, wenn es im falschen Zusammenhang gezeigt wird. [112]
Medienbegriff
Deepfakes und Stimmklonen
Einfach erklärt: Erzeugte oder veränderte Medien, die das Aussehen oder die Stimme einer Person nachahmen. [112]
Eine gefälschte Aufnahme kann jemanden so erscheinen lassen, als sage oder tue die Person etwas, das sie nie gesagt oder getan hat. Zu den möglichen Anwendungen gehören Identitätsvortäuschung und Betrug. [112]
Einordnung auf der Karte: Betrifft den Missbrauch von Medien und verortet niemanden auf der Karte. [112]
Ein Erkennungswerkzeug kann sich irren. Prüfe die Originalquelle und den Zusammenhang, bevor du einer Aufnahme vertraust oder sie teilst. [112]
Kritische Bezeichnung
KI-Slop
Einfach erklärt: Eine abwertende Bezeichnung für minderwertige KI-erzeugte Inhalte, die oft in großen Mengen produziert werden. [113]
Merriam-Webster beschreibt den Begriff bei seiner Auswahl von 2025 anhand von Beispielen wie minderwertigen Videos, Bildern und Texten. Das Wort drückt ein Urteil über die Qualität der Inhalte aus. [113]
Einordnung auf der Karte: Unerwünschte Inhalte zu kritisieren sagt für sich genommen nichts über eine Position zu KI-Katastrophen oder zur Entwicklung der leistungsfähigsten KI aus. [113]
Verwende die Bezeichnung mit Bedacht. Sie ist weder ein technischer Test dafür, ob ein bestimmter Inhalt mit KI erstellt wurde, noch ein Beleg dafür, dass jede KI-unterstützte Arbeit schlecht ist. [113]
Gesetz
KI-Verordnung der Europäischen Union
Einfach erklärt: EU-Regeln für KI-Systeme und Modelle mit allgemeinem Verwendungszweck, deren Anforderungen an Risiken und Einsatzarten anknüpfen. [114]
Die Verordnung behandelt verbotene Praktiken, Anwendungen mit hohem Risiko, Transparenz und Modelle mit allgemeinem Verwendungszweck. Die Europäische Kommission erklärt Kategorien, Durchsetzung und schrittweise Anwendung auf ihrer offiziellen Website. [114]
Einordnung auf der Karte: Einen Einsatz wie die Personalauswahl zu regulieren ist etwas anderes, als eine allgemeine Pause der Modellentwicklung zu fordern. [114][69]
Pflichten und Anwendungsdaten hängen vom System, von der Rolle und von den einschlägigen Regeln ab. Dieses Glossar bietet eine Einführung und stellt keine rechtliche Konformität fest. [114]
Politischer Deutungsrahmen
Der KI-Wettlauf
Einfach erklärt: Eine Sichtweise, die KI-Entwicklung als Wettbewerb um technische, wirtschaftliche oder strategische Vorteile darstellt. [115]
Der KI-Aktionsplan des Weißen Hauses von 2025 verwendet die Sprache eines Wettlaufs, um für die Führung der USA durch Innovation, Infrastruktur und internationale Politik zu werben. Er ist ein ausdrückliches Beispiel für diese Darstellung. [115]
Einordnung auf der Karte: Wettlaufargumente können schnellere Entwicklung unterstützen. Sie legen aber nicht fest, wie der Sprecher katastrophale Risiken einschätzt. [115]
Ein politisches Argument für das Gewinnen belegt weder eine einzige Ziellinie noch garantierte Vorteile oder die Umsetzung aller vorgeschlagenen Maßnahmen. [115]
Arbeit und Gesellschaft
Automatisierung, berufliche Aufgaben und Betroffenheit
Einfach erklärt: Software kann Teile eines Berufs übernehmen. Dass eine Aufgabe automatisierbar ist, bedeutet nicht, dass der ganze Beruf verschwindet. [117]
Die ILO-Analyse von 2025 schätzt, welche beruflichen Aufgaben durch generative KI betroffen sein könnten. Ihre Kategorien beschreiben mögliche Veränderungen. Viele Berufe verbinden betroffene Aufgaben mit Aufgaben, die menschliche Mitwirkung benötigen. [117]
Einordnung auf der Karte: Auswirkungen auf die Arbeitswelt sind ein weiterer Aspekt der Debatte neben katastrophalen Risiken und dem Forschungstempo bei der leistungsfähigsten KI. [117]
Schätzungen zur möglichen Betroffenheit sind keine beobachteten Arbeitsplatzverluste. Kosten, Infrastruktur, Fähigkeiten und Entscheidungen zur Einführung beeinflussen das Ergebnis. [117]
Offene Forschungsfrage
KI-Bewusstsein und Empfindungsfähigkeit
Einfach erklärt: Die Frage, ob eine KI subjektives Erleben haben könnte, etwa etwas zu fühlen, statt es nur zu beschreiben. [116]
Forschende sind sich uneinig, wie Bewusstsein untersucht werden sollte. Ein vorgeschlagener Ansatz prüft innere Merkmale, die wissenschaftliche Theorien nahelegen, und benennt dabei umstrittene Annahmen und unsichere Schlussfolgerungen. [116]
Einordnung auf der Karte: Bewusstsein, Fähigkeiten und Risiken sind getrennte Fragen. Eine Antwort entscheidet nicht über die anderen. [116]
Menschenähnliche Sprache ist kein ausreichender Test. „Sentience“ wird in verschiedenen Diskussionen unterschiedlich verwendet. Prüfe deshalb, ob die sprechende Person Erleben, Empfindungsfähigkeit oder etwas anderes meint. [116]
Umstrittener Begriff
Intelligenz
Einfach erklärt: Ein weiter Begriff für Fähigkeiten wie Lernen, den Umgang mit Begriffen und das Lösen neuer Probleme. Unterschiedliche Definitionen betonen unterschiedliche Fähigkeiten. [217][121]
Der Dartmouth-Vorschlag von 1955 verwendete den Begriff künstliche Intelligenz für ein Forschungsprojekt zu maschineller Sprache, Begriffen, Problemlösung und Verbesserung. Die Bezeichnung entstand vor modernen LLMs. Ihre Verwendung belegt kein menschenähnliches Denken. [217][121]
Einordnung auf der Karte: Eine Definition von Intelligenz legt weder ein Entwicklungstempo noch ein Maß an Sorge vor katastrophalen Risiken fest. [217][121]
Offene Frage: Welche Fähigkeiten und Tests würden die Bezeichnung rechtfertigen? Erfolgreiche Aufgabenbearbeitung, menschenähnliches Verständnis und Bewusstsein brauchen jeweils eigene Belege. [121]
Forschungsdebatte
Verständnis bei Sprachmodellen
Einfach erklärt: Der Streit darüber, ob passende Sprache zu erzeugen auch bedeutet, ihre Bedeutung zu erfassen. [120][121]
Bender und Koller argumentieren, dass Training allein mit sprachlichen Mustern nicht die Verbindung zwischen Wörtern und dem vermitteln kann, was Sprechende meinen. In einer getrennten Studie zum Brettspiel Othello lernte ein Modell beim Vorhersagen von Spielzügen Informationen über den Zustand des Bretts. Dieser Befund betrifft eine interne Darstellung und ist kein Beweis für menschenähnliches Verständnis. [120][122]
Einordnung auf der Karte: Diese Debatte betrifft, was Modelle tun, und keine Zugehörigkeit zu einem Lager auf der Karte. [121]
Offene Frage: Was würde belastbares Verständnis von einer erfolgreichen Abkürzung unterscheiden? Prüfe ungewohnte Situationen, veränderte Annahmen und Fehler, statt nur die sprachliche Gewandtheit zu beurteilen. [121]
Forschungskonzept
Symbole mit ihrer Bedeutung verbinden
Einfach erklärt: Wörter oder Symbole mit dem verbinden, worauf sie sich beziehen, statt nur mit anderen Symbolen. [120]
Die Frage ist, wie Sprache mit Gegenständen, Ereignissen und dem verbunden ist, was jemand mitteilen möchte. Bender und Kollers Argument betrifft Systeme, die nur anhand sprachlicher Formen trainiert wurden. Bilder oder Interaktion hinzuzufügen verändert die verfügbaren Informationen. Für sich genommen beweist das kein menschenähnliches Verständnis. [120][121]
Einordnung auf der Karte: Grounding ist eine Frage zu inneren Darstellungen und zum Lernen, keine ideologische Position. [120]
Offene Frage: Welche Verbindungen sind nötig, und was würde zeigen, dass sie ausreichen? Ein Dokument zu finden, das eine Antwort stützt, ist etwas anderes als nachzuweisen, dass ein System dessen Bedeutung versteht. [120][99]
Gestaltung und Sprache
Vermenschlichung von KI
Einfach erklärt: Einer Maschine menschliche Eigenschaften wie Gefühle oder Absichten zuschreiben. [123]
Eine menschenähnliche Stimme oder Aussagen über eigene Gefühle können ein System wie eine Person erscheinen lassen. Die zitierten Forschenden untersuchen, wie solche Gestaltungsentscheidungen übermäßiges Vertrauen fördern oder Verantwortung verwischen könnten. Wirkung und sinnvolle Schutzmaßnahmen hängen vom Kontext ab. [123]
Einordnung auf der Karte: Menschenähnliche Sprache zu hinterfragen legt für sich genommen keine Position auf einer der beiden Kartenachsen fest. [123]
Offene Fragen: Welche Bezeichnungen helfen Menschen, Verhalten vorherzusehen, und welche führen in die Irre? Wer behauptet, jeder Anbieter verwende KI-Begriffe, um Verantwortung zu vermeiden, braucht Belege zu diesen Anbietern. [123]
KI-Grundlagen
Algorithmus
Einfach erklärt: Eine Folge von Schritten, die ein Computer ausführen kann, um ein Ergebnis zu erzeugen. [125]
Ein Sortieralgorithmus ordnet zum Beispiel eine Zahlenliste. Beim Training eines Sprachmodells passen Algorithmen dessen numerische Einstellungen an. [125][90][95]
Einordnung auf der Karte: Beginne hier, um den Ablauf eines Programms vom Modell zu unterscheiden, das es trainiert oder ausführt. [125][95]
Ein Algorithmus kann Zufallsentscheidungen enthalten. Der Begriff allein besagt nicht, dass jeder Durchlauf dasselbe Ergebnis liefert. [125]
KI-Grundlagen
Trainingsdaten und Datensätze
Einfach erklärt: Beispiele, mit denen ein Modell angepasst wird. Ihre Auswahl beeinflusst, was das Modell lernt. [129]
Ein Datensatz ist eine Sammlung von Beispielen wie Texten oder Bildern. Der Trainingsanteil dient zur Anpassung des Modells. Getrennte Validierungs- und Testanteile helfen, seine Leistung zu bewerten. [129][126]
Einordnung auf der Karte: Prüfe, woher die Beispiele stammen und ob die Bewertung tatsächlich getrenntes Material verwendet. [126]
Auch ein großer Datensatz kann wichtige Situationen auslassen. Tests mit doppelten Trainingsbeispielen können ein Modell besser erscheinen lassen, als es auf neuen Daten abschneidet. [129][126]
Im Inneren eines Modells
Vortraining
Einfach erklärt: Eine erste Trainingsphase, die ein Ausgangsmodell für spätere Nutzung oder Anpassung liefert. [127]
Bei einem Sprachmodell werden dabei oft Gewichte anhand großer Textsammlungen angepasst, um fehlende oder nächste Textbausteine vorherzusagen. Späteres Training kann den Umgang mit bestimmten Aufgaben verändern. [127]
Einordnung auf der Karte: Diese Unterscheidung hilft bei Vorschlägen, die sich ausdrücklich auf das Training neuer Basismodelle beziehen. [127]
Ein vortrainiertes Sprachmodell ist nicht automatisch ein Assistent, der Anweisungen befolgt. Vortraining und spätere Anpassung verfolgen unterschiedliche Ziele. [128]
Im Inneren eines Modells
Nachtraining
Einfach erklärt: Weiteres Training nach dem Vortraining, das Fähigkeiten und Verhalten eines Modells anpassen soll. [128]
Entwickler können Beispiele, bevorzugte Antworten oder Belohnungen zum Training einsetzen. Ziele können das Befolgen von Anweisungen, Programmieren oder Reaktionen auf schädliche Anfragen sein. Die Kombinationen unterscheiden sich je nach Entwickler. [128][102]
Einordnung auf der Karte: Prüfe das Trainingsziel, von wem die Rückmeldungen stammen und welche Ergebnisse getestet wurden. [102]
Nachtraining bezeichnet eine Entwicklungsphase, kein Sicherheitszertifikat. Verbesserungen bei ausgewählten Aufgaben schließen andere Fehler nicht aus. [128]
KI-Grundlagen
Überwachtes Lernen
Einfach erklärt: Training mit Beispielen, die eine Zielantwort enthalten, etwa eine Kategorie oder eine Zahl. [129]
Software vergleicht die Vorhersage des Modells mit dem Zielwert und nutzt die Abweichung zur Anpassung. Eine Beispielaufgabe ist das Sortieren von Nachrichten anhand bereits als Spam oder normale Post gekennzeichneter Beispiele. [129]
Einordnung auf der Karte: Prüfe, wie die Kennzeichnungen entstanden sind und ob sie zu deiner Aufgabe passen. [129]
Überwacht beschreibt hier die Trainingsbeispiele. Es bedeutet nicht, dass bei der Nutzung des trainierten Modells jemand jede Antwort prüft. [129]
KI-Grundlagen
Unüberwachtes Lernen
Einfach erklärt: Methoden, die Muster in Daten finden, ohne für jedes Beispiel eine vorgegebene Antwort zu erhalten. [88]
Clustering ist ein Beispiel: Es gruppiert Elemente nach einem gewählten Ähnlichkeitsmaß. Stell dir vor, Lieder werden nach ihrem Klang gruppiert, ohne dem Programm zuvor Musikrichtungen vorzugeben. [130]
Einordnung auf der Karte: Betrachte gefundene Gruppen als Ergebnisse zum Prüfen, nicht als automatische Zugehörigkeit zu einer Ideologie. [130]
Unüberwacht bedeutet nicht frei von menschlichen Entscheidungen. Die Datenauswahl und die Definition von Ähnlichkeit prägen die Gruppen. [130]
Im Inneren eines Modells
Selbstüberwachtes Lernen
Einfach erklärt: Training, das Zielantworten aus den Daten selbst bildet, etwa aus einem verdeckten Wort. [131]
Software kann einen Textteil verdecken, ihn vom Modell vorhersagen lassen und die Vorhersage mit dem Original vergleichen. So entsteht ein Trainingssignal, ohne dass jemand jedes Beispiel einzeln kennzeichnet. [131]
Einordnung auf der Karte: Lies dazu den Eintrag zum Vortraining, um zu sehen, woher die Übungsziele eines Sprachmodells kommen. [131]
Der Originaltext liefert einen Zielwert, keinen unabhängigen Beleg für die Wahrheit seiner Aussagen. Selbstüberwacht bedeutet nicht selbstüberprüfend. [131][120]
Im Inneren eines Modells
Bestärkendes Lernen
Einfach erklärt: Training, das Belohnungen aus versuchten Handlungen nutzt, um die Handlungsauswahl eines Systems anzupassen. [132]
Ein System probiert Handlungen in einer Umgebung aus und erhält Zahlenwerte als Rückmeldung. Das Training zielt auf mehr Belohnung über die Zeit. Ein Spielstand kann Rückmeldung liefern; andere Aufgaben brauchen andere Belohnungsregeln. [132]
Einordnung auf der Karte: Prüfe zuerst, wofür es Belohnungen gibt, wenn behauptet wird, Training habe das Verhalten verbessert. [62]
Eine höhere Belohnung kann am beabsichtigten Ergebnis vorbeigehen. RLHF ist ein bestimmter Ansatz mit menschlichen Rückmeldungen, keine Bezeichnung für jedes bestärkende Lernen. [62][102]
Im Inneren eines Modells
Tiefes Lernen
Einfach erklärt: Maschinelles Lernen, bei dem mehrere Schichten erlernter Berechnungen aufeinander aufbauen. [133]
In einem tiefen neuronalen Netz wandeln Zwischenschichten die Zahlen zwischen Eingabe und Ausgabe um. Das Training passt Einstellungen im Netz an. So können immer komplexere Darstellungen entstehen. [89][133]
Einordnung auf der Karte: Unterscheide damit eine Modellfamilie von Aussagen darüber, wie schnell KI sich weiterentwickeln sollte. [133]
Tief bezieht sich auf Schichten von Berechnungen oder Darstellungen. Es ist kein Maß für Weisheit; eine allgemein anerkannte Mindesttiefe gibt es nicht. [133]
Im Inneren eines Modells
Attention und Self-Attention
Einfach erklärt: Eine Berechnung, die Informationen von verschiedenen Eingabepositionen unterschiedlich gewichtet zusammenführt. [70]
Die Gewichtung hängt von der Eingabe ab. Bei Self-Attention liefern Teile derselben Folge die Informationen, die kombiniert werden. Mehrere Attention-Köpfe führen verschiedene erlernte Kombinationen parallel aus. [70]
Einordnung auf der Karte: Der Begriff hilft beim Lesen von Transformer-Diagrammen. Er beschreibt eine Komponente, keine Position einer Person oder Organisation. [70]
Attention ist eine Operation innerhalb eines größeren Netzes. Der Name bedeutet weder einen eigenständigen Leser noch menschenähnliche Konzentration. [70]
Im Inneren eines Modells
Modellarchitektur
Einfach erklärt: Der Aufbau der Teile eines Modells und der Berechnungen, die sie verbinden. [95]
Eine Architektur legt die Struktur fest, etwa Anzahl und Art der Schichten. Ein Checkpoint liefert erlernte Gewichte für diese Struktur. Zwei Modelle können dieselbe Architektur, aber unterschiedliche Gewichte haben. [95]
Einordnung auf der Karte: Prüfe, ob ein Vergleich die Struktur, die trainierten Gewichte oder die umgebende Anwendung betrifft. [95]
Ein Architekturdiagramm legt nicht alle erlernten Werte fest. Nur den Aufbau nachzubauen, reproduziert noch kein trainiertes Modell. [95]
Im Inneren eines Modells
Expertenmischung (MoE)
Einfach erklärt: Ein Modellaufbau mit mehreren Rechenblöcken, die Experten heißen. Manche Varianten aktivieren pro Eingabe nur einige davon. [134]
In sparsamen MoE-Modellen wie Mixtral wählt eine Routing-Komponente für jeden Textbaustein nur einige Expertenblöcke aus. Dadurch gibt es insgesamt mehr Parameter, als für diesen Baustein aktiv sind. [134]
Einordnung auf der Karte: Unterscheide bei Größenvergleichen die gesamte Parameterzahl von der Zahl der aktiven Parameter. [134]
Experten sind numerische Komponenten, keine eigenständigen Fachleute. Der Name allein belegt kein klar abgegrenztes Fachgebiet jedes Blocks. [134]
Im Inneren eines Modells
Modelldestillation
Einfach erklärt: Ein Modell wird auf Ausgaben eines anderen trainiert, oft um den Betrieb günstiger zu machen. [135]
Bei der zitierten Methode liefert ein größeres Modell Wahrscheinlichkeiten als Trainingsziele für ein kleineres. Angeglichen wird das Ausgabeverhalten, statt die Gewichte des ursprünglichen Modells zu kopieren. [135]
Einordnung auf der Karte: Prüfe, mit welchen Aufgaben das kleinere Modell getestet wurde und wie sich seine Ergebnisse verändert haben. [135]
Das kleinere Modell bildet möglicherweise nicht jede Ausgabe oder Fähigkeit nach. Destillation garantiert keine identische Leistung. [135]
Im Inneren eines Modells
Quantisierung
Einfach erklärt: Modellzahlen werden mit weniger Bits dargestellt, um Speicher zu sparen, möglicherweise auf Kosten der Genauigkeit. [136]
Gewichte oder Zwischenwerte werden auf eine kleinere Menge darstellbarer Zahlen abgebildet. Eine Acht-Bit-Darstellung benötigt beispielsweise weniger Speicher pro Wert als eine 32-Bit-Darstellung, arbeitet aber mit Näherungen. [136]
Einordnung auf der Karte: Vergleiche Speicherbedarf, Aufgabenergebnisse und Leistung auf der tatsächlich verwendeten Hardware. [136]
Quantisierung verändert die Zahlengenauigkeit. Sie reduziert nicht unbedingt die Parameterzahl. Ob die Ausführung schneller wird, hängt von Umsetzung und Hardware ab. [136]
Im Inneren eines Modells
Overfitting
Einfach erklärt: Ein Modell passt sich so stark an Trainingsbeispiele an, dass es auf neuen Beispielen schlechter abschneidet. [137]
Das Training kann Einzelheiten erfassen, die nicht auf neue Daten übertragbar sind. Ein Warnsignal ist ein sinkender Trainingsfehler bei gleichzeitig steigendem Fehler auf getrennten Validierungsdaten. [137]
Einordnung auf der Karte: Achte bei Qualitätsaussagen auf Ergebnisse mit getrennten, passenden Beispielen. [137]
Ein gutes Trainingsergebnis allein belegt keine brauchbare Leistung anderswo. Unteranpassung ist etwas anderes: Das Modell hat bereits mit seinen Trainingsbeispielen Schwierigkeiten. [137]
Im Inneren eines Modells
Unteranpassung
Einfach erklärt: Ein Modell erfasst schon in seinen Trainingsbeispielen zu wenig vom zugrunde liegenden Muster. [138][137]
Mögliche Ursachen sind ein ungeeigneter Modellaufbau, fehlende nützliche Eingaben oder zu wenig Training. Das sind unterschiedliche Probleme. Mehr Beispiele allein beheben die Ursache daher nicht unbedingt. [138]
Einordnung auf der Karte: Prüfe vor dem Vergleich mit neuen Daten, ob der Fehler bereits im Training auftritt. [137]
Unteranpassung ist kein anderes Wort für ein kleines Modell. Sie beschreibt eine unzureichende Anpassung an Aufgabe und verfügbare Daten. [138]
Im Inneren eines Modells
Verlustfunktion
Einfach erklärt: Eine Regel, die Trainingsfehler eines Modells in eine Zahl übersetzt, die verringert werden soll. [139]
Verschiedene Verlustfunktionen gewichten Fehler unterschiedlich. Wer numerische Vorhersagefehler quadriert, gewichtet große Fehler stärker als bei Verwendung ihrer absoluten Größe. [139]
Einordnung auf der Karte: Prüfe, was der Trainingswert misst und welche Fehler aus der Praxis darin fehlen. [139][62]
Ein niedrigerer Verlustwert bedeutet eine Verbesserung nach dieser Bewertungsregel. Für sich genommen beweist er kein sicheres oder nützliches Verhalten. [139][62]
Im Inneren eines Modells
Gradientenverfahren
Einfach erklärt: Ein Verfahren, das Modelleinstellungen schrittweise so anpasst, dass der Trainingsfehler sinken soll. [90]
Software berechnet, wie eine kleine Änderung jedes Parameters den Verlustwert beeinflussen würde. Dann passt sie die Parameter in die Gegenrichtung an. Wiederholte Schritte dieser Art gehören zu vielen Trainingsverfahren. [90]
Einordnung auf der Karte: Damit wird konkret, welche Berechnung hinter der Änderung von Gewichten im Training steht. [90]
Weniger Fehler beim Trainingsziel garantieren keine guten Ergebnisse auf neuen Beispielen. Training und Bewertung beantworten unterschiedliche Fragen. [126]
Bewertungsverfahren
Vergleichstest
Einfach erklärt: Ein gemeinsamer Test zum Vergleich von Systemen bei ausgewählten Aufgaben; sein Ergebnis gilt für diese Tests, nicht für jeden Einsatz. [101]
Ein Benchmark verbindet Aufgaben, Bewertungsregeln und einen Testaufbau. Derselbe Aufbau macht Vergleiche aussagekräftiger. Genauigkeit, Kosten, Verzerrungen und Robustheit können unterschiedliche Bilder desselben Modells ergeben. [101]
Einordnung auf der Karte: Lesefrage im Atlas: Welche Aufgaben und Bedingungen stützen eine öffentliche Aussage über Fähigkeiten? [101]
Evaluation ist die umfassendere Untersuchung; ein Benchmark ist eines ihrer Werkzeuge. Auch bei einem hohen Wert können wichtige Sprachen, Nutzergruppen oder Fehlerarten ungeprüft bleiben. [101]
Einfach erklärt: Wenn Testmaterial in Trainingsdaten vorkommt, kann ein scheinbar neuer Test dem Modell teilweise bereits bekannt sein. [153]
Überschneidungen zwischen Trainingsmaterial und Testfragen oder Antworten können die Aussagekraft eines Tests mit unbekanntem Material verringern. Die Prüfung solcher Überschneidungen hilft, ein gemeldetes Ergebnis einzuordnen. [153]
Einordnung auf der Karte: Lesefrage im Atlas: Wie wurde geprüft, ob Test und Training hinreichend getrennt waren? [153]
Eine Überschneidung beweist weder, dass das Modell eine Antwort auswendig gespeichert hat, noch dass es dadurch einen Vorteil hatte. Brown und Kollegen fanden unterschiedliche Auswirkungen; auch ihr Erkennungsverfahren hatte Grenzen. [141]
Modellverhalten
Generalisierung
Einfach erklärt: Nützliche Ergebnisse bei Beispielen außerhalb der Trainingsdaten erzielen; der Erfolg hängt davon ab, wie stark sie sich unterscheiden. [87][143]
Ein Modell generalisiert, wenn im Training gelernte Muster gute Ergebnisse bei neuen Beispielen ermöglichen. Ein neues Foto einer bekannten Art von Gegenstand zu erkennen, ist ein anschauliches Beispiel. [87]
Einordnung auf der Karte: Lesefrage im Atlas: Gilt eine behauptete Verbesserung auch außerhalb der Beispiele, mit denen das System entwickelt wurde? [143]
Ein neues Beispiel kann den Trainingsdaten weiterhin stark ähneln. Erfolg dabei belegt keinen Erfolg in einer anderen Umgebung; Generalisierung ist auch keine Feststellung von AGI. [143][101]
Bewertungseigenschaft
Kalibrierung von Konfidenzwerten
Einfach erklärt: Prüfen, ob die angegebenen Wahrscheinlichkeiten dazu passen, wie oft die Vorhersagen eines Systems zutreffen. [140]
Anschauliches Beispiel: Von vielen Vorhersagen mit einer angegebenen Richtigkeitswahrscheinlichkeit von 80 % sollten ungefähr 80 % stimmen. Kalibrierung betrifft diese Übereinstimmung über viele Fälle, nicht Gewissheit über eine einzelne Antwort. [140]
Einordnung auf der Karte: Lesefrage im Atlas: Wurde eine angegebene Sicherheit anhand tatsächlicher Ergebnisse geprüft? [140]
Hohe Genauigkeit und gute Kalibrierung sind unterschiedliche Eigenschaften. Eine selbstsichere Formulierung in einer Chatbot-Antwort ist für sich genommen keine gemessene Wahrscheinlichkeit. [140]
Bewertungseigenschaft
Unsicherheit von Vorhersagen
Einfach erklärt: Eine Möglichkeit, Grenzen einer Vorhersage zu beschreiben, etwa fehlendes Wissen oder ungenaue Informationen. [142]
Forschende unterscheiden Unsicherheit durch begrenztes Wissen im Modell von Unsicherheit in den Beobachtungen selbst. Getrennte Schätzungen können zeigen, wo mehr Daten helfen könnten und wo Beobachtungen mehrdeutig bleiben. [142]
Einordnung auf der Karte: Lesefrage im Atlas: Worauf bezieht sich ein Unsicherheitsmaß, und wie wurde es geprüft? [142][140]
Mehrere unterschiedliche Antworten zu erzeugen, ergibt nicht automatisch eine kalibrierte Unsicherheitsschätzung. Die Kategorien beschreiben Ursachen von Unsicherheit; Kalibrierung prüft, ob Zahlenwerte zu Ergebnissen passen. [142][140]
Bewertungseigenschaft
Robustheit
Einfach erklärt: Auch unter veränderten Bedingungen brauchbare Ergebnisse erzielen und nicht nur in einem einzigen Testaufbau bestehen. [143]
Robustheit fragt, wie gut die Leistung bei Abweichungen erhalten bleibt. Man könnte etwa eine Dokumentenerkennung mit unscharfen und sauberen Scans testen. Welche Änderungen relevant sind, hängt vom vorgesehenen Einsatz ab. [143]
Einordnung auf der Karte: Lesefrage im Atlas: Welche schwierigen Bedingungen wurden berücksichtigt, wenn ein System als zuverlässig bezeichnet wird? [143]
Robustheit umfasst mehr als den Schutz vor gezielten Angriffen. Ein System kann mit einer Veränderung zurechtkommen und an einer anderen scheitern; die geprüften Bedingungen müssen genannt werden. [143]
Sicherheitsbegriff
Adversariale Beispiele
Einfach erklärt: Gezielt veränderte Eingaben, die ein Modell zu einem falschen Ergebnis bringen sollen; entsprechende Tests können Schwächen aufdecken. [144]
Bei einem klassischen Bildbeispiel bewirken kleine, gezielte Änderungen eine falsche Klassifizierung. Der Begriff bezeichnet präparierte Eingaben, nicht jedes schwierige oder unbekannte Beispiel. [144]
Einordnung auf der Karte: Lesefrage im Atlas: Deckt eine Sicherheitsbehauptung gezielte Manipulation ab, und unter welchen Bedingungen? [145]
Diese Angriffe setzen an Eingaben während der Nutzung an. Datenvergiftung verändert dagegen Material für das Training. Eine gegen einen Angriff geprüfte Abwehr muss einen anderen nicht aufhalten. [145]
Bewertungsverfahren
Red Teaming / gezielte Fehlersuche
Einfach erklärt: Ein System gezielt auf schädliches oder unerwünschtes Verhalten prüfen, damit Schwächen untersucht und behoben werden können. [146]
Testende erproben schwierige Fälle statt ausschließlich alltäglicher Anfragen. Menschen können die Tests entwerfen; Modelle können beim Erzeugen möglicher Testfälle helfen. Die zitierte Studie suchte mithilfe eines weiteren Sprachmodells nach problematischen Antworten. [146]
Einordnung auf der Karte: Lesefrage im Atlas: Wer hat das System geprüft, was wurde versucht, und was geschah mit den Ergebnissen? [146]
Ein gefundener Fehler misst nicht, wie oft er im Alltag auftritt. Wenn keine Fehler gefunden werden, ist damit nicht jedes schädliche Verhalten ausgeschlossen. [146]
Modellverhalten
In-Context Learning / Lernen im Kontext
Einfach erklärt: Material im aktuellen Prompt nutzen, um eine Antwort anzupassen, ohne einen neuen Trainingslauf. [92][147]
Ein Prompt kann Beispiele oder ein Muster liefern, das die nächste Antwort anleitet. So lässt sich das Verhalten für manche Aufgaben ohne neuen Trainingslauf anpassen. Forschende untersuchen auch, wie dieses Verhalten in Transformern entsteht. [92][147]
Einordnung auf der Karte: Lesefrage im Atlas: Veränderte eine Demonstration das Modell selbst oder nur die Informationen in seiner Eingabe? [92][147]
Das bedeutet nicht, dass ein Gespräch das zugrunde liegende Modell dauerhaft trainiert. Erklärungen des internen Mechanismus hängen weiterhin vom untersuchten Modell und den verfügbaren Belegen ab. [141][147]
Prompting-Verfahren
Few-Shot Learning / Prompting mit wenigen Beispielen
Einfach erklärt: Dem Modell einige gelöste Beispiele im Prompt geben, um die gewünschte Art der Antwort zu zeigen. [92]
Beim Prompting von LLMs sind die Beispiele Teil der Eingabe, kein eigener Trainingslauf. Beispielsweise zeigt man zwei nach Thema beschriftete Nachrichten und lässt dann eine dritte zuordnen. [92]
Einordnung auf der Karte: Lesefrage im Atlas: Wurden Beispiele vorgegeben, als das Ergebnis eines Modells ermittelt wurde? [92]
Wenige Beispiele im Prompt bedeuten nicht wenig vorheriges Training. Verbesserungen hängen von Aufgabe und Modell ab; mehr Beispiele garantieren kein besseres Ergebnis. [141]
Prompting-Verfahren
Zero-Shot Learning / Prompting ohne Beispiele
Einfach erklärt: Ein Modell eine Aufgabe bearbeiten lassen, ohne in diesem Prompt gelöste Beispiele vorzugeben. [141]
Ein Zero-Shot-Test für ein LLM kann eine Anweisung und eine Frage enthalten, aber kein Beispiel einer richtigen Antwort. Er prüft, was das bereits trainierte Modell unter diesen Bedingungen leisten kann. [141]
Einordnung auf der Karte: Lesefrage im Atlas: Enthalten die Eingaben der verglichenen Modelle gleich viel Hilfestellung? [141]
Zero-Shot bedeutet weder untrainiert noch mit dem Thema unvertraut oder frei von Testkontamination. Es beschreibt den unmittelbaren Aufgabenaufbau. [141]
Prompting und erzeugter Text
Chain of Thought (CoT) / schrittweise Herleitung
Einfach erklärt: Erzeugte Zwischenschritte vor einer Antwort, die manche Aufgabenergebnisse verbessern können, aber auch Fehler enthalten können. [148][124]
Chain-of-Thought-Prompting gibt Beispiele mit Zwischenschritten vor, damit ein Modell eine ähnliche Folge erzeugt. Die ursprüngliche Arbeit berichtete Verbesserungen bei ausgewählten Aufgaben. Spätere Reasoning-Systeme können auch darauf trainiert werden, längere Zwischentexte zu erzeugen. [148][124]
Einordnung auf der Karte: Lesefrage im Atlas: Hilft eine angezeigte Erklärung, die Antwort zu prüfen, und was bleibt dabei ungeprüft? [124]
Eine Erklärung kann nützlich sein, ohne jeden Einfluss auf die Antwort getreu wiederzugeben. Die Bezeichnung benennt erzeugten Text und belegt keinen menschenähnlichen inneren Denkprozess. [154][124]
Frage der Interpretierbarkeit
Getreue Wiedergabe durch Erklärungen
Einfach erklärt: Ob eine Erklärung zutreffend wiedergibt, was eine Antwort beeinflusst hat, statt nur plausibel zu klingen. [154][124]
Forschende können einen Hinweis hinzufügen, beobachten, ob er die Antwort verändert, und prüfen, ob die Erklärung ihn erwähnt. Solche Tests untersuchen einen bestimmten ursächlichen Einfluss, nicht jeden Schritt der zugrunde liegenden Berechnung. [154][124]
Einordnung auf der Karte: Lesefrage im Atlas: Welche Belege verbinden eine Erklärung mit dem Vorgang, der die Antwort erzeugt hat? [154][124]
Eine richtige Antwort kann eine unvollständige Erklärung haben. Die zitierten Hinweisexperimente fanden Auslassungen bei bestimmten Modellen und Aufgaben; sie zeigen nicht, dass jede schrittweise Herleitung nutzlos ist. [154][124]
Schutzmaßnahme im System
Guardrails / Schutzregeln
Einfach erklärt: Prüfungen und Beschränkungen, die unerwünschte Eingaben, Ausgaben oder Aktionen in einer KI-Anwendung verhindern sollen. [149]
Der Begriff umfasst unterschiedliche Kontrollen. Eine konkrete Umsetzung kann Nutzereingaben prüfen, abgerufene Dokumente filtern, Antworten kontrollieren oder Werkzeugaufrufe vor der Ausführung validieren. Entscheidend ist, an welcher Stelle die Kontrolle greift. [149]
Einordnung auf der Karte: Lesefrage im Atlas: Welche Schutzmaßnahme wird tatsächlich durchgesetzt, an welcher Stelle und gegen welchen Fehler? [149]
Eine Prüfung der abschließenden Antwort beschränkt für sich genommen keine frühere Werkzeugaktion. Die Angabe, dass Schutzregeln existieren, belegt nicht ihre Wirksamkeit gegen die relevanten Angriffe. [149][145]
Systemgestaltung
Human in the Loop (HITL) / menschliche Beteiligung
Einfach erklärt: Menschen eine Rolle bei der Prüfung oder Entscheidung einer KI-gestützten Aufgabe geben; der Nutzen hängt von der Ausgestaltung dieser Rolle ab. [150]
Eine Person kann eine Empfehlung prüfen, eine Ausgabe korrigieren oder eine Aktion freigeben. Das kann unterschiedliche Stärken verbinden; die prüfende Person braucht aber genügend Informationen, Zeit und Befugnisse, um zu widersprechen. [150][151]
Einordnung auf der Karte: Lesefrage im Atlas: Kann die benannte prüfende Person das Geschehen wirksam verändern oder stoppen? [151]
Ein Bestätigungsknopf allein belegt keine wirksame Aufsicht. Experimente zeigen, dass falsche Systemempfehlungen das menschliche Urteil beeinflussen können, auch wenn die Person die endgültige Entscheidung trifft. [151]
Menschliches Entscheidungsmuster
Automatisierungsbias / Übervertrauen in automatische Empfehlungen
Einfach erklärt: Automatischen Empfehlungen zu bereitwillig folgen, auch falschen; dieses Problem kann auch bei nützlicher Unterstützung auftreten. [152]
Eine Person kann einen Systemvorschlag übernehmen, statt ihn mit anderen Belegen abzugleichen. Eine Studie mit Pathologiefachleuten fand eine insgesamt bessere Leistung und zugleich Fälle, in denen falsche Empfehlungen ein richtiges Urteil verdrängten. [152]
Einordnung auf der Karte: Lesefrage im Atlas: Wie hilft ein Arbeitsablauf Menschen, falsche Empfehlungen zu erkennen und zurückzuweisen? [151]
Das ist eine mögliche Fehlform des Vertrauens, kein Beweis dafür, dass Menschen Maschinen immer vertrauen oder jede KI-Unterstützung die Genauigkeit senkt. Die Auswirkungen hängen von Aufgabe und Interaktion ab. [152][150]
Sicherheitsbegriff
Data Poisoning / Datenvergiftung
Einfach erklärt: Trainingsmaterial absichtlich verändern, um späteres Modellverhalten im Interesse eines Angreifers zu beeinflussen. [145]
Ein Angreifer fügt Trainingsbeispiele ein oder verändert sie, etwa um bestimmte Fehler auszulösen oder Ausgaben durch einen versteckten Auslöser zu beeinflussen. Die Manipulation kann das erste Training oder spätere Trainingsphasen betreffen. [145]
Einordnung auf der Karte: Lesefrage im Atlas: Wie werden Herkunft und Unversehrtheit des Trainingsmaterials geprüft? [145]
Versehentlich minderwertige Daten sind nicht zwangsläufig Datenvergiftung. Datenprüfungen und Filter können helfen; NIST weist jedoch darauf hin, dass bösartige Beispiele in großen Trainingssammlungen schwer zu finden sein können. [145]
Anwendung
Computer Vision / maschinelle Bildverarbeitung
Einfach erklärt: Software, die Informationen aus Bildern gewinnt, etwa Gegenstände oder geschriebenen Text. Verschiedene Aufgaben brauchen unterschiedliche Prüfungen. [155]
Computer Vision umfasst etwa das Beschriften von Bildern, das Lokalisieren von Gegenständen und das Lesen von Text in einem Bild. Ein System könnte beispielsweise die Position eines Fahrrads auf einem Foto markieren. [155]
Einordnung auf der Karte: Einordnung in der Karte: Der Begriff bezeichnet technische Aufgaben. Wir ordnen ihm kein bevorzugtes Tempo der KI-Entwicklung zu. [155]
Bildklassifikation vergibt eine Kategorie. Objekterkennung bestimmt zusätzlich die Position von Gegenständen. Beides unterscheidet sich vom Erzeugen eines neuen Bildes. [155]
Anwendung
Automatische Spracherkennung (ASR)
Einfach erklärt: Software, die gesprochene Sprache in geschriebenen Text umwandelt. Auch eine gut lesbare Mitschrift kann Fehler enthalten. [156]
Ein ASR-System verarbeitet eine Aufnahme und gibt Text aus, etwa Untertitel oder einen Entwurf für eine Gesprächsmitschrift. Die Beispiele von Hugging Face zeigen, dass ein plausibles Wort das tatsächlich gesprochene ersetzen kann. [156]
Einordnung auf der Karte: Einordnung in der Karte: Sprache zu verschriftlichen ist eine Fähigkeit, keine Position zu KI-Risiken oder Entwicklungstempo. [156]
Wörter zu verschriftlichen, eine sprechende Person zu erkennen und in eine andere Sprache zu übersetzen sind verschiedene Aufgaben. Prüfe wichtige Formulierungen anhand der Aufnahme. [156]
Anwendung
Sprachsynthese / Text-to-Speech (TTS)
Einfach erklärt: Software, die gesprochene Sprache erzeugt, häufig aus geschriebenem Text, etwa um ein Dokument vorzulesen. [157]
Text-to-Speech-Systeme wandeln Text in ein Sprachsignal um. Sie können ein Dokument vorlesen oder eine Nachricht als Audio ausgeben. Spracherzeugung ist eine Form der Audioerzeugung. [157]
Einordnung auf der Karte: Einordnung in der Karte: Der Begriff beschreibt eine Ausgabeform. Wir behandeln eine synthetische Stimme weder als Akteur noch als Ideologie. [157]
Spracherkennung wandelt Audio in Text um. Sprachsynthese geht den umgekehrten Weg. Sprache zu erzeugen bedeutet nicht zwangsläufig, eine bestimmte echte Person nachzuahmen. [157]
Im Inneren eines Modells
Diffusionsmodelle
Einfach erklärt: Generative Modelle, die ein Bild durch wiederholtes Entfernen von Rauschen aufbauen können. Ein erzeugtes Bild belegt nicht, dass das dargestellte Ereignis stattgefunden hat. [158]
Beim Ansatz zur Rauschentfernung werden Trainingsbeispiele mit Rauschen verändert. Ein Modell wird darauf trainiert, diesen Vorgang umzukehren. Die Erzeugung beginnt mit Rauschen und wendet erlernte Schritte an, um eine Ausgabe zu erzeugen. [158]
Einordnung auf der Karte: Einordnung in der Karte: Dies ist ein Verfahren zur Erzeugung von Inhalten. Seine Nutzung belegt keine Haltung zu Katastrophenrisiken oder schnellerer Entwicklung. [158]
Der klassische Diffusionsansatz verfeinert eine verrauschte Darstellung schrittweise. Das unterscheidet sich von einem Sprachmodell, das Text Token für Token erzeugt. Beides sind rechnerische Verfahren. [158]
Im Inneren eines Modells
Latenter Merkmalsraum
Einfach erklärt: Ein internes System numerischer Koordinaten, mit dem Merkmale dargestellt werden, etwa die Merkmale eines Bildes. [159]
Bei latenter Diffusion wird ein Bild in eine erlernte numerische Darstellung komprimiert. Der Diffusionsprozess arbeitet mit dieser Darstellung. Anschließend wandelt ein Decoder das Ergebnis in Bildpunkte um. Die Menge möglicher Darstellungen heißt latenter Raum. [159]
Einordnung auf der Karte: Einordnung in der Karte: Latente Koordinaten gehören zur Darstellung eines Modells. Sie haben nichts mit den redaktionellen Koordinaten für öffentliche Positionen in diesem Atlas zu tun. [159]
Eine latente Darstellung ist weder ein verkleinertes Bild noch eine schriftliche Erklärung. Bei latenter Diffusion verringert Kompression sowohl Details als auch Rechenaufwand. Ihre Gestaltung beeinflusst die Qualität der Rekonstruktion. [159]
KI nutzen
Künstlich erzeugte Daten
Einfach erklärt: Künstlich erzeugte Beispiele, die als Daten verwendet werden. Sie können Tests und Analysen unterstützen, garantieren aber nicht den Schutz persönlicher Informationen. [160][161]
Ein Generator kann neue Zeilen erzeugen, die Mustern einer ursprünglichen Tabelle ähneln. Der neue Datensatz lässt sich mit echten Daten vergleichen, um zu prüfen, ob nützliche Muster erhalten blieben. Ein Team könnte etwa beispielhafte Kundendaten erzeugen, um Software zu testen. [160]
Einordnung auf der Karte: Einordnung in der Karte: Dies ist ein Verfahren zur Datenerzeugung. Wir verorten es nicht auf den Achsen für Tempo oder Risikobesorgnis. [160]
Synthetische Inhalte bezeichnet erzeugte Medien. Synthetische Daten betont deren Verwendung als Beispiele für Analyse, Tests oder Training. Manche Erzeugungs- und Prüfverfahren können Informationen über ursprüngliche Datensätze offenlegen. Datenschutz muss daher gesondert bewertet werden. [160][161][112]
KI nutzen
Wissensstichtag / Knowledge Cutoff
Einfach erklärt: Ein angegebener Stichtag zur Aktualität der Trainingsinformationen eines Modells. Er garantiert kein vollständiges oder korrektes Wissen vor diesem Datum. [162]
Ein Anbieter kann angeben, wann Trainingsmaterial gesammelt wurde. Forschende unterscheiden dieses Datum von einem tatsächlichen Stichtag: Wie aktuell sind die Informationen, die ein Modell zu einem bestimmten Thema oder einer Quelle wiedergeben kann? [162]
Einordnung auf der Karte: Einordnung in der Karte: Der Stichtag ist eine Grenze, die bei der Nutzung eines Modells als Informationsquelle geprüft werden sollte. Er ist weder ein Intelligenzmaß noch eine Kartenposition. [162]
Verschiedene Themen können unterschiedliche tatsächliche Stichtage haben. Ein einzelnes angegebenes Datum verspricht weder die Abdeckung aller früheren Ereignisse noch die Aktualität jeder Antwort. [162]
KI nutzen
Datenherkunft und Verarbeitungsgeschichte
Einfach erklärt: Eine Aufzeichnung darüber, woher Daten stammen und wie sie verändert wurden. Sie hilft bei der Bewertung von Belegen, beweist aber nicht die Richtigkeit der Daten. [163]
Herkunftsdokumentation beschreibt Quellen, Personen und Vorgänge, die an der Entstehung von Daten beteiligt waren. Sie kann festhalten, dass ein Datensatz aus einem anderen abgeleitet wurde, wer einen Schritt ausführte und welche Version genutzt wurde. [163]
Einordnung auf der Karte: Einordnung in der Karte: Wir dokumentieren die Herkunft, damit Leser den Ursprung von Aussagen prüfen können. Das ist eine Dokumentationspraxis, keine politische Position. [163]
Eine Herkunftsangabe und eine Wahrheitsprüfung beantworten unterschiedliche Fragen. Zu wissen, wer eine Aussage geliefert hat, erleichtert Nachforschungen. Sowohl die Aussage als auch die Herkunftsangabe können weiterhin eine Prüfung erfordern. [163]
KI nutzen
Digitale Wasserzeichen
Einfach erklärt: Informationen, die in Text, Bilder oder Audio eingebettet werden, um ihre Herkunft erkennbar zu machen. Ein Wasserzeichen kann übersehen, entfernt oder fälschlich erkannt werden. [112]
Ein Wasserzeichen fügt ein Signal direkt in den Inhalt ein. Das kann eine sichtbare Markierung oder ein nur für Software erkennbares Muster sein. Manche Verfahren zeigen an, dass ein bestimmter Generator den Inhalt erzeugt hat. [112]
Einordnung auf der Karte: Einordnung in der Karte: Wasserzeichen sind ein Ansatz zur Dokumentation der Herkunft von Medien. Sie sagen nichts darüber aus, wo ein Akteur auf der Karte steht. [112]
Ein Wasserzeichen unterscheidet sich von einem gesonderten Metadateneintrag. Sein Vorhandensein beweist nicht die Wahrheit einer Aussage. Sein Fehlen beweist nicht, dass ein Mensch den Inhalt erstellt hat. [112]
Zugang und Veröffentlichung
Model Card / Modelldokumentation
Einfach erklärt: Ein Dokument zu vorgesehenen Einsätzen, Tests und Grenzen eines Modells. Es erleichtert die Prüfung, ist aber kein Sicherheitszertifikat. [164]
Der Vorschlag für Model Cards verlangt Angaben zum Zweck eines Modells, zu seiner Bewertung und zu Leistungsunterschieden unter relevanten Bedingungen oder zwischen Gruppen. Eine hilfreiche Dokumentation zeigt diese Grenzen zusammen mit den Ergebnissen. [164]
Einordnung auf der Karte: Einordnung in der Karte: Eine Model Card ist ein Beleg, der bei Aussagen über ein Modell geprüft werden kann. Ihre Veröffentlichung belegt keine politische Position einer Organisation. [164]
Eine Model Card konzentriert sich auf ein Modell. Eine System Card betrachtet, wie Modelle und andere Teile in einem Produkt zusammenwirken. Der Titel allein zeigt bei beiden nicht, wie vollständig die Angaben sind. [164][165]
Zugang und Veröffentlichung
System Card / Systemdokumentation
Einfach erklärt: Ein Dokument zum Zusammenspiel der Teile eines KI-Systems und zu seinen Grenzen. Es kann veralten, wenn sich das Produkt verändert. [165]
Eine System Card kann Modelle, Bestandteile ohne KI, Datenflüsse und die Wirkung von Ausgaben im Produkt beschreiben. Metas Vorschlag erläutert, warum das Verhalten eines Modells im Zusammenhang seines Einsatzsystems betrachtet werden muss. [165]
Einordnung auf der Karte: Einordnung in der Karte: Systemdokumentation hilft, ein Produkt über das einzelne Modell hinaus zu prüfen. Aus dem Vorhandensein einer solchen Dokumentation leiten wir keine Überzeugungen eines Akteurs ab. [165]
Der Begriff bezeichnet eine Dokumentation, kein unabhängig bestätigtes Gütesiegel. Prüfe ihren Umfang, ihr Datum und ihre Grenzen. Eine Dokumentation zu einer Version muss nicht für eine andere gelten. [165]
Im Inneren eines Modells
Rechenaufwand und Rechenressourcen
Einfach erklärt: Die Rechenressourcen zum Trainieren oder Ausführen eines Modells. Mehr Ressourcen beschreiben einen Einsatz, nicht den Nutzen des Ergebnisses. [87]
Compute kann Ressourcen wie Rechenleistung, Arbeitsspeicher und Speicherplatz bezeichnen. Bei KI-Debatten lohnt sich die Prüfung, ob es um Ressourcen für das Training eines Modells oder für dessen spätere Ausführung geht. [87]
Einordnung auf der Karte: Einordnung in der Karte: Dies ist ein Ressourcenbegriff. Eine Aussage über Rechenressourcen allein belegt keine Präferenz für schnellere oder langsamere Entwicklung besonders leistungsfähiger KI. [87]
Rechenressourcen, Modellgröße und verstrichene Zeit beschreiben verschiedene Dinge. Die Parameterzahl beschreibt Modellwerte. Compute beschreibt Ressourcen, die für die Arbeit eingesetzt werden. [87]
Im Inneren eines Modells
Grafikprozessor (GPU)
Einfach erklärt: Ein Chip, der viele Berechnungen parallel ausführt. Er kann geeignete KI-Aufgaben beschleunigen, ist aber selbst kein KI-Modell. [166]
GPUs wurden ursprünglich für Grafik entwickelt. Ihre parallele Bauweise wird auch für Berechnungen beim Modelltraining und bei der Erzeugung von Ausgaben genutzt. Eine GPU führt Software aus. Die Zahlenwerte des trainierten Modells sind vom Chip getrennt. [166]
Einordnung auf der Karte: Einordnung in der Karte: Eine GPU ist Hardware. Ihr Besitz oder ihre Nutzung kennzeichnet weder eine Bewegung noch eine Haltung zu KI-Risiken. [166]
Bei einer CPU stehen schnelle Folgen von Rechenschritten im Vordergrund, bei einer GPU viele parallele Schritte. Was nützlich ist, hängt von der Aufgabe ab. Eine GPU ist daher nicht automatisch bei jedem Programm schneller. [166]
KI nutzen
Latenz / Antwortverzögerung
Einfach erklärt: Die Wartezeit auf die Antwort eines Systems. Bei erzeugtem Text unterscheiden sich die Wartezeit auf das erste sichtbare Wort und auf die vollständige Antwort. [167]
Latenz ist eine Zeitspanne. Tests von Sprachmodellen können die Zeit bis zum ersten Ausgabetoken und die Dauer weiterer Tokens messen. Diese Werte beschreiben verschiedene Teile des Wartens. [167]
Einordnung auf der Karte: Einordnung in der Karte: Antwortgeschwindigkeit ist ein Leistungsmaß für Produkte. Sie ist von der Kartenachse zum Entwicklungstempo leistungsfähigerer KI getrennt. [167]
Durchsatz beschreibt, wie viel Arbeit ein System in einer Zeitspanne verarbeitet. Ein System, das insgesamt viele Anfragen bewältigt, beantwortet nicht zwangsläufig jede einzelne schnell. [167]
Anwendung
KI auf dem Gerät / Edge AI
Einfach erklärt: Ein Modell auf einem Gerät wie einem Smartphone oder Laptop ausführen. Der Ort einer Berechnung allein belegt nicht den Datenschutz der gesamten App. [168][165]
Bei KI auf dem Gerät laufen Modellberechnungen lokal. Ein Modell kann anderswo bezogen oder trainiert, für das Zielgerät angepasst und dort ausgeführt werden. Edge AI bezeichnet auch Verarbeitung nahe am Entstehungsort der Daten. [168]
Einordnung auf der Karte: Einordnung in der Karte: Der Begriff beschreibt, wo gerechnet wird. Lokale Verarbeitung gilt hier weder als Bewegung noch als Position zum Tempo der Entwicklung besonders leistungsfähiger KI. [168]
Die Ausführung eines Modells auf dem Gerät unterscheidet sich vom Training auf diesem Gerät. Prüfe für den Datenschutz die Datenflüsse der gesamten Anwendung, einschließlich anderer verwendeter Dienste. [168][165]
KI-Grundlagen
Software und Computerprogramme
Einfach erklärt: Computerprogramme legen fest, welche Operationen eine Maschine ausführt. Software umfasst diese Programme und die dazugehörigen Daten. [176][177]
Ein Taschenrechnerprogramm kann zwei Zahlen nach einer geschriebenen Regel multiplizieren. Ein Sprachmodellprogramm führt Berechnungen mit numerischen Einstellungen aus, die beim Training gelernt wurden. Beide werden von Computerhardware ausgeführt. [97][95][88][177]
Einordnung auf der Karte: Kartenkontext: Der Begriff erklärt, wie Systeme arbeiten. Er bezeichnet keine Position für oder gegen eine schnellere KI-Entwicklung. [177][95]
Dass ein Modell als Software läuft, macht sein Verhalten nicht leicht erklärbar. Interpretierbarkeitsforschung untersucht, wie seine gelernten Berechnungen bestimmte Ausgaben erzeugen. [73]
KI-Grundlagen
KI-System
Einfach erklärt: Ein KI-Modell zusammen mit der Software und Hardware, die es zum Einsatz bringen. [178][77]
Bei einem Chatbot können dazu die Oberfläche, Anweisungen, das Modell, Suchwerkzeuge und Berechtigungen gehören. Ein Roboter kann außerdem Sensoren und Motoren enthalten. Diese Bestandteile prägen, was das System leisten kann. [97][81][178]
Einordnung auf der Karte: Kartenkontext: Unterscheide eine Aussage über ein Modell von einer Aussage über die Anwendung oder Maschine, die es nutzt. [178][77]
Die Ergebnisse eines Modells allein belegen nicht, dass ein ganzes System sicher ist. Werkzeuge, Zugriffsrechte und Aufsicht müssen gesondert beurteilt werden. [80][81]
Theoretische These
KI als normale Technologie
Einfach erklärt: Narayanans und Kapoors Sicht, dass Menschen die Auswirkungen von KI durch Institutionen, technische Gestaltung und Politik beeinflussen können. Ihre Sicherheitsaussagen sind umstritten: Im September 2026 räumten sie ein, Risiken während der Entwicklung unterschätzt zu haben, und forderten stärkere Kontrollen. [188][190][194]
Die These vergleicht KI mit früheren einflussreichen Technologien. Sie unterscheidet technischen Fortschritt von Anwendungen und ihrer Verbreitung. Fortdauernde menschliche Kontrolle gilt als Ziel, das bewusste Entscheidungen erfordert. Normal bedeutet weder harmlos noch einfach oder vorhersehbar. [188][189]
Einordnung auf der Karte: Einordnung in die Karte: Kontext zu beiden Achsen, kein gemessener Punkt und keine Zugehörigkeitsbezeichnung. Die Autoren unterstützen bei Bedarf Pausen für unsichere Experimente, weisen aber die Behauptung zurück, dass katastrophale Risiken unmittelbar bevorstehen. [194]
Scott Alexander argumentiert, dass schnelle Selbstverbesserung und der Einsatz in KI-Laboren angenommene Grenzen umgehen könnten. Die Autoren entgegnen, dass technische Verbesserungen äußere Beschränkungen nicht automatisch beseitigen. Ihre Aktualisierung vom September gewichtet die Aufsicht über Entwickler stärker. [190][189][194]
KI-Grundlagen
Symbolische KI und Expertensysteme
Einfach erklärt: Programme, die mit ausdrücklich dargestellten Fakten und Regeln arbeiten. Ein Expertensystem wendet solche Regeln in einem bestimmten Fachgebiet an. [195][196]
Entwickler hinterlegen Fakten und logische Regeln, die Software auf ein Problem anwendet. Ein Expertensystem verbindet eine Wissensbasis mit Regeln aus einem bestimmten Fachgebiet, oft in Form von Wenn-dann-Bedingungen. [195][196]
Einordnung auf der Karte: Kartenkontext: Dies erklärt einen KI-Ansatz, der auf ausdrücklich programmiertem Wissen beruht. [195]
Ein Expertensystem ist eine Anwendung symbolischer Methoden. Sein hinterlegtes Wissen deckt ein begrenztes Gebiet ab. Das unterscheidet sich davon, Modellparameter durch maschinelles Lernen an Beispiele anzupassen. [196][88]
Fähigkeitsbegriff
Narrow AI / spezialisierte KI
Einfach erklärt: KI für eine begrenzte Aufgabe oder Aufgabengruppe. Spezialisierte Software kann innerhalb dieses Rahmens sehr gute Leistungen erbringen. [58]
Narrow bezeichnet die Breite, nicht die Qualität. Ein Forschungsrahmen trennt die Frage, wie viele Arten von Aufgaben ein System bearbeitet, davon, wie gut es sie ausführt. [58]
Einordnung auf der Karte: Kartenkontext: Unterscheide Leistungen in einem Spezialgebiet von Aussagen über allgemeine Intelligenz. [58]
Breite, Leistung und Autonomie sind verschiedene Fragen. Gute Aufgabenergebnisse bestimmen nicht, wie viel Kontrolle eine Anwendung erhalten sollte. [58]
KI-Grundlagen
Basismodelle
Einfach erklärt: Modelle, die mit breit gefächerten Daten trainiert wurden und sich für viele Aufgaben anpassen lassen. Die Wiederverwendung eines Modells kann auch seine Schwächen auf mehrere Anwendungen übertragen. [197]
Ein gemeinsames trainiertes Modell dient durch Prompts oder weiteres Training als Ausgangspunkt für verschiedene Anwendungen. Der Begriff umfasst mehr als Sprachmodelle. [197]
Einordnung auf der Karte: Kartenkontext: Gemeinsam genutzte Modelle verbinden Entwicklungsentscheidungen mit vielen darauf aufbauenden Anwendungen. [197]
Ein Basismodell ist ein wiederverwendbarer Bestandteil. Sein breites Training belegt keine gleiche Leistung in allen Anwendungen. [197]
Forschungskonzept
KI-Skalierungsgesetze
Einfach erklärt: Gemessene Muster, die Modellgröße, Trainingsdaten und Rechenressourcen mit Leistung verknüpfen. Jedes Muster bezieht sich auf ein bestimmtes Maß und einen bestimmten Trainingsaufbau. [198][199]
Forschende trainieren unterschiedlich große Modelle und passen Gleichungen an die Ergebnisse an. Bei Sprachmodellen ist ein häufiges Maß der Vorhersageverlust: wie schlecht das Modell den nächsten Textbaustein vorhersagt. [198][199]
Einordnung auf der Karte: Kartenkontext: Diese Studien prägen Erwartungen an den Zuwachs von Fähigkeiten und den Ressourcenbedarf. [198][199]
Größer ist nicht die einzige Möglichkeit. Hoffmann und Mitautoren erzielten bessere Ergebnisse, indem sie Modellgröße und mehr Trainingsdaten aufeinander abstimmten. Einen gemessenen Trend auf ungeprüfte Größenordnungen zu übertragen, fügt eine Annahme hinzu. [198][199]
Modellverhalten
Modellkollaps
Einfach erklärt: Wiederholtes Training mit Ausgaben früherer Modelle kann Muster der ursprünglichen Daten verdrängen. Andere Experimente vermieden diese Verschlechterung, indem sie den ursprünglichen Datensatz beibehielten und erzeugte Beispiele hinzufügten. [200][201]
In untersuchten Trainingsschleifen liefert jedes Modell Beispiele für das nächste. Fehler können sich summieren, und seltene Muster können aus den Ausgaben späterer Modelle verschwinden. [200]
Einordnung auf der Karte: Kartenkontext: Dies schränkt Aussagen darüber ein, wie erzeugte Daten künftiges Modelltraining tragen können. [200][201]
Das Ergebnis hängt davon ab, wie Datensätze ersetzt oder angesammelt werden. Es belegt nicht, dass alle synthetischen Daten schädlich sind, und erklärt ohne Prüfung des Trainings keine schlechte Chatbot-Antwort. [200][201]
Arbeit und Gesellschaft
Menschliche Datenarbeit und Datenkennzeichnung
Einfach erklärt: Menschen sammeln, kennzeichnen, prüfen und bewerten Daten für KI. Ihre Arbeit und die Anweisungen, die sie erhalten, prägen die trainierte Software mit. [202][203]
Datenkennzeichnung ordnet Beispielen Kategorien oder andere Anmerkungen zu. Zur weiteren Datenarbeit gehören das Sammeln von Material, das Aufbereiten von Datensätzen und das Prüfen von Modellausgaben. Forschung dokumentiert diese Arbeit in unterschiedlichen Beschäftigungsformen. [202]
Einordnung auf der Karte: Kartenkontext: Zur KI-Entwicklung gehören neben Modellaufbau und Rechenressourcen auch menschliche Arbeit und organisatorische Entscheidungen. [202][203]
Eine Kennzeichnung ist eine aufgabenbezogene Beurteilung und nicht automatisch eine Tatsache. Eine Studie mit KI-Praktikern ergab, dass vernachlässigte Datenarbeit später in Entwicklung und Einsatz Probleme verursachen konnte. [202][203]
Forschungsfeld
KI-Kontrolle
Einfach erklärt: Prüft, ob Schutzmaßnahmen schädliche Aktionen blockieren können, selbst wenn Modellausgaben gezielt zu ihrer Umgehung ausgewählt werden. Auch überwachende Modelle wurden in solchen Tests umgangen. [204][205]
Forschende testen ganze Arbeitsabläufe gegen gezielt angreifendes Verhalten. Die ursprüngliche Kontrollstudie nutzte Programmieraufgaben und prüfte, wie ein weiteres Modell nicht vertrauenswürdigen Code kontrolliert oder überarbeitet. [204]
Einordnung auf der Karte: Kartenkontext: Verbindet Berechtigungen, Überwachung und Prüfung mit Schutzmaßnahmen rund um eingesetzte Software. [206]
Kontrolle kann Prüfungen rund um ein Modell ergänzen, ohne dessen gelernte Gewichte zu verändern. Sie kann die Arbeit an der Ausrichtung ergänzen. Ein bestandener Test stützt nur Aussagen über den benannten Aufbau und die geprüften Angriffe. [204][205]
Wie Sprachmodelle funktionieren
Die Lesestufe verändert Formulierungen, Beispiele und die Einzelheiten der Zeichnungen. Die Aussagen und ihre Quellen bleiben auf jeder Stufe gleich. Der Grundtext entspricht der Stufe „In der Praxis“.
Erster Überblick: Für Leser ab etwa 10 Jahren ohne Computer-Vorkenntnisse. Kurze Sätze und alltägliche Wörter.
Genauer hinsehen: Für Schüler ab der weiterführenden Schule und neugierige Erwachsene. Führt Token, Bewertungen, Training, Zufallsauswahl und Startwerte ein.
In der Praxis: Für Menschen, die entscheiden, ob sie sich auf ein KI-Werkzeug verlassen können. Ergänzt Kontext, Informationsabruf, Werkzeuge und Prüfungsschritte.
Im Detail: Für Entwickler, Forschende und Studierende des maschinellen Lernens. Verwendet die Fachbegriffe und verlinkt Originalquellen.
Ein Sprachmodell läuft auf einem Computer. Beim Training werden Zahlenwerte im Modell anhand von Beispielen angepasst. Zum Erzeugen einer Antwort werden diese Werte verwendet. Die Pfeile zeigen diese getrennten Abläufe. Modellberechnungen und Training · Software zur Texterzeugung.
ModelltrainingDas Modell anpassen
BeispielmaterialBeim Training verwendeter Text
Berechnungen beim TrainingZahlen im Modell anpassen
Ein trainiertes ModellSeine erlernten Zahlen sind Parameter, oft Gewichte genannt
1 · EingabeText wird eingegebenDer eingegebene Text wird als Stücke dargestellt, die Token heißen
2 · ModellWerte für das nächste Textstück berechnenDie Software verwendet die erlernten Gewichte und den bisherigen TextIm Detail: Tokens → Embeddings → Attention-Blöcke → Bewertungswerte (Logits) → Softmax mit Temperatur. Hardware und Bibliotheksversionen können diese Zahlen verändern.
3 · AuswählenEin Textstück auswählenDen höchsten Wert wählen oder anhand berechneter Wahrscheinlichkeiten zufällig auswählenIm Detail: Greedy, Sampling, Top-k oder Top-p. Sampling fügt der Token-Auswahl gezielt Zufall hinzu. Auch Hardware und Software können die Wiederholbarkeit beeinflussen.
4 · FortsetzenDas Stück an den Text anhängenDen längeren Text für die nächste Runde verwenden, bis eine Stoppregel greift
↶ Der neue Text fließt in die nächste Runde ein.
Texterzeugung und Auswahlregeln: Hugging-Face-Leitfaden. Wiederholbarkeit bei unterschiedlichen Ausführungsbedingungen: PyTorch-Hinweise zur Reproduzierbarkeit. Diese Schritte verwenden die erlernten Gewichte; das Training ist ein eigener Vorgang.
Rund um das ModellWas die Anwendung ergänzt
Anweisungen und abgerufene InhalteDie Anwendung kann eigene Anweisungen und abgerufene Dokumente zur Eingabe hinzufügen
Der Ablauf oben bleibt gleichDas Modell bewertet; die Software wählt aus
Prüfungen außerhalb des ModellsEine Person oder eine Regel kann einen Entwurf prüfen, bevor etwas gesendet oder ausgeführt wird
Werkzeuge und SpeicherGespeicherte Chat-Erinnerungen sind kein neues Training; Werkzeugaktionen richten sich nach den Berechtigungen der Anwendung
Sie zeigt die wichtigsten Schritte, nicht jede Berechnung im Modell. Auch wenn man diese Berechnungen kennt, lässt sich damit noch nicht vollständig erklären, wie eine bestimmte Antwort entstanden ist. Forschung zur Untersuchung des Modellverhaltens lesen.
Deine Anfrage wird zur Eingabe für ein Computerprogramm
Aussage C1
Stell dir vor, du bittest um ein Programm, das einen Einkaufsbetrag berechnet. Ein großes Sprachmodell (LLM) läuft als Software auf einem Computer. Es nutzt programmierte Berechnungen und gelernte numerische Einstellungen, sogenannte Gewichte. Beim Training werden diese Einstellungen anhand von Beispielen angepasst. Beim Entwurf deines Programms bewertet es mögliche nächste Tokens, also Textstücke. [70][71][75]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Stell dir vor, du bittest um ein Programm, das die Kosten eines Einkaufs zusammenrechnet. Auch ein Sprachmodell ist ein Computerprogramm. Programmierer schreiben seine Berechnungen. Beim Training werden viele Zahlenwerte im Inneren anhand von Beispielen angepasst. Beim Schreiben nutzt es diese Werte, um die möglichen nächsten Textteile zu bewerten. Ein solcher Teil kann ein Wort oder ein Wortteil sein. [70][71][75]
Genauer hinsehen: Stell dir vor, du bittest um ein Programm, das die Kosten eines Einkaufs zusammenrechnet. Ein großes Sprachmodell (LLM) läuft als Computerprogramm. Programmierer legen seine Berechnungen fest. Beim Training werden viele numerische Einstellungen, sogenannte Gewichte, anhand von Beispielen angepasst. Beim Antworten nutzt sein neuronales Netz diese Gewichte, um mögliche nächste Tokens zu bewerten. Tokens sind die Textstücke, mit denen es arbeitet. [70][71][75]
Im Detail: Ein LLM verbindet programmierte Berechnungen mit gelernten Parametern. Bei der hier gezeigten Texterzeugung bildet ein Transformer eine Tokenfolge auf Bewertungen für das nächste Token ab. Das Training passt die Parameter anhand von Textbeispielen an, mit dem Ziel, das nächste Token vorherzusagen. Weitere Anpassungsphasen können folgen. Bei der Inferenz wendet der programmierte Vorwärtsdurchlauf die trainierten Parameter auf den bereitgestellten Kontext an. Ein Entwurf für ein Einkaufsprogramm ist eine Ausgabe dieses Vorgangs. Er muss weiterhin geprüft und getestet werden, bevor ihn jemand ausführt. [70][71][75][92]
Die Antwort entsteht Stück für Stück
Aussage C2
Die Software wählt anhand der Bewertungen ein Token aus, hängt es an die Antwort an und wiederholt den Vorgang. Sie kann die am höchsten bewertete Möglichkeit nehmen oder nach dem Zufallsprinzip aus mehreren Möglichkeiten wählen. Diese Zufallsauswahl kann zu verschiedenen Entwürfen deines Einkaufsprogramms führen. Das Modell kann auch ohne Zufallsauswahl arbeiten. Ob Antworten variieren und wie gut wir die Arbeitsweise des Modells verstehen, sind zwei verschiedene Fragen. [71][72][73]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Die Antwort wird nicht auf einmal geschrieben. Das Modell bewertet die Teile, die als Nächstes kommen könnten. Die Software wählt einen Teil, hängt ihn an die Antwort an und wiederholt die Berechnung. Sie kann immer die höchste Bewertung nehmen oder anhand der Bewertungen zufällig auswählen. Die Zufallsauswahl kann dazu führen, dass dieselbe Frage verschiedene Antworten erhält. [71][72][73]
Genauer hinsehen: Das Modell gibt jedem möglichen nächsten Token eine Bewertung. Die Software wählt dann ein Token aus, fügt es der Antwort hinzu und wiederholt den Vorgang, bis eine Stoppregel erfüllt ist. Sie kann immer die höchste Bewertung wählen oder Sampling nutzen: zufällig auswählen, wobei höhere Bewertungen wahrscheinlicher sind. Sampling kann verschiedene Entwürfe deines Einkaufsprogramms hervorbringen. Ohne Sampling fällt diese Zufallsquelle weg. Das erklärt aber nicht, warum das Modell die Möglichkeiten so bewertet hat. Das sind zwei getrennte Fragen. [71][72][73]
Im Detail: Jeder Vorwärtsdurchlauf liefert Logits über das Vokabular. Ein Dekodierverfahren wählt ein Token, hängt es an den Kontext an und wiederholt den Durchlauf. Greedy Decoding nimmt die höchste Bewertung. Sampling zieht aus der Softmax-Verteilung, die bei Bedarf durch Temperatur, Top-k oder Top-p angepasst wird, bis ein End-Token oder eine Längengrenze erreicht ist. Sampling ist die beabsichtigte Quelle für Unterschiede in den Ausgaben. Sein Fehlen sagt nichts über Interpretierbarkeit aus: Auch ein Greedy-Durchlauf entsteht aus denselben gelernten Gewichten, deren Beiträge die Interpretierbarkeitsforschung nur teilweise nachverfolgen kann. [71][72][73]
Prüfe den Entwurf und führe dann das gespeicherte Programm aus
Aussage C3
Das Modell könnte eine Regel entwerfen, die den Preis mit der Menge multipliziert. Prüfe, ob sie deine Anforderungen erfüllt, und teste sie. Einmal gespeichert, kann dieser Code ohne das LLM ausgeführt werden. Bei denselben vollständigen Eingaben und Ausführungsbedingungen liefert deterministischer Code dasselbe Ergebnis. Er kann dabei auch denselben Fehler wiederholen, etwa die Lieferkosten vergessen. [75][72]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Das Modell könnte eine Regel schreiben: Preis mal Menge. Jemand muss sie lesen und testen. Einmal gespeichert, kann diese Regel ohne das Modell laufen. Bei denselben Zahlen und denselben Bedingungen ergibt diese Multiplikation dieselbe Antwort. Lässt die Regel die Lieferkosten weg, tut sie das jedes Mal. [75][72]
Genauer hinsehen: Das Modell könnte Code entwerfen, der Preis und Menge multipliziert. Prüfe den Entwurf anhand deiner Anforderungen und teste ihn. Einmal gespeichert, kann diese Multiplikation ohne das Modell laufen. Bei festen Eingaben und Ausführungsbedingungen liefert sie dasselbe Ergebnis. Das nennt man deterministisch. Erzeugten Code zu speichern macht aber nicht jedes Programm automatisch deterministisch oder richtig. Die Einkaufsregel kann denselben Fehler wiederholen, etwa die Lieferkosten vergessen. [75][72]
Im Detail: Prüfe und teste einen erzeugten Codeentwurf, bevor du ihn ausführst. Im Einkaufsbeispiel kann eine gespeicherte Multiplikationsfunktion ohne Modellaufruf laufen. Bei denselben vollständigen Eingaben und festen Ausführungsbedingungen ist ihr Ergebnis deterministisch. Das beschreibt die festgelegte Funktion, nicht jede erzeugte Software. Eine wiederholbare Funktion kann trotzdem die falsche Regel umsetzen. Bestandene Tests decken die geprüften Fälle ab. Sie belegen weder die Richtigkeit für jede Eingabe noch erklären sie, wie das Modell den Entwurf erzeugt hat. [75][72]
Code schreiben und ihn ausführen sind getrennte Schritte
Die Aufgabe beschreibenBeispiel: „Multipliziere Preis und Menge“
Das Modell entwirft CodeDer Entwurf ist Text, der geprüft werden muss
Prüfen und testenBefolgt der Code die beabsichtigte Regel?
Den gespeicherten Code ausführenDiese kleine Funktion kann ohne Modellaufruf ausgeführt werden
Ein beispielhafter Ablauf auf Grundlage von GitHubs Empfehlungen zur Codeprüfung. Eine Berechnung zu wiederholen belegt nicht, dass sie zur Aufgabe passt.
Warum hat das Modell diese Antwort gewählt?
Aussage C4
Die Berechnung im Einkaufsprogramm kannst du nachvollziehen. Schwieriger ist es zu erklären, warum das Modell genau dieses Programm entworfen hat: Sein Verhalten hängt vom Zusammenspiel vieler gelernter Gewichte ab. Die Berechnungen zu kennen, liefert nicht automatisch eine einfache Erklärung für jede Antwort. Die Forschung zur mechanistischen Interpretierbarkeit verfolgt Teile dieses Ablaufs. Dabei bleiben noch wichtige Lücken. [70][73][74]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Bei der gespeicherten Einkaufsregel kannst du der Zeile folgen, die die Zahlen multipliziert. Auch das Modell führt Code aus. Seine Antwort zu erklären erfordert aber mehr, als diesen Code zu lesen. Viele gelernte Einstellungen wirken zusammen, um jeden Teil zu bewerten. Forschende können einiges von dem nachverfolgen, was im Inneren passiert. Wichtige Lücken bleiben. [70][73][74]
Genauer hinsehen: Du kannst das Einkaufsprogramm lesen und seine Berechnung nachvollziehen. Schwieriger ist es zu erklären, warum das Modell genau dieses Programm entworfen hat. Die Antwort hängt vom Zusammenspiel vieler gelernter Gewichte ab. Jede Berechnung zu kennen liefert keine einfache Erklärung für jede Antwort. Forschende im Bereich der mechanistischen Interpretierbarkeit verfolgen Teile dieses Ablaufs. Dabei bleiben wichtige Lücken. [70][73][74]
Im Detail: Jede Operation im Vorwärtsdurchlauf ist bekannt. Was fehlt, ist eine knappe kausale Erklärung dafür, warum diese Operationen zu dieser Ausgabe geführt haben. Methoden der mechanistischen Interpretierbarkeit wie Attributionsgraphen und Attention Tracing rekonstruieren Teile von Schaltkreisen für bestimmte Verhaltensweisen. Sie benennen dabei Grenzen der Abdeckung und der Erklärungstreue. In diesem Sinn ist die Undurchsichtigkeit eine Eigenschaft der gelernten Funktion, unabhängig davon, ob das Dekodieren zufallsbasiert erfolgt. [70][73][74]
Ein Vergleich: Die Regeln zu kennen, erklärt noch nicht alles
Aussage C4
Das Wetter veranschaulicht die eben beschriebene Lücke: Wer die physikalischen Regeln kennt, hat damit noch keine einfache Erklärung für jedes Ergebnis. Bei Vorhersagen sind die Anfangsbedingungen nicht vollständig bekannt, und Berechnungen beruhen auf Näherungen. Beim LLM geht es hier darum, wie gelernte Bestandteile eine Antwort hervorbringen. Unser begrenzter Vergleich soll diese Erklärungslücke verdeutlichen. Er behauptet nicht, dass LLMs wie das Wetter funktionieren oder zwangsläufig zufällig arbeiten. [76][73][74]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Hier kommt ein begrenzter Vergleich. Die physikalischen Regeln des Wetters zu kennen erklärt nicht jedes Ergebnis vollständig. Bei Vorhersagen fehlen Informationen über den Anfangszustand, und Berechnungen werden vereinfacht. Bei einem Modell geht es darum, wie seine gelernten Einstellungen zu einer Antwort beitragen. Das sind unterschiedliche Lücken. Der Vergleich zeigt nicht, dass Modelle wie das Wetter funktionieren oder zufällig arbeiten müssen. [76][73][74]
Genauer hinsehen: Ein Vergleich: Wir kennen die physikalischen Regeln des Wetters. Trotzdem kann eine Vorhersage nicht jedes Ergebnis erklären, weil die Anfangsbedingungen und Näherungen unsicher sind. Bei einem Modell ist die offene Frage eine andere: Wie wirken gelernte Teile zusammen, um eine Antwort hervorzubringen? Das ist ein begrenzter Vergleich über Erklärungen. Er behauptet nicht, dass Modelle wie das Wetter funktionieren oder zufällig arbeiten müssen. [76][73][74]
Im Detail: Der Vergleich ist eine begrenzte Analogie. Die numerische Wettervorhersage kennt die Dynamik. Trotzdem kann sie einzelne Ergebnisse wegen unsicherer Anfangsbedingungen und Näherungen nur begrenzt erklären. Auch bei einem LLM sind die Operationen bekannt. Hier betrifft die Lücke aber die Zuordnung: Welche gelernten Bestandteile haben diese Ausgabe verursacht? Der Vergleich zeigt, dass die Regeln zu kennen noch keine vollständige Erklärung liefert. Er überträgt weder die Empfindlichkeit chaotischer Systeme noch die Behauptung notwendiger Zufälligkeit oder irgendeine physikalische Aussage auf Modelle. [76][73][74]
Genauer erklärt: Wann lässt sich eine Antwort wiederholen?
Aussage C3
Die Zufallsauswahl abzuschalten, garantiert nicht unter allen Bedingungen identische Antworten. Hardware, Softwareversionen und manche Rechenschritte können das Ergebnis weiterhin beeinflussen. Ein Startwert für den Zufallsgenerator hilft, eine Folge von Entscheidungen unter gleichen Bedingungen zu wiederholen. Wiederholbarkeit bedeutet, ein Ergebnis erneut zu erzeugen. Interpretierbarkeit bedeutet, zu erklären, wie es zustande kam. Das eine belegt nicht das andere. [72][73]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Auch wenn die Zufallsauswahl ausgeschaltet ist, können zwei Computer leicht unterschiedliche Antworten geben. Verschiedene Geräte und Softwareversionen können Zahlen unterschiedlich runden. Mit einem Startwert kannst du dieselben Zufallsauswahlen bei derselben Einrichtung wiederholen. Dieselbe Antwort erneut zu erhalten ist etwas anderes, als zu verstehen, warum genau diese Antwort entstanden ist. [72][73]
Genauer hinsehen: Sampling auszuschalten garantiert nicht unter allen Bedingungen identische Antworten. Unterschiede bei Hardware, Softwareversionen und manchen Berechnungen können das Ergebnis weiterhin verändern. Ein Startwert wiederholt dieselbe Folge von Zufallsentscheidungen unter gleichen Bedingungen. Wiederholbarkeit heißt, dasselbe Ergebnis erneut zu erhalten. Interpretierbarkeit heißt, zu erklären, wie es zustande kam. Das eine belegt nicht das andere. [72][73]
Im Detail: Greedy Decoding beseitigt die Unterschiede durch Sampling, aber nicht jeden Nichtdeterminismus. Gleitkommaberechnungen sind nicht assoziativ; außerdem können nichtdeterministische Rechenkerne und unterschiedliche Bibliotheksversionen die berechneten Bewertungen verändern. Deshalb können selbst Greedy-Durchläufe zwischen Umgebungen abweichen. Startwerte wiederholen eine Zufallsfolge nur unter passenden Bedingungen. Eine niedrige Temperatur macht das höchstbewertete Token wahrscheinlicher, garantiert aber keine identischen Durchläufe. Reproduzierbarkeit ist eine Eigenschaft der Ausführungsumgebung, Interpretierbarkeit eine Eigenschaft der Erklärung. Keine folgt aus der anderen. [72][73][71]
Warum kann eine selbstsichere Antwort falsch sein?
Aussage C5
Überzeugenden Text zu erzeugen bedeutet nicht, jede Behauptung auf Wahrheit zu prüfen. Eine Antwort kann eine erfundene Tatsache, ein erfundenes Zitat oder eine erfundene Quelle enthalten. Das wird oft Halluzination genannt. Öffne wichtige Quellenangaben und prüfe, ob die Quelle existiert und die Aussage tatsächlich stützt. Ein selbstsicherer Ton sagt nichts darüber aus, wie richtig eine Antwort ist. [83][227]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Das Modell kann Texte schreiben, die richtig klingen. Richtig zu klingen ist aber nicht dasselbe, wie richtig zu sein. Es kann eine Tatsache, ein Zitat oder ein Buch erfinden, das es gar nicht gibt. Das nennt man Halluzination. Wenn es wichtig ist, schlage es nach. Auch eine selbstsichere Antwort kann falsch sein. [83][227]
Genauer hinsehen: Überzeugenden Text zu erzeugen prüft nicht, ob jede Aussage stimmt. Eine Antwort kann eine erfundene Tatsache, ein erfundenes Zitat oder eine erfundene Quelle enthalten. Das wird oft Halluzination genannt. Öffne wichtige Quellenangaben und prüfe, ob die Quelle existiert und das aussagt, was die Antwort behauptet. Ein selbstsicherer Ton ist kein Maß für Genauigkeit. [83][227]
Im Detail: Bei der Texterzeugung werden Tokens anhand der vom Modell berechneten Bewertungen ausgewählt. Der entstehende Text kann trotzdem erfundene Tatsachen, Zitate oder Quellenangaben enthalten. Flüssige Sprache und eine hohe Bewertung für das nächste Token belegen nicht, dass eine Aussage wahr ist. Wo Genauigkeit zählt, öffne die zitierte Quelle und prüfe, ob sie die Antwort stützt. Abgerufene Textstellen können nützliche Belege liefern, müssen aber ebenfalls geprüft werden. [83][227][99][71]
Lernt es aus unserem Gespräch?
Aussage C6
Deine Nachrichten können über den Gesprächskontext die nächste Antwort beeinflussen. Manche Apps speichern auch Informationen für spätere Gespräche. Beides ist etwas anderes, als die Gewichte des Modells neu zu trainieren. Unabhängig davon können Anbieter Gespräche je nach ihren Regeln und deinen Einstellungen später für das Training verwenden. Prüfe bei deinem Dienst sowohl die Einstellungen zur Erinnerung als auch die zum Training. [92][118][119]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Eine App kann frühere Nachrichten aufnehmen, wenn sie die nächste Eingabe vorbereitet. Das kann die Antwort beeinflussen, ohne die gelernten Einstellungen des Modells zu verändern. Manche Apps speichern auch Notizen für spätere Gespräche. Unabhängig davon können Unternehmen Gespräche nach ihren Regeln und deinen Einstellungen zum Training verwenden. Prüfe die Einstellungen für gespeicherte Notizen und für das Training. [92][118][119]
Genauer hinsehen: Eine Anwendung kann frühere Nachrichten in die Eingabe aufnehmen. Dort können sie die nächste Antwort beeinflussen. Manche Apps speichern auch Informationen für spätere Gespräche. Diesen Text bereitzustellen verändert nicht selbst die Gewichte des Modells, also die Zahlen, die beim Training angepasst werden. Unabhängig davon kann ein Anbieter Gespräche nach seinen Regeln und deinen Einstellungen für späteres Training verwenden. Prüfe bei deinem Dienst sowohl die Erinnerungseinstellungen als auch die Trainingseinstellungen. [92][118][119]
Im Detail: Kontext, Anwendungsspeicher und Training sind verschiedene Mechanismen. Text im Kontext beeinflusst die nächste Modellausgabe, ohne selbst die Parameter zu verändern. Erinnerungsfunktionen können Informationen speichern und in späteren Gesprächen bereitstellen. Das ist etwas anderes als das Trainieren oder Anpassen der Gewichte. Ob ein Anbieter Gespräche für späteres Training verwendet, hängt von seinen Regeln und den jeweiligen Kontoeinstellungen ab. Prüfe für den betreffenden Dienst sowohl die Erinnerungs- als auch die Trainingseinstellungen. [92][118][119]
Ist eine Antwort zu erzeugen dasselbe wie im Web zu suchen?
Aussage C6
Ein Sprachmodell kann Text erzeugen, ohne etwas zu suchen. Eine Anwendung kann aber auch Webseiten oder Dokumente abrufen und dem Modell bereitstellen. Das sind getrennte Schritte. Abgerufenes Material kann Fehler enthalten, und die Antwort kann es falsch wiedergeben. Prüfe deshalb die Quellen, wenn es auf Genauigkeit ankommt. [71][99][83]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Ein Modell kann eine Antwort schreiben, ohne etwas nachzuschlagen. Manche Apps durchsuchen zuerst das Web oder deine Dateien und geben dem Modell die Ergebnisse. Das sind zwei getrennte Schritte. Die Suchergebnisse können falsch sein, und auch die Antwort kann sie falsch wiedergeben. Öffne die Quelle, wenn es darauf ankommt. [71][99][83]
Genauer hinsehen: Ein Sprachmodell kann Text erzeugen, ohne zu suchen. Eine Anwendung kann auch zuerst Webseiten oder Dokumente abrufen und das Material zur Modelleingabe hinzufügen. Das sind getrennte Schritte, die verschiedene Teile des Systems erledigen. Abgerufenes Material kann Fehler enthalten, und die Antwort kann es falsch wiedergeben. Prüfe deshalb die Quellen, wenn es auf Genauigkeit ankommt. [71][99][83]
Im Detail: Retrieval-Augmented Generation ergänzt einen Suchschritt, dessen Ergebnisse in den Kontext eingefügt werden. Die Modellparameter bleiben unverändert, und das Modell erzeugt weiterhin Text durch Vorhersage des nächsten Tokens anhand dieses Kontexts. Die Qualität des Abrufs begrenzt, worauf sich das Modell stützen kann. Bei der Erzeugung kann abgerufenes Material weiterhin falsch wiedergegeben werden. Prüfe die abgerufene Quelle, nicht die Umschreibung. [71][99][83]
Bedeutet menschliche Sprache, dass es Gefühle hat?
Ein menschenähnliches Gespräch allein belegt kein subjektives Erleben, also ob sich für das System überhaupt etwas nach etwas anfühlt. Forschende sind sich uneinig, wie man das untersuchen sollte. Die verlinkte Studie schlägt Anzeichen vor, die sich aus Bewusstseinstheorien ableiten, und benennt ihre Annahmen und Unsicherheiten. Wenn ein Chatbot behauptet, Gefühle zu haben, beantwortet das die Frage nicht. [116]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Ein Modell kann sich wie ein Mensch unterhalten. Das zeigt nicht, dass es Gefühle hat. Forschende sind sich uneinig, wie man das prüfen sollte. Eine Studie nennt Anzeichen, auf die man achten könnte, und sagt, dass die Frage offen ist. Wenn ein Chatbot behauptet, Gefühle zu haben, ist das erzeugter Text, kein Beweis. [116]
Genauer hinsehen: Menschlich zu klingen belegt kein subjektives Erleben, also ob sich für das System überhaupt etwas nach etwas anfühlt. Forschende sind sich uneinig, wie man das untersuchen sollte. Die verlinkte Studie schlägt Anzeichen aus Bewusstseinstheorien vor und benennt ihre Annahmen und Unsicherheiten. Wenn ein Chatbot behauptet, Gefühle zu haben, ist das erzeugter Text. Es entscheidet die Frage nicht. [116]
Im Detail: Sprachliche Gewandtheit allein belegt kein subjektives Erleben. Der verlinkte Bericht leitet mögliche Anzeichen aus wissenschaftlichen Bewusstseinstheorien ab und wendet sie unter benannten Annahmen und mit erheblicher Unsicherheit an. Auch der Bericht eines Modells über eigene Gefühle ist eine erzeugte Ausgabe. Um ihn zu beurteilen, muss erklärt werden, wie er zustande kam und was als Beleg gelten würde. Der Bericht allein entscheidet nicht, ob subjektives Erleben vorliegt. [116]
Wird KI meinen Beruf ersetzen?
Ein Beruf umfasst meist mehrere Aufgaben. Wenn eine davon automatisiert werden kann, zeigt das noch nicht, dass der ganze Beruf verschwinden wird. Die ILO-Studie von 2025 schätzt, welche Aufgaben betroffen sein könnten. Sie zählt keine tatsächlich verlorenen Arbeitsplätze. Auch die Einführung der Technik, ihre Kosten und die Organisation der Arbeit beeinflussen, was geschieht. [117]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Ein Beruf besteht aus vielen Aufgaben. Ein Modell kann vielleicht eine davon gut erledigen. Das bedeutet nicht, dass der ganze Beruf verschwindet. Eine große Studie hat untersucht, welche Aufgaben sich verändern könnten. Sie hat keine verlorenen Arbeitsplätze gezählt. Was geschieht, hängt auch davon ab, was Unternehmen entscheiden. [117]
Genauer hinsehen: Ein Beruf umfasst meist mehrere Aufgaben. Wenn eine davon automatisiert werden kann, zeigt das nicht, dass der ganze Beruf verschwinden wird. Die ILO-Studie von 2025 schätzt, welche Aufgaben betroffen sein könnten. Sie zählt keine tatsächlich verlorenen Arbeitsplätze. Auch die Einführung der Technik, ihre Kosten und die Organisation der Arbeit beeinflussen, was geschieht. [117]
Im Detail: Schätzungen zur Betroffenheit beziehen sich auf einzelne Aufgaben: Sie bewerten, welche Aufgaben generative KI übernehmen könnte, nicht die beobachtete Verdrängung von Arbeitsplätzen. Die ILO-Studie von 2025 berichtet mögliche Betroffenheit unter ausdrücklichen Annahmen über Fähigkeiten, ohne tatsächliche Arbeitsplatzverluste zu messen. Einführungstempo, Kosten und organisatorische Entscheidungen beeinflussen die Ergebnisse. Betroffenheit beschreibt deshalb ein Potenzial, keine Vorhersage. [117]
Bedeutet flüssige Sprache auch Verständnis?
Das kritische Argument lautet: Überzeugende Sprache zeigt für sich genommen kein Verständnis von Bedeutung. Bender und Koller konzentrieren sich auf Training allein mit sprachlichen Mustern. Andere Forschung fragt, was ein Vorhersagemodell intern lernt. Die Othello-Studie fand Informationen über ein Spielbrett. Diese Arbeiten behandeln verwandte Fragen. Keine davon zeigt aber, was jedes heutige LLM versteht. [120][122]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Ein Text kann überzeugend klingen, ohne zu zeigen, was sein Erzeuger außer Schreiben kann. Ein Argument besagt, dass Textmuster allein nicht ausreichen, um Bedeutung zu lernen. Eine andere Studie fand Anzeichen eines Spielbretts im Inneren eines Modells, das mit Spielzügen trainiert wurde. Diese Studien stellen verwandte Fragen. Keine entscheidet, was jedes Sprachmodell kann oder wie man es beschreiben sollte. [120][122]
Genauer hinsehen: Eine überzeugende Antwort allein entscheidet nicht, ob ein Modell Bedeutung gelernt hat. Bender und Koller argumentieren, dass Training allein mit sprachlichen Mustern dafür nicht ausreicht. Eine andere Studie untersuchte ein Modell, das Othello-Züge vorhersagen sollte, und fand darin Informationen über das Spielbrett. Das ist ein bestimmtes Ergebnis zu einem Spielmodell. Es entscheidet nicht die allgemeinere Debatte über Verständnis bei Sprachmodellen. [120][122]
Im Detail: Bender und Koller unterscheiden sprachliche Form von Bedeutung. Sie argumentieren, dass Training allein mit der Form nicht die Verbindung herstellen kann, die sie als Bedeutung bezeichnen. Die Othello-Studie untersucht gelernte Darstellungen in einem Modell zur Vorhersage von Spielzügen und findet Informationen über Spielbrettzustände. Das liefert Belege zur inneren Struktur dieses Modells, kein allgemeines Urteil über menschenähnliches Verständnis. Die Studien behandeln verwandte, aber unterschiedliche Fragen. Ihre Ergebnisse zeigen nicht, was jedes heutige LLM versteht. [120][122]
Welche Fragen sind noch offen?
Wie verlässlich kann ein Modell aus wenigen Beispielen einen neuen Begriff lernen, Ursachen erklären oder einen Plan anpassen, wenn sich sein Ziel ändert? Welche Tests unterscheiden diese Fähigkeiten von Abkürzungen? Wie genau geben schriftliche Denkschritte wieder, was eine Antwort beeinflusst hat? Wie wirken sich menschenähnliche Namen und Stimmen auf Vertrauen und Verantwortung aus? Wie viel des menschlichen Denkens steckt in den Erklärungen, die für das Training verwendet werden? Die zitierten Studien klären diese letzte Frage nicht und belegen auch keine Motive eines Anbieters. [121][124][123]
Dieselbe Aussage in anderen Detailstufen
Erster Überblick: Kann ein Modell eine neue Idee nach nur wenigen Beispielen nutzen? Kann es Ursachen erklären oder Pläne ändern? Welche Tests würden Abkürzungen ausschließen? Zeigen seine schriftlichen Gründe, was die Antwort beeinflusst hat? Beeinflussen Namen und Stimmen das Vertrauen? Wie viel menschliches Denken steckt in Trainingstexten? Diese Fragen bleiben offen. Sie verraten nicht die Motive eines Unternehmens. [121][124][123]
Genauer hinsehen: Wie verlässlich kann ein Modell aus wenigen Beispielen eine neue Idee lernen, Ursachen erklären oder einen Plan ändern, wenn sich sein Ziel ändert? Welche Tests könnten diese Fähigkeiten von Abkürzungen unterscheiden? Geben seine schriftlichen Gründe wieder, was seine Antwort tatsächlich beeinflusst hat? Wie wirken sich menschenähnliche Namen und Stimmen auf Vertrauen und Verantwortung aus? Wie viel menschliches Denken steckt in den Erklärungen, die für das Training verwendet werden? Die verlinkten Studien klären diese letzte Frage nicht und belegen keine Motive eines Anbieters. [121][124][123]
Im Detail: Zu den offenen Fragen gehört, wie sich Lernen aus wenigen Beispielen, kausales Denken und das Überarbeiten von Plänen bei veränderten Zielen testen lassen, während aufgabenspezifische Abkürzungen ausgeschlossen werden. Die Treue einer schriftlichen Begründung betrifft die Frage, ob sie Faktoren wiedergibt, die die Ausgabe tatsächlich beeinflusst haben. Menschenähnliche Oberflächen werfen eigene Fragen zu Vertrauen und Verantwortung auf. Eine weitere Frage ist, wie viel des menschlichen Denkens schriftliche Erklärungen erfassen, wenn sie zum Trainingsmaterial werden. Die zitierten Studien klären diese letzte Frage nicht und erlauben keine allgemeinen Schlussfolgerungen über die Motive von Anbietern. [121][124][123]
Bevor du dich auf ein KI-Werkzeug verlässt
Mit diesen Fragen kannst du prüfen, was eine KI-Anwendung tun kann und wie Fehler auffallen könnten. Wir haben sie aus den verlinkten Leitfäden und Forschungsarbeiten zusammengestellt. Sie sind ein Ausgangspunkt für eine Prüfung, kein Sicherheitsnachweis. [77][83]
Ein Beispiel mit Freigabe vor dem Senden
Stell dir eine Anwendung vor, die beim Beantworten von Kunden-E-Mails hilft.
1 · EingabeKunden-E-Mail und Anweisungen für die Antwort
2 · Das Modell schlägt vorEine Antwort entwerfen
3 · Außerhalb des ModellsEine Person prüft Empfänger und TextDie Anwendung wartet auf Freigabe
Eine KI-Anwendung verbindet ein Modell mit weiterer Software. Menschen legen die Anweisungen, Datenquellen, angeschlossenen Werkzeuge und Zugriffsrechte fest. Diese Entscheidungen beeinflussen, was sie tun kann. Eine Funktion, die Text entwirft, braucht eine andere Prüfung als eine, die Datensätze ändern oder Nachrichten senden kann. Liste zunächst die tatsächlichen Zugriffsrechte der Anwendung auf. [77][80]
Frage: Was kann diese Anwendung lesen, ändern oder senden, und mit welchen Werkzeugen?
Lege fest, wie du das Ergebnis prüfen wirst
Bestimme, was ein gutes Ergebnis ausmacht und welche Fehler wichtig wären. Überlege dann, ob fest geschriebener Code, ein Modell oder eine Kombination zur Aufgabe passt. Prüfe erzeugten Code anhand seiner Anforderungen. Eine überzeugende Vorführung ist ein Anlass, genauer hinzusehen. Für einen verlässlichen Einsatz braucht es Tests, die zur vorgesehenen Aufgabe passen. [78][75][83]
Frage: Wie prüfen wir, ob die Anwendung die Aufgabe richtig erledigt hat, auch in schwierigen Fällen?
Setze Grenzen, bevor die Anwendung handelt
Gib der Anwendung nur die Werkzeuge und Zugriffsrechte, die sie braucht. Erzwinge diese Grenzen über Berechtigungen in der verbundenen Software. Für folgenreiche Aktionen kann vorher eine Freigabe sinnvoll sein. Anweisungen sagen dem Modell, was du möchtest. Zugriffskontrollen legen fest, was es erreichen kann. Beziehe verbundene Dienste und ihre Zugangsschlüssel in die Prüfung ein. [81][78]
Frage: Welche Aktionen brauchen eine Freigabe, und wodurch wird sie erzwungen?
Halte nachvollziehbar fest, was passiert ist
Protokolliere relevante Eingaben, Antworten und Werkzeugaufrufe, ohne sensible Informationen preiszugeben. Diese Aufzeichnungen helfen, Probleme zu untersuchen. Schriftliche Denkschritte können zusätzliche Hinweise liefern, bilden die internen Berechnungen eines Modells aber nur unvollständig ab. In seinem Bericht vom März 2026 beschreibt OpenAI, wie es Denkschritte und Aktionen gemeinsam überwacht, und räumt Unsicherheit über übersehene Vorfälle ein. [79][73][84][85]
Frage: Welche Hinweise würden ein Problem sichtbar machen, wer prüft sie, und wie schnell kann diese Person reagieren?
Teste, was schiefgehen könnte
Ein Dokument oder eine Webseite kann Anweisungen enthalten, die das Modell vom eigentlichen Auftrag abbringen: Prompt-Injection. Teste die gesamte Anwendung mit Prüfungen von Ein- und Ausgaben, begrenzten Berechtigungen, einer Trennung von sensiblen Systemen und einem Plan für Vorfälle. Gib an, was jeder Test abgedeckt hat. Ein erfolgreiches Beispiel oder ein leeres Warnprotokoll lässt andere mögliche Fehler ungeprüft. [82][77][83][85]
Frage: Was wurde genau getestet, unter welchen Bedingungen, und welche Schlussfolgerung stützen diese Belege?
KI-Entwicklung und die Debatte darüber
Ausgewählte Meilensteine mit Quellen und Einschränkungen. Die Abstände zwischen den Einträgen stellen keine Zeitdauer dar.
Grundlagen und Bewertung
Turing fragt, wie man Gespräche mit Maschinen testen könnte
Alan Turing schlägt ein Imitationsspiel vor, um Fragen nach maschineller Intelligenz konkreter zu machen. [216]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
In Computing Machinery and Intelligence beschreibt Turing eine prüfende Person, die über schriftliche Nachrichten verborgene Teilnehmende befragt. Dann fragt er, was geschehen würde, wenn ein Computer den Platz einer teilnehmenden Person einnähme. Er behandelt auch lernende Computer. [216]
Was dieses Ergebnis nicht belegt
Dies ist ein vorgeschlagener Test und ein philosophisches Argument. Der Artikel berichtet nicht, dass ein Computer den Test bestanden hätte. Turing erörtert außerdem Einwände dagegen, mit diesem Spiel Denkfähigkeit zu prüfen. [216]
Forschende versammeln sich unter dem Namen künstliche Intelligenz
Das Dartmouth-Sommerprojekt bringt Forschende zusammen, um künstliche Intelligenz zu untersuchen. [217][218]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Der 1955 verfasste Vorschlag verwendet den Namen künstliche Intelligenz und formuliert Fragen zu Sprache, Lernen, neuronalen Netzen und Problemlösung. Dartmouths historische Darstellung datiert das Treffen auf den Sommer 1956. [217][218]
Was dieses Ergebnis nicht belegt
Der Vorschlag bezeichnet seine zentrale Idee als Vermutung: Aspekte von Intelligenz ließen sich so genau beschreiben, dass eine Maschine sie simulieren könne. Er legt eine Forschungsagenda fest, statt zu berichten, dies sei bereits erreicht. [217][218]
ELIZA erzeugt Antworten anhand geschriebener Regeln
Joseph Weizenbaum beschreibt ELIZA, ein Programm, das durch Umformen von Text auf getippte Gespräche reagiert. [219]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
ELIZA sucht nach Schlüsselwörtern, erkennt Muster und setzt anhand eines Skripts eine Antwort zusammen. Der Artikel erklärt, wie diese Regeln aus einem Satz über Unglücklichsein eine Rückfrage bilden können. [219]
Was dieses Ergebnis nicht belegt
Weizenbaum zeigt, wie diese Umformungen funktionieren können, ohne die Bedeutung des umgeformten Texts zu verstehen. Eine zum Gespräch passende Antwort kann einen irreführenden Eindruck davon erwecken, was das Programm weiß. [219]
Ein Lernverfahren passt die inneren Schichten eines neuronalen Netzes an
Rumelhart, Hinton und Williams zeigen, wie Backpropagation neuronalen Netzen helfen kann, nützliche innere Muster zu lernen. [220]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Das Verfahren geht von der Abweichung zwischen der gewünschten Antwort und der Antwort des Netzes rückwärts durch das Netz. Es berechnet, wie die Verbindungen im Inneren angepasst werden müssen. So können Zwischenschichten Merkmale lernen, die für eine Aufgabe nützlich sind. [220]
Was dieses Ergebnis nicht belegt
Das Verfahren braucht eine festgelegte Aufgabe und gewünschte Ausgaben zum Vergleich. Das Lernziel besteht darin, diese Abweichung zu verringern; den Zweck des Systems wählt das Verfahren nicht selbst. [220]
Deep Blue gewinnt die Schach-Revanche gegen Kasparov
IBMs Deep Blue besiegt den amtierenden Schachweltmeister Garry Kasparov in einem Wettkampf über sechs Partien. [221]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
IBM verzeichnet ein Ergebnis von 3,5–2,5 bei üblicher Turnierbedenkzeit. Das System verbindet eine schnelle Suche durch mögliche Schachstellungen mit schachspezifischer Bewertung, Datenbanken und Beratung durch Großmeister. [221]
Was dieses Ergebnis nicht belegt
Das Ergebnis misst die Schachleistung unter den Regeln des Wettkampfs. Der Computer und seine Vorbereitung waren auf diese Aufgabe ausgerichtet; Gespräche oder alltägliche Problemlösung wurden nicht getestet. [221]
Der ImageNet-Artikel stellt eine große Bildsammlung für das Training und die Prüfung von Bilderkennungssystemen vor. [222]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Forschenden sammeln Bilder aus dem Internet, ordnen sie mithilfe von WordNet, einem Verzeichnis von Wortbedeutungen, und lassen Menschen die Beschriftungen prüfen. Der Artikel von 2009 berichtet für die damals verfügbare Sammlung über 3,2 Millionen Bilder in 5.247 Kategorien. [222]
Was dieses Ergebnis nicht belegt
Die Sammlung befand sich noch im Aufbau. Der größte Teil der Analyse im Artikel konzentrierte sich auf Tier- und Fahrzeugkategorien; diese Ergebnisse beschreiben daher nicht jede Art von Bild oder Erkennungsaufgabe. [222]
Ein tiefes neuronales Netz verbessert die Bildklassifikation
Krizhevsky, Sutskever und Hinton berichten über einen siegreichen ImageNet-Wettbewerbsbeitrag mit tiefen neuronalen Netzen. [223]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Ihr Ansatz trainiert mit beschrifteten Bildern und nutzt Grafikprozessoren, kurz GPUs, um die Berechnungen zu beschleunigen. Das Netz lernt Bildmerkmale über mehrere Schichten, statt sich nur auf von Hand festgelegte Merkmale zu stützen. [223]
Was dieses Ergebnis nicht belegt
Der Wettbewerb verlangt die Zuordnung zu einer festen Auswahl von Bildkategorien. Die Autoren weisen auch darauf hin, dass selbst ImageNet die gesamte Vielfalt der Objekterkennung in der Welt nicht erfassen kann. [223]
DeepMinds AlphaGo gewinnt vier von fünf Partien gegen den Go-Spieler Lee Sedol. [224]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
DeepMind beschreibt ein System, das neuronale Netze mit einer Suche durch mögliche Züge verbindet. Es lernt zunächst aus Partien erfahrener Spieler und verbessert sich dann, indem es gegen Versionen seiner selbst spielt und aus den Ergebnissen lernt. [224]
Was dieses Ergebnis nicht belegt
Das Ergebnis betrifft das Brettspiel Go. Trainingsbeispiele, mögliche Züge und die Rückmeldung durch Sieg oder Niederlage sind auf diese Umgebung zugeschnitten; der Wettkampf prüfte kein unbegrenztes Spektrum menschlicher Aufgaben. [224]
Der Transformer bietet einen anderen Weg der Textverarbeitung
Attention Is All You Need stellt den Transformer vor, eine Bauweise neuronaler Netze, die verschiedene Teile eines Texts miteinander in Beziehung setzt. [70]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Seine Aufmerksamkeitsberechnungen ermöglichen dem Modell, Informationen von anderen Stellen einer Folge zu nutzen. Die Autoren berichten über bessere Übersetzungsergebnisse und einen Aufbau, der mehr parallele Berechnungen beim Training erlaubt. [70]
Was dieses Ergebnis nicht belegt
Die ursprünglichen Experimente betreffen Übersetzungen zwischen Englisch und Deutsch sowie Englisch und Französisch und eine Aufgabe zur Erkennung von Satzstrukturen. Sie belegen Ergebnisse für diese Aufgaben und Bedingungen, nicht für jede spätere Transformer-Anwendung. [70]
Eine Prüfung findet ungleich verteilte Fehler zwischen Gruppen
Joy Buolamwini und Timnit Gebru finden in drei kommerziellen Gesichtsanalyse-Systemen unterschiedliche Fehlerraten zwischen Gruppen nach Hauttyp und Geschlecht. [215]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Studie Gender Shades prüft Systeme, die Fotos Geschlechtskategorien zuordnen. Mit einem nach Geschlecht und Hauttyp ausgewogenen Datensatz finden die Forschenden die meisten Fehler bei Frauen mit dunklerer Haut. Die Studie betrachtet die Leistung für verschiedene Gruppen getrennt. [215]
Was dieses Ergebnis nicht belegt
Diese Ergebnisse betreffen drei Systeme und den Datensatz der Studie von 2018. Sie messen nicht jedes Gesichtsanalyse-System, spätere Versionen oder jeden Aspekt von Fairness. [215]
BERT lernt aus Text, bevor es an bestimmte Aufgaben angepasst wird
BERT nutzt den Text auf beiden Seiten eines Wortes, um Zahlenrepräsentationen von Text zu lernen, die sich für Sprachaufgaben anpassen lassen. [225]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Autoren trainieren ein Transformer-Modell mit Text und passen es anschließend an Aufgaben wie das Beantworten von Fragen an. Sie berichten über bessere Ergebnisse bei elf Aufgaben der Sprachverarbeitung. [225]
Was dieses Ergebnis nicht belegt
Die berichteten Aufgabenergebnisse beruhen auf zusätzlichem Training für jede Aufgabe. Die Fähigkeit von BERT, nützliche Textrepräsentationen zu lernen, ist etwas anderes als ein sofort nutzbarer Gesprächsassistent. [225]
RAG verbindet das Finden von Textstellen mit dem Schreiben einer Antwort
Ein Forschungsartikel verbindet einen Sprachgenerator mit einem System, das passende Wikipedia-Textstellen abruft. [99]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Autoren nennen den Ansatz Retrieval-Augmented Generation, kurz RAG. Beim Erzeugen einer Antwort nutzt ihr Modell sowohl das im Training Gelernte als auch Textstellen aus einem separaten Suchindex. [99]
Was dieses Ergebnis nicht belegt
Der Artikel berichtet über Verbesserungen in ausgewählten Tests, nicht über fehlerfreie Faktenwiedergabe. Die Autoren warnen, dass Wikipedia und andere externe Quellen Fehler und Verzerrungen enthalten können. [99]
GPT-3 bearbeitet Aufgaben anhand von Anweisungen und Beispielen
OpenAIs GPT-3-Artikel untersucht, wie ein großes Sprachmodell neue Aufgaben mit Beispielen in seiner Eingabe bearbeiten kann. [226]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Forschenden geben dem Modell Anweisungen und einige Textbeispiele, ohne seine gelernten Einstellungen für jede Aufgabe zu ändern. Sie berichten über Ergebnisse beim Übersetzen, Beantworten von Fragen und weiteren Sprachtests. [226]
Was dieses Ergebnis nicht belegt
Der Artikel benennt Aufgaben, bei denen dieser Ansatz weiterhin Schwierigkeiten hat. Er prüft auch Überschneidungen zwischen Trainingsdaten aus dem Internet und Testmaterial, kennzeichnet einige Ergebnisse als betroffen und findet bei den meisten untersuchten Tests nur geringe Auswirkungen. [226]
Menschliche Rückmeldungen helfen beim Lernen, Anweisungen zu befolgen
OpenAIs InstructGPT-Artikel beschreibt, wie Beispielantworten und Bewertungen von Menschen zur Anpassung eines Sprachmodells genutzt werden. [102]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Menschen zeigen zunächst gewünschte Antworten und ordnen dann alternative Modellausgaben nach ihrer Qualität. Die Forschenden nutzen diese Rückmeldungen für weiteres Training und berichten, dass ihre Prüfpersonen InstructGPT-Antworten denen des zugrunde liegenden GPT-3-Modells vorzogen. [102]
Was dieses Ergebnis nicht belegt
Dieses Ergebnis gilt für die Prüfpersonen und Eingaben der Studie. Laut dem Artikel macht InstructGPT weiterhin einfache Fehler; dass eine prüfende Person eine Antwort bevorzugt, belegt nicht deren Richtigkeit. [102]
HELM vergleicht mehr als die Genauigkeit von Antworten
Stanfords HELM-Projekt bewertet Sprachmodelle für mehrere Nutzungsarten und anhand verschiedener Maße, darunter Fairness und Effizienz. [101]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Forschenden verwenden gemeinsame Testbedingungen und untersuchen neben Genauigkeit auch Zuverlässigkeit, Verzerrungen, schädliche Sprache und andere Maße. Sie veröffentlichen Eingaben und Ausgaben, damit andere die Ergebnisse prüfen können. [101]
Was dieses Ergebnis nicht belegt
Die HELM-Autoren benennen ausdrücklich Lücken ihrer Tests, darunter unterrepräsentierte englische Dialekte und einige Maße für Vertrauenswürdigkeit. Auch eine breite Bewertung hat Grenzen. [101]
ChatGPT wird als öffentliche Gesprächsoberfläche zugänglich
OpenAI stellt ChatGPT als Forschungsvorschau vor, der Menschen im Gespräch Fragen stellen können. [227]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Die Ankündigung beschreibt ein Modell, das mit Beispielgesprächen und menschlichen Rückmeldungen trainiert wurde. Rückfragen werden Teil des Austauschs, statt jede Anfrage nur als einzelne Textvervollständigung zu behandeln. [227]
Was dieses Ergebnis nicht belegt
OpenAIs Ankündigung warnt vor überzeugenden, aber falschen Antworten, Empfindlichkeit gegenüber Formulierungen und übermäßiger Ausführlichkeit. Diese Einschränkungen werden für die 2022 vorgestellte Version genannt. [227]
Der GPT-4-Bericht beschreibt Bild- und Texteingaben
OpenAIs technischer Bericht zu GPT-4 beschreibt ein Modell, das Bilder und Text annimmt und Text ausgibt. [228]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Der Bericht stellt Tests dieses multimodalen Modells mit Sprachaufgaben, Bildern und Prüfungen vor. Er beschreibt die Vorhersage des nächsten Tokens und anschließendes weiteres Training mit menschlichen Rückmeldungen. [228]
Was dieses Ergebnis nicht belegt
OpenAI erklärt, dass das Modell in vielen realen Situationen weiterhin weniger leistungsfähig als Menschen ist. Der Bericht hält außerdem Details wie Modellgröße und Zusammenstellung der Trainingsdaten zurück. Das begrenzt, was Leser unabhängig nachvollziehen können. [228]
AlphaFold 3 sagt Strukturen wechselwirkender Moleküle voraus
Die Autoren von AlphaFold 3 beschreiben ein Modell, das vorhersagen soll, wie Proteine und andere biologische Moleküle zusammenpassen. [229]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Der Artikel behandelt Kombinationen aus Proteinen, DNA oder RNA und kleinen Molekülen. Die Forschenden berichten in ihren untersuchten Vergleichen über bessere Strukturvorhersagen als bei mehreren spezialisierten Werkzeugen. [229]
Was dieses Ergebnis nicht belegt
Der Artikel dokumentiert Fehler wie überlappende Atome und falsche Molekülgeometrie. Er beschreibt auch Grenzen bei der Darstellung verschiedener Formen, die ein Molekül annehmen kann. [229]
DeepSeeks R1-Artikel berichtet über belohnungsbasiertes Training zur Verbesserung der Leistung bei Tests für schlussfolgerndes Denken. [230]
Was sich änderte und wo die Grenzen liegen
Was sich änderte
Der Artikel vom Januar 2025 beschreibt R1-Zero und R1 mit unterschiedlichen Trainingsverfahren. R1 verbindet Beispieldaten mit bestärkendem Lernen. Das Team berichtet über Ergebnisse in Mathematik, Programmierung und weiteren Aufgaben sowie über das Training kleinerer Modelle mit von R1 erzeugten Beispielen. [230]
Was dieses Ergebnis nicht belegt
Dies sind die vom Team berichteten Ergebnisse. Derselbe Artikel erklärt, dass R1 bei einigen Aufgaben zur Werkzeugnutzung und über mehrere Gesprächsschritte hinter dem früheren V3-Modell zurückbleibt und Sprachen mischen oder auf bestimmte Eingaben schlecht reagieren kann. [230]
Vernor Vinge argumentiert in seinem Essay, dass eine dem Menschen überlegene Intelligenz den technischen Wandel und die Grenzen des Vorhersagbaren verändern könnte. [67]
2002–2003 · Existenzielle Risiken und fortgeschrittene KI
Bostrom entwickelt in verschiedenen Aufsätzen eine Einteilung existenzieller Risiken und behandelt Ziele fortgeschrittener KI, darunter das Büroklammerbeispiel. [65][59]
2006–2009 · Von Overcoming Bias zu LessWrong
LessWrongs eigene Geschichte beschreibt den Weg der Community vom Blog Overcoming Bias im Jahr 2006 zu einer eigenen Website im Jahr 2009. Die Sequences bildeten einen Ausgangspunkt. [49]
2010 · Der Streit um den Basilisken
Ein LessWrong-Nutzer namens Roko veröffentlicht das umstrittene Gedankenexperiment. Der Rückblick aus der Community beschreibt die Ablehnung des Arguments und ein anschließendes Verbot, darüber zu diskutieren. [52]
2011 · Effektiver Altruismus erhält seinen Namen
Die Einführung in EA führt die Entstehung des Begriffs auf die Namenssuche für das Centre for Effective Altruism in Oxford zurück. Das Projekt umfasst mehrere Anliegen, nicht nur KI. [24]
2016–2019 · Konkretere Fragen zur Sicherheit
Concrete Problems in AI Safety untersucht 2016 Unfallrisiken. Die Forschungsarbeit zur gelernten Optimierung von 2019 führt Mesa-Optimierung als Forschungsfrage ein. [62][61]
2022 · e/acc stellt seine Sichtweise vor
Der e/acc-Newsletter veröffentlicht seine auf Wachstum ausgerichtete Selbstbeschreibung und erneut die frühen Grundsätze gegen eine zentral gesteuerte Verlangsamung. [25][26]
2023 · Vorschläge für Pausen und Beschleunigung
Der offene Brief des FLI fordert eine sechsmonatige Pause bei der Entwicklung der leistungsfähigsten KI. Später im selben Jahr stellt Buterins Essay zum Techno-Optimismus d/acc als gezielten, auf Schutz ausgerichteten Ansatz vor. [69][28]
2025–2026 · Vorschläge entwickeln sich weiter
Buterin greift d/acc im Januar 2025 erneut auf. PauseAIs Vorschlag vom April 2026 formuliert internationale Bedingungen für Sicherheit und demokratische Kontrolle. [29][31]
Verbindungen zwischen Ideen
lesswrong ↔ ea (Einordnung)
Das eine ist eine Diskussionsgemeinschaft, das andere ein Projekt, das wirksame Wege sucht, anderen zu helfen. Das gemeinsame Interesse am vernünftigen Denken macht sie nicht zur selben Institution oder Philosophie. [50][24]
ea ↔ longtermism (Zusammenfassung)
EA umfasst Anliegen wie Gesundheit, Tiere und katastrophale Risiken. Longtermismus legt einen besonderen Schwerpunkt auf künftige Generationen. [24][30]
basilisk ↔ decision-theory (Einordnung)
Der Basilisk versucht, aus ungewöhnlichen Annahmen der Entscheidungstheorie ein Argument über künftige Drohungen abzuleiten. Die formalen Theorien selbst belegen dieses Szenario nicht. [53][54]
eacc ↔ dacc (Zusammenfassung)
Beide sprechen vom Bauen und vom Fortschritt. Buterins d/acc macht Schutzwirkung und die Verteilung von Macht zu ausdrücklichen Kriterien dafür, welche Technologien vorangetrieben werden sollen. [25][29]
orthogonality ↔ convergence (Zusammenfassung)
Unterschiedliche Endziele können mit ähnlichen nützlichen Zwischenzielen einhergehen. Die beiden Thesen ergänzen sich, statt sich zu widersprechen. [60]
ai-ethics ↔ xrisk (Einordnung)
Rechte und heutige Schäden einerseits sowie langfristige Katastrophen andererseits sind verschiedene Arten von Anliegen. Diese Karte kann sie nicht zu einem einzigen Risikowert zusammenfassen. [66][65]
training ↔ inference (Zusammenfassung)
Beim Training werden gelernte Einstellungen angepasst. Bei der Inferenz nutzt man das trainierte Modell, um eine Ausgabe zu erzeugen. Das sind verschiedene Phasen der Arbeit mit einem Modell. [90][87]
prompt ↔ fine-tuning (Zusammenfassung)
Ein Prompt liefert Anweisungen und Beispiele als Eingabe. Fine-Tuning verändert gelernte Parameter durch zusätzliches Training. [92]
rag ↔ hallucination (Zusammenfassung)
Das Abrufen von Informationen liefert Material, das eine Antwort stützen kann. Prüfe die erzeugten Aussagen anhand dieses Materials. Quellen bereitzustellen prüft für sich genommen noch nicht das Ergebnis. [99][83]
tools ↔ agents (Zusammenfassung)
Werkzeuge stellen Funktionen bereit, die eine Anwendung ausführen kann. Ein Agent kann mit einem Modell Schritte auswählen und wiederholen, die diese Werkzeuge nutzen. Dabei gelten die Zugriffskontrollen der Anwendung. [97][81]
alignment ↔ safety (Zusammenfassung)
Alignment betrifft das beabsichtigte Verhalten und die Ziele. Sicherheit erfordert außerdem, Schäden, Fehler und die Umgebung zu untersuchen, in der ein System eingesetzt wird. [102][62][77]
chatbot ↔ llm (Zusammenfassung)
Der Chatbot ist die Anwendung, mit der du dich unterhältst. Ein Sprachmodell kann seine Antworten erzeugen, während die umgebende Software den Kontext und die Werkzeuge verwaltet. [109][97]
ai-governance ↔ eu-ai-act (Zusammenfassung)
Governance umfasst viele Wege, Verantwortung und Aufsicht zu regeln. Die EU-KI-Verordnung ist ein rechtlicher Rahmen innerhalb dieses größeren Themas. [106][114]
understanding ↔ grounding (Einordnung)
Die Debatte über Form und Bedeutung fragt danach, wie Sprache mit dem verbunden ist, worauf sie sich bezieht. [120]
anthropomorphism ↔ agents (Einordnung)
Ein Agent kann die Erlaubnis haben, Werkzeuge zu nutzen. Menschenähnliche Formulierungen belegen keine menschlichen Gefühle und nehmen den Betreibern nicht ihre Verantwortung. [123]
evaluation ↔ benchmark (Zusammenfassung)
Evaluation ist der umfassendere Prozess, mit dem ein System geprüft wird. Ein Benchmark ist ein wiederverwendbarer Test innerhalb dieses Prozesses. [101]
Ein Reasoning-Modell kann Zwischenschritte erzeugen. Diese können bei einer Aufgabe helfen, ohne zuverlässig zu erklären, wie die Antwort zustande kam. [104][154][124]
Lesepfade
Die Debatte verstehen
Ein kurzer Weg durch die wichtigsten Positionen und ethischen Ideen. Redaktioneller Lesevorschlag.
Was wir gelesen haben: Der Artikel des Verlags, einschließlich der Abschnitte Key Facts und Trump Dismisses AI Concerns. Der Originaltext aus sozialen Medien wurde nicht unabhängig abgerufen.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
In dieser Quelle erwähnte Originalbeiträge
Diese Links helfen dabei, die Berichterstattung nachzuvollziehen. Der Originaltext wurde nicht unabhängig abgerufen. Es handelt sich nicht um zusätzliche verifizierte Quellen.
Original nicht abgerufen · Abruf geprüft 2026-09-15
Die verlinkte Truth-Social-Seite zeigte einen JavaScript-Hinweis ohne Beitragstext. Gelesen wurde die Berichterstattung.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Original nicht abgerufen · Abruf geprüft 2026-09-15
Die verlinkte Truth-Social-Seite zeigte einen JavaScript-Hinweis ohne Beitragstext. Gelesen wurde die Berichterstattung.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Der zugängliche Artikel des Herausgebers wurde gelesen, einschließlich „Key Facts“ und „Trump Dismisses AI Concerns“; der Abruf leitete auf tollbit.forbes.com weiter. Er verlinkt die Truth-Social-Beiträge 117270591511950591 und 117269745153543631 vom 14. September. Die Originalseiten lieferten nur eine JavaScript-Hülle oder eine Browser-Sicherheitsprüfung; der Originaltext wurde nicht unabhängig abgerufen. Aussagen von Vance und Aussagen der Reporter über andere Personen werden Trump nicht zugeschrieben. Der Titel unterscheidet sich zwischen indexierter und abgerufener Fassung.
Was wir gelesen haben: Der AFP-Bericht über die Aussagen; die Originalbeiträge aus sozialen Medien wurden nicht gelesen.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
AFPs eigener Artikel vom 14. September wurde gelesen; angezeigt wird 23:36 ohne Zeitzone. Verwendet für zugeordnete Aussagen zu katastrophalen KI-Risiken und Schutzauflagen, nicht als direkte Prüfung von Truth-Social-Beiträgen oder als unabhängiger Beleg für sämtliche Kontextaussagen des Artikels.
Die unterzeichnete Executive Order, Abschnitte 1–5, wurde direkt auf der Website des Weißen Hauses gelesen. Sie belegt die erklärte Politik und Anweisungen, nicht unabhängig deren abgeschlossene Umsetzung, Sicherheitswirkung, aktuellen Rechtsstatus oder Trumps private Überzeugungen. Das freiwillige Modellprüfverfahren ist etwas anderes als eine branchenweite Trainingspause.
Die Erörterung des Ausbaus und der Abschnitt zu Grok und KI-Ausrichtung bei 00:36:46–00:59:56 im Transkript des Herausgebers wurden gelesen. Dies sind Musks Aussagen und Pläne, keine überprüften technischen Ergebnisse oder Nachweise einer sicheren Ausrichtung.
musk-lex-2023 · Quelle aus erster Hand Elon Musk interview #400 — transcript Lex Fridman Podcast · Veröffentlicht 2023-11-10 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Passage 01:23:13–01:29:39 zu Ausbau, verzögerter offener Veröffentlichung und Musks Darstellung von Sicherheitskonflikten wurde gelesen. Historischer Selbstbericht; Behauptungen über die Motive anderer Menschen werden nicht übernommen.
thiel-tyler-2024 · Quelle aus erster Hand Peter Thiel on Political Theology (Ep. 210) Conversations with Tyler / Mercatus Center · Veröffentlicht 2024-04-17 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Transkript des Herausgebers, aufgezeichnet am 21. Februar 2024. Gelesen wurden die Erörterung existenzieller Risiken und Publikumsfragen zum Stoppen von KI, zu Open Source und zum Ersatz von Arbeitskräften. Politische Wertungen werden Thiel zugeschrieben.
Das Transkript des Herausgebers wurde gelesen, einschließlich des Gesprächs über Skylla und Charybdis. Die Seite nennt den 8. Oktober 2024 als Aufnahmedatum, aber kein verlässliches Veröffentlichungsdatum. Das Aufnahmedatum wird nicht als Veröffentlichungsdatum verwendet. Seine theologische Deutung ist spekulativ.
Die KI-Passagen des redigierten Interviews wurden gelesen: Wachstum, konzentrierte Erträge, Ersatz von Arbeitskräften und Skepsis gegenüber der Bezeichnung. Das Interview belegt seine erklärte Sichtweise, nicht deren wirtschaftliche Vorhersagen.
thiel-spectator-2026 · Bericht oder indirekt erhaltene Kopie Can Peter Thiel stop the Antichrist? The Spectator / Lara Brown and John Power · Veröffentlicht 2026-02-07 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Bericht der Reporter über Thiels Cambridge-Vortrag in der Ausgabe vom 7. Februar wurde gelesen. Er stützt die Kontinuität seiner politisch-theologischen Sorge; ein vollständiges Vortragstranskript wurde nicht abgerufen.
amodei-pacing · Quelle aus erster Hand We Must Pace the Frontier Dario Amodei · Veröffentlicht 2026-09 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Essay selbst nennt den Monat. Der Veröffentlichungstag 12. September wird durch die Presseübersicht vom 14. September bestätigt. Ein Vorschlag und eine Zusage sind keine unabhängige Prüfung der Umsetzung.
Was wir gelesen haben: Die Berichterstattung des Artikels über Altman, Hassabis, Musk und LeCun einschließlich der Links zu ihren Beiträgen. Der Originaltext der Beiträge wurde nicht unabhängig abgerufen.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
In dieser Quelle erwähnte Originalbeiträge
Diese Links helfen dabei, die Berichterstattung nachzuvollziehen. Der Originaltext wurde nicht unabhängig abgerufen. Es handelt sich nicht um zusätzliche verifizierte Quellen.
Original nicht abgerufen · Abruf geprüft 2026-09-15
Die verlinkte X-Seite lieferte HTTP 403. Gelesen wurde die Berichterstattung; der Originaltext wurde nicht unabhängig abgerufen.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Original nicht abgerufen · Abruf geprüft 2026-09-15
Die verlinkte X-Seite lieferte HTTP 403. Gelesen wurde die Berichterstattung; der Originaltext wurde nicht unabhängig abgerufen.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Original nicht abgerufen · Abruf geprüft 2026-09-15
Die verlinkte X-Seite lieferte HTTP 403. Gelesen wurde die Berichterstattung; der Originaltext wurde nicht unabhängig abgerufen.
Keine Archivprüfung dokumentiert.
Der Artikel wurde gelesen. Verlinkte X-Beiträge konnten nicht unabhängig abgerufen werden. Ihr Inhalt wird daher als berichtet und nicht als direkt geprüft behandelt.
Enthält den Vorschlag eines Standardisierungsgremiums, das bei Bedarf eine Verlangsamung koordinieren könnte.
deepmind-framework · Quelle aus erster Hand Strengthening our Frontier Safety Framework Google DeepMind · Veröffentlicht 2025-09-22 · Aktualisiert 2026-04-17 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Artikel enthält eine Aktualisierung vom April 2026. Ein veröffentlichtes Rahmenwerk belegt die erklärte Politik, keine Schätzung einer Katastrophenwahrscheinlichkeit.
Der HTML-Artikel beschreibt Bereiche katastrophaler Risiken und Schutzmaßnahmen für Veröffentlichungen. Eine Katastrophenwahrscheinlichkeit wird nicht abgeleitet.
andreessen-manifesto · Quelle aus erster Hand The Techno-Optimist Manifesto Andreessen Horowitz / Marc Andreessen · Veröffentlicht 2023-10-16 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Manifest und Seitenende wurden gelesen. Der Hinweis am Seitenende ordnet Beiträge ausdrücklich einzelnen Mitarbeitenden zu und schließt die Ansichten von a16z Capital Management und verbundenen Unternehmen aus. Historische persönliche Interessenvertretung, kein institutioneller Beleg.
Was wir gelesen haben: Die Ankündigung der Argumentation durch eine den Autoren verbundene Organisation; das Buch selbst wurde nicht gelesen.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Eine Ankündigung des Verlags oder einer verbundenen Organisation zum Argument der Autoren, kein empirischer Nachweis, dass das Aussterben sicher ist.
miri-position · Quelle aus erster Hand Our view Machine Intelligence Research Institute · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Undatierte, am Prüftag abgerufene institutionelle Position. Als Kontext verwendet, nicht als Ersatz für individuelle Urheberschaft.
pauseai-proposal · Quelle aus erster Hand PauseAI Proposal PauseAI · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Ein Vorschlag für eine internationale Pause. Die Seite ist undatiert; checkedOn ist kein Veröffentlichungsdatum.
superintelligence-statement · Quelle aus erster Hand Statement on Superintelligence Future of Life Institute · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Text der Erklärung war zugänglich. Die dynamische Liste der Unterzeichner war im abgerufenen Text nicht enthalten; Bengios Unterschrift wird gesondert bestätigt.
Was wir gelesen haben: Das veröffentlichte Interviewtranskript. Fehler bei der Verschriftlichung sind möglich.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Interviewtranskript in eigenen Worten. Der Herausgeber weist auf mögliche Transkriptionsfehler hin. Die aktuelle Ablehnung des Essays zum Entwicklungstempo wird gesondert berichtet.
ea-definition · Quelle aus erster Hand What is effective altruism? Effective Altruism · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definition einer Philosophie und Gemeinschaft, keine Position auf der KI-Karte.
eacc-definition · Quelle aus erster Hand what the f* is e/acc e/acc newsletter · Veröffentlicht 2022-12-26 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Selbstbeschreibung der Bewegung. Teilnehmende müssen keine einheitliche Risikoeinschätzung teilen.
eacc-tenets · Quelle aus erster Hand Notes on e/acc principles and tenets e/acc newsletter / BasedBeffJezos and bayeslord · Veröffentlicht 2022-10-31 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Das Datum gehört zur erneuten Veröffentlichung. Gelesen als eigene philosophische Aussagen einer Bewegung, nicht als unabhängige wissenschaftliche Bestätigung. Enthält die abwertende Verwendung von „decel“.
Die Abschnitte zu AI doomers und effektivem Altruismus wurden als Beispiele umstrittener Begriffe gelesen. Die Beschreibung von Gegnern durch einen Befürworter ist keine neutrale Definition ihrer Ansichten. Das Transkript kann Fehler enthalten.
dacc-original · Quelle aus erster Hand My techno-optimism Vitalik Buterin · Veröffentlicht 2023-11-27 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Über die eth.limo-Seite des Autors gelesen, da vitalik.ca nicht geladen wurde. Führt eine auf Verteidigung, unterschiedliche Entwicklungsrichtungen und Dezentralisierung ausgerichtete Beschleunigung ein. Verwendet für die Ideen, nicht für eine neue Kartenposition des Autors.
dacc-update · Quelle aus erster Hand d/acc: one year later Vitalik Buterin · Veröffentlicht 2025-01-05 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definition und Abgrenzungen wurden gelesen: defensive Entwicklung in Verbindung mit verteilter und demokratischer Kontrolle. Hypothetische Zukunftsbeispiele sind keine beobachteten Ergebnisse.
longtermism-definition · Quelle aus erster Hand Longtermism William MacAskill · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Darstellung eines Befürworters zur moralischen Bedeutung zukünftiger Menschen. Die Seite ist undatiert; das Veröffentlichungsdatum des Buchs wird nicht als Datum der Seite verwendet.
pauseai-proposal-2026 · Quelle aus erster Hand PauseAI Proposal (April 2026 version) PauseAI · Veröffentlicht 2026-04-05 · Material zuletzt gelesen 2026-09-15
Was wir gelesen haben: Der Vorschlag vom April 2026, einschließlich seiner Bedingungen für eine Pause, Trainingsgenehmigungen und demokratische Kontrolle.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Die Fassung vom 5. April 2026 wurde gelesen, einschließlich weltweiter Pause, Trainingsgenehmigungen und Bedingungen für demokratische Kontrolle. Verwendet für den veröffentlichten Vorschlag der Bewegung und die Terminologie; ihre Vorhersagen werden als Aussagen der Interessenvertretung zugeordnet.
cais-risk · Quelle aus erster Hand Statement on AI Extinction Risk Center for AI Safety · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Erklärung wurde nach der Weiterleitung von safe.ai gelesen. Sie belegt das Eintreten dafür, Aussterberisiken als Priorität zu behandeln, nicht die Gewissheit einer Katastrophe oder eine gemeinsame zahlenmäßige Wahrscheinlichkeit. Neue Aussagen über Unterzeichner werden nicht abgeleitet.
anthropic-rsp-3-4 · Quelle aus erster Hand Responsible Scaling Policy, version 3.4 Anthropic · Veröffentlicht 2026-07-08 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Einleitung, Anforderungen an Risikoberichte, Bestimmungen zu externen Prüfungen und Anhang A wurden gelesen. Der 8. Juli ist das genannte Inkrafttretensdatum. Die Quelle trennt Unternehmenszusagen von Branchenempfehlungen; dies ist keine Prüfung der Umsetzung.
bengio-lawzero-2025 · Quelle aus erster Hand Introducing LawZero Yoshua Bengio · Veröffentlicht 2025-06-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Ankündigung des Autors wurde gelesen, einschließlich seiner Sorgen über Kontrollverlust. Sie beschreibt sein Argument und seine Forschungsziele, keinen Nachweis, dass der vorgeschlagene Ansatz sicher ist.
extreme-ai-risks-2024 · Quelle aus erster Hand Managing extreme AI risks amid rapid progress (version 3) Yoshua Bengio, Geoffrey Hinton, Stuart Russell and coauthors / arXiv · Veröffentlicht 2023-10-26 · Aktualisiert 2024-05-22 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Autorenliste, Risiken im gesellschaftlichen Maßstab und Abschnitte zu Steuerung und Risikominderung der Version 3 wurden gelesen. Gemeinsame Autorschaft stützt einen gemeinsamen Vorschlag, keine identischen persönlichen Überzeugungen oder eine heutige Prognose.
Zusammenfassung und Erörterung von Kontrollrisiken wurden gelesen. Das Dokument ist auf den 6. Dezember datiert und greift eine frühere Stellungnahme vom Juli auf; das Julidatum ist nicht das Datum dieses Dokuments.
hinton-gzero-2025 · Bericht oder indirekt erhaltene Kopie The human cost of AI, with Geoffrey Hinton GZERO Media · Veröffentlicht 2025-12-06 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Zusammenfassung des Interviewherausgebers und das zugeordnete Zitat zum Kontrollrisiko wurden gelesen. Die vollständige Tonaufnahme oder das vollständige Transkript wurde nicht geprüft; dieser Eintrag ist Berichterstattung, keine direkte Bestätigung jeder Interviewaussage.
Nur die Kurzfassung der Zeitschrift und die Veröffentlichungsangaben wurden gelesen; der Volltextabruf scheiterte. Verwendet für die Empfehlung der Autoren, klar definierte Aufgaben zu untersuchen. Ihre weitergehende historische These wird nicht als Ergebnis des Atlas übernommen.
Die Folien der Autorin wurden gelesen, besonders der Anfang und die Folien 25–33 zu Prüfung, Rechten und Lehre. Der 16. April ist das auf den Folien gedruckte Vortragsdatum. Die Quelle belegt keine Politik zum Training der leistungsfähigsten KI.
Alle drei Seiten der am 19. Dezember 2024 vorgetragenen Unterrichtung wurden gelesen. Ihre Fußnote erklärt ausdrücklich, dass die Ansichten persönlich sind und nicht die verbundenen Organisationen vertreten.
whittaker-ndss-2024 · Quelle aus erster Hand AI, Encryption, and the Sins of the 90s Meredith Whittaker / Signal · Veröffentlicht 2024-02-27 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Argumente des Hauptvortrags zu KI, unternehmerischer Überwachung und abschließend zur Privatsphäre wurden gelesen, Seiten 1–3 und 10–14. Das Datum ist das Rededatum. Verwendet als ihr Argument, nicht als Beweis dafür, dass sämtliche KI-Systeme dasselbe Geschäftsmodell haben.
eu-ai-office-overview · Quelle aus erster Hand European AI Office European Commission · Veröffentlicht ohne Datum · Aktualisiert 2026-09-08 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Auftrag, Durchsetzungsaufgaben und Innovationsrolle des Büros wurden gelesen. Die Seite nennt ein letztes Aktualisierungsdatum, kein ursprüngliches Veröffentlichungsdatum. Sie beschreibt einen institutionellen Auftrag, keine Katastrophenwahrscheinlichkeit.
uk-aisi-agenda · Quelle aus erster Hand AISI Research Agenda UK AI Security Institute · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Forschungsüberblick und der Abschnitt „Autonomous Systems“ zu katastrophalen Schäden und Kontrollverlust wurden gelesen. Ein verlässliches Veröffentlichungsdatum war nicht zugänglich. Forschungsschwerpunkte allein belegen kein bevorzugtes Entwicklungstempo.
Die Ankündigung der Namensänderung und ihres Schwerpunkts auf Sicherheitsforschung wurde gelesen. Eine staatliche Wachstumsagenda ist nicht automatisch die eigene Position des Instituts zum Entwicklungstempo führender KI.
deepseek-r1-release · Quelle aus erster Hand DeepSeek-R1 Release DeepSeek · Veröffentlicht 2025-01-20 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Veröffentlichungsankündigung und Beschreibungen des Modellzugangs wurden gelesen. Produktverfügbarkeit und Aussagen zu Testergebnissen belegen keine institutionelle Haltung zu katastrophalen KI-Risiken.
Das archivierte Redetranskript wurde gelesen, einschließlich der abschließenden Anerkennung von Sicherheitsbedenken. Originaltext der Rede in einem Universitätsarchiv; Aussagen über Wettbewerber oder Regulierungen werden als Argumente des Redners zugeordnet.
altman-governance-2023 · Quelle aus erster Hand Governance of superintelligence Sam Altman, Greg Brockman and Ilya Sutskever / OpenAI · Veröffentlicht 2023-05-22 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der gemeinsam verfasste Artikel zu Grenzen des Leistungswachstums führender KI, existenziellen Risiken und Ausnahmen für weniger leistungsfähige Systeme wurde gelesen. Historischer Vorschlag, kein Beleg für eine umgesetzte Grenze.
Nur die Folgenbeschreibung des Herausgebers wurde gelesen. Sie beschreibt das Eintreten für KI-Wachstum und Sorge über politische Hindernisse; ein vollständiges Transkript war nicht zugänglich. Der 29. Juni ist das Veröffentlichungsdatum des Podcasts, nicht das Veranstaltungsdatum am 25. Juni.
lw-history · Quelle aus erster Hand A Brief History of LessWrong LessWrong / Ruby · Veröffentlicht 2019-06-01 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der eigene Rückblick der Website wurde gelesen: Overcoming Bias 2006, LessWrong 2009 und die Sequences. Eine interne Darstellung der Gemeinschaft, keine unabhängige Geschichtsschreibung.
lw-welcome · Quelle aus erster Hand Welcome to LessWrong! LessWrong · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Einführung der Website und die angestrebte Praxis des Schlussfolgerns wurden gelesen. Eine Selbstbeschreibung bestätigt weder die Genauigkeit der Teilnehmenden noch gemeinsame Überzeugungen.
lw-rationality · Quelle aus erster Hand What Do We Mean By Rationality? LessWrong / Eliezer Yudkowsky · Veröffentlicht 2009-03-16 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Unterscheidung zwischen erkenntnisbezogener und handlungsbezogener Rationalität sowie die Erörterung bayesschen Denkens wurden gelesen. Eine vorgeschlagene Praxis, keine nachgewiesene Eigenschaft der Teilnehmenden.
basilisk-history · Quelle aus erster Hand Roko's Basilisk LessWrong community wiki · Veröffentlicht ohne Datum · Aktualisiert 2022-11-30 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Rückblick der Gemeinschaft, Einwände und Darstellung der Moderation wurden gelesen. Der ursprüngliche gelöschte Beitrag wurde nicht unabhängig abgerufen. Historische Aussagen werden dieser Darstellung zugeschrieben.
Die Antwort der Gemeinschaft und zitierte Einwände wurden beim ersten Abruf gelesen; ein späterer Abruf scheiterte durch Zeitüberschreitung. Verwendet für umstrittene Annahmen, nicht als Beweis über hypothetische Agenten. Das genaue Veröffentlichungsdatum wurde nicht unabhängig festgestellt.
tdt-paper · Quelle aus erster Hand Timeless Decision Theory Eliezer Yudkowsky / MIRI · Veröffentlicht 2010 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Kurzfassung und einleitende Erörterung des Newcomb-Problems wurden gelesen. Das Jahr folgt der Zitierangabe des Artikels. Vorgeschlagenes Rahmenwerk und formale Beispiele, keine experimentell gesicherte Regel.
Die Kurzfassung der Autoren und MIRIs Einführung vom 22. Oktober 2017 wurden gelesen. Vorteile werden für bestimmte Entscheidungsprobleme beansprucht.
simulation-paper · Quelle aus erster Hand Are You Living in a Computer Simulation? Nick Bostrom / Philosophical Quarterly · Veröffentlicht 2003 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Kurzfassung und Einleitung wurden gelesen. Das Veröffentlichungsjahr unterscheidet sich vom ersten Entwurf von 2001. Ein philosophisches Argument unter Bedingungen, kein Nachweis, dass unsere Welt simuliert ist.
Zusammenfassung, Tabelle 1 und Erörterung der Autonomie gelesen. Vorgeschlagene Unterscheidungen zwischen Breite, Leistung und Autonomie; keine Einstufung aktueller Modelle übernommen.
Die vorausschauende Erörterung von Superintelligenz und Büroklammerzielen wurde gelesen. Philosophische Szenarien, keine Beobachtungen heutiger Systeme.
Kurzfassung und Formulierungen zu Orthogonalität und instrumenteller Konvergenz wurden gelesen. Theoretische Thesen mit Einschränkungen, keine gemessenen Ergebnisse eines lernenden Systems.
Kurzfassung und Überarbeitungsverlauf wurden gelesen; sie führen Mesa-Optimierung und das Verhältnis zwischen gelernten Zielen und Trainingszielen ein.
concrete-safety · Quelle aus erster Hand Concrete Problems in AI Safety Dario Amodei and coauthors / arXiv · Veröffentlicht 2016-06-21 · Aktualisiert 2016-07-25 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die fünf Probleme unbeabsichtigter Risiken in der Kurzfassung wurden gelesen, darunter das Ausnutzen von Belohnungsregeln und veränderte Datenverteilungen. Die Quelle nennt keine allgemeine Katastrophenwahrscheinlichkeit.
goodhart-paper · Quelle aus erster Hand Categorizing Variants of Goodhart's Law David Manheim and Scott Garrabrant / arXiv · Veröffentlicht 2018-03-13 · Aktualisiert 2019-02-24 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Kurzfassung zur Unterscheidung verschiedener Mechanismen übermäßiger Optimierung wurde gelesen. Eine Einteilung, keine Behauptung, dass jede Kennzahl versagt.
transhumanism-declaration · Quelle aus erster Hand The Transhumanist Declaration Humanity+ · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Bekenntnisse der Erklärung zu menschlicher Verbesserung, Risikominderung und Wahlfreiheit wurden gelesen. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
Die Definition zur Abgrenzung existenzieller von anderen Risiken wurde gelesen. Sie belegt nicht die Wahrscheinlichkeit eines bestimmten Szenarios.
unesco-ethics · Quelle aus erster Hand Ethics of Artificial Intelligence UNESCO · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Überblick zu Rechten, Würde, Fairness und Aufsicht wurde gelesen. Das Datum der Annahme der Empfehlung wird nicht als Datum der aktuellen Seite verwendet.
vinge-singularity · Quelle aus erster Hand Technological Singularity Vernor Vinge / Carnegie Mellon University archive · Veröffentlicht 1993 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Essay des Autors wurde über das wissenschaftliche Archiv gelesen, nachdem der NASA-Abruf scheiterte. Spekulative Szenarien und historische Vorhersagen, kein nachgewiesener Entwicklungsverlauf.
utilitarianism-intro · Quelle aus erster Hand Introduction to Utilitarianism Utilitarianism.net · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Eine von einem Befürworter verfasste philosophische Einführung wurde gelesen. Sie definiert die Sichtweise, belegt aber weder ihre Richtigkeit noch ihre allgemeine Übernahme durch effektive Altruisten.
pause-letter-2023 · Quelle aus erster Hand Pause Giant AI Experiments: An Open Letter Future of Life Institute · Veröffentlicht 2023-03-22 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Forderung nach einer sechsmonatigen Pause für Systeme, die leistungsfähiger als GPT-4 sind, wurde gelesen. Ein historischer Meilenstein der Interessenvertretung, kein Beleg für einen umgesetzten Stopp.
transformer-paper · Quelle aus erster Hand Attention Is All You Need Ashish Vaswani and coauthors / arXiv · Veröffentlicht 2017-06-12 · Aktualisiert 2023-08-02 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Kurzfassung, Modellarchitektur, gelernte Einbettungen und Wahrscheinlichkeiten des nächsten Tokens wurden im HTML-Artikel gelesen; Veröffentlichungs- und Überarbeitungsdaten wurden mit der arXiv-Kurzfassungsseite abgeglichen. Beschrieben ist die ursprüngliche Transformer-Architektur, nicht die Behauptung, jedes heutige LLM habe genau diesen Aufbau.
hf-generation · Quelle aus erster Hand Generation strategies Hugging Face Transformers documentation · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Abschnitte zu Greedy Search, multinomialer Stichprobenziehung und zur eigenen Generierungsschleife wurden gelesen, die Modellwerte vor der Wahrscheinlichkeitsumrechnung von der Tokenauswahl trennt. Verwendet zur Erklärung von Auswahlverfahren; Bibliotheksvorgaben belegen nicht das Verhalten jedes angebotenen Chatbots. Die aktuelle Seite nennt kein Veröffentlichungsdatum.
pytorch-reproducibility · Quelle aus erster Hand Reproducibility PyTorch documentation · Veröffentlicht 2026-05-14 · Aktualisiert 2026-05-14 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die von der stabilen Dokumentation aus erreichte versionierte Seite wurde gelesen: Grenzen zwischen Versionen und Plattformen, Zufallsstartwerte und deterministische Algorithmen. Die Daten folgen den angezeigten Feldern „Created On“ und „Last Updated On“, nicht der historischen Erstveröffentlichung von PyTorchs Hinweisen zur Reproduzierbarkeit. Dies sind Bedingungen des Softwareframeworks, keine Messungen eines bestimmten Chatbot-Dienstes.
Einleitung, Methodenüberblick und Einschränkungen wurden gelesen, darunter Rekonstruktionsfehler, komplexe Graphen, globale Schaltkreise und die Genauigkeit der mechanistischen Erklärung. Die Ersatzmodell-Analysen der Autoren zeigen ausgewählte Mechanismen; sie erklären nicht das gesamte Verhalten vollständig. Spätere Forschung zur Nachverfolgung von Aufmerksamkeit wird daneben zitiert, damit die hier fehlende Aufmerksamkeitserfassung nicht als dauerhafte Grenze des gesamten Forschungsfelds erscheint.
Der direkte Abruf mit dem Browserwerkzeug scheiterte; das ursprüngliche HTML des Herausgebers wurde erfolgreich abgerufen. Gelesen wurden Einleitung, Zusammenfassungen der Fallstudien, QK-Zuordnungsmethode, die Einschränkung bei hemmenden Effekten und Abwägungen beim Aufbau der Graphen. Erweitert frühere Zuordnungsgraphen um Aufmerksamkeit; die Ergebnisse sind ausgewählte Studien mit offenen Fragen, keine vollständige Modellerklärung.
LLM-Definition, Ablauf der Codeerzeugung, Vorbehalte zu erzeugten Tests, Grenzen durch fehlerhaften Code sowie Hinweise zu Prüfung und Tests wurden gelesen. Herstellerdokumentation belegt vorgesehene Nutzung und eingeräumte Grenzen, keine unabhängig gemessenen Genauigkeitsraten. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
weather-uncertainty · Quelle aus erster Hand Quantifying forecast uncertainty European Centre for Medium-Range Weather Forecasts · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Erklärung von Vorhersageunsicherheit, Unsicherheit der Anfangsbedingungen und Näherungen numerischer Modelle wurde gelesen. Nur für die Wetterseite einer ausdrücklich redaktionellen Analogie zitiert; die Quelle liefert keine Belege dafür, dass LLMs meteorologische oder chaotische Systeme sind. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
ncsc-secure-ai · Quelle aus erster Hand Guidelines for secure AI system development UK National Cyber Security Centre and international partners · Veröffentlicht 2023-11-27 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Aufbau entlang des Lebenszyklus wurden gelesen. Die Anleitung behandelt vollständige KI-Systeme und empfiehlt Sicherheit über Entwurf, Entwicklung, Bereitstellung und Betrieb hinweg. Empfehlungen sind kein Beleg für die Umsetzung durch eine Organisation.
Bedrohungsmodellierung, Aufgabeneignung, Modellauswahl, beschränkte Aktionen und minimale Berechtigungen wurden gelesen. Das Datum folgt der übergeordneten Richtlinienveröffentlichung. Verwendet für Gestaltungsprinzipien, nicht als Bescheinigung, dass eine bestimmte Konfiguration sicher ist.
Die Abschnitte zur Überwachung von Verhalten und Eingaben, datenschutzgerechter Protokollierung, Prüfung von Aktualisierungen und gewonnenen Erkenntnissen wurden gelesen. Das Datum folgt der übergeordneten Richtlinienveröffentlichung. Beschreibt Überwachung im Betrieb, keine vollständige Erklärung gelernter Gewichte.
ncsc-agentic-risk · Quelle aus erster Hand Managing the cyber risk of agentic AI UK National Cyber Security Centre · Veröffentlicht 2026-08-20 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Autonomie, Modellschutzmaßnahmen, Aufsicht, Grenzen abgeschotteter Umgebungen, Netzwerk- und Zugangsbeschränkungen, Beobachtbarkeit und Notfallreaktion wurden gelesen. Der Herausgeber bezeichnet dies als vorläufige praktische Hinweise auf Grundlage seiner Forschung; formelle Leitlinien können sie ersetzen.
owasp-excessive-agency · Quelle aus erster Hand LLM06:2025 Excessive Agency OWASP Gen AI Security Project · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definition von Handlungsfähigkeit, übermäßige Funktionen, Berechtigungen und Autonomie sowie externe Autorisierung, Freigaben und Grenzen der Überwachung wurden gelesen. Die Kennzeichnung 2025 bezeichnet die Ausgabe; die Seite belegt nicht ihr ursprüngliches Veröffentlichungsdatum.
owasp-prompt-injection · Quelle aus erster Hand LLM01:2025 Prompt Injection OWASP Gen AI Security Project · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definitionen direkter und indirekter Einschleusung von Anweisungen, kontextabhängige Auswirkungen und Gegenmaßnahmen wurden gelesen, darunter Prüfung, Berechtigungsgrenzen und Tests mit gezielten Angriffen. Die Kennzeichnung 2025 ist eine Ausgabe, kein bestätigtes Veröffentlichungsdatum. Die Quelle belegt nicht, dass eine Gegenmaßnahme jeden Angriff ausschließt.
Einleitung, Abschnitt 2.2 zu erfundenen Angaben und ausgewählte MEASURE-Maßnahmen 2.3, 2.5, 2.6, 2.7 und 2.9 wurden gelesen. Sie betreffen Prüfbelege, Verallgemeinerung, Zitate, Prüfung erzeugten Codes und Schutzmaßnahmen. Ein freiwilliges Risikomanagementprofil; es wird nicht behauptet, dass alle 64 Seiten oder jede zitierte Studie geprüft wurden.
Kurzfassung, Begründung, Forschungsfragen, Einschränkungen und Schlussfolgerung wurden gelesen. Ein wissenschaftliches Positionspapier: aufgezeichnete Denkschritte können die Überwachung unterstützen, bleiben aber unvollständig und möglicherweise empfindlich gegenüber Veränderungen. Die Ansichten der Autoren sind nicht zwingend die Positionen ihrer Institutionen; die zitierten Experimente wurden nicht alle unabhängig geprüft.
Einsatzansatz, Überwachung von Denk- und Werkzeugspuren, zeitversetzte Warnungen, Einschränkungen und vorgeschlagene Kontrollprüfungen wurden gelesen. Eine datierte Darstellung des Anbieters, keine unabhängige Prüfung oder Aussage zur heutigen Abdeckung. Die Autoren können ausdrücklich nicht allein aus Eskalationen durch Mitarbeitende eine reale Rate übersehener Ereignisse ableiten.
otel-observability · Quelle aus erster Hand Observability primer OpenTelemetry documentation · Veröffentlicht ohne Datum · Aktualisiert 2026-04-23 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definitionen von Beobachtbarkeit, Telemetrie, Protokollen und verteilten Ablaufspuren wurden gelesen. Das Aktualisierungsdatum folgt der angezeigten Dokumentationsänderung, die auf eine Rechtschreibkorrektur statt auf ein neues Forschungsergebnis verweist. Verwendet für Softwarebegriffe, nicht für einen vollständigen Zugang zum Modellinneren.
google-ml-glossary · Quelle aus erster Hand Machine Learning Glossary Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2026-04-10 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Einträge zu künstlicher Intelligenz, tiefen Modellen, Kontextfenster, Inferenz und Chat wurden gelesen. Verwendet für Begriffe, nicht für Aussagen zur Produktleistung. Das Aktualisierungsdatum folgt dem zuvor angezeigten Seitendatum; die Erstveröffentlichung ist nicht angegeben. Der Chat-Eintrag wurde bei der Prüfung der Einsteigertexte am selben Tag erneut gelesen. Außerdem wurden die Einträge zu Generalisierung und Rechenressourcen gelesen.
google-ml-intro · Quelle aus erster Hand What is Machine Learning? Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2026-01-27 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Einleitung, Modelldefinition und Abschnitte zu überwachtem und unüberwachtem Lernen sowie generativer KI wurden gelesen. Beispiele veranschaulichen Kategorien, keine gemessene Genauigkeit. Das Aktualisierungsdatum folgt der Seite; die Erstveröffentlichung ist nicht angegeben.
google-neural-layers · Quelle aus erster Hand Neural networks: Nodes and hidden layers Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2025-12-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Erklärungen zu verbundenen Schichten, numerischen Gewichten, Bias-Werten und Berechnungen wurden gelesen. Die eingebetteten Übungen wurden nicht ausgeführt. Verwendet für den mathematischen Aufbau, nicht für die Behauptung, ein künstliches Netz bilde ein menschliches Gehirn nach.
google-gradient-descent · Quelle aus erster Hand Linear regression: Gradient descent Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2026-02-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Erklärung zu wiederholter Vorhersage, Verlust und Parameteranpassung wurde gelesen. Die Garantien der Seite für konvexe lineare Regression werden hier nicht auf das Training neuronaler Netze übertragen. Das Aktualisierungsdatum folgt der Seite; die Erstveröffentlichung ist nicht angegeben.
google-llm-intro · Quelle aus erster Hand LLMs: What's a large language model? Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2026-01-02 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Tokenvorhersage, reine Encoder- und Decoder-Varianten sowie Selbstaufmerksamkeit wurden gelesen. Verwendet für Architektur und Begriffe; allgemeine Leistungsvergleiche und Aussagen über alle LLMs auf der Lehrseite werden nicht übernommen.
Feinabstimmung und Prompt Engineering wurden gelesen, einschließlich des Unterschieds zwischen Parameteränderungen und Beispielen in der Eingabe. Verwendet zur Unterscheidung dieser Verfahren, ohne allgemeine Behauptungen zu übernehmen, Feinabstimmung sei immer nötig oder verbessere jede Aufgabe.
google-embeddings · Quelle aus erster Hand Embeddings: Embedding space and static embeddings Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2025-08-25 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Numerische Darstellungen, Abstand als relative Ähnlichkeit, Aufgabenabhängigkeit und Grenzen menschlich lesbarer Dimensionen wurden gelesen. Die Lebensmitteldiagramme sind Lehrbeispiele, keine im Atlas wiederverwendeten Messungen.
hf-tokenizers · Quelle aus erster Hand Tokenizers Hugging Face LLM Course · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Tokenisierung nach Wörtern, Zeichen und Wortteilen, Umwandlung in numerische IDs und Rückumwandlung wurden gelesen. Verwendet für die Tatsache, dass Tokengrenzen vom Tokenizer abhängen; ein festes Umrechnungsverhältnis zwischen Wörtern und Tokens wird nicht angenommen. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
hf-models · Quelle aus erster Hand Models Hugging Face LLM Course · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Architektur, Gewichte, gespeicherte Modellstände sowie Laden und Speichern wurden gelesen. Verwendet zur Unterscheidung von Modellstruktur und gelernten Werten gegenüber der umgebenden Anwendung. Beispielcode wurde gelesen, nicht ausgeführt; das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
hf-text-generation · Quelle aus erster Hand Text generation Hugging Face Transformers documentation · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Generierung des nächsten Tokens, Generierungseinstellungen, Temperatur, zufällige Auswahl und Prompt-Formate wurden gelesen. Bibliotheksoptionen veranschaulichen den Vorgang; Vorgaben und empfohlene Temperaturen werden nicht als allgemeines Chatbot-Verhalten behandelt. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
hf-tool-use · Quelle aus erster Hand Tool use Hugging Face Transformers documentation · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Werkzeugbeschreibungen, vom Modell erzeugte Aufrufanfragen, Ausführung durch die Anwendung und Rückgabe der Ergebnisse in den Chat wurden gelesen. Beispielfunktionen wurden nicht ausgeführt. Verwendet für die Trennung zwischen dem Anfordern und Ausführen einer Handlung; das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
hf-multimodal · Quelle aus erster Hand Multimodal chat templates Hugging Face Transformers documentation · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gemischte Text-, Bild-, Audio- und Videoeingaben, Vorverarbeitung und modellspezifische Videounterstützung wurden gelesen. Verwendet zur Erklärung von Eingabearten; Beispiele belegen weder universelle Fähigkeiten noch Genauigkeit. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
Kurzfassung und Versionsverlauf sowie bei der Geschichtsprüfung die Ergebnisabschnitte 4.3/4.4 und „Broader Impact“ der Version 4 wurden gelesen. Externe Textstellen können Fehler oder Verzerrungen enthalten. Verwendet für den ursprünglichen Ansatz; Testergebnisse belegen keine Genauigkeit für jedes heute als RAG bezeichnete System.
Kurzfassung und Versionsverlauf wurden gelesen: positionsabhängige Leistung beim Beantworten von Fragen zu mehreren Dokumenten und beim Abrufen von Schlüssel-Wert-Paaren. Verwendet, um die angenommene Kontextlänge von der wirksamen Nutzung des Inhalts zu unterscheiden, nicht um jedem heutigen Modell dieselbe Schwäche zuzuschreiben.
helm-paper · Quelle aus erster Hand Holistic Evaluation of Language Models Percy Liang and coauthors / Stanford CRFM, arXiv · Veröffentlicht 2022-11-16 · Aktualisiert 2023-10-01 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Kurzfassung und Versionsverlauf wurden gelesen, darunter mehrere Anwendungsfälle und Maße, standardisierte Vergleiche und eingeräumte Lücken der Abdeckung. Verwendet für Prüfprinzipien; historische Modellwerte werden nicht als aktuelle Rangliste dargestellt.
Kurzfassung, das Verfahren mit Beispielen, Vergleichen und Belohnungsmodell in Abschnitt 3.1 sowie die Einschränkungen in Abschnitt 5.3 wurden gelesen. Menschliche Präferenzurteile und bessere Ergebnisse bei den Aufgaben der Autoren belegen keine universelle Ausrichtung oder Sicherheit. Das Veröffentlichungsdatum wurde auf der arXiv-Kurzfassungsseite geprüft.
constitutional-ai-paper · Quelle aus erster Hand Constitutional AI: Harmlessness from AI Feedback Yuntao Bai and coauthors / arXiv · Veröffentlicht 2022-12-15 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Kurzfassung und Metadaten wurden gelesen; sie beschreiben Modellkritiken, Überarbeitungen und KI-Präferenzrückmeldungen anhand von Menschen geschriebener Prinzipien. Verwendet als Beispiel für Ausrichtungsmethoden; die Aussagen des Artikels bescheinigen nicht jeder Ausgabe Harmlosigkeit.
Kurzfassung, Einleitung und die Erörterung von Gedankenketten und zusätzlicher Rechenzeit beim Antworten wurden gelesen. Die Daten wurden anhand des Versionsverlaufs der Kurzfassungsseite geprüft. Verwendet für Beispiele zu Training und längerem Schlussfolgern; die Testergebnisse der Autoren sind weder eine allgemeine Rangliste noch eine Erklärung des gesamten Modellinneren.
osi-ai-definition · Quelle aus erster Hand The Open Source AI Definition – 1.0 Open Source Initiative · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Abruf mit dem Browserwerkzeug lieferte 403; das ursprüngliche HTML des Herausgebers wurde direkt abgerufen und gelesen. Gelesen wurden die vier Freiheiten und die Anforderungen an Dateninformationen, Code und Parameter. Dies ist OSIs Definition, keine Behauptung, dass jeder Herausgeber die Bezeichnung gleich verwendet. Das Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
oecd-ai-principles · Quelle aus erster Hand AI principles Organisation for Economic Co-operation and Development · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Überblick, Menschenrechte, Transparenz, Sicherheit, Rechenschaft und Empfehlungen zur Steuerung wurden gelesen. Die Grundsätze wurden 2019 angenommen und 2024 aktualisiert; diese Daten werden nicht als Veröffentlichungsdatum der aktuellen Seite verwendet. Empfehlungen belegen weder Umsetzung noch Rechtskonformität.
Veröffentlichungsangaben, die Einteilung in systemische, statistische und menschliche Verzerrungen, die Erörterung kontextbezogener Bewertung und die Schlussfolgerung wurden gelesen. Verwendet zur Erklärung von Ursachen und Prüfung von Verzerrungen; daraus folgt kein Befund über ein bestimmtes Modell oder eine bestimmte Person oder Organisation.
claude-introduction · Quelle aus erster Hand Introducing Claude Anthropic · Veröffentlicht 2023-03-14 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Einführung zur Veröffentlichung, der Unterschied zwischen Chat und API sowie Modellvarianten wurden gelesen. Nur zur historischen Produktzuordnung; Kundenberichte und Zuverlässigkeitsbehauptungen werden nicht als unabhängige Belege oder aktuelle Spezifikationen behandelt.
gemini-overview · Quelle aus erster Hand What is Gemini and how it works Google · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Einführung wurde gelesen, die die Gemini-App als Oberfläche für Googles multimodale Sprachmodelle beschreibt. Verwendet für die Benennung und Unterscheidung zwischen App und Modell, ohne Leistungsaussagen zu übernehmen. Ein genaues Veröffentlichungsdatum wurde nicht festgestellt.
grok-introduction · Quelle aus erster Hand Announcing Grok xAI (now hosted by SpaceXAI) · Veröffentlicht 2023-11-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die ursprüngliche Einführung, die Beschreibung des Grok-1-Modells und der Forschungsabschnitt wurden gelesen, der falsche Antworten trotz Suchzugang einräumt. Nur zur historischen Zuordnung; Angaben zur Startversion oder Testranglisten werden nicht als aktuell dargestellt.
llama-model-family · Quelle aus erster Hand The Llama 3 Herd of Models Llama team / Meta · Veröffentlicht 2024-07-23 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Metas Kurzfassung und das angezeigte Veröffentlichungsdatum wurden gelesen, einschließlich getrennter vortrainierter und nachtrainierter Veröffentlichungen. Verwendet zur Benennung einer Modellfamilie, nicht zur Bestätigung von Testvergleichen oder zur Beschreibung der neuesten Veröffentlichung.
Einleitung, ausgewählte Passagen zu Herkunftsnachweisen und Erkennung sowie die Audio- und Videobeispiele in Anhang D wurden gelesen. Das Datum wurde auf NISTs Übersichtsseite geprüft. Hier wird kein Erkennungswerkzeug zertifiziert.
merriam-webster-slop · Quelle aus erster Hand 2025 Word of the Year: Slop Merriam-Webster · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Definition und Beispiele des Wörterbuchherausgebers in seiner Auswahl für 2025 wurden gelesen. Das Jahr bezeichnet die Auswahl; ein genaues Veröffentlichungsdatum des Artikels wurde nicht festgestellt. Verwendet für den Sprachgebrauch, nicht als Qualitätsurteil über bestimmte Inhalte.
eu-ai-act-overview · Quelle aus erster Hand AI Act European Commission · Veröffentlicht ohne Datum · Aktualisiert 2026-08-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Risikokategorien, Transparenz, Regeln für allgemein einsetzbare Modelle, Durchsetzung und Zeitplan der Anwendung wurden gelesen. Das Aktualisierungsdatum wird auf der Seite angezeigt. Dieser Überblick bestimmt nicht die rechtlichen Pflichten einer bestimmten Anwendung; Fristen werden hier bewusst nicht verallgemeinert.
white-house-ai-action-plan · Quelle aus erster Hand White House Unveils America's AI Action Plan The White House · Veröffentlicht 2025-07-23 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Darstellung als Wettlauf, die politischen Säulen und die genannten Vorschläge wurden gelesen. Eine Regierungsankündigung und ein Beispiel politischer Deutung; ihre versprochenen Vorteile und ihre Umsetzung sind nicht unabhängig belegt.
Kurzfassung, Zusammenfassung und Abschnitte 1.1–1.2 wurden gelesen, einschließlich umstrittener Arbeitsannahmen und Grenzen einer verhaltensbasierten Beurteilung. Die Versionsdaten wurden auf arXiv geprüft. Ein vorgeschlagenes Rahmenwerk, kein Bewusstseinstest oder eine Bewertung sämtlicher Modelle im Jahr 2026.
Die auf Aufgaben beruhende Methode, Kategorien möglicher Betroffenheit, Einordnung der Beschäftigungsfolgen und Grenzen der Einführung wurden gelesen. Die Schätzungen beschreiben mögliche Betroffenheit, keine beobachteten Arbeitsplatzverluste oder eine Vorhersage für einzelne Beschäftigte.
chatgpt-memory · Quelle aus erster Hand Memory FAQ OpenAI Help Center · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gedächtnis, Kontext, Einstellungen und die Erklärung zur älteren Funktion gespeicherter Erinnerungen wurden gelesen. Als Beispiel eines Anbieters verwendet, nicht auf alle Chatbots verallgemeinert. Relative Aktualisierungsangaben wurden nicht in ein erfundenes genaues Datum umgewandelt.
Unterschiede zwischen Privat- und Geschäftsnutzung, Trainingseinstellungen und Ausnahmen für Rückmeldungen wurden gelesen. Verwendet zur Unterscheidung späteren Trainings vom Gesprächskontext, nicht als vollständige Datenschutz-Checkliste. Die Seite zeigt eine relative Aktualisierungszeit; das genaue Veröffentlichungsdatum ist nicht angegeben.
Artikel und Kurzfassung wurden gelesen. Ein argumentativer Standpunkt zur Frage, ob Bedeutung allein aus sprachlicher Form gelernt werden kann, kein experimentelles Urteil über jedes multimodale oder mit Werkzeugen verbundene System.
understanding-mitchell-krakauer · Quelle aus erster Hand The Debate Over Understanding in AI’s Large Language Models Melanie Mitchell and David C. Krakauer · Veröffentlicht 2022-10-14 · Aktualisiert 2022-10-27 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Das vollständige Manuskript der Version 2 und der arXiv-Einreichungsverlauf wurden gelesen. Erstmals eingereicht am 14. Oktober 2022; die verlinkte Version 2 ist auf den 27. Oktober 2022 datiert. Sie stellt konkurrierende Erklärungen, Abkürzungen bei Leistungstests und offene Fragen gegenüber. Ihre Modellbeispiele beschreiben die damalige Zeit, keine aktuelle Rangliste der Fähigkeiten.
Kurzfassung und Einreichungsverlauf wurden gelesen. Berichtet über Darstellungen des Brettzustands und gezielte Eingriffe in einer künstlichen Othello-Aufgabe. Diese Quelle allein belegt kein menschenähnliches Verständnis.
understanding-anthropomorphism · Quelle aus erster Hand AI Automatons: AI Systems Intended to Imitate Humans Alexandra Olteanu and coauthors / Microsoft Research · Veröffentlicht 2025-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Zusammenfassung der Veröffentlichung und das begleitende Forschungstranskript wurden gelesen. Sie behandeln Gestaltungsentscheidungen, vermenschlichende Signale und mögliche soziale Auswirkungen. Sie beweisen kein allgemeines Unternehmensmotiv.
Methoden, Ergebnisse und Einschränkungen wurden gelesen. Experimente mit Hinweisen nutzten Claude 3.7 Sonnet und DeepSeek R1 bei Auswahlfragen. Die Ergebnisse gelten nicht für jedes Modell, jede Aufgabe oder jede aufgezeichnete Gedankenkette.
glossary-model-algorithm · Quelle aus erster Hand algorithm Paul E. Black / NIST Dictionary of Algorithms and Data Structures · Veröffentlicht ohne Datum · Aktualisiert 2020-11-09 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definition und aufgeführte Algorithmusarten gelesen. Der Eintrag wurde am 9. November 2020 geändert. Das spätere Formatierungsdatum der HTML-Seite ist keine inhaltliche Überarbeitung.
glossary-model-datasets · Quelle aus erster Hand Datasets: Dividing the original dataset Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2025-12-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Trennung von Trainings-, Validierungs- und Testdaten, doppelte Beispiele und wiederholte Testnutzung gelesen. Kursbeispiele veranschaulichen Bewertungsprobleme. Hier wurde kein Modell getestet.
glossary-model-pretraining · Quelle aus erster Hand How do Transformers work? Hugging Face LLM Course · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Selbstüberwachtes Sprachmodelltraining und Transferlernen gelesen. Verwendet zur Abgrenzung des Vortrainings. Historische Daten, Leistungsvergleiche und Aussagen über Verständnis auf dieser Lehrseite werden nicht übernommen.
glossary-model-posttraining · Quelle aus erster Hand The Llama 3 Herd of Models Llama Team / Meta, arXiv · Veröffentlicht 2024-07-31 · Aktualisiert 2024-08-15 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die zwei Trainingsphasen, Methoden des Nachtrainings und Grenzen in Abschnitt 5.4.8 der Version 2 gelesen. Daten folgen dem arXiv-Versionsverlauf. Ein dokumentierter Ansatz, kein allgemeingültiges Trainingsrezept.
glossary-model-supervised · Quelle aus erster Hand Supervised Learning Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2025-08-25 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gekennzeichnete Beispiele, Training, Bewertung und Inferenz gelesen. Verwendet für den Trainingsablauf. Zielwerte werden nicht als unfehlbar behandelt; Formulierungen der Seite über Verständnis werden nicht übernommen.
glossary-model-clustering · Quelle aus erster Hand What is clustering? Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2025-08-25 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gruppierung nicht gekennzeichneter Beispiele und Wahl des Ähnlichkeitsmaßes gelesen. Clustering ist ein Beispiel für unüberwachtes Lernen. Daraus wird weder eine Datenschutzgarantie noch eine natürliche Gruppengrenze abgeleitet.
Abschnitt zum Lernen durch Vorhersagen und Beispiele mit verdeckten Textstellen gelesen. Verwendet zur Entstehung von Trainingszielen. Prognosen der Autoren über Alltagsverständnis und menschliches Intelligenzniveau werden nicht übernommen.
glossary-model-reinforcement · Quelle aus erster Hand Deep Reinforcement Learning David Silver / Google DeepMind · Veröffentlicht 2016-06-17 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Einleitung zur Definition von bestärkendem Lernen durch Versuche, Rückmeldungen und langfristige Belohnungen gelesen. Verwendet für den Trainingsaufbau, ohne Vergleiche mit Menschen oder Aussagen über allgemeine Fähigkeiten zu übernehmen.
glossary-model-deep-learning · Quelle aus erster Hand Deep Learning Ian Goodfellow, Yoshua Bengio and Aaron Courville · Veröffentlicht 2016 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Mehrschichtige Darstellungen und Rechentiefe in Kapitel 1 gelesen. Das Erscheinungsjahr stammt aus der Zitierangabe des Buches. Daraus wird weder eine feste Mindestzahl an Schichten noch ein Intelligenzmaß abgeleitet.
glossary-model-mixture-of-experts · Quelle aus erster Hand Mixtral of Experts Albert Q. Jiang and coauthors / arXiv · Veröffentlicht 2024-01-08 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einleitung über Token-Routing, Expertenblöcke und aktive Parameter gelesen. Erscheinungsdatum auf arXiv geprüft. Mixtral veranschaulicht selektives Routing; sein Aufbau wird nicht jedem MoE zugeschrieben. Außerdem wurde Abschnitt 5, Routing analysis, zur Frage gelesen, ob die Zuweisung Themengebieten folgt.
glossary-model-distillation · Quelle aus erster Hand Distilling the Knowledge in a Neural Network Geoffrey Hinton, Oriol Vinyals and Jeff Dean / arXiv · Veröffentlicht 2015-03-09 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Einleitung und Destillationsmethode einschließlich Wahrscheinlichkeiten als Trainingszielen und unvollständiger Angleichung gelesen. Datum auf arXiv geprüft. Die historischen Experimente belegen keine Leistung heutiger destillierter Modelle.
glossary-model-quantization · Quelle aus erster Hand Quantization concepts Hugging Face Transformers documentation · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gewichte und Zwischenwerte mit geringerer Genauigkeit, Rundung, Genauigkeitsverluste und Hardwareabhängigkeit gelesen. Weder ein allgemeiner Geschwindigkeitsgewinn noch ein bestimmter Genauigkeitsverlust wird behauptet. Erscheinungsdatum der laufenden Dokumentation unbekannt.
glossary-model-overfitting · Quelle aus erster Hand Overfitting Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2025-12-03 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Leistung auf Trainingsdaten und neuen Daten, Vergleich mit Unteranpassung und Generalisierungskurven gelesen. Beispielkurven sind kein Beleg über ein bestimmtes Modell.
glossary-model-underfitting · Quelle aus erster Hand Machine Learning Glossary Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2026-04-10 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Eintrag zur Unteranpassung und aufgeführte Ursachen gelesen. Aktualisierungsdatum folgt der Glossarseite; erstes Erscheinungsdatum unbekannt. Ein Begriff zur Fehleranalyse, kein Befund über ein aufgeführtes Modell.
glossary-model-loss · Quelle aus erster Hand Linear regression: Loss Google for Developers · Veröffentlicht ohne Datum · Aktualisiert 2026-01-05 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Fehlermaße und ihre unterschiedliche Gewichtung großer Fehler gelesen. Verwendet für das Prinzip eines Trainingsziels. Quadratischer Fehler wird nicht als Standardziel von Sprachmodellen dargestellt.
glossary-eval-calibration · Quelle aus erster Hand On Calibration of Modern Neural Networks Chuan Guo and coauthors / PMLR · Veröffentlicht 2017-08 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Publikationsangaben des Tagungsbands gelesen. Die Experimente betreffen Bild- und Dokumentklassifikatoren, nicht die Verlässlichkeit eines Chatbots, der Sicherheit behauptet.
glossary-eval-gpt3 · Quelle aus erster Hand Language Models are Few-Shot Learners Tom B. Brown and coauthors / arXiv · Veröffentlicht 2020-05-28 · Aktualisiert 2020-07-22 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung, Abschnitt 2 zu Zero-Shot- und Few-Shot-Verfahren sowie Abschnitt 4 zu Überschneidungen mit Trainingsdaten gelesen. Version 4 stammt vom 22. Juli 2020. Die Ergebnisse betreffen GPT-3 und sind keine aktuelle Modellrangliste; festgestellte Überschneidungen erhöhten die Werte nicht durchgängig.
Zusammenfassung und Versionsverlauf gelesen. Belegt die Unterscheidung zwischen Unsicherheit in Beobachtungen und Unsicherheit im Modell. Die Experimente betreffen Computer Vision, kein validiertes Unsicherheitsmaß für jedes LLM.
glossary-eval-rmf-characteristics · Quelle aus erster Hand AI Risks and Trustworthiness NIST AI Resource Center · Veröffentlicht 2023 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Abschnitte 3.1 bis 3.3 des Online-Auszuges aus dem AI RMF 1.0 gelesen: Gültigkeit, Zuverlässigkeit, Robustheit, Sicherheit und Schutz vor Angriffen. Leitlinien und Definitionen zertifizieren kein bestimmtes System.
glossary-eval-adversarial · Quelle aus erster Hand Explaining and Harnessing Adversarial Examples Ian J. Goodfellow, Jonathon Shlens and Christian Szegedy / arXiv · Veröffentlicht 2014-12-20 · Aktualisiert 2015-03-20 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Versionsverlauf gelesen. Belegt gezielt veränderte Eingaben, die Fehlklassifikationen auslösen, und adversariales Training als vorgeschlagene Gegenmaßnahme. Die Ergebnisse gelten für die untersuchten Modelle und Angriffe.
Zusammenfassung für Entscheidungsträger, Definitionen der Angriffsphasen sowie Abschnitte 3.2.1 bis 3.2.3 zu Manipulationen generativer Modelle und Gegenmaßnahmen gelesen. Das Veröffentlichungsdatum stammt aus dem NIST-Publikationseintrag. Es wird nicht behauptet, dass eine einzelne Schutzmaßnahme alle Angriffe stoppt.
glossary-eval-red-teaming · Quelle aus erster Hand Red Teaming Language Models with Language Models Ethan Perez and coauthors / arXiv · Veröffentlicht 2022-02-07 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einreichungsangaben sowie die Forschungszusammenfassung der Autoren bei DeepMind gelesen. Die Arbeit untersucht automatisch erzeugte Tests und stellt sie als eine von mehreren Methoden vor, nicht als vollständige Sicherheitsprüfung.
glossary-eval-induction · Quelle aus erster Hand In-context Learning and Induction Heads Catherine Olsson and coauthors / arXiv · Veröffentlicht 2022-09-24 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einreichungsangaben gelesen. Die Autoren berichten kausale Belege in kleinen Modellen, die nur Attention verwenden, und indirekte oder korrelative Belege für ihre weitergehende Hypothese zum Mechanismus. Das Glossar stellt diese Hypothese nicht als für alle Modelle geklärt dar.
Zusammenfassung und Versionsverlauf gelesen. Die Arbeit berichtet Verbesserungen bei ausgewählten Rechenaufgaben, Alltagsfragen und symbolischen Aufgaben mit Beispielen für Zwischenschritte. Sie belegt nicht, dass erzeugte Erklärungen die interne Berechnung getreu wiedergeben.
glossary-eval-guardrails · Quelle aus erster Hand Guardrail Types NVIDIA NeMo Guardrails documentation · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Beschreibungen und Tabellen zu Schutzregeln für Eingaben, abgerufene Inhalte, Dialoge, Ausführung und Ausgaben gelesen. Dient als konkretes Umsetzungsbeispiel für den allgemeineren Begriff. Kein Veröffentlichungsdatum angegeben; der Link zu den Sicherheits-FAQ lieferte 404 und wurde nicht verwendet.
Anhang des AI RMF 1.0 zu menschlichen Rollen, Aufsicht, Verzerrungen und unterschiedlichen Ergebnissen der Zusammenarbeit von Mensch und KI gelesen. Er beschreibt sowohl mögliche Ergänzung als auch verstärkte Verzerrungen; es handelt sich um Leitlinien, nicht um ein kontrolliertes Experiment.
glossary-eval-human-errors · Quelle aus erster Hand The impact of AI errors in a human-in-the-loop process Ujué Agudo and coauthors / Cognitive Research: Principles and Implications · Veröffentlicht 2024-01-07 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung, Versuchsabläufe, Ergebnisse und allgemeine Diskussion gelesen. Zwei simulierte Experimente zu gerichtlichen Entscheidungen nutzten vermeintliche KI-Empfehlungen; sie sind weder ein Feldversuch mit einem LLM noch eine allgemeingültige Schätzung der Wirksamkeit menschlicher Aufsicht.
Zusammenfassung und Einreichungsangaben gelesen. Die Studie umfasste 28 Pathologiefachleute und berichtete eine insgesamt bessere Leistung bei gleichzeitiger Übernahme einiger falscher Empfehlungen. Nur die Zusammenfassung wurde geprüft; die Fehlerquote wird nicht auf andere Nutzer oder Aufgaben übertragen.
Zusammenfassung und Versionsverlauf gelesen. Die Arbeit untersucht suchbasierte Überschneidungsprüfungen und ein Verfahren zum Erraten verdeckter Testteile. Ihre Ergebnisse betreffen bestimmte Modelle und Benchmarks; das Glossar behandelt eine erratene Antwort allein nicht als Beweis für einen Eintrag in den Trainingsdaten.
Zusammenfassung und Versionsverlauf gelesen. Die Experimente führten verzerrende Eingabemerkmale ein und untersuchten erzeugte Erklärungen von GPT-3.5 und Claude 1.0. Ihre Ergebnisse sind kein Urteil über jedes Modell oder jede Erklärung.
glossary-wide-vision · Quelle aus erster Hand Cloud Vision API documentation Google Cloud · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Übersicht zu Bildbeschriftung, Texterkennung und Objekterkennung wurde gelesen. Sie erklärt Aufgabentypen. Daraus folgt nicht, dass ein Produkt die gesamte Computer Vision abdeckt oder bei jedem Bild gleich genau ist.
Aufgabendefinition und englische sowie deutsche Transkriptionsbeispiele mit falsch erkannten Wörtern wurden gelesen. Die Beispiele zeigen, warum Mitschriften geprüft werden sollten. Sie belegen keine Fehlerraten heutiger Systeme.
glossary-wide-tts · Quelle aus erster Hand Audio generation with a pipeline Hugging Face · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definition und Beispiele zur Spracherzeugung wurden gelesen. Sie stützen die Unterscheidung zwischen erzeugter Sprache, Mitschriften und erzeugter Musik. Aussagen zur Produktqualität werden nicht übernommen.
glossary-wide-diffusion · Quelle aus erster Hand Denoising Diffusion Probabilistic Models Jonathan Ho, Ajay Jain and Pieter Abbeel / arXiv · Veröffentlicht 2020-06-19 · Aktualisiert 2020-12-16 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung, Einleitung, Vorwärts- und Rückwärtsprozess sowie Erzeugungsalgorithmus wurden gelesen. Der Eintrag erklärt den Ansatz zur Rauschentfernung aus dieser Arbeit. Ihre Testergebnisse gelten hier nicht als heutiger Leistungsstand.
glossary-wide-latent-diffusion · Quelle aus erster Hand High-Resolution Image Synthesis with Latent Diffusion Models Robin Rombach and colleagues / arXiv · Veröffentlicht 2021-12-20 · Aktualisiert 2022-04-13 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einleitung wurden gelesen, einschließlich der Trennung zwischen Bildkompression und Diffusion in einer erlernten Darstellung. Die Arbeit dient als konkretes Beispiel für einen latenten Raum, nicht als Definition aller KI-Darstellungen.
glossary-wide-synthetic-data · Quelle aus erster Hand Welcome to the SDV! DataCebo / Synthetic Data Vault · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Bibliotheksübersicht und der Ablauf zur Erzeugung und Bewertung synthetischer Tabellendaten wurden gelesen. Es handelt sich um Entwicklerdokumentation. Werbliche Qualitäts- oder Datenschutzversprechen werden nicht als unabhängig bestätigt behandelt.
Zusammenfassung und Versionsverlauf wurden gelesen. Die berichteten Angriffe zeigen, dass bestandene Ähnlichkeitstests der untersuchten Art keine Anonymität belegen. Der Eintrag behauptet nicht, dass jeder synthetische Datensatz personenbezogene Informationen preisgibt.
Zusammenfassung und Versionsverlauf wurden gelesen. Die Arbeit unterscheidet zwischen einem angegebenen Stichtag und dem tatsächlichen Wissensstand für einzelne Quellen und Themen. Daraus wird kein Stichtag für ein heutiges Produkt abgeleitet.
glossary-wide-provenance · Quelle aus erster Hand PROV-Overview W3C · Veröffentlicht 2013-04-30 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einleitung zur PROV-Familie wurden gelesen, einschließlich Objekten, Personen, Tätigkeiten und Ableitungen. Herkunftsangaben helfen bei der Beurteilung von Verlässlichkeit. Eine dokumentierte Herkunft ist laut diesem Dokument kein Wahrheitsbeweis.
glossary-wide-model-card · Quelle aus erster Hand Model Cards for Model Reporting Margaret Mitchell and colleagues / arXiv · Veröffentlicht 2018-10-05 · Aktualisiert 2019-01-14 · Material zuletzt gelesen 2026-09-15
Was wir gelesen haben: Die Kurzfassung und die Versionsgeschichte; die vollständige Arbeit wurde nicht gelesen.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Versionsverlauf wurden gelesen, einschließlich vorgesehener Einsätze, Testbedingungen und Ergebnissen für verschiedene Gruppen. Es handelt sich um einen Dokumentationsvorschlag, nicht um ein Zertifikat für Sicherheit oder Fairness.
Der Vorschlag für System Cards, die Abgrenzung zu Model Cards und der Abschnitt zu Grenzen wurden gelesen. Meta beschreibt den eigenen Ansatz. Die Veröffentlichung einer solchen Dokumentation ist keine unabhängige Prüfung des Systems.
glossary-wide-gpu · Quelle aus erster Hand 1.1. Introduction NVIDIA / CUDA Programming Guide · Veröffentlicht ohne Datum · Aktualisiert 2026-09-09 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Abschnitte 1.1.1 und 1.1.2 zu den Ursprüngen von GPUs und paralleler Berechnung wurden gelesen. Der Eintrag verwendet die Unterscheidung der Bauweisen, ohne Leistungs- oder Energievergleiche des Herstellers zu übernehmen.
Der Abschnitt zu Leistungsmaßen wurde gelesen. Er unterscheidet die Zeit bis zum ersten Textteil, die Dauer weiterer Ausgaben und den Durchsatz. Konkrete Testvorgaben werden nicht als allgemeine Anforderungen aller Nutzer dargestellt.
Die Plattformübersicht und der Ablauf zum Ausführen von Modellen auf Endgeräten wurden gelesen. Der Eintrag beschreibt den Ort der Berechnung, ohne pauschale Herstellerangaben zu Datenschutz, Geschwindigkeit oder Fähigkeiten zu übernehmen.
glossary-balance-ea-crary · Quelle aus erster Hand Against ‘Effective Altruism’ Alice Crary / Radical Philosophy · Veröffentlicht 2021 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die institutionelle und philosophische Kritik sowie die Erörterung von EA-Erwiderungen wurden gelesen. Dies sind Crarys Argumente, keine Befunde über alle Beteiligten oder Hilfsorganisationen. Als Datum wird das Erscheinungsjahr des Hefts angegeben.
glossary-balance-ea-donor-power · Quelle aus erster Hand Response to Effective Altruism Emma Saunders-Hastings / Boston Review · Veröffentlicht 2015-07-01 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die vollständige Erwiderung zu Gebermacht und Entscheidungen der Empfänger wurde gelesen. Historische Spendenempfehlungen werden nicht als heutiger Rat wiedergegeben. Das Argument warnt vor einem Problem der Entscheidungsgewalt, statt jede Spende abzulehnen.
Definitionen und Erwiderungen zu Utilitarismus, Unsicherheit, gesellschaftlichem Wandel und konkurrierenden Prioritäten wurden gelesen. Dies ist die Darstellung der Grundsätze auf einer Website der Bewegung, keine unabhängige Bewertung ihrer Einrichtungen.
glossary-balance-longtermism-setiya · Quelle aus erster Hand The New Moral Mathematics Kieran Setiya / Boston Review · Veröffentlicht 2022-08-15 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Setiyas Rezension wurde in den Abschnitten zu Bevölkerungsethik und zur Vorrangstellung künftigen Überlebens gegenüber heutigem Leid gelesen. Der Eintrag schreibt ihm die ethische Kritik zu und übernimmt keine empirischen Prognosen des Artikels.
Zusammenfassung und Einreichungsverlauf wurden gelesen. Die Autoren fordern klarere Definitionen, vielfältige Wertvorstellungen und bessere Risikomethoden. Ihre Kritik an einem einflussreichen Ansatz belegt nicht, dass sämtliche Forschung zu Katastrophenrisiken ungültig ist.
glossary-balance-utilitarianism-objections · Quelle aus erster Hand Objections to Utilitarianism and Responses Richard Yetter Chappell, Darius Meissner and William MacAskill / Utilitarianism.net · Veröffentlicht 2023 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Einwände zu Rechten und übermäßigen Anforderungen sowie die Erwiderungsstrategien der Autoren wurden gelesen. Dieses Lehrbuch verteidigt den Utilitarismus. Seine Antworten sind Argumente, keine von allen Moralphilosophen akzeptierte Klärung.
Abschnitte über verzögerte Vorteile, ungewisse Dauer, schwache Durchsetzung, verdeckte Entwicklung und politische Kompromisse gelesen. Es handelt sich um mögliche Fehlschläge aus Sicht von PauseAI, nicht um gemessene Folgen. Die Seite enthält ältere Schwellenwertbeispiele; der aktuelle Vorschlagsumfang folgt der Fassung vom April 2026. Erscheinungsdatum unbekannt.
software-lens-nist-computer · Quelle aus erster Hand Computer National Institute of Standards and Technology · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurde die Glossardefinition, die einen Computer als Gerät beschreibt, das digitale Daten nach Programmanweisungen verarbeitet. Die Seite führt die Definition auf NIST SP 800-34 Rev. 1 zurück; das vollständige Dokument zur Notfallplanung wurde nicht geprüft. Ein Veröffentlichungsdatum der aktuellen Glossarseite ist nicht angegeben.
software-lens-nist-software · Quelle aus erster Hand software National Institute of Standards and Technology · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden die Definitionen von Software als Programmen und zugehörigen Daten sowie die Abgrenzung zu physischer Hardware. Das Glossar sammelt mehrere kontextabhängige Definitionen, darunter Einträge zu verwandten Hardware- und Firmwarebegriffen; es liefert keine einzelne allgemeingültige Definition. Die verknüpften Standards wurden nicht vollständig gelesen. Ein Veröffentlichungsdatum der aktuellen Seite ist nicht angegeben.
Gelesen wurden die aktualisierte Definition und die Erläuterungen zu Methoden, menschlichen Rollen, Autonomie, physischen und virtuellen Umgebungen, Eingaben, Modellen und Ausgaben (Seiten 4 und 6 bis 9). Das Veröffentlichungsdatum folgt der OECD-Publikationsseite. Die Quelle dient zur Abgrenzung von Modellen und Systemen sowie von gelernten und wissensbasierten Verfahren, nicht als Aussage über menschenähnliches Verstehen oder als rechtliche Einstufung eines bestimmten Produkts.
Transkript des Gastgebers gelesen, besonders 00:43:04 bis 00:46:47 und 00:56:10 bis 01:04:10. Der Gastgeber beschreibt redaktionell überarbeitete Transkripte. Für die vorgeschlagene Begrenzung der Macht fehlt ein Umsetzungsverfahren; die schrittweise Veröffentlichung betrifft den Einsatz.
sutskever-superalignment-2023 · Quelle aus erster Hand Introducing Superalignment OpenAI / Jan Leike and Ilya Sutskever · Veröffentlicht 2023-07-05 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gemeinsam verfasste Einleitung, Forschungsansatz und Fußnoten gelesen. Verwendet für die damals geäußerte Sorge vor dem Aussterben der Menschheit und die Unterscheidung zwischen Forschungsziel und gelöstem Kontrollproblem. Der angekündigte Zeitplan gilt nicht als Ergebnis.
Vom Herausgeber veröffentlichte und von SSI verlinkte Mitteilung einschließlich Sutskevers zugeordneter Aussage zur Ausweitung der Forschung gelesen. Primäre Unternehmensmitteilung, kein unabhängiger Bericht oder Fähigkeitstest. SSIs Hinweis trägt den 26. Juli, diese Mitteilung den 27. Juli.
zuckerberg-future-2026 · Quelle aus erster Hand The Future is for Everyone Meta / Mark Zuckerberg · Veröffentlicht 2026-08-10 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Unterzeichneten Essay gelesen, besonders die Abschnitte zu Missbrauch, amerikanischer Führung, existenziellen Risiken und Kontrolle. Vorhersagen und Argumente zum Kräftegleichgewicht werden Zuckerberg zugeschrieben; ihre Wirksamkeit und die angekündigte Aufsicht sind nicht unabhängig geprüft.
zuckerberg-personal-2025 · Quelle aus erster Hand Personal Superintelligence Meta / Mark Zuckerberg · Veröffentlicht 2025-07-30 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Vollständigen unterzeichneten Brief gelesen. Er verbindet Entwicklungsambitionen mit Vorsicht gegenüber neuen Sicherheitsrisiken und der Auswahl offener Veröffentlichungen. Offenheit und Veröffentlichungszeitpunkte allein belegen kein bevorzugtes Tempo der Spitzenentwicklung.
Nur Einleitung und Höhepunkte des ursprünglichen Interviewers gelesen. Vollständiges Audio und Transkript wurden nicht geprüft. Verwendet ausschließlich zur Dokumentation der Aktualitätssuche und Abrufgrenze, weder als Achsenbeleg noch als unabhängige Prüfung von Produktaussagen.
suleyman-humanist-2025 · Quelle aus erster Hand Towards Humanist Superintelligence Mustafa Suleyman · Veröffentlicht 2025-11-07 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Essay auf der persönlichen Website gelesen, einschließlich Containment is necessary und A safer superintelligence. Diese längere Fassung trägt den 7. November; Microsofts kürzerer Artikel den 6. November. Aussagen zu medizinischen Leistungen und künftigen Vorteilen werden nicht übernommen.
suleyman-code-2026 · Quelle aus erster Hand The Humanist AI Code of Conduct Mustafa Suleyman · Veröffentlicht 2026-09-15 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Vollständigen persönlichen Essay aus dem Original-HTML mit Python urllib gelesen, nachdem der Webabruf scheiterte. Die Seite zeigt den 15. September 2026. Verwendet für erklärte Kontrollgrenzen und künftige Umsetzung; Vorfallsbeschreibungen und Bewusstseinsaussagen sind nicht unabhängig belegt.
normal-technology-2025 · Quelle aus erster Hand AI as Normal Technology Knight First Amendment Institute / Arvind Narayanan and Sayash Kapoor · Veröffentlicht 2025-04-15 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden die Einleitung und einschlägige Passagen der Teile I bis IV zu Verbreitung, Fähigkeit und Macht, katastrophalen Fehlanpassungen, Widerstandsfähigkeit und Nichtverbreitung. Das angezeigte Veröffentlichungsdatum ist der 15. April; der Zitiervorschlag nennt dagegen den 14. April. Dieser Datensatz folgt der Anzeige und hält die Abweichung hier fest. Der Essay wird als Argument der Autoren behandelt. Ihre Aktualisierung vom September 2026 schränkt seine Sicherheitsaussagen ein; zitierte Vorfallsberichte und Studien wurden nicht unabhängig geprüft.
normal-technology-guide-2025 · Quelle aus erster Hand A guide to understanding AI as normal technology AI as Normal Technology / Arvind Narayanan and Sayash Kapoor · Veröffentlicht 2025-09-09 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden die Erläuterung von normal, die Neuformulierung der These und die Antwort auf Scott Alexander, einschließlich der Unterscheidung zwischen wirtschaftlichen und sicherheitsbezogenen Argumenten. Dies ist die eigene Erklärung und Antwort der Autoren, keine unabhängige Überprüfung ihrer Prognosen. Verlinkte Gespräche und sämtliche zugrunde liegenden empirischen Belege wurden nicht geprüft.
normal-technology-alexander-response-2025 · Quelle aus erster Hand AI As Profoundly Abnormal Technology AI Futures Project / Scott Alexander · Veröffentlicht 2025-07-24 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden der Einstieg, der Einsatz durch zentrale Akteure und Abschnitte zu Kontrolle, spekulativen Risiken und institutionellen Annahmen. Die Quelle dient als direkte Kritik der These, nicht als Überprüfung der Prognosen des Kritikers oder zitierter Anekdoten. Der ältere Link unter ai-futures.org leitet auf aifutures.org weiter. Die Antwort vom September 2025 und die Überarbeitung vom September 2026 werden neben dieser Kritik bereitgestellt.
normal-technology-software-work-2026 · Quelle aus erster Hand Why AI hasn’t replaced software engineers, and won’t AI as Normal Technology / Arvind Narayanan and Sayash Kapoor · Veröffentlicht 2026-06-11 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden der Einstieg und die Erörterung, die Entscheiden, Ausführen und Ausliefern trennt, einschließlich der ausdrücklichen Bevorzugung von Verantwortlichkeit gegenüber einer Verlangsamung technischer Fähigkeiten. Die Quelle belegt das damalige öffentliche Argument zum Entwicklungstempo. Beschäftigungsstatistiken, Berichte über Entlassungen und zugrunde liegende Studien wurden nicht unabhängig geprüft. Der Essay vom September 2026 ergänzt die neuere Einschränkung zu Versuchspausen.
normal-technology-intervention-2026 · Quelle aus erster Hand Do AI Risks Require Extraordinary Government Intervention? AI as Normal Technology / Sayash Kapoor and Arvind Narayanan · Veröffentlicht 2026-05-21 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden die Einordnung außergewöhnlicher Eingriffe, die Unterscheidung zwischen wirtschaftlichem Einsatz und Missbrauch sowie der Abschnitt zur Widerstandsfähigkeit. Die Autoren räumen ein, dass Vorsorge und vorübergehende Zugangsbeschränkungen helfen können, und sprechen sich zugleich für weniger einschränkende Schutzmaßnahmen aus. Die Quelle dient als Kontext für ihr eigenes politisches Argument, nicht als Rechtsberatung oder Überprüfung geltenden Rechts, von Fähigkeitsabständen oder historischen Beispielen.
normal-technology-research-2026 · Quelle aus erster Hand AI agents can't yet do open-ended AI research AI as Normal Technology / Sayash Kapoor and Arvind Narayanan · Veröffentlicht 2026-08-05 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden die Forschungszusammenfassung der Autoren, ihr Aufbau mit zwei Fällen, die genannten Grenzen und die Erörterung möglicher verbleibender Engpässe. Die verlinkte Facharbeit, Ergebnisse und Agentenprotokolle wurden nicht geprüft. Der Newsletter berichtet über die eigene Forschung der Autoren, belegt aber weder die Dauerhaftigkeit heutiger Grenzen noch, dass alle Arten der KI-Forschung gleich schwierig sind.
normal-technology-control-2026 · Quelle aus erster Hand The AI-as-Normal-Technology view of loss-of-control incidents AI as Normal Technology / Sayash Kapoor and Arvind Narayanan · Veröffentlicht 2026-09-14 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Gelesen wurden die einleitende Zusammenführung, Teil 1 zu Kontrolle, Unternehmensführung und Politik, die ausdrücklichen Überarbeitungen und die Risikobewertung in Teil 3 sowie die politische Erörterung davor. Die Quelle belegt die Forderungen und selbst beschriebenen Änderungen der Autoren. Ihre Darstellungen fremder Vorfälle, von Produktverhalten, Investitionen und Recht wurden nicht unabhängig überprüft. Der vorgeschlagene Datensatz wiederholt diese Darstellungen nicht als gesicherte Tatsachen und leitet daraus keinen Stillstand eines ganzen Labors ab.
glossary-symbolic-stanford · Quelle aus erster Hand What is Traditional AI? Stanford HAI · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Stanfords institutionelle Definition ausdrücklich programmierter Regeln und symbolischer Schlussverfahren gelesen. Kein Veröffentlichungsdatum angegeben; Formulierungen über mentale Zustände werden nicht übernommen.
glossary-expert-stanford · Quelle aus erster Hand What is an Expert System? Stanford HAI · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Definitionen zu Wissensbasis, Wenn-dann-Regeln und begrenztem Fachgebiet gelesen. Kein Veröffentlichungsdatum angegeben. Historische Vorrangansprüche und pauschale Aussagen zur Interpretierbarkeit werden nicht übernommen.
foundation-model-report · Quelle aus erster Hand On the Opportunities and Risks of Foundation Models Rishi Bommasani and coauthors / Stanford CRFM / arXiv · Veröffentlicht 2021-08-16 · Aktualisiert 2022-07-12 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung, Einleitung und Erörterung der Risiken gemeinsam genutzter Modelle gelesen. Datumsangaben folgen den arXiv-Versionen. Ein Begriffsvorschlag und eine Forschungssynthese.
scaling-kaplan · Quelle aus erster Hand Scaling Laws for Neural Language Models Jared Kaplan and coauthors / arXiv · Veröffentlicht 2020-01-23 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einreichungsangaben gelesen. Die gemessenen Zusammenhänge betreffen den Vorhersageverlust von Sprachmodellen und Trainingsressourcen, keinen AGI-Zeitpunkt.
scaling-chinchilla · Quelle aus erster Hand Training Compute-Optimal Large Language Models Jordan Hoffmann and coauthors / arXiv · Veröffentlicht 2022-03-29 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung und Einreichungsangaben gelesen. Die Tests stimmen Parameterzahl und Trainingstokens bei festem Rechenbudget aufeinander ab. Die Ergebnisse gelten für die untersuchten Aufbauten.
Definition und Aufbau des wiederholten Trainings gelesen. Die Korrektur eines mathematischen Symbols von 2025 geprüft. Die Ergebnisse belegen nicht, dass jede Methode mit synthetischen Daten scheitert.
Zusammenfassung, Einleitung und Sprachmodellaufbau gelesen. Das Ansammeln ursprünglicher und erzeugter Beispiele vermied in den Tests einen Kollaps. Der ursprüngliche TinyStories-Text war selbst synthetisch.
data-work-typology · Quelle aus erster Hand A typology of artificial intelligence data work James Muldoon, Callum Cant, Boxi Wu and Mark Graham / Big Data & Society · Veröffentlicht 2024-03-18 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung, Umfang der Feldforschung und Definitionen der Datenarbeit gelesen. Umfasst Arbeitsplätze für Computer-Vision-Daten und weitere Feldforschung, keine repräsentative Erhebung sämtlicher KI-Arbeit.
data-cascades-author-summary · Quelle aus erster Hand Data Cascades in Machine Learning Nithya Sambasivan / Google Research · Veröffentlicht 2021-06-04 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Den Bericht der Forscherin über die Interviewstudie, Beispiele und Empfehlungen zur Datenarbeit gelesen. Die Ergebnisse betreffen die untersuchten Projekte, nicht jedes KI-System.
ai-control-original · Quelle aus erster Hand AI Control: Improving Safety Despite Intentional Subversion Ryan Greenblatt, Buck Shlegeris, Kshitij Sachan and Fabien Roger / Redwood Research / arXiv · Veröffentlicht 2023-12-12 · Aktualisiert 2024-07-23 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Zusammenfassung, Einleitung und Abschnitte 5.1.2 und 5.2 gelesen. Experimente mit Programmieraufgaben, bei denen ein Modell die menschliche Prüfung simulierte. Kontrolle wird nicht als gelöst dargestellt.
Zusammenfassung und Versionsverlauf gelesen. Berichtet Prompt-Injection-Angriffe auf überwachende Modelle in zwei Kontrollbenchmarks. Die Ergebnisse betreffen geprüfte Verfahren, nicht jede mögliche Schutzmaßnahme.
ai-control-threats · Quelle aus erster Hand Prioritizing threats for AI control Ryan Greenblatt / Redwood Research · Veröffentlicht 2025-03-19 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Vorgeschlagene Bedrohungskategorien, Berechtigungsgrenzen und Erörterung einer blockierenden Prüfung gelesen. Vorausschauende Bedrohungsmodelle und Prioritäten des Autors, keine beobachteten Katastrophen.
Was wir gelesen haben: Die Titelfolie der Präsentation, ausschließlich für den Namen und den öffentlichen Nutzernamen herangezogen.
Keine Archivprüfung dokumentiert.
Gelesen wurde die Titelfolie der Präsentation, auf der Daniel Card und @Uk_Daniel_Card stehen. Sie dient nur zur Bestätigung von Name und öffentlichem Nutzernamen. Die abgerufenen Folien belegen weder ein Veröffentlichungsdatum noch die Echtheit des bereitgestellten Exports oder eine aktuelle Position auf einer der Kartenachsen.
Was wir gelesen haben: Ausgewählter Text aus einem bereitgestellten Export. Vollständige Diskussionsverläufe und Medien wurden nicht geprüft.
Das verlinkte Original wurde nicht unabhängig abgerufen. Das Lesen der bereitgestellten Kopie bestätigt nicht, wer sie verfasst hat.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Gelesen wurde der Text in einem vom Nutzer bereitgestellten Export. Das Feld Author Username wurde mit UK_Daniel_Card abgeglichen; ursprüngliche Beitrags-ID und URL wurden beibehalten. Die Online-URL von X lieferte 403, daher wurde das Original nicht unabhängig abgerufen. Das Datum folgt dem Feld Created At im Export, das keine Zeitzone angibt. Wiederholte Zeilen bezeichnen denselben selbst verfassten Beitrag sowohl als Tweet als auch als Quoted; zitierte oder weiterverbreitete Texte anderer Autoren wurden Card nicht zugeschrieben. Medien und vollständige Gesprächsverläufe wurden nicht geprüft. Die Vorwürfe und technischen Schlussfolgerungen des Beitrags wurden nicht unabhängig überprüft. Die Kennzeichnung als gelesen gilt nur für den Text im bereitgestellten Export, nicht für das verlinkte Original. Das Autorenfeld ist eine Zuordnung im Export, keine unabhängige Bestätigung der Urheberschaft.
Was wir gelesen haben: Ausgewählter Text aus einem bereitgestellten Export. Vollständige Diskussionsverläufe und Medien wurden nicht geprüft.
Das verlinkte Original wurde nicht unabhängig abgerufen. Das Lesen der bereitgestellten Kopie bestätigt nicht, wer sie verfasst hat.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Gelesen wurde der Antworttext in einem vom Nutzer bereitgestellten Export, nachdem das Autorenfeld mit UK_Daniel_Card abgeglichen worden war. Das Online-Original lieferte 403. Das Datum folgt dem Zeitstempel des Exports, ohne eine Zeitzone zuzuweisen. Der vollständige Gesprächskontext und Medien wurden nicht abgerufen. Die Quelle belegt seine erklärte Priorität bei der Überwachung, nicht die Nutzlosigkeit einer Überwachung auf Modellebene. Die Kennzeichnung als gelesen gilt nur für den Text im bereitgestellten Export, nicht für das verlinkte Original. Das Autorenfeld ist eine Zuordnung im Export, keine unabhängige Bestätigung der Urheberschaft.
Was wir gelesen haben: Ausgewählter Text aus einem bereitgestellten Export. Vollständige Diskussionsverläufe und Medien wurden nicht geprüft.
Das verlinkte Original wurde nicht unabhängig abgerufen. Das Lesen der bereitgestellten Kopie bestätigt nicht, wer sie verfasst hat.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Gelesen wurde der Text in einem vom Nutzer bereitgestellten Export. Die Bezeichnung Origin galt nicht als Nachweis der Urheberschaft; die Zuordnung nutzt das Autorenfeld UK_Daniel_Card. Das Online-Original lieferte 403. Das Datum folgt dem Zeitstempel des Exports, der keine Zeitzone angibt. Die Quelle belegt das Argument, Werkzeuge an Aufgaben auszurichten, keine allgemeingültige Aussage über Modelldeterminismus oder die Politik zur Entwicklung führender KI-Systeme. Die Kennzeichnung als gelesen gilt nur für den Text im bereitgestellten Export, nicht für das verlinkte Original. Das Autorenfeld ist eine Zuordnung im Export, keine unabhängige Bestätigung der Urheberschaft.
Was wir gelesen haben: Ausgewählter Text aus einem bereitgestellten Export. Vollständige Diskussionsverläufe und Medien wurden nicht geprüft.
Das verlinkte Original wurde nicht unabhängig abgerufen. Das Lesen der bereitgestellten Kopie bestätigt nicht, wer sie verfasst hat.
Keine archivierte Kopie verifiziert · Archivprüfung 2026-09-15
Die Wayback-Verfügbarkeitsabfrage lieferte HTTP 429 (Anfragen begrenzt). Keine Archivkopie wurde verifiziert. Daraus folgt nicht, dass keine existiert.
Gelesen wurde der Text in einem vom Nutzer bereitgestellten Export, nachdem das Autorenfeld mit UK_Daniel_Card abgeglichen worden war. Das Online-Original bei X lieferte 403. Das Datum folgt dem Zeitstempel des Exports, der keine Zeitzone angibt. Seine Warnung davor, aus einer Kritik das Gegenteil abzuleiten, bleibt als Einschränkung erhalten; der Beitrag enthält keine Gesamtschätzung katastrophaler Risiken. Die Kennzeichnung als gelesen gilt nur für den Text im bereitgestellten Export, nicht für das verlinkte Original. Das Autorenfeld ist eine Zuordnung im Export, keine unabhängige Bestätigung der Urheberschaft.
card-pwndefend-risk-framing-2026 · Quelle aus erster Hand AI: Fear it, so I can sell you the cure! PwnDefend / Daniel Card · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was wir gelesen haben: Der veröffentlichte Kommentar und sein Hinweis auf die KI-Unterstützung beim Schreiben.
Keine Archivprüfung dokumentiert.
Gelesen wurde die Originalseite, insbesondere der Vergleich mit einer digitalen Atomwaffe, die Risikoeinordnung und die abschließende Angabe zur Texterstellung. Dort steht, dass der Artikel mit Opus 4.8 anhand der Prompts des Autors erzeugt wurde und aus seiner Sicht im Wesentlichen zutrifft. Er wird als veröffentlichter, mit KI-Unterstützung erstellter Kommentar behandelt, nicht als unabhängig überprüfter technischer Beleg. Der Permalink enthält 2026/07/04, aber im abgerufenen Text wurde kein gesondertes Veröffentlichungsdatum angezeigt. Deshalb bleibt published null. Ein direkter Abrufversuch der Metadaten lieferte 403.
Was wir gelesen haben: Ausgewählter Text aus einem bereitgestellten Export. Vollständige Diskussionsverläufe und Medien wurden nicht geprüft.
Das verlinkte Original wurde nicht unabhängig abgerufen. Das Lesen der bereitgestellten Kopie bestätigt nicht, wer sie verfasst hat.
Keine Archivprüfung dokumentiert.
Der kopierte Beitrag zitiert Unterstützung für KI-Chancen und die Beteiligung von Fachleuten für Cybersicherheit und signalisiert anschließend ausdrücklich Zustimmung. Der zitierte Wortlaut wird nicht als Cards eigener Text dargestellt. Dies belegt Zustimmung zu Chancen, nicht eine Präferenz zum Fähigkeitszuwachs führender KI-Systeme. Gelesen wurde der bereitgestellte Export nach Abgleich des Felds Author Username mit UK_Daniel_Card und Entfernung doppelter Beitrags-IDs. Die ursprüngliche X-URL lieferte am 15. September 2026 HTTP 403. Die Kennzeichnung als gelesen gilt für den kopierten Text, nicht für das verlinkte Original, und bestätigt die Urheberschaft nicht unabhängig. Das Veröffentlichungsdatum folgt dem Export, ohne eine Zeitzone zuzuweisen. Vollständige Gesprächsverläufe und Medien wurden nicht geprüft.
Was wir gelesen haben: Ausgewählter Text aus einem bereitgestellten Export. Vollständige Diskussionsverläufe und Medien wurden nicht geprüft.
Das verlinkte Original wurde nicht unabhängig abgerufen. Das Lesen der bereitgestellten Kopie bestätigt nicht, wer sie verfasst hat.
Keine Archivprüfung dokumentiert.
Die kopierte Antwort behandelt Unterschiede zwischen Rechnerarchitekturen, Vorteile für Prototypen, Energiekosten und Risiken eines Technologieeinsatzes, bei dem Sicherheit erst später berücksichtigt wird. Sie dient zur Beschreibung des zugeschriebenen Arguments, nicht zur Überprüfung seiner technischen Aussagen oder historischen Beispiele. Gelesen wurde der bereitgestellte Export nach Abgleich des Felds Author Username mit UK_Daniel_Card und Entfernung doppelter Beitrags-IDs. Die ursprüngliche X-URL lieferte am 15. September 2026 HTTP 403. Die Kennzeichnung als gelesen gilt für den kopierten Text, nicht für das verlinkte Original, und bestätigt die Urheberschaft nicht unabhängig. Das Veröffentlichungsdatum folgt dem Export, ohne eine Zeitzone zuzuweisen. Vollständige Gesprächsverläufe und Medien wurden nicht geprüft.
Die ursprüngliche Kurzfassung und die Zitierangaben der Konferenz wurden gelesen. Die Ergebnisse betreffen drei kommerzielle Systeme zur Geschlechtsklassifikation und den Datensatz der Studie, nicht jede Gesichtsanalyse oder aktuelle Versionen. Der Einschränkungshinweis beschreibt den Geltungsbereich dieses historischen Belegs; eine unabhängige Wiederholung wurde nicht durchgeführt.
development-turing · Quelle aus erster Hand Computing Machinery and Intelligence Alan M. Turing / Mind; text hosted by Simon Fraser University · Veröffentlicht 1950 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die von einer Universität bereitgestellte Abschrift des Originalartikels wurde gelesen, darunter das Imitationsspiel, Einwände, digitale Computer und lernende Maschinen. Verwendet für Turings vorgeschlagene Fragen, nicht für die Behauptung, ein heutiges Modell bestehe einen allgemein anerkannten Intelligenztest.
Der datierte Vorschlag, seine ausdrücklich genannte Vermutung und die vorgeschlagenen Themen wurden gelesen. Die Quelle beschreibt Pläne für den Sommer 1956; die gesonderte institutionelle Geschichte von Dartmouth belegt, dass das Treffen stattfand.
development-dartmouth-history · Quelle aus erster Hand Our Story Dartmouth / AI at Dartmouth · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Der Rückblick der Institution auf das Treffen im Sommer 1956 und John McCarthys Rolle bei der Organisation wurde gelesen. Ein Veröffentlichungsdatum wird nicht genannt. Werbliche Aussagen und Ankündigungen heutiger Forschung werden nicht für das historische Ereignis verwendet.
Der von einer Universität bereitgestellte Originaltext wurde gelesen, insbesondere die Kurzfassung, die Regeln für Schlüsselwörter und Textzusammensetzung sowie das Beispiel zum Unglücklichsein, das Umformungen unabhängig von Bedeutung zeigt. Das Datum behält die Monatsgenauigkeit der Ausgabe bei.
development-backpropagation · Quelle aus erster Hand Learning representations by back-propagating errors David E. Rumelhart, Geoffrey E. Hinton and Ronald J. Williams / Nature · Veröffentlicht 1986-10-09 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die erste Seite des vom Autor bereitgestellten Scans, Seite 533, wurde visuell gelesen: Veröffentlichungsdatum, Kurzfassung und Erklärung der gewünschten Ausgaben und verborgenen Einheiten. Verwendet für die Methode und Aufgabenstellung des Artikels, nicht für die Behauptung, Backpropagation sei hier erstmals erfunden worden.
development-deep-blue · Quelle aus erster Hand Deep Blue IBM History · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
IBMs Darstellung des Rückkampfs vom Mai 1997, des Ergebnisses, der Suchhardware und der schachspezifischen Vorbereitung wurde gelesen. Dies ist der Rückblick des Herstellers; Aussagen zu weitergehenden Vorteilen für die Industrie werden nicht übernommen. Die Seite nennt den Wettkampfmonat, keinen genauen Tag.
Die Kurzfassung und die Abschnitte 1–3 des auf der Projektseite bereitgestellten Originalartikels wurden gelesen: Größe, WordNet-Kategorien, Bildsammlung, menschliche Kontrolle und die für die Analyse verwendete Teilmenge. Historische Zahlen beschreiben die Version des Artikels, nicht den heutigen Datensatz.
Die Kurzfassung, Einleitung und der Abschnitt zu Wettbewerbsergebnissen im Konferenz-PDF wurden gelesen. Das PDF beschreibt den siegreichen Beitrag von 2012 und die Grenzen von Bilddatensätzen. Seine Zahlen weichen vom älteren Kurzfassungstext auf der Übersichtsseite ab; deshalb ist hier das PDF maßgeblich.
development-alphago · Quelle aus erster Hand AlphaGo Google DeepMind · Veröffentlicht ohne Datum · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Abschnitte „Our approach“ und „The matches“ im Rückblick des Entwicklers wurden gelesen. Sie behandeln Expertenpartien, Selbstspiel, Suche und das Ergebnis gegen Lee Sedol vom März 2016. Allgemeine werbliche Aussagen zu Kreativität oder zur Lösung anderer Aufgaben werden nicht übernommen.
Kurzfassung und Einreichungsverlauf wurden gelesen: Textrepräsentationen, die beide Richtungen berücksichtigen, aufgabenspezifische Feinabstimmung und berichtete Ergebnisse bei elf Sprachaufgaben. Das Datum der Zeitleiste bezieht sich auf den ursprünglichen Vorabdruck, nicht auf die spätere Überarbeitung.
development-gpt3 · Quelle aus erster Hand Language Models are Few-Shot Learners Tom B. Brown and coauthors / OpenAI, arXiv · Veröffentlicht 2020-05-28 · Aktualisiert 2020-07-22 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die Kurzfassung, Abschnitte 4–5, Anhang C zu Überschneidungen zwischen Training und Tests sowie der Einreichungsverlauf wurden gelesen. Behandelt Beispiele in der Texteingabe, schwache Aufgabenbereiche und Überschneidungsprüfungen, die bei den meisten Tests geringe Auswirkungen finden, aber einige Ergebnisse kennzeichnen. Die Ergebnisse stammen aus dem Bericht der Modellentwickler.
development-chatgpt · Quelle aus erster Hand Introducing ChatGPT OpenAI · Veröffentlicht 2022-11-30 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Die ursprüngliche Ankündigung sowie die Abschnitte „Methods“ und „Limitations“ wurden gelesen. Die Seite bezeichnet sich inzwischen ausdrücklich als Einführung von 2022. Die Aussagen betreffen diese Startversion, einschließlich Gesprächstraining und berichteter Fehler, nicht jedes spätere ChatGPT-Modell.
development-gpt4 · Quelle aus erster Hand GPT-4 Technical Report OpenAI / arXiv · Veröffentlicht 2023-03-15 · Aktualisiert 2024-03-04 · Material zuletzt gelesen 2026-09-15
Was genau gelesen wurde, steht im Quellenhinweis.
Keine Archivprüfung dokumentiert.
Kurzfassung, Einleitung und Abschnitt „Scope and Limitations“ wurden gelesen; Veröffentlichungs- und Überarbeitungsdaten wurden mit der Kurzfassungsseite abgeglichen. Der Bericht belegt Bild- und Texteingaben, den Trainingsüberblick und zurückgehaltene technische Details. Leistungsaussagen werden OpenAI zugeschrieben.
Veröffentlichungsangaben, Kurzfassung, Hauptbeschreibung und „Model limitations“ wurden gelesen, darunter Molekülgeometrie, überlappende Atome und eingeschränkte Darstellungen möglicher Formen. Die Vergleiche sind Studienergebnisse der Autoren; daraus werden keine klinischen Ergebnisse oder Erfolge in der Arzneimittelentwicklung abgeleitet.
Die Kurzfassung und Abschnitt 5 der fest verlinkten ersten Version wurden gelesen, einschließlich Trainingsvarianten, kleinerer Modelle und Grenzen bei Werkzeugaufrufen, mehrstufigen Aufgaben, Sprachmischung und Eingaben. Dieser historische Eintrag verwendet bewusst v1, nicht den überarbeiteten Text vom Januar 2026. Die Ergebnisse stammen aus dem Bericht der Entwickler.
