Nutze dieses Material für eine Gruppendiskussion oder zum selbstständigen Lesen. Beginne mit der Karte, vergleiche die Bezeichnungen und prüfe dann die Belege hinter einer Erklärung.
Mit KI-Unterstützung erstellt. Nicht unabhängig auf Richtigkeit geprüft. Prüfe die Quellen und Einschränkungen, bevor du Schlussfolgerungen ziehst.
Bitte die Teilnehmenden, den Wortlaut einer Quelle von ihrer eigenen Interpretation zu unterscheiden. Lass gut begründeten Widerspruch zu einer Kartenposition zu. Halte Unsicherheiten fest und notiere, welche zusätzlichen Belege helfen würden.
Haltet zum Abschluss eine Aussage, ihre Quelle, eine Einschränkung und eine offene Frage fest.
Die PDF enthält die Karte mit ausgeschriebenen Namen. Nutze auf einem kleinen Bildschirm die interaktive Karte oder die lesbare Liste. Karte.
Mit KI-Unterstützung erstellt. Nicht unabhängig auf Richtigkeit geprüft. Prüfe die Quellen und Einschränkungen, bevor du Schlussfolgerungen ziehst.
Die Karte fasst ausgewählte öffentliche Aussagen zusammen. Von links nach rechts zeigt sie das bevorzugte Tempo der Entwicklung fortgeschrittener KI. Von unten nach oben zeigt sie die geäußerte Sorge vor katastrophalen Schäden. Ein Punkt ist unsere Interpretation, keine Wahrscheinlichkeit und keine Zuordnung zu einer Gruppe. Eine nicht eingeordnete Person hat keinen Punkt, weil die geprüften Belege nicht beide Achsen abdecken. Die Karte lesen und ihre Grenzen verstehen.
Diese kurzen Erklärungen enthalten auch Einschränkungen. Eine Bewegung, ein Forschungsfeld und eine von Kritikern verwendete Bezeichnung sind unterschiedliche Dinge.
KI ist ein Gebiet der Informatik. Ihre Systeme nutzen Computerprogramme und Hardware, um Muster zu erkennen, Inhalte zu erzeugen oder Vorhersagen zu berechnen. [23] [22] [14]
Beachte: KI und künstliche allgemeine Intelligenz (AGI) sind verschiedene Begriffe. Ein System kann eine bestimmte Aufgabe gut erfüllen, ohne breite Fähigkeiten auf menschlichem Niveau zu besitzen. [10]
Ein LLM ist ein Modell, das für die Verarbeitung von Sprache trainiert wurde. Computersoftware führt es aus und erzeugt bei der Texterzeugung eine Antwort Stück für Stück. [16] [17] [15]
Beachte: Ein Modell kann einen überzeugenden Satz erzeugen, ohne ihn mit einer externen Quelle abzugleichen. Suchfunktionen oder andere Werkzeuge muss die umgebende Anwendung bereitstellen. [13] [18]
Eine Bewegung, die schnelleres technisches Wachstum befürwortet und zentralisierte Beschränkungen ablehnt. Die Behauptung, Beschleunigung führe zu besseren Ergebnissen, ist eine philosophische Position, keine nachgewiesene Sicherheitsgarantie. [3] [4]
Beachte: Allgemeiner Technikoptimismus bedeutet keine e/acc-Zugehörigkeit. Die thermodynamischen Argumente der Bewegung belegen nicht, dass KI sicher ist. Buterin setzt einen Gegenpunkt: Gewinnstreben allein wählt nicht automatisch nützliche Entwicklungsrichtungen aus. [4] [6]
Ein informeller, oft abwertender Begriff für den Wunsch nach langsamerer KI-Entwicklung. Prüfe, welche Grenzen die Person tatsächlich befürwortet. [4]
Beachte: Eine Sicherheitsregel, eine Pause bei den leistungsfähigsten KI-Systemen und die Ablehnung aller Technik sind verschiedene Positionen. Laut PauseAI wären spezialisierte Anwendungen vom vorgeschlagenen Vertrag meist nicht betroffen. Die Gruppe schlägt aber auch vor, längerfristige Grenzen für Forschung und Hardware zu erwägen. [8]
Ein umstrittener Begriff für Menschen, die katastrophale KI-Risiken betonen. Besorgnis bedeutet nicht, eine Katastrophe für unausweichlich zu halten. [5] [9]
Beachte: Die CAIS-Erklärung fordert, das Risiko des Aussterbens zu verringern. Sie erklärt das Aussterben weder für sicher noch nennt sie eine gemeinsame Wahrscheinlichkeit. Der Atlas bezeichnet niemanden automatisch als Doomer. [9]
Eine Gemeinschaft, die wirksame Wege sucht, anderen zu helfen. Kritiker fragen, wessen Maßstäbe für Nutzen zählen und wie viel Macht Geldgeber haben sollten. [2] [19] [20]
Beachte: Alice Crary argumentiert, dass Nutzenmaße politische Ursachen von Schäden übersehen können. Emma Saunders-Hastings warnt vor der Macht von Geldgebern über Menschen, die Hilfe erhalten. Die EA-Website erwidert, dass institutioneller Wandel zu ihrem Ansatz gehört und EA nicht utilitaristisch sein muss. Diese Debatten betreffen die Definition von Hilfe und die Entscheidungsgewalt darüber. EA, Longtermismus und KI-Sicherheit sind nicht austauschbar. [19] [20] [21] [7]
Forschung mit dem Ziel, KI-Schäden zu verringern sowie Verlässlichkeit und Ausrichtung auf vorgesehene Ziele zu verbessern. Ein Sicherheitsziel oder ein Regelwerk beweist nicht, dass ein System sicher ist. [12] [11] [1]
Beachte: Ein Sicherheitsrahmen hält erklärte Schutzmaßnahmen fest. Er garantiert weder deren sichere Umsetzung noch liefert er eine gemessene Katastrophenwahrscheinlichkeit. [1]
Die persönliche Einschätzung, wie wahrscheinlich eine KI-Katastrophe ist. Prüfe, auf welche Folgen, welchen Zeitraum und welche Annahmen sich die Zahl bezieht. [5] [24]
Beachte: Dies sind Einschätzungen, keine gemessenen Katastrophenraten. Grace und Kollegen fragten nach verschiedenen Folgen, Kontrollverlust und Zeitgrenzen. Sie warnen: KI-Fachwissen garantiert keine guten Vorhersagen, und wer teilnimmt, kann die Ergebnisse beeinflussen. Sie halten die Schätzungen der Forschenden dennoch für nützlich. [24]
Wähle zwei Personen. Was sagt jede über das Entwicklungstempo und was über katastrophale Risiken?
Vergleiche e/acc, Decel und Doomer. Welche Bezeichnungen verwenden Befürworter selbst und welche tauchen in Kritik auf?
Stell dir eine Anwendung vor, die E-Mail-Antworten entwirft. Vergleiche einen Entwurf, den ein Mensch prüft, mit einer Antwort, die die Anwendung automatisch versendet.
Deine Notizen und Quellenlinks
Die Zahlen neben den Erklärungen verweisen auf die angegebenen Veröffentlichungen unten. Die vollständigen Lesehinweise und Einschränkungen des Quellenabrufs sind bei jedem Begriff verlinkt. Ein Quellenverweis beweist nicht, dass der Autor recht hat.
https://deepmind.google/blog/strengthening-our-frontier-safety-framework/
https://www.effectivealtruism.org/articles/introduction-to-effective-altruism
https://effectiveaccelerationism.substack.com/p/what-the-f-is-eacc
https://effectiveaccelerationism.substack.com/p/repost-notes-on-eacc-principles-and
https://lexfridman.com/guillaume-verdon-transcript/
https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html
https://www.williammacaskill.com/longtermism
https://pauseai.org/proposal
https://aistatement.com/work/statement-on-ai-extinction-risk
https://arxiv.org/abs/2311.02462
https://arxiv.org/abs/1906.01820
https://arxiv.org/abs/1606.06565
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
https://developers.google.com/machine-learning/glossary
https://developers.google.com/machine-learning/crash-course/llm/transformers
https://huggingface.co/learn/llm-course/en/chapter2/3
https://huggingface.co/docs/transformers/en/llm_tutorial
https://huggingface.co/docs/transformers/en/chat_extras
https://www.radicalphilosophy.com/article/against-effective-altruism
https://www.bostonreview.net/forum/peter-singer-logic-effective-altruism/response-emma-saunders-hastings/
https://www.effectivealtruism.org/faqs
https://csrc.nist.gov/glossary/term/software
https://www.oecd.org/content/dam/oecd/en/publications/reports/2024/03/explanatory-memorandum-on-the-updated-oecd-definition-of-an-ai-system_3c815e51/623da898-en.pdf
Mit KI-Unterstützung erstellt. Nicht unabhängig auf Richtigkeit geprüft. Prüfe die Quellen und Einschränkungen, bevor du Schlussfolgerungen ziehst.
Dies ist der Stand des Datensatzes, nicht das Datum, an dem jede Quelle gelesen wurde. Der gespeicherte Datensatz bewahrt genau die Belege, auf denen dieses Material beruht.
Prüfe die aktuellen Erklärungen und veröffentlichten Änderungen, bevor du älteres Material erneut verwendest. Inhaltliche Änderungen.
Erstellt von Timo Fahlenbock · Impressum
