Wir suchen zum frühestmöglichen Zeitpunkt einen Doktoranden, um die nachträgliche Steuerbarkeit von Sprachmodellen durch mechanistische Interpretierbarkeit voranzutreiben. Sie werden Methoden zur feinkörnigen Aktivierungssteuerung entwickeln, die eine sichere Verhaltensänderung ohne erneutes Training ermöglichen – eine entscheidende Voraussetzung für den Einsatz agentenbasierter Systeme in sicherheitskritischen Bereichen.
Die Stelle ist in ein gemeinschaftliches Forschungsprojekt eingebettet, das mechanistische Circuit-Analyse mit dem Entwurf sicherer KI-Systeme verbindet. Ihre Arbeit wird direkt dazu beitragen, zu verstehen, wie Modelle auf Neuronen- und Sparse-Feature-Ebene zuverlässig gesteuert werden können, während zuvor erlernte Fähigkeiten erhalten bleiben.
Wir legen Wert auf rigorose, methodisch fundierte Forschung: Von Ihnen wird erwartet, dass Sie sorgfältige Experimente entwerfen, in renommierten Fachzeitschriften veröffentlichen und sich an der Art offener, kritischer Diskussion von Ideen beteiligen, die das Fachgebiet voranbringt. Es handelt sich um Grundlagenforschung mit praktischen Auswirkungen, die auf dem Engagement unseres Labors für erklärbare und effiziente Sprachverarbeitung basiert.
Wichtig ist, dass Sie Teil eines vollständig integrierten interdisziplinären Teams sein werden, das sowohl SLIMS- als auch SAgA-Projekte umfasst. Ihre mechanistischen Erkenntnisse werden direkt in Sicherheitsarchitekturen einfließen, und Sie werden eng mit Forschern aus den Bereichen Interpretierbarkeit, mehrsprachige NLP, formale Ethik und agentische Systeme zusammenarbeiten.
Die Stelle ist in der Gruppe „Multilinguality and Language Technology“ (MLT) unter der Leitung von Dr. Marius Mosbach angesiedelt und wird auf Abteilungsebene von Prof. Kristian Kersting und Prof. Verena Wolf unterstützt; der Hauptbetreuer der Stelle ist Dr. Simon Ostermann, in dessen Team "Efficient and Explainable NLP" der/die Kandidat*in angesiedelt wird.
- Entwicklung und Validierung interpretierbarer Steuerungsmethoden, die auf bestimmte Rechenkreise ausgerichtet sind
- Analyse von Fehlermodi und Robustheit von Eingriffen auf Aktivierungsebene unter Verteilungsverschiebungen und Kompositionsszenarien
- Entwurf von Experimenten zur Quantifizierung der Orthogonalität zwischen Sicherheits-Interventionen und Task-abhängigen Repräsentationen
- Beitrag zur Skalierung von Steuerungsmethoden vom Proof-of-Concept bis hin zu produktionsreifer Robustheit
- Veröffentlichung der Ergebnisse in renommierten Fachzeitschriften (NeurIPS, ICML, ACL, ICLR)
Erforderliche Qualifikationen:
- Master-Abschluss oder gleichwertige Qualifikation in Informatik, NLP, maschinellem Lernen oder einem verwandten Fachgebiet
- Fundierte Kenntnisse in Deep Learning und neuronalen Netzwerkarchitekturen
- Erfahrung mit mechanistischen Interpretierbarkeitsmethoden (Circuit-Analyse, SAEs, Aktivierungs-Patching oder Ähnliches)
- Sicherer Umgang mit Python und PyTorch oder gleichwertigen Frameworks
- Fähigkeit, sowohl selbstständig als auch im Team zu arbeiten
Wünschenswerte Qualifikationen:
- Erfahrung mit Model Steering, causal interventions oder mechanistischer Analyse
- Vertrautheit mit Tools zur Interpretierbarkeit (z. B. TransformerLens, die SAE-Bibliothek von Anthropic)
- Nachweisbare Veröffentlichungen oder ausgeprägte Problemlösungskompetenz, die in früheren Arbeiten unter Beweis gestellt wurde
- Interesse an Forschung zu KI-Sicherheit und Alignment
- Wir bieten eine attraktive, marktgerechte Vergütung und viele weitere Benefits ( Urban Sports Club, Corporate Benefits, Zuschuss zum Jobticket u.v.m. )
- Zugang zu GPU-Clustern und Rechenressourcen
- Ein unterstützendes, intellektuell anspruchsvolles Forschungsumfeld, in dem kritische Diskussion und Methodik großgeschrieben werden
- Raum zur Entwicklung Ihrer eigenen wissenschaftlichen Identität und zur Verfolgung von Ideen in echter Unabhängigkeit
- Aktive Publikationskultur mit starker Unterstützung für die Teilnahme an Konferenzen und die Verbreitung von Forschungsergebnissen
- Einbindung in die breitere Forschungsgemeinschaft zur mechanistischen Interpretierbarkeit
- Kooperative, respektvolle Laborkultur, die sowohl wissenschaftliche Genauigkeit als auch das Wohlbefinden der Menschen schätzt
Das Deutsche Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) wurde 1988 als gemeinnützige Public-Private-Partnership (PPP) gegründet. Das DFKI verbindet wissenschaftliche Spitzenleistung und wirtschaftsnahe Wertschöpfung mit gesellschaftlicher Wertschätzung. Das DFKI forscht seit über 35 Jahren an KI für den Menschen und orientiert sich an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz in den entscheidenden zukunftsorientierten Forschungs- und Anwendungsgebieten der Künstlichen Intelligenz. In der internationalen Wissenschaftswelt zählt das DFKI zu den wichtigsten „Centers of Excellence“.
Schwerbehinderte Bewerberinnen und Bewerber und Gleichgestellte werden bei gleicher Eignung besonders berücksichtigt. Das DFKI beabsichtigt, den Anteil von Frauen im Wissenschaftsbereich zu erhöhen und fordert deshalb Frauen ausdrücklich auf, sich zu bewerben.
