Im Zentrum des Forschungsbereichs der neuro-mechanistischen Modellierung stehen hybride Ansätze, die mechanistische und KI-basierte Modelle kombinieren. In den zugehörigen Forschungsprojekten sollen Lösungen für Probleme erarbeitet werden, die sowohl die hohe Modellkomplexität neuronaler Netze als auch die Integration mechanistischer Beschreibungen erfordern oder von den kombinierten Vorteilen besonders profitieren. So erlauben neuro-mechanistische Modelle im Gegensatz zu rein neuronalen Modellen die Integration von Domänenwissen und können auch dann sehr gute Ergebnisse erzielen, wenn nur moderate Datenmengen zur Verfügung stehen - was beispielsweise häufig in den Lebenswissenschaften ein Problem ist. Sie sind leichter interpretierbar und generalisieren häufig besser für unbekannte Eingaben.
Wir suchen zum nächstmöglichen Zeitpunkt eine*n Postdoktoranden*in für ein neues Projekt zur sicheren, kontrollierbaren agentenbasierten KI für regulierte und sicherheitskritische Bereiche. Das Projekt geht davon aus, dass Sicherheitsbeschränkungen explizit, überprüfbar und nach der Bereitstellung aktualisierbar sein sollten, anstatt während des Trainings in Modellgewichte komprimiert und anschließend mit Ausgabefiltern nachgerüstet zu werden. Die Arbeit gliedert sich in drei Schwerpunkte: Verhaltenssteuerung nach der Bereitstellung durch Eingriffe in die Modellinterna; formale Modellierung der einschränkenden Normen in separaten Schichten, um rechtliche, organisatorische, ethische und präferenzbasierte Dimensionen voneinander zu trennen; sowie Mechanismen, die das autonom generierte Verhalten des Agenten innerhalb dieser Einschränkungen halten.
Diese Position erstreckt sich über alle drei Schwerpunkte, was sie aus zwei Gründen zu einer echten Forschungsaufgabe und nicht zu einer rein koordinierenden Rolle macht:
Erstens dreht sich das Projekt um die Frage, ob das, was die normative Spezifikation zulässt, was die Laufzeitsteuerung tatsächlich durchsetzt und was der Agent autonom übernehmen darf, miteinander im Einklang stehen. Diese Eigenschaft präzise zu formulieren und festzustellen, was diesbezüglich garantiert werden kann und was nicht, erfordert Kenntnisse sowohl in der symbolischen Spezifikation als auch in modellinternen Eingriffen und der autonomen Aufgabengenerierung. Diese Frage ist unseres Wissens nach weitgehend offen.
Der zweite Grund ist, dass die Aussage in einem laufenden System gelten muss. Sie sind dafür verantwortlich, die drei Stränge zu einer integrierten, funktionierenden Implementierung zusammenzuführen, die Schnittstellen zu entwerfen, auf die sie sich beziehen, und das Ergebnis durchgängig zu bewerten. Die Doktoranden des Projekts arbeiten vertieft an einzelnen Strängen; diese Postdoc-Stelle übergreift und koordiniert diese und verfügt über die entsprechende Entscheidungsbefugnis hinsichtlich der Schnittstellen zwischen ihnen.
Wir bekennen uns zu rigoroser, methodisch fundierter Forschung, in der Ideen kritisch geprüft und Hypothesen – ob bestätigt oder widerlegt – offen veröffentlicht und diskutiert werden. Unsere Laborkultur legt Wert auf intellektuelle Integrität, unterstützende Zusammenarbeit und Raum für Forscher*innen, ihre eigene wissenschaftliche Identität zu entwickeln.
Die Stelle erstreckt sich über drei DFKI-Forschungsgruppen: Neuro-Mechanistic Modeling (NMM, Prof. Verena Wolf), Foundations of Systems AI (SAINT, Prof. Kristian Kersting) und Multilinguality and Language Technology (MLT, Dr. Marius Mosbach), was den Umfang des Projekts in den Bereichen formale Ethik und normatives Denken, agentisches Systemdesign sowie mechanistische Interpretierbarkeit widerspiegelt. Die Hauptbetreuer für diese Stelle sind Dr. Kevin Baum, Dr. Dominik Hintersdorf und Dr. Simon Ostermann.
Das Deutsche Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) wurde 1988 als gemeinnützige Public-Private-Partnership (PPP) gegründet. Das DFKI verbindet wissenschaftliche Spitzenleistung und wirtschaftsnahe Wertschöpfung mit gesellschaftlicher Wertschätzung. Das DFKI forscht seit über 35 Jahren an KI für den Menschen und orientiert sich an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz in den entscheidenden zukunftsorientierten Forschungs- und Anwendungsgebieten der Künstlichen Intelligenz. In der internationalen Wissenschaftswelt zählt das DFKI zu den wichtigsten „Centers of Excellence“.
Schwerbehinderte Bewerberinnen und Bewerber und Gleichgestellte werden bei gleicher Eignung besonders berücksichtigt. Das DFKI beabsichtigt, den Anteil von Frauen im Wissenschaftsbereich zu erhöhen und fordert deshalb Frauen ausdrücklich auf, sich zu bewerben.
