Aufgaben
- Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
-
Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
-
Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
-
Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
-
Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
-
Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen
-
Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit
-
Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
-
Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
-
Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
-
Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle
-
Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI
Skills
- Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation
-
Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
-
Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen
-
Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen
-
Sehr gute Kenntnisse in Kubernetes, Docker und Linux
-
Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL
-
Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
-
Solide Python-Kenntnisse für Automatisierung und Integrationen
-
Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein
-
Ausgeprägtes Architektur- und Platformverständnis
Was wir bieten
- Bei uns erwartet dich eine offene und kooperative Unternehmenskultur sowie eine vertrauensvolle Arbeitsatmosphäre
-
Selbstverständlich erhältst du eine umfassende Einarbeitung mit Unterstützung des gesamten AIS Teams mit flachen Hierarchien – kurzen Entscheidungswegen und hoher Gestaltungsfreiheit
-
Strategische Gestaltungsrolle mit großem Einfluss auf die zukünftige Plattformlandschaft
-
Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen
-
Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien
-
Die Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten
-
Individuelles Weiterbildungsbudget für Konferenzen, Zertifizierungen und Fachtrainings
-
Klare Karriere- und Entwicklungspfade
-
Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte
-
Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen
-
Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven
Du möchtest nicht nur Systeme betreiben, sondern eine strategisch zentrale Plattform von Grund auf mitgestalten? Du bewegst dich sicher zwischen Kubernetes-Clustern, CI/CD-Pipelines und modernen KI-Technologien? Dann bist Du bei uns genau richtig!