20 beste Stellen als devops in köln, nw – aktuell auf Personalsuche

Senior AI DevOps / LLMOps
TechBiz Global GmbH —Köln
- Vollzeit
- Homeoffice
- Azure
- DevOps
- Master
Direkt bewerben
(Junior) DevOps Engineer (m/w/d) Mobilfunk
CHECK24 —Köln
- Vollzeit
- Homeoffice
- Englisch
- Datenbanken
- APIs
- Homeoffice-Möglichkeit
- Weiterbildungsprogramme
Expert*in Identity & Access Management - Schwerpunkt Keycloak (all genders)
Zentrale der Fraunhofer-Gesellschaft —Bonn
- Teilzeit
- Azure
- Analysefähigkeit
- Homeoffice-Möglichkeit
- Weiterbildungsprogramme
DevOps Coach & Tool Integration Expert (w|m|d)
BridgingIT GmbH —Köln
- 50.000 € – 89.000 € pro Jahr
- Vollzeit
- Homeoffice
- Azure
- DevOps
- AWS
- Weiterbildungsprogramme
- Flexible Arbeitszeiten
Direkt bewerben
DevOps & Kubernetes Engineer (m/w/d)
DEUTZ AG —Köln
- Vollzeit
- Hybrides Arbeiten
- Informatik
- DevOps
- Englisch
- Gleitzeit
- Weiterbildungsprogramme
2 Tage
Associate - AI Tech Architecture (all genders) - BCG Platinion Vienna, Austria
BCG Platinion —Köln
- Ab 60.000 € pro Jahr
- Arbeitgeber anrufen
- Informatik
- Englisch
- Machine Learning
- Weiterbildungsprogramme
DevSecOps Engineer Softwareentwicklung (m/w/d)
Deloitte GmbH —Köln
- Online-Bewerbung
- DevOps
- Englisch
- Java
- Weiterbildungsprogramme
- Aufstiegsmöglichkeiten
MLOps Engineer – Azure & AI/ML Platforms (m/f/d)
KI group GmbH —Köln
- Vollzeit
- Hybrides Arbeiten
- Azure
- Datenbanken
- Bachelor
Senior DevOps Engineer (w|m|d)
CraftingIT GmbH —Köln
- Vollzeit
- Azure
- DevOps
- Englisch
- Weiterbildungsprogramme
- Flexible Arbeitszeiten
Direkt bewerben
Senior System Administrator (m/w/d)
INFODAS —Köln
- Vollzeit
- Informatik
- Englisch
- Erfahrung in der IT
- Homeoffice-Möglichkeit
- Mitarbeiter-Rabatt
Direkt bewerben
Senior Consultant GenAI & Agentic AI (m/w/d)
Deloitte Consulting GmbH —Köln
- Teilzeit
- Azure
- Informatik
- Englisch
- Weiterbildungsprogramme
- Aufstiegsmöglichkeiten
IT Manager:in (m/w/d) – Plattformen & Systemlandschaften
tridion benefits —Köln
- Hybrides Arbeiten
- Azure
- DevOps
- Englisch
- Homeoffice-Möglichkeit
- Weiterbildungsprogramme
Senior DevOps Consultant (m/w/d)
AOK Systems GmbH —Bonn
- Hybrides Arbeiten
- Informatik
- DevOps
- AWS
- Gleitzeit
- Weiterbildungsprogramme
6 Tage
Frontend Developer (f/m/d)
ONIQ GmbH —Köln
- Vollzeit
- Informatik
- Master
- Produktion
- Flexible Arbeitszeiten
Senior DevOps Engineer Softwareentwicklung (w/m/d)
Bechtle —Sankt Augustin
- DevOps
- Linux
Cloud Software Engineer (m/w/d)
Deloitte Consulting GmbH —Köln
- Teilzeit
- Azure
- Englisch
- Java
- Weiterbildungsprogramme
- Aufstiegsmöglichkeiten
DevOps Engineering Manager (m/w/d)
ImmoScout24 —Bonn
- DevOps
- Englisch
- Teamleitung
- Weiterbildungsprogramme
Direkt bewerben
Werkstudent (m/w/d) AI Automation & Agent Engineering
agentic fox AI solutions GmbH —Köln
- 17 € – 25 € pro Stunde
- Teilzeit
- Hybrides Arbeiten
- Informatik
- Englisch
- Master
- Homeoffice-Möglichkeit
- Flexible Arbeitszeiten
Direkt bewerben
Cloud AI Architect (m/w/d)
KI group GmbH —Köln
- Vollzeit
- Hybrides Arbeiten
- Azure
- Englisch
- Master
Forward Deployed Engineer (m/f/d)
KI group GmbH —Köln
- Vollzeit
- Hybrides Arbeiten
- Azure
- Master
- Bachelor

Ich möchte aktuelle Job-E-Mails für Stellen als devops in köln, nw erhalten

Wenn Sie sich bei Ihrem Konto anmelden, stimmen Sie den Nutzungsbedingungen, den Richtlinien zur Verwendung von Cookies sowie der Datenschutzerklärung von SimplyHired zu.

Weitere Job-Standorte erkunden

devops jobs near köln, nw

Senior AI DevOps / LLMOps

TechBiz Global GmbH
Köln

Direkt bewerben

Details zur Stelle

Vollzeit

Qualifikationen

CI/CD
Azure
Kubernetes
Ansible
DevOps
Master
AWS
Bachelor
Virtualisierung
Terraform
GitHub
A/B-Test
Künstliche Intelligenz
GitLab

Vollständige Stellenbeschreibung

At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio. We are currently seeking an Senior AI DevOps / LLMOps specialist to join one of our clients' teams. If you're looking for an exciting opportunity to grow in a innovative environment, this could be the perfect fit for you.

Key Responsibilities

Automation of Build-to-Production
Design and implement robust CI/CD pipelines tailored for AI, covering model weights,

dataset versioning, and application code.

Develop specialized workflows for PromptOps, ensuring that system prompts are

version-controlled, tested for regressions, and deployed with the same rigor as traditional

code.

Automate the deployment of Agentic workflows, managing the complexities of stateful

AI interactions and multi-agent handoffs.

2. AI Infrastructure as Code (IaC)

Provision and manage high-performance compute environments (GPU clusters, TPU

pods) using Terraform, Pulumi, or Ansible.

Define and enforce Policy-as-Code for AI endpoints to ensure compliance with security,

cost-usage limits, and data residency requirements.

Maintain a consistent environment across Hybrid Infrastructure, ensuring seamless

parity between On-Premises development and Cloud production.

3. Safe Experimentation & Controlled Releases

Architect Progressive Delivery strategies for AI, including Canary releases, Blue-Green

deployments, and Shadowing (where new models run in parallel with production to

compare outputs).

Build “Evaluation-in-the-Loop” gates within the pipeline to automatically test for bias,

hallucination, and performance degradation before a release.

Implement A/B testing frameworks specifically designed for LLM outputs and agentic

behavior.

4. Monitoring & Observability

- Establish deep observability into Inference Endpoints, tracking metrics like tokens-per-

second, latency, and drift in model accuracy.

Integrate feedback loops that capture production “edge cases” to feed back into the

training and fine-tuning pipelines.

Must-Have Technical Skills:

Orchestration: Advanced Kubernetes (K8s) skills, specifically with KubeFlow, Ray, or

NVIDIA Triton.

CI/CD & IaC: Expertise in GitHub Actions/GitLab CI, and Terraform or Pulumi.
AI Tooling: Experience with Weights & Biases, MLflow, LangSmith, or Arize

Phoenix.

Hardware: Understanding of GPU virtualization, CUDA drivers, and on-premises

hardware management.

Security: Familiarity with Open Policy Agent (OPA) and secret management (Vault).

Experience:

10+ years in DevOps, SRE, or Cloud Engineering.
2+ years of hands-on experience in MLOps or LLMOps, specifically moving LLMs

from notebook to production.

Proven experience managing Hybrid Cloud environments (e.g., AWS/Azure + Private

Data Center).

Direkt bewerben

Erweiterte Suche

devops Jobs in köln, nw

Senior AI DevOps / LLMOps

(Junior) DevOps Engineer (m/w/d) Mobilfunk

Expert*in Identity & Access Management - Schwerpunkt Keycloak (all genders)

DevOps Coach & Tool Integration Expert (w|m|d)

DevOps & Kubernetes Engineer (m/w/d)

Associate - AI Tech Architecture (all genders) - BCG Platinion Vienna, Austria

DevSecOps Engineer Softwareentwicklung (m/w/d)

MLOps Engineer – Azure & AI/ML Platforms (m/f/d)

Senior DevOps Engineer (w|m|d)

Senior System Administrator (m/w/d)

Senior Consultant GenAI & Agentic AI (m/w/d)

IT Manager:in (m/w/d) – Plattformen & Systemlandschaften

Senior DevOps Consultant (m/w/d)

Frontend Developer (f/m/d)

Senior DevOps Engineer Softwareentwicklung (w/m/d)

Cloud Software Engineer (m/w/d)

DevOps Engineering Manager (m/w/d)

Werkstudent (m/w/d) AI Automation & Agent Engineering

Cloud AI Architect (m/w/d)

Forward Deployed Engineer (m/f/d)

Ich möchte aktuelle Job-E-Mails für Stellen als devops in köln, nw erhalten

Related Searches

Weitere Job-Standorte erkunden

Tools für Jobsuchende

Arbeitgebertools

Durchsuchen

Bleiben Sie in Kontakt