AI DevOps Engineer * (all Levels)
- Berlin
- deutschlandweit
- Frankfurt a. M.
- Hamburg
- Köln
- München
- Nürnberg
- Paderborn
- Stuttgart
- Präsenz / Mobil
- Berufserfahrung (Junior Level)
- Berufserfahrung (Senior Level)
- Voll/Teilzeit
- Publiziert: 19.08.2026
Vollzeit oder Teilzeit (32–40 Std./Woche) | ab sofort | deutschlandweit, hybrid oder remote
Deine RAG-Pipeline läuft im Notebook, aber niemand hat sie in Produktion gebracht? Genau das lösen wir. Das UNITY AI Booster Team bringt LLM- und Agentic-AI-Systeme unserer Kunden zuverlässig, sicher und wirtschaftlich live.
Das UNITY AI Booster Team
Das UNITY AI Booster Team ist UNITYs Entwicklereinheit für die Entwicklung und Implementierung von KI-Lösungen in den Geschäftsprozessen unserer Kunden. Wir entwickeln Lösungen mit hoher Technologiebandbreite, von Machine Learning Use Cases, LLM Use Cases oder eigenen Agentenplattformen. Anders als unsere Consultants sind wir näher am Code: Wir arbeiten im Projekt mit den Consultants zusammen, bauen und betreiben aber die technische Plattform dahinter.
Das erwartet dich
Infrastruktur für produktive KI-Anwendungen bauen und betreiben – von der Dev-Umgebung über CI/CD bis zum stabilen Betrieb beim Kunden und außerdem:
- LLM- und Agentic-AI-Systeme in Betrieb bringen: Inferenz- und Model-Serving-Endpunkte, Vektordatenbanken, RAG-Pipelines, MCP-Server – skalierbar, sicher, kostenbewusst.
- Observability und Qualität verantworten: Latenzen, Token- und Infrastrukturkosten, Agenten-Tracing, automatisierte Eval- und Regressionstests.
- Konsequent automatisieren statt Handarbeit: Infrastructure as Code, GitOps, containerisierte, reproduzierbare Deployments.
- Sicherheit und Compliance sicherstellen: Secrets- und Zugriffsmanagement, Guardrails, Nachvollziehbarkeit nach EU AI Act.
- Kunden bei Architektur- und Betriebsentscheidungen beraten – als technischer Sparringspartner*, nicht als Kundenmanager*.
Was du hier lernst
- MLOps-/LLMOps-Patterns im echten Kundenbetrieb statt im Lehrbuch.
- Wie man KI-Systeme so baut, dass sie den EU AI Act überstehen, statt ihn nachträglich zu reparieren.
- Den Sprung vom PoC zur produktiven, kosten- und latenzbewussten Plattform.
Das bringst du mit
- Mehrjährige Erfahrung in Entwicklung und Betrieb von Software.
- Senior-Rolle: mehrjährige Praxis im Design und Betrieb produktiver Systeme
- Solide DevOps-Basis: Container/Kubernetes, CI/CD, agiles Entwicklungsumfeld.
- Cloud-Erfahrung (AWS, Azure oder GCP), Deployment als Container, API oder Serverless.
- Praxis mit Infrastructure as Code (z. B. Terraform, Ansible, Helm oder GitOps).
- Python plus mindestens eine weitere Sprache (Go, TypeScript/JavaScript, Java, C# oder Shell).
- Grundverständnis von LLM-Systemen: RAG-Architekturen, Prompting, Agenten-Frameworks (z. B. LangChain, LangGraph, AutoGen, CrewAI).
- Deutsch ab C1, Englisch ab B2 – sicher im Kundenkontakt, auch mal einen Workshop leiten.
- Studienabschluss in (Wirtschafts-)Informatik, Data Science, KI oder vergleichbar – oder gleichwertige Praxis als Quereinsteiger* z.B. mit einer abgeschlossenen Ausbildung als Fachinformatiker * Systemintegration.
Idealterweise bringst du zusätzlich mit:
- MLOps-/LLMOps-Praxis inkl. Evaluation von LLM-Pipelines.
- AI-Observability-Tools (Langfuse, LangSmith, Arize, OpenTelemetry-basiert).
- Vektordatenbanken (Elasticsearch, pgvector, Qdrant o. ä.) und MCP (Model Context Protocol).
- Model Serving/GPU-Betrieb (vLLM, Ray, KServe, Triton), FinOps für KI-Workloads.
- Eigene Open-Source-Projekte oder Community-Beiträge.
- Bereitschaft zu gelegentlichem Bereitschaftsdienst (nur tagsüber, vergütet).
Für wen das hier nichts ist:
- Wer beim PoC aufhört und Produktionsbetrieb für das Problem von jemand anderem hält.
- Wer Kundenkontakt komplett vermeiden will – ihr sprecht mit IT-Verantwortlichen auf Augenhöhe, das gehört dazu.
- Wer lieber Tools evaluiert, als Systeme zu verantworten, die nachts nicht ausfallen dürfen.
Das bieten wir dir & über uns
Verwirkliche mit uns deine Big Five for Life** in einer Kultur, die geprägt ist von Vertrauen, Authentizität und Zusammenhalt.
Benefits, über die du dich bald freuen kannst:
- Verwirklichung eigener Ideen sowie unternehmerischer Freiraum
- Flexible Arbeitsmodelle (u. a. HomeOffice Möglichkeit)
- Sabbaticals
- Persönliches Coaching, Mentoring & UNITYacademy
- JobRad, UrbanSports uvm.
Über uns
UNITY ist die Managementberatung für Innovation und digitale Transformation. Dabei setzen wir insbesondere auf Künstliche Intelligenz als Schlüsseltechnologie für Effizienz und Wachstum. Mit 380 Mitarbeitern sind wir weltweit an 15 Standorten vertreten und führen rund um den Globus Kundenprojekte durch.
Unsere Standorte, an denen du deutschlandweit arbeiten kannst: Berlin, Braunschweig, Frankfurt a. M., Hamburg, Köln, München, Nürnberg, Paderborn/Büren oder Stuttgart.
* UNITY lebt Vielfalt und Chancengleichheit. Bei uns ist jeder unabhängig von Herkunft, Geschlecht, sexueller Orientierung, Handicap, Religion und Alter willkommen.
** Die Big5forLife sind ein Coaching-Impuls aus dem Bereich der individuellen Visions-Bildung von John Strelecky.
Dein persönlicher Kontakt
Bewirb dich jetzt mit wenigen Klicks. Du findest mehrere Stellen interessant? Einmal bewerben reicht: Dein Können wird für alle Stellen geprüft.
Bei Fragen zu deiner Bewerbung melde dich gerne bei Markus (Candidate Experience Manager).
Du hast fachliche Fragen? Dann freut sich Moritz (Head of AI Development) auf deine Kontaktaufnahme.
- Markus Stephan
- +49 221 789587-728
- Moritz Siegert
- +49 711 686890-484
