AI DevOps Engineer

Vollzeit oder Teilzeit (32–40 Std./Woche) | ab sofort | deutschlandweit, hybrid oder remote

Deine RAG-Pipeline läuft im Notebook, aber niemand hat sie in Produktion gebracht? Genau das lösen wir. Das UNITY AI Booster Team bringt LLM- und Agentic-AI-Systeme unserer Kunden zuverlässig, sicher und wirtschaftlich live.

Das UNITY AI Booster Team

Das UNITY AI Booster Team ist UNITYs Entwicklereinheit für die Entwicklung und Implementierung von KI-Lösungen in den Geschäftsprozessen unserer Kunden. Wir entwickeln Lösungen mit hoher Technologiebandbreite, von Machine Learning Use Cases, LLM Use Cases oder eigenen Agentenplattformen. Anders als unsere Consultants sind wir näher am Code: Wir arbeiten im Projekt mit den Consultants und unserem Procurement X Team zusammen, bauen und betreiben aber die technische Plattform dahinter.

Das erwartet dich

Infrastruktur für produktive KI-Anwendungen bauen und betreiben – von der Dev-Umgebung über CI/CD bis zum stabilen Betrieb beim Kunden und außerdem:

• LLM- und Agentic-AI-Systeme in Betrieb bringen: Inferenz- und Model-Serving-Endpunkte, Vektordatenbanken, RAG-Pipelines, MCP-Server – skalierbar, sicher, kostenbewusst.

• Observability und Qualität verantworten: Latenzen, Token- und Infrastrukturkosten, Agenten-Tracing, automatisierte Eval- und Regressionstests.

• Konsequent automatisieren statt Handarbeit: Infrastructure as Code, GitOps, containerisierte, reproduzierbare Deployments.

• Sicherheit und Compliance sicherstellen: Secrets- und Zugriffsmanagement, Guardrails, Nachvollziehbarkeit nach EU AI Act.

• Kunden bei Architektur- und Betriebsentscheidungen beraten – als technischer Sparringspartner*, nicht als Kundenmanager*.

Was du hier lernst

• MLOps-/LLMOps-Patterns im echten Kundenbetrieb statt im Lehrbuch.

• Wie man KI-Systeme so baut, dass sie den EU AI Act überstehen, statt ihn nachträglich zu reparieren.

• Den Sprung vom PoC zur produktiven, kosten- und latenzbewussten Plattform.

Das bringst du mit

• Mehrjährige Erfahrung in Entwicklung und Betrieb von Software.

• Senior-Rolle: mehrjährige Praxis im Design und Betrieb produktiver Systeme

• Solide DevOps-Basis: Container/Kubernetes, CI/CD, agiles Entwicklungsumfeld.

• Cloud-Erfahrung (AWS, Azure oder GCP), Deployment als Container, API oder Serverless.

• Praxis mit Infrastructure as Code (z. B. Terraform, Ansible, Helm oder GitOps).

• Python plus mindestens eine weitere Sprache (Go, TypeScript/JavaScript, Java, C# oder Shell).

• Grundverständnis von LLM-Systemen: RAG-Architekturen, Prompting, Agenten-Frameworks (z. B. LangChain, LangGraph, AutoGen, CrewAI).

• Deutsch ab C1, Englisch ab B2 – sicher im Kundenkontakt, auch mal einen Workshop leiten.

• Studienabschluss in (Wirtschafts-)Informatik, Data Science, KI oder vergleichbar – oder gleichwertige Praxis als Quereinsteiger* z.B. mit einer abgeschlossenen Ausbildung als Fachinformatiker * Systemintegration.

Idealterweise bringst du zusätzlich mit:

• MLOps-/LLMOps-Praxis inkl. Evaluation von LLM-Pipelines.

• AI-Observability-Tools (Langfuse, LangSmith, Arize, OpenTelemetry-basiert).

• Vektordatenbanken (Elasticsearch, pgvector, Qdrant o. ä.) und MCP (Model Context Protocol).

• Model Serving/GPU-Betrieb (vLLM, Ray, KServe, Triton), FinOps für KI-Workloads.

• Eigene Open-Source-Projekte oder Community-Beiträge.

• Bereitschaft zu gelegentlichem Bereitschaftsdienst (nur tagsüber, vergütet).

Für wen das hier nichts ist:

• Wer beim PoC aufhört und Produktionsbetrieb für das Problem von jemand anderem hält.

• Wer Kundenkontakt komplett vermeiden will – ihr sprecht mit IT-Verantwortlichen auf Augenhöhe, das gehört dazu.

• Wer lieber Tools evaluiert, als Systeme zu verantworten, die nachts nicht ausfallen dürfen.

Warum das AI Booster Team & Über uns

• Du bist näher am Code als in jeder Beratungsrolle. Wir sitzen im Projekt, aber unser Ergebnis ist laufende Software, keine Präsentation.

• Du siehst deine Systeme im Einsatz. Wir bauen nicht auf Zuruf für einen anonymen Backlog, sondern für Kunden, deren Prozesse wir kennen – und begleiten die Lösung in den Betrieb.

• Technologiebandbreite statt Monokultur: Machine Learning, LLM-Anwendungen und eigene Agentenplattformen – je nach Problem, nicht je nach Hausstandard.

• Remote ist bei uns möglich, nicht nur geduldet: deutschlandweit, hybrid oder vollständig remote.

• Weitere Benefits: Flexible Arbeitsmodelle · Sabbaticals · persönliches Coaching, Mentoring & UNITYacademy · JobRad, UrbanSports u. v. m. · Verwirklichung eigener Ideen und unternehmerischer Freiraum · Verwirkliche mit uns deine Big Five for Life**

Über uns

UNITY ist die Managementberatung für Innovation und digitale Transformation. Dabei setzen wir insbesondere auf Künstliche Intelligenz als Schlüsseltechnologie für Effizienz und Wachstum. Mit 380 Mitarbeitern sind wir weltweit an 15 Standorten vertreten und führen rund um den Globus Kundenprojekte durch.

Unsere Standorte, an denen du deutschlandweit arbeiten kannst: Berlin, Braunschweig, Frankfurt a. M., Hamburg, Köln, München, Nürnberg, Paderborn/Büren oder Stuttgart.

• UNITY lebt Vielfalt und Chancengleichheit. Bei uns ist jeder unabhängig von Herkunft, Geschlecht, sexueller Orientierung, Handicap, Religion und Alter willkommen.** Die Big5forLife sind ein Coaching-Impuls aus dem Bereich der individuellen Visions-Bildung von John Strelecky.

Dein persönlicher Kontakt

Bewirb dich jetzt mit wenigen Klicks. Du findest mehrere Stellen interessant? Einmal bewerben reicht: Dein Können wird für alle Stellen geprüft.

Bei Fragen zu deiner Bewerbung melde dich gerne bei Markus (Candidate Experience Manager).Du hast fachliche Fragen? Dann freut sich Moritz (Head of AI Development) auf deine Kontaktaufnahme.

Find Jobs in Germany on Arbeitnow