LLMOps Engineer für KI-Services (m/w/d)

Als einer der größten Banken-IT-Dienstleister und
Digitalisierungspartner Europas sind wir der Treiber der
Digitalisierung innerhalb der Sparkassen-Finanzgruppe. Mit über 5.000
Mitarbeitenden an 3 Standorten machen wir digitales Banking von heute
leistungsfähig und entwickeln smarte Finanz-Services von morgen.
Dabei bieten wir ein breites Aufgabenspektrum, in dem die
individuellen Stärken hervorragend eingebracht werden können. Ob
App-Entwicklung, Netzwerktechnologien und Serverbetrieb oder Beratung,
Schulung und Support – bei uns findet jede:r seine bzw. ihre
Berufung! Als Spezialist:in oder auch als Generalist:in. Alles mit
besten Karrierechancen, viel Raum für persönliche Entfaltung und
zahlreichen Benefits. Für die Organisationseinheit KI Plattform,
suchen wir zum nächstmöglichen Termin für den Standort Hannover,
Münster oder Frankfurt am Main einen LLMOps Engineer für KI-Services
(m/w/d) . Unser Team stellt die zentrale KI- und Data Analytics
Plattform der Finanz Informatik für interne und externe Kunden wie
Sparkassen und Verbundpartner bereit. In deiner Rolle als Technischer
Projektmanager gestaltest du aktiv die technische Basis für
skalierbare, sichere und performante KI-Lösungen – von der
Kundenanforderung, Planung, über Umsetzung bis hin zum Modellbetrieb.
Du gestaltest gemeinsam mit Experten aus AI Engineering, System
Engineering und Softwareentwicklung KI-Anwendungen und Prozesse für
datengetriebenes Banking für über 50 Millionen Kunden. Mit unserer
Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD,
Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit
Partnern wie Nvidia oder Mistral AI eng zusammen – und suchen
Kollegen, die sich organisatorisch in die Planung, Integration und
Umsetzung neuer KI-Anwendungen einbringen und dabei die Compliance im
Blick haben. Übernimm eigenständig Aufgaben, die für die
Weiterentwicklung der KI und Data Analytics Plattform wesentlich sind.
Dabei wirkst du aktiv in einem dynamischen und aufgeweckten Team an
der Implementierung von State-of-the-Art Systemtechnologien im
Finanzsektor mit. Deine Aufgaben: Unterstützung beim Aufbau und der
Pflege von Build-, Test- und Deployment-Pipelines für
Container-Applikationen (z.B. Jenkins, GitHub Actions oder GitLabCI)
Arbeit mit Helm-Charts und ArgoCD, um Container-Anwendungen in
Kubernetes-Clustern zu deployen Unterstützung bei der Integration
unimodaler (LLM, OCR, SST/TTS) und multimodaler KI-Modelle mit Tools
wie Nvidia Triton, NIM oder HuggingFace-Komponenten (TGI, TEI, vLLM)
Unterstützung beim Betrieb unserer zentralen Redis-Instanzen und
Mitwirkung um sicherzustellen, dass sie hochverfügbar, sicher und
performant bleiben Enge Zusammenarbeit mit Kolleg*innen aus
unterschiedlichen Fachbereichen, Einbringung von Perspektiven in
Architektur Entscheidungen und Unterstütztung bei der
Weiterentwicklung unserer Plattform-Dienste Gemeinsame Entwicklung
erster Standards und Best-Practice-Empfehlungen für den produktiven
Einsatz von Redis mit erfahrenen Kolleg*innen Unterstützung interner
Fachbereiche und Entwickler*innen bei Fragen zum Einsatz von Redis,
insbesondere zu Themen wie Caching, Streams, Queues, Pub/Sub und der
Auswahl passender Datenstrukturen Dein Profil: Abgeschlossenes Studium
der Informatik, Wirtschaftsinformatik oder eine vergleichbare
Ausbildung Erste fachbezogene Berufserfahrung Erste Erfahrung mit
kleineren Continuous-Integration/Continuous-Delivery-Pipelines mit
Tools wie Jenkins, GitHub oder GitLab Grundkenntnisse mit Helm-Charts
und Basis-Verständnis von deklarativen Deployments über ArgoCD
Idealerweise erste Berührungspunkte mit LLM-Inference-Tools
Analytisches und kreatives Denken sowie selbständige und
lösungsorientierte Arbeitsweise Bereitschaft, bei Bedarf auch nachts
oder an Wochenenden im Rahmen der Rufbereitschaft zu unterstützen –
zum Beispiel bei kritischen Deployments oder System-Incidents Deine
Benefits bei der Finanz Informatik: Du fragst dich, warum du bei der
Finanz Informatik arbeiten solltest? Wir hätten da ein paar gute
Gründe für dich. Neben flexiblen Arbeitszeiten, vergünstigten
Jobtickets oder der Möglichkeit, mobil zu arbeiten, bieten wir dir
noch viel mehr: Altersvorsorge Barrierefrei Betriebssport
Familienservice Firmenevents Flexible Arbeitszeiten Mobiles Arbeiten
Jobticket Kantine Tarifvertrag Weiterbildung Fitnessförderung Bei uns
erwartet dich eine attraktive Vergütung basierend auf deiner
Qualifikation sowie deiner relevanten, praktischen Erfahrung. Klingt
interessant? Wir freuen uns über alle Bewerbungen, unabhängig von
Geschlecht, Alter, Behinderung, Religion, ethnischer Herkunft oder
sexueller Identität, unter Angabe der Kennziffer 742/B. Solltest du
vorab weitere Auskünfte zu dieser Stelle wünschen, steht dir gerne
Herr Dominik Och zur Verfügung. Du erreichst Dominik Och unter Tel.
0511 5102-23036 oder per E-Mail unter karriere@f-i.de.