Souveräne KI in der Praxis – MLOps und LLMOps in hochregulierter Banken-IT
KI wird erst dann strategisch relevant, wenn sie kontrollierbar, sicher und dauerhaft betrieben werden kann. Gerade in regulierten Umgebungen stellt das besondere Anforderungen an Infrastruktur und Automatisierung. Der Vortrag gibt einen Einblick in den Aufbau und Betrieb einer souveränen MLOps- und LLMOps-Plattform im Bankenumfeld. Gezeigt wird, wie Open-Source-LLMs On-Premises betrieben, versioniert, überwacht und automatisiert ausgerollt werden – inklusive realer Herausforderungen im produktiven Betrieb. Ein Praxisbericht aus einer der anspruchsvollsten IT-Umgebungen Deutschlands.
Redner
-
Matthias KordtFinanz InformatikMatthias Kordt ist seit 2019 bei der Finanz Informatik tätig und arbeitet seit 2021 im Bereich KI-Plattform. Als Mischung aus MLOps Engineer und Arbeitspaketleiter verbindet er technisches Know-how mit strategischer Planung. Nach dem Motto „Hate it – Automate it“ setzt er auf Automatisierung, um effiziente und skalierbare Lösungen im KI-Bereich zu entwickeln.
-
Sebastian KlenkeFinanz InformatikSebastian Klenke leitet den Bereich KI & Data Analytics Plattform der Finanz Informatik und ist seit 2011 für diese tätig. Seine Begeisterung, mit Technologie einen Mehrwert für den Alltag der Menschen zu schaffen, motivierte ihn dazu an der FOM Hochschule als Dozent für Big Data und Data Science zu lehren und dort als Research Assistant an Publikationen mit dem Forschungsschwerpunkt Textgenerierung mitzuwirken. Er sieht die Bereitstellung notwendiger Technologien, um Künstliche Intelligenz in verschiedensten Facetten der breiten Masse zugänglich zu machen, als spannende Herausforderung mit großem Potenzial.