LLM / Generative AI Jobs in Köln

Du bewertest AI-Use-Cases gemeinsam mit Kunden und übersetzt Anforderungen in technische Lösungsansätze. Du entwickelst ML-und GenAI-Lösungen, z.B. mit LLMs, RAG oder klassischen Machine-Learning-Methoden. Du konzipierst Daten-und ML-Pipelines und bringst AI-Lösungen in produktionsnahe Umgebungen. Du arbeitest mit Cloud-, Data-und Platform-Teams zusammen.

Du bewertest AI-Use-Cases gemeinsam mit Kunden und übersetzt Anforderungen in technische Lösungsansätze. Du entwickelst ML- und GenAI-Lösungen, z.B. mit LLMs, RAG oder klassischen Machine-Learning-Methoden. Du konzipierst Daten- und ML-Pipelines und bringst AI-Lösungen in produktionsnahe Umgebungen.

Du verantwortest die Lösungsarchitektur in unseren Kundenprojekten: digitale Bauakte und Projektplattformen auf Microsoft 365, Fachanwendungen auf der Power Platform mit Azure SQL, Microsoft 365 Copilot und eigene KI-Agenten. Die Rolle ist nicht auf einen Kunden begrenzt.

Du übernimmst die Koordination in Automations- und AI-Projekten und agierst als zentrale Schnittstelle zwischen unseren Kund:innen und dem deutsch- und englischsprachigen Entwicklerteam Gemeinsam mit dem Team gestaltest du Solution Design und Architektur und trägst zu fundierten technischen Entscheidungen mit Blick auf Skalierbarkeit und Wartbarkeit bei

Koordination der Produkt- und Technologieentwicklung für den Produktbereich TwinCAT Machine Learning und Agentic AI Weiterentwicklung der Produktstrategie und Roadmap für bestehende sowie neue Produkte unter Berücksichtigung von Markt-, Kunden- und Technologietrends Abstimmung von Produktanforderungen, Prioritäten und Entwicklungsumfängen mit den beteiligten Entwicklungsabteilungen Begleitung des gesamten Produktlebenszyklus – von der Idee und Anforderungsdefinition über Spezifikation und Entwicklung bis zur Markteinführung und kontinuierlichen Weiterentwicklung

Du verantwortest die fachliche Weiterentwicklung unserer KI-Agenten, die unser AFC-Operations-Team bei der Bearbeitung von Alerts, Fallabklärungen und der Erstellung von Verdachtsmeldungen (§ 43 GwG) unterstützen. Du definierst und schärfst gemeinsam mit AFC-Operations, Compliance und Data-Science die Use Cases der Agenten - von der Alert-Priorisierung über die automatisierte Sachverhaltsaufbereitung bis zum Vorschlag für die FIU-Meldung. Du überwachst und bewertest laufend die Qualität, Treffergenauigkeit und Nachvollziehbarkeit der KI-generierten Vorschläge und leitest daraus Optimierungen (Prompting, Guardrails, Modell-Feintuning) ab.

Übersetzung von regulatorischen Vorgaben, wie etwa der KI-Verordnung, in technische Anforderungen an KI-Systeme. Konzeption und Entwicklung von technischen Lösungen zur Absicherung von KI-Systemen. Konzeption und Entwicklung von KI-Governance Frameworks. Konzeption und Durchführung von KI-Prüfungen für konkrete Use Cases. Entwicklung von Methoden zur Messung und Quantifizierung von Unsicherheiten in KI-Modellen (z. B. Transformer-Architekturen). Durchführung von Redteaming- und Stresstests zur Absicherung von LLMs und KI-Agenten im produktiven Einsatz. Automatisierung von KI-Prüf- und Testworkflows. Beratung von Kund*innen aus Wirtschaft und öffentlicher Verwaltung zur regulatorischen Einordnung und Absicherung ihrer KI-Systeme.

Übernahme der Architekturverantwortung für KI-native Delivery-Vorhaben, von Problemklärung, Zielbild, Kontext und Annahmen bis zu nachvollziehbaren Architekturentscheidungen Gestaltung sicherer und flexibler Lösungsarchitekturen, in denen Menschen, KI-Systeme, Agenten, Daten, Tools und bestehende Anwendungen sinnvoll zusammenarbeiten Erarbeitung verständlicher Entscheidungsgrundlagen, Trade-off-Analysen und adressatinnengerechte Unterlagen für technische Teams, Auftraggeberinnen und Stakeholder*innen Validierung von Architekturannahmen durch Prototypen, technische Spikes, Evaluationen und frühe Delivery-Ergebnisse

Entwirf intelligente Agentic-AI-Lösungen für Kundenprozesse: Du konzipierst und realisierst agentische Lösungen zur Automatisierung, Unterstützung und Optimierung von Geschäftsprozessen auf Basis von Amazon Bedrock AgentCore und weiteren AWS-nativen KI-Services – von der ersten Idee bis zum stabilen Betrieb in der Produktion. Agenten- und Prozessarchitekturen: Du entwirfst agentenbasierte Architekturen inklusive Tool-Integration, Memory-Persistenz, Multi-Agent-Orchestrierung sowie Guardrails und integrierst Bedrock-Agenten als digitale Prozessassistenten, Entscheidungsunterstützer oder autonome Teilprozess-Akteure in bestehende Kundenprozesse.

Entwirf intelligente Agentic-AI-Lösungen für Kundenprozesse: Du konzipierst und realisierst Azure-native agentische Lösungen zur Automatisierung, Unterstützung und Optimierung von Geschäftsprozessen auf Basis von Azure AI Foundry, Azure OpenAI Service, Azure AI Agent Service, Semantic Kernel und weiteren Azure-KI-Services – von der ersten Idee bis zum stabilen Betrieb in der Produktion. Agenten- und Prozessarchitekturen: Du entwirfst agentenbasierte Architekturen inklusive Tool-Integration, Memory-Persistenz, Multi-Agent-Orchestrierung, Retrieval-Augmented Generation, Guardrails und Evaluationsmechanismen.

Vision & Verantwortung: Du definierst das Zusammenspiel von SAP Business AI, Joule Agents, RAG-Architekturen und Automatisierung und verantwortest zentrale KI-Architekturentscheidungen im SAP-Umfeld. Architekturdesign: End-to-End-Architekturen mit SAP AI Core/Launchpad, Joule Studio (Skills, Agents) und SAP BTP konzipierst und integrierst du nahtlos in S/4HANA-Landschaften. Multi-Agenten & RAG: Auf Basis von Joule Agents, MCP-Servern, A2A-Kommunikation sowie Vektordatenbanken und SAP Knowledge Graph entwirfst du Multi-Agenten- und RAG-Architekturen.

Konzeption neuer Fortbildungsangebote zu KI, Legal Tech und juristischer Transformation. Entwicklung von praxisorientierten KI-Anwendungen wie Prompt-Bibliotheken, Templates, Agenten-Konzepten und Arbeitshilfen und deren Transfer in die Fortbildungsangebote der Fachinstitute des DAI. Vernetzung und Zusammenarbeit mit allen Fachbereichen zur Entwicklung innovativer Lernangebote. Mitwirkung an KI-gestützten Lern- und Assistenzsystemen des DAI, projektbezogen auch mit Unterstützung externer Dienstleister. Durchführung der damit verbundenen rechtlichen Prüfungen, insbesondere zu KI-Regulierung, Datenschutz, Urheberrecht, Haftungsfragen und berufsrechtlichen Anforderungen.

Prozess- & Strategieberatung: Du berätst unsere Kunden zu ihren Customer-Service-Prozessen, identifizierst Automatisierungspotenziale und entwickelst Strategien, wie AI Agents KPIs (wie AHT oder CSAT) messbar verbessern können.