Beschreibung der Schulung

Ihre Entwicklungsteams nutzen KI-Werkzeuge bereits, oft ohne verbindliche Regeln. In Projekten nach IEC 61508, ISO 26262 oder IEC 62304 wirft das konkrete Fragen auf: Dürfen KI-erzeugte Artefakte in den Sicherheitsnachweis? Wer prüft sie, und wer trägt die Verantwortung?

Eine heikle Frage betrifft auch Ihre Geschäftsgeheimnisse. Quellcode, Schaltpläne und Spezifikationen gehen an einen KI-Anbieter, sobald ein Entwickler sie in ein Werkzeug kopiert oder ein Agent das Repository liest. Was dort mit ihnen passiert, regeln die Bedingungen des Anbieters: Training, Speicherfristen, Unterauftragnehmer, Serverstandort. Das Geschäftsgeheimnisgesetz schützt Informationen nur, wenn Sie angemessene Geheimhaltungsmaßnahmen nachweisen können. Wer KI ohne Regeln nutzt, setzt diesen Schutz aufs Spiel.

Dazu kommt der EU AI Act. Seit Februar 2025 verpflichtet Art. 4 Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden zu sorgen.

NewTec setzt KI-Agenten in der Entwicklung funktional sicherer Systeme ein und steht dabei vor denselben Fragen: Wie schützen wir die Daten unserer Kunden und unser eigenes Know-how? Die Antworten, die wir dafür gefunden haben, übertragen wir im Workshop auf Ihre Organisation. Sie gehen mit einer Freigabematrix nach Hause, die festlegt, welche Daten mit welchem Werkzeug verarbeitet werden dürfen, und mit einem priorisierten Startplan.

Ziel und Nutzen

Einordnen, wo KI im Entwicklungsprozess heute zuverlässig hilft, und KI als Werkzeug von KI in der Sicherheitsfunktion des Produkts abgrenzen.
Nachvollziehen, welche Daten bei der KI-Nutzung Ihr Haus verlassen und was der Anbieter damit tun darf.
Ihre Daten nach Schutzbedarf klassifizieren und jeder Klasse ein zulässiges Betriebsmodell zuordnen: EU-Cloud, Open-Source-Modelle in Deutschland, eigene Infrastruktur, Umgebung ohne Internetverbindung.
Die Geheimhaltungsmaßnahmen und Vertragsklauseln kennen, mit denen Ihre Geschäftsgeheimnisse und die Ihrer Kunden auch bei KI-Nutzung geschützt bleiben.
Rechte an KI-Ergebnissen einschätzen: Urheberrecht an Code, Open-Source-Lizenzen, Erfindungen.
Review- und Freigabeprozesse festlegen, damit die Verantwortung beim Ingenieur bleibt.
Eigene Use Cases bewerten und mit einem priorisierten Startplan aus dem Workshop gehen.

Agenda

Block 1 – Einordnung

KI im Entwicklungsprozess und KI im Produkt: zwei Themenfelder mit unterschiedlichen Anforderungen
KI-Potenzial entlang des V-Modells: Anforderungen, Architektur, FMEDA, Implementierung, Test, Traceability, Safety Case
Vibe Coding und spezifikationsgetriebene Entwicklung: warum Nachvollziehbarkeit über die Zertifizierbarkeit entscheidet

Block 2 – Geschäftsgeheimnisse und IP schützen

Was Ihr Haus verlässt: Prompts, Kontext, indizierte Repositories, Protokolle, Telemetrie
Was der Anbieter damit darf: Training, Speicherfristen, Unterauftragnehmer, Serverstandort, Zugriff von Behörden aus Drittstaaten (z. B. US CLOUD Act)
Betriebsmodelle im Vergleich: Frontier-Modelle in der EU-Cloud, Open-Source-Modelle in Deutschland, eigene Infrastruktur, Umgebung ohne Internetverbindung
Rechtlicher Schutz: angemessene Geheimhaltungsmaßnahmen nach GeschGehG, NDAs mit Kunden und Lieferanten, KI-Zusatzvereinbarungen
Wem das Ergebnis gehört: Urheberrecht an KI-generiertem Code, Open-Source-Lizenzen im Output, Erfindernennung und noch nicht angemeldete Erfindungen
Ihr Know-how in Prompts, Kontext und Skills: Firmenwissen, das Sie schützen müssen wie Quellcode
Übung: Ihre Daten klassifizieren und die Freigabematrix erstellen

Block 3 – Umsetzung

Governance: zugelassene Werkzeuge, Zugriffsrechte, Ausschluss einzelner Projektbereiche, Umgang mit privaten KI-Konten
Verantwortung und Kompetenz: Review-Gates, Rollen im Team, Fachtiefe erhalten, wenn KI die Routinearbeit übernimmt
Ihre Use Cases: Bewertung, Priorisierung und Startplan

Zielgruppe

Geschäftsführung, Entwicklungsleitung, Safety- und Security-Manager, Qualitätsmanagement, IT-Leitung, Projektleitung. Rechts-, Patent- und Datenschutzverantwortliche

Voraussetzungen

Erfahrung mit Entwicklungsprozessen für sicherheitskritische Produkte. KI-Vorkenntnisse sind nicht nötig

← Alle Trainings