Ihr Partner für Safe-AI.
KI in Steuersystemen erhöht Verfügbarkeit und Performance — stellt die Funktionale Sicherheit (FUSI) aber vor besondere Voraussetzungen: Anders als klassische Systeme lässt sich KI oft nur statistisch prüfen, mit entsprechender Varianz.
NewTec begleitet Sie bei der System-, Fehler- und Risikoanalyse, ermittelt die nötige Genauigkeit und Performance und klärt regulatorische Anforderungen (Stichwort EU AI Act).
Was Sie davon haben.
Sichere Integration von KI-Technologien — bewertet durch die Safety- und KI-Expertise von NewTec.
Minimierte Risiken durch eine von Anfang an EU-AI-Act-konforme Entwicklung.
Minimierte Risiken durch eine auf das TÜV-Approval ausgerichtete Vorgehensweise.
Innovations- und Technologieimpulse von NewTec stärken Ihre Position im Markt.
KI-Integration ins sicherheitsgerichtete System: Was bedeutet das für die Entwicklung?
Die Varianz von KI-Technologie gilt es bei der Entwicklung zu berücksichtigen und mit dem Risiko einer Gefährdung durch funktionale Unzulänglichkeit in Einklang zu bringen. Wir ermitteln für Sie, ob eine geplante Hardware zuverlässig genug für einen Betrieb von KI-Technologie ist, und begleiten Sie in Hinblick auf eine Zulassung — u. a. durch Identifikation der relevanten normativen und regulatorischen Anforderungen.
Die EU-Verordnung über künstliche Intelligenz (EU AI Act)
Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (AI Act) reguliert Entwicklung, Inverkehrbringen und Betrieb von KI-Systemen umfassend. Das im August 2024 in Kraft getretene Gesetz verfolgt einen risikobasierten Ansatz und teilt KI-Produkte in vier Risikoklassen ein: „minimales“, „begrenztes“, „hohes“ und „unannehmbares“ Risiko. Mit steigender Risikoklasse steigen auch die gesetzlichen Pflichten.
Bei der Entwicklung von Maschinen und Geräten gilt es, besonders die Hochrisiko-Systeme zu beachten — insbesondere KI-Produkte oder Produkte mit sicherheitsrelevanten KI-Komponenten aus Medizintechnologie, Maschinenbau, Aufzügen, Fahrzeugen, Flugzeugen oder kritischen Infrastrukturen.
- ✓Einrichtung und Umsetzung eines Risikomanagementsystems
- ✓Einrichtung und Umsetzung eines Qualitätsmanagementsystems
- ✓Management der Daten für Training, Validierung und Tests
- ✓Gewährleistung von Genauigkeit, Robustheit und Cybersicherheit
- ✓Verbindliche Umsetzung der Anforderungen ab dem 2. August 2027
Artificial Intelligence & Safety
KI-Technologien entwickeln sich rasant und werden zunehmend in sicherheitsrelevante Systeme integriert. Der EU AI Act fordert dafür ein „angemessenes Maß an Genauigkeit“.
Dieses Whitepaper zeigt, wie Risiken bei der Integration von KI identifiziert und daraus Anforderungen an die notwendige Genauigkeit abgeleitet werden können. Zudem wird beschrieben, wie sich die tatsächlich erreichbare Genauigkeit bewerten lässt.
Da Durchschnittswerte für sicherheitsrelevante Systeme nicht ausreichen, stellt das Whitepaper außerdem eine statistische Methode vor, mit der das Vertrauen in die erreichbare Genauigkeit bestimmt werden kann – als Grundlage für die Bewertung, ob eine KI-Technologie für den Einsatz in sicherheitsrelevanten Systemen geeignet ist.
KI in regulatorischem Umfeld der Funktionalen Sicherheit integrieren
Mehr zum Thema Safety & KI.
Sichere KI beginnt mit einem Gespräch.
Sie planen KI in einem sicherheitsgerichteten System? Wir klären mit Ihnen Machbarkeit, Normen und Zulassung.