Bei diesem Text handelt es sich um eine Übersetzung der offiziellen englischen Version dieser Pressemitteilung, die nur als Hilfestellung und Referenz bereitgestellt wird. Ausführliche und/oder spezifische Informationen entnehmen Sie bitte der englischen Originalversion. Im Falle von Abweichungen hat der Inhalt der englischen Originalversion Vorrang.

ZUR SOFORTIGEN VERÖFFENTLICHUNG Nr. 3774

Vergleich zwischen Standard-KI-Leistungsbewertung und formaler Prüfung

TOKIO, 26. Februar 2025 – Die Mitsubishi Electric Corporation (TOKYO: 6503) gab heute die Entwicklung einer „schnellen formale Prüftechnologie für KI“ bekannt, die KI-Modelle, sogenannte Entscheidungsbaum-Ensembles, zum Ziel hat.¹ Die Technologie zielt darauf ab, das Risiko von KI-Fehlfunktionen zu reduzieren und einen Beitrag zur souveränen Nutzung von KI in der Gesellschaft zu leisten. Die Entwicklung ist eine direkte Folge der Entwicklung von Maisart^® von Mitsubishi Electric.²

Um den rasanten Fortschritt der KI-Technologie und ihren weltweit zunehmenden Einsatz anzugehen, trat am 1. August 2024 der „EU Artificial Intelligence Act“ als weltweit erster umfassender Rechtsrahmen für KI in Kraft. Länder auf der ganzen Welt legen ähnliche Gesetze und Richtlinien fest, um KI-Risiken anzugehen, und verlangen von Unternehmen, die KI entwickeln und bereitstellen, diese Risiken angemessen zu verwalten. Die Zuverlässigkeit von KI ist besonders wichtig in Systemen, in denen Sicherheit von entscheidender Bedeutung ist, wie z. B. autonome Steuerungssysteme, Energie- und soziale Infrastruktursysteme sowie Cybersicherheitssysteme, da Fehler hier erhebliche Schäden verursachen können.

In der Regel wird die Zuverlässigkeit von KI anhand einer begrenzten Menge von Testdaten bewertet, die nicht für das Training des Modells verwendet wurden, wobei Messgrößen wie die Genauigkeit beurteilt werden. Das Verhalten von KI ist jedoch sehr komplex, und selbst wenn die Testergebnisse zu 100 % korrekt sind, kann das Risiko von Fehlern bei ungeprüften Daten nicht ausgeschlossen werden. Um dieses Problem anzugehen, wurde eine formale Verifizierungsmethode vorgeschlagen, bei der das erwartete Verhalten der KI im Voraus festgelegt und streng überprüft wird, ob sie wie erwartet und ohne Auslassungen funktioniert. Die formale Überprüfung war jedoch aufgrund des enormen Zeitaufwands für die Überprüfung großer KI-Modelle und der Schwierigkeit, die Priorität bei der Behebung des Risikos von Fehlfunktionen festzulegen, begrenzt.

Um diese Probleme zu lösen, hat Mitsubishi Electric einen neuen Algorithmus zur effizienten Durchführung formaler Prüfungen von Entscheidungsbaum-Ensembles entwickelt, die häufig für Aufgaben wie die Vorhersage numerischer Daten verwendet werden, sowie ein interaktives Prüfwerkzeug, das diesen Algorithmus nutzt. Mithilfe dieser Technologie können KI-Entwickler schnell formale Prüfprozesse durchlaufen und so das Risiko von KI-Fehlern reduzieren. Die verbesserte Zuverlässigkeit der KI wird dazu beitragen, dass die Gesellschaft die KI mit größerem Vertrauen nutzen kann.

1. 1Eine Methode zur Verbesserung der Vorhersagegenauigkeit durch die Kombination mehrerer Entscheidungsbäume, d. h. Modelle, die Vorhersagen auf der Grundlage von Daten treffen, die nach spezifischen Bedingungen aufgeteilt sind.
2. 2Markenname („Mitsubishi Electric’s AI creates the State-of-the-ART in Technology“) von KI, die Geräte intelligenter macht.

• PDF-Version (PDF : 505KB)

Anfrage

Ansprechpartner für Medien

• Public Relations Division Mitsubishi Electric Corporation

Kundenanfragen

• Information Technology R&D Center Mitsubishi Electric Corporation