Auch smarte Systeme brauchen Kontrolle
Der Hype um ChatGPT Anfang des Jahres hat es gezeigt: Künstliche Intelligenz wird unser Leben dramatisch verändern. Dabei ist die Zukunftstechnologie längst in unserem Alltag angekommen. Höchste Zeit, die smarten Systeme genauer unter die Lupe zu nehmen. Es müssen neue Prüf- und Zertifizier-Verfahren entwickelt werden, um lernende Systeme nach objektiven Kriterien bewerten können. Den Ansatz dazu erläutert unser Experte Dr. Martin Saerbeck im Video.
Lernverhalten ähnlich wie beim Menschen
KI lernt – zum Teil vergleichbar mit dem Menschen – in kleinen iterativen Schritten, eine Aufgabe immer besser zu erledigen. Im Hintergrund jeder künstlichen Intelligenz stehen Algorithmen, die teilweise mit beachtlichen Mengen an Trainingsdaten ein Model trainieren. Das bedeutet auch, dass die Qualität der trainierten Modelle hochgradig von der Qualität der Trainingsdaten abhängt. Darum muss Datenqualität ein Aspekt für eine Zertifizierung durch TÜV SÜD sein.
„TÜV SÜD arbeitet intensiv daran, Prüfverfahren für KI zu entwickeln, und bringt dieses Wissen auch in die internationale Standardisierung ein.“
Dr. Martin Saerbeck
CTO TÜV SÜD Digital Service
Daten und Prozesse auf dem Prüfstand
Die Europäische Union arbeitet an einheitlichen Regeln zur KI: Ab 2025 soll der EU Artificial Intelligence Act die Voraussetzung für Qualitätschecks und Zertifizierungen von künstlicher Intelligenz schaffen. Geprüft würde dann beispielsweise, ob die eingesetzten Trainingsdaten definierten Anforderungen entsprechen und der gesamte Entwicklungsprozess gemäß den geltenden Vorschriften eingerichtet und durchgeführt wurde. Dabei spielen auch ethische Fragen eine Rolle, um beispielsweise diskriminierende oder rassistische KI auszuschließen. Dr. Martin Saerbeck ist sich sicher: KI wird die Welt verändern, genauso wie die Dampfmaschine im 19. Jahrhundert oder die Einführung der modernen Datenverarbeitung im 20. Jahrhundert. Und damit ist sie ein Fall für TÜV SÜD – damit Innovationen auch sicher sind.
Zurück