• Künstliche Intelligenz (KI) entschlüsselt: Erlanger Forscher machen Datenverarbeitung sichtbar
• Algorithmen: Farbige Punktwolken zeigen Entscheidungen von selbstlernenden Computern
• "Black-Box-Problem der KI": Neues Verfahren macht Prozesse transparent
• Analyse zeigt, wie KI-Systeme Eingabedaten ordnen und repräsentieren

Längst sind Maschinen imstande, ähnlich wie wir Menschen eigene Intelligenzleistungen zu erbringen. Aspekte dieser Art werden unter dem Überbegriff "Künstliche Intelligenz" (KI) zusammengefasst. Dabei handelt es sich im Wesentlichen um einen Computercode - einen Algorithmus. Bei etlichen Onlinehändlern, Banken und Versicherungen treffen selbstlernende Computeralgorithmen Entscheidungen, die für den jeweiligen Kunden gravierende Folgen haben. Wie die Algorithmen der Künstlichen Intelligenz ihre Eingabedaten intern repräsentieren und verarbeiten, ist indes noch weitgehend unbekannt. Erlanger Forscher haben nun jedoch ein Verfahren entwickelt, das die Prozesse sichtbar macht.

Erlangen: Forschern glückt Entschlüsselung von Künstlicher Intelligenz 

Wie die Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) berichtet, haben sich Wissenschaftler des Lehrstuhls für Mustererkennung und der Cognitive Computational Neuroscience Group der FAU sowie des Neurowissenschaftlichen Labors der HNO-Klinik am Universitätsklinikum Erlangen, der Aix-Marseille Université in Marseille (Frankreich) und der York University in Toronto (Kanada) des "Black-Box-Problems der Künstlichen Intelligenz“ angenommen. Sie entwickelten demnach ein Verfahren , das die zugrundeliegenden Prozesse sichtbar macht. Die Ergebnisse wurden unter dem Titel "Quantifying the separability of data classes in neural networks" in der Fachzeitschrift Neural Networks publiziert.

Video:

Nicht nachvollziehbare Entscheidungen: "Was wir heute als Künstliche Intelligenz bezeichnen, ist zurückzuführen auf tiefe, künstliche neuronale Netze, die grob der menschlichen Gehirnfunktion nachempfunden sind“, sagt Dr. Patrick Krauss von der Cognitive Computational Neuroscience Group der FAU. Wie bei einem Kleinkind, das seine Muttersprache lernt, ohne sich über die Grammatikregeln bewusst zu sein, können die KI-Algorithmen demnach durch das selbstständige Abgleichen vieler Eingabedaten lernen, die richtige Auswahl zu treffen.

Die Leistungen beim Erkennen von Mustern seien erstaunlich, sagt Dr. Krauss. Doch wisse man nicht, wie die neuronalen Netze schrittweise vorgehen. "Aus ethischen Gründen müssen die Entscheidungen der KI jedoch nachvollziehbar sein.“  Man denke nur an Therapieentscheidungen aufgrund einer KI-gestützten, medizinischen Diagnose. Zudem müsse die Frage geklärt werden, ob die KI eines autonomen Fahrzeugs bei einer unvermeidlichen Kollision eher das Leben des Autofahrers oder des Fußgängers schützen solle, heißt es in einer Pressemitteilung der FAU. 

FAU Erlangen-Nürnberg: Algorithmen verarbeiten Zahlenwerte

Laut Universität sind künstliche neuronale Netze (KNN) mathematische Nachbildungen der Reizverarbeitung im Gehirn. Sie bestehen demnach aus miteinander verbundenen künstlichen Neuronen. Anstelle der elektrischen oder chemischen Signale bei biologischen Systemen verarbeiten die Algorithmen Zahlenwerte. Die Architektur eines KNN ist meist aus mehreren Schichten aufgebaut, wobei die Ausgabe der ersten Schicht zur Eingabe der zweiten wird.  

"Eine Bilderkennungs-KI, die Autos von Fahrrädern unterscheiden soll, sortiert zum Beispiel in der ersten Schicht nur grob nach den Umrissen und trennt dann Schicht für Schicht nach weiteren Kriterien", heißt es vonseiten der FAU. Das Erlanger Forscherteam hat demzufolge den Zahlenwert GDV (Generalized Discrimination Value) eingeführt, der für jede Schicht angibt, wie gut die Eingabedaten in Klassen getrennt sind. "Wenn sich der Wert nicht mehr wesentlich ändert, ist die optimale Schichttiefe erreicht“, erklärt Dr. Krauss. Jede weitere Schicht verbessere nicht die Trefferquote, sondern erhöhe nur die Rechenzeit.