Erlangen
Algorithmen

Künstliche Intelligenz: Erlanger Forscher entschlüsseln Geheimnis

Forschern aus Erlangen ist ein beachtlicher Erfolg gelungen. Sie entwickelten eine neue Methode, die die Prozesse der Künstlichen Intelligenz sichtbar macht.
 
Künstliche Intelligenz: Erlanger Forscher entschlüsseln Geheimnis
Künstliche Intelligenz: Wie Algorithmen ihre Eingabedaten intern repräsentieren und verarbeiten, war bislang weitgehend unbekannt. Erlanger Forscher haben nun eine Methode entwickelt, die die Prozesse sichtbar macht. Symbolfoto: Gerd Altmann / Pixabay
+1 Bild
  • Künstliche Intelligenz (KI) entschlüsselt: Erlanger Forscher machen Datenverarbeitung sichtbar
  • Algorithmen: Farbige Punktwolken zeigen Entscheidungen von selbstlernenden Computern
  • "Black-Box-Problem der KI": Neues Verfahren macht Prozesse transparent
  • Analyse zeigt, wie KI-Systeme Eingabedaten ordnen und repräsentieren

Längst sind Maschinen imstande, ähnlich wie wir Menschen eigene Intelligenzleistungen zu erbringen. Aspekte dieser Art werden unter dem Überbegriff "Künstliche Intelligenz" (KI) zusammengefasst. Dabei handelt es sich im Wesentlichen um einen Computercode - einen Algorithmus. Bei etlichen Onlinehändlern, Banken und Versicherungen treffen selbstlernende Computeralgorithmen Entscheidungen, die für den jeweiligen Kunden gravierende Folgen haben. Wie die Algorithmen der Künstlichen Intelligenz ihre Eingabedaten intern repräsentieren und verarbeiten, ist indes noch weitgehend unbekannt. Erlanger Forscher haben nun jedoch ein Verfahren entwickelt, das die Prozesse sichtbar macht.

Erlangen: Forschern glückt Entschlüsselung von Künstlicher Intelligenz 

Wie die Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) berichtet, haben sich Wissenschaftler des Lehrstuhls für Mustererkennung und der Cognitive Computational Neuroscience Group der FAU sowie des Neurowissenschaftlichen Labors der HNO-Klinik am Universitätsklinikum Erlangen, der Aix-Marseille Université in Marseille (Frankreich) und der York University in Toronto (Kanada) des "Black-Box-Problems der Künstlichen Intelligenz“ angenommen. Sie entwickelten demnach ein Verfahren , das die zugrundeliegenden Prozesse sichtbar macht. Die Ergebnisse wurden unter dem Titel "Quantifying the separability of data classes in neural networks" in der Fachzeitschrift Neural Networks publiziert.

Nicht nachvollziehbare Entscheidungen: "Was wir heute als Künstliche Intelligenz bezeichnen, ist zurückzuführen auf tiefe, künstliche neuronale Netze, die grob der menschlichen Gehirnfunktion nachempfunden sind“, sagt Dr. Patrick Krauss von der Cognitive Computational Neuroscience Group der FAU. Wie bei einem Kleinkind, das seine Muttersprache lernt, ohne sich über die Grammatikregeln bewusst zu sein, können die KI-Algorithmen demnach durch das selbstständige Abgleichen vieler Eingabedaten lernen, die richtige Auswahl zu treffen.

Die Leistungen beim Erkennen von Mustern seien erstaunlich, sagt Dr. Krauss. Doch wisse man nicht, wie die neuronalen Netze schrittweise vorgehen. "Aus ethischen Gründen müssen die Entscheidungen der KI jedoch nachvollziehbar sein.“  Man denke nur an Therapieentscheidungen aufgrund einer KI-gestützten, medizinischen Diagnose. Zudem müsse die Frage geklärt werden, ob die KI eines autonomen Fahrzeugs bei einer unvermeidlichen Kollision eher das Leben des Autofahrers oder des Fußgängers schützen solle, heißt es in einer Pressemitteilung der FAU. 

FAU Erlangen-Nürnberg: Algorithmen verarbeiten Zahlenwerte

Laut Universität sind künstliche neuronale Netze (KNN) mathematische Nachbildungen der Reizverarbeitung im Gehirn. Sie bestehen demnach aus miteinander verbundenen künstlichen Neuronen. Anstelle der elektrischen oder chemischen Signale bei biologischen Systemen verarbeiten die Algorithmen Zahlenwerte. Die Architektur eines KNN ist meist aus mehreren Schichten aufgebaut, wobei die Ausgabe der ersten Schicht zur Eingabe der zweiten wird.  

Verpasse nichts auf der neuen Facebook-Seite „Schon gewusst?“

"Eine Bilderkennungs-KI, die Autos von Fahrrädern unterscheiden soll, sortiert zum Beispiel in der ersten Schicht nur grob nach den Umrissen und trennt dann Schicht für Schicht nach weiteren Kriterien", heißt es vonseiten der FAU. Das Erlanger Forscherteam hat demzufolge den Zahlenwert GDV (Generalized Discrimination Value) eingeführt, der für jede Schicht angibt, wie gut die Eingabedaten in Klassen getrennt sind. "Wenn sich der Wert nicht mehr wesentlich ändert, ist die optimale Schichttiefe erreicht“, erklärt Dr. Krauss. Jede weitere Schicht verbessere nicht die Trefferquote, sondern erhöhe nur die Rechenzeit.

Lernen mit Datenbanken: Künstliche Neuronale Netzwerke lernen laut Angaben der Universität mithilfe von Bilddatenbanken, wie der Modified National Institute of Standards and Technology Database (MNIST). Sie umfasst 60.000 handgeschriebene Ziffern von 0 bis 9, die in zehn Klassen getrennt werden können. Bei diesem Datensatz konnten die Forscher mit ihrer Methode nach eigenen Angaben eine optimale Schichttiefe von vier ermitteln. "Dagegen sind bei der Fashion-MNIST, die Grauwertbilder von zehn verschiedenen Kleidungsstücken enthält, schon acht Schichtfolgen nötig, um die Objekte ausreichend gut zu unterscheiden", teilt die FAU mit.

Künstliche Intelligenz: Neue Methode ermöglicht System-Vergleich 

Für die CIFAR-10-Datenbank, in der je 6000 Farbfotos von Schiffen, Flugzeugen, Lastwagen, Autos, Pferden, Hirschen, Hunden, Katzen, Vögeln und Fröschen gespeichert seien, liege die optimale Schichttiefe bei 15. "Je komplexer die Trainingsdaten, desto mehr Schichten sind für eine gute Klassifizierung nötig“, sagt Patrick Krauss.

Der Zusammenhang zwischen dem Verlauf des GDV und der zunehmenden Klassifizierungsgüte pro Schicht wurde anschaulich sichtbar gemacht, indem die Aktivierungen der Schichten als Punkte auf eine Ebene abgebildet wurden. Jeder Punkt entspricht einer bestimmten Eingabe in das neuronale Netz, und die zehn verschiedenen Klassen wurden mit zehn Farben gekennzeichnet. Je größer die Schichttiefe, desto mehr sammeln sich die Punkte zu gleichfarbigen Clustern.

"Die neue Methode ermöglicht es, verschiedene KI-Systeme miteinander zu vergleichen, um so zum Beispiel die effizienteste Architektur für ein gegebenes Problem zu finden“, sagt Dr. Krauss. Ebenso könne analysiert werden, in welcher Art und Weise das KI-System die Eingabedaten ordnet und repräsentiert. Das Verfahren kann auch zu einem wichtigen Werkzeug für die Neurowissenschaft werden. "Unsere Methode ermöglicht es zu quantifizieren, wie gut ein gegebenes Modell die Gehirnfunktion beschreibt.“

Unterdessen hat das Klinikum Forchheim vor Kurzem das weltweit erste Röntgen-Gerät mit künstlicher Intelligenz erhalten.

*Hinweis: In der Redaktion sind wir immer auf der Suche nach tollen Angeboten und nützlichen Produkten für unsere Leser - nach Dingen, die uns selbst begeistern und Schnäppchen, die zu gut sind, um sie links liegen zu lassen. Es handelt sich bei den in diesem Artikel bereitgestellten und mit einem Einkaufswagen-Symbol beziehungsweise einem Sternchen gekennzeichneten Links um sogenannte Affiliate-Links/Werbelinks. Wenn Sie auf einen dieser Links klicken und darüber einkaufen, bekommen wir eine Provision vom Händler. Für Sie ändert sich dadurch nichts am Preis. Unsere redaktionelle Berichterstattung ist grundsätzlich unabhängig vom Bestehen oder der Höhe einer Provision.

Lesen Sie auch