Deep Learning

Deep Learning

Deep Learning ist eine Methode zur Informationsverarbeitung, in der aus mehreren Schichten bestehende neuronale Netze verwendet werden. Die Bezeichnung „deep“ leitet sich aus diesen – oft sehr zahlreichen – Schichten ab. Eingesetzt wird Deep Learning für Probleme, die nur schwierig oder überhaupt nicht konventionell programmiert werden können, weil keine Algorithmen oder Verfahren für ihre Lösung bekannt sind. Die Methode erfordert viele Paare von Eingaben und den dazu passenden richtigen Ausgaben, mit denen das neuronale Netz trainiert wird.

Deep Learning  – Die wichtigsten Fragen & Antworten

Für viele Aufgaben in der Informationsverarbeitung waren keine Verfahren oder Algorithmen verfügbar und auch nicht in Sicht. Nachdem der Mensch mit vielen solchen Problemen keine Schwierigkeiten hat, lag es nahe, die Struktur des menschlichen Gehirns als Modell für eine entsprechende künstliche Informationsverarbeitung zu verwenden. Deep Learning will also die Denkweise von Menschen imitieren. Dass das mit diesem Aufbau funktioniert, ist auch aus anderen Gründen plausibel. Das Verknüpfen von Konzepten wird in einem neuronalen Netzwerk durch die Verknüpfungen der Neuronen abgebildet.

Man spricht von Deep Learning, wenn es sich um ein neuronales Netz mit hinreichend vielen Schichten handelt.

Im Bereich der Bilderkennung sind mit neuronalen Netzen seit einigen Jahren bessere Ergebnisse erzielbar, als das für Menschen möglich ist. Dazu gehören das Erkennen von Gesichtern und von Verkehrszeichen.
Ebenfalls auf die Plätze verwiesen wurde der Mensch von einem neuronalen Netzwerk im Brettspiel Go. Bis zum Ende des 20. Jahrhunderts standen für dieses Spiel im Gegensatz zu Schach keine auch nur einigermaßen spielstarken Programme zur Verfügung. Vor einigen Jahren wurde aber der regierende menschliche Weltmeister in Go in vier von fünf Spielen besiegt.

Die Realisierung erfolgt derzeit praktisch ausschließlich in Software. Für eine Hardwarelösung wäre es notwendig, die Parameter des neuronalen Netzwerks im Gerät selbst zu verändern, was mit der derzeit verfügbaren Elektronik kaum möglich ist.

Deep Learning – Erklärung

Informationsverarbeitung war in ihrer frühen Phase stark symbollastig. Es ging nicht nur um die Verarbeitung von Symbolen, also von Zahlen oder Texten, auch die Programmierung bestand aus einer Kette von in einer Programmiersprache formulierten Anweisungen. Die entsprechenden Probleme sind für den Menschen lösbar, sie können von Computern mit der entsprechenden Programmierung aber wesentlich schneller und zuverlässiger erledigt werden.

Schon in der Frühzeit der Computerwissenschaften wurde die Frage aufgeworfen, wie es sich mit für den Menschen einfach lösbaren Aufgaben in der Informationsverarbeitung verhält. Menschen können ohne besonderen Aufwand Gesichter erkennen oder Sprache verstehen, sie können für diese Probleme aber kein Verfahren angeben, das Schritt für Schritt abgearbeitet werden könnte.

Es hat sich herausgestellt, dass solche Probleme mit neuronalen Netzen in vielen Fällen lösbar sind. Als Definition von Deep Learning kann also gelten, dass es Informationsverarbeitung durch ein neuronales Netz ist, in dem die Neuronen von Eingabe und Ausgabe durch mehrere Schichten voneinander getrennt sind.

Deep Learning und künstliche neuronale Netze

Ein neuronales Netzwerk besteht aus Zellen oder Neuronen, von denen jede für sich einfach aufgebaut ist. Jedes Neuron ist mit einigen und oft sehr vielen anderen Neuronen verbunden und erhält über diese Verbindungen seine Eingangssignale. Dabei kann es sich um Neuronen handeln, die das Eingangssignal direkt von Ihnen als Benutzer erhalten oder um Neuronen im Inneren des Netzwerks. Jedes Neuron besitzt auch eine Verbindung, über die ein Ausgangssignal an andere Neuronen übermittelt wird.

Die Eingänge eines Neurons werden von diesem zu einem Ausgangssignal verarbeitet. Diese Funktion ist im Verhältnis zur Komplexität des Netzwerks relativ einfach verständlich. Sie hat auch nicht direkt etwas mit den Problemen zu tun, zu deren Lösung das neuronale Netz eingesetzt werden soll und ist identisch für alle Neuronen im Netz. Auch wenn jedes Neuron nur über einen Parameter verfügt, sind in einem Netzwerk mit einer größeren Zahl von Neuronen entsprechend viele Parameter vorhanden, denen allen ein Wert zugewiesen werden muss.

Wie werden diese Werte also gewählt? Das neuronale Netzwerk erhält ein Paar bestehend aus einer Eingabe und einer richtigen Ausgabe. Es verändert dann die Parameter in seinen Neuronen so, dass das ganze Netzwerk für diese besondere Eingabe die entsprechende Ausgabe erzeugt. Das Training eines neuronalen Netzwerks besteht aus sehr vielen solchen Paaren von Input und Output. Das Ziel dieses Trainings ist es, das neuronale Netz in die Lage zu versetzen, neue Problemstellungen richtig zu lösen.

Es ist einleuchtend, dass es sehr viele Möglichkeiten geben wird, für eine Eingabe die Parameter entsprechend einzustellen. Aus diesen eine Wahl zu treffen und die Resultate von zahlreichen Trainingsdaten sinnvoll zu kombinieren gehört zu den anspruchsvollen Aspekten des Deep Learning. In diesem Bereich ist die Entwicklung auch noch keineswegs abgeschlossen und Sie können in den nächsten Jahren mit interessanten Entwicklungen rechnen.

Warum Deep Learning?

Es gibt viele Aufgaben in der Informationsverarbeitung, die sich einfach in viele kleine und wohldefinierte Schritte aufteilen lassen. Jeder Schritt wird in einer Programmiersprache formuliert und das gesamte Programm dann vom Computer ausgeführt. Solche Probleme sind für konventionelle Programmierung sehr gut geeignet.
Das Erkennen von Bildern oder Sprache gehört aber gerade nicht zu diesen Problemen. Nicht nur liegt derzeit kein Verfahren von, das man einfach programmieren könnte. Es ist der Natur dieser Probleme nach auch gar nicht damit zu rechnen, dass sich ein solches Verfahren finden lässt.
Deep Learning ist eines der Ergebnisse der Suche nach einer Alternative zur konventionellen Programmierung.

Deep Learning vs. Machine Learning

Deep Learning ist eine Untermenge von Machine Learning. Machine Learning umfasst also auch Methoden, die nicht zum Deep Learning gehören. Dazu gehören etwa die Folgenden.

  • Machine Learning verwendet im Unterschied zu Deep Learning auch Methoden, die auf explizit gegebenen Regeln basieren. Diese wiederum sind einer konventionellen Programmierung zugänglich.
  • Machine Learning verwendet auch Statistik zur Organisation von Daten in Cluster, aus denen Regelmäßigkeiten abgeleitet werden. Das erfordert im Gegensatz zu Deep Learning keine Eingabe von richtigen Paaren von Ein- und Ausgabe.
  • Verwendung von genetischen Algorithmen. Auch hier wird eine Iteration zum Training des Systems verwendet, aber in anderer Form. Sie beginnen mit einer Menge von Algorithmen, die das Problem grundsätzlich lösen können, wenn auch oft sehr schlecht. Dann kombinieren sie zwei dieser Algorithmen, addieren zufällig vorgenommene Änderungen, testen das Ergebnis und behalten die besseren der so gefundenen Algorithmen. Wie der Name vermuten lässt, war in diesem Fall nicht Neurowissenschaft, sondern Genetik der Pate der Methode.

Anwendungsbeispiele für das Deep Learning

Dazu gehören Probleme, für die ein Algorithmus gut möglicherweise existiert, aber noch nicht bekannt ist. Beispiele sind

  • Proteinfaltung
  • Textübersetzungen
    Für andere Probleme ist ein planmäßiges Vorgehen Schritt für Schritt kaum vorstellbar. Dazu gehören
  • Erkennen von Bildern
  • Verstehen von gesprochener Sprache

Zusammenfassung

Deep Learning ist ein faszinierendes Forschungsgebiet, das sein Potential in den letzten zwei Jahrzehnten auf eindrucksvolle Weise unter Beweis gestellt hat. Die Methode liefert bereits heute sehr gute Ergebnisse in etlichen Fachgebieten. Darüber hinaus bietet Deep Learning auch einen Zugang zum besseren Verständnis der menschlichen Denkprozesse.
Es ist auch damit zu rechnen, dass Deep Learning nicht nur in diesen, sondern auch in zahlreichen anderen Fachgebieten zum Einsatz kommen wird. Gerade wenn Sie in Ihrem Bereich von Deep Learning noch nichts gehört haben, sollten Sie diesen Typ der Informationsverarbeitung im Auge behalten. Dann können Sie zu den Ersten gehören, die Deep Learning in Ihrem Gebiet einsetzen und als Pionier die ersten und als solche oft aufsehenerregendsten Resultate erzielen.

Tipp: Bei uns können Sie Ihre Dokumente und Ordner digitalisieren!

Leave a comment