Was ist Deep Learning?

Deep Learning(DL) ist ein Teilbereich von Machine Learning (ML), der Algorithmen verwendet, die ähnlich wie Neuronen im menschlichen Gehirn verwendet werden. Deep Learning schafft künstliche neuronale Netzwerke und Schichten, die auf der Funktionsweise des menschlichen Gehirns basieren. Deep Learning ist eine Technik des maschinellen Lernens, die den Computern beibringt, was wir Menschen einfach und natürlich tun - lernen Sie anhand der Beispiele, auf die wir stoßen.

Sie können Deep-Learning-Technologie in fahrerlosen Autos sehen, die in der Lage sind, ein rotes Licht von einem Menschen von einer Bordsteinseite zu unterscheiden und sogar den Abstand zwischen zwei Autos zu messen. Es ist die Technologie, die die Sprachaktivierung Ihres Handys, die Gesichtserkennung auf Ihrem Fernsehgerät und Gestenoperationen auf Ihren persönlichen Geräten ermöglicht. Deep Learning hat in den letzten Jahren aus sehr gutem Grund eine erhebliche Aufmerksamkeit erregt.

Die Geschichte des Deep Learning

Kehren wir zu den Ursprüngen zurück. Deep Learning erschien erstmals im Jahr 1943, als Warren McCulloch und Walter Pitts Mathematik und Algorithmen verwendeten, um ein Computersystem zu schaffen, das neuronale Netzwerke replizierte. In den 1950er, 1960er, 1970er und 1980er Jahren wurden kleine Fortschritte erzielt. Die größte Entwicklung für Deep Learning fand im Jahr 1999 statt, als Computer-Verarbeitungsgeschwindigkeit und grafische Verarbeitungseinheiten entwickelt wurden. In den nächsten zehn Jahren wurden ungeschickte und ineffiziente Systeme 1000-mal schneller.

Erst Mitte der 2000er Jahre begann Deep Learning als Begriff regelmäßig in Technologiegesprächen aufzutreten. Der Begriff wurde populär, als Geoffrey Hinton und Ruslan Salachutdinov eine wissenschaftliche Arbeit veröffentlichten, in der erläutert wurde, wie ein neuronales Netzwerk aus mehreren Schichten trainiert werden könnte - eine Schicht nach der anderen. Google hat 2012 mit einem Algorithmus, der Katzen erkennen konnte, die Dinge auf die nächste Stufe gebracht. Bekannt als The Cat Experiment, nutzte er unüberwachtes Lernen, um 10.000.000 Bilder von Katzen einem System zu zeigen und es zu schulen, dass es Katzen erkennen konnte. Das Experiment war zum Teil erfolgreich, es schnitt besser ab als die früheren Experimente, aber es erkannte weniger als 16 Prozent der Katzen, die gezeigt wurden.

Google investierte dann zwei Jahre später in das britische Intelligence-Start-Up-Unternehmen DeepMind und im Jahr 2016 schrieb der Algorithmus von Google DeepMind Geschichte, indem er das komplexe Brettspiel Go lernte und einen professionellen menschlichen Spieler in einem Wettbewerb in Seoul besiegte.

Deep Learning, ein Teilbereich des maschinellen Lernens, ist ein Bereich, der ständig lernt und sich verbessert, indem er seine eigenen Algorithmen untersucht. Deep Learning basiert seine Arbeit auf künstlichen neuronalen Netzen, die geschaffen wurden, um menschliches Denken nachzuahmen. Bis vor kurzem hatten diese neuronalen Netzwerke eine begrenzte Rechenleistung, was zu einer begrenzten Komplexität führte.

Da die Big Data-Analytik sprunghaft voranschreitet, sind neuronale Netzwerke komplexer und ausgefeilter geworden. Dies hat dazu geführt, dass Computer mit Beobachtung, Lernen und Reaktion auf komplexe Situationen das Tempo aufnehmen, manchmal schneller als es ein menschlicher Verstand tun würde. Modelle werden weiterhin mit großen Mengen markierter Daten und neuronaler Netzwerke mit einer Vielzahl von Schichten trainiert. Mit Hilfe von Bildklassifizierung, Übersetzungskapazitäten und Spracherkennungstechnologie dekodiert Deep Learning sogar die Mustererkennung ohne menschliche Hilfe.

Was erreicht Deep Learning?

Deep Learning ist ein Teil unseres täglichen Lebens. Wenn Sie beispielsweise Fotos auf Facebook hochladen, hilft Ihnen Deep Learning, indem Sie Ihre Freunde automatisch markieren. Wenn Sie digitale Assistenten wie Siri, Cortana oder Alexa verwenden, hilft ihnen die Verarbeitung und Spracherkennung bei der natürlichen Sprache, die ihnen behilflich zu sein. Wenn Sie sich mit Ihren internationalen Kunden über Skype treffen, hören Sie sich Übersetzungen in Echtzeit an. Ihr E-Mail-Dienstanbieter erkennt Spam, ohne dass Sie es selbst tun müssen. Die Liste ist lang.

Ein Riese wie Google nutzt seit Jahren Deep Learning und arbeitet nun an der Bereitstellung von Lösungen der nächsten Stufe. Das Unternehmen war in der Lage, Sprache zu erzeugen, die menschliche Stimme und Klänge so natürlich wie möglich mit ihren Sprachsystemen nachahmt. Google Translate setzt Deep Learning und Bilderkennung ein, um an der Sprachübersetzung und der Erkennung schriftlicher Sprachen zu arbeiten. Googles PlanET kann Ihnen sagen, wo ein Foto aufgenommen wurde, und sein TensorFlow hat eine Reihe von Anwendungen für künstliche Intelligenz (KI) produziert.

Es gibt eine Reihe von Branchen, wo Deep Learning im Mittelpunkt ihrer Funktionsweise steht:

Luft-/Raumfahrt und Verteidigung

Deep Learning wird umfassend eingesetzt, um Satelliten dabei zu helfen, bestimmte Objekte oder Interessenbereiche zu identifizieren und sie als sicher oder unsicher für Soldaten zu klassifizieren.

Medizinische Forschungen

Der medizinische Forschungsbereich nutzt Deep Learning umfassend. Zum Beispiel wird in der laufenden Krebsforschung Deep Learning verwendet, um das Vorhandensein von Krebszellen automatisch nachzuweisen. Ein fortschrittliches Mikroskop ist eine Schöpfung der Köpfe von UCLA, das High-End-Daten verwendet, um einer Deep-Learning-Anwendung beizubringen, wie Krebszellen präzise identifiziert werden können. Der Umfang des Deep Learning wird es der medizinischen Forschung schließlich ermöglichen, personalisierte Medikamente zu entwickeln, die auf die Genomstruktur einer Person zugeschnitten sind.

Industrielle Automatisierung

Die Schwermaschinenbranche erfordert eine Vielzahl von Sicherheitsmaßnahmen. Deep Learning hilft bei der Verbesserung der Sicherheit der Arbeitnehmer in solchen Umgebungen, indem jede Person oder Objekte erkannt werden, die in den unsicheren Radius einer schweren Maschine liegen.

Chatbots und Service-Bots

Deep Learning treibt alle Chatbots und Service-Bots an, die mit Kunden interagieren und es ihnen ermöglichen, intelligente Antworten auf immer komplexere Sprach- und Textabfragen zu liefern. Das entwickelt sich ständig weiter.

Bild-Einfärbung

Was einst eine Aufgabe manuell und über einen langen Zeitraum hinweg erledigt wurde, kann nun Computern anvertraut werden. Schwarz-Weiß-Bilder können mit Deep-Learning-Algorithmen eingefärbt werden, die den Inhalt des Bildes in einen Kontext bringen und mit den richtigen Farben genau wiederherstellen können.

Gesichtserkennung

Diese Funktion, die Deep Learning verwendet, wird nicht nur für eine Reihe von Sicherheitszwecken verwendet, sondern wird bald Einkäufe in Geschäften ermöglichen. Die Gesichtserkennung wird bereits in Flughäfen umfassend eingesetzt, um nahtlose, papierlose Check-Ins zu ermöglichen. Deep Learning wird die Dinge noch einen Schritt weiter gehen, so dass die Gesichtserkennung ein Mittel zur Zahlungsleistung ist, selbst in Situationen, in denen die Person die Frisur geändert hatte oder in denen die Beleuchtung weniger als optimal ist.

Wie funktioniert Deep Learning?

Um zu verstehen, wie Computer Deep Learning nutzen, verwenden sie einen ähnlichen Prozess wie ein Kleinkind, das zu lernen versucht, wie man einen Hund identifiziert. Ein Kleinkind lernt zuerst, ein Bild mit dem Wort Hund im Zusammenhang zu bringen, so wie es ein Erwachsener sagt. Das Kind macht dann damit weiter, das Bellen mit einem Hund im Zusammenhang zu bringen. Das Kind beginnt dann das Wort mit mehreren Variationen auszusprechen, bis es richtig ist.

Auf die gleiche Weise haben Computerprogramme eine Hierarchie und der Algorithmus in jeder Ebene wendet eine Transformationsebene auf die Eingabe an (was das Lernen ist) und erstellt ein statistisches Modell als Referenz für die Ausgabe. Verschiedene Iterationen (genau wie das Kind, das lernt, den Hund zu erkennen) werden berücksichtigt, bis das erforderliche Maß an Genauigkeit erreicht ist. Die verschiedenen Ebenen oder Feature-Sets, die Daten durchlaufen müssen, um die endgültige Ebene erreichen zu können, haben dazu geführt, dass die Technologie als „Deep“-Learning bezeichnet wurde.

Im Falle eines Kindes und des überwachten maschinellen Lernens muss jede Stufe überwacht werden und die Anweisungen müssen spezifisch sein. Ein Kind ist vom Elternteil abhängig, für ML basiert das auf den Fähigkeiten des Programmierers oder des Data Scientist, der den Datensatz definiert, der einen Hund identifiziert. Im Falle von Deep Learning erstellt das Programm Feature-Sets für sich selbst, ohne Überwachung schneller und auf präzise Weise.

Ein Kind wird Monate brauchen, um die richtige Verbindung mit einem Hund herstellen zu können. Bei einem Computerprogramm, das auf Deep-Learning-Algorithmen basiert, kann dies in wenigen Minuten erreicht werden, da es zahlreiche Bilder genau durchsucht und die Hunde in ihnen heraussucht. Damit solche Genauigkeitsgrade erreicht und ständig aufrechterhalten werden können, benötigen Deep-Learning-Programme enorme Datenmengen für die Schulung und die Rechenleistung. Es war nicht leicht für Programmierer, darauf zuzugreifen, bis Cloud Computing und Big Data eintrafen.

Mit genügend Daten, die jetzt verfügbar sind, haben Deep-Learning-Programme die Fähigkeit erhalten, komplexe hierarchische Modelle mit ihrer eigenen iterationsgesteuerten Ausgabe zu erstellen. Sie sind in der Lage, aus großen Mengen unstrukturierter Rohdaten äußerst präzise Vorhersagemodelle zu erstellen. In Zukunft wird dies eine große Rolle bei der Ermöglichung des Internets der Dinge (IoT) spielen, da die meisten von Menschen und von Maschinen erzeugten Daten unstrukturiert sind und daher am besten durch Deep Learning und nicht durch Menschen bearbeitet werden.

Erstellung starker Deep Learning-Methoden

Es gibt verschiedene Ansätze zur Erstellung starker DL-Modelle.

Rückgang der Lernrate

Dies ist ein Hyperparameter, der der wichtigste Parameter für Deep Learning sein könnte. Er bestimmt, wie sehr sich das Modell als Reaktion auf die geschätzte Fehlermenge ändert, jedes Mal, wenn sich die Faktoren ändern. Wenn die Lernrate hoch ist, wird das System für Schulungsprozesse zu instabil. Wenn sie zu niedrig sind, sind die Chancen hoch, dass die Schulung unnötig lange dauert. Die genaue Konfiguration des Rückgangs der Lernrate bedeutet, dass sich die Lernrate anpasst, um die Leistungsfähigkeiten weiter zu erhöhen und gleichzeitig die absolvierte Schulungszeit zu verkürzen.

Übertragung von Lernen

Bei diesem Prozess geht es darum, dass ein Modell eine Analyse einer verwandten Aufgabe mit einer bereits bekannten durchführen soll. Das bestehende Netzwerk wird mit neuen Daten versorgt, die nicht klassifiziert sind. Wenn Anpassungen vorgenommen werden, wird jede neue Aufgabe mit besseren Kategorisierungsfähigkeiten durchgeführt. Mit diesem Ansatz wird die benötigte Datenmenge reduziert, wodurch auch die Rechenzeit gesenkt wird.

Schulung von Grund auf

Bei diesem Ansatz aggregiert der Entwickler große Mengen markierter Daten. Die Netzwerkarchitektur wird dann so konfiguriert, dass sie mehr über Funktionen und das Modell erfahren kann. Dieser Ansatz eignet sich hervorragend für die Erstellung neuer Anwendungen sowie für solche, die möglicherweise mehrere Ergebnisse erfordern. Er bleibt jedoch aufgrund der enormen Datenmenge einer der weniger verwendeten Ansätze,was zur Verlängerung der Schulung beiträgt.

Drop-out-Ansatz

Diese Methode löst das Problem der Überanpassung in Netzwerken unter Berücksichtigung der großen Anzahl von Parametern. Die Überanpassung geschieht, wenn die an den Schulungsdaten entwickelten Algorithmen nicht zu den realen Daten passen. Der Dropout-Ansatz hat eine nachgewiesene Erfolgsbilanz mit der Verbesserung der Leistung neuronaler Netzwerke, was das überwachte Lernen betrifft, insbesondere in den Bereichen Spracherkennung und Dokumentenklassifizierung sowie Computerbiologie.

Deep Learning hat dem Bereich KI und ML einen massiven Schub verliehen. Die Fähigkeit von Deep Learning, Aufgaben so zu analysieren, damit die Unterstützung jeder Maschine zu unterstützen und zuvor rein menschliche Aufgaben zu ermöglichen, ist seine Stärke. KI ist die Zukunft und mit Hilfe von Deep Learning können die Dinge, die man in Filmen sieht, in diesem Leben einfach Realität sein.