Zu einem Vortrag der Zukunftsphilosophin Dr. Natalie Knapp hatte ich vor einer Weile einen Kommentar auf Facebook geschrieben. Da dieser eine recht hohe Informationsdichte und -menge aufweist sowie einen relativ breiten Überblick gibt, veröffentliche ich diesen Kommentar inklusive kleinerer Anpassungen im Folgenden.
Ganz allgemein lässt sich die Aussage [dass bis zu einer KI mit menschenähnlichen Fähigkeiten noch hunderttausende Jahre vergehen würden, weil die Entwicklung natürlicher Intelligenz sehr lang dauerte][efn_note]Der Kürze halber sei meine originale Einleitung in diese Fußnote verschoben: „Ich war gestern bei dem Vortrag und muss sagen, dass er verhältnismäßig gut war. Frau Knapp erzählte frei und strukturiert. Ihre Aussagen über KI am Ende waren jedoch – gelinde gesagt – sehr gewagt. Ich will nicht ausschließen, dass es ein akustisches Missverständnis war, als ich sie sagen zu meinen hörte, bis zu einer KI mit menschenähnlichen Fähigkeiten würden noch einige hunderttausend Jahre vergehen, da die Natur ja bereits sehr lange Zeit benötigt habe. Falls ich mich tatsächlich verhört habe, ist meine Kritik gegenstandslos, meine Ausführungen jedoch mögen dem einen oder anderen zur Information dienen.“[/efn_note] angreifen, wenn man auf den gravierenden Geschwindigkeitsunterschied zwischen technischer Entwicklung und biologischer Evolution hinweist. Er liegt unter anderem darin begründet, dass die biologische Evolution nicht auf zielgerichteter Veränderung basiert, sondern auf zufälliger (Mutation; bei geschlechtlicher Fortpflanzung zusätzlich Rekombination). Die nächste Generation technischer Entwicklungen hingegen basiert auf intellektuellem Verständnis der Schwächen der Vorgängergeneration und zielgerichteten Änderungen in Hinblick auf den Zweck des Produktes. Ein Beispiel: Die natürliche Evolution hat im Vergleich zur technologischen Entwicklung sehr lange benötigt, um flugfähige Wesen hervorzubringen. Die ersten Flugversuche der Gebrüder Wright und die Mondlandung fanden hingegen innerhalb von 70 Jahren statt. Heute reisen Menschen routinemäßig in Höhen und mit Geschwindigkeiten (ca. 900 km/h), die für fliegende Tiere unerreichbar bleiben. Vom Mond oder anderen Planeten ganz zu schweigen.
Tatsächlich sind die Entwicklungen der KI gerade in den letzten Jahren rasant. Es wurden grundlegende Ideen wie Recurrent Neural Networks (RNN), Long-Short-Term-Memory (LSTM) oder Generative Adverserial Networks (GAN) entwickelt. Es wurden einige Forschungsarbeiten veröffentlicht, die innerhalb von nur ein oder zwei Jahren deutlich übertroffen wurden. Pikanterweise hat erst vor wenigen Tagen die auf DeepMind basierende KI AlphaStar Weltmeisterniveau im Echtzeitstrategiespiel StarCraft II erreicht. Zur Einschätzung dieser Leistung sei gesagt, dass im Vergleich zum Schach nicht grob 200 erlaubte Züge pro Spielsituation existieren, sondern 1026 = 100.000.000.000.000.000.000.000.000, außerdem wird nicht rundenbasiert gespielt, sondern in Echtzeit. Weiterhin liegen den Spielern keine vollständigen Informationen über die Spielsituation vor. Die KI hat innerhalb von 14 Tagen etwa 200 Jahre Spielerfahrung gesammelt (schnelleres Training als in Echtzeit), wobei ihr Lernprozess die gleichen Strategien hervorgebracht hat wie die menschliche Spielergemeinschaft innerhalb einiger Jahre (siehe https://deepmind.com/blog/alphastar-mastering-real-time-strategy-game-starcraft-ii/).
Die Schwester-KI AlphaZero hat im Schach innerhalb von 4 Stunden Selbst-Training ein übermenschliches Niveau erreicht, das zudem über dem Niveau von Schachprogrammen liegt, die über 15 Jahre und mehr entwickelt wurden und hinter denen noch viel mehr Jahre Theorie stehen (siehe https://www.heise.de/newsticker/meldung/Wie-Googles-KI-Schach-veraenderte-4245938.html). Die schiere Rechenleistung und die Prüfung extrem vieler Zugmöglichkeiten (wohlgemerkt: während der Trainingsphase) haben sogar dazu geführt, dass die KIs ihre jeweiligen Spiele mit besonders kreativen Zügen bestreiten (unvergessen der Ausruf: „Sie spielt wie eine Göttin!“) und sogar in alten und vermeintlich längst erforschten Spielen wie Go und Schach neue Impulse für die Theorie liefern konnten.
Die meisten Wissenschaftler gehen von einer allgemeinen, menschenähnlichen KI zwischen 2030 und 2050 aus. 43,3 % sogar vor 2030. Dies ist nur eine von vielen Umfragen zu dem Thema: https://aiimpacts.org/agi-11-survey/ In dem Zusammenhang ist das Thema technologische Singularität sehr prominent, siehe https://de.wikipedia.org/wiki/Technologische_Singularität.
Die Gefahr, die von KIs ausgeht, ist nicht zu unterschätzen. Wir verstehen im Detail noch nicht, wie und warum neuronale Netze bestimmte Entscheidungen treffen, wir verstehen lediglich die Bausteine. Bei Intelligenz handelt es sich also, wie bei Bewusstsein und Gefühlen, um ein emergentes Phänomen (siehe https://de.wikipedia.org/wiki/Emergenz). Viele Wissenschaftler und ausgewiesene Experten auf dem Gebiet warnen davor: https://en.wikipedia.org/wiki/Open_Letter_on_Artificial_Intelligence
Es muss auch differenziert werden, ob die KI aus eigenem Antrieb Böses tut oder schlicht als willenloses Werkzeug benutzt wird. Letzteres wird definitiv zuerst geschehen, ausgehend vom Militär. AlphaStar liefert bereits eine Vorlage für eine KI, die Truppenbewegungen plant, Ressourcen verwaltet und unvollständige Informationen hat. Es wirkt übrigens, als würde Putin kalte Füße bekommen, da er Russland im Wettrennen um die erste starke KI nicht unbedingt vorne sieht.
Betrachtet man den Fall einer aus eigenem Antrieb agierenden KI, müsste diese nicht unbedingt einen physischen Körper besitzen, um uns zu schaden. Unsere Logistik zur Lebensmittelversorgung hängt schon dermaßen stark von informationsverarbeitenden Systemen ab, dass eine KI, die diese angreift, den Tod von hunderten Millionen bis Milliarden Menschen verursachen könnte.
Die Aussage Frau Knapps, dass im Kern nur Wenn-Dann-Entscheidungen stünden, vermittelt ein falsches Bild. NNs haben vielmehr mit Schwellenwerten zu tun. Zudem ist erst vor Kurzem festgestellt worden, dass sich bestimmte Arten von NNs als Differentialgleichungen ausdrücken lassen: https://rkevingibson.github.io/blog/neural-networks-as-ordinary-differential-equations/.
Dass Frau Knapp am Ende gesagt hat, sie würde sich nicht besonders für Technik interessieren, hat mich sehr überrascht. Möglicherweise ist meine Vorstellung von Zukunftsphilosophie falsch. Für sicher halte ich es jedoch, dass Prognosen über die Zukunft zum Großteil Prognosen über die technologische Entwicklung sind, gerade vor dem Hintergrund, dass technologische Entwicklungen auch die Entwicklung der Gesellschaft stark beeinflussen (die dramatischsten gesellschaftlichen Entwicklungen der Vergangenheit kamen, so weit ich weiß, durch Technologie, zum Beispiel den Ackerbau, Schusswaffen, Autos, Raketenantrieb etc.).
Noch einige Gedanken:
Ist eine allgemeine KI eigentlich nötig?
Für die meisten Fälle nicht. Solange es ein trainiertes NN für die jeweilige Aufgabe gibt, kann diese durch jenes erledigt werden. Diese NNs erbringen häufig bereits übermenschliche Leistungen. Analog zu einer Gesellschaft oder einer Firma, die durch die speziellen Stärken ihrer Individuen wesentlich fähiger wird als die Individuen selbst, kann eine Sammlung aus NNs nahezu(?) jede Aufgabe erledigen.
Ist echte Intelligenz nötig?
Wenn man eine Art Garantie für die Ergebnisse möchte, ja. In anderen Fällen nicht immer. Die primär heuristisch arbeitende KI Watson hat vor einigen Jahren die besten Jeopardy-Spieler in einem echten Spiel deutlich geschlagen. Siehe https://de.wikipedia.org/wiki/Watson_(Künstliche_Intelligenz)#Kandidatenbewertung und https://www.youtube.com/watch?v=YgYSv2KSyWg.
Einige Videos, die einen Eindruck aktueller KI-Leistungen geben:
Google Duplex: A.I. Assistant Calls Local Businesses To Make Appointments
Universal Neural Style Transfer
This AI Senses Humans Through Walls
This AI Learned To See In The Dark
AI-Based Video-to-Video Synthesis
Fußnoten
[…] allgemeinen, menschenähnlichen KI zwischen 2030 und 2050 aus. 43,3 % sogar vor 2030. (Quelle: hinterdemnebel.de: Zum aktuellen Stand der KI und ihrer weiteren […]