Prof. Dr. Ulf Brefeld: „Wenn ich jetzt nicht in AI investiere, dann kann es sein, dass das mein letzter entscheidender Fehler war.“
Ulf Brefeld ist Professor für Maschinelles Lernen an der Leuphana Universität Lüneburg. Nach dem Studium der Informatik an der Universität des Saarlandes, Saarbrücken und der Technischen Universität Berlin promovierte er an der Humboldt-Universität zu Berlin und am Max-Planck-Institut für Informatik in Saarbrücken. Er war Postdoc an der Technischen Universität Berlin und der Universität Bonn und arbeitete für Yahoo! Research, Barcelona, bevor er die Leitung der Recommender-Gruppe bei Zalando übernahm. Von 2012 bis 2015 war er Professor für Knowledge Mining & Assessment an der TU Darmstadt und am DIPF, Frankfurt am Main. Ulf Brefeld interessiert sich für statistisches Maschinelles Lernen und Data-Mining.
Gunnar Brune/AI.Hamburg: Herr Professor Brefeld, Sie sind Informatiker an der Leuphana Universität. Wenn man Ihren Publikationen folgt, dann bekommt man den Eindruck, dass – Stichwort Machine Learning – nicht nur Menschen Maschinen trainieren, sondern auch Maschinen Sportler. Ist das so?
Prof. Dr. Ulf Brefeld: Sportler*innen trainieren wir mit unseren Lernalgorithmen noch nicht, aber wir arbeiten tatsächlich viel im Bereich Sport. Im Prinzip geht Maschinelles Lernen bzw. Künstliche Intelligenz ja in alle Bereiche unseres Lebens hinein. Wir kooperieren z.B. mit dem Deutschen Fußballbund und der Deutschen Fußball Liga (DFL) und versuchen die Koordination der Spieler*innen auf dem Fußballplatz besser zu verstehen und auch analytisch zu fassen, um dann Aussagen zu machen, die Fußballvereine interessieren. Die Methoden, die wir dazu entwickeln, sind dabei nicht zwingend auf Profifußball beschränkt, sondern erlauben uns auch andere Bewegungsdaten besser zu verstehen, z.B. Migration, öffentlicher Nahverkehr oder allgemein Probleme, in denen sich ein oder mehrere Agenten oder Objekte in Raum und Zeit bewegen.
Gunnar Brune/AI.Hamburg: Eine Sekunde, ich komme da nicht ganz mit. Die Frage „Wie schieße ich ein Tor?“ ist verwandt mit der Frage, wie ein Migrant zu seinem Ziel findet und mit der Frage, an wie vielen roten Ampeln ich auf dem Weg zur Leuphana Universität anhalten muss?
Prof. Dr. Ulf Brefeld: Formal gesehen sind das ähnliche Problemstellungen: wir haben Sequenzen von Zeitstempeln und Orten. Diese beschreiben ein Zeit-Raum-Problem von einem oder mehreren Agenten, in diesem Fall Personen, die sich nach irgendeinem Muster bewegen. In der Regel, laufen Menschen ja nicht zufällig durch die Gegend, sondern sie verfolgen mit ihrer Bewegung ein Ziel. Die Fußballer wollen z.B. ein Tor erzielen, Störche wollen in Afrika überwintern, der öffentliche Personennahverkehr will pünktlich sein. So unterschiedlich diese Situationen sind und so unterschiedlich wir sie umgangssprachlich beschreiben, so ähnlich sind sich die Formalisierungen.
Gunnar Brune/AI.Hamburg: Was macht in diesem Zusammenhang gesellschaftlich sehr relevanter Themen ausgerechnet den Fußball zum Forschungsgegenstand?
Prof. Dr. Ulf Brefeld: Beim Fußball haben wir die Daten durch die Kooperation mit der DFL und dem DFB. Die Positionen der einzelnen Fußballspieler in den Spielen der ersten und zweiten Bundesliga werden regelmäßig mit Spezialkameras aufgenommen, um die Daten zu generieren. In den anderen Fällen ist es nicht so einfach. Generell ist die Verarbeitung von personenbezogenen Daten sinnvollerweise durch den Datenschutz eingeschränkt.
Gunnar Brune/AI.Hamburg: Und findet man dabei die allgemein bekannten Spielsysteme wie 4-4-2 oder 4-3-3 wieder? Oder schaut man nach anderen Dingen?
Prof. Dr. Ulf Brefeld: Wir schauen weniger nach Systemen. Oft widersprechen sich da auch die Expert*innen, und bereits kleine taktische Umstellungen verändern manchmal den Charakter der Aufstellung. Es geht uns tatsächlich mehr um Koordination.
Gunnar Brune/AI.Hamburg: Wenn Sie diese Frage beantworten wollen, wie suchen Sie dafür den Algorithmus aus und wie trainieren Sie ihn? Ein Marketingprofessor kann seinen Algorithmus z.B. mit Amazon-Bewertungen trainieren, aber wie macht man das bei einem Fußballspiel?
Prof. Dr. Ulf Brefeld: Das Vorgehen ist grundsätzlich eigentlich immer gleich. Man überlegt sich zunächst, wie man die Qualität eines etwaigen Algorithmus’ evaluieren möchte. Aus der Evaluierung entspringt dann eine Blaupause des Algorithmus auf natürliche Weise. Beim Fußball ist es beispielsweise so: Wir maximieren den „Gewinn“ (Reward). Dazu messen wir keine Tore, die sind beim Fußball zu zufällig, sondern z.B. das Eindringen in den Strafraum mit dem Ball. Wird der Ball vorher verloren, dann ist es ein negatives Beispiel. Trägt ein Team den Ball in den Strafraum des Gegners, dann ist es ein positives Beispiel. Aus historischen Spielen lernt das System dann die Aktionen der Spieler*innen im Kontext zu bewerten und kann Wahrscheinlichkeiten berechnen, ob diese Aktionen zu einem positiven oder negativen Ausgang führten.
AI sagt Passgenauigkeit voraus: Der Ball ist beim blauen Spieler mit dem schwarzen Kreis oben an der Mittellinie. Rot markiert sind die Räume, in denen die Mitspieler angespielt werden können (je röter, desto sicherer ist der Pass) und die Zahlen sind Wahrscheinlichkeiten, dass ein Zuspiel auch funktioniert (Laufwege, Schwierigkeit des Passes, Abfangwahrscheinlichkeiten, usw.). Quelle: Prof. Dr. Ulf Brefeld, Leuphana Universität Lüneburg
Gunnar Brune/AI.Hamburg: Was kommt dabei heraus? Kann man einem Trainer danach empfehlen, dass er seine Mannschaft diagonale, halbhohe Pässe trainieren lassen soll? Wie weit ist die Forschung hier aktuell?
Prof. Dr. Ulf Brefeld: Wir können durchaus Empfehlungen ableiten, für eine sportwissenschaftliche Fundierung bräuchten wir allerdings eine längerfristige Kooperation mit Sportwissenschaftler*innen oder einem Verein. Im Augenblick beschränken wir uns daher auf die Grundlagenforschung im Bereich der Koordination mehrerer Agenten in Raum und Zeit. In Deutschland scheinen viele Vereine für datengetriebene Analysen noch nicht wirklich bereit, sie kommen traditionell aus einer anderen Zeit und sind häufig noch nicht so weit in Sachen Digitalisierung. Manchmal habe ich auch den Eindruck, dass es starke Ressentiments gibt, dass Datenanalysen die Seele des Fußballs auffressen könnten usw. Aber abgesehen von uns arbeiten natürlich große Vereine wie z.B. FC Barcelona oder Liverpool FC ebenfalls an datengetriebenen Einsichten, die die Mannschaft voranbringen. Geschadet hat es ihnen bisher nicht.
Gunnar Brune/AI.Hamburg: Künstliche Intelligenz erlaubt uns in vielen Fällen, aus unserem linearen Denken auszubrechen und komplexe Situationen besser zu verstehen. Gibt es so eine Art Vorurteil, dass die digitalen Analysen alles gleich machen, anstatt die Vorteile von etwas Besonderem zu erkennen?
Prof. Dr. Ulf Brefeld: Ich denke, es ist etwas anders. Es gibt Dinge, die kann der Mensch gut und es gibt Dinge, die können die Maschinen gut. Immer wenn wir versuchen, etwas zu machen, was die Maschinen besser können, scheitern wir. Und andersherum ist es genauso. Maschinen schreiben jetzt z.B. keine extrem tollen Gedichte. In vielen Bereichen könnte man vielleicht Mehrwerte schaffen, indem man hybride Lösungen sucht. Die Maschinen machen den Teil, den sie gut können, wir machen den Teil, den wir gut können. Ich denke, wir müssen dafür neue Formen der Zusammenarbeit finden.
Gunnar Brune/AI.Hamburg: Also in neuen Formen der Zusammenarbeit besser verstehen, wie der Ball in den Strafraum kommt oder der Bus pünktlich abfährt?
Prof. Dr. Ulf Brefeld: Genau! Die Trainer*innen und Busfahrer*innen können und wollen wir nicht ersetzen, auch nicht die Co-Trainer*innen und Scouts, aber wir können Algorithmen bauen, die ihnen mehr Zeit verschaffen. In der Spielvorbereitung sehen sich die Videoanalysten mehrere Spiele des Gegners an und schneiden Szenen zusammen, die sie für wichtig halten. Wenn wir diese Arbeit (teil-)automatisieren könnten, dann hätten sie schon viele Stunden Zeit gespart und könnten sich mit anderen Dingen beschäftigen.
Genau in solch sensiblen Bereichen brauchen die Vereine aber eine individuelle Lösung, die die eigene Spielphilosophie und Tradition des Vereins implementiert. Eine solche Lösung kann daher nur in einer Kooperation mit einem Verein entwickelt werden. Wir arbeiten z.B. in einigen Projekten mit dem Deutschen Fußballbund zusammen. Heute (das Interview wurde am 28.08.20 geführt) werden wir die Sieger beim zweiten Hackathon der DFB-Akademie küren. Die teilnehmenden Teams mussten verschiedene Challenges bewältigen, dazu zählten das taktische Verhalten in Offensive und Defensive oder das Umschaltspiel bei Ballgewinn oder Ballverlust. (https://www.dfb.de/news/detail/dfb-akademie-initiiert-zweiten-hackathon-212119/).
Gunnar Brune/AI.Hamburg: Der Fußball ist ein schönes Beispiel und wir wissen, der Fußball regiert die Welt, aber vielleicht können wir auch über andere Anwendungen sprechen?
Prof. Dr. Ulf Brefeld: Ich betrachte als Wissenschaftler immer die formale Repräsentation eines Problems. Wir können also gerne über andere Anwendungen von Künstlicher Intelligenz sprechen. Wir entwickeln neue Algorithmen, die formale Probleme lösen, die man vorher auf diese Art nicht lösen konnte. Irgendjemand hat mal gesagt: Angewandte Mathematik mit Feenstaub.
Gunnar Brune/AI.Hamburg: Mit Feenstaub?
Prof. Dr. Ulf Brefeld: Vielleicht nicht im wörtlichen Sinn. Die Idee meiner Forschungsgruppe an der Leuphana ist die Entwicklung formaler Methoden für Probleme, die über Raum und Zeit definiert sind. Zum Beispiel Trajektorien- und Multiagentenprobleme wie das Fußballprojekt. Wir arbeiten auch an dem Verstehen von Nutzern im Internet oder in Online-Szenarien. Hier ist die Trajektorie gegeben durch User-Navigation auf einer Website. Ein anderer Fokus von uns liegt auf adaptiven Lernumgebungen. In einem Projekt zu einem elektronischen Geschichtsbuch für Kinder haben wir versucht, herauszufinden, was die Kinder mit dem „Buch“ im Unterricht und zu Hause machen. Ziel wäre es, aus dem Nutzerverhalten einen Prädiktor für erfolgreiches Lernen abzuleiten. Einen solchen Prädiktor könnte man dann in das Buch einprogrammieren und das Buch zu einem adaptiven Buch machen. Im Dialog mit dem Kind könnte das Buch dann zum Beispiel hinweisen „Du hast die Seite mit der Lösung für die Frage noch gar nicht zu Ende gelesen, warte noch mit der Antwort“.
Im Augenblick versuchen wir weiter in Richtung Lernen und Üben zu gehen, in dem wir eine Art adaptive Lernumgebung schaffen. Wir brauchen dafür aber nicht nur die Informatik, sondern z.B. auch Didaktik, Psychologie und Linguistik im Team. Fördermittel für solche großen interdisziplinären Projekte sind oft schwer zu finden, aber wir sind derzeit auf einem sehr guten Weg mit einer Stiftung.
Gunnar Brune/AI.Hamburg: In fast allen Interviews dieser Reihe kommen wir irgendwann auf die Frage, woher die Algorithmen kommen. Im Film „The Social Network“ wird der Facebook-Algorithmus noch mit leichter Hand an eine Scheibe geschrieben. In dieser Interviewreihe haben bisher viele Anwender gesagt, “ich schaue mir das Problem an, suche mir einen Algorithmus und probiere den auf dem Problem aus“. Sie sind der erste, der sagt, dass er die auch selber baut.
Prof. Dr. Ulf Brefeld: Sie haben wahrscheinlich vorher eher mit Anwender*innen gesprochen, die Methoden der Künstlichen Intelligenz anwenden und versuchen, Probleme mit bereits existierenden Algorithmen zu lösen. Wir entwickeln dagegen neue Methoden für Probleme, für die es noch keine Standardalgorithmen gibt.
Gunnar Brune/AI.Hamburg: Wie macht man so etwas?
Prof. Dr. Ulf Brefeld: Wir versuchen für das Problem eine geeignete Fehlerfunktion zu finden, die wir dann minimieren, damit die Lösung möglichst keinen Fehler macht. Sobald die Funktion gefunden ist, leiten wir sie ab, berechnen einen Gradienten oder nutzen ein anderes Optimierungsverfahren, das sich anbietet. Wir wollen die technische Entwicklung dabei immer ein wenig weiter nach vorn schieben.
Gunnar Brune/AI.Hamburg: Wie hoch ist die Mathematik, die dafür verwendet wird? Ist die Mathematik im Rahmen des Abi-Wissens, also Intervalle, Abweichungen, Ableitungen, nur umfangreicher? Oder ist das eine Mathematik, wo der normale Abiturient mit gesundem Menschenverstand aussteigt. Wie kompliziert ist so eine Formel von den Grundbausteinen?
Prof. Dr. Ulf Brefeld: Die ist eigentlich überschaubar. Ich denke, wenn sie gut in Mathe sind und Lust darauf haben, dann ist das kein Problem. Aber wir lesen schon viel in Büchern, die man nicht jeden Tag liest und suchen dort z.B. nach Optimierungsalgorithmen oder neuen Ideen. Zum Beispiel, haben wir in letzter Zeit viel mit konvexen Hüllen gemacht.
Gunnar Brune/AI.Hamburg: Was ist eine konvexe Hülle?
Prof. Dr. Ulf Brefeld: Das ist die kleinste Teilmenge der Daten, die alle anderen Daten umgibt. Salopp gesagt, alle Punkte, die den Rand der Daten bestimmen. Oft ist man z.B. an Gruppenstrukturen in den Daten interessiert. Man versucht also Aussagen über ähnliche Datenpunkte zu machen, in dem man sie als eine Gruppe (Cluster) zusammenfasst. Man analysiert dann nicht mehr die einzelnen Punkte, sondern nur noch die Gruppe als Ganzes, die z.B. durch ihren Mittelwert bestimmt wird.
Wenn wir den Ansatz über konvexe Hüllen verfolgen, repräsentieren wir die Datenpunkte nicht durch Mittelwerte, sondern durch Extremwerte, die am Rand der Datenpunkte liegen, also auf der konvexen Hülle. Wir erhoffen uns dadurch eine bessere Erklärbarkeit der Gruppenzugehörigkeit. Wenn man mir z.B. sagt „Du bist in diesem Cluster“, dann weiß ich eigentlich nicht, wie nah ich wirklich am Zentrum des Clusters bin, wie groß er ist, wie weit die anderen entfernt sind, usw. Ich weiß nur, dass ich in dieser Gruppe bin, aber nicht, was drumherum existiert. Wenn ich aber sage, dass ich näher an dem einen oder anderen Extremwert bin, dann habe ich gleich eine Art Skala, auf der ich mich selbst verorten kann.
Gunnar Brune/AI.Hamburg: Könnte man so ein Modell auch auf die politische Landschaft anwenden? So wie – insbesondere für die USA – man bisher davon ausging, dass der Kampf um die „Mitte“ stattfindet, man aktuell aber den Eindruck gewinnt, die Extreme bestimmen die Entscheidung mehr und sich die Taktik der Wahlkämpfer entsprechend verändert hat? Könnte man dies mit so einem Modell untersuchen?
Prof. Dr. Ulf Brefeld: Möglicherweise ja.
Gunnar Brune/AI.Hamburg: Kommen wir nochmal zur Entstehung der Algorithmen zurück. Wie können die noch entstehen?
Prof. Dr. Ulf Brefeld: Algorithmen können auch aus vorhandenen Problemen heraus entstehen. Das heißt, jemand möchte ein bestimmtes Problem mit bestimmten Daten lösen. In der Praxis haben entweder die Probleme oder die Daten eigentlich immer irgendwelche Eigenschaften, die man ausnutzen kann, um eine bessere Lösung zu finden als mit Standardalgorithmen. Man muss dazu also das Problem und die Daten gut verstehen. Im Prinzip läuft es dann wieder wie vorhin beschrieben. Man würde wieder versuchen, eine Fehlerfunktion aufzustellen, die dann minimiert wird. Es kann gut sein, dass diese Fehlerfunktion ähnlich zu der eines Standardalgorithmus’ ist, aber vielleicht über einen zusätzlichen Term verfügt, der die charakteristischen Eigenschaften des vorliegenden Problems/der Daten ausnutzt.
Gunnar Brune/AI.Hamburg: Was muss sich der Laie unter einem Algorithmus vorstellen? So etwas wie eine mathematische Formel?
Ein Algorithmus ist eine Berechnungsvorschrift, also eine Blaupause, die die mathematische Idee in die Computerwelt übersetzt. Es ist eine Vorschrift, in der Variablen, Formeln, aber auch Kontrollstrukturen wie z.B. Schleifen vorhanden sind. Wenn ich z.B. ein Modell lernen möchte, dann schaue ich mir vielleicht zuerst nur einen Datenpunkt an und prüfe, ob das aktuelle Modell diesen Datenpunkt richtig vorhersagt. Falls ja, nehme ich den nächsten Datenpunkt und wiederhole den Test. Falls nein, ändere ich gemäß den mathematischen Formeln zunächst das Modell, bevor ich zum nächsten Datenpunkt übergehe. Die Schritte wiederhole ich dann solange bis das Modell konvergiert ist und, im besten Fall keine Fehler mehr macht. Diese Berechnungsvorschrift ist der Algorithmus.
Gunnar Brune/AI.Hamburg: Aktuell trainieren wir die Künstliche Intelligenz, Dinge für uns zu tun, für die wir viel Zeit benötigen würden oder die wir als Menschen wegen ihrer Komplexität nicht tun können. Was brauchen wir, um mit Künstlicher Intelligenz viel weiter zu kommen? Was wäre der nächste Schritt und woran fehlt es? Akzeptanz in der Anwendung, finanzielle Mittel, Computerpower oder Informatikstudenten?
Prof. Dr. Ulf Brefeld: In der Bevölkerung fehlt es vielleicht ein wenig an Akzeptanz. Bei dem Schulbuchprojekt haben einige Lehrer*innen das elektronische Buch beispielsweise abgelehnt und gar nicht im Unterricht eingesetzt. Weiterhin sehe ich das Problem, wenn auch nicht so stark wie vielleicht noch vor zwei bis drei Jahren, dass die Wirtschaft schon gerne Daten analysieren würde, aber die Notwendigkeit zu investieren nicht erkannt hat oder nicht gewillt ist, diese Investitionen zu realisieren. Man muss sich wirklich überlegen, vor welchem Sprung wir gerade sind. Wir stoßen das Tor zu einer neuen Welt auf, in der die Karten neu gemischt werden. Von den Unternehmen und Marken, die wir heute kennen, ist nicht gesagt, dass sie morgen noch da sind. Wir konkurrieren gerade nicht allein mit der westlichen Welt, wir konkurrieren mit allen. Ein Beispiel: Wenn es jemandem heute gelingt, Kresse mit Hilfe eines Computers anzubauen, also automatisch mittels Sensoren Wärme, Wasser usw. optimal auf die täglichen Bedürfnisse der Pflanze einzustellen, dann wird sie oder er morgen Kresse viel billiger anbauen als alle anderen. D.h. wenn ich jetzt nicht in Künstliche Intelligenz investiere, dann kann es sein, dass das mein letzter entscheidender Fehler war.
Insgesamt würde ich aber sagen, dass es sich gebessert hat. Dennoch haben Deutschland und die deutsche Wirtschaft einen extremen Nachholbedarf. Wir sind noch nicht gut aufgestellt, auch wenn wir gerade etwas aufholen. Und: Wir brauchen noch viel mehr Data Scientists.
Gunnar Brune/AI.Hamburg: Aber ist Data Science nicht gerade sehr beliebt bei den Studenten und wächst nicht genug Nachwuchs heran?
Prof. Dr. Ulf Brefeld: Ja, das ist richtig, aber wir brauchen viel mehr. Es wird wahrscheinlich noch Jahre brauchen, bis wir überhaupt die Menge an Expert*innen ausbilden, die wir brauchen. Zwar bietet mittlerweile jede Universität einen Data-Science-Studiengang an, aber die Studierenden brauchen Zeit, bis sie ihr Studium abgeschlossen haben, und die meisten Programme sind recht klein und nehmen nur wenige Studierende auf. Wir könnten heute tausende, vielleicht zehntausende Absolvent*innen entlassen und sie würden alle sofort einen Job finden.
Gunnar Brune/AI.Hamburg: Data Science ist doch nur ein Teil von Künstlicher Intelligenz.
Prof. Dr. Ulf Brefeld: Im Prinzip ist Data Science etwas angewandter, oft sogar fachbezogen und beinhaltet u.a. auch Datenbankthemen, die in der reinen AI so nicht zu finden sind. Gerade deshalb sind diese Absolventen sehr relevant für die Wirtschaft. Ein*e Data Scientist besetzt eine Schnittstellenposition. Wenn man eine große Firma wäre, dann hätte man optimalerweise Spezialist*innen für Künstliche Intelligenz, man hätte die Data Scientists, die den Transfer in die Abteilungen übernehmen und man hätte die Softwareentwickler*innen, die Konzepte in die Praxis umsetzen. Im Zuge dessen entwickeln sich jetzt viele neue Berufsbilder wie z.B. Data Engineer, Data Scouts.
Gunnar Brune/AI.Hamburg: Jetzt sind wir schon in der Praxis angekommen, obwohl Sie Forscher sind. Lassen Sie uns deshalb einen Schritt zurückgehen und fragen, wohin die Forschung geht. Geht sie in die Breite und versucht immer mehr Anwendungsfälle zu finden, oder steht man vor einer Tür, die einem noch ganz andere Möglichkeiten bietet, wenn es gelingt, sie zu öffnen? Brauchen Sie zum Beispiel mehr Rechenpower?
Prof. Dr. Ulf Brefeld: In Bezug auf Rechenpower gibt es bereits eine klare Trennung von universitärer und industrieller Forschung. Allein der Strom für die Berechnung von Googles AlphaStar kostete mehrere hunderttausend Dollar, von der Hardware ganz zu schweigen. Das ist für eine Universität natürlich nicht machbar. Die Rechenpower bestimmt dadurch zu einem großen Teil auch die Probleme, die man angehen und realistischerweise lösen kann. Dies gilt insbesondere für moderne neuronale Architekturen, die nicht mehr mit klassischen CPUs, sondern auf GPUs, also speziellen Hochleistungsgrafikkarten, berechnet werden.
Gunnar Brune/AI.Hamburg: Das heißt, diese Grafikkarten wurden tatsächlich ursprünglich u.a. für Computerspiele entwickelt?
Prof. Dr. Ulf Brefeld: Ja. Im Grunde sind das gewöhnliche Grafikkarten, die als High-End-Versionen produziert werden. So, wie wir sie nutzen, wären sie natürlich zu teuer für Gamer. Für uns werden zum Beispiel Hochleistungsbusse in die Rechner eingebaut, damit die Daten schneller auf die Grafikkarten kommen, die Wärmeentwicklung der Karten ist anders und die damit verbundene Lebensdauer bei Dauerbetrieb sehr viel höher usw. Die bessere Hardware und die Verfügbarkeit von sehr großen Datenmengen hat die Forschung mit neuronalen Netzen wieder belebt. Es gibt hier aber oft keine theoretischen Erkenntnisse, die einem verraten, wie genau so ein neuronales Netz für ein bestimmtest Problem aussehen sollte. Man muss daher möglichst viele verschiedene Architekturen ausprobieren. Das ist sehr aufwändig und man braucht eine vernünftige Infrastruktur, um ein gutes Netz zu identifizieren.
Gunnar Brune/AI.Hamburg: Das klingt jetzt ein wenig wie die Berichte eines Anwenders, mit dem ich gesprochen habe, bei dem gute neue Lösungen in der Anwendung von neuronalen Netzen auch viel vom Zufall abhingen.
Prof. Dr. Ulf Brefeld: Ja. Es gibt viel Ausprobieren mit diesen Netzen. Das ist ein wenig schade, denn das steht natürlich unserer erkenntnisgetriebenen Forschung entgegen. Natürlich sind neuronale Netze nicht komplett theoriefrei, aber im Augenblick überwiegt noch die Black Box. Viele probieren daher lange herum und berichten dann das eine tolle Ergebnis. Das hat mit Wissenschaft dann natürlich nicht mehr viel zu tun.
Gunnar Brune/AI.Hamburg: Ist das nicht ein wenig ernüchternd?
Prof. Dr. Ulf Brefeld: Genau, hier sind wir als Forscher gefragt, und deshalb gibt es zur Zeit viele Ansätze, die sich mit der Interpretierbarkeit von neuronalen Netzen beschäftigen. Wir wollen verstehen, wie das Modell aussehen muss, wenn neuronale Netze eingesetzt werden sollen. Wir wollen Erklärbarkeit schaffen. Und wir wollen, dass uns das neuronale Netz hilft zu verstehen, warum es zu einer Entscheidung gekommen ist. In diesem Zusammenhang ist auch die Konfidenz einer Entscheidung wichtig. Oft reichen bereits minimale Veränderungen in einem Bild aus, um den darin zu sehenden Hund fälschlicherweise als Auto zu klassifizieren.
Gunnar Brune/AI.Hamburg: Wie das bekannte Beispiel von dem verpixelten Portraitfoto von Barak Obama, das eine AI als weißen Menschen „hochgerechnet“ hat?
Prof. Dr. Ulf Brefeld: Ja. Wenn ich die Lösung ernst nehmen will, dann darf so etwas nicht passieren. Wenn ich ein Bild leicht verrausche, erwarte ich, dass die Klassifikation eben auch nur leicht anders ist und nicht komplett falsch. Das Problem ist, dass Datenpunkte oft nahe an Entscheidungsgrenzen liegen. Auf der einen Seite sind z.B. die Hunde, auf der anderen Seite die Autos. Durch das leichte Verändern eines Bildes rutscht der Datenpunkt manchmal auf die andere Seite der Entscheidungsgrenze und wird dann als Auto klassifiziert.
Gunnar Brune/AI.Hamburg: Hilft hier jetzt mehr Rechenpower oder ein besseres Verständnis der Modelle und vielleicht bessere Modelle?
Prof. Dr. Ulf Brefeld: Ja klar, im Endeffekt wäre ein Teil der Lösung, mehr Daten verarbeiten zu können. Denn je mehr Daten ich habe und verarbeiten kann, desto besser lässt sich die zugrundeliegende Verteilung approximieren. Für größere Datenmengen kann man oft einfachere Modelle benutzen. Aber nicht auf jede Frage gibt es auch eine einfache Antwort. Und deshalb forschen wir auch daran, komplexe Modelle besser anwenden und verstehen zu können.
Und eigentlich ist gar nicht so wichtig, ob mehr Daten oder bessere Modelle und Methoden die Lösung sind. In der Forschung machen wir für beide Wege große Fortschritte. Wie ich vorhin schon gesagt habe: Es wäre wunderbar, wenn diese Fortschritte in der Forschung Künstlicher Intelligenz in unserer Gesellschaft und Wirtschaft auf etwas mehr Akzeptanz und Investitionsbereitschaft träfen. Wir könnten viel erreichen.
Gunnar Brune/AI.Hamburg: Herr Professor Brefeld, vielen Dank für das Gespräch.
Das Interview führt Gunnar Brune von AI.Hamburg
Gunnar Brune
Gunnar Brune ist Marketing Evangelist, Strategie- und Storytellingexperte. Er ist Unternehmensberater mit Tricolore Marketing, Storyteller mit Narrative Impact, Gesellschafter des NEPTUN Crossmedia-Awards, Autor und mehrfaches Jurymitglied für Awards in den Bereichen Marketing, Kommunikation und Storytelling. Weiterhin ist Gunnar Brune im Enable2Grow Netzwerk assoziiert und engagiert sich im Rahmen von AI.Hamburg für die Vermittlung der Möglichkeiten und die Förderung des Einsatzes von Künstlicher Intelligenz.
Gunnar Brune ist Autor von dem Marketing Fachbuch „Frischer! Fruchtiger! Natürlicher!” und dem Bildband „Roadside”. Er ist Co-Autor der Bücher: “DIE ZEIT erklärt die Wirtschaft” und “Virale Kommunikation” und er schreibt seit vielen Jahren regelmäßig für Fachmagazine. Seine Artikel finden sich u.a. in der Advertising Age (Fachmagazin Werbung USA), Horizont, Fischers Archiv und der RUNDSCHAU für den Lebensmittelhandel.
Kontaktinformation:
Gunnar Brune, gunnar@ai.hamburg, 0176 5756 7777
