Schreibe einen Kommentar

Von unsichtbaren Giraffen, langen Lichtwellenleitern und fehlerhaften Belohnungsfunktionen – KI-Expertin Janelle Shane im Interview

Janelle Shane hat ein außergewöhnliches Buch über KI geschrieben. Außergewöhnlich deshalb, weil es nicht nur einen kompakten, technisch akkuraten Einstieg ins Thema liefert, sondern aufgrund schräger Beispiele und amüsanter Zeichnungen auch wunderbar unterhält. Wir haben You Look Like A Thing And I Love You – auf Deutsch: Künstliche Intelligenz – Wie Sie Funktioniert und Wann Sie Scheitert – in diesem Blog bereits ausführlicher vorgestellt. Jetzt ist es Zeit für ein Interview mit der Autorin, die – so ihre Selbstauskunft – “mit an Sicherheit grenzender Wahrscheinlichkeit kein Bot ist”.

Janelle Shane
Janelle Shane hat einen Doktortitel in Elektrotechnik und einen Master in Physik. In ihrem Blog aiweirdness.com schreibt sie über künstliche Intelligenz und die lustige und manchmal beunruhigende Art und Weise, wie Algorithmen menschliche Dinge falsch machen.

Janelle, hast du einen exklusiven, KI-generierten Anbaggerspruch für uns auf Lager?

“Kann ich mal deine Bauteilliste sehen?”

:-D. Den merk ich mir. Eine ernsthaftere Frage: In deinen “Principles of AI Weirdness” (hier auch komplett zitiert) sagst du, dass das Problem nicht darin besteht, dass KI zu schlau ist, sondern darin, dass KI zu blöd ist. Du attestierst den smarten Algorithmen die Intelligenz eines Wurms. Denkst du, dass sich da in absehbarer Zukunft was ändert?

Ich denke, dass KI in absehbarer Zukunft nicht annähernd so leistungsfähig sein wird wie ein Mensch. Und ich denke, dass wir oft nicht verstehen, wie kompliziert unser Gehirn ist, und wie viele unglaublich komplexe Dinge es tut, ohne dass wir es merken.

Kannst du die Sache mit den Giraffen noch mal erklären. So dass meine Mutter sie versteht?

Ich nehme jetzt mal an, dass deine Mutter keine Informatikerin ist?

Korrekt.

Also. Forscher:innen ist aufgefallen, dass KIs auf ziemlich leeren (und definitiv giraffenlosen) Bildern regelmäßig Giraffen erkennen. Das liegt unter anderem daran, dass diese Bilderkennungsprogramme mit Hilfe von Fotos trainiert wurden, die Menschen im Internet hochgeladen haben. Die Chance, dass auf solchen Fotos Giraffen zu sehen sind (die quasi immer gepostet werden), ist nun größer als die Chance, dass darauf nichts Besonderes zu sehen ist. Die KI hat also gelernt, dass Giraffen wahrscheinlich sind. Und erkennt sie auf leeren Fotos.

Janelle Shane Interview Künstliche Intelligenz

Was ist denn der seltsamste “KI-Schluckauf”, den du dieses Jahr mitbekommen hast?

Ein BR24-Team hat eine KI-Bewerbungssoftware getestet und dabei festgestellt, dass ein und dieselbe Person unterschiedlich bewertet wurde – je nachdem, ob beim Interview ein Bücherregal im Hintergrund stand oder nicht.

Ja, mit Bücherregal wirkt man auf die KI offener, gewissenhafter, extrovertierter, verträglicher – und weniger neurotisch! :-D Eine Frage zu deinem Hauptjob: Du arbeitest in der Optikforschung. Was sind denn da aktuelle Beispiele für den Einsatz von KI?

Ein Anwendungsfall ist die Erkennung verschiedener Teile eines Mikroskopbilds, wenn man etwa das Verhalten verschiedener Zellen über einen bestimmten Zeitraum beobachten möchte. Bis vor kurzem musste das noch per Hand gemacht werden, jetzt gibt es KI-Programme, die das übernehmen und immer besser werden. Das spart eine Menge Zeit. 

Es gibt auch Leute, die KI nutzen, um schwache optische Signale in einem großen Rauschen zu identifizieren. Wenn man zum Beispiel Daten per Lichtwellenleiter (Glasfaserkabel) verschickt, kann das Signal zu dem Zeitpunkt, an dem es am anderen Ende ankommt, unter Umständen so schwach sein, dass es nicht mehr zu entziffern ist. KI kann in diesem Kontext bei der Wiederherstellung der Daten helfen.

KI ist ja auch ein totaler Hype. Einige Leute wollen jetzt ständig KI nutzen – auch wenn traditionelle Ansätze gute Lösungen liefern. Andere denken, man könne mit smarten Algorithmen jedes Problem bewältigen – und ignorieren dabei schlechte Daten, Bias, und fehlendes Weltwissen. Was sagst du den Fanboys?

Ich würde ihnen diverse Fragen stellen: Funktioniert dieser Algorithmus? Oder scheint es nur so? Funktioniert er nur bei einfachen Problemen, die er schon kennt? Haben seine Fehler ernsthafte Konsequenzen, wenn auch nur für einige, wenige Leute?

Janelle Shane Interview Künstliche Intelligenz

KI wird meist dort genutzt, wo viel Geld und Ressourcen vorhanden sind. Große Firmen und Elite-Unis haben beeindruckende KI-Teams. In der NGO-Welt scheint man derweil noch mit Excel-Tabellen zu kämpfen. Wie können wir den Einsatz von KI für gute Zwecke fördern?

Tatsächlich gibt es bereits Leute, die KI für gute Zwecke einsetzen – sie brauchen nur mehr Unterstützung! Ein gutes Beispiel ist Te Hiku Media. Dort baut ein Māori-Team seine eigene Sprachdatenbank und trainiert seine eigenen Spracherkennungsalgorithmen. Das Ziel besteht darin, die Rechte an den Daten zu behalten und eigene Anwendungen zu entwickeln, die Māori-Sprecher:innen zugutekommen – und nicht den großen Unternehmen. Die verhalten sich übrigens wie KIs mit fehlerhaften Belohnungsfunktionen. Wenn wir wollen, dass sie die wichtigen Dinge in Angriff nehmen, dann müssen wir die Belohnungsfunktion ändern.

Das ist ein sehr guter Denkanstoß. Letzte Frage: Worum geht’s in deinem nächsten Buch?

Das weiß ich noch nicht. Aber ich hoffe, dass euch der Titel zum Lachen bringt.

Über das Buch

Janelle Shane Interview Künstliche Intelligenz

Künstliche Intelligenz – Wie sie funktioniert und wann sie scheitert
Eine unterhaltsame Reise in die seltsame Welt der Algorithmen, neuronalen Netze und versteckten Giraffen

Von Janelle Shane
250 Seiten, 2021
Print: 22,90 € (D), E-Book: 17,99 € (D), Bundle: 27,90 € (D)

Erhältlich bzw. bestellbar in allen On- und Offline-Buchhandlungen sowie unter oreilly.de.

Hier findet ihr eine Leseprobe.

Sag's weiter:

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.