Gar nicht so intelligent: Der große AI-Schwindel
Wie intelligent ist Künstliche Intelligenz? Derzeit könnte man meinen, dass AI die Welt auf den Kopf stellen wird, alles noch einmal effizienter macht und bald Jobs erledigt, die sonst Menschen machen – von der Analyse von Röntgenbildern über das Fahren von Autos bis hin zu automatisierten Service-Telefonaten.
Doch in den letzten Wochen mehren sich die Anzeichen, dass AI noch nicht so weit ist – beziehungsweise sich Menschen von dem Hype-Wort einfach hinters Licht führen lassen. Eine neue Studie der Technischen Universität Berlin (TU Berlin), des Fraunhofer Heinrich-Hertz-Instituts (HHI) und der Singapore University of Technology and Design kommt zu dem Schluss, dass rund 50 Prozent der heutigen AI-Systeme schummeln. Jedes zweite vermeintliche KI-Modell würde sich wenig intelligenter Lösungsstrategien bedienen.
„Kluger Hans“ statt echter AI
„Wir waren sehr erstaunt über die große Bandbreite der gelernten Problemlösungsstrategien. Selbst moderne KI-Systeme haben nicht immer einen aus menschlicher Perspektive sinnvollen Lösungsweg gefunden, sondern nutzten bisweilen sogenannte ‚Clever-Hans-Strategien'“, so Wojciech Samek, Gruppenleiter am Fraunhofer HHI. Die Bezeichnung „Kluger Hans“ stammt aus der Zeit rund um 1900, als ein Pferd, das angeblich rechnen und zählen konnte, zur Sensation wurde. Später stellte sich heraus, dass das Pferd in etwa 90 Prozent der Fälle die richtige Antwort aus der Reaktion des Fragestellers ableitete und nur deswegen richtig lag.
Solche „Clever Hans“-Lösungsstrategien konnten die Wissenschaftler bei verschiedenen KI-Systemen entdecken. Die Forscher geben ein Beispiel:
„So verfolgte ein KI-System, das vor einigen Jahren mehrere internationale Wettbewerbe zur Klassifikation von Bildern gewonnen hat, eine aus menschlicher Sicht naive Lösungsstrategie: Es klassifizierte Bilder vorwiegend anhand des Kontextes. Dabei wurden Bilder der Kategorie „Schiff“ zugeordnet, wenn viel Wasser im Bild zu sehen war. Andere Bilder wurden als „Zug“ klassifiziert, wenn Schienen vorhanden waren. Wieder andere Bilder wurden anhand des Copyright-Schriftzuges der richtigen Kategorie zugeordnet. Die eigentliche Aufgabe, nämlich Schiffe oder Züge zu erkennen, hat dieses KI-System nicht gelöst – auch wenn es die Mehrzahl der Bilder im Endeffekt korrekt klassifiziert hat.“
Einsatz wäre gefährlich
„Solche KI-Systeme sind für den praktischen Einsatz völlig unbrauchbar. Ihr Einsatz in der medizinischen Diagnostik oder in sicherheitskritischen Bereichen birgt sogar enorme Gefahren“, so Professor für Maschinelles Lernen an der TU Berlin Klaus-Robert Müller: „Es ist durchaus denkbar, dass ungefähr die Hälfte der aktuell eingesetzten KI-Systeme implizit oder explizit solche ‚Clever Hans‘-Strategien nutzen. Es ist Zeit, das systematisch zu überprüfen, damit sichere KI-Systeme entwickelt werden können.“ Insbesondere in der medizinischen Diagnostik oder in sicherheitskritischen Systemen dürften solche „KI-Schummel-Kandidaten“ auf keinen Fall eingeführt werden.
Marketing-Begriff führt in die Irre
Auch im Startup-Bereich wird derzeit, gelinde gesagt, sehr großzügig mit dem Begriff AI umgegangen. Wie berichtet, kommt eine Analyse der Londoner Venture-Capital-Firma MMC Ventures zu dem Schluss, dass rund 40 Prozent der Jungunternehmen, die als AI-Unternehmen geführt werden, nichts mit Artificial Intelligence zu tun haben. Die Krux der Geschichte: Sie bekommen oft einfacher Risikokapital, weil Investoren sich derzeit auf Künstliche Intelligenz stürzen.
AI ist somit leider teilweise zu einem Marketing-Begriff verkommen, der nichts mit echter Künstlicher Intelligenz zu tun hat. „Da es keine präzise Definition dafür gibt, was KI ist, ist auch die Abgrenzung gleichermaßen subjektiv. Es gibt Startups, die tatsächlich viel mit künstlicher Intelligenz arbeiten, und es gibt Unternehmen, die die Bezeichnung KI aus Marketingzwecken nutzen“, sagt Rasmus Rothe, Gründer des Startups Merantix und Mitinitiator des deutschen KI Bundesverband, im Interview mit Trending Topics.
