OpenAI-Mitgründer: „KI-Agenten funktionieren einfach nicht“

OpenAI-Mitgründer Andrej Karpathy zeigt sich vom aktuellen Entwicklungsstand der KI-Agenten wenig beeindruckt. In einem Auftritt im Dwarkesh Podcast äußert er deutliche Kritik an den autonomen virtuellen Assistenten, die derzeit viel Aufmerksamkeit in der Technologiebranche erhalten. „Sie funktionieren einfach nicht. Sie verfügen nicht über ausreichende Intelligenz, sind nicht multimodal genug, können Computer nicht richtig nutzen und all diese Dinge“, erklärte Karpathy, der aktuell eine KI-native Schule bei Eureka Labs entwickelt.

Laut Karpathy mangelt es den heutigen KI-Agenten an grundlegenden Fähigkeiten wie kontinuierlichem Lernen. „Man kann ihnen nicht einfach etwas sagen, und sie werden es sich merken. Sie sind kognitiv unzureichend, und es funktioniert einfach nicht“, führt er aus. Trotz der Tatsache, dass viele Investoren 2025 als „das Jahr des Agenten“ bezeichnen, prognostiziert Karpathy, dass es „etwa ein Jahrzehnt dauern wird, all diese Probleme zu lösen“. Diese Einschätzung steht im Kontrast zum Optimismus vieler Branchenvertreter.

Karpathy ist eine einflussreiche Stimme in der KI-Branche. So ist er nicht nur Gründungsmitglied von OpenAI und hat an GPT-4 mitgearbeitet, sondern war er auch AI-Chef bei Tesla und fungiert auch als Investor etwa beim Österreich-stämmigen KI-Startup Magic von Eric Steinberger und Sebastian De Ro.

Die Vision der Mensch-KI-Zusammenarbeit

In einem nachfolgenden Beitrag auf der Plattform X präzisierte Karpathy seine Kritik und seine Vision für die Zukunft. „Meine Kritik an der Branche bezieht sich mehr auf die Überschätzung der Werkzeuge im Verhältnis zu den gegenwärtigen Fähigkeiten“, schreibt er. Statt einer Zukunft, in der „vollständig autonome Entitäten parallel zusammenarbeiten, um den gesamten Code zu schreiben, und Menschen nutzlos sind“, bevorzugt Karpathy ein Modell der Zusammenarbeit zwischen Mensch und KI.

Seine ideale KI-Unterstützung beschreibt er so: „Ich möchte, dass sie die API-Dokumentation abruft und mir zeigt, dass sie die Dinge korrekt verwendet hat. Ich möchte, dass sie weniger Annahmen trifft und mit mir zusammenarbeitet, wenn sie sich bei etwas nicht sicher ist. Ich möchte auf dem Weg lernen und ein besserer Programmierer werden, nicht nur Berge von Code serviert bekommen, von denen man mir sagt, dass sie funktionieren.“ Der Nachteil von KI-Agenten, die Menschen überflüssig machen, sei, dass Menschen dann tatsächlich überflüssig werden und minderwertige KI-generierte Inhalte allgegenwärtig würden.

Bedenken anderer Experten

Karpathy ist nicht der einzige, der Bedenken hinsichtlich der Funktionalität von KI-Agenten äußert. Quintin Au, Growth Lead bei ScaleAI, weist auf das Problem der sich verstärkenden Fehler hin: „Derzeit besteht jedes Mal, wenn eine KI eine Aktion ausführt, eine etwa 20-prozentige Fehlerwahrscheinlichkeit. Wenn ein Agent 5 Aktionen ausführen muss, um eine Aufgabe abzuschließen, besteht nur eine 32-prozentige Chance, dass er jeden Schritt richtig macht.“ Diese kumulative Fehleranfälligkeit stellt eine grundlegende Herausforderung für die Entwicklung zuverlässiger KI-Agenten dar.

Trotz seiner Skepsis gegenüber dem aktuellen Stand der KI-Agenten betont Karpathy, dass er kein genereller KI-Skeptiker ist. „Meine KI-Zeitpläne sind etwa 5-10 Mal pessimistischer im Vergleich zu dem, was man auf einer KI-Hausparty in San Francisco oder auf Twitter findet, aber immer noch recht optimistisch im Vergleich zu einer wachsenden Zahl von KI-Leugnern und Skeptikern“, erklärte er.