AI Foundation Models haben große Defizite bei Urheberrecht & Energieverbrauch
Er ist zwar noch nicht beschlossen, aber wirft seine Schatten voraus: Der AI ACT der EU versucht die schmale Gratwanderung, einerseits Innovation mit Künstlicher Intelligenz zuzulassen, aber gleichzeitig die mächtige Technologie in den Griff zu bekommen. Vor allem für so genannte Foundation Models, auf deren Basis Anwendungen laufen (z.B. GPT-4 für ChatGPT) wird es strenge Regeln und Auflagen geben.
Forscher:innen der Elite-Universität Stanford haben sich nun angesehen, welche Grundlagenmodelle von bekannten AI-Startups und Unternehmen die Regeln, wie sie heute vorliegen erfüllen würden. Dafür haben sie 12 Anforderungen identifiziert, die von Datenquellen über Energieverbrauch und Copyright bis hin zu Dokumentationspflichten gehen. Da stellt sich heraus: BLOOM von Huggingface erfüllt die Auflagen der EU derzeit am besten, während ein europäischer Player überraschend auf dem letzten Platz liegt – nämlich Luminous von Alep Alpha aus Heidelberg.
Hier die Vergleichstabelle:
Die Analyse zeigt auch, dass das berühmte GPT-4 von OpenAI nur etwa die Hälfte der Punkte erfüllt, ähnlich die Cohere Command und PaLM 2 von Google, das das Foundation Model für den KI-Chatbot Bard darstellt. Hier sieht man bereits wie unreguliert der Bereich bis dato ist. So ist ChatGPT, das auf GPT-4 läuft, in Europa verfügbar, während Bard von Google vorerst nicht in den EU-Staaten gelauncht werden durfte (Trending Topics berichtete).
Wo ecken die Foundation Models besonders an? „Wir sehen vier Bereiche, in denen viele Organisationen schlechte Noten erhalten: Es handelt sich um die Bereiche der urheberrechtlich geschützte Daten, Computing/Energie, Risikominderung und Bewertung/Tests“, heißt es seitens der Stanford-Forscher:innen Rishi Bommasani, Kevin Klyman, Daniel Zhang und Percy Liang. Das bedeutet, dass grundsätzliche Probleme bei Foundation Models noch nicht gelöst sind. So ist bei vielen Modellen nicht klar, mit welchen Daten sie trainiert wurden, und auch nicht, wie und ob sie mit Energie aus nachhaltigen Quellen betrieben werden.
„Wir stellen fest, dass die Anbieter von Foundation Models die Anforderungen des Entwurfs des EU-KI-Gesetzes ungleichmäßig erfüllen. Die Verabschiedung und Durchsetzung des EU-KI-Gesetzes wird erhebliche positive Veränderungen im Ökosystem der Foundation Models bewirken. Die Einhaltung der Anforderungen in Bezug auf Urheberrecht, Energie, Risiko und Bewertung durch die Anbieter von Foundation Models ist besonders schlecht, was auf Bereiche hinweist, in denen sich die Modellanbieter verbessern können“, fassen die Forscher:innen zusammen.
Auch in Sachen Open Source haben sie etwas zu sagen: „Unsere Bewertung zeigt scharfe Trennlinien entlang der Grenze zwischen offenen und geschlossenen Veröffentlichungen: Wir glauben, dass alle Anbieter ihr Verhalten verbessern können, unabhängig davon, wo sie in diesem Spektrum liegen. Insgesamt spricht unsere Analyse für einen breiteren Trend abnehmender Transparenz: Die Anbieter sollten Maßnahmen ergreifen, um gemeinsam Industriestandards festzulegen, die die Transparenz verbessern, und die politischen Entscheidungsträger sollten Maßnahmen ergreifen, um sicherzustellen, dass dieser Allzwecktechnologie angemessene Transparenz zugrunde liegt.“
