Aleph Alpha: Deutsches KI-Startup baut Sprachmodell mit Faktencheck
Wenn KI-System wie ChatGPT eine Antwort geben, dann meist mit voller Überzeugung. Eine künstliche Intelligenz zögert nicht mit ihren Antworten und gesteht schon gar nicht ein, dass die gegebene Antwort möglicherweise falsch sein könnte. Das macht die Sprachmodelle auch so gefährlich: Falschinformationen und Fake News werden mitunter ohne nähere Hinweise auf diesen Umstand verbreitet, es liegt an den Nutzer:innen, die gegebenen Informationen auf ihren Wahrheitsgehalt zu überprüfen. Was aber, wenn die KI die verwendeten Quellen gleich mitliefert und sogar darauf hinweist, wenn es unterschiedliche Antworten bzw. Auffassungen gibt? Daran arbeitet derzeit das Team von Aleph Alpha aus dem deutschen Heidelberg.
Aleph Alpha: KI mit Quellenangabe
Es lässt sich in der Regel kaum nachvollziehen, wie eine KI auf die jeweilige Antwort kommen – egal, wie falsch oder richtig sie ist. Aleph Alpha will dieses Problem mit dem neuen Sprachmodell namens „Luminous“ nun gelöst haben: Das Sprachmodell soll künftig auch angeben können, „auf welcher Textstelle in einer Quelle die vom System generierten Antworten basieren und welche Quellen womöglich im Widerspruch zu ihr stehen“. Die KI soll außerdem in der Lage sein, Zusammenhänge in Texten und „faktische Korrektheit“ nachzuvollziehen. Letztlich soll so deutlich mehr Transparenz geschaffen werden, ohne, dass die Nutzer:innen jede Aussage manuell nachprüfen. Die KI liefert im Optimalfall gleich die entsprechenden Primärquellen mit.
Neue Einsatzmöglichkeiten für Luminous
Das soll langfristig auch weitere Einsatzmöglichkeiten erlauben: Die Transparenz könnte demnach den Einsatz generativer KI auch für kritische Aufgaben ermöglichen, etwa im Banken-, Rechts- und Gesundheitsbereich, erklärte Gründer Jonas Andrulis bereits. Auch die kommende KI-Regulierung der EU wird wohl auf erhöhten Wert auf Transparenz und Nachvollziehbarkeit der Antworten legen. Aleph Alpha richtet sich auch darum vorwiegend an B2B-Kunden. Wer mag, kann „Lumious“ aber trotzdem testen: Derzeit lässt sich hier ein Testzugang anlegen, mit dem sich mit dem System experimentieren lässt. Zum Ausprobieren steht nach der Anmeldung ein Freiguthaben zur Verfügung.
Aleph Alpha steht übrigens vor einer großen Finanzierungsrunde: SAP, also der letzte große europäische Software-Riese, plant den Einstieg beim Heidelberger Startup. SAP will sich nach Informationen aus dem Umfeld des Konzerns in der jetzt laufenden zweiten Finanzierungsrunde beteiligen, die Rede ist von einem Betrag unter 100 Millionen Euro (wir haben berichtet).
Aleph Alpha: Deutsche Startup-AI kann mit ChatGPT und Meta AI mithalten
