Forschung

defalsif-AI: Österreichische Allianz setzt AI gegen Fake News ein

Fake News? © Kayla Velasquez on Unsplash
Fake News? © Kayla Velasquez on Unsplash

Falschnachrichten sind im Zuge von Social Media, der Corona-Pandemie und digitalen Wahlkämpfen weltweit zu einem enormen Problem geworden. Ein österreichisches Bündnis von Unternehmen, Ministerien und Forschungseinrichtungen will nun Künstliche Intelligenz ins Feld führen und AI-Technologie dazu nutzen, um Fake News im Netz besser und schneller erkennen zu können.

Unter dem Projektnamen defalsif-AI haben sich das Austrian Institute of Technology (AIT), Enlite AI, das Research Institute, die Donau Universität Krems, das Bundeskanzleramt sowie Außen- und Verteidigungsministerium zusammen getan, um ein Tool zu entwickeln, das „mit Hilfe von Künstlicher Intelligenz Anhaltspunkte für Manipulationen herausfiltert, sei es bei Text, Bild, Video oder Audio“. Diese Anhaltspunkte sollen dann dazu dienen, um Internetnutzer:innen vor möglichen gefälschten Informationen zu warnen.

Die Medienunternehmen APA (Austria Presse Agentur) und der ORF sind „als Bedarfsträger“ am Projekt beteiligt und wollen das Tool in den eigenen Newsrooms einsetzen. Die APA etwa stellt Audio-Daten für das Training der KI zur Verfügung. Ziel ist unter anderem, dass man über eine Website verdächtige Videos oder Bilder hochladen und diese analysieren lassen könne.

„Im Endeffekt schwebt uns sogar vor, dass man nur die Webadresse eingibt und die gesamte Website auf Anhaltspunkte für manipulierte Inhalte prüfen lässt“, erläutert Martin Boyer, Projektleiter und AIT-Senior Research Engineer, das ambitionierte Vorhaben. Angesiedelt ist das Projekt am AIT-Center for Digital Safety and Security, das dieses Jahr bereits mit einem Online-Detektor für Fake-Shops zum Schutz von Konsument:innen auf sich aufmerksam machte (Trending Topics berichtete).

Fake-Shop Detector: AIT-Tool entlarvt Betrug im E-Commerce

Enlite AI spürt gängigste Fälschungsmethoden auf

benfalls an Bord ist das Unternehmen Enlite AI, dessen Mitgründer und Co-Geschäftsführer Clemens Wasner sich in der KI-Community und darüber hinaus in den letzten Jahren einen Namen gemacht hat. Enlite AI wird im Rahmen des Projektes mit Hilfe von maschinellen Lernverfahren die gängigsten Fälschungsmethoden aufspüren. Diese dienen dem AIT dann als Grundlage, um die Detektionsmethoden immer weiter zu entwickeln.

Gefördert wird defalsif-AI vom Bundesministerium für Landwirtschaft, Regionen und Tourismus, der Österreichischen Forschungsförderungsgesellschaft (FFG) und KIRAS, dem österreichischen Förderungsprogramm für Sicherheitsforschung. Wissenschaftlich wird es an der Schnittstelle von Technik, Recht und Gesellschaft vom Research Institute und der Donau Universität Krems begleitet.

EU will 2,6 Milliarden Euro in AI und Robotics fließen lassen

Werbung

Specials unserer Partner

Jobs

Die besten Artikel in unserem Netzwerk

Deep Dives

Podcast: Mit den smartesten Köpfen im Gespräch

Der Podcast von Trending Topics und Tech & Nature

Digitale Identität

Der große Themenschwerpunkt zur (de-)zentralen Zukunftstechnologie
ThisisEngineering RAEng on Unsplash

Technology explained

Powered by PwC
© Shannon Rowies on Unsplash

We ❤️ Founders

Die spannendsten Persönlichkeiten der Startup-Szene
Token & Coins. © Montage TrendingTopics

Krypto-Assets im Detail

BTC - ETH - USDT - BNB - DOT - ADA - UNI - XRP - USW.
Die Finalisten des i2b-Wettbewerbs auf der Bühne des Erste Campus. © Trending Topics

i2b Businessplan-Initiative

Österreichs größter Businessplan-Wettbewerb

Weiterlesen