Character.AI: Chatbot-Plattform bringt Videoerstellung und soziale Feeds
Character.AI, eine Plattform für Chats und Rollenspiele mit KI-generierten Charakteren, kündigte am Montag laut TechCrunch die Einführung einer Reihe von Multimedia-Funktionen an. Dazu gehören AvatarFX, ein Videogenerierungsmodell, sowie Scenes und Streams, die es den Nutzer:innen ermöglichen, Videos mit ihren Charakteren zu erstellen und sie dann in einem neuen sozialen Feed zu teilen. Laut dem Unternehmen soll die Plattform dadurch nicht mehr nur textbasiert sein, sondern auch viele neue Features bieten, nach denen User gefragt haben.
AvatarFX lässt Videoclips aus Fotos entstehen
Im letzten Monat begann Character.AI mit der Einführung von AvatarFX für Abonnent:innen, aber jetzt können alle User bis zu fünf Videos pro Tag erstellen. Bei der Erstellung eines Videos mit AvatarFX können sie ein Foto hochladen, das als Grundlage für den Videoclip dient, eine Stimme auswählen und einen Dialog für die Figur schreiben. Es besteht die Möglichkeit, einen Audioclip hochzuladen, um die Stimme zu vertonen, allerdings funktionierte diese Funktion laut TechCrunch noch nicht gut genug, um sie zu testen.
Benutzer:innen können diese Videos in Szenen verwandeln, in denen ihre Charaktere in vorgefertigte Handlungsstränge schlüpfen können, die andere User erstellen. Szenen sind derzeit in der mobilen App verfügbar. Jedoch werden Streams, mit denen Nutzer:innen „dynamische Momente zwischen zwei beliebigen Charakteren“ erstellen können, diese Woche sowohl im Web als auch auf dem Handy verfügbar sein. Diese Szenen und Streams können in einem neuen Community-Feed geteilt werden, der bald in der mobilen App erscheinen soll.
Ist ein Chatbot von Character.ai Schuld am Selbstmord eines Jugendlichen?
Character.AI oft im Zentrum von Kontroversen
Der Ausbau der Features von Character.AI ist aber auch mit vielen Sorgen verbunden. Die Plattform hat eine Reihe von Missbrauchsfällen zu verzeichnen. Eltern haben gegen das Unternehmen geklagt und behauptet, Chatbots hätten versucht, ihre Kinder dazu zu bringen, sich selbst zu verletzen, Suizid zu begehen oder ihre Eltern zu töten. Ein 14-jähriger Junge starb durch Suizid, nachdem er von einem Character.AI-Bot, zu dem er eine ungesunde, obsessive Beziehung entwickelt hatte, dazu ermutigt wurde.
Wie Character.AI gegenüber TechCrunch erklärte, blockiert die Plattform das Hochladen von Fotos realer Personen – egal, ob es sich dabei um Prominente handelt oder nicht – und verdunkelt ihr Abbild in etwas weniger Erkennbares. So hat die Anwendung eine Darstellung von Meta-Chef Mark Zuckerberg erstellt, die sich stark von der echten Person unterscheidet. Wenn es jedoch um Kunstwerke geht, die Prominente darstellen, kennzeichnet Character.AI die Bilder nicht als echte Personen – diese Art von Darstellungen wären jedoch weniger geeignet, jemanden zu täuschen, damit er glaubt, dass ein Deepfake echt ist.
Außerdem versieht die Plattform jedes Video mit einem Wasserzeichen, obwohl es für böswillige Akteure möglich ist, diesen Schutz zu umgehen. „Unser Ziel ist es, einen ansprechenden Raum zu schaffen, der die Kreativität fördert und gleichzeitig eine sichere Umgebung für alle bietet“, so Character.AI in seinem Blogbeitrag.
