OpenAIs TikTok-Konkurrent macht Deepfakes von euren Freunden
OpenAI hat eine neue Social-Media-App veröffentlicht. Sie heißt "Sora" und ermöglicht es Deepfakes von euren Freundinnen und Freunden zu machen.
Obwohl das eher beängstigend klingt, soll die App zu mehr Bekanntschaften und Spaß führen, heißt es in einer Presseaussendung von OpenAI. Allerdings können nicht alle die App sofort nutzen.
OpenAIs TikTok-Alternative
OpenAIs neue App heißt wie das KI-Videomodell des Unternehmens. Dieses wurde verbessert und nun bildet Sora 2 die Grundlage für die Sora-App.
Mit Sora kann man ein Video von sich selbst hochladen, das dann von allen Nutzerinnen und Nutzern verwendet werden kann, um sogenannte “Cameos”, also eine KI-Version des ursprünglichen Videos, zu erschaffen.
Man kann aber auch eigene KI-Videos mit der App erstellen. Nach einer einmaligen Video- und Audioauthentifizierung, könne man sich laut OpenAI in jede Sora-Szene einfügen lassen. Wie bei TikTok findet man in der App einen anpassbaren Feed.
An einige der negativen Konsequenzen, die mit einer solchen App einhergehen, dürfte OpenAI gedacht haben. Denn es sei laut OpenAI nur möglich, ein solches Cameo zu erstellen, wenn man die Zustimmung der darauf zu sehenden Person hat. Die Person, von der ein Deepfake erstellt wird, ist laut dem Unternehmen Miteigentümerin oder Miteigentümer des Videos. Dadurch kann man es jederzeit löschen oder anderen den Zugriff zu den Videos verwehren.
Nutzung nicht für alle möglich
Zu Beginn ist die Nutzung der App nicht für alle möglich. Zum einen braucht man eine Einladung, um die App nutzen zu können. Wird man eingeladen, kann man laut The Verge 4 andere Nutzerinnen und Nutzer einladen.
Darüber hinaus ist die App derzeit nur für iPhones erhältlich, wann eine Android-Version folgen soll, wurde bisher nicht kommuniziert. Die App kann außerdem aktuell nur in Kanada und den USA genutzt werden, “mit der Absicht, schnell in weitere Länder zu expandieren”, betont OpenAI.
➤ Mehr lesen: OpenAI Sora kann Videos generieren: So realistisch sehen sie aus
Sora 2 soll mehr Realismus bringen
Bisher waren KI-Videomodelle oft überoptimistisch, was dazu geführt hat, dass Objekte verändert und die Realität verzerrt wurde, gibt auch OpenAI zu. Durch das neue KI-Videomodell “Sora 2”, das auch die Grundlage für die neue Sora-App bildet, soll sich das ändern.
Sora 2 soll mehr Detailtreue ermöglichen und jedes Video soll automatisch mit passendem Sound oder Sprache ausgestattet werden. Zu viele Hände oder verschwindende Körperteile in KI-Videos könnten mit Sora 2 auch weniger häufig vorkommen. “Obwohl es noch nicht perfekt ist, hält es sich besser an die Gesetze der Physik als frühere Systeme”, heißt es von OpenAI.
➤ Mehr lesen: Bing bringt kostenlosen Video-Creator für 5-Sekunden-Clips
Wie im Video zu sehen, werden olympische Turnübungen oder Rückwärtssaltos auf einem Paddleboard realistischer dargestellt als bisher. Dadurch dürfte es in Zukunft aber auch ein bisschen schwieriger werden, KI-Videos zu erkennen, was Akteuren mit bösen Absichten die Arbeit erleichtert.
Das neue Videomodell soll auch besser steuerbar sein. Demnach sei es möglich, Anweisungen über mehrere Aufnahmen hinweg befolgen zu können. Sora 2 eigne sich vor allem für realistische, filmische und Anime-Stile, so OpenAI.
➤ Mehr lesen: Amazon wird wohl bald mit KI-Videos geflutet
Algorithmus, Sorgen um Doomscrolling und Sucht
“In einer Zeit, in der sich alle großen Plattformen vom sozialen Netzwerk entfernen, glauben wir, dass Cameos die Gemeinschaft stärken werden”, erklärt OpenAI. Darauf seien auch die eingesetzten Algorithmen ausgerichtet.
“Unter Verwendung der bestehenden großen Sprachmodelle von OpenAI haben wir eine neue Klasse von Empfehlungsalgorithmen entwickelt, die über natürliche Sprache gesteuert werden können. Außerdem haben wir Mechanismen integriert, mit denen wir die Nutzer regelmäßig zu ihrem Wohlbefinden befragen und ihnen proaktiv die Möglichkeit geben, ihren Feed anzupassen”, so OpenAI.
Laut OpenAI nehme man auch Sorgen rund um Doomscrolling oder das Suchtpotenzial der neuen App sehr ernst. Für Teenager gibt es Begrenzungen in Bezug darauf, wie viele neue Beiträge pro Tag sie sehen können und auch strengere Regeln bei der Erstellung von Cameos. Eltern können diese Einstellungen verwalten. Neben den automatischen Sicherheitssystemen kommen zusätzlich auch mehr echte Menschen zum Einsatz, um Meldungen über Mobbing schnell überprüfen zu können.
Wird Sora etwas kosten?
Laut OpenAI seien viele Probleme mit Sozialen Medien auf das Monetarisierungsmodell der Apps zurückzuführen. “Transparenterweise ist unser derzeitiger Plan lediglich, den Nutzern letztendlich die Möglichkeit zu geben, einen bestimmten Betrag zu zahlen, um ein zusätzliches Video zu generieren, wenn die Nachfrage im Verhältnis zur verfügbaren Rechenleistung zu groß ist”, erklärt OpenAI.
Auch Sora 2 soll kostenlos bleiben. Jene mit einem ChatGPT-Pro-Abo können das leistungsfähigere Sora 2 Pro auch in der App nutzen.