Das Unternehmen OpenAI hat am Montag sein Video-Generierungsprogramm Sora für alle Kunden verfügbar gemacht. OpenAI betont, dass es bei der Entwicklung von Regeln für KI-generierte Videos eine Vorreiterrolle einnehmen möchte.
Sora verarbeitet schriftliche Eingaben und erstellt daraus digitale Videos mit einer Länge von bis zu 20 Sekunden. Die Beta-Version des Programms wurde im Februar vorgestellt. Nun steht die allgemeine Version als eigenständiges Produkt zur Verfügung.
„Wir wollen, dass die Welt nicht nur aus Text besteht. Wenn KI-Systeme vor allem mit Text arbeiten, verpassen wir etwas Wichtiges“, erklärte OpenAI-CEO Sam Altman am Montag in einer Live-Übertragung.
In einem Blogpost zur Veröffentlichung erklärte OpenAI, es wolle die Kultur und Regeln für den Einsatz von KI-generierten Videos mitgestalten. „Wir stellen unsere Videotechnologie jetzt vor, damit die Gesellschaft ihre Möglichkeiten erkunden und Normen sowie Schutzmaßnahmen gemeinsam entwickeln kann, die ihren verantwortungsvollen Einsatz sicherstellen, während sich das Feld weiterentwickelt,“ schrieb das Unternehmen.
Was kann Sora leisten?
Sora nutzt sein „tiefes Sprachverständnis“, um Eingaben zu interpretieren und komplexe Szenen mit mehreren Figuren, Kamerawinkeln und spezifischen Bewegungen zu generieren. Die Videos können bis zu einer Minute lang sein und enthalten genaue Details.
Während der Beta-Phase zeigte OpenAI Beispiele, darunter animierte Szenen mit einem Monster und einem Känguru sowie realistische Videos von Personen. Dazu zählten etwa eine Frau, die eine Straße in Tokio entlanggeht, oder ein filmischer Trailer eines Astronauten in einer Salzwüste.
OpenAI räumte in seinem Blogpost auch Einschränkungen des Programms ein: „Es generiert oft unrealistische Physik und hat Schwierigkeiten mit komplexen Handlungen über längere Zeiträume.“
OpenAI verspricht Schutz vor missbräuchlicher Nutzung
Kritiker warnen vor Missbrauchsmöglichkeiten der Technologie und verweisen auf Vorfälle wie Deepfakes von Präsident Joe Biden oder AI-generierte, sexuell explizite Bilder von Prominenten. OpenAI will den Missbrauch einschränken, indem es das Hochladen von echten Personen zunächst begrenzt. Diese Einschränkungen sollen gelockert werden, sobald die Maßnahmen zur Verhinderung von Deepfakes verbessert wurden.
„Unsere oberste Priorität ist es, besonders schädliche Formen von Missbrauch wie kinderpornografisches Material (CSAM) und sexuelle Deepfakes zu verhindern. Dies erreichen wir durch die Sperrung solcher Inhalte, Filterung und Überwachung von Uploads, den Einsatz fortschrittlicher Erkennungstools sowie durch Meldungen an das National Center for Missing & Exploited Children (NCMEC), wenn CSAM oder Gefährdungen von Kindern identifiziert werden,“ erklärte das Unternehmen.
OpenAI teilte außerdem mit, dass alle mit Sora erstellten Videos standardmäßig mit C2PA-Metadaten und Wasserzeichen versehen werden. Diese sollen es ermöglichen, KI-generierte Inhalte eindeutig zu identifizieren.
