KI, der man vertrauen kann. Immer.
Je leistungsfähiger KI wird, desto höher liegt die Messlatte für ihren verantwortungsvollen Einsatz. Unser Konzept ist darauf ausgerichtet, diesen Anforderungen gerecht zu werden und den Unternehmen die notwendigen Argumente an die Hand zu geben, damit sie Synthesia souverän einsetzen können.
Unsere Mission ist es, Menschen zu helfen, besser zu arbeiten
Unsere Produkte sollen die Fähigkeiten der Menschen stärken und erweitern, nicht ersetzen. Wir entwickeln KI, auf die natürliche und juristische Personen vertrauen können – transparent, überprüfbar und mit den höchsten Standards für verantwortungsvollen Einsatz.
Verantwortungsvolle KI, fest integriert
Verantwortungsvolle Innovation und KI Sicherheit waren vom ersten Tag an Teil unserer Mission. Nicht nur die Technologie hat sich weiterentwickelt, sondern auch unser Ansatz. Mit unserem 3R-Konzept (Review, Report and React) setzen wir diese Verpflichtung heute in die Tat um.
Überprüfen
Nicht alle KI Fähigkeiten sind gleich, und auch die Risiken sind unterschiedlich. Wir unterscheiden deshalb zwischen Szenarien mit niedrigem und hohem Risiko und nutzen in jeder Phase angemessene Kontrollen, während wir kontinuierlich unseren Ansatz überprüfen.
Wie sieht das in der Praxis aus?
- Für uns beginnt Governance bereits vor der Markteinführung eines Produkts und setzt sich bis zur Bereitstellung fort. Jede Entscheidung wird dokumentiert, und unsere Kontrollmaßnahmen werden entsprechend der Weiterentwicklung der Bedrohungsmodelle und der zugrunde liegenden Technologie aktualisiert.
Melden
Da KI Modelle immer leistungsfähiger werden, ist es wichtiger denn je zu wissen, wer was in welchem Kontext erstellt hat. Melden ist die Basis für Nachvollziehbarkeit und klare Zuständigkeiten auf der gesamten Plattform.
Wie sieht das in der Praxis aus?
Reagieren
Die Entwicklung verantwortungsvoller KI endet nicht mit der Einführung. Reagieren umfasst alles zum Thema Sicherheit, die Eindämmung neuer Risiken und die laufende Aktualisierung der Governance, während die Plattform wächst.
Wie sieht das in der Praxis aus?
- Von Anfang an haben wir die Moderation von Inhalten bereits bei der Erstellung und nicht erst nach der Verteilung vorgesehen. Wenn neue Risiken auftreten, handeln wir im besten Interesse unserer Kunden und berücksichtigen dabei gesellschaftliche Risiken. Durch Audits, die Vorbereitung auf Zwischenfälle und kontinuierliche Verbesserung sichern wir Vertrauen durch Belege, nicht durch Absichtserklärungen.
AI Futures Council
Der AI Futures Council ist ein ausgewählter Kreis von Experten aus den Bereichen Politik, Medien, Produktentwicklung oder Geschäftsstrategie, die die Zukunft der generativen KI direkt mitgestalten. Der Council bietet einen Raum für Zusammenarbeit und Gespräche über einige der komplexesten und wichtigsten Fragen im Zusammenhang mit dieser transformativen Technologie, einschließlich Bereichen, die spezifisch für Synthesia und die Gesellschaft im weiteren Sinne sind.
Sophia Smith Galer
Sophia Smith Galer ist Journalistin, Creator und Autorin und gehörte zu den Ersten, die im Vereinigten Königreich journalistisch über TikTok berichtete. Sie hat in den Bereichen Gegeninformation, Ermittlungen und KI-Innovation gearbeitet, um Journalisten zu helfen, ihre Online-Arbeit zu verstärken.
Henry Ajder
Henry Ajder ist ein weltweit anerkannter Experte für Deepfakes, generative KI und synthetische Medien. Er gilt als der erste „Deepfake-Kartograph“. Henrys Recherche und seine Sendungen haben das globale Verständnis dafür verändert, wie die synthetische Revolution Unternehmen und die Gesellschaft beeinflusst.
Dani Dhiman
Dani Dhiman ist Experte für Technologiepolitik bei der Formation Advisory, einer spezialisierten KI-Beratung, die von Verity Harding gegründet wurde, laut TIME 100 einer der einflussreichsten Personen in der KI. Dani begleitet Unternehmen an der Spitze der KI Innovation, die sich mit den komplexen Herausforderungen neuer Technologien auseinandersetzen müssen.
Dr Phillipa Hardman
Dr. Phillipa Hardman ist Spezialistin für KI und Bildung, die mit weltweit führenden Unternehmen zusammenarbeitet. Sie hat methodisch recherchiert und experimentiert, um unsere Erkenntnisse über das Lernen von Menschen zu vernetzen.
Ruben Hassid
Ruben Hassid ist Experte für KI und Inhaltserstellung, der Millionen von Menschen hilft, KI Tools effektiver zu nutzen.
Cara Hunter
Cara Hunter ist Politikerin der Irish Social Democratic and Labour Party und derzeit Mitglied der Northern Ireland Assembly für East Londonderry. Sie kämpfte gegen nicht einvernehmlich generierte Deepfakes und andere Missbräuche von KI.
Nina Schick
Nina Schick ist eine weltweit anerkannte Expertin für KI und Geopolitik, die aus erster Hand weiß, wie KI die globale Dominanz verändert – nicht nur im Geschäftsleben, sondern auch in der Militärstrategie, der wirtschaftlichen Infrastruktur und im Staat.
Das Talent Experience Program
Das Talent Experience Program ist eine Gemeinschaft, die sich aus den außergewöhnlichen Darstellern unserer beliebtesten Avatare zusammensetzt. Sie geben uns Feedback zu unserer Plattform, tauschen Erkenntnisse aus ihrer Branche aus und arbeiten gemeinsam mit Synthesia an Initiativen zur Schaffung fairer, transparenter und nachhaltiger Praktiken in unserem Unternehmen. Indem wir diese Akteure in die Entscheidungsprozesse einbeziehen, wollen wir eine Kultur des gegenseitigen Respekts und der kontinuierlichen Verbesserung schaffen. Weitere Informationen über das Programm findest du hier.
„Es ist schön zu wissen, dass mein Beitrag die verantwortungsvolle Entwicklung der KI Technologie beeinflussen und durch dieses Programm die zukünftigen Produkte und die Avatar-Technologie von Synthesia gestalten kann.“
„Ich freue mich sehr, Teil des Synthesia-Programms zu sein. Es ist unglaublich wichtig, die Entwicklung der KI mitzugestalten und sicherzustellen, dass die Technologie weiterhin die Beiträge von Darstellerinnen wie mir respektiert und widerspiegelt.“
"Ich nehme am Talent Experience Program von Synthesia teil, weil ich sicherstellen möchte, dass KI von ethischen Unternehmen entwickelt wird, die sie für Gutes einsetzen wollen, und weil diese Technologie ein großes Potenzial für unsere Branche hat."
Interviews zum Thema verantwortungsvolle KI
Wie Synthesia als erste Videoplattform nach ISO 42001 zertifiziert wurde
Der Weg von Synthesia zur Zertifizierung nach ISO 42001
Der Head of Corporate Affairs von Synthesia spricht mit der Wharton School über verantwortungsvolle KI
Antworten auf all deine Fragen zum Thema verantwortungsvolle KI
Was bedeuten „Überprüfen“, „Melden“ und „Reagieren“ in der Praxis eigentlich?
Eine Überprüfung ist eine risikobasierte Bewertung von Fähigkeiten und Anwendungsfällen, die vor dem Start angewendet und angepasst wird, wenn sich die Bedrohungsmodelle ändern. „Melden“ betrifft die Rückverfolgbarkeit und gemeinsame Rechenschaftspflicht, beispielsweise zur Datenherkunft, die in die Plattform integriert ist, sowie klar definierte Zuständigkeiten von Synthesia, unseren Kunden und unseren (unabhängigen) Modellanbietern. Reagieren steht für operative Resilienz: Erkennung, Reaktion, Korrektur von Fehlentscheidungen und laufende Verbesserung durch Auswertung realer Vorfälle.
Was bedeuten die 3Rs für bestehende Unternehmenskunden?
Die vertraglichen Verpflichtungen, die Sicherheitsarchitektur und die Moderationsgarantien bleiben unverändert. Im Laufe der Zeit werden Sie besser strukturierte Nachweise sehen: Audit-Artefakte, Herkunftsnachweise und eine transparentere Dokumentation der Governance von Drittanbieter-Technologien auf unserer Plattform. Das 3Rs-Konzept orientiert sich gezielt an den Fragen, die Einkaufs-, Rechts- und Sicherheitsteams ohnehin stellen.
Sie verwenden jetzt Modelle von Drittanbietern. Wer ist verantwortlich, wenn etwas schiefgeht?
Die Rechenschaftspflicht ist geteilt und klar definiert. Synthesia bleibt für die Geschäftsergebnisse auf unserer Plattform verantwortlich; dies wird nicht an Drittanbieter ausgelagert. Gleichzeitig stammen einige Sicherheitsaspekte von den Modellanbietern, und wir arbeiten eng mit ihnen zusammen, wenn es um Sicherheitssignale, Moderationsgrenzen und Missbrauchsmuster geht. Wir informieren unsere Kunden transparent, welche Drittanbieterdienste welche Funktionen unterstützen, damit sie fundierte Entscheidungen treffen können.
Wie passt die ISO 42001 in dieses Bild?
Mit der Norm ISO 42001 verfügen wir – zusammen mit den Normen ISO 27001 und ISO 27701 – über einen Lebenszyklusrahmen für das Risikomanagement, die Sicherheit und den Datenschutz im Bereich der künstlichen Intelligenz (KI), wobei diese Aspekte als fortlaufende Prozesse und nicht als einmalige Verpflichtungen betrachtet werden. Das 3Rs-Konzept ist der nach außen sichtbare Ausdruck, wie dieses Managementsystem im Alltag funktioniert. Wir waren das erste Unternehmen mit generativer KI, das nach ISO 42001 zertifiziert wurde, und wir beabsichtigen, den Standards immer einen Schritt voraus zu sein.
Was unternimmt Synthesia gegen Deepfakes und Identitätsdiebstahl?
Moderation bereits bei der Inhaltserstellung, verpflichtende Einwilligungen für Avatare und die konsequente Durchsetzung identitätsbezogener Richtlinien bleiben unverändert zentrale Grundpfeiler. Die Herkunftsnachverfolgung (die transparente Zuordnung von Inhalten zu ihren Urhebern und dem Unternehmenskontext) wird immer wichtiger, um die Rechenschaftspflicht nachvollziehbar zu machen und Untersuchungen zu erleichtern. Wir setzen uns weiterhin direkt mit diesen Themen auseinander, beispielsweise in unserer Arbeit zum nicht einvernehmlichen Deepfake-Missbrauch im Vereinigten Königreich und bei der Ausarbeitung von Verhaltenskodizes für den EU AI Act.
Teste Synthesia mit einem kostenlosen Video.
Gib einfach einen Text ein und erhalte nach wenigen Klicks ein kostenloses Video mit einem KI Avatar. Keine Anmeldung oder Kreditkarte erforderlich.
