IA en la que puedes confiar. Siempre.
A medida que las capacidades de la IA crecen, el estándar para una implementación responsable aumenta. Nuestro enfoque está diseñado para cumplir con ello, y para dar a las empresas la evidencia que necesitan para usar Synthesia con confianza.
Nuestra misión es ayudar a las personas a trabajar mejor
Nuestros productos tienen como objetivo potenciar y ampliar las capacidades de las personas, nunca sustituirlas. Creamos una IA diseñada para generar confianza en las personas y ofrecer garantías a las empresas: transparente, auditable y regida por los más altos estándares de uso responsable.
IA responsable, intencionalmente
La innovación responsable y la seguridad de la IA han sido fundamentales en nuestra misión desde el primer día. A medida que la tecnología ha evolucionado, también lo ha hecho nuestro enfoque. Nuestro marco de las 3R, Revisar, Reportar y Reaccionar, es cómo traducimos ese compromiso en acción hoy.
Revisar
No toda la capacidad de la IA es igual, y los riesgos no son uniformes. Por eso distinguimos entre situaciones de bajo y alto riesgo, y aplicamos controles proporcionados en cada etapa, a la vez que revisamos continuamente nuestro enfoque.
¿Cómo se ve eso en la práctica?
- Para nosotros, la gobernanza comienza antes del lanzamiento de un producto y continúa durante la implementación. Cada decisión se documenta y nuestros controles se actualizan a medida que evolucionan tanto los modelos de amenazas como la tecnología subyacente.
Reportar
A medida que los modelos de IA se vuelven más capaces, saber quién creó qué, y en qué contexto, es más importante que nunca. Reportar trata sobre crear trazabilidad y responsabilidad clara en toda la plataforma.
¿Cómo se ve eso en la práctica?
Reaccionar
La creación de una IA responsable no se detiene en el lanzamiento. Reaccionar es la forma en que mantenemos la seguridad, respondemos a nuevos riesgos y mantenemos la gobernanza actual a medida que la plataforma escala.
¿Cómo se ve eso en la práctica?
- Desde el principio, hemos incorporado la moderación de contenido en el punto de creación, no después de la distribución. Cuando surgen nuevos riesgos, actuamos en beneficio de nuestros clientes teniendo en cuenta los riesgos sociales. Las auditorías, la preparación ante incidentes y la mejora continua son la forma de mantener la confianza a través de pruebas, no solo de intenciones.
Consejo sobre escenarios futuros de la IA
El Consejo sobre Escenarios Futuros de la IA está formado por un grupo de expertos cuidadosamente seleccionados en ámbitos como la política, los medios de comunicación, el desarrollo de productos y la estrategia empresarial, que están influyendo directamente en el futuro de la IA generativa. El Consejo ofrece un espacio de colaboración y diálogo sobre algunas de las cuestiones más complejas e importantes relacionadas con esta tecnología transformadora, incluidas las áreas específicas de Synthesia y la sociedad en general.
Sophia Smith Galer
Sophia Smith Galer es periodista, creadora de contenido y autora, reconocida por ser una de las pioneras del periodismo en TikTok en el Reino Unido. Ha trabajado en la lucha contra la desinformación, la investigación periodística y la innovación en inteligencia artificial, con el objetivo de ayudar a periodistas a potenciar su trabajo en el entorno digital.
Henry Ajder
Henry Ajder es un referente global en deepfakes, inteligencia artificial generativa y medios sintéticos. Se le reconoce como el primer “cartógrafo de deepfakes”. La labor investigadora y divulgativa de Henry ha transformado la comprensión global del impacto de la revolución sintética en las empresas y la sociedad.
Dani Dhiman
Dani Dhiman es experto en políticas tecnológicas en Formation Advisory, una consultora de inteligencia artificial personalizada fundada por Verity Harding, reconocida en la lista TIME 100 como una de las personas más influyentes en IA. Dani asesora a empresas que lideran la innovación en IA sobre cómo abordar las complejidades de las tecnologías emergentes.
Dra. Phillipa Hardman
La Dra. Phillipa Hardman es consultora especializada en inteligencia artificial y educación, y colabora con empresas de alcance global. Ha investigado y probado métodos para aplicar lo que sabemos sobre cómo aprenden los seres humanos.
Ruben Hassid
Ruben Hassid es experto en IA y creación de contenido, y ayuda a millones de personas a utilizar herramientas de IA de forma más efectiva.
Cara Hunter
Cara Hunter es política del Partido Socialdemócrata y Laborista de Irlanda del Norte y actualmente ocupa un escaño en la Asamblea por East Londonderry. Ha hecho campaña contra los deepfakes no consentidos y otros usos indebidos de la inteligencia artificial.
Nina Schick
Nina Schick es una experta de reconocimiento global en IA y geopolítica, y ha estado a la vanguardia del análisis sobre cómo la IA está transformando el poder global, no solo en el ámbito empresarial, sino también en la estrategia militar, la infraestructura económica y la influencia del Estado.
Programa de Experiencia de Talento
El Programa de Experiencia de Talento es una comunidad formada por los actores excepcionales que hay detrás de nuestros avatares más populares. Proporcionan información sobre nuestra plataforma, comparten puntos de vista de su sector y colaboran con Synthesia en iniciativas para crear prácticas justas, transparentes y sostenibles en nuestro negocio. Al implicar a estos actores en los procesos de toma de decisiones, pretendemos construir una cultura de respeto mutuo y mejora continua. Obtén más información sobre el programa aquí.
“Es gratificante saber que mi aporte puede influir en el desarrollo responsable de la tecnología de IA y, a través de este programa, dar forma a los futuros productos y a la tecnología de avatares de Synthesia”.
“Estoy encantada de formar parte del programa de Synthesia. Tener voz en la evolución de la inteligencia artificial es sumamente valioso, ya que permite asegurar que esta tecnología siga respetando y reflejando las aportaciones de personas como yo.
“Me uno al programa de experiencia de talentos de Synthesia porque quiero asegurarme de que la IA esté desarrollada por empresas éticas que quieran usarla para el bien. Además, esta tecnología tiene mucho potencial en nuestra industria“.
Entrevistas sobre IA responsable
Cómo Synthesia se convirtió en la primera plataforma de video certificada para la ISO 42001
El camino de Synthesia hacia la certificación ISO 42001
El director de asuntos corporativos de Synthesia habla en la escuela Wharton sobre la IA responsable
Respuestas a todas tus preguntas sobre IA
¿Qué significan realmente Revisar, Reportar y Reaccionar en la práctica?
Revisar es una evaluación por niveles de riesgo de capacidades y casos de uso, que se aplica antes del lanzamiento y se revisa a medida que cambian los modelos de amenaza. Reportar es la trazabilidad y la responsabilidad compartida, mediante mecanismos como la procedencia integrada en la plataforma y una definición clara de las responsabilidades entre Synthesia, nuestros clientes y los proveedores externos de modelos. Reaccionar es la resiliencia operativa: detección, respuesta, corrección de la aplicación excesiva y mejora continua a partir de incidentes del mundo real.
¿Qué significan las 3R para los clientes empresariales existentes?
Los compromisos contractuales, la postura de seguridad y las garantías de moderación no han cambiado. Lo que verá con el tiempo son pruebas más estructuradas: artefactos de auditoría, señales de procedencia y una documentación más clara de cómo se gobiernan las capacidades de terceros en nuestra plataforma. Las 3R están diseñadas para responder directamente a las preguntas que ya se plantean los equipos de compras, jurídico y seguridad.
Ahora usas modelos de terceros. ¿Quién es responsable cuando algo sale mal?
La responsabilidad es compartida y explícita. Synthesia sigue siendo responsable de los resultados empresariales en nuestra plataforma; eso no se externaliza a los proveedores. Al mismo tiempo, algunas propiedades de seguridad se originan con los proveedores de modelos, y trabajamos en estrecha colaboración con ellos sobre señales de seguridad, límites de moderación y patrones de abuso. Seremos transparentes con los clientes sobre qué servicios de terceros alimentan qué funciones para que puedan tomar decisiones informadas.
¿Cómo encaja la norma ISO 42001?
La norma ISO 42001, junto con las normas ISO 27001 e ISO 27701, nos proporcionó un marco de ciclo de vida para gestionar los riesgos, la seguridad y la privacidad de la IA como procesos continuos, y no como iniciativas puntuales. Las 3R son la expresión pública de cómo funciona ese sistema de gestión día a día. Fuimos la primera empresa de IA generativa certificada según la norma ISO 42001, y nuestra intención es mantenernos a la vanguardia de hacia dónde se dirigen las normas.
¿Qué están haciendo acerca de los deepfakes y la suplantación de identidad?
La moderación en el momento de la creación, los requisitos de consentimiento para los avatares y la aplicación basada en la identidad siguen siendo fundamentales. La procedencia (saber quién creó un contenido y en qué contexto organizacional) es una parte creciente de cómo fortalecemos la responsabilidad y apoyamos las investigaciones. Seguimos participando activamente en estos ámbitos, incluido nuestro trabajo para combatir el uso abusivo de deepfakes no consentidos en el Reino Unido y nuestra contribución a los códigos de buenas prácticas de la Ley de IA de la Unión Europea.
Prueba Synthesia con un video gratuito.
Simplemente escribe algo de texto y, con solo unos pocos clics, podrás crear un video gratuito que incluirá un avatar con IA. No es necesario registrarse ni proporcionar tarjeta de crédito.
