Su nombre es Dan Dewhirst, un actor que ha aparecido en Prometheus, Dark Crystal y Bleachers y que ha salido a advertir contra una firma de contratos de avatares de IA, después de que su rostro fuera utilizado para vender una campaña de propaganda engañosa sobre Venezuela.
Más específicamente, el avatar de IA del actor británico fue usado como presentador de noticias, difundiendo informaciones falsas impulsadas por el gobierno de Nicolás Maduro.
Dan Dewhirst emitió un comunicado a través del sindicato de actores del Reino Unido Equity sobre su experiencia para advertir a los demás.
Dewhirst dijo que firmó un contrato en 2021 con la empresa de tecnología Synthesia para convertirse en uno de los primeros actores cuya imagen se convertiría en un avatar de IA. Hizo una audición para el papel de avatar y lo consiguió, pero comenzó a sospechar de las amplias cláusulas del contrato, por lo que se puso en contacto con su agente y con Equity. Las preocupaciones se hicieron eco y Dewhirst dijo que él y sus abogados intentaron cambiar el contrato, pero fracasaron, pero le mostraron la confirmación de la reserva que incluía estipulaciones de que el avatar no se puede usar para fines ilegales o desagradables, dijo.
«No podía creerlo», dijo Dewhirst. «Se me cayó el estómago. Todo lo que me preocupaba ha sucedido, pero mil veces peor. Soy literalmente la cara de las noticias falsas».
La versión de la compañía Synthesia
En conversación con el sitio Deadline, un vocero de la compañía de tecnología Deadline, creadora de estos avatares de IA, entregó su punto de vista.
«Nos tomamos muy en serio las preocupaciones de los talentos con los que trabajamos y reconocemos que la moderación de contenido y la lucha contra el contenido dañino son un desafío en constante evolución». Dijo que ha realizado cambios desde entonces, incluida la «prohibición explícita de la creación de contenido similar a las noticias mediante el uso de avatares de stock por parte de organizaciones no mediáticas», el fortalecimiento de los procesos de revisión de contenido y la contratación de más moderadores de contenido. «Lamentamos sinceramente el impacto personal o profesional negativo que estos incidentes históricos han tenido en las personas con las que ha hablado», agregó. «Hemos estado en contacto con algunos de los actores afectados por los problemas mencionados anteriormente y les hemos explicado nuestros esfuerzos, pero si hemos pasado por alto a alguien, agradecemos sus comentarios y queremos escuchar y actuar en consecuencia. Muchos de los actores con los que trabajamos vuelven a colaborar con nosotros para nuevos rodajes… Al comienzo de nuestra colaboración, les explicamos nuestros términos de servicio y cómo funciona nuestra tecnología para que estén al tanto de lo que puede hacer la plataforma y las salvaguardas que tenemos implementadas», agregó.
El portavoz de Synthesia añadió: «Somos la única empresa de vídeo de IA que aplica una amplia moderación de contenidos en el punto de creación. Antes de que se genere un video en nuestra plataforma, entra en una cola de moderación y se verifica con nuestras políticas de contenido mediante una combinación de sistemas automatizados y moderadores humanos. Al emplear este flujo de trabajo, detectamos la mayoría de los intentos de crear contenido dañino, incluida la desinformación/desinformación, el fraude, las estafas, la intimidación y el acoso o el contenido explícito».
