Character.AI lanza AvatarFX, una herramienta para generar videos de personajes animados con IA

Character.AI, plataforma destacada por sus chatbots con personalidad generada por inteligencia artificial, ha lanzado en fase beta cerrada su nuevo modelo de video, AvatarFX. Este sistema permite animar personajes con estilos que van desde humanos realistas hasta dibujos animados en 2D, diferenciándose de soluciones como Sora de OpenAI al permitir también la animación a partir de imágenes existentes. Sin embargo, el potencial de mal uso de esta herramienta ha generado preocupación. El sistema podría ser explotado para crear videos falsos de personas reales, incluidos famosos, lo que incrementa los riesgos asociados a los deepfakes. Para mitigar estos peligros, Character.AI afirma aplicar marcas de agua en los videos generados y limitar la creación de contenido con imágenes de menores o figuras públicas. La compañía también enfrenta demandas por el impacto emocional que sus chatbots han tenido en menores, incluido un caso trágico de suicidio relacionado con la interacción con uno de sus bots. Estos incidentes subrayan la necesidad urgente de controles efectivos y una supervisión activa, especialmente con la introducción de contenido audiovisual. Character.AI ha respondido con nuevas funciones de control parental, aunque su eficacia depende del uso activo por parte de los usuarios adultos.