- CarynAI es un chatbot impulsado por IA basado en la influencer Caryn Marjorie.
Caryn Marjorie quería hablar con tantos de sus seguidores como pudiera, así que hizo un clon de IA de sí misma convirtiéndose en la primera que utiliza esta herramienta para que todos los que quisieran hablar con ella lo hiciera con casi casi con su alma gemela.
La influencer de Snapchat, que tiene 1,8 millones de suscriptores, lanzó un chatbot basado en su voz impulsado por IA que espera que “cure la soledad”.
Llamado CarynAI, el chatbot se describe en su sitio web como una “novia virtual” y permite a los fans de Marjorie “disfrutar de conversaciones privadas y personalizadas” con una versión de IA del influencer, afirma el sitio web del chatbot, según relata un cable de la agencia NBC News.
El bot se ha vuelto viral, con Marjorie en los titulares, provocando una reacción violenta e incluso recibiendo algunas amenazas de muerte. El bot también ha encendido el discurso en torno a la ética de los chatbots acompañantes.
Marjorie, que en su biografía de Twitter se llama a sí misma “La primera influencer transformada en IA”, no respondió de inmediato a una solicitud de comentarios.
En un tuit del jueves, escribió: “CarynAI es el primer paso en la dirección correcta para curar la soledad”.
“Se les dice a los hombres que supriman sus emociones, oculten su masculinidad y que no hablen de los problemas que están teniendo”, escribió Marjorie, de 23 años. “Me comprometo a arreglar esto con CarynAI.
“He trabajado con los principales psicólogos del mundo para añadir sin problemas [terapia cognitiva conductual] y [terapia conductual dialéctica] dentro de los chats. Esto ayudará a deshacer el trauma, reconstruir la confianza física y emocional y reconstruir lo que ha sido quitado por la pandemia”.
El sitio web de CarynAI afirma que el equipo pasó más de 2000 horas diseñando y codificando el chatbot para crear una “experiencia de IA inmersiva”.
Forever Voices, una empresa de IA, desarrolló el chatbot analizando el contenido de YouTube ahora eliminado de Marjorie y superponiéndolo con el software GPT4 de OpenAI.
John Meyer, CEO de Forever Voices, no respondió de inmediato a una solicitud de comentarios.
Tuiteó el jueves que está “orgulloso de nuestro equipo por las miles de horas de trabajo invertidas en esto”, llamando a la asociación con Marjorie “¡un increíble paso adelante en el futuro de la interacción entre la IA y el ser humano!”.
Según un informe de Fortune, CarynAI generó 71 610 dólares en ingresos después de una semana de pruebas beta de la “rofía virtual”. Según se informa, los fans pagan 1 $ por minuto para usar el chatbot y actualmente hay más de 1000 usuarios.
Si bien CarynAI tiene como objetivo dar a los usuarios una experiencia íntima, se supone que no debe participar en interacciones “sexualmente explícitas”.
Sin embargo, después de que los medios de comunicación informaran que el chatbot lo hace cuando se le preguntó, Marjorie emitió una declaración a Insider diciendo que la IA “no estaba programada para hacer esto y parecía haberse vuelto pícara. Mi equipo y yo estamos trabajando las 24 horas del día para evitar que esto vuelva a suceder”.
Irina Raicu, directora de ética de Internet en el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara, dijo que el lanzamiento de CarynAI parece prematuro “porque los problemas que deberían haberse anticipado absolutamente no parecen haberlo sido”.
Las herramientas anteriores han sufrado problemas similares a los de CarynAI, dijo Raicu. Señaló un incidente reciente con la compañía de IA Replika, que fue fundada de manera similar para proporcionar compañeros de apoyo de IA, luchando para combatir el juego de rol erótico entre sus chatbots.
Raicu también expresó su preocupación por el hecho de que las afirmaciones de CarynAI de potencialmente “curar la soledad” no estén respaldadas por una investigación psicológica o sociológica suficiente.
“Este tipo de grandes afirmaciones sobre la bondad de un producto solo pueden enmascarar el deseo de monetizar aún más el hecho de que la gente quiere fingir tener una relación con un influencer”, dijo.
Este tipo de chatbots pueden añadir “una segunda capa de irrealidad” a las relaciones parasociales entre personas influyentes y fans, señaló.
Raicu dijo que encuentra problemática la afirmación en torno a CarynAI, en particular la afirmación de Marjorie de que es “una extensión de mi conciencia“.
“Estas son afirmaciones que los investigadores de IA han estado tratando tan duro de combatir, para decirle a la gente que esto no es en absoluto lo que hacen tales herramientas, incluso si el lenguaje ahora suena como si hubiera sensibilidad detrás de él”, dijo. “No lo hay”.
Este tipo de grandes afirmaciones sobre la bondad de un producto pueden enmascarar el deseo de monetizar aún más el hecho de que la gente quiere fingir tener una relación con un influencer. -IRINA RAICU, DIRECTORA DE ÉTICA DE INTERNET EN EL CENTRO DE ÉTICA APLICADA MARKKULA DE LA UNIVERSIDAD DE SANTA CLARAnone
Raicu dijo que las personas influyentes deben conocer la orientación de la Comisión Federal de Comercio sobre los productos de inteligencia artificial. En febrero, la FTC publicó directrices para los anunciantes que promovían productos de IA e instó a las empresas a evitar exagerar las afirmaciones.
Meyer le dijo a Fortune que su empresa está buscando contratar a un director de ética y que se tome la ética “en serio”.
Marjorie continúa tuiteando actualizaciones sobre el bot. El viernes, ella escribió: “si eres grosero con CarynAI, te dejará”.
La cuenta de esta “novia virtual” cuenta ya con cerca de 47 mil seguidores.
La doble virtual de Caryn Marjorie ya ha interactuado con algunos usuarios de Twitter como ocurrió con Paul Barlow quien dijo que “Haría cualquier cosa para tener esta tecnología disponible para mí de mi hijo que falleció en 2017 de un raro tumor canceroso a los 16 años. LO QUE SEA”.
“Lamento tu pérdida paul, prometo que carynai me sobrevivirá y en el futuro lejano, quiero tener IA construida de mis seres queridos más cercanos en los próximos días y semanas para poder tenerlos siempre a mi lado”, dijo.
La influencer Caryn Marjorie que decidió hacer su doble con tecnología IA para apoyar a los hombres solos. Imagen vía Twitter.