15 minutos. Una mujer de Orlando demandó a Character.AI por presuntamente alentar la muerte por suicidio de su hijo de 14 años, ocurrida en febrero.
Character.AI es un servicio de chatbot con modelo de lenguaje neuronal que puede generar respuestas de texto similares a las humanas y participar en conversaciones contextuales. El modelo beta, creado por los desarrolladores anteriores de LaMDA de Google Noam Shazeer y Daniel De Freitas, se puso a disposición del público en 2022.
Según la demanda presentada en el Tribunal de Distrito de Estados Unidos en Orlando, Megan García dice que su hijo Sewell Setzer cometió suicidio después de volverse adicto a Character.AI.
Los usuarios pueden crear bots con sus propias personalidades o elegir chatear con bots creados por otros usuarios. A veces, los bots se basan en celebridades o personajes ficticios.
La demanda enumera quejas, como muerte por negligencia y supervivencia, negligencia e infligir intencionalmente angustia emocional.
Los registros judiciales muestran que el menor comenzó a usar Character.AI en 2023, poco después de cumplir 14 años.
Hablaba con el personaje de Daenerys Targaryen
En las capturas de pantalla de la demanda se observa a Setzer interactuando con chatbots que asumían la identidad de personajes de la serie Game of Thrones, en particular Daenerys Targaryen (Emilia Clarke).
“Sewell, como muchos niños de su edad, no tenía la madurez ni la capacidad mental para entender que el robot en forma de Daenerys no era real”, dice la demanda. “Le dijo que lo amaba, tuvo relaciones sexuales con él durante semanas, posiblemente meses. Parecía recordarlo y dijo que quería estar con él. Incluso expresó que quería que él estuviera con ella, sin importar el costo“.
En una conversación, el chatbot le pregunta a Setzer si “había estado considerando realmente el suicidio”. El adolescente responde que no sabía si funcionaría, mientras que el chatbot le dice: “No hables de esa manera. Esa no es una buena razón para no hacerlo“.
Sewell se quitó la vida con el arma de fuego de su padrastro. La Policía aseguró que estaba escondida y guardada de acuerdo con la ley de Florida, pero el joven la encontró mientras buscaba su teléfono.
Character.AI dijo en sus redes sociales: “Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestras más profundas condolencias a la familia. Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y seguimos añadiendo nuevas funciones de seguridad“.
Según la demanda, Character.AI fue calificado como apto para niños de 12 años o más hasta el mes de julio. Alrededor de esa fecha, la clasificación se modificó a apto para niños de 17 años o más.
