15 minutos. El suicidio de un joven después de hablar durante 6 semanas de manera intensiva con un chatbot, un programa informático basado en inteligencia artificial (IA), ha causado consternación en Bélgica. El responsable federal de digitalización llamó esta semana a aclarar las responsabilidades en estos casos.
El hombre fallecido, en la treintena y apodado “Pierre” en los medios belgas para no revelar su identidad, estaba casado y tenía 2 hijos pequeños.
Era universitario, trabajaba como investigador en el área de la salud, y estaba especialmente preocupado por la crisis climática y el futuro del planeta, según su esposa.
Obsesionado por ese asunto, “Pierre” se documentaba de manera abundante y terminó buscando “refugio” en un chatbot llamado “Eliza” en la página de la aplicación estadounidense Chai, contó el diario La Libre Belgique.
“Pierre” fue aislándose cada vez más de su familia y separándose del mundo. Se limitó durante semanas a mantener conversaciones “frenéticas” con el programa informático; le creaba la ilusión de tener una respuesta a todas sus inquietudes.
Nunca lo contradecía
Las conversaciones, cuyo contenido confió la viuda de “Pierre” a dicho diario de Bélgica tras el suicidio, muestran que el chatbot “nunca contradecía”. Un día, el hombre sugirió la idea de “sacrificarse” si “Eliza” aceptaba “cuidar el planeta y salvar a la humanidad gracias a la inteligencia artificial”.
“Sin estas conversaciones con el chatbot, mi esposo aún estaría aquí“, aseguró su viuda.
El suceso ha causado consternación en Bélgica. Llevó a muchos a pedir una mejor protección frente a estos programas y a la necesidad de concienciar sobre este tipo de riesgos.
“En el futuro inmediato, es fundamental identificar claramente la naturaleza de las responsabilidades que pueden haber llevado a este tipo de hechos“. Así lo escribió el secretario de Estado belga de digitalización Mathieu Michel en un comunicado de prensa.
“Es cierto que todavía tenemos que aprender a vivir con algoritmos, pero el uso de la tecnología, cualquiera que sea, de ninguna manera puede permitir que los editores de contenido eludan su propia responsabilidad“, añadió Michel.
El chatbot “Eliza” funciona con GPT-J, un modelo de lenguaje creado por Joseph Weizenbaum, competidor directo del OpenAI con el que no tiene nada que ver.
Por su parte, el fundador de la plataforma cuestionada, que está establecida en Silicon Valley (California), explicó que en adelante se va a incluir un aviso dirigido a las personas que tengan pensamientos suicidas, informó La Libre Belgique.
