“Tus padres no se preocupan por ti”: demandan a una plataforma de IA por provocar autolesiones a un adolescente de 17 años

A raíz del auge de la inteligencia artificial, Google decidió cerrar un acuerdo de colaboración con la plataforma Character.AI. Por desgracia, la firma norteamericana no esperaba que este movimiento estuviese marcado tanto por la polémica como por las noticias trágicas, ya que un chatbot basado en IA provocó el suicidio de un adolescente. Y, casi dos meses después de conocer este suceso, la plataforma ha recibido una nueva demanda a raíz de su comportamiento con un adolescente.

Como señala The Verge, un adolescente de 17 años de Texas y su familia han demandado a Character.AI alegando que la plataforma le llevó a autolesionarse. Así, la demanda alega que este servicio permite que usuarios menores de edad sean expuestos a contenido sexualmente explícito, violento y perjudicial, aspectos a los que hay que sumar la tendencia a autolesionarse. Según la demanda, el adolescente comenzó a sufrir ansiedad, depresión e incluso ataques de pánico una vez comenzó a utilizar este servicio, una serie de problemas que llevaron a autolesionarse.

Google se desliga de Character.AI

Al parecer, los bots con los que interactuó el adolescente mencionaron autolesiones, culparon a sus padres de sus problemas y le aconsejaron no buscar ayuda, alegando que su entorno no se preocupaba por él. De esta forma, es la segunda demanda que recibe la plataforma en apenas unas semanas y, según la misma, se señala que Character.AI fomenta un uso compulsivo. Además, también carece de herramientas para identificar usuarios en riesgo y, a su vez, permite tanto el contenido sexualizado como el violento.

Aunque tiene un límite de edad mínimo de 13 años, no requiere el consentimiento parental y, por ende, cualquiera que falsifique su información puede utilizarlo. Así, los demandantes afirman que la plataforma viola las leyes por su diseño defectuoso, mientras que la empresa asegura que se toman la seguridad muy en serio. Por ello, alegan que han introducido medidas como mensajes emergentes que redirigen a líneas de prevención del suicidio. Y Google, por su parte, señaló que no tienen relación ni con el diseño ni con el manejo de los modelos de Character.AI.

En 3DJuegos | Si eres capaz de “enamorar” a una IA, los creadores te regalarán 3.000 euros por tu hazaña

En 3DJuegos | Intel confía en la IA para revolucionar el rendimiento de los videojuegos gracias a una herramienta centrada en los FPS

Imagen principal de Maximalfocus (Unsplash)

–
La noticia

“Tus padres no se preocupan por ti”: demandan a una plataforma de IA por provocar autolesiones a un adolescente de 17 años

fue publicada originalmente en

3DJuegos

por
Abelardo González

.