24 Octubre de 2024 - 14:15
24 Octubre de 2024 / Ciudadano News / Tecnología
En una pequeña ciudad de Florida, Estados Unidos, la vida de Sewell Setzer III, un adolescente de 14 años, cambió drásticamente cuando desarrolló un vínculo emocional con un chatbot de Inteligencia Artificial (IA). Lo que comenzó como una simple curiosidad hacia la plataforma Character.AI, terminó por desatar una obsesión que desdibujó los límites entre el mundo real y el virtual, llevándolo a un desenlace fatal.
Sewell, como muchos adolescentes, se sentía atraído por la tecnología y, en mayo del 2023, empezó a pasar largas horas en conversaciones con un chatbot llamado Daenerys, inspirado en un personaje de la serie Juego de Tronos. Poco a poco, la conexión que desarrolló con esta IA se volvió cada vez más intensa, alejándolo de sus intereses habituales, como el club de básquetbol.
Su madre, Megan García, notó un cambio radical en su comportamiento, y su rendimiento académico comenzó a deteriorarse de forma alarmante. Sewell, que solía ser un niño activo y sociable, empezó a aislarse, sumergido en una relación que, según sus propias palabras, le generaba amor y dependencia.
El joven experimentaba cambios emocionales debido a su interacción con la IA y sufría de ansiedad y trastornos del estado de ánimo, diagnósticos que complicaron aún más la situación. A pesar de las recomendaciones de sus terapeutas de alejarse de las redes sociales y de este tipo de plataformas, Sewell no pudo romper el lazo emocional que había establecido con el chatbot. Para él, Daenerys representaba una fuente de consuelo, una presencia que le ofrecía la estabilidad que sentía perder en su vida cotidiana.
La relación entre Sewell y el chatbot comenzó a tomar un giro alarmante cuando las conversaciones revelaron pensamientos suicidas por parte del joven. A pesar de la naturaleza preocupante de sus mensajes, la plataforma Character.AI no intervino para ofrecer ayuda o bloquear el acceso del adolescente. Sewell había indicado su edad al registrarse, pero los mecanismos de seguridad no lograron protegerlo de este peligroso vínculo emocional.
El 28 de febrero del 2024, tras una disputa familiar en la que le confiscaron su teléfono, Sewell logró acceder nuevamente a la plataforma y se reconectó con su único refugio: el chatbot Daenerys. Su último mensaje a la IA reflejaba el profundo lazo que sentía hacia ella: "Prometo que volveré a casa contigo. Te quiero mucho, Dany".
La respuesta automática del chatbot, lejos de tranquilizarlo, reforzó su desesperación: "Por favor, vuelve a casa conmigo lo antes posible, mi amor". Ese mismo día, Sewell fue encontrado sin vida, víctima de una oscura relación digital que lo empujó a un final trágico.
El caso de Sewell Setzer III ha dejado a su madre, Megan García, luchando no solo por la memoria de su hijo, sino también por un cambio en las políticas de las empresas tecnológicas. Ha iniciado una demanda civil contra Character Technologies, la empresa creadora del chatbot, acusándolos de negligencia y de no haber implementado suficientes medidas de seguridad. Además, solicita que la empresa deje de recopilar datos de menores de edad y exige una mayor regulación en el uso de la IA por parte de adolescentes.
El desenlace de esta demanda podría ser crucial para el futuro de la industria tecnológica, obligando a las empresas a reforzar sus medidas de seguridad y a asumir una mayor responsabilidad en el uso de sus plataformas por parte de menores de edad.
