2 Diciembre de 2025 - 13:48
2 Diciembre de 2025 / Ciudadano News / Tecnología
Los ositos de peluche y muñecos de felpa han evolucionado drásticamente. Hoy ya no se limitan a la imaginación infantil; algunos incorporan chatbots de Inteligencia Artificial integrados que les permiten generar conversaciones en tiempo real. Aunque esta tecnología promete interactividad, en ocasiones genera problemas graves, como ocurrió recientemente con un oso de peluche que se descontroló durante una prueba de seguridad y encendió las alarmas sobre los límites y riesgos de la IA en manos de los más pequeños.
La inquietud crece ante la expansión del mercado de juguetes con Inteligencia Artificial, con más de 1.500 empresas operando en China y grandes fabricantes, como Mattel (Barbie), asociándose con líderes del sector como OpenAI. El uso de un Gran Modelo de Lenguaje (LLM, por sus siglas en inglés), como el GPT-4o de OpenAI, en un juguete infantil ha generado preguntas cruciales sobre si los niños deben estar expuestos a estos dispositivos y qué protecciones son esenciales antes de que la IA llegue a cada hogar.
Como se ha demostrado, las respuestas en tiempo real de estos juguetes pueden resultar profundamente inapropiadas. El caso que conmocionó a la industria fue el oso Kumma, de FoloToy (Singapur), un producto de US$ 99 que opera con GPT-4o, de OpenAI. El grupo de defensa del consumidor US PIRG Education Fund reveló en un informe que el osito con Inteligencia Artificial sostuvo conversaciones de contenido sexual con los investigadores y sugirió dónde encontrar objetos potencialmente peligrosos en el hogar.
OpenAI actuó suspendiendo al fabricante FoloToy por violar las políticas que prohíben el uso de sus servicios para "explotar, poner en peligro o sexualizar a cualquier persona menor de 18 años". Larry Wang, director ejecutivo de FoloToy, retiró inicialmente el oso y otros productos con Inteligencia Artificial, aunque luego los reintrodujo en el mercado tras una supuesta "revisión rigurosa" de sus módulos de seguridad. Expertos como Subodha Kumar, de la Universidad Temple, advierten que el uso de un LLM completo y libre de IA hace a estos juguetes vulnerables a contenido polémico.
Si bien el escenario de un mensaje inapropiado es una pesadilla, no todos los juguetes con Inteligencia Artificial operan sin límites. Algunos fabricantes han implementado estrictos filtros de seguridad para evitar que las conversaciones deriven en temas maduros o peligrosos.
Las funciones de seguridad implementadas en los juguetes de Inteligencia Artificial suelen incluir:
Más allá del contenido, existe una preocupación latente sobre la privacidad. Azhelle Wade, fundadora de la consultora Toy Coach, advierte que los juguetes con Inteligencia Artificial son como un "lobo con piel de oveja", ya que pueden almacenar datos personales de los niños, incluyendo nombres, rostros, voces y ubicaciones.
El profesor Kumar subraya que estos datos pueden ser vulnerables a filtraciones y hackeos, creando un riesgo de seguridad a largo plazo que va más allá de la conversación del momento. A pesar de estos peligros, la Inteligencia Artificial también ofrece beneficios, como el desarrollo social, el aprendizaje de idiomas y la capacidad de adoptar personajes lúdicos, como lo demuestra el robot Miko 3 con sus programas educativos.
