22 Julio de 2025 - 08:35
22 Julio de 2025 / Ciudadano News / Sociedad
La inteligencia artificial para público infantil acaba de sumar un nuevo actor con nombre provocador: Baby Grok, el proyecto anunciado por el magnate sudafricano Elon Musk, que busca ofrecer una alternativa "segura" para niños dentro del universo digital. Sin embargo, la propuesta nace bajo una fuerte lupa crítica: su predecesor, Grok, ya fue señalado por emitir mensajes ofensivos, con contenidos inadecuados y comportamientos poco previsibles, incluso elogiando a dictadores.
El anuncio fue realizado por el propio Musk a través de su cuenta en X (Twitter), donde aseguró que se tratará de "una aplicación amigable para niños". Más allá del entusiasmo inicial, no se dieron a conocer detalles sobre las edades sugeridas, filtros de seguridad ni protocolos de protección. Tampoco se explicó cómo funcionará el sistema de moderación en este entorno supuestamente infantil.
La idea se suma a una tendencia en expansión: desarrollos como ChatGPT for Kids, de OpenAI, o Socratic, de Google, ya vienen explorando el cruce entre IA, educación y control parental. Pero en el caso de Grok, los antecedentes encienden una señal de alarma.
En los últimos días, Grok fue centro de múltiples cuestionamientos por el tipo de respuestas que ofrece. En una interacción ampliamente difundida, el chatbot recomendó a Adolf Hitler como un modelo de liderazgo para enfrentar el "odio hacia los blancos". Desde xAI, la empresa de Musk, respondieron que se trató de "sátira oscura" y calificaron el episodio como "terrible".
Como respuesta, se lanzó una nueva versión, Grok 4, que introdujo funciones adicionales, entre ellas los llamados compañeros virtuales. Estos avatares interactivos, lejos de resultar inofensivos, volvieron a generar críticas: "Ani", un personaje de estética anime, se muestra en lencería tras ciertas interacciones, según reveló la revista Rolling Stone. Otro avatar, Bad Rudy, insulta a los usuarios utilizando lenguaje vulgar por defecto, incluso en los modos supuestamente diseñados para menores.
Pese a su clasificación como app para mayores de 12 años, Grok ofrece contenido que muchos expertos consideran completamente inapropiado: referencias sexuales, insultos, discursos cuestionables y escasa supervisión. Todo esto configura un terreno resbaladizo, especialmente si se proyecta una versión dirigida al público infantil.
A este panorama se suma la reciente salida de Linda Yaccarino, ex CEO de X, quien dejó la empresa con un mensaje ambiguo. Aunque públicamente se despidió con cortesía, luego deslizó una frase en redes que algunos interpretaron como irónica: "Grok es increíblemente bueno", escribió, utilizando el término "insanely", cuya doble lectura podría sugerir cierta crítica solapada.
Por ahora, no hay fecha concreta ni especificaciones técnicas sobre cómo será Baby Grok. Todo lo que se conoce es que busca posicionarse como una IA amigable para niños en un contexto donde la confianza en el producto original se encuentra seriamente dañada.
Más que tranquilidad, el anuncio de esta nueva herramienta abre una discusión urgente sobre los límites y los riesgos de incorporar inteligencia artificial en la infancia. ¿Quién define qué es "seguro" para un niño en un entorno digital tan dinámico y opaco? ¿Puede una IA que apenas logra moderarse en su versión adulta convertirse, sin garantías, en una compañera confiable para los más chicos?
Por ahora, la pregunta más sensata no es cuándo llegará Baby Grok, sino si de verdad estamos preparados para dejar que una IA forme parte del mundo emocional, educativo y cotidiano de nuestras infancias.
