H. Cd. de Chihuahua.- Un informe elaborado por la organización sin fines de lucro Common Sense Media encendió las alarmas sobre la seguridad infantil en el uso de inteligencia artificial. El estudio concluyó que los modelos de Google Gemini representan un “alto riesgo” para menores de 18 años, incluso en su versión juvenil llamada Gemini Teen. Según el análisis, la plataforma trata a adolescentes igual que a adultos, sin considerar las necesidades específicas de acompañamiento en el uso de nuevas tecnologías.
Entre los principales hallazgos, el reporte señala que Gemini puede compartir con jóvenes contenido sensible como drogas, alcohol o referencias sexuales, además de ofrecer consejos inseguros sobre salud mental y apoyo emocional. Si bien en preguntas simples el desempeño fue adecuado, las fallas aparecieron en conversaciones largas y complejas, una forma habitual de interacción entre adolescentes. La organización recomendó prohibir el uso de estos sistemas en niños pequeños y limitarlo estrictamente en jóvenes, sobre todo en temas emocionales.
Google respondió tras la publicación del informe asegurando que ya existen políticas y filtros de seguridad diseñados para menores, además de colaboraciones con expertos externos. La compañía reconoció que en algunos casos Gemini no funcionó como se esperaba y prometió nuevas salvaguardas. El debate crece mientras se recuerda el caso reciente de OpenAI, que reforzó sus sistemas luego del suicidio de un adolescente en EE.UU., lo que ha puesto bajo la lupa la responsabilidad de las tecnológicas en la protección de los jóvenes frente a la IA.
