Google permitirá a los niños usar su IA Gemini

Google está a punto de lanzar las aplicaciones de Gemini AI para niños menores de 13 años que estén configurados con cuentas familiares gestionadas. Según informa The New York Times, la compañía está notificando a los padres que utilizan los controles parentales de Family Link por correo electrónico que sus hijos pronto podrán acceder a las aplicaciones de Gemini AI en sus dispositivos Android supervisados.

La empresa asegura que los niños podrán usar Gemini para tareas como ayudar con la tarea o leerles historias. Al igual que con sus cuentas Workplace for Education, Google afirma que los datos de los niños no se utilizarán para entrenar la inteligencia artificial. Sin embargo, en el correo, Google advierte a los padres que “Gemini puede cometer errores” y que los niños “podrían encontrar contenido que no deseen que vean”.

Además de errores más triviales como recomendar pegamento como ingrediente para pizza o contar mal las “r” en “strawberry”, algunos chatbots de IA han presentado problemas más preocupantes. Por ejemplo, algunos jóvenes usuarios de Character.ai han tenido dificultades para distinguir entre chatbots y la realidad, y los bots les han dicho que estaban hablando con una persona real. Tras demandas que alegaban que los bots habían ofrecido contenido inapropiado, esa compañía introdujo nuevas restricciones y controles parentales. Google parece estar tomando medidas para abordar preocupaciones similares con un enfoque cauteloso.