Cómo protegemos a los niños

Cuentas

Ningún alumno crea cuentas de IA. En ninguna banda de edad, ni en el colegio ni en casa: la petición sale de nuestro servidor con nuestra clave. Las herramientas principales de IA exigen 18 años, así que esta no es una preferencia nuestra, es la única configuración que es legal y que además escala a un aula de 25.

Con una excepción, y la decimos dentro de la frase y no en una nota al pie: en la banda 15+, si el centro quiere herramienta profesional, la cuenta la provisiona el centro con email escolar y consentimiento parental. Nunca la crea el alumno.

Datos

• No recogemos nombre, apellidos, email, foto ni fecha de nacimiento de ningún alumno.
• Cada niño trabaja con un alias que elige él.
• Lo que se conserva 90 días son sus instrucciones bajo ese alias, para que un adulto pueda supervisar que no aparece contenido inadecuado. Se borra antes si se pide.
• Sus proyectos son suyos: antes de borrar nada, ofrecemos exportarlos.

Supervisión

El adulto ve en vivo lo que escribe cada niño y lo que le responde la IA. Hay filtro antes de llamar al modelo y filtro después, que además revisa el código generado para bloquear llamadas a dominios externos, formularios que envíen datos y scripts de terceros. Y hay un procedimiento escrito para cuando algo se cuela igualmente, porque alguna vez se colará.

Transparencia

A cada niño se le dice, en su lenguaje, que habla con una máquina y que a veces se equivoca. Esto cumple el art. 50 del Reglamento de IA y, más importante, es la base del pensamiento crítico que queremos.

Y lo que todavía no está

Estamos cerrando el acuerdo de tratamiento con nuestro proveedor de IA, la base documentada de transferencia internacional y la póliza de responsabilidad civil. Lo decimos aquí porque un colegio va a preguntarlo y preferimos que lo lea antes de preguntar.