¿Cómo surgen nuestros criterios de Certificación EdTech de nuestro trabajo en la Comisión de Futuros Digitales?
Por Ayça Atabey, Sonia Livingstone y Kruakae Pothong
Después de tres años de investigación intensiva sobre la gobernanza de los datos educativos en la Comisión de Futuros Digitales , desarrollamos un " Plan para los datos educativos: dar cuenta de los mejores intereses de los niños en la educación digitalizada ", un marco práctico para hacer frente a las compañías EdTech que violan la privacidad de los niños mientras aprenden en la escuela. .
El Blueprint establece 10 criterios de certificación para toda la tecnología educativa utilizada en las escuelas para la enseñanza, el aprendizaje, la administración y la protección. Aquí explicamos los 10 criterios y cómo se basan en nuestra investigación.
1. Cumplimiento total del Código de Diseño Apropiado para la Edad (AADC) del Reino Unido
Para identificar cómo se ve un futuro que respete los derechos del niño para EdTech, investigamos los términos de uso y las políticas de privacidad de las empresas de EdTech y sus contratos con las escuelas, y entrevistamos a profesionales para explorar la brecha entre lo que dice la ley y lo que sucede en la práctica . Identificamos una serie de problemas relacionados con el cumplimiento de la ley de protección de datos (p. ej., cuando se basa en " intereses legítimos "). En nuestro informe Gobernanza de los datos para el aprendizaje de los niños en las escuelas públicas del Reino Unido , pedimos a las partes interesadas que aborden estos problemas, lo que incluye garantizar el pleno cumplimiento de la AADC del Reino Unido. Abogamos y explicamos por qué esto es necesario en Un análisis socio-legal de los regímenes de gobierno del Reino Unido para escuelas y EdTechentre otras salidas . Basándonos en la experiencia de los colegas, hicimos cuatro propuestas al ICO para desarrollar su marco sobre el interés superior de los niños y les hemos abogado para que los estándares de la AADC se apliquen a toda la tecnología educativa.
2. Cumplimiento de los estándares de privacidad y seguridad, proporcionales a los riesgos del procesamiento de datos, y con los requisitos de accesibilidad del gobierno del Reino Unido.
El cumplimiento de las leyes de protección de datos no es suficiente en sí mismo. Las empresas de EdTech deben cumplir con otros marcos (p. ej., seguridad cibernética , leyes de igualdad y requisitos de accesibilidad ), para garantizar que sus actividades de datos sean en el mejor interés de los niños. Como sabemos, la privacidad es importante al permitir una experiencia en línea más segura para los niños y deben abordarse las brechas de cumplimiento con los estándares de privacidad y seguridad que destacamos en varios informes y blogs de DFC. Por ello, confiamos en que los criterios de certificación deben incluir el cumplimiento de la legislación pertinente, la normativa en materia de protección de datos, privacidad y seguridad, y las buenas prácticas de cálculo riesgo-beneficio.
3. Aplicación automática y extensión de alta protección de privacidad por parte de EdTech a cualquier recurso utilizado o al que se acceda como parte del viaje de aprendizaje digital de un usuario por defecto y diseño
Las empresas de EdTech pueden abordar mejor los mejores intereses de los niños a través de la protección de datos desde el diseño y por defecto . Hoy en día, no todos los recursos o servicios conectados utilizados brindan el mismo nivel de protección . Para garantizar una alta protección de la privacidad de la vida de los niños, los proveedores de EdTech deben proporcionar una alta protección de la privacidad dentro de su propio entorno de productos o servicios y extender la misma protección de la privacidad a la interacción de los usuarios con otros productos o servicios a los que se accede a través del entorno de los proveedores. De esta forma, los niños pueden disfrutar de una protección de la privacidad alta y constante a lo largo de su viaje de aprendizaje digital, independientemente de la protección de la privacidad variable que ofrecen estos otros productos y servicios. Esta ampliación de la privacidad se puede lograr, por ejemplo, mediante la creación de entornos de "espacio de usuario" aislados que actúen como contenedores y apliquen las políticas de privacidad de los propios proveedores a estos entornos.
4. Los datos biométricos son datos personales sensibles y no deben ser tratados salvo que se aplique alguna de las excepciones previstas en la ley. Los datos biométricos de los niños y las tecnologías impulsadas por IA se utilizan mucho en entornos educativos, y hay mucho en juego para los niños . Como tal, los niños, padres y cuidadores deben ser notificados explícitamente sobre el procesamiento de datos biométricos y se les debe dar la oportunidad de dar su consentimiento informado. Los niños y los padres también deben poder objetar el procesamiento y retirar el consentimiento otorgado en cualquier momento. Esto es particularmente importante dado que el uso de EdTech puede involucrar prácticas generalizadas de procesamiento de datos biométricos que plantean cuestiones legales y éticas .
5. Distinción significativa entre datos personales fácticos y juicios inferidos o de comportamiento sobre los niños: mantenga una separación entre estos tipos de datos y no automatice vínculos, construya perfiles o realice análisis de aprendizaje de manera que no se puedan desagregar. Cuando se infieren datos, el organismo de certificación y las escuelas deben disponer de una descripción clara y transparente de cómo se construye el análisis para garantizar que las inferencias conductuales o educativas sean significativas y cuestionables y que se respeten las reglas de transparencia alineadas con sus mejores intereses al cumplir con las leyes de protección de datos. Garantizar una distinción significativa es fundamental dadolas complejidades en torno a los datos conectados para los servicios conectados y cómo los juicios cruciales sobre los niños pueden afectar sus vidas y el acceso a los servicios.
6. Oportunidades para revisar y corregir errores en los datos que se tienen sobre los niños: Proporcione proactivamente herramientas destacadas, fáciles de usar y accesibles para niños, padres y cuidadores para comprender qué datos se tienen sobre el niño, permitir que los niños y los cuidadores revisen y corrijan cualquier errores en los registros educativos sobre el niño, y proporcionar reparación si los errores resultan en daño. La transparencia es clave aquí, porque los niños y los cuidadores pueden revisar cualquier error si están informados sobre qué datos se tienen sobre ellos. Las empresas de EdTech tienen la responsabilidad de garantizar que se comunican de manera clara y efectiva para que la información se pueda entender fácilmente y actuar en consecuencia. Sin embargo, nuestra encuesta representativa a nivel nacionalmostró que menos de 1/3 de los niños informaron que su escuela les había dicho por qué usa EdTech, y a menos se les había dicho qué sucede con sus datos o sobre sus derechos como sujeto de datos.
7. Divulgación de vulnerabilidades: proporcione vías destacadas y accesibles para que los investigadores de seguridad y otros informen sobre cualquier vulnerabilidad de seguridad de las herramientas y establezca un proceso interno para actuar rápidamente sobre las vulnerabilidades informadas. Teniendo en cuenta el uso cada vez mayor de EdTech en las escuelas, los datos de educación de los niños están entrando en el ecosistema de datos global y los riesgos de datos asociados a estos, abordar los estándares de divulgación de vulnerabilidades se vuelve aún más urgente que nunca. Sin embargo, actualmente hay una falta de recursos disponibles para aquellos que se ocupan de la protección y la seguridad de los datos, y se necesita la provisión de vías prominentes y accesibles para informar y actuar sobre las vulnerabilidades de seguridad.
8. Beneficios educativos basados en evidencia: Brinde evidencia actualizada revisada por pares de los beneficios de los productos EdTech, utilizando metodologías sólidas producidas por expertos independientes sin ningún conflicto de intereses. El informe de nuestra mesa redonda de expertos destacó la falta de evidencia sobre los beneficios educativos. Los expertos afirmaron que faltan definiciones, pruebas o puntos de referencia comunes sobre lo que beneficia a los niños en la educación. Nuestro informe de realidad de datos educativos mostró que las escuelas y los maestros tienen preocupaciones similares. Los resultados de nuestra encuesta representativa a nivel nacional muestran que los niños tienen opiniones encontradas sobre los productos EdTech que usan en la escuela, y algunos niños dudan de los beneficios.
9. Investigación en el producto: los datos educativos utilizados para I+D por el proveedor de EdTech deben cumplir con altos estándares éticos y de derechos del niño. No debe ser rutinario ni realizarse con datos educativos de los niños sin un consentimiento informado significativo. Nuestro informe de Google Classroom y ClassDojo muestra que no se cumple con la regulación de protección de datos y esto deja a los niños en edad escolar vulnerables a la explotación comercial , en muchos contextos, incluida la investigación dentro del producto. Los proveedores de EdTech deben respetar los derechos de los niños y darles control sobre cómo se utilizan sus datos. El trato justo requiere abordar las expectativas y necesidades de los niños al comunicarles cualquier información para obtener su consentimiento. La educación basada en datos debe serresponsable, respetuoso de los derechos y lícito . La investigación en el producto no es una excepción.
10. Servicios vinculados: Asegúrese de que los vínculos y los complementos de los servicios, como las compras dentro de la aplicación, a los que se puede acceder en los productos o servicios de EdTech, cumplan con estos estándares. Este criterio requiere que los proveedores de EdTech se aseguren de que los servicios vinculados que elijan ofrecer cumplan con los criterios anteriores por diseño, mientras que la extensión de privacidad en el tercer criterio aborda la protección de la privacidad a nivel de interfaz.
Nuestros informes, blogs e investigaciones diagnosticaron una serie de problemas con el gobierno de datos educativos, que dificultan la vida de las escuelas y crean incertidumbre regulatoria para las empresas y socavan el interés superior de los niños . Creemos que nuestros criterios de certificación ayudarán a desbloquear el valor de los datos educativos en interés de los niños y el interés público y garantizan que los datos de los niños no se exploten con fines comerciales.en el ecosistema EdTech. Con los mejores intereses de los niños en mente, hacemos un llamado claro al Departamento de Educación para que proporcione los requisitos de acreditación para EdTech. Esto debería proporcionar una guía clara sobre los estándares que se deben cumplir y un mecanismo sólido para implementar esto, reduciendo la carga en las escuelas, creando un campo de juego nivelado en la industria y brindando los derechos de los niños a la privacidad, la seguridad y la educación en un mundo digital.