A Risk Framework for Human-Centered Artificial Intelligence in Education: Based on Literature Review and Delphi-AHP Method

Dado que la inteligencia artificial (IA) se aplica ampliamente en la educación, la IA centrada en el ser humano (HCAI) se ha convertido en un campo activo. Aunque ha habido una creciente preocupación sobre cómo mejorar sistemáticamente la El efecto de las aplicaciones de IA y la gobernanza del riesgo de IA en la educación sobre IAHC aún no se han debatido. Este estudio adoptó metanálisis de la literatura, junto con los métodos Delphi y del proceso de jerarquía analítica (AHP) para establecer el marco de riesgo y calcular el peso del índice de la educación HCAI. Los resultados confirman que el riesgo El marco incluye ocho indicadores, que respectivamente son una mala comprensión del concepto HCAI (MC), mal uso de los recursos de IA (MR), falta de coincidencia de la pedagogía de la IA (MP), riesgo de seguridad de la privacidad (PSR), riesgo de transparencia (TR), riesgo de rendición de cuentas (AR), riesgo de sesgo (BR) y riesgo percibido (PR). Mientras tanto, los ocho indicadores son dividido en cuatro categorías, como concepto HCAI, proceso de solicitud, seguridad ética y hombre-máquina interacción. Además, la tendencia de los tipos de riesgos indica que más de la mitad de los artículos consideran sólo tres o menos tipos de riesgos, y los resultados de la evolución de los indicadores de riesgos aumentaron gradualmente entre 2010 y 2021. Además, los pesos de los ocho indicadores son MP > MR > AR > PSR > TR > PR > BR > MC. Resultados obtenidos podrían proporcionar evidencia teórica y sugerencias de desarrollo para la futura gobernanza científica de Educación HCAI. Además, el marco de riesgos no sólo considera sistemáticamente el orden de gobernanza del riesgo de La educación sobre HCAI, pero lo que es más importante, es el puente clave para el avance colaborativo de las partes interesadas. como directivos, profesores, estudiantes y padres de familia, que pueden contribuir al desarrollo científico, saludable y sostenible. Educación HCAI.