​​Искусственный интеллект не сделает образование более инклюзивным, если мы не спроектируем его соответствующим образом.
Автор Рикардо Оливейра
Сам по себе искусственный интеллект не сделает образование более инклюзивным. Напротив, если ИИ создается на основе представлений о «среднестатистическом ученике», он лишь масштабирует существующие барьеры и исключает тех, чьи потребности отличаются от нормы.
Автор проводит аналогию с историей ВВС США 1950-х годов: попытка спроектировать кабину самолета под «среднего пилота» привела к тому, что она не подходила никому. Решением стало создание регулируемых элементов управления, что повысило безопасность для всех. Такой же принцип должен применяться и к образовательному ИИ.
Особую опасность представляет обучение моделей на нерепрезентативных данных. Если в обучающих выборках недостаточно представлены люди с особыми образовательными потребностями, нейроотличные учащиеся или другие группы, ИИ будет систематически ошибаться при оценке их работы, поведения и успеваемости. В результате технологии могут усиливать неравенство вместо его сокращения.
Автор предлагает три ключевых принципа разработки инклюзивного образовательного ИИ:
- Привлекать к проектированию людей с нестандартными образовательными потребностями уже на ранних этапах разработки, поскольку именно они способны выявить проблемы, незаметные для большинства.
- Использовать ИИ для поддержки, а не замены человека. Автоматизация должна освобождать учителей от рутинных задач, чтобы они могли уделять больше внимания ученикам, которым особенно необходима человеческая поддержка.
- Оценивать эффективность ИИ по результатам наиболее уязвимых учащихся, а не по средним показателям, которые скрывают проблемы меньшинств.
Главный вывод статьи заключается в том, что инклюзивность не возникает автоматически благодаря технологиям. Она является результатом сознательных проектных решений. Подобно тому как субтитры и пандусы, созданные для людей с особыми потребностями, впоследствии оказались полезны всем, образовательный ИИ, разработанный с учетом потребностей наиболее уязвимых учащихся, сможет сделать обучение лучше для каждого.
Ссылка на перевод в комменте 👇👇👇