Стрімке розгортання штучного інтелекту в шкільній освіті США випередило створення дієвих нормативних механізмів для захисту учнів від алгоритмічної дискримінації та упередженості. На тлі того, як технологічні компанії поспішають закріпити власні корпоративні інтереси, експерти закликають встановити жорсткі вимоги до освітніх AI-сервісів ще до укладення будь-яких контрактів із навчальними закладами.
Шона Д. А. Нокс, засновниця компанії The Emancipation Group і колишня експертка Департаменту освіти США з питань торгівлі людьми та дитячої експлуатації, зазначає, що жоден інструмент штучного інтелекту, який навчає, оцінює чи відстежує дітей, не повинен допускатися до шкіл без попередньої перевірки на упередженість.
Прояви алгоритмічної упередженості в оцінюванні учнів
Дослідження останніх років демонструють, що алгоритми штучного інтелекту часто відтворюють і посилюють людські стереотипи. Торік аналіз цифрових асистентів для вчителів показав, що штучний інтелект рекомендував застосовувати суворіші підходи до учнів із проблемами у навчанні, якщо їхні імена притаманні темношкірому населенню США. Інше дослідження виявило, що AI-система оцінювання есе давала нижчі бали темношкірим учням порівняно з азійськими школярами за абсолютно аналогічні роботи.
Навіть коли модель не отримує прямих даних про расу дитини, вона здатна визначати її за опосередкованими ознаками. До них належать ім’я, район проживання, школа, діалект або особливості стилю письма. Під час тестування мовних моделей на зразках тексту з використанням афроамериканського діалекту алгоритми не вживали явно дискримінаційних висловлювань, однак оцінювали авторів як менш інтелектуальних і пропонували їм менш престижні професії.
Як працює тестування AI-інструментів на дискримінацію
Експерти пропонують інтегрувати перевірку на упередженість у вже існуючі процедури перевірки конфіденційності, які шкільні округи проводять перед закупівлею будь-якого програмного забезпечення. Механізм тестування полягає у подачі алгоритму майже ідентичних учнівських робіт, де змінюються лише імена, мовні звороти та фонова інформація, після чого аналізується різниця у реакції системи.
Окрім порівняння оцінок, оцінювач має перевіряти навчальний зміст: які стереотипи дублює інструмент і наскільки повно висвітлює історію різних груп людей. Перевірку необхідно проводити повторно під час використання сервісу, оскільки великі мовні моделі здатні змінюватися та адаптуватися вже після продажу.
Заборона як тимчасове рішення та досвід штатів
Наразі лише кілька американських штатів ухвалили закони щодо використання штучного інтелекту в освітньому процесі. Наприклад, в Оклахомі вчитель зобов’язаний перевіряти будь-який контент, згенерований AI, перед його використанням у класі, а штучному інтелекту заборонено бути основною підставою для виставлення підсумкової оцінки чи рішення про переведення учня.
Через відсутність надійних методів перевірки деякі великі шкільні округи вдаються до повних заборон. У місті Нью-Йорк учням до восьмого класу тимчасово заборонили використовувати генеративний AI на один рік, щоб провести аудит усіх освітніх технологій. Об’єднаний шкільний округ Лос-Анджелеса повністю заблокував генеративний штучний інтелект на пристроях округу, включно з цифровими помічниками в сервісі Google Classroom.
Скасування федеральних норм і брак ресурсів у школах
Ситуація ускладнюється змінами на федеральному рівні. Департамент освіти США відкликав норму, яка дозволяла вилучати зі шкіл алгоритмічні інструменти на основі статистичних доказів шкоди для певної групи дітей. Тепер Управління з цивільних прав діє лише за наявності доказів прямого умислу навчального закладу чи округу дискримінувати учнів.
Водночас самі шкільні округи, хоч і мають юридичний обов’язок дбати про безпеку дітей, практично не володіють необхідним штатом фахівців, підготовкою або технічними ресурсами для самостійного виявлення алгоритмічних ризиків.
Ширший освітній контекст та значення події
Дискусія довкола штучного інтелекту в американських школах відображає ширшу глобальну проблему адаптації освітніх систем до стрімкого розвитку цифрових технологій. Досвід масового впровадження смартфонів та соціальних мереж у попередні десятиліття показав, що відсутність своєчасного регулювання призводить до тривалих негативних наслідків для навчального середовища.
Створення прозорих стандартів аудиту та безпеки AI-інструментів є ключовим кроком для всієї світової освітньої спільноти. Це дозволить зберегти педагогічну цінність інновацій, гарантуючи при цьому рівні можливості та захист прав кожного здобувача освіти.
Дата публікації джерела: 09.09.2026 05:00.
Джерело: hechingerreport.org
