Искусственный интеллект проникает в эстонские школы все быстрее. Например, в рамках проекта "TI-hüpe" тестируются решения, призванные поддержать преподавание и сделать обучение более персонализированным. Идея проста: если ученик не понимает, к примеру, квадратные уравнения, система на базе ИИ способна это распознать и предложить ему подходящие упражнения. Такой подход обещает сделать обучение более эффективным и адаптировать его под нужды учащихся.

В Таллиннском университете мы и сами исследовали и тестировали подобные решения. К сожалению, наша недавняя научная работа показывает, что реальность гораздо сложнее идеала. Многие современные системы ИИ не учитывают то, как люди учатся на самом деле. Проблемы, иллюстрирующие это, проявляются на нескольких уровнях.

Одна из главных проблем заключается в том, что системы ИИ узко фокусируются на учебных заданиях и моделях данных. При этом без внимания остаются такие важные для обучения процессы, как мотивация, эмоции и саморегуляция. Таким образом, система может зафиксировать наличие у учащегося трудностей, но не понять, почему они возникают, и потому не может предложить содержательно подходящую поддержку.

Другой повод для беспокойства касается того, как эти системы разрабатываются и оцениваются. В образовании часто используются модели, работа которых не является прозрачной и которые недостаточно сравнивались с альтернативными решениями. Это означает, что неясно, является ли выбранное решение на самом деле наиболее эффективным или же просто технически самым доступным.

Кроме того, возникают этические вопросы. Системы искусственного интеллекта обучаются на существующих данных и поэтому могут отражать содержащиеся в них предвзятости. Например, исследования показали, что большие языковые модели могут давать учащимся разную обратную связь в зависимости от их пола. Такая предвзятость может быть не видна сразу, но она способна повлиять на возможности и уверенность учащихся в себе.

Эти проблемы не единичны – они повторяются во многих решениях на базе ИИ. Зачастую они остаются незамеченными, хотя напрямую влияют на то, какую поддержку получают учащиеся. Распространение больших языковых моделей особенно четко выявило эти узкие места. Системы просты в использовании, но иногда дают недостоверные ответы, а принципы их работы остаются непонятными для пользователя.

Если в высшем образовании эти проблемы решить проще и ИИ может быть весьма полезен, то в общеобразовательных школах ситуация выглядит иначе. Многие современные системы попросту игнорируют то, как на самом деле устроен процесс обучения.

Поэтому разработчики и лица, принимающие решения, должны быть особенно осторожны при их внедрении. Мы также поддерживаем внедрение ИИ в школах, например, в рамках проекта "TI-hüpe", но только в том случае, если это делается осознанно и продуманно.

Ответственный подход к будущему

Искусственный интеллект стал неотъемлемой частью образования. Ученики уже используют его возможности и продолжат делать это в будущем. Это накладывает на учителей и школы особую ответственность: они должны четко осознавать сопутствующие риски. Если ребенок, слепо доверившись ИИ, совершит ошибку, то он может стать объектом насмешек в классе. Подобный негативный опыт способен серьезно подорвать его уверенность в себе и лишить мотивации к учебе.

Разработчики и пользователи больших языковых моделей уже предпринимают меры по исправлению ошибок и снижению предвзятости. Эти шаги необходимы, однако они не решают фундаментальных проблем. К аналогичным выводам пришли и авторы ряда недавних исследований: они подчеркивают, что одними лишь техническими правками невозможно устранить ключевые недостатки систем, основанных на больших языковых моделях.

Модели ИИ обучаются на существующих данных, перенося в себе содержащиеся в них закономерности и предвзятость. В то же время их способность давать кажущиеся персональными ответы создает иллюзию универсального решения. Это не соответствует действительности.

В разработку ответственных методов искусственного интеллекта следует вовлекать различные заинтересованные группы: учащихся, учителей, руководителей школ, ученых в области образования и политиков. Также важно применять различные методы ИИ, а не ограничиваться только большими языковыми моделями.

Искусственный интеллект может играть важную роль в учебном процессе и приносить реальную пользу. Но это возможно только в том случае, если мы не дадим технологии ослепить нас. Поспешное внедрение технологий без глубокого понимания принципов их работы несет в себе риск дезинформации целого поколения учащихся.

Ведь именно эти молодые люди станут будущими врачами, учителями и руководителями. Поэтому при использовании ИИ в образовании мы не можем позволить себе случайных решений.