Технологии ИИ, такие как умные колонки или рекомендации стриминговых сервисов, становятся частью повседневной жизни детей и подростков. Поэтому всё важнее помогать молодым людям понимать не только то, как эти системы работают, но и как им задавать вопросы.

Когда системы ИИ генерируют результаты, например рекомендацию, эти результаты часто сопровождаются объяснением. На нашем последнем научном семинаре профессор доктор Дан Ферштэндиг (Университет Гёте во Франкфурте, Центр критических вычислительных исследований) рассказал о том, как объяснения формируются людьми, которые их пишут, и что они обретают смысл только когда кто‑то другой придаёт им значение. Дан познакомил нас с понятием «Социальная объяснимость ИИ» (Social XAI) и «Критической вычислительной грамотности» (CCL), и предложил задуматься не только о том, что объясняет система ИИ, но для кого, зачем и кто от этого выигрывает.

Зачем нужны объяснения?

Дан начал с на первый взгляд простого вопроса: зачем вообще нужны объяснения? Его ответ: объяснения дают ориентиры. Они уменьшают неопределённость и тем самым делают наш общий социальный мир обитаемым. Объяснения эволюционировали от сократического диалога к печатной книге, к классу и к сегодняшним цифровым интерфейсам, а теперь и к объяснениям, генерируемым ИИ. Но объяснения никогда не были нейтральными носителями информации. Дан проиллюстрировал это простым демонстрационным приёмом: он показал участникам семинара аэрофотоснимок пляжа и попросил сказать, что они замечают.

Участники семинара указали на береговую линию, песчаный пляж и крошечную фигурку в кадре. Затем Дан сообщил, что фото было сделано им с помощью дрона на пляже Монтара в Калифорнии в один конкретный день апреля 2024 года. Он спросил, как климатолог, серфер или художник могли бы по‑разному описать тот же самый снимок.

Эта демонстрация показала, что объяснение всегда предназначено для кого‑то, с какой‑то целью и в каком‑то контексте. Эта рамка напрямую переносится и на то, как мы должны мыслить об объяснениях ИИ. Объяснение, которое удовлетворит дата‑сайентиста, отлаживающего модель, — не то же самое, что объяснение, которое устроит пациента, спрашивающего, почему алгоритм пометил его снимок, или гражданина, желающего узнать, почему ему отказали в кредите. Иными словами, объяснения никогда не бывают чисто техническими.

От доставки объяснений к их совместному конструированию

Опираясь на работу Рольфинга и Лим 2026 года, Дан описал Social XAI как подход, который ставит в центр объяснимости взаимодействие, а не просто вывод. Дан проиллюстрировал это простой, но наглядной схемой: объяснение ИИ начинается как системный вывод, затем фильтруется через интерпретацию человека и только потом становится смыслом через конструирование. Универсальный вывод, каким бы технически точным он ни был, ещё не является объяснением до тех пор, пока кто‑то не осмыслит его в своих терминах.

Чтобы исследовать это дальше, исследовательская группа Дана разработала мастерские по совместному конструированию, собирая людей вместе, чтобы они совместно подвергали объяснения ИИ критическому разбору, а не получали их пассивно. На этих мастерских участникам задают вопросы вроде: «Что считается доказательством? Чего не хватает? Какие есть альтернативы? Кто выигрывает от этого? Согласны ли мы?»

Чтобы ответить на эти вопросы, участники не исследуют модель ИИ, чтобы выяснить, как она принимает решение. Вместо этого они тщательно анализируют её выводы так же, как критически оценивают обещание политика или газетный заголовок.

Критическая вычислительная грамотность

Критическая вычислительная грамотность (CCL) — это рамочная концепция, описывающая, что людям нужно, чтобы критически взаимодействовать с объяснениями ИИ. Дан представил CCL как состоящую из четырёх взаимосвязанных измерений:

  • Установка — критическая позиция и осознанность ценностей: подход к вычислительным системам не как к нейтральным инструментам, а как к артефактам, в которые встроены определённые ценности и предположения.
  • Биография — признание того, что отношения людей с технологиями формируются субъективностью, разнообразными встречами с вычислительными системами и разными путями, которые привели их к текущему моменту.
  • Способности — аналитические, творческие и этические навыки, необходимые для реальной работы с вычислительными системами, а не только разговоров о них.
  • Критика — способность, связывающая вместе остальные три измерения: задавать вопрос, что важно и почему.

В совокупности эти измерения противостоят узкому, чисто техническому представлению «грамотности в области ИИ» как знания того, как работает модель. Вместо этого CCL рассматривает грамотность как нечто биографическое и насыщенное ценностями. Дан объяснил, что люди приносят свою историю и позицию в любую встречу с вычислительными системами, и подлинная грамотность означает умение подвергать объяснения этих систем допросу, а не просто принимать их или управлять ими.

Применение идей в классе

Хотя исследования Дана проводились с взрослыми участниками, Social XAI и Критическая вычислительная грамотность — идеи, которые также можно использовать в школе. Например, если ученики взаимодействуют с объяснениями ИИ через умные колонки или рекомендации стриминговых сервисов в своей повседневной жизни, это создаёт возможность научить их критически взаимодействовать с выводами ИИ. Ученики могут исследовать, почему умная колонка предложила определённый рецепт, или изучать объяснение того, почему стриминг‑сервис порекомендовал конкретный сериал.

Объяснимость также является ключевой частью наших собственных материалов Experience AI. При обучении модели ученики пишут собственные карточки модели, чтобы задокументировать, кто построил модель, какие данные использовались для обучения, насколько точны были предсказания модели и какие известные ограничения существуют. В этом задании объяснимость прослеживаема, и ученики используют свои аналитические навыки, чтобы создавать прозрачные, справедливые и подотчётные карточки модели.

Social XAI предлагает расширение для этой активности. Ученики могли бы спросить, что важно в написанном ими объяснении и почему это важно. Через такую критику ученики могут подумать о том, кто будет читать эти карточки модели и как карточки могут быть интерпретированы. Таким образом объяснения ИИ становятся больше, чем техническим выводом — они превращаются в артефакты, смысл которых со‑конструируется автором и читателем.

Этот семинар был частью нашей продолжающейся серии о преподавании ИИ в гуманитарных, художественных и естественнонаучных дисциплинах. Запись полного выступления Дана, включая сессию вопросов и ответов, доступна в полном объёме.

Расписание предстоящих семинаров доступно онлайн. Вы можете посмотреть записи прошлых семинаров в блоге и на странице прошлых семинаров и записей.

  • AI‑грамотность начинается с грамотности в работе с данными: пример из здравоохранения
  • Привлечение науки о данных к жизни школьников K–12 с учебной программой «API Can Code»
  • ИИ не нейтрален: что говорят недавние исследования о предвзятости, идентичности и власти
  • Введение понятий и навыков науки о данных для учащихся начальной школы
  • Как задачные занятия в классе могут изменить отношение учащихся к информатике
  • Поощрение учащихся думать сначала, а формулировать запросы затем: использование больших языковых моделей для обучения