Развитие искусственного интеллекта и науки о данных преобразило способы получения инсайтов из данных. В здравоохранении инструменты ИИ используются при разработке новых методов лечения, поскольку исследователи применяют методы машинного обучения к наборам данных. Однако применение ИИ в здравоохранении также несёт риски, особенно когда системы усиливают существующие предвзятости в данных или в конструкции алгоритмов.

Роль навыков критического мышления в образовании по ИИ

Кэти начала семинар с утверждения, что у многих учащихся, использующих инструменты ИИ в учебной работе, остаются вопросы относительно того, критически ли они оценивают выводы этих инструментов. Студенты могут как сверять сгенерированные ИИ ответы с первоисточниками, чтобы проверить их точность, так и не делать этого. Возрастает также беспокойство, что использование ИИ позволяет ученикам перекладывать когнитивную работу вместо того, чтобы глубже мыслить. Это создаёт задачу для педагогов: как помочь учащимся продуктивно использовать ИИ и при этом поддержать развитие критического суждения, необходимого для оценки его результатов?

Представление Data Science, AI & You (DSAIY)

Чтобы справиться с этой задачей, Кэти и её коллеги разработали программу Data Science, AI & You (DSAIY), которую произносят «Дейзи». DSAIY — это учебная программа для старших классов на один семестр, цель которой — вводить учащихся в ИИ через активное вовлечение в процесс машинного обучения.

Программа знакомит с машинным обучением как движущей силой многих инструментов ИИ и вводит понятие предвзятости через примеры из реальной жизни. Учащиеся используют различные инструменты для сбора и подготовки данных, обучения, тестирования и оценки моделей. Программа завершается «AI-a-thon» — мероприятием, где молодые люди работают в междисциплинарных командах вместе с дата-сайентистами, клиницистами и своими учителями, получая опыт, приближённый к реальным условиям.

На момент семинара 11 преподавателей реализовали программу более чем для 800 учащихся в различных образовательных условиях в штате Род-Айленд, США. Учителям предоставляется значительная поддержка: четыре дня профессионального развития и постоянная техническая помощь в процессе внедрения. Учащиеся, принимавшие участие, имели разный опыт, включая многих без предыдущих знаний в области информатики или статистики. Женское участие особенно высоко; один из учителей отметил, что на курсе было больше девушек, чем в любых его других классах по информатике.

В DSAIY учащиеся проходят полный конвейер машинного обучения: от сбора и подготовки данных до моделирования и развёртывания. С использованием Python они обучают и тестируют простые модели машинного обучения на подлинных медицинских данных. Цель программы — перейти от базового построения графиков к оценке сложных моделей, переведя учащихся от простого отображения данных к глубинному рассуждению о них.

Программа использует CODAP (Common Online Data Analysis Platform), бесплатный веб-инструмент, разработанный The Concord Consortium. CODAP предоставляет интерактивную, наглядную среду, снижающую барьер вхождения. Учащиеся могут визуализировать большие наборы данных и просматривать отдельные точки данных, что позволяет видеть отдельные случаи в рамках большего набора.

Понимание предвзятости в системах здравоохранения

Учебный план использует примеры из реального здравоохранения для введения понятий предвзятости и справедливости. Например, учащиеся знакомятся с пульсоксиметрами, которые оценивают уровень кислорода в крови. Поскольку они используют красный и инфракрасный свет, показания могут варьироваться в зависимости от пигментации кожи, что может приводить к неточным результатам.

Ученики также собирают собственные данные об уровне кислорода в крови и строят их графики в CODAP, чтобы наблюдать вариабельность. Они учитывают точность своих измерений и обсуждают этику удаления выбросов из набора данных. Это побудило учащихся задавать критические вопросы о составе их наборов данных, о контексте сбора данных и о последствиях использования данных в здравоохранении.

Через программу DSAIY Кэти сообщила, что учащиеся развили более сильные навыки рассуждения о данных, получили более глубокое понимание присущих ИИ предвзятостей и рисков, а также обрели уверенность в публичных выступлениях и в совместной работе. Учащиеся были также очень вовлечены и высоко оценили акцент на реальных применениях в здравоохранении и их социальных последствиях.

Важность грамотности в области данных для грамотности в области ИИ

Кэти завершила семинар утверждением, что грамотность в области ИИ должна начинаться с грамотности в области данных. Когда учащиеся учатся исследовать, ставить под вопрос и рассуждать о данных, лежащих в основе технологий ИИ, они развивают критическое мышление, необходимое для взаимодействия с выводами реальных систем или повседневных технологий, таких как ChatGPT. Это помогает им оценивать как надёжность этих инструментов, так и их роль в важных процессах принятия решений.

В нашей текущей серии семинаров мы исследуем, как ИИ преподают в различных предметных областях. В следующем семинаре во вторник, 14 июля, с 17:00 до 18:30 по британскому летнему времени мы приглашаем Дана Верштэндига (Goethe University Frankfurt), который исследует связь между социальной объяснимой ИИ (Social XAI) и критической вычислительной грамотностью (CCL). Мы надеемся увидеть вас на семинаре.

График предстоящих семинаров доступен онлайн. Вы можете ознакомиться с прошедшими семинарами в нашем блоге и на странице с предыдущими семинарами и записями.

Принося науку о данных в школьную жизнь с учебной программой «API Can Code»

Введение концепций и навыков науки о данных для учащихся начальных классов

ИИ не нейтрален: что говорят недавние исследования о предвзятости, идентичности и власти

Что следует включать в учебную программу по науке о данных для школ?

Создание образовательных технологий, которым дети могут доверять

Выпуск Hello World #30: Критическое мышление в эпоху ИИ