Архивный материал. Основа этого текста — сообщение, опубликованное в августе 2024 года. Упомянутые в нём сроки, приглашения и планы относятся к тому сообщению; они не являются действующим анонсом или подтверждением того, что запланированное событие состоялось.
Если вы интересуетесь технологиями, идти в ногу с последними обновлениями бывает трудно, особенно когда речь идёт об искусственном интеллекте (ИИ) и генеративном ИИ (GenAI). Иногда я сам так себя чувствую, но недавно одно обновление действительно привлекло моё внимание. OpenAI выпустила последнюю версию ChatGPT, в которой добавили голос, звучащий по‑женски. В демонстрационном видео модель помогала ведущим с математической задачей и давала советы по технике презентации, при этом звучала дружелюбно и весело.
Добавление голоса в такие модели ИИ, возможно, было неизбежно, поскольку крупные технологические компании пытаются завоевать долю рынка в этой области, но это заставило меня задуматься: зачем им нужен голос? Почему модель должна флиртовать с ведущим?
Работая в области ИИ, я всегда рассматривал ИИ как действительно мощный инструмент для решения задач. Но с генеративным ИИ у меня часто возникает вопрос, какие именно проблемы пытаются решить создатели и как помочь молодёжи понять эту технологию.
Какую проблему мы пытаемся решить с помощью GenAI?
Честно говоря, я не вполне уверен. Это не означает, что у GenAI нет преимуществ — они есть. Я видел множество отличных примеров только в образовании: учителя используют большие языковые модели (LLM), чтобы генерировать идеи для уроков, дифференцировать задания для учащихся с особыми потребностями, создавать примерные ответы на экзаменационные вопросы, с которыми ученики могут сверять свои ответы по критериям оценивания. Педагоги — творческие люди, и хотя приятно видеть столь много полезных применений этих инструментов, мне интересно: имели ли разработчики в виду решение конкретных задач при их создании, или они просто надеялись, что общество найдёт хорошее применение позже?
Несмотря на полезные применения GenAI, не нужно копать глубоко, чтобы начать обнаруживать серьёзные проблемы.
Антропоморфизм — это приписывание человеческих черт тому, что не является человеком. Мы все делаем это постоянно, обычно без последствий. Проблема в случае GenAI в том, что, в отличие от неодушевлённого предмета, которому вы дали имя (я, например, называю свой пылесос «Генри»), чат‑боты созданы так, чтобы отвечать по‑человечески, поэтому людям легко забыть, что они не общаются с человеком.
Как и опасались после моего предыдущего поста на эту тему, появились свидетельства того, что некоторые молодые люди начали стремиться подружиться с такими чат‑ботами, обращаться к ним за советом и эмоциональной поддержкой. Это легко понять. Вот выдержка из обмена между ведущими на презентации ChatGPT‑4o и моделью:
ChatGPT (представленное с живым изображением ведущего): «Похоже, вы чувствуете себя довольно счастливым и жизнерадостным с широкой улыбкой и, возможно, лёгким возбуждением. Что происходит? Кажется, у вас отличное настроение. Хотите поделиться источником этих приятных эмоций?» Ведущий: «Причина моего хорошего настроения в том, что мы делаем презентацию, показывающую, насколько вы полезны и удивительны.» ChatGPT: «О, перестаньте, вы заставляете меня краснеть.»
Исследование Family Online Safety Institute (FOSI) изучало возникающие надежды и страхи родителей и подростков в отношении GenAI.
«Некоторым людям просто нужен собеседник. То, что это не настоящий человек, не означает, что это не может повлиять на чувства человека — слова имеют силу. В конце концов, это всегда может помочь на эмоциональном и психологическом уровне».
Перспектива того, что подростки будут искать утешение и эмоциональную поддержку у генеративного ИИ, вызывает беспокойство. Хотя эти инструменты могут имитировать человеческое общение, их ответы основаны на шаблонах и данных, а не на подлинном сопереживании или понимании. Главная опасность в том, что это подвергает уязвимых молодых людей риску манипуляций, непредсказуемых по своим последствиям. Полагание на ИИ в качестве источника эмоциональной поддержки может привести к чувству изоляции и отстранённости и препятствовать развитию здоровых способов справляться с трудностями и межличностных навыков.
Ещё более тревожной может показаться недавняя новость о первом в мире конкурсе красоты для ИИ. Самая мысль об этом, в зависимости от отношения к конкурсам красоты, вызывает эмоциональную реакцию. Существуют обоснованные опасения по поводу мизогинии и укрепления искажённых представлений о нормах внешности, но также важно отметить, что победительницу «Miss AI» называют инфлюенсером в сфере lifestyle. Вопросы, которые следует задать: на кого авторы пытаются повлиять? Какого влияния они пытаются добиться, чего не могли бы добиться до создания виртуальной женщины?
Ещё одно применение GenAI — создание дипфейков. Если вы смотрели последний фильм про Индиану Джонса, то видели эту технологию в действии: Гаррисон Форд выглядит моложе. Само по себе это не обязательно плохое применение GenAI, но использование дипфейков легко становится проблематичным. Например, недавно учителя арестовали за создание аудиодипфейка с якобы расистскими замечаниями директора школы. Запись стала вирусной, прежде чем кто‑то понял, что аудио сгенерировано ИИ.
Инструменты для создания дипфейков просты в использовании и свободно доступны, и, как многие инструменты, они могут применяться ненадлежащим образом, причиняя вред или даже нарушая закон. Один из тревожных примеров — рост использования технологии для порнографии. Это особенно опасно для молодых женщин, которые чаще становятся жертвами, и может причинить серьёзную и продолжительную эмоциональную травму изображённым людям, а также укреплять вредные стереотипы и объективацию женщин.
Почему нам стоит сосредоточиться на использовании ИИ как инструмента решения задач
Технические разработки, приводящие к непредвиденным негативным последствиям, — явление не новое. Многие наши обязанности как педагогов связаны с тем, чтобы помогать молодым людям ориентироваться в меняющемся мире и готовить их к будущему; образование играет ключевую роль в том, чтобы люди понимали технологии ИИ и умели избегать опасностей.
Наш подход в Raspberry Pi Foundation — не зацикливаться только на угрозах и рисках, а учить молодёжь быть критическими пользователями технологий, а не пассивными потребителями. Понимание того, как работают эти технологии, во многом помогает достичь достаточной грамотности в области ИИ, чтобы делать обоснованный выбор — и здесь вступает в дело наша программа Experience AI.
Experience AI — набор уроков, разработанных в сотрудничестве с Google DeepMind. Перед тем как писать какие‑либо уроки, наша команда долго и тщательно размышляла о принципах, которые, по нашему мнению, должны лежать в основе обучения искусственному интеллекту. Один из таких принципов — подход «сначала проблема», подчёркивающий, что компьютеры — инструменты, помогающие решать задачи. В базовом модуле Experience AI мы учим учащихся думать о проблеме, которую они хотят решить, прежде чем решать, подходит ли для этого ИИ.
Подход «сначала проблема» не гарантирует автоматически, что ИИ‑система не причинит вред — всегда есть риск усиления предвзятости и неравенства в обществе — но он фокусирует разработку на конечном пользователе и на данных, необходимых для обучения моделей. Меня беспокоит, что ориентация на долю рынка и возможности ради прибыли, а не на решения конкретных задач, скорее приведёт к вреду.
Ещё один набор принципов, лежащих в основе наших материалов, — это обучение вопросам справедливости, подотчётности, прозрачности и этики (Fairness, Accountability, Transparency, and Ethics — FATE) в контексте разработки ИИ‑систем. Эти принципы направлены на то, чтобы создатели моделей ИИ разрабатывали их этично и ответственно. Принципы также относятся к потребителям: нам нужно прийти к месту в обществе, где мы ожидаем соблюдения этих принципов, и покупательская сила сделает так, что модели, которые им не соответствуют, просто не будут успешны.
Кроме того, когда учащиеся создают свои модели в базовом модуле Experience AI, мы учим их составлять «model cards» — подход, способствующий прозрачности моделей. Подобно тому, как информация о питательных веществах на упаковке помогает потребителю решить, покупать ли продукт, «model cards» дают сведения об ИИ‑модели: её назначении, точности и известных ограничениях, например о возможной предвзятости в данных. Учащиеся составляют собственные «model cards» на основе решений ИИ, которые они создали.
В Raspberry Pi Foundation мы создали команду по грамотности в области ИИ с целью внедрять принципы безопасности, надёжности и ответственности в наши материалы и согласовывать их с миссией Фонда — помогать молодым людям:
- быть критическими потребителями технологий ИИ;
- ожидать соблюдения справедливости, подотчётности, прозрачности, конфиденциальности и безопасности и работать над сокращением неравенств, порождённых технологиями;
- видеть ИИ как инструмент решения задач, который может расширять человеческие возможности, но не заменять их и не сужать их будущее.
Наш призыв к педагогам, опекунам и родителям — разговаривайте со своими детьми о генеративном ИИ. Узнайте их мнение о GenAI и о том, какую роль они видят для него в своей жизни, и помогите им стать критическими мыслителями при взаимодействии с технологиями.
Ресурсы для обучения ИИ: чему мы учим молодёжь?
- Новый гид по использованию генеративного ИИ для учителей и школ
- Как антропоморфизм мешает обучению ИИ
- Представление прогрессии учащихся в эпоху генеративного ИИ
- CSTA 2024: Что произошло в Лас‑Вегасе
Отличный момент про прозрачность — это проблема, которую часто упускают из виду. Кажется, что компании, которые получают наибольшее распространение в образовании, нередко те, кто имеет самые большие бюджеты на спонсорство конференций, а не те, кто борется с системными неравенствами. Как мы можем сместить разговор, чтобы педагоги и принимающие решения критически оценивали инструменты ИИ через призму «сначала проблема», особенно когда так мало компаний рассказывают, как их технологии будут системно уменьшать неравенства?
