Миллионы молодых людей и педагогов по всему миру используют наши технологии, чтобы преподавать, учиться и создавать с помощью кода. Разрабатывать их безопасно и ответственно — это неотъемлемая часть того, кто мы есть и за что мы стоим.

Растущее количество исследований и публичных обсуждений связывает использование социальных сетей, смартфонов и алгоритмических платформ со снижением психического здоровья и внимания у молодых людей. Общественные настроения меняются в ответ на это, и родители, учителя и правительства все чаще требуют действий. Запреты на телефоны в школах и ограничения в отношении социальных сетей распространяются по многим странам. Технологический сектор больше не может принимать общественное доверие как должное.

Для исследователей это не новая территория: десятилетиями они утверждали, что технология не нейтральна, и что выборы, сделанные при её проектировании, могут либо внедрять вред, либо помогать его предотвращать. Мы считаем, что этот момент требует спокойного, основанного на доказательствах ответа, и хотим быть открытыми в том, как мы к этому подходим, а также работать над этим вместе с другими, а не в одиночку.

Мы всегда были организацией, основанной на исследованиях. Когда мы сталкиваемся со сложным вопросом, мы изучаем доказательства и учимся у тех, кто его изучал.

Права детей в цифровой среде — это богатая и хорошо установленная область. Исследователи и эксперты годами вдумчиво задумывались о том, что нужно детям от технологий, которыми они пользуются, и о том, как их права применимы в цифровом мире. Организация Объединенных Наций в 2021 году изложила четкую структуру в Генеральном комментарии № 25, который описывает, как права детей применяются к цифровой среде. Такие организации, как UNICEF и фонд 5Rights, развили это, предложив практические рекомендации для людей, которые проектируют и создают продукты.

Этот массив работ дает нам твердую основу. Вместо того чтобы начинать с нуля, мы использовали его для формирования нашего собственного подхода. Мы опирались в частности на рамки UNICEF Responsible Innovation in Technology for Children, UNICEF EdTech for Good Framework 1.0, Генеральный комментарий № 25 ООН и принципы Child Rights by Design от Digital Futures Commission.

Восемь принципов, которые направляют нашу работу в области образовательных технологий

Мы начали с написания восьми принципов, призванных направлять решения, которые мы принимаем при создании и эксплуатации наших продуктов.

1. На первом месте — наилучшие интересы ребёнка. Мы проектируем с прицелом на благополучие детей, что означает больше, чем безопасность и конфиденциальность. Это включает их автономию, эмоциональное здоровье, отношения и пространство для творчества. Иногда поставить это на первое место значит отказаться от роста, вовлечённости или скорости.

2. Наша технология поддерживает человеческие отношения. Она не заменяет их. Любые персонализированные или поддерживаемые ИИ функции, которые мы создаём, призваны укреплять отношения между молодыми людьми, педагогами и опекунами. Люди сохраняют контроль, и мы не передаём решения о обучении или благополучии ребёнка машине.

3. Мы собираем только те данные, которые нам необходимы. К моменту, когда ребёнку исполняется 13 лет, о нём будет собрано более 72 миллионов единиц персональных данных. Мы собираем минимум, необходимый для помощи детям в обучении и для измерения нашего влияния. Мы не продаём данные и никогда не будем этого делать.

4. Мы проектируем для обучения и доказываем его эффективность. Наши продукты основаны на данных о том, как дети учатся, и мы оцениваем, действительно ли они работают. Мы избегаем дизайнов, которые держат учащихся «зависимыми», а не помогают им учиться.

5. Мы проектируем с детьми и педагогами, а не для них. Люди, которые используют наши продукты, являются экспертами в собственных нуждах. Мы привлекаем их к исследованиям, тестированию и обратной связи и убеждаемся, что то, что они нам говорят, формирует продукт, а не остаётся лишь в отчёте.

6. Мы проектируем для разнообразных потребностей, способностей и контекстов. Наша технология адаптируется к людям, а не наоборот. Мы не предполагаем постоянного подключения, уверенности в цифровых технологиях или наличия классной комнаты, похожей на какую-либо другую.

7. Мы прозрачны и подотчётны. Мы используем простой язык, чтобы объяснять, как работают наши продукты, как используются данные и какими правами люди обладают. И мы даём людям понятные способы оспорить или поставить под вопрос решения, которые принимают наши системы.

8. Мы применяем высочайшие стандарты прав детей везде, где работаем. Там, где местные правила отстают от международных передовых практик, мы выбираем более высокий стандарт. Права ребёнка не должны зависеть от того, где он живёт.

Публикация полного набора проектных принципов и исследований, лежащих в основе каждого из них, доступна в соответствующем PDF.

Публикация этих принципов — это заявление о намерениях, а не утверждение, что мы всё сделали правильно. Это быстро меняющаяся область. Регулирование быстро меняется, исследования продолжают развиваться, и мы совершенствуем и изменяем наши продукты. Есть области, где мы знаем, что нам ещё нужно работать, и почти наверняка есть области, которые мы ещё не заметили.

Эти принципы — это способ держать себя в подотчётности, и они — лишь начало. Наряду с ними мы картографируем регуляторную среду в странах, где работаем, разрабатываем методы оценки наших продуктов в соответствии с этими принципами и встраиваем эти обязательства в процесс принятия решений. Мы продолжим прислушиваться к людям, которые пользуются нашими продуктами, и обеспечим, чтобы у самих детей был голос в формировании технологий, созданных для них.

Мы также понимаем, что не можем сделать это в одиночку, поэтому у нас есть две просьбы к вам:

Если у вас есть мнение о этих принципах, расскажите нам. Независимо от того, являетесь ли вы исследователем, педагогом, родителем, молодым человеком или политиком, мы хотим услышать, где, по вашему мнению, мы правы, где ошибаемся и что мы упустили. Честная критика действительно полезна для нас. Оставьте обратную связь и зарегистрируйтесь, чтобы участвовать в их формировании.

Если вы являетесь частью некоммерческой организации или организации, работающей над похожими вопросами, свяжитесь с нами. Мы хотели бы создать коалицию единомышленников, чтобы делиться нашими находками и повышать стандарты в секторе.

Список упомянутых работ:
Friedman, B., & Nissenbaum, H. (1996). Bias in computer systems. ACM Transactions on Information Systems, 14(3), 330–347.
Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.
O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.

Прочие материалы и заголовки:
Experience CS: A safe, creative way to teach computing
Introducing classroom management to the Code Editor
Why kids still need to learn to code in the age of AI
Hello World #30 out now: Critical thinking in the age of AI
Robots, games, AI, and more at Coolest Projects UK 2026
AI literacy begins with data literacy: An example from healthcare