Новые технологии захватывают мир, меняя все вокруг. Пожалуй, уже практически не осталось тех, кого бы не коснулись преобразования. Однако, наиболее «пострадавшим» может показаться поколение ИИ – дети, которым сейчас от 7-ми до 15-ти лет.
«Мы живем в эпоху, когда влияние искусственного интеллекта не заметить невозможно. Но в тоже время мы потратили большую часть своей жизни, не взаимодействую с ним. Кроме того, у нас, у взрослых, есть сила воли. Детям приходиться гораздо сложнее», – рассказала в комментарии Forbes соучредитель отдела инноваций ЮНИСЕФ Эрика Кочи.
Будь то алгоритмы обучения, обеспечивающие наполнение контента You Tube Kids, умные игрушки, которые слушают и отслеживают каждое взаимодействие с ними малышей, или даже роботы, которые совсем скоро могут заменить преподавателей в классах – существует множество случаев, когда детей окружают продуктами с ИИ, обеспечивающими контроль, руководство, компанию и даже веселье.
Все эти инструменты и игрушки собирают огромное количество данных о поведении маленьких потребителей, которые, в свою очередь, могут использоваться производителями-разработчиками, чтобы адаптировать свои предложения и заставлять детей использовать их все больше и больше. Но с какой целью?
Читайте по теме
Илон Маск и основатель Skype подписали соглашение, запрещающее разработку летального искусственного интеллекта
«В настоящее время, когда вы смотрите видео на YouTube, платформу оптимизирует его для вас, чтобы подольше задержать на сайте. Мы должны искать алгоритмы, которые будут оптимизировать контент для творчества и участия и реального обучения», – говорит Кочи. Усилия действительно того стоят, учитывая, что, к примеру, в США 80% детей ежедневно заходят на You Tube.
Но существует ли способ разработать реальные алгоритмы, которые бы справились с этим, причем ориентируясь конкретно на детей? Пока нет, но это одна из проблем, группа из 70 человек, сотрудничающая с крупными технологическими компаниями, университетами и международными организациями с целью разработки экспертных знаний и предложений в рамках проекта Generation AI.
Одна из идей состоит в том, чтобы создать инструмент оценки прав ребенка для контента или платформ ИИ. К примеру, у ЮНИСЕФ существуют рейтинги «Городов или больниц, доброжелательных к ребенку». Для умных игрушек, которые могут быть взломаны и давать ребенку «несоответствующий» контент, решения могут включать разработку программного обеспечения для обнаружения «триггерных слов» или возможность выявлять и сообщать о злоупотреблениях. Также может быть введена юридическая обязанность компаний-производителей игрушек и производителей учебных роботов отслеживать и контролировать «подозрительное» поведение своих продуктов.
Однако такой подход не может быть чисто юридическим или техническим. Это этика. Ведь одна из главных проблем заключается в том, что дети могут привыкнуть думать о своих спутниках с ИИ как о по-настоящему интеллектуальных существах с реальной личностью.
Читайте по теме
Искусственный интеллект сочинил первую сказку
Вместо этого детей и школьников нужно учить тому, что все это на самом деле искусственные устройства, которые можно программировать и изменять, как и любое другое. И, если они хотят стать разработчиками этой технологии, нужно придерживаться определенной этики. Именно этим и занимается группа Personal Robots в MIT Media Lab с учебным планом по этике искусственного интеллекта, который был опробован в октябре прошлого года, а в настоящее время снова тестируется на недельном семинаре в Кембридже.
Обучение детей в школе основам и ограничениям технологии ИИ – способ дать им инструменты защиты от злоупотреблений и излишеств, которые могут случаться в той же образовательной среде. Да, ИИ может открыть огромные возможности с точки зрения доступности, когнитивной поддержки, аналитики больших данных. Но, с другой стороны, его можно использовать для тщательного контроля за детьми.
К примеру, уже сейчас некоторые китайские школы и ВУЗы отслеживают своих учащихся с помощью «умной униформы», а также используют видеокамеры для контроля внимательности студентов.
Сегодня трудно сказать, какими могут быть последствия нахождения под постоянным контролем. Будут ли дети приспосабливаться к этому, постоянно подвергая себя самоцензуре, чтобы не оказаться пойманными на неправильных поступках или рассуждениях? Или они просто примут все это, как часть жизни, поскольку даже не будут подозревать, что можно жить и расти без постоянного контроля?
Специалисты, однако, не столь категоричны. По словам экспертов, ИИ вряд ли будет врагом человечества. «Самым большим негативным побочным эффектом может стать увеличение разрыва между теми, кто получит доступ к новым инструментам обучения и программа, и теми, у кого не будет такой возможности», – утверждают эксперты.
Читайте по теме
Искусственный интеллект научился предсказывать смерть с точностью 90%
Так, шестилетний стартап AltSchool, основанный бывшим ТОП-менеджером Google Маком Вентилой, создающий программное обеспечение, которое помогает учителям генерировать задания и отслеживать успеваемость учащихся, уже заявил о том, что будет управлять сетью частных школ, которые используют подход «персонализированного обучения». Другими словами, ученикам предлагают работать автономно, выполняя задания, учитывающие их интересы и сильные стороны. Другими словами, дети станут эдакими «морскими свинками» для программной платформы, которую AltSchool разрабатывал и стремился продавать как государственным, так и частным школам.
Стартап уже привлек более 170 миллионов инвестиций, в том числе и от Марка Цукерберга и Питера Тиля, ежегодно тратя на разработку продукта порядка 30 миллионов долларов. При этом, стоимость абонентской платы за программу – 150 долларов в год. Радует лишь то, что пока большим спросом нововведение не пользуется.
Получается, что решающее значение будут иметь методы, скорость и места распространения новых технологий. Вполне вероятно, что нынешние 30-ти и 40-летние – последнее поколение, которые знает, что такое жизнь до интернета и селфи, вездесущих видеокамер. Но в конце концов, именно им придется определять, или точнее сказать, убедиться, что ИИ действительно будет полезен для их детей.