Я/МЫ источник питания

PHOTOXPRESS

Сегодня всех школьников отправили по домам, дав картбланш: никто никому ничего не должен. Опоздание, невыполнение уроков, невозможность записать что-то за учителем – все можно оправдать плохим Интернетом или отсутствием компьютера. И это железобетонное алиби – никто не придет и не проверит, а если и проверит, то не докажет. Но мало-мальски образованные люди понимают, что это не просто несовершенство цифрового мира. Вся российская история с дистанционным образованием – лишь часть хорошо продуманного сценария по постепенной замене жизни реальной на жизнь цифровую.

Не подумайте, что мы вас хотим запугать замятинской «жизнью в цифровой ризе». Бояться поздно. Да и противостоять прогрессу – это как идти назад: в нерадужное и даже не светлое прошлое. Однако, наблюдая за ходом современных «коронавирусных» процессов, невольно напрашивается вывод: состав «Бюро Хранителей» в нашей стране уже определен. И план по формированию общества в формате цифрового «Мы» тоже близится к завершению.

МЫ В ЦИФРОВОЙ СРЕДЕ

Пока закона о сплошной цифровизации, о которой говорится просто как о курсе на цифровую экономику, у нас еще нет. Но, зато с 1 июля этого года в России заработает интересный Федеральный закон № 123, принятый 24 апреля 2020 года «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных». Согласно нему москвичи (а потом и все остальные) станут участниками глобального эксперимента по погружению их данных в глубины цифрового хранилища. По этому закону последующие пять лет москвичи проведут в условиях «экспериментального правового режима», который будет поставлять в некий государственный орган обезличенные персональные данные с целью скорейшего внедрения технологий по развитию искусственного интеллекта. Конечно, нас лично никто об этом не известит и, более того, в законе даже сказано, что участниками проекта смогут стать лишь юридические лица.

Но давайте получше вчитаемся в закон: «при совершении сделок, направлении юридически значимых сообщений и совершении иных юридически значимых действий участник экспериментального правового режима обязан уведомлять лиц, не являющихся участниками экспериментального правового режима, о наличии у него статуса участника экспериментального правового режима и указывать на применение в отношении его актов высшего исполнительного органа государственной власти субъекта Российской Федерации – города федерального значения Москвы, принятых в соответствии с настоящим Федеральным законом». То есть, даже тот, кто никогда не мечтал участвовать в подобном эксперименте, все равно рано или поздно в нем окажется.

Если прочитать документ поверхностно, то может показаться, что цели у законодателей (а потом и у правоприменителей), благие и прозрачные. Они создают некий Реестр участников, который принимается определенным Уполномоченным органом, и наблюдать за правомерностью всего этого дела будет – Координационный совет. В этот совет могут входить представители федеральных органов исполнительной власти, которых выберет правительство. Но очень хочется спросить: до 1 июля остается меньше двух месяцев – почему мы до сих пор не знаем, как зовут всех этих прекрасных людей, которые будут трудиться на благо искусственного интеллекта?

А узнаем мы их имена, скорее всего, лишь накануне. Нас поставят перед фактом: вот они – молодчики. И никто не спросит, хотим мы, чтобы в эксперименте по сбору персональных данных участвовали именно эти люди, или нет. Их просто примут. Хотя, что-то нам подсказывает, что участниками этого эксперимента будут все те же несменные игроки в монополию, которые уже прибрали к рукам все возможные отрасли, и вот теперь приберут к рукам и золото XXI века – наши персональные данные.

НАМ УЖЕ ОБ ЭТОМ ГОВОРИЛИ

Давайте отмотаем время назад и внимательно послушаем, что говорили президент и председатель правления Сбербанка России Герман Греф и генеральный директор АО «Почта России» Максим Акимов на совещании с Президентом РФ Владимиром Путиным по теме развития технологий искусственного интеллекта 30 мая 2019 года.

Герман Оскарович красиво «топил» за то, что в стране пора готовиться к достижению суперцели – созданию «общего интеллекта, который сможет решать любые задачи». И в качестве шага в эту сторону Греф (год назад!) предложил «создать онлайн платформу с обезличенными государственными данными и данными компаний, к которым будут иметь доступ компании-разработчики системы искусственного интеллекта». Для создания такой платформы нужны лишь экспериментальные площадки, наподобие тех, которые были созданы для реализации проекта по цифровому образованию и, конечно, уверил Греф, здесь было бы идеальным наделить особым статусом Москву. Столица должна стать экспериментальным объектом, где будет собираться огромное количество данных, на которых будут обкатываться возможности искусственного интеллекта. А после удачного (конечно же!) эксперимента вся эта история масштабируется и «раскатается по всей стране».

С Германом Оскаровичем тогда согласился и господин Акимов, который открытым текстом назвал все наши данные «пищей для искусственного интеллекта». «Одна из задач, – сказал Максим Алексеевич, – вовлечение в оборот максимального количества обезличенных данных». Конечно, он оговорился, что все будет происходить с учетом требований к конфиденциальности: «Мы с депутатами Федерального собрания, – сказал Акимов, – разработали поправки в закон о персональных данных, конкретизирующие механизмы обезличивания». Однако почему-то даже сегодня этот закон отсутствует в открытом доступе. Что именно будет включать в себя этот механизм?

На информационном ресурсе «Система обеспечения законодательной деятельности» информации о соответствующих поправках нет. Возможно, они и сейчас еще только обсуждаются. Но весьма интересным представляется регистрация и направление проекта поправок председателю Госдумы РФ 30 апреля 2020 года.

Внимание! В пояснительной записке законодатели полагают, что «необходим мораторий на вступление в силу статьи 7 Федерального закона, предусматривающей внесение изменений в Федеральный закон «О персональных данных», поскольку это … позволит провести достаточное количество тестов и проверок в рамках устранения возможных системных ошибок и технических недочетов, позволит исключить использование персональных данных для вторжения в частную жизнь граждан. Кроме того, за время действия моратория будут ликвидированы правовые пробелы, связанные с ответственностью должностных лиц за возможные нарушения в ненадлежащем использовании результатов технологий искусственного интеллекта». Получается, что Акимов еще в том году проанонсировал «разработку» механизма для обезличивания персональных данных, а пару недель назад председателю Госдумы представляют предложение по серьезному «сдвигу» (на 5 лет!) вступления в силу основной статьи о персональных данных, потому что ошибок очень много!

О каком механизме обезличивания может идти речь, если информация, которую надо «обезличить», уже на «входе» может быть ошибочна?

Например, вы вышли из дома, камера наблюдения неправильно считала форму вашего носа и передала ошибочные данные куда надо, а искусственный интеллект выявил, что вы похожи на серийного убийцу, которого ищет весь мир. Пропадает установка на презумпцию невиновности. Риски потери данных – вообще беспрецедентные! И процитированная выше пояснительная записка все это легализует: в течение пяти лет никто не понесет ответственности за подобные ошибки.

Но вступление в силу закона об установлении «Экспериментально-правового режима» с 1 июля текущего года никто не отменил. Сбор обезличенных (или уже нет?) персональных данных жителей города Москвы, к которым будут «иметь доступ компании-разработчики системы искусственного интеллекта», принят.

Кто встанет у руля этого эксперимента, наверное, тоже понятно. На том же совещании у Владимира Путина Акимов доложил: «Важнейшую роль играют крупнейшие компании. Например, в области искусственного интеллекта до 80% патентных заявок за последние 5 лет сделали именно коммерческие организации, а не исследовательские центры или академические центры. Именно крупный российский бизнес может стать активным участником мероприятий по развитию в РФ высокотехнологичных отраслей». Вот оно: доступ ко всем нашим персональным данным, видимо, получит крупный российский бизнес.

В принципе, теперь проясняется и вся эта история с введением в Москве QR-кодов в период классно подвернувшегося повода в виде пандемии. Нас вовлекают «в оборот максимального количества обезличенных данных». Чтобы к июлю месяцу, когда эксперимент заработает, в столице уже был бы увесистый материал для полноценной и качественной работы по созданию искусственного интеллекта.

ДЕТИ – НАШЕ БУДУЩЕЕ

Любой айтишник вам скажет, что все, что попадает в Интернет, остается там навсегда, и тот, кто получит доступ к этой всемирной кубышке с данными, и будет обладать настоящей властью. А получше подобраться к этой власти сможет тот, кто сейчас «оседлает» сферу образования и изменит ее так, чтобы мышление детей окончательно повернулось в сторону цифровой реальности.

У нас активнее всех, а может быть, просто бесстрашно и открыто, говорит об этом… Герман Греф. Обозначив однажды свой Сбербанк новой экосистемой, он подобрал под себя образовательную среду практически полностью, и не случайно сейчас более полумиллиона российских школьников обучается именно на его Школьной цифровой платформе, которая, кстати, была официально поддержана властями. «За полтора месяца кризиса, по просьбе губернаторов и директоров школ, мы развернули эту платформу в двух тысячах школ, и сегодня на ней уже реально учатся 500 тыс. школьников», – рассказывал сам глава Сбербанка в интервью главе Комитета Госдумы по бюджету и налогам Андрею Макарову.

Кроме платформы Грефа есть еще и платформы типа «Российской электронной школы» и «Московской электронной школы», где размещаются тесты, урочные материалы в виде презентаций и каких-то роликов. Оставляя за гранью дискуссии факт, что все эти платформы сырые по содержанию и функционалу, они еще и не защищают персональные данные ребенка. Данные детей переходят в ту же самую большую кубышку. И происходит это по нашей собственной воле: мы вынуждены регистрировать своих детей на дистанционный урок, и не иметь никаких гарантий на безопасность. У нас просто нет закона, который бы регулировал деятельность подобных цифровых платформ.

ФОТО: ЕГОР АЛЕЕВ/ТАСС

Самые известные платформы для проведения вебинаров для школьников – это ЯКласс, Zoom и MyOwnConference. Они обещают безопасное хранение персональных данных, однако при ближайшем ознакомлении с их политикой понятно, что это не так. В MyOwnConference администратором персональных данных ученика является некая компания «Акована», зарегистрированная в Литве. На сайте русскими буквами написано, что компания может собирать такие данные, как имя и фамилия, адрес электронной почты, адрес регистрации и банковские реквизиты, и «любые дополнительные данные», предоставляемые нами по их запросу или по нашему желанию (конечно, с подтверждением согласия на обработку персональных данных, без которого, как мы знаем, услугу просто не получить).

Компания Zoom была основана в 2011 году. Она имеет штаб-квартиру в Калифорнии. На русском сайте компании политика защиты данных школьников подробно не расписана – стоит ссылка на англоязычный сайт. С переходом по этой ссылке мы видим большой список данных, который компания собирает о школьниках, а также пометку, что использование личной информации возможно в той степени, в которой это разрешено их «соглашениями с клиентами-подписчиками». В частности, «ограниченный доступ к личной информации» могут иметь сторонние поставщики услуг Zoom. Читай – все подряд.

Но и раскрытие персональных данных это не единственная большая проблема в Zoom, как оказалось. Стандартные настройки платформы позволяют киберпреступникам спокойно подключаться к конференциям и выводить на экраны порнографию и другой травмирующий видеоконтент.

Платформа ЯКласса, которую также экстренно освоили многие учителя, прежде чем прийти в Россию, прошла апробацию в Европе. С 2015 года проект стал резидентом «Сколково». Положение о персональных данных находится «в глубине» ЯКласса. Но мы нашли и его. И прочитали: «Резервные и прочие веб-сервера и базы данных расположены в дата-центре Microsoft Azure (Ирландия), а также в Центре обработки данных Microsoft Azure (Нидерланды)».

Думается, этого достаточно, чтобы понять, что про наших детей известно всем и все. И не только на территории России. Данные детей уходят за границу, и при этом родители их сами отдают. Мы сами способствуем процессу «утечки мозгов» и формируем базу перспективных детей, для апробации на них возможностей искусственного интеллекта.

И еще. По воле современного замятинского «Бюро Хранителей», мы сами соглашаемся на заражение наших детей виртуальным аутизмом. Им уже заболел каждый второй ребенок, когда мир попал в социальные сети, но дистанционное образование окончательно завершит этот процесс. Заболеют все. Борцы за золото XXI века вряд ли одумаются и начнут работать над трансформацией института образования, повышая его качество, а, не бездумно наполняя «желудок» искусственного интеллекта нашими персональными данными – пищей, как выразился господин Акимов.

ЧЕЛОВЕК КАК НОВЫЙ ВИД ЭНЕРГИИ

Большинство серьезных исследователей в области психологии и педагогики уверены, что цифровой способ обучения не просто не подходит для получения качественного образования, но и, при бездумном использовании, может привести к примитивизации мышления растущего человека.

Татьяна Попова, известный историк и футуролог, подчеркивает, что даже самый умный алгоритм хорош только как дополнительный способ получения знаний. «Он не сможет научить ребенка размышлять и контролировать свое поведение. Работая по указаниям искусственного интеллекта, ребенок никогда не научится самостоятельно принимать решения: он не научится самостоятельно мыслить и действовать. Кроме того, при активном дистанционном обучении практически невозможно получить навык эмпатии, у детей плохо формируется осознание своей человечности, представления об эмоциональном состоянии других людей, а главное, возникают проблемы с социальностью, становление которой невозможно без родителей и других реальных людей. Только сочетание современных образовательных технологий и эффективное социальное взаимодействие в процессе обучения могут дать требуемый эффект».

В заключение поясним еще раз: если искусственный интеллект создается, допустим, для обнаружения пробела в образовании, для отработки каких-то полученных в реальной жизни знаний, ничего страшного в этом не будет. Скорее всего, это будет даже лучше возрастной «Марьванны», которая не помнит, какую тему дети проходили на прошлой неделе. 70 лет из нас делали советских людей, и, возможно, это не получилось именно потому, что интеллект «Марьванны» был несовершенен. Но рано или поздно человек создаст совершенный искусственный интеллект. С алгоритмом, по которому мы все будем жить. И если этот алгоритм построят такие же аморальные люди, которые однажды явили миру атомную бомбу, в недалеком будущем мы реально увидим не только конспект главного героя замятинского «Мы». Перед нами предстанут все страшные антиутопии о том, как человеческий мозг, однажды открывший десяток способов для получения энергии, сам превратится в источник питания для им же созданного искусственного интеллекта.