Защита от злоупотребления искусственным интеллектом и нейротехнологиями в аспекте медиабезопасности бесплатное чтение

§ 1.1. Основные направления приложения нейротехнологий и ИИ

Нейротехнологии и ИИ являются одними из самых динамично развивающихся направлений науки и техники, которые способны радикально изменить представление о человеческих возможностях, улучшении качества жизни и развитии технологий. Эти области исследования объединяют достижения, прежде всего, в нейробиологии, информатике и машинном обучении. Рассмотрение основных направлений применения нейротехнологий и ИИ, возможность оценить их потенциал для решения актуальных задач, стоящих перед обществом, позволяет выявить те изменения, которые могут оказать наибольшее воздействие на общество, и предложить возможные пути их дальнейшего развития.

При рассмотрении нейротехнологий и ИИ следует отметить, что существует множество подходов к их внедрению, каждый из которых предполагает свой взгляд на развитие человеческого мозга и его поведение[26].

Тенденция внедрения нейротехнологий и ИИ проявляется повсеместно: ИИ анализирует угрозы безопасности для финансовых организаций, а нейросети – кредитную историю клиентов банковских структур; нейроинтерфейсы позволяют медицинским работникам проводить сложнейшие операции; университеты мира используют нейротехнологии для адаптивного обучения студентов; в московском метрополитене применяется система распознавания лиц для оплаты проезда, а Организация Объединенных Наций (ООН) исследует миграционные потоки с помощью автоматизированного анализа данных о геолокации мигрантов по всей планете[27].

Нейротехнологии и ИИ активно развиваются благодаря достижениям в области машинного обучения, глубоких нейронных сетей и анализа данных и все чаще используются в различных отраслях. Ежегодно рынок нейротехнологий и ИИ расширяется, предлагая новые возможности их применения как в медицине, так и в автоматизированных сложных производственных процессах. Такие корпорации, как Tesla и Google, уже активно применяют ИИ в целях повышения конкурентоспособности, что подтверждается достижениями в инновациях и коммерциализации внедряемых технологий. Нейротехнологии и ИИ становятся очень востребованными, о чем свидетельствует увеличение числа связанных с ними стартапов, а также объема инвестиций в них.

Воспользоваться результатами исследований в первую очередь стремятся государства, выступающие основными выгодоприобретателями. Они используют ИИ и нейротехнологии с целью решения самых разных задач, среди которых выделяются такие, как защита национальных интересов, улучшение ситуации, связанной с обеспечением кибербезопасности, и внедрение технологических разработок в экономику, что позволяет оптимизировать внутреннюю управленческую деятельность, а не только обеспечить защиту данных своих граждан и решить проблемы социального неравенства в доступе к новым технологиям. В современных условиях глобальной конкуренции ряд стран (США, Китай) ведут буквально технологическую гонку за лидерство, подчеркивая тем самым значимость нейротехнологий как некоего стратегического орудия. Искусственный интеллект оказывает сильное влияние на общественные институты; автоматизация большого количества рабочих мест приводит к необходимости переобучения сотрудников, адаптации бизнеса к изменениям рынка труда.

Используя ИИ и нейротехнологии, государства решают самые разные задачи – от обороны и разведки до управления экономикой (прогнозирования экономических кризисов, оптимизации самостоятельных систем и поддержки принятия решений). Большое внимание уделяется вопросам обеспечения информационной безопасности (противодействию взлому и неправомерному доступу к данным, использованию ИИ в ущерб государственным интересам).

Искусственный интеллект – комплекс технологических решений, имитирующий когнитивные функции человека (обучение, анализ информации, поиск решений, адаптация к новым условиям). Его отличие от традиционных программных решений заключается в способности самостоятельно обучаться и адаптироваться к меняющимся данным без использования заранее заданного алгоритма, что позволяет достигать тех результатов, которые либо сопоставимы с интеллектуальной деятельностью человека, либо даже превосходят ее. Искусственный интеллект представляет собой программу, с помощью компьютера имитирующую процесс мышления человека.

Основными компонентами (составляющими) ИИ являются:

• информационно-коммуникационная инфраструктура, представляющая собой совокупность программных средств, обеспечивающих сбор, хранение, обработку и передачу данных, что служит основой функционирования самых разных ИИ-систем;

• программное обеспечение и алгоритмы, которые ориентированы на методы машинного и углубленного обучения, позволяющие системе извлекать закономерности из данных и использовать их для принятия решений;

• сервисы по обработке данных и выработке решений, позволяющие интегрировать ИИ-системы в разнообразные процессы (анализ больших данных, автоматизацию бизнес-процессов, прогнозирование, оптимизацию).

Можно выделить следующие виды ИИ:

• ANI (узкий ИИ) – предназначен для решения конкретных задач (распознавания образов, перевода текста, игр и др.) и активно используется как в повседневной жизни (в виртуальных ассистентах [Siri, Alexa]), так и в рекомендательных системах (YouTube) и в автопилотных транспортных средствах;

• AGI (общий ИИ) – предполагает, что такие системы смогут выполнять любую интеллектуальную задачу, на которую способен человек;

• ASI (сверхинтеллект) – концепция, в соответствии с которой ИИ не только сравняется с разумом человека, но и сможет превзойти его по всем интеллектуальным способностям (возникает вопрос этики и безопасности в случае создания сверхинтеллекта).

Искусственный интеллект не только заменяет ручной труд или упрощает задачи, но и создает новые варианты развития общества и технологий, предоставляя возможности, ранее не доступные, для создания более эффективных интеллектуальных и автоматизированных систем. Так, ИИ активно используется при диагностике заболеваний на ранних стадиях, при разработке новых методов лечения. С помощью ИИ автоматизация обработки данных, прогнозирование рыночных тенденций и оценка рисков компании могут оптимизировать бизнес-процессы и увеличить доходы. Использование роботизированных систем с ИИ на производственных линиях повышает точность и уменьшает ошибки. Интеллектуальные транспортные и автопилотные системы, логистика с применением ИИ делают транспортные потоки эффективными и наиболее безопасными.

Нейротехнологии – технологии, которые используют или помогают понять работу мозга, мыслительные процессы и высшую нервную деятельность[28]. Сюда относятся как методы изучения функционирования мозга, так и разработки, направленные на усиление когнитивных способностей. В настоящее время нейротехнологии применяются в различных сферах: медицине, образовании, ИИ и др. Среди всех нейротехнологий можно выделить нейроинтерфейсы, которые позволяют напрямую взаимодействовать с устройствами через мозговую активность, систему обучения, анализирующие нейронные паттерны, и нейростимуляцию, используемую, например, в медицине при лечении различных форм расстройств (депрессии и др.). Технологии нейровизуализации (МРТ, ЭЭГ) дают возможность узнать работу мозга в реальном времени.

Таким образом, происходит объединение двух видов работ с мозгом: записи мозговой активности («чтения») и стимуляции определенных областей мозга для изменения его активности. Нейронная запись основана на технологии мониторинга электрической активности мозга при помощи электродов или других датчиков, что позволяет фиксировать и анализировать нейронные сигналы, давая возможность специалистам изучать, как мозг реагирует на внешние и внутренние стимулы. В свою очередь, стимуляция мозга обеспечивает воздействие на определенные нейронные сети с помощью электрических импульсов, что позволяет активировать или подавлять работу конкретных его участков. Если раньше нейронная запись и стимуляция применялись по отдельности, то сейчас многие интерфейсы «мозг – компьютер» (ИМК) способны не только считывать активность мозга, но и воздействовать на нее в режиме реального времени, позволяя тем самым создать замкнутую систему одновременного «чтения и записи», в которой мозг и устройство могут взаимодействовать с максимальной точностью и скоростью.

В связи с достаточно быстрым развитием нейротехнологий возникает вопрос об этических аспектах их использования, поскольку сам процесс вмешательства в работу мозга вызывает много вопросов относительно безопасности нейроинтерфейсов и возможных злоупотреблений. Возможна ли в будущем манипуляция сознанием человека или даже контроль над его действиями? Подобный вопрос требует разработки правовых норм, обеспечивающих баланс между использованием технологий и соблюдением прав человека. Тем не менее перспективы таких технологий обещают революционные изменения во многих сферах.

Нейротехнологии могут быть применены в самых различных областях деятельности человека, в значительной степени упрощая и улучшая результативность его работы. Развитие роботизированных сервисов, появление новых способов и методов машинного обучения, повсеместные внедрения ИИ приведут к исключению возможности появления ошибок, допущенных человеком, освободив его от рутинного труда, расширят возможности компьютерных систем и анализа данных (вычислительные возможности).

Нейротехнологии вместе с ИИ способны стать самыми передовыми технологиями современности, ценность которых заключается в том, что в эпоху развития ИИ они позволяют усилить естественный интеллект путем соединения его с искусственным в одно целое. Это открывает новые возможности для человеческой деятельности, где будет наблюдаться не только повышение производительности, но и улучшение качества жизни, что делает нейротехнологии и ИИ важным элементом будущего общества[29].

Группой сквозных технологий, которым отводится важное значение, признаны технологии ИИ. Важность ИИ подтверждается его возможностями в области автоматизации; его внедрение в производственные процессы способствует повышению производительности и улучшению качества продукции. Такие технологии открывают новые возможности для создания интеллектуальных систем, способных принимать решения и адаптироваться к изменениям в окружающей среде.

Создание Национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», стало важным шагом к формированию государственной комплексной политики в данной области. Стратегия нацелена на создание условий для инновационного развития, внедрения технологий ИИ в различные сферы деятельности человека и обеспечения конкурентоспособности Российской Федерации на международном уровне.

Значимым шагом к тестированию новых подходов и решений в актуальных условиях является принятие Федерального закона от 24 апреля 2020 г. № 123–ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве»[30]. Закон определяет основные цели, задачи и принципы государственной политики в сфере технологий ИИ и, что не менее важно, устанавливает механизмы взаимодействия между государственными органами, бизнесом, научными учреждениями. Это позволило выявить лучшие практики и адаптировать их для дальнейшего применения в других регионах страны.

Внесение изменений в статьи 6 и 10 Федерального закона от 27 июля 2006 г. № 152 «О персональных данных» также подчеркивает важность защиты данных в условиях быстрого развития ИИ[31]. Только установление четких границ использования ИИ может обеспечить безопасность и конфиденциальность данных, задействованных системами ИИ.

Перечисленные нормативно-правовые акты положили начало формированию правового регулирования технологий ИИ в Российской Федерации. Они создали правовые границы, которые будут адаптироваться в зависимости от развития самих технологий. Если ИИ уже находится в поле правового регулирования, то другие сквозные технологии (блокчейн, квантовые вычисления) пока не обеспечены специальным правовым регулированием. Создание подобного правового вакуума может потенциально замедлить их внедрение в экономику и другие сферы страны.

В отношении большинства других сквозных технологий специальное правовое регулирование пока отсутствует. Вместе с этим Федеральный закон от 31 июля 2020 г. № 258 «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» предполагает создание правовых условий для ускоренного появления и внедрения новых продуктов и услуг применения цифровых технологий в разных сферах (технологий ИИ, нейротехнологий, цифровых двойников и т. д.). Данный Закон позволяет ввести экспериментальный правовой режим, то есть так называемое временное специальное регулирование в целях ускоренного внедрения результатов развития цифровых технологий на практике. Речь здесь идет в первую очередь именно о сквозных технологиях.

Такие сквозные технологии, как ИИ, большие данные, блокчейн (распределенные реестры), являются ключевыми элементами цифровой трансформации различных отраслей экономики и социальной сферы. Их потенциал для ускорения внедрения инноваций велик, однако в силу отсутствия постоянного правового регулирования могут возникать постоянные правовые и этические риски. В связи с этим введение экспериментальных правовых режимов позволит адаптировать существующие правовые нормы к новым условиям, подвергать тестированию инновационные технологии в реальных условиях без риска нарушения законодательства, а также создавать правовую базу для их дальнейшего полноценного внедрения.

Одной из важных задач такого подхода является обеспечение некоего баланса между балансом стимулирования инновационной активности и защитой прав участников рынка, включая и граждан, данные которых могут использоваться в ходе экспериментов. Введение временного правового регулирования направлено, с одной стороны, на поддержку бизнеса, а с другой – на защиту принципов безопасности и конфиденциальности данных.

Приведенный подход позволяет ускорить выход на рынок новых технологий, устраняя те преграды, которые связаны с бюрократическими и правовыми барьерами. Именно оптимизация способствует быстрому внедрению инноваций, что особенно важно в стремительно развивающейся сфере технологий ИИ. При этом необходимо учитывать, что ускорение выхода на рынок не должно влиять на снижение стандартов безопасности и защиты прав граждан. Здесь следует руководствоваться сохранением баланса между быстрым внедрением технологии и ее тщательной проверкой.

Безусловно, в будущем будет разработано более детальное правовое регулирование технологий, обеспечивающее гармоничное развитие ИИ с сохранением конкурентных преимуществ и соблюдением этических и правовых норм. Мы уже сейчас наблюдаем, как законодатель работает над созданием гибкой правовой среды, способствуя и инновациям, и защите интересов общества и отдельных его категорий граждан.

Развитие и использование технологий ИИ должны основываться на ряде ключевых принципов. В первую очередь речь идет о принципах, вытекающих из Национальной стратегии развития искусственного интеллекта: защиты прав и свобод человека, безопасности, прозрачности, технологического суверенитета, целостности инновационного цикла, наиболее эффективного использования технологий ИИ, поддержки конкуренции, открытости и доступности, преемственности, защищенности, достоверности исходных данных[32].

Ключевыми целями развития технологии ИИ в Российской Федерации, определенными с учетом перечисленных принципов, являются[33]:

• обеспечение роста благосостояния и качества жизни граждан. Технологии ИИ способны трансформировать различные отрасли экономики, делая услуги более качественными и доступными, что ведет к общему улучшению условий жизни, повышению уровня доходов и созданию новых возможностей для самореализации; это достигается за счет автоматизации процессов, повышения эффективности труда и улучшения доступа к таким жизненно важным услугам, как медицина, социальная поддержка и образование;

• обеспечение национальной безопасности и правопорядка. Технологии ИИ используются для повышения эффективности работы правоохранительных органов по предотвращению преступлений, обеспечению кибербезопасности и защите важных инфраструктур (современные технологии ИИ сегодня уже помогают выявлять потенциальные криминальные угрозы на самых ранних этапах, что способствует поддержанию стабильности и безопасности в государстве; успешно расследуются преступления прошлых лет). Внедрение ИИ в системы мониторинга, анализа данных и прогнозирования поможет минимизировать внешние и внутренние угрозы;

• достижение устойчивой конкурентоспособности в отечественной экономике. Инновационные технологии способствуют росту как уже сложившихся, так и новых отраслей экономики и стимулируют ее производительность. В будущем технологии ИИ могут стать двигателем экономического роста, помогая отечественным компаниям занимать лидирующие позиции на международном рынке, а само их развитие сможет укрепить позиции Российской Федерации как одного из лидеров в этой области, что положительно скажется на росте экспорта передовых решений и услуг. Со временем технологии на основе ИИ станут главным фактором роста экономика.

Включение нейротехнологий и ИИ в перечень важнейших, основных элементов цифровой трансформации отражает их исключительную роль в развитии национальной экономики и технологической независимости. Каждая из технологий, созданная на основе ИИ, направлена на решение критически важных задач, к числу которых относятся: обеспечение технологической независимости; развитие экспортного потенциала; достижение целей импортозамещения.

В 2019 г. была разработана Дорожная карта развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект», в соответствии с которой выделяются семь субтехнологий, развитие которых и окажет высокий уровень влияния на технологическое лидерство[34].

Компьютерное зрение – технология ИИ, отвечающая за разработку систем, способных анализировать и интерпретировать визуальные данные. Компьютерное зрение находит применение в автоматизированных производственных процессах; диагностике, применяемой в медицине; при обеспечении безопасности и обороны; в системах автономного вождения на транспорте.

Рекомендательные системы и интеллектуальные системы поддержки принятия решений – технологии ИИ, оказывающие помощь в обработке больших объемов данных и предоставляющие пользователям или компаниям персонализированные рекомендации. Такие системы позволяют значительно повысить эффективность и точность принимаемых решений, например, при использовании онлайн-услуг, постановке диагнозов в медицине; в бизнес-аналитике.

Распознавание и синтез речи – технологии, отвечающие за создание технологий, позволяющих системам ИИ понимать и генерировать речь. Все чаще такие системы используются в виртуальных ассистентах, контактных центрах, устройствах с голосовым управлением и в различных интерактивных системах. Распознавание речи в нашей стране имеет особое значение в контексте развития технологий, поддерживающих национальные языки и культурные особенности.

Обработка естественного языка (NLP) – технологии, предназначенные для анализа, последующей интерпретации и генерации человеческой речи и текстов. В настоящее время они активно используются в чат-ботах, системах автоматизированного перевода, инструментах анализа больших объемов текстовой информации, что очень важно для улучшения взаимодействия между человеком и компьютером на естественном языке.

Современные технологии ИИ включают в себя разработку новых алгоритмов, подходов на основе моделирования в области машинного обучения и знание других технологий. Это содействует созданию таких технологических систем ИИ, которые будут способны решать самые сложные задачи.

Сегодня благодаря таким алгоритмам мы уже получили, например, технологии, которые направлены на разработку устройств, способных заменить или восстановить утраченную функцию организма (в медицине, например, благодаря таким технологиям созданы искусственные конечности с обратной связью, управляемые мысленными командами, что позволяет вернуть подвижность и качество жизни людям с инвалидностью).

Такие технологии, как нейроинтерфейсы, нейростимуляция и нейросенсинг, направлены на создание прямых связей между мозгом и внешними устройствами и предоставляют большие возможности в исследовании когнитивных процессов и даже в расширении человеческих возможностей путем мониторинга и анализа активности мозга в реальном времени.

Развитие технологий играет ключевую роль в создании инновационной экосистемы, которая способна будет обеспечить технологическую независимость Российской Федерации и продвижение ее на международный рынок, предоставит возможность занять на нем лидирующие позиции в области новых технологий. Что касается сквозных технологий, то они, обладая универсальными характеристиками, могут быть интегрированы в самые разные сферы экономики, медицины, образование, государственное управление. Наиболее активно используются технологии ИИ в государственном управлении, что объясняется необходимостью оптимизации процессов принятия решений в условиях координации действий различных органов. Самый низкий уровень использования сквозных технологий наблюдается в сфере строительства, что объясняется низкой активностью частного сектора и отсутствием инвестиций. При этом возможности технологий ИИ в сфере строительства имеются и могли бы быть направлены на улучшение управления проектами, автоматизацию процессов проектирования и строительства, повышение точности выполнения задач, что в итоге привело бы к сокращению затрат.

Основными заказчиками научно-исследовательских (НИР) и опытно-конструкторских работ (ОКР) в области сквозных технологий выступают государственные фонды и федеральные органы власти, что свидетельствует об активном участии государства в содействии переходу к цифровой экономике. Именно государственные инвестиции и поддержка призваны обеспечить стабильное финансирование ключевых направлений исследований и разработок, позволяющих России оставаться конкурентоспособной страной на международной арене. Такое государственное содействие осуществляется через различные программы и стратегии, включая Программу «Цифровая экономика Российской Федерации»[35] (далее – Программа), направленную на создание условий для развития цифровых технологий, на повышение уровня цифровой грамотности населения, укрепление позиций России в глобальной технологической гонке. Принятая Программа определяет своей целью обеспечение более активного использования сквозных технологий во всех отраслях экономики, включая и те, где уровень их применения остается заметно ниже (в строительной отрасли).

Широкие возможности и универсальность сквозных технологий позволяют им становиться уникальным и ключевым инструментом как для коммерческого, так и для государственного сектора, а активное участие государства в их развитии способствует переходу России к цифровой экономике, обеспечивая высокую конкурентоспособность на международном рынке и создавая условия для дальнейшего технологического прогресса.

Взаимосвязь ИИ и нейротехнологий находит свое выражение в их общей направленности, связанной с познанием и возможным моделированием интеллекта и работы мозга человека. Изучение и воспроизводство таких сложных когнитивных процессов, как восприятие, мышление, память и принятие решений, позволяет создавать технологии, применяемые для улучшения качества жизни и решения как технологических, так и социальных, медицинских задач.

Искусственный интеллект многими специалистами рассматривается как важный инструмент для изучения мозга. При этом современные ИИ-системы воспринимают результаты нейроисследований, так как обладают передовыми когнитивными и перцептивными способностями, максимально приближенными к возможностям биологических систем, что включает такие функции, как распознавание объектов, классификация данных и принятие решений. Примером здесь служит система распознавания лиц на базе машинного обучения и компьютерного зрения, позволяющая идентифицировать или подтверждать личность человека по его лицу.

Благодаря тесной связи ИИ и нейротехнологий появляются новые методы исследования мозга и технологические решения, которые помогают лучше понять когнитивные процессы человека. Развиваются нейроинтерфейсы, позволяющие осуществлять взаимодействие между мозгом человека и внешними устройствами: инвазивные (внедряемые непосредственно в организм) нейроинтерфейсы используются для управления протезами конечностей, лечения тяжелых заболеваний (эпилепсии, болезни Паркинсона), а неинвазивные (используемые без такого внедрения) – в создании систем управления компьютерными устройствами или роботами с помощью мозговых сигналов, что позволяет улучшить качество жизни людей с ограниченными возможностями.

Примером инвазивных технологий являются чипы-импланты, которые вживляются в мозг с целью прямого взаимодействия с нейронной сетью. Такие чипы-импланты[36] позволяют мозгу напрямую управлять внешними устройствами, используя нейронные сигналы. Примером неинвазивных методов являются очки виртуальной реальности (VR)[37], которые взаимодействуют с мозгом через визуальные и сенсорные стимулы. Они активно применяются, с одной стороны, в развлекательной индустрии, образовании, в спорте при тренировках, а с другой – в медицине, в частности в терапии. Так, VR-очки могут использоваться для реабилитации пациентов с двигательными нарушениями или лечения посттравматического стрессового расстройства.

Большое количество нейротехнологий в настоящее время охватывают много направлений, которые могут взаимодействовать с человеком на совсем новом уровне – от восстановления когнитивных функций до разработки интеллектуальных систем.

Под нейротехнологиями и нейроинтерфейсами традиционно понимают интерфейс «мозг – компьютер» (BCI) – устройство, с помощью которого используется нейронная активность мозга для установления прямой связи с внешними исполнительными механизмами. Основная идея такого интерфейса «мозг – компьютер» заключается в регистрации нейронных сигналов и их преобразовании в команды для управления различными устройствами: от компьютерных программ до роботизированных систем.

Нейротехнологии и ИИ представляют собой мощные инструменты, оказывающие в современном мире значительное влияние на различные сферы человеческой жизни. Их активное внедрение в образование, медицину, экономику открывает новые возможности для повышения эффективности, улучшения качества жизни и обеспечения безопасности государства и общества. Их применение не только помогает решать сложные задачи в области медицины, образования, экономики, но и открывает перспективы для создания новых форм взаимодействия между человеком и машиной.

Интерес к сквозным нейротехнологиям со стороны частных компаний и государства способствует проведению более профильных изысканий (что и делалось в последние несколько лет) благодаря, например, таким программам, как BRAIN Initiative, организованной в США в 2013 г. в рамках изучения мозга посредством инновационных технологий, или Human Brain Project, созданной странами Европейского союза. Подобные проекты позволяют внедрять нейротехнологии практически в любую сферу жизни общества. Их необходимость и популярность объясняется тем, что с каждым годом растет политическая воля различных субъектов государственного управления. Техногенные катастрофы, эпидемии новых вирусов, старение населения и другие факторы обуславливают повышенный интерес человека к цифровым технологиям как средству решения многих проблем.

Основными направлениями дальнейшего развития нейротехнологий и ИИ становятся их интеграция в социальные и экономические процессы и разработка стандартов, которые бы гарантировали безопасное и эффективное использование данных технологий. Технологиям ИИ придается особая значимость для разработки и внедрения механизма их правового регулирования на данный момент. По мнению представителей исследовательских центров США, Великобритании, Швейцарии, Франции, Италии, иных стран, этические и правовые последствия начинающейся революции в области нейротехнологий должны рассматриваться превентивно[38].

§ 1.2. Нейротехнологии и ИИ как часть информационно-коммуникационной инфраструктуры

Анализ происходящих трансформаций социального бытия является обязательным условием эффективной реакции на них. Результаты комплексного исследования парадигмальных изменений информационной сферы общественной жизни, осуществленного с юридической и экспертной позиций, были приведены в ранее написанной авторами монографии[39]. Вместе с тем широта рассмотренной проблематики не позволила полностью сосредоточиться на вопросах изменения медиакоммуникации под влиянием ИИ и нейротехнологий; эти вопросы, на наш взгляд, заслуживают самостоятельного монографического исследования. Кратко изложим основные тезисы, описывающие цифровую медиасреду как часть информационного пространства, после чего сосредоточимся на предмете нашего исследования – влиянии вынесенных в заглавие технологий на информационно-коммуникативную деятельность, а также на ресурсы и инфраструктуру ее осуществления.

В настоящее время информационная деятельность главным образом осуществляется за счет использования технических средств (в первую очередь – обрабатывающих данные в цифровой форме), связанных друг с другом в сети и позволяющих распространять информацию среди неопределенного круга лиц. Элементы единой информационной среды (всей совокупности информации, информационных технологий и информационных систем) находятся в процессе постоянного преобразования и развития; возникают цифровая среда (часть информационной среды, представляющая собой совокупность информационных технологий и информационных систем, которые обрабатывают информацию, имеющую цифровую форму представления, а также содержащих такую информацию информационных ресурсов) и медиасреда (часть информационной среды, в которой информация вне зависимости от формы распространяется при помощи средств массовой информации и коммуникации, сокращенно – СМИ и СМК, реализованных на основе информационно-коммуникационных технологий – ИКТ).

Пересечение данных частей формирует цифровую медиасреду – наиболее динамичную и (к настоящему моменту) значимую с точки зрения эффективного осуществления информационной деятельности часть информационной среды, включающую в себя социальные сети (такие как «ВКонтакте», «Одноклассники» и др.), системы мгновенного обмена сообщениями – мессенджеры (Telegram, WhatsApp, Viber), иные ресурсы (форумы, видеохостинги, почтовые сервисы и т. д.).

Большая скорость научно-технического прогресса в сравнении с прогрессом социальным приводит к тому, что у людей появляются технологии, к использованию которых они не в полной мере готовы, не полностью осознают все принципиально возможные последствия их применения. Взаимодействие через цифровые СМК чревато не только приятным времяпрепровождением, но и столкновением с агрессивной пропагандой, недостоверной информационной продукцией (фейками), диффамацией, мошенниками, неприятным и незаконным контентом; «сливом» персональных данных, «взломом» и кражей личных учетных записей (аккаунтов) и т. д. Поэтому вопрос информационной безопасности (и в особенности – медиабезопасности в цифровой среде) стоит достаточно остро.

Перечисленные выше элементы цифровой медиасреды – технологии Web 2.0, связанные с распространением в Интернете по сетевому принципу разнообразного по форме и содержанию пользовательского контента на бесплатных общедоступных платформах (в соцсетях, на форумах, хостингах и проч.)[40]; все это в первую очередь подразумевает обеспечение понимания информации человеком.

Однако в результате информационной деятельности в цифровой медиасреде произошел экспоненциальный рост объема данных: если на рубеже 2010-х гг. объем всей информации в Интернете оценивался примерно в 1 зеттабайт (триллион гигабайтов)[41], то к 2022 г. его объем возрос уже до 90 зеттабайт[42]. Исследователи отмечают, что около 90 % мировой информации, существующей сегодня, было создано за последние десять лет, и сохранение таких темпов приведет к катастрофическим последствиям: в масштабах нескольких столетий энергия, необходимая для поддержания процесса создания цифровой информации, сравняется со всей энергией, которая производится сейчас на Земле, а количество битов, созданных человеком, превзойдет количество атомов на Земле[43].

Для автоматизации работы с большими данными (будь то систематизированные датасеты или же просто совокупность пользовательских данных) хорошо подходят технологии самообучающегося ИИ, в основе построения которых – созданные в процессе машинного обучения искусственные нейронные сети. Вместе с тем данные технологии могут быть приложены к любой сфере, поэтому все, у кого есть такая возможность, занялись их внедрением (в немалой степени из-за боязни проиграть в конкурентной борьбе): к примеру, недавно в Японии разработали ИИ – цифрового посредника, который перерабатывает реплики разгневанных клиентов колл-центров, «подавляя» эмоции и делая их речь менее агрессивной[44]. Разработка и внедрение таких средств является важной частью Web 3.0 (наряду с децентрализацией и внедрением блокчейн-технологий), в котором обеспечивается взаимодействие между собой и понимание данных компьютерными системами.

Позволить себе создание и дальнейшее поддержание работоспособности собственных функциональных ИИ пока могут только государства и компании с объемным финансированием, так как для этого необходимо дорогостоящее и дефицитное обеспечение:

• программно-аппаратное: значительные вычислительные мощности (включающие в себя нейронные процессоры, также называемые ИИ-ускорителями) и специализированные программные средства, многие из которых являются закрытыми (их исходный код известен только автору или иному правообладателю и недоступен иным лицам) и проприетарными (требующими приобретения лицензии);

• кадровое: квалифицированные программисты и специалисты по прикладной и математической лингвистике, способные организовать качественное обучение нейросетей обработке естественного языка, а также работе с иными данными;

• информационное: программирование либо обучение ИИ подразумевает формирование его онтологии (условно – «картины мира»), выраженной в сформированной в процессе его разработки базе знаний. Для этого необходим специальный (предназначенный для обучения ИИ под решение конкретных задач, например, создание изображений), самостоятельно собранный либо приобретенный, массив (база) данных, который будет использоваться при программировании/обучении.

Все это в комплексе может рассматриваться как фактор «цифрового неравенства»; а учитывая, что ИИ является продуктом двойного назначения стратегического характера, отставание и просчеты в его разработке и использовании являются серьезной угрозой для национальной безопасности любой страны.

По результатам проведенного исследования представляется возможным заключить, что в настоящее время ИИ в цифровой медиасреде используется в следующих качествах:

• как поисковая система, использующаяся для агрегирования, систематизации, обобщения и анализа информации с указанием источников ее получения либо без оного (так называемый виртуальный ассистент);

• как участник коммуникации – виртуальный собеседник (чат-боты, в задачу которых входит поддержание беседы с целью выполнения каких-либо функций: развлекательной, консультационной, коммерческой и т. д.);

• как инструмент, предназначенный для обработки существующих и создания новых информационных продуктов в любой форме (генеративный ИИ);

• как инструмент обеспечения межкультурной коммуникации (переводчики на базе ИИ, способные обрабатывать информацию в различной форме и осуществлять синхронный перевод).

Сложные и дорогие ИИ, обученные на большом массиве данных (такие, как ChatGPT), универсальны и могут использоваться для всех целей, перечисленных выше; более бюджетные проекты, как правило, имеют конкретную специализацию, однако ввиду этого могут лучше справляться с решением узких задач (например, с переводом).

Как любой инструмент, технологии ИИ могут быть использованы для достижения как благих, так и предосудительных целей. Хотя разработчики и предпринимают меры по ограничению возможностей их применения в противоправных целях (к примеру, для поиска и анализа информации, оборот которой ограничен законом), способность ИИ к самообучению и постоянный «творческий поиск» злоумышленников приводят к возникновению и обнаружению новых способов взлома, обхода подобных программных ограничений – так называемых джейлбрейков (от англ. jailbreak – побег из тюрьмы).

Кроме того, важно отметить, что использование средств ИИ для парсинга сайтов (автоматического сбора и обработки данных с них) позволяет создавать наборы данных, которые в дальнейшем используются как для машинного обучения, так и для аналитической работы. Вместе с тем при таком сборе данных может быть нарушен закон (в случае сбора и агрегирования конфиденциальной информации или информации, запрещенной к обороту), прямо либо косвенно затронуты интересы физических или юридических лиц. Эффективность же таких технологий заставляет задуматься о рисках, которые влечет возможность быстрого сбора информации, например персональных данных или финансовой документации.

Деяния, совершаемые с использованием ИИ (в том числе генеративных), могут быть квалифицированы как преступления в соответствии со статьями Уголовного кодекса Российской Федерации; преимущественно речь идет о корыстных преступлениях (в первую очередь – мошенничестве) и преступлениях, связанных с незаконным (ограниченным или запрещенным) оборотом недостоверной и иной информации. Как можно заметить, этот перечень весьма объемный, и это без учета того, что генеративные нейросети могут быть элементом механизма иных преступлений (например, использоваться при подготовке или сокрытии убийств, террористических актов и т. д.), а также административных правонарушений и гражданских деликтов.

Исследования в области ИИ и нейротехнологий тесно связаны между собой, так как и первые, и вторые разрабатываются на материале исследований человеческого мозга. Параллельная работа над этими направлениями дает синергетический эффект: исследования мозга позволяют разрабатывать самообучающиеся нейронные сети, в перспективе (при должном объеме и продолжительности обучения) способные обрести разум, сравнимый с естественным, или даже превзойти его[45].

Таким образом, проблематика разработки ИИ и нейротехнологий тесно переплетена. Анализ нейросетей и процесса их функционирования[46] при наличии нейроинтерфейса «мозг – компьютер» (делающего возможной нейрокоммуникацию; в основе этих технологий лежит принцип прямого информационного воздействия на мозговые центры в обход органов чувств[47]) потенциально открывает возможности для непосредственного влияния на человеческий разум через цифровую медиасреду.

В различных прикладных научных исследованиях (в том числе связанных с созданием нейрокомпьютера[48]) ведутся работы по составлению карты мозга (в частности, в России получили широкую известность работы С. В. Савельева[49]); одним из возможных эффектов создания такой карты (в совокупности с моделированием нейропроцессов и анализом того, как информация кодируется и передается внутри естественных и искусственных нейросетей) может стать разработка искусственных каналов прямого взаимодействия мозга как с компьютером, так и с другим мозгом через сеть[50].

Поэтому следующим предполагаемым этапом после децентрализованного компьютерно-ориентированного интернета вещей Web 3.0 (деятельность которого напрямую связана с ИИ) является Web 4.0, иначе – Нейронет, в котором взаимодействие участников (человек – человек, человек – машина) будет осуществляться с помощью новых нейрокомпьютерных интерфейсов, в дополнение к традиционным методам, а сами компьютеры станут нейроморфными (похожими на мозг) на основе гибридных цифро-аналоговых архитектур; в 2015 г. Нейронет был включен в число ключевых рынков Национальной технологической инициативы[51]. В литературе отмечают, что ранее термин «Нейронет» был лишь калькой термина «нейросеть», однако теперь он обозначает коммуникационную среду следующего поколения, основанную на нейроинтерфейсах и новых протоколах опосредованного ими взаимодействия между людьми, коллективами, искусственными автономными агентами, системами работы с данными и объектами реального мира[52].

Для построения такой сети необходимо решить проблемы понимания мозга, создания специальных интерфейсов и сетевых протоколов. Как отмечается в литературе, «психофизиология вида Homo sapiens (реакции человека на цвет, цветовую гамму, частотный диапазон подаваемых сигналов, форму и другие перцептивно-эстетические параметры машины) определяется единообразием, но этнические или мировоззренческие картины мира разнятся. <..> Машинное смысловое пространство должно быть максимально дружественным для пользователя с любым уровнем технической подготовки, любого возраста и религиозной принадлежности»[53]. Решение инвариантности внутренней речи исследователи усматривают в гипотетически возможной «семантической паутине», представляющей собой некий единый, универсальный язык смыслов (с возможностью автоматизированного семантического перевода между этим языком и языком каждого отдельного мозга). Подобное предположение подразумевает необходимость установления семантических универсалий и их коррелятов в индивидуальных нервных системах.

Аналитики следующим образом описывают результаты разработки и внедрения таких технологий: «Главное отличие от нынешнего Интернета будет в том, что Нейронет начнет строиться на коммуникации уникальных нервных систем, по сути, без обязательного использования естественного языка. Скорее будут использоваться специальные уникальные языки, соединяющие „карты“ нервных систем – а значит, коммуникация станет происходить быстрее и точнее, в ней появится возможность „выражать невыразимое“, передавать непосредственно состояния. Можно будет „перегружать знания“ напрямую из одной нервной системы в другую, обмениваться не только вербальными, но и психоэмоциональными опытами и переживаниями, создавать друг у друга сложные и высоко реалистичные ощущения»[54].

Экономически, юридически и психологически к появлению Нейронета в описанном виде следует готовиться уже сейчас, так как понятно, что с высокой долей вероятности его возникновение является вопросом времени; даже названы приблизительные временные рамки этапов его развития[55]:

1. Первый этап (2015–2020 гг.) подразумевает неравномерное проявление отдельных эффектов и технологий с началом появления основных субъектов. До 2020 г. ожидается появление первых ростков будущей сети (пример – НейроЧат, социальная сеть на основе интерфейсов «мозг – компьютер» для людей с тяжелыми нарушениями речи и опорно-двигательного аппарата[56]), неравномерно возникающих в разных отраслях, проявления отдельных эффектов и технологий. Основные изменения сосредоточены и реализуются в таких областях, как медицина, безопасность и развлечения.

2. Второй этап (2020–2030 гг.) – этап параллельного и, вероятно, не связанного друг с другом проявления двух прототипов Нейронета. Во-первых, это пролог Нейронета – «биометрический веб»: «интернета биометрических вещей» (устройств, считывающих физиологические параметры человека) и Web 2.0+ практик, использующих биометрическую инфраструктуру. Во-вторых, речь о «коллаборационном Вебе» – системе взаимосвязанных порталов открытых сообществ, специализирующихся на разработке и использовании инструментов и практик коллективной деятельности; такая организационная модель способна вовлечь в упорядоченную целенаправленную коммуникацию человека с любыми компетенциями. Ключевыми игроками в первой отрасли с высокой вероятностью станут медицина, спорт, сферы развлечений, образования и услуг. Ключевыми игроками во второй – профессиональные сообщества, сообщества практик, сообщества практик на территориях. Кроме того, произойдет насыщение технологической линейки интерфейсов.

3. Третий этап (2030–2040 гг.) – полноценная реализация локальных прототипов Нейронета в статусе очагов, привязанных к отраслям или отдельным типам деятельности. Коммуникативная среда, основанная на протоколах прямого взаимодействия нервных систем (типа протокола «передачи мыслей» HTTP–2) и подразумевающая создание нейроколлективов, может появиться уже в ближайшие 10–15 лет. Важную роль в возникновении таких коллективов будет играть технология «экзокортекса» («внешнего мозга») – искусственных частей психики, поддерживаемых машинами и синхронизируемых с естественной психикой. Это могут быть, например, дополнительная внешняя память, «расширения» сенсорно-эффекторной системы, вспомогательные ментальные функции типа проведения сложных вычислений. По сути, нейроколлективы есть не что иное, как несколько человеческих психик, связанных экзокортексом в единый коллективный субъект. Техническая инфраструктура развивается в сторону прямой синхронизации живых систем, что позволяет моделировать и создавать «виртуальных сиамских близнецов». В нейроколлективах становятся возможны прямая передача опыта через сонастройку людей, создание искусственного опыта.

4. Четвертый этап (после 2040 г.) – Нейронет, выйдя за пределы очагов его использования, охватывает область коммуникаций целиком и превращается в массовый инструмент и цивилизационную инфраструктуру.

Таким образом, нейротехнологии и ИИ тесно взаимосвязаны, а их разработка и повсеместное внедрение приводят к невиданным ранее трансформации информационно-коммуникационной деятельности, совершенствованию инфраструктуры и появлению новых способов передачи информации. На порядки возросли объем и скорость обработки информации; появились искусственные субъекты информационной деятельности (пока не наделенные правосубъектностью ввиду недостаточного развития) – ИИ. Если ранее и сейчас основным инструментом коммуникации является речь, то в перспективе возможно возникновение средств невербальной коммуникации, буквально позволяющих обмениваться мыслями.

Хотя подобные перспективы способны вызывать энтузиазм, они также представляются поводом для серьезного беспокойства за конфиденциальность, мировоззренческую безопасность и когнитивный суверенитет пользователей. Анализ уже существующих информационных угроз медиабезопасности демонстрирует высокую степень их распространенности, разнообразия и общественной опасности; поэтому уже сейчас информационное оружие является эффективным и обязательным средством ведения текущих социально-политических конфликтов. Надо полагать, что с появлением доступа непосредственно к нервной системе пользователей данные угрозы еще более усугубятся (перспективы цифровой утопии и бессмертия могут обернуться цифровым заточением и рабством – более чем реальными).