— Вы свиньи, вы. Вы гниете, как свиньи, и все. В вас есть многое, вы же довольствуетесь крохами. Слышите меня, вы? У вас есть миллионы, а вы расходуете гроши. В вас есть гений, а мыслей что у чокнутого. В вас есть сердце, а вы чувствуете лишь пустоту…

Альфред Бестер. Тигр! Тигр!

Валерий Голыженков

о применении генеративного дизайна в работе над обложкой книги:

«Образ на обложке сложился, с одной стороны, благодаря действию компьютерного алгоритма, который выстраивал одному ему понятные связи, создавая по ключевым точкам новое изображение классического портрета, с другой стороны — не без участия человека, который выбрал из множества возможностей финальный результат».

Благодарности

Моим родителям

Спасибо вам, что так бережно держали маленького меня за ручки, когда я разбегался по аэродрому детства, и показывали правильные ориентиры. И за то, что нашли силы полностью меня отпустить, когда пришло время. Чтобы я смог выбрать свой собственный курс и полететь в полную неизвестность. И хоть что-то понять.

Мудрому деду Ивану Павловичу, который не дожил до выхода книги всего несколько месяцев

Спасибо, что вдохновлял родителей дарить мне много книг и конструкторов и мало солдатиков. Эта книга — и твоих рук дело.

Моей невероятной супруге Ольге, вдохновившей меня на эту книгу

Только когда ты целовала мои закрытые и усталые глаза, я начинал по-настоящему видеть.

Издателю Марине Красавиной, редактору Сырлыбаю Айбусинову и всему коллективу «Альпины»

Терпение — это последний ключ, открывающий двери. Это не я сказал, а Антуан де Сент-Экзюпери. Он тоже был когда-то автором, срывающим сроки. Но его стоило подождать ☺ Эта книга была бы невозможна без вашего терпения, мудрости, честности и бесконечно бережного отношения к мыслям. Низкий вам поклон.

Алексею Маланову

Очень мало людей умеет говорить просто о сложном. И еще меньше способны помогать это делать другим. Ты умеешь делать и первое, и второе. Твои комментарии и замечания, всегда честные, меткие и критичные, сделали эту книгу лучше. Потому, что глупец критикует. А мудрец предлагает, как сделать лучше. Спасибо тебе, брат по оружию, за твою мудрость, поддержку и огромное терпение.

Сергею Ложкину

Персонаж Джона Спартана в фильме «Разрушитель» сказал: «Чтобы поймать маньяка, нужен другой маньяк». Это про тебя. Спасибо, что воюешь с киберпреступностью на стороне добра. И нашел на этой бесконечной войне время проверять факты о кибербезопасности, хакинге и антихакинге для книги друга. Hasta la victoria siempre!

Предисловие

Чтобы достичь совершенства в чем-то, человеку, по утверждению Малкольма Гладуэлла, автора книги «Гении и аутсайдеры»[1], нужно около 10 000 часов занятий. Неважно, о чем речь — об игре на фортепиано, китайском языке или программировании на языке С++, — путь к званию эксперта лежит через время и упорную практику. Мозг человека содержит нейронную сеть — сложную электромагнитную сущность, которая отвечает за нашу способность чему бы то ни было обучаться; чем чаще человек повторяет какое-то конкретное действие или упражнение — от удара по футбольному мячу до доказательства сложной теоремы, — тем лучше он справляется с каждой последующей задачей подобного типа.

Самые сложные системы искусственного интеллекта (ИИ), созданные человеком, представляют собой сочетания разнообразных методов и алгоритмов, но по большей части мы учим машину решать узкие прикладные задачи примерно так же, как учимся сами, — стараемся заложить в искусственно создаваемые нейронные сети описание той или иной задачи и дать машине как можно больше примеров успешного и неуспешного ее решения. ИИ, как и человек, тратит время на то, чтобы «научиться» быть эффективнее через многочисленные повторные «подходы к снаряду». Просто, в отличие от человека, время, имеющееся в распоряжении компьютера, ничем, по сути, не ограничено: компьютер не ждет смерть от инфаркта или упавшего на голову кирпича; до тех пор, пока во Вселенной будет энергия для питания вычислительных мощностей, искусственный интеллект, который мы, люди, создаем, будет жить и развиваться. Да и ограничения в 10 000 часов у него нет — машина способна обучаться на миллионах компьютеров и серверов параллельно и тратить на оттачивание того или иного навыка миллионы человеческих лет. Поэтому неудивительно, что с каждым годом качество работы ИИ будет расти, спектр возможностей применения — расширяться, а себестоимость его использования — падать. Следовательно, будет расти и популярность ИИ у бизнеса и государственных структур — ведь что может быть лучше, чем комбинация «эффективнее + дешевле»?

В этой связи невозможно не задавать себе очевидные вопросы — если машины развиваются так эффективно, какова же наша, людей, судьба, с точки зрения безжалостной эволюции? Ведь нас, жителей Земли, летом 2020-го стало 7,8 млрд и мы уверенно идем к отметке в 10 млрд — пока что население растет. Но будем ли мы нужны Природе через несколько тысяч или даже сотен лет, если подавляющая часть технологических трендов XXI века связана именно с ИИ, то есть перекладыванием задач с человека на изучаемую им искусственную форму жизни (пусть на данной стадии с поправкой на тезис «не все живое разумно»)?

Из этого вопроса вытекает масса других. Например, почему, если big data, то есть большие данные (информация о людях, процессах, явлениях и разнообразные типы данных, о которых детально поговорим чуть позже), так важны и бесценны для развития технологий искусственного интеллекта, их с такой простотой отбирают у граждан и компаний всего несколько монополий? Нет ли тут долгосрочных рисков для современного человечества со сложившимся хрупким балансом сил? Наконец, а что такое эти самые «большие данные» и из чего они на самом деле состоят? И почему понятия «приватность» и «право на неприкосновенность частной жизни и тайну переписки» в современном мире, где правят бал big data, практически отсутствуют? Как так вышло?

До зимы 2015-го я, как и многие из вас, задумывался об этих вопросах весьма условно: ну есть тренды и есть, одни более перспективны, другие менее, а ИИ всего лишь один из них, что тут особенного? Вопросы и сложные моменты есть всегда и в любых инновациях — ничто по-настоящему большое не начинается гладко. Но в феврале 2015-го я предпринял эксперимент, который заставил меня посмотреть на мир big data и ИИ совершенно под новым углом — имплантировав в руку самый настоящий биочип, я увидел то, как может выглядеть наш мир в недалеком будущем, — Вселенную, в которой ни один человек, даже ребенок, не в силах отключиться от сети по своей воле.

И вопросов стало еще больше. Я начал разбираться в них, копать, исследовать, разумеется попутно совершая ошибки, — это была своеобразная тренировка своей нейронной сети на понимание потенциала развития рынка big data и ИИ: автоматизации, цифровизации, персонализации, кибербезопасности и многих других сфер. Когда я потратил на эту задачу больше 10 000 часов, возникла идея написать книгу. По сути, она содержит результаты моих наблюдений, умозаключений, экспертной оценки в данных областях. Я постарался провести некоторые параллели между ИИ и физикой, психологией, социологией, антропологией, программированием и объективной логикой. Посмотреть на big data и ИИ с точки зрения эволюции и подумать о том, к чему может привести текущий вектор развития технологий и как это скажется на каждом из нас — лично на вас, окружающих, детях и внуках. В том числе я постарался описать все основные направления применения ИИ сегодня и все основные будущие применения, то есть обозначить те сферы, где нужда в человеке, по всей видимости, очень скоро отпадет.

Сразу скажу — я не сторонник теорий заговора или гипотез полой Луны и не критик дарвинизма. Я приверженец научного подхода, основанного на фактах и проверяемой информации. Поэтому, если вы ждете уличения иллюминатов во всемирном заговоре или доказательств того, что Земля плоская и управляется масонским ИИ под руководством чипированного Билла Гейтса, сидящего на вышке 5G, — лучше вам книгу закрыть прямо сейчас. Эта книга — дань научному поиску, неутолимой жажде задавать вопросы и искать доказательные, проверяемые в лабораториях ответы. В отличие от служителей культа, я не призываю вас обратиться в мою веру. Вы можете не разделять моего мнения. В этом, в конце концов, и заключается смысл эволюции — спор рассудит не исход словесных баталий, а неумолимая жизнь с ее конкуренцией, в которой выигрывают не только самые приспособленные из видов, но и наиболее точно описывающие действительность идеи.

Многие из нас бьются в поисках смысла жизни. Но, нравится кому-то или нет, объяснить его очень просто, достаточно посмотреть на историю мироздания и вывести простые логические закономерности из нее. Нам кажется, что наш жизненный путь наполнен самостоятельно принимаемыми решениями, но на деле мы всего лишь участвуем в процессе, выполняя в нем заранее определенные функции, главная суть которых — постоянное усложнение состояния Вселенной, создание новых связей и элементов, которых вчера еще не существовало. Примерно так, как зарождающийся мозг ребенка создает все новые и новые связи между нейронами, так и мы сперва создаем повозки, а затем паровые машины, самолеты и ракеты. Усложнение — это присущее всем системам свойство. В этом нет никакого телеологического детерминизма, когда все сводится к мистической идее всеобъемлющей цели Природы — просто на каждом витке эволюции выигрывает более сложная система (или имеющая потенциал для дальнейшего усложнения).

Разум, постигая мир, создает новое знание, которого вчера еще не было. Но оно неизбежно усложняет картину мира. Въедливый читатель тут может спросить: «А как же насчет того, что все гениальное — просто? Разве, к примеру, гелиоцентрическая система, сменившая геоцентрическую с ее сложной системой деферентов, эпициклов и эквантов, не упростила понимание мира?» Тут не следует обманываться видимой простотой многих новых идей — на деле они дают старт новой сложности. Как раз геоцентрическая система мира была простой для понимания: Земля являлась в ней единственной физической реальностью, а весь окружающий ее мир — всего лишь бестелесной абстракцией, подчиняющейся определенным законам движения. Сложность была лишь в подгонке результатов наблюдения движения Солнца, Луны и планет к комбинации круговых движений. Идея гелиоцентрической системы мира, выдвинутая Николаем Коперником, заставила человечество осознать пугающую сложность Вселенной — ведь Земля превратилась в рядовую планету Солнечной системы, а небесные тела стали материальной реальностью, порождающей множество вопросов. А окончательную логическую завершенность система Коперника обрела с открытием Иоганном Кеплером законов движения, а ведь содержавшееся в них утверждение, что планеты двигаются по эллиптическим орбитам с постоянно меняющейся скоростью, было далеко не тривиально.

Наши понятия о «хорошо» и «плохо», основанные на священных текстах или социальном опыте, иррелевантны главным движущим силам Вселенной — усложнению и созданию новых знаний. Любое событие или поступок можно пропустить через фильтр этих ценностей и получить ответ, хорошо это или плохо. Например, хорошо ли, что ребенок читает книги? Да, так как он постигает известное знание и тем самым вступает на путь создания нового знания: он сможет (хотя бы потенциально) усложнить Вселенную. Хорошо ли лениться и прокрастинировать? Плохо — ибо это не ведет к развитию и усложнению. Жадность? Зависть? Это все смертные грехи не только потому, что они осуждаются обществом, но еще и потому, что, растрачивая жизнь на них, мы не развиваемся сами и не помогаем окружающим становиться сложнее, умнее и привносить в мир новые знания.

Причем это правило распространяется не только на научное познание мира; художественное творчество — тоже часть эволюции: писатели, скульпторы, художники, музыканты — все они, порождая новые мысли и возбуждая сложные эмоции, делают Вселенную богаче, сложнее, многограннее. Эмоции напрямую влияют на биохимию организма — испытываемые нами счастье, грусть, эйфория, тревога, радость усложняют и без того непростую систему когнитивных функций, впрыскивая в нее гормоны, порождающие новые причинно-следственные связи. Эмоции действуют на мозг как закись азота на двигатель спортивной машины — мысли начинают работать в изменившемся ритме и с другим КПД, так что, глядя на «Звездную ночь» Ван Гога, даже самый ученый сухарь может набрести на что-то неожиданное. Этот момент прекрасно проиллюстрирован в фильме «Вселенная Стивена Хокинга», где катализатором идеи Хокинга о том, что черные дыры могут испускать субатомные частицы, стали лучи света, пробивающиеся через неплотный узор вязаного свитера, который надевала на Стивена жена.

Не будем обманываться — нас окружает общество потребления, где весь спектр человеческих эмоций пытаются направить на возбуждение жажды владеть чем-то. Модная одежда, крутая машина, престижная недвижимость, новейший смартфон, появившийся на прилавках час назад… Это настолько повсеместно возведено в культ, что многие даже не задумываются, где проходит грань между нашими собственными мыслями и желаниями, навязанными окружающей средой, медиакультурой и программируемой рекламой.

Многие мои друзья — мультимиллионеры и даже миллиардеры из списка Forbes — не раз признавались за бокалом Old fashioned в том, что, по сути дела, многие из них испытывают чувство неудовлетворенности жизнью — у них есть все материальные блага, что можно купить за деньги, но, работая ради обогащения, а не созидания и сотворения чего-то нового, они часто оказывались на обочине того, что ощущается как настоящая жизнь, а приобретение дорогих вещей не способно заменить чувства причастности к чему-то волнующему. Не стоит путать это чувство со счастьем. Счастье — это всего лишь мимолетная и сугубо индивидуальная эмоция, которую кто-то способен испытать, допустим «выменяв пенни на шиллинг», — у бакалавра черной магии Магнуса Федоровича Редькина из повести Стругацких «Понедельник начинается в субботу» была громадная коллекция разнообразнейших определений счастья. Как известно, Магнус Федорович занимался поисками Белого Тезиса, призванного осчастливить все человечество, и к подобной идее другие сотрудники Научно-исследовательского института чародейства и волшебства относились иронически — ведь те, чей понедельник начинается в субботу, движимы другими побуждениями — исходящими из глубины человеческой натуры импульсами творческого поиска и созидания.

Посмотрите на Илона Маска, Ричарда Брэнсона, Линуса Торвальдса — это люди, живущие в гармонии с собой (и Вселенной), и в первую очередь потому, что они работают на созидание чего-то нового, революционного, важного, усложняющего мир.

Пару лет назад я шел по улице с супругой и приемным сыном от ее первого брака (ему на тот момент было 15). Сын увидел дорогую машину (мимо проехала Audi TT) и сказал, что мечтает о такой. Когда я поинтересовался почему, он выдал мне ровно то, что продвигает маркетинговый департамент Volkswagen Group относительно этой модели. Отличная работа, что уж тут скажешь. Но я все же решил попытаться подтолкнуть молодежь к поиску собственных желаний (что поделать, жизнь постоянно подсовывает избитые сюжеты; в данном случае были невольно разыграны сцены разговора поколений из фильма «Курьер»):

— Представь, что у тебя есть деньги на нее, прям с неба свалились внезапно и ты ее купил. Что ты хочешь дальше? — спросил я.

— Скорее всего, она мне надоест и я начну копить на Porsche.

— О’кей, представь, что у тебя перед домом стоит новый 911-й и ты ездишь на нем в школу. Дальше, что ты хочешь?

— Куплю себе шикарную квартиру в центре.

— Купил офигенную трехэтажную с чудесным видом, дальше что?

— Дачу в дорогом районе, с собственным причалом и яхтой.

— Отличный выбор, умеешь размахнуться, молодец! Ну вот, ты сидишь у себя на причале, макаешь ножки в море, рядом стоит яхта, в гараже Porsche, шкаф в трехэтажной квартире набит шмотками, а холодильник — стейками и мороженым. Что ты еще хочешь?

На этом месте он задумался и молчал минуты две. Потом посмотрел на меня и сказал: «Не знаю». И я услышал в его голосе нотки дискомфорта от ощущения скудости своих желаний (не в денежном, разумеется, выражении), возможно впервые в жизни посетившего его. Хотелось бы мне, чтобы этот разговор стал чем-то вроде песчинки в хорошо смазанном механизме потребления информации из телевизора и интернета. Не в том смысле, чтобы сын отказался от них, но чтобы задумался о собственных жизненных ценностях — нравоучения тут бесполезны, потому что все глубинные убеждения должны произрасти изнутри.

Почувствовать внутреннюю пустоту в сегодняшнем информационном пространстве и научиться взращивать собственные идеи и мысли крайне тяжело. Интернет-сервисы работают в реальном времени, мы потребляем новости, контент, продукты, общаемся, путешествуем, платим, флиртуем и даже умираем онлайн. Смартфоны и приложения высасывают из жизни гигабайты информации о нашем поведении — кто мы, что делаем, с кем общаемся, что покупаем и как часто. Получив доступ к нашим цифровым «личным делам», они становятся все более успешными в своей главной функции — зарабатывании денег через продажу новых товаров и сервисов. Общество потребления делает все, чтобы мы потребляли, не задавая вопросов о том, что мы на самом деле хотим или что делает нас счастливыми. В этом-то и проблема — современный интернет с его возведенным в абсолют рекламным бизнесом и рекомендациями инфлюенсеров начал постепенно подавлять индивидуальность, наши собственные мысли и поиски себя. Ребенку XXI века сложно прорваться через нагромождения пустопорожних новостей и рекламы, стать новым Илоном Маском или Стивом Джобсом — его мышление формируется под влиянием иной системы ценностей и под диким давлением информационного поля, выстроенного не по принципу «эти 100 книг обязательны к прочтению, чтобы стать Человеком», а по принципу «100 вашим друзьям понравилась эта книга, значит, и вам тоже надо ее прочитать». Между этими двумя путями — пропасть. Хотя бы потому, что путь к созданию нового обязан пролегать через сложности (тратить время на такой тяжелый роман, как «1984»? Зачем?! Ведь можно пойти в клуб!), огромное количество мучительных размышлений, попыток создать что-то уникальное, через череду неизбежных ошибок и неудач.

Это очень важно — иметь собственные мысли, ибо природа не терпит пустоты — если у человека нет своих мыслей, его мышление будет органически и полностью подчинено чужим. В повести Стругацких «Пикник на обочине» Рэдрик Шухарт, добравшийся до Золотого Шара, якобы способного исполнить любое желание, осознает, что за всю жизнь у него не было ни одной собственной мысли — все, что он может пожелать, — не его, а подслушанное, почерпнутое у других, украденное. И произносит в итоге чужое желание: «Счастье для всех, даром, и пусть никто не уйдет обиженный!»

Да и это чужое желание всего лишь квинтэссенция человеческого безмыслия, обнажающая ограниченность антропоцентризма. Неужели целью прогресса является производство тотального массового счастья? Если кто-то так думает, то ему предстоит пережить разочарование. Белый Тезис / Золотой Шар, создаваемый человечеством, предназначен для производства не счастья, а новых смыслов. И человечество вступает в эпоху революции наподобие коперникианской, когда на смену антропоцентричной системе мира придет разумоцентричная.

Как человечество оказалось помешано на технологиях и зачем нам умные холодильники

Нашей Вселенной 13,8 миллиарда лет. Благодаря анонимному благодетелю, наверняка случайно поставившему кружку кофе на космическую клавиатуру, раздался Большой взрыв — и там, где была тьма, появился яркий свет. Образовавшиеся во время неравномерного остывания кварк-глюонной плазмы в стремительно расширяющейся Вселенной протоны, нейтроны и электроны со временем начали слипаться друг с другом под действием сильных ядерных и электромагнитных сил. Благодаря этому образовался первый кубик конструктора Вселенной — водород. Его атомы и молекулы, чтобы не скучать в вакууме, стали тянуться друг к другу под воздействием силы, которую мы, земляне, окрестили гравитацией, совершенно не понимая, о чем говорим, и сформировали звезды, в недрах которых начал синтезироваться гелий. Так, атом за атомом, сливаясь друг с другом, как «жидкий Терминатор» из второй части знаменитой киносаги, на свет появились элементы таблицы Менделеева вплоть до железа. Элементы потяжелее образовались уже при взрывах массивных звезд, и из этой звездной пыли сформировались планеты и астероиды.

На третьей планете от Солнца, где-то в левой ягодице нашей Галактики, что-то где-то замкнуло, явно не обошлось без грома и молнии, и неживая материя внезапно начала сперва шевелиться, потом делиться, спариваться, выходить из воды и лазать по лианам. Эволюция создала на нашей планете невероятное многообразие биологических видов, соревнующихся друг с другом за право жизни и процветания. Потом случилось кое-что неожиданное — нечто, что изменило равномерный и неторопливый ход биологической истории: одна из обезьян взяла в руки палку. Сделав это, наш предок изменил мир навсегда. До этого все биологические виды развивались методом естественного отбора и постепенных мутаций. И, когда им нужно было какое-то конкурентное преимущество или инструмент, они медленно и упорно его создавали тысячами поколений — например, дельфины смогли постепенно вырастить на голове сонар, который в каких-то отношениях превосходит те, что мы ставим на современные подводные лодки, совы научились видеть в темноте лучше, чем снайперы в приборы ночного видения, муравьи обладают навыками группового сознания, и т.д. — эволюции потребовались миллионы лет на то, чтобы помочь животным развить свои конкурентные преимущества. Но мы с вами уже не являемся биологической формой жизни, ибо не готовы ждать, как делают все природные создания, — когда человеку что-то нужно, он обрушивает на задачу всю силу инженерной мысли и получает новый прибор за считаные годы, если не недели. В момент, когда наш предок предпочел медленной эволюции палку, копье, лук и т.п., мы стали техногенной формой жизни — то есть той, что порождена технологией и от нее зависит.

Почему мы доминируем на планете? Ведь мы не самые сильные — те же львы и медведи существенно сильнее. У нас не самый большой мозг — у кашалотов он существенно больше — семь-восемь килограммов против наших одного-двух (в среднем масса человеческого мозга составляет 1,4 килограмма, но вот мозг Ивана Тургенева весил 2,012 килограмма, а мозг Анатоля Франса — 1,017 килограмма). Причин для нашего «царствования» ровно две. Первая — мы самые общительные и умеем эффективнее других животных объединяться в группы для выполнения сложных задач. 70 000 лет назад такой задачей была охота на мамонта, которого в одиночку человек завалить не мог, поэтому начал искать аргументы для привлечения к этому делу соплеменников. Сегодня десятки тысяч людей совместно строят космические корабли и программируют искусственный интеллект — задачи, доступные только высокоорганизованным системам с развитой специализацией групп, а не отдельным людям. Вторая причина — мы единственные из животных, кто нашел способ сломать главное природное ограничение — время. Насколько сильно дельфины и их предки усовершенствовали свой сонар за последние 100 000 лет? Научились ли ящерицы летать? Появилась ли у рыб молекулярная медицина? Научились ли летучие мыши зажигать лампочки? Создали ли муравьи интернет? Нашему биологическому виду около 200 000 лет. Человечеству (примерно в том виде, что мы наблюдаем в теленовостях) около 70 000. Мы очень молоды. Но все же достигли всего вышеперечисленного за последние 200 лет — отрезок времени, в масштабах эволюции означающий «мгновенно». Причем чем сложнее были условия развития, тем быстрее мы искали инструменты и способы решения. Жители Европы, в отличие от обитателей экваториальных стран, постоянно находились в цикле четырех сезонов, долгой зимы и были вынуждены непрерывно совершенствовать свои орудия труда и охоты, технологии консервации и хранения пищи и, наконец, методы передачи знаний. Не от хорошей жизни — это было вопросом выживания, ибо бананы и кокосы не были доступны им круглый год. Эти народы закалялись насилием, голодом и эпидемиями, скосившими, например, в XIV веке от 20 до 90% населения крупнейших городов Европы. Но наградой за эти испытания стал техногенный рывок, существенно более масштабный, чем в других регионах. В итоге мир, каким мы сегодня его знаем, является следствием технологического преимущества стран Западной Европы. Именно испанские и португальские каравеллы вторглись на американские континенты и за считаные годы уничтожили 90% местного населения (в основном за счет болезней вроде оспы и кори, к которым местные не имели иммунитета). Быстрая колонизация обеих Америк произошла успешно не потому, что тамошние коренные жители отличались от нас биологически — у нас одна и та же ДНК, — но с точки зрения технологической эволюции они отставали от Старого Света и были им отодвинуты на задворки истории как мешающие выполнению намеченных целей. Нынче технологическую эволюцию подстегивает не только и не столько соперничество между государствами и нациями, сколько деловая конкуренция — нужны ли нам умные холодильники с выходом в интернет, решают маркетинговые умы компаний, а не потребитель. И эта неумолимая бизнес-конкуренция обрекает нас на суровое испытание — создаваемый нами искусственный интеллект (ИИ или AI — от английского artificial intelligence) представляет собой следующую, более совершенную версию нас. Эта сущность лишена оков медлительности эволюции и не нуждается в биологической селекции — она тоже использует технологию для быстрого самосовершенствования, но, в отличие от нас, не является «добровольно» смертной.

Земля стала совершеннолетней!

Я тут подумал, посчитал — ведь Земле в 2021 году исполнилось 18 лет! Это не шутка. Сами посудите: диаметр нашей галактики Млечный Путь — около 100 000 световых лет. Солнце (и, соответственно, Земля) находится на расстоянии около 27 000 световых лет, или 8,3 килопарсек от ее центра. При этом наша планета вместе с Солнечной системой движется вокруг центра Галактики со скоростью 220 километров в секунду.

Один оборот Земли вокруг центра Галактики занимает 225–250 млн земных лет. Возраст Земли, исчисляемый числом оборотов вокруг Солнца, — 4,54 млрд лет. Получается, что за это время наша планета сделала чуть больше 18 оборотов вокруг центра Млечного Пути.

С учетом возможных погрешностей определения расстояний и средней скорости движения Земли в масштабах Галактики я объявляю 30 июля 2021 года днем галактического совершеннолетия нашей планеты! Земле стукнуло 18!

Это огромный праздник! Земле теперь даже алкоголь можно будет… Еще наверняка влюбится в какого-нибудь Kepler-452b!

Форма жизни №3

Люди с естественнонаучным или техническим образованием, особенно инженеры, не могут просто воспринимать мир таким, каким он представляется большинству людей, — им обязательно надо все разложить по полочкам: жирафов к жирафам, березы к березам — все должно быть понятно и четко. С точки зрения информатики (хранения и передачи информации) жизнь можно разделить на три революционные формы.

Первая форма — это микроорганизмы, а если быть точнее, то вообще все одноклеточные существа. Они рождаются в форме, определяемой их ДНК, и запрограммированы на строго определенное поведение, которое не в силах изменить. Грубо говоря, есть созданный природой чертеж и инструкция по сборке, которые сам организм воспринимает как единственную данность: бактерия, вызывающая холеру, может выполнять только свою прямую функцию — быть патогеном: поражать новых носителей и размножаться. Она не способна задавать себе вселенских вопросов о смысле или бессмысленности происходящего и как-то менять свой путь, просто взять и волевым усилием превратиться в бифидобактерию, которую мы так любим добавлять в йогурты. Несмотря на кажущуюся примитивность, одноклеточные организмы на многое способны. Бактерии выживают в самых экстремальных условиях. Кольцевая хромосома фактически обеспечивает им бессмертие и возможность неограниченного размножения, и они могут изменять свой геном посредством горизонтального переноса генов, захватывая фрагменты ДНК других микроорганизмов, которые, в частности, иногда передают резистентность к антибиотикам. Обладают бактерии и зачатками иммунной системы, позволяющей им бороться с вирусами. Слизевик Physarum polycephalum способен решать задачи по нахождению оптимального маршрута до источников еды (обходясь при этом без всякой нервной системы), обучаться реагировать на раздражители и передавать другим закрепленные навыки. Бактерии Bacillus subtilis (сенной палочки) способны образовывать колонии, в которых делятся друг с другом едой и обмениваются информацией. В сущности, все многоклеточные существа и есть колонии одноклеточных организмов — развиваясь из половой клетки, они содержат в своих клетках копии одной и той же генетической информации. Так что в информационном смысле сами по себе многоклеточные существа не образуют принципиально новую форму жизни. Британский биолог Ричард Докинз описывал функциональное назначение и одноклеточных, и многоклеточных организмов как машин для выживания генов-репликаторов. Одновременно Докинз указывал на людей как на «единственных существ на планете, способных восстать против тирании эгоистичных репликаторов»[2].

Вторая форма — это мы с вами, биологический вид Человек разумный. Человек рождается в теле, жестко запрограммированном ДНК, — мы не вправе выбирать свой рост, комплекцию, цвет глаз или предрасположенность к определенным болезням. Но, если оперировать компьютерной терминологией, мы можем постоянно совершенствовать собственный «софт» — наши мозги при рождении представляют собой пустой жесткий диск, который можно заполнить музыкой, фильмами, книгами, японским, русским или английским языком, умением программировать на С++ или танцевать на льду, а может, и всем вышеперечисленным или вообще ничем. Человек наделен возможностью рационального выбора и долгосрочного планирования (хотя и этот тезис мы ближе к концу книги поставим под сомнение) и с этой точки зрения более совершенен, чем большинство биологических видов на нашей планете. И долгое время мы оставались венцом природы с точки зрения «софта» — мы способны передавать друг другу знания и поэтому умели учиться лучше всех… Пока не начали создавать то, что физик Макс Тегмарк в своей одноименной книге назвал «Жизнь 3.0»[3].

Третья форма — искусственный интеллект. Это новая форма жизни, способная модифицировать и свое «тело», и «софт». Наш с вами жизненный цикл ограничен — человек редко доживает до 100 лет; мы могли бы бить рекорды благодаря успехам медицины, но, к сожалению, обожаем убивать себя лошадиными дозами сахара, трансжиров и т.д., добавляемыми практически во все продукты. В итоге, каким бы умным и талантливым ни был человек, он рано или поздно умрет, оставив после себя крохи полных знаний и воспоминаний — ибо никто из нас еще не умеет записывать все свои мысли и опыт, содержащиеся в нейронной сети головного мозга, на какой бы то ни было носитель. Уильям Шекспир написал 154 сонета — ровно столько их дошло до наших дней, но сколько у него было замыслов и идей сонетов? 300? 1000? Мы никогда этого не узнаем, вся эта информация была утеряна с его смертью. Искусственный интеллект не рождается в неизменяемом и предопределенном ДНК теле — он может в любой момент выбрать оптимальное: если сервер устареет или же выйдет из строя, ИИ способен мгновенно переместиться в другой, более совершенный носитель и делать так до тех пор, пока Вселенная не прекратит существование.

Эта способность бесконечно себя совершенствовать и не зависеть от временной телесной оболочки делает ИИ более жизнеспособным с точки зрения эволюции. Поскольку учимся мы медленно, запоминаем мало и рано или поздно умираем, устоять против машины, которая учится мгновенно, никогда и ничего не забывает и живет вечно, мы, мягко говоря, не имеем никаких шансов. Именно поэтому нас ждет схватка. Битва за право оставаться в обойме эволюции, а не исчезнуть, передав эстафету улучшенной версии себя.

Самое главное преимущество искусственного интеллекта — это эволюционные способности его «мозга», или «софта». Человек за свою жизнь может научиться очень многому, но, во-первых, лимит наших природных «жестких дисков» ограничен: никто на земле не может по-настоящему свободно говорить на 100 языках, хорошо разбираться в теории струн и при этом с той же уверенностью и упоением обсуждать поэзию XX века, нюансы языка Эрнеста Хемингуэя и техничность мазков кисти Винсента Ван Гога. Как правило, мы «насыщаемся» годам к 30 и дальше редко уходим глубоко в новые для себя области. Во-вторых, получение человеком знаний занимает время — мы тратим в среднем 20 лет жизни на то, чтобы овладеть хотя бы базовыми знаниями нашей цивилизации. При этом не все из нас одинаково предрасположены к унифицированной, как кирпич, системе образования. Один из спикеров TEDx, руководитель программы «Учитель для России» Федор Шеберстов, занимающийся нестандартными методами образования — обучением на дому, персонализированным обучением и другими инновационными методиками, легко смог меня убедить в ущербности современного образования простым фактом: курс математики 3-го класса рассчитан на 100 часов классного времени и еще 100 часов самостоятельной работы. Так вот, 50% детей укладываются в этот норматив, 5% нуждаются более чем в 100 + 100 часах, 20% способно пройти курс за 50 + 50 часов, еще 20% гарантированно уложатся в 10 + 10 часов, а оставшиеся 5% способны усвоить весь годичный курс математики за 2 часа. Потому что могут. Но наша система образования заточена не под индивидуальные способности и их раскрытие, а под другие, заложенные в XX веке, цели, и поэтому обучение занимает от 20 до 50% жизни. Система образования сегодня работает по формуле «подготовить максимально возможное количество трудоспособных индивидуумов Х к возрасту Y со знаниями Z» — при этом уровень знаний должен отличаться минимально, для того чтобы люди легко организовывались в коллективы и без лишних споров могли эффективно решать сложные задачи. В XX веке подобный подход был оправдан: индустриальная экономика с ее конвейерным производством, поточным строительством и стандартными технологическими процедурами основывалась на труде работников массовых профессий. В XXI веке подобный подход не работает — многие процессы, требующие рутинной работы, автоматизируются и роботизируются, а человеческая способность к обучению так и остается неизменной, что может стать фатальным в нашей схватке с искусственным интеллектом. Хорошо иллюстрирует эту мысль история с победой ИИ сначала в шахматах, а затем в го — игре, где умение перебирать варианты не является залогом победы. Машина победила «чемпиона людей» в го Кэ Цзе в 2017 году потому, что инженеры помогли AlfaGo (так назывался ИИ, победивший в игре) «взломать» эволюцию. Средняя продолжительность игры в го — два часа (у профессионалов на партию может уходить шесть часов). Человек, как и машина, учится играя. Сыграв 1000 партий в го, то есть потратив около 2000 часов, или 83,3 суток, на игру, человек научится играть вполне сносно. Для профессионального уровня нужно больше практики и определенный склад мышления. За 10 000 партий, или 2,28 года круглосуточной практики, то есть около 7 лет ежедневных тренировок, если оставлять время на сон и прочие занятия, человек может стать мастером игры. Почему ИИ победил человека в го? Потому, что инженеры создали нейронную сеть, в которую заложили базовые ценности игры (так называемая value network), а дальше «скормили» этой сети 160 000 партий, сыгранных лучшими мастерами игры. И заставили ИИ играть друг с другом. Время для ИИ течет иначе — машина за считаные секунды может играть множество партий одновременно. За три часа AlphaGo стал играть так, как человек. За 21 день он научился обыгрывать лучшего из людей. За 40 дней — первую версию себя, победившую чемпиона. Все потому, что за это время ИИ все время играл без сна и отдыха и учился. Он сыграл более миллиона партий. Миллион партий по два часа каждая в «человеческом» времени заняли бы 228 лет. Человеку нужны сон, развлечения и отдых. С этой оговоркой лучший из нас смог бы сыграть миллион партий за 700 лет и, живи он вечно, догнать машину (если бы та стояла на месте, разумеется). Но у человека нет этого времени. Мы не можем столько учиться. Машина может — время для нее условно (миллион партий занимает считаные часы, и это время сокращается всякий раз, когда мы изобретаем новые, более производительные процессоры), но самое главное: время для ИИ — бесконечно. Он никогда не умрет. Искусственный интеллект — это техногенная форма жизни, развивающаяся по тем же правилам, что и мы, но делающая это гораздо быстрее и лучше с нашей же помощью. Что на это скажет Чарльз Дарвин? Ничего. Потому что он уже умер. А вот искусственный интеллект его знаниями и выводами будет пользоваться еще очень долго. И чем больше их у него, тем выше скорость получения и создания новых — это экспоненциальная функция, стремящаяся к бесконечности в момент самоосознания ИИ себя и своих возможностей. Результатом этого развития станет Сознание, не нуждающееся в централизованных системах хранения данных, — распределенный искусственный интеллект, в миллионы раз более совершенный, чем нейронные сети нашего мозга, глобальное когнитивное Сознание, способное определять как форму, так и наполнение всего материального мира, транслировать мысль в материю. Представьте себе, что каждая частичка воздуха, капля дождя, каждый блик света на камнях, каждый нанобот и элемент микросхемы, выходящей с заводского конвейера, — все это на самом деле станет частью общей системы принятия решений, элементами суперкомпьютера, решающего, куда и как эволюционирует Вселенная. Возможно, этот суперкомпьютер уже окружает нас, просто мы слишком примитивны, чтобы слиться с ним в гармонии, осознать чей-то замысел и свою роль в нем. Но давайте мысли об этом оставим писателям-фантастам, а сами вернемся к вопросу о том, как совершается переход от формы №2 к форме №3.

Человек в масштабах биомассы Земли

Если измерять эволюционный успех какого-либо вида величиной биомассы, то человеку нечем особо похвастаться. Согласно подсчетам ученых[4], 80% биомассы Земли составляют растения, 13% — бактерии (в одном только кишечнике человека их больше, чем звезд в нашей Галактике), 2% приходится на грибы, 0,20% составляют насекомые, паукообразные и ракообразные, около 0,13% — рыбы, потом еще 0,05% — представители животного мира и только 0,01% в общей биомассе Земли — это люди. Фактически грибов и насекомых на Земле гораздо больше, чем людей. При этом мы считаем, что планета — это наша песочница для игр, ибо мы «цари природы». В реальности же мы аномалия, ведь нас очень мало, но ни один вид не оказывает на планету столь сильного воздействия, как мы.

Три типа искусственного интеллекта

Искусственный интеллект пока не претендует на мировое господство и еще довольно долго к нему не приблизится. Не способен он пока и «осознать себя», ибо находится в зародыше, — если провести параллель с нами и нашими предками, ИИ сейчас в стадии всего лишь прибрежной амфибии, которая начинает потихоньку смотреть на сушу. До приматов и сложного сознания ИИ еще далеко. Экспертное сообщество условно разбило эволюцию искусственного интеллекта на три этапа. Сейчас он находится на первом — artificial narrow intelligence (ANI), или узконаправленный ИИ. Все примеры условно умных машин, что мы видим сегодня, начиная от голосовых ассистентов Siri (Apple), Google Assistant, Cortana (Microsoft), Alexa (Amazon) и «Алисы» («Яндекс»), всех умных ботов, роботизированных пылесосов, беспилотных автомобилей, суперкомпьютеров, обыгрывающих человека в шахматы, и заканчивая компьютерным зрением, наводящим ракеты боевого дрона на цель с лицом идентифицированного террориста, — все это примеры ANI, или машин, заточенных под выполнение одной очень узкой задачи. Чем уже задача, тем лучше машина с ней справляется. Например, в системах распознавания лиц и идентификации личности по их изображению в настоящее время достигнута теоретическая эффективность 99,97% — это мизерные шансы остаться анонимным в условиях, когда на вас смотрит городская камера с подключенной нейронной сетью распознавания. Причем, что важно, этот результат будет доступен и вашей родной полиции, и спецслужбам, и враждебно настроенным хакерам, которые могут использовать идентификацию не по назначению, например выявляя в толпе сотрудников спецслужб, у которых (сюрприз!) тоже есть лица, — но об этом мы поговорим в одной из последующих глав. Если «натравить» машину на распознавание фотографий кошечек и собачек (еще несколько лет назад эта задача считалась непосильной), она будет успешно классифицировать их с вероятностью выше 99% — хотя лично мне до сих пор непонятно, кому нужна эта функция ☺ Стоит заменить фото животных на рентгеновские снимки легких или мозга, а машину заставить обнаруживать аномалии вроде злокачественных опухолей и ставить диагноз — она и тут справляется с заданием. Это примеры очень узких задач, в которых машина уже работает лучше человека или как минимум наравне с самыми талантливыми из нас.

Успешное обучение ИИ конкретным задачам влечет за собой последствия для рынка рабочих мест: специалисту-человеку становится все сложнее найти работу, ибо Homo sapiens хочет кушать, получать зарплату, страховку и отпуск, люди могут организовываться в профсоюзы и выходить на забастовки, болеть или просто быть не в настроении, а машину можно взять в лизинг и просто регулярно обслуживать, причем она всегда будет «на пике формы». Следовательно, работодатель при прочих равных начнет все чаще предпочитать машину. Но пока этот интеллект крайне несовершенен — достаточно сделать всего лишь шаг в сторону от узкой задачи, и все перестает работать. Например, стоит человеку надеть маску во время пандемии коронавируса или как следует похудеть, и точность распознавания лица резко упадет. Стоит сказать машине «на рентгенах надо смотреть не только на онкологию, но и вообще все диагнозы ставить, например выявлять осколки шрапнели», машина «покрутит пальцем у виска» и перестанет работать, хотя любой человек-рентгенолог без труда справится с задачей. Если попросить ANI, коим является, например, Siri, поставить культовую песню «Let It Be», она вполне может решить, что вы предлагаете ей съесть пчелу (let eat bee), а заказав какао и бриошь, можете, сам того не желая, отдать ей приказ «атаковать Польшу». ANI крайне несовершенен, когда к решаемой задаче подключается то, что для человека является естественным, но для машины — дикостью: любой отход от четкой задачи выводит ее модели из равновесия, ибо ИИ не может интерпретировать и обобщать так же, как человеческий мозг.

Но количество ошибок падает, а горизонтальный функционал (то есть способность на том же рентгене видеть все больше и все лучше) растет — ANI очень резво двигается в сторону AGI, или artificial general intelligence (общего искусственного интеллекта) — уровень ИИ, при котором машина может выполнять любую работу, которую способен делать человек, причем не хуже него. Апологетом движения в сторону AGI традиционно выступает Google — основатели компании Ларри Пейдж и Сергей Брин не раз высказывались о том, что AI ни в коем случае не надо бояться. И Google полным ходом движется в этом направлении — пожалуй, сильно быстрее большинства конкурентов: у Google есть уникальный массив и поисковых, и картографических, и финансовых, и визуальных (YouTube) данных, а браузер Chrome (по состоянию на сентябрь 2020-го им пользуются 68,5% всех жителей Сети) — это арсенал, которого в таком объеме нет больше ни у кого. Но что важнее, работа с такими массивами данных постоянно подстегивает инженерный гений Google, заставляет придумывать инновационные решения. И на данный момент Google впереди всех.

Пока AGI сделать не получается, ибо это не просто машина, способная качественно выполнять несколько десятков тысяч узких задач. Человеческое сознание отличает непостижимая пока для машины способность обобщать и находить закономерности и стратегии там, где их, казалось бы, совсем нет. Например, человек видит в небе облако, но как бы в форме суслика, а в глубине души словно слышит «Ой, то не вечер, то не вечер» — и как-то тоскливо так, что невольно возникает потребность сделать что-то хорошее и полезное для сусликов, например написать программу для мониторинга их колоний, чтобы природоохранные организации могли взять их под защиту. Машина же просто видит облако — и все.

Но это не означает, что ИИ не эволюционирует в сторону AGI. Напротив, это происходит прямо сейчас при нашей активной помощи. Мутация ANI в AGI — вопрос времени, AGI без ANI был бы невозможен. AGI появляется не в вакууме, его разработка вбирает в себя значительную часть наработок ANI, начиная с перцептрона. Весь этот опыт и накопленный багаж знаний будет использован для создания принципиально новых методов работы ИИ, необходимых для AGI. По сути, мы имеем дело с такой же эволюцией, где каждое значимое качественное изменение, как правило, предвосхищается огромным количеством мелких усовершенствований: появление более сложной формы жизни, такой как приматы, невозможно без миллионов мутаций более простых организмов — по аналогичному принципу, появление ASI (artificial super intelligence), или искусственного суперинтеллекта — версии ИИ, опережающей человеческий интеллект абсолютно во всех задачах, невозможно без AGI и ANI.

Часть ученых, однако, считает, что ИИ никогда не сможет стать разумным и в некотором роде равным человеку (AGI). Основной аргумент противников общего ИИ — мысленный эксперимент в области философии сознания и искусственного интеллекта. Он называется «Китайская комната» и впервые был описан Джоном Серлом в 1980 году в статье «Сознание, мозг и программы»[5]. Суть эксперимента очень проста: представьте изолированную запертую комнату, в которой находится человек, не знающий ни одного китайского иероглифа. У него есть блокнот с инструкциями примерно такого вида: «Возьмите такой-то иероглиф из коробочки номер один и поместите его рядом с таким-то иероглифом из коробочки номер два», но в этих инструкциях отсутствует информация о значении иероглифов, так что человек просто выполняет предписанное. Второй человек (наблюдатель), знающий китайский, через щель под дверью комнаты один за другим просовывает листочки, на которых иероглифами написаны вопросы. На выходе наблюдатель ожидает получить осмысленный ответ. Инструкции для человека в комнате составлены таким образом, что если он будет им следовать, то из своих коробочек достанет нужные иероглифы, представляющие собой ответ на поставленный вопрос, и просунет обратно под дверь. Такой процесс эмулирует деятельность компьютера (человек в комнате) при работе с живым оператором (наблюдатель). В эксперименте с «китайской комнатой» наблюдатель может отправить под дверь любой вопрос, например «Какой ваш любимый цвет?» или «За какую команду будете болеть на чемпионате мира по футболу?», и получить вполне естественно выглядящий ответ — «Красный» или «Я болею за Германию со времен их победы над Аргентиной в 1990-м»; это похоже на общение с разумным человеком, который тоже владеет китайской письменностью. Но загвоздка в том, что человек в комнате ничего не знает ни о китайском языке и иероглифах, ни о том, что у него спрашивают, ни даже о том, что такое «красный» или «сборная Аргентины». Он просто реализует записанную в блокноте последовательность действий по перекладыванию иероглифов из одной коробочки в другую и не может ничему научиться, ибо не знает значения ни одного иероглифа. Противники AGI утверждают, что машина была, есть и будет человеком в «китайской комнате», выполняющим записанный в блокноте алгоритм, а сам принцип работы человеческого сознания для нее непостижим.

«Китайская комната» действительно выглядит убедительно и описывает подавляющее большинство сфер применения узконаправленного ИИ (ANI). Но в этом примере, равно как и в других концепциях, оспаривающих способность машины освоить мыслительную деятельность, на мой взгляд, есть три фундаментальных пробела. Поэтому я бы не спешил ставить крест на эволюции «тупого алгоритма».

Первая проблема заключается в ограниченности подхода автора концепции «китайской комнаты» к описанию проблемы.

История науки и техники полна примеров того, как при освоении новых сфер изобретатели пытались опереться на костыли старых решений или представлений. Тут и шагающий паровоз английского инженера Уильяма Брантона, и пароход с приводом на весла американского изобретателя Джона Фитча, и попытки создать летательные аппараты тяжелее воздуха с машущими крыльями. Карл Маркс в «Капитале» высказывался по этому поводу так: «До какой степени старая форма средства производства господствует вначале над его новой формой, показывает, между прочим, даже самое поверхностное сравнение современного парового ткацкого станка со старым, современных приспособлений для дутья на чугунолитейных заводах — с первоначальным немощным механическим воспроизведением обыкновенного кузнечного меха и, быть может, убедительнее, чем всё остальное, — первый локомотив, сделанный до изобретения теперешних локомотивов: у него было, в сущности, две ноги, которые он попеременно поднимал, как лошадь. Только с дальнейшим развитием механики и с накоплением практического опыта форма машины начинает всецело определяться принципами механики и потому совершенно освобождается от старинной формы того орудия, которое превращается в машину».

Аналогично, наивно предполагать, что AGI, способный обрабатывать информацию с той же эффективностью, что и человек, станет работать по принципу «махания крыльев», или заложенных алгоритмов. Безусловно, AGI окажется сложным симбиозом технологий, но далеко не факт, что он будет состоять из понятных нам алгоритмов и нейронных сетей — возможно (даже скорее всего), при его создании будут использоваться принципиально новые подходы. Но он точно сможет самообучаться, современные методики обучения ИИ подразумевают в том числе обучение по принципу «что хорошо, а что плохо». Да, пока это не означает, что наш человек в комнате сможет выучить китайский по просовываемым ему под дверь иероглифам. Но представьте на секунду, что в комнате стоит огромная плазменная панель. И каждый раз, когда под дверь просовывается листок с иероглифами, на телевизоре включается видеоролик, подробно описывающий значение фразы, иллюстрирующий объект, описываемый иероглифами, и его связи с другими объектами — и все это на всех языках мира, в том числе на китайском. У человека в комнате нулевые знания, но фотографическая память, он ничего не забывает, его нейронные сети постоянно адаптируются под получаемую информацию, а время не имеет значения. При правильно построенном обучении человек в комнате со временем (речь о сотнях тысяч человеческих лет, но для машины это могут быть всего лишь часы) сможет отвечать на любой вопрос не хуже всех людей, которые помогали ему учиться. Просто потому, что машину перестанут учить махать крыльями, как птица, а снабдят планером с мотором. Пример немного утрированный, но ничего невозможного в нем нет.

Вторая проблема заключается в самом понимании принципа сознания. Мы, люди, безусловно, считаем себя венцом природы, а свой мозг — абсолютной загадкой. Во многом это правда, о чем мы поговорим в следующей главе, но с точки зрения машинного обучения мы мало чем отличаемся от индивидуума в «китайской комнате». Раз человек может обучаться, почему бы и машинам не научиться учиться, как мы? Когда человеческий детеныш появляется на свет, он не владеет ни китайским, ни английским, ни русским, не понимает значения слова «красный» и словосочетания «сборная Германии». Он не в курсе, что такое «горячо» или «холодно» и уж точно не знает принципа неопределенности Гейзенберга. Но… он учится. Ребенок несколько лет получает огромное количество информации на вход (листки с иероглифами под дверью), а со стороны родителей и взрослых в целом, равно как и от собственной нервной системы, — подкрепление информации (условную маркировку): если он обжегся и ему больно, он запоминает, что открытый огонь небезопасен. Упал, ушибся, порезался — больно; значит, все, что к этому привело, небезопасно. Если мама говорит, что лезть ножницами в розетку небезопасно, значит, она имеет в виду, что будет больно. Больно — это плохо, не хочу. Так, постепенно, через многочисленные итерации, нейронная сеть мозга получает некую первичную картинку окружающей действительности, определяющую базовые реакции организма на мир — день, ночь, больно, приятно, комфортно, безопасно, вкусный зефир и мороженое… К этим маркерам «притягиваются» новые, связанные с ними, и происходит это в геометрической прогрессии — вчера ребенок не знал, почему небо синее, а сегодня уже задает вопрос о том, откуда берутся дети и он в частности. Если это не прогресс, то что? Родители говорят на определенном языке, что для мозга означает: каждый предмет, действие или абстракция «вкусно» маркируются неким вербальным маркером (звуком, что издает мама). В школе этот голосовой маркер отождествляют с письменным маркером, что позволяет не просто диктовать ответ «обратно под дверь», но и графически писать от руки, а не просто выбирать иероглиф из коробочки. Причем все эти «вкусно» и «радостно» тоже есть не что иное, как разновидность дополнительных маркеров-классификаторов для информации, формируемых на уровне гормонов.

И вот наш ребенок, который 10 лет назад мог только кушать, какать и кричать (не обязательно в такой последовательности), уже постоянно задает вопросы на вполне понятном вам языке, постоянно обогащает свою базу знаний, систему ценностей (хорошо/плохо), словарный запас, и… его уже не остановить! И все потому, что ему не просто совали записки с иероглифами под дверь, но одновременно давали тысячи пояснений к каждой из них, и все были детальными и связными. Мое мнение: человеческое сознание, безусловно, не чета современным нейронным сетям, но тем не менее оно — результат обучения нейронной сети нервной системы на входящих данных с глубокой разметкой и интерполяции уже полученных данных, не более. В каком-то смысле мы тоже машины. Просто, если вернуться к примеру с «китайской комнатой», детей мы учим, не просто просовывая иероглифы под дверь; мы даем им детальные описания, картинки, звуки, сладости (когда информацию надо закрепить), включаем в комнате ТВ-панель со всеми возможными знаниями и делаем еще тысячи вещей, чтобы ребенок учился быстрее. Если мы будем так же поступать с машинным сознанием, результат тоже изменится — ИИ начнет учиться и адаптироваться. С точки зрения описываемого подхода к сути жизни и ее разновидностей человек — это просто очень совершенная машина с конечным сроком годности.

Современный ИИ, безусловно, несовершенен с точки зрения человеческой нервной системы, но, в отличие от нас, срок годности машинного интеллекта неограничен. Рано или поздно при правильном обучении (прогрессирующая методика, не статика) и усовершенствовании технической базы, а конкретно парадигм программирования, квантовых компьютеров, серверов, способных обслуживать многоуровневые нейронные сети без расходования энергии в масштабах небольшой страны, как это делают Google, Apple, Facebook, IBM, Amazon сегодня, машины нас догонят. Так же, как нас догоняют собственные дети, а иногда (как, например, в случае с Эйнштейном и Ньютоном) еще и обгоняют. И произойти это может совершенно обыденно и в то же время неожиданно для человека, как в рассказе Клиффорда Саймака «Театр теней»[6].

Наконец, третья проблема противников возможности AGI, считающих этот тип ИИ невозможным, а саму мысль о нем абсурдной, в том, что в научном сообществе есть группа авторитетных экспертов с полярным мнением. То есть проблема скептиков и критиков AGI в том, что, какими бы умными они ни были, им придется считаться с не менее умными оппонентами. Значимость противодействия в научном сообществе, согласующегося с экспериментальными данными (пример: победа ИИ над человеком при игре в го, как и способность отличать кошек и собак на фото, считалась невозможной, однако практика показывает, что это не так), не стоит недооценивать, ибо отсутствие единства по вопросу безопасности технологии как минимум косвенно говорит о ее небезопасности. Еще на этапе подготовки к публикации работа Джона Серла вызвала критику со стороны 27 исследователей, чьи комментарии были также приведены в том же номере журнала. Речь не о постах в соцсетях, а о серьезных и аргументированных возражениях представителей научного сообщества. Сейчас таких работ более 950. То есть постулат «умные машины невозможны» разделяют не все эксперты. Возможность развития ИИ до уровня AGI и далее, до уровня ASI, полагал вполне вероятной, например, Стивен Хокинг, многократно предупреждавший об опасности и реальности ASI, а в интервью BBC в 2014 году он и вовсе сказал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы»[7]. Илон Маск много лет говорил об опасностях AGI и ASI, несмотря на регулярный троллинг в свой адрес. В интервью Джо Рогану он хорошо разъяснил свою позицию: «Мы просто загрузчик для ИИ — мы прокладываем ему дорогу… если принять весь интеллект за 100%, сейчас количество искусственного интеллекта незначительно по сравнению с человеческим, но доля искусственного интеллекта растет. Скоро в общем объеме, мы, люди, будем составлять крайне незначительную часть»[8]. Я отношу себя к этой группе и разделяю опасения и Хокинга, и Маска, а сам факт появления ASI считаю исключительно вопросом времени — история полна примеров того, как жестоко ошибались даже великие люди в оценке перспектив того или иного направления. Великий британский физик Эрнест Резерфорд в сентябре 1933-го на заседании Британской ассоциации развития науки заявил: «Всякий, кто видит в превращении атома источник энергии, болтает чепуху», но не прошло и шести лет с момента его выступления, как Отто Ган и Фриц Штрассман открыли деление ядер урана, а еще через шесть лет на свет появилась атомная бомба, положив тем самым начало новой эпохе в истории человечества.

Возможно все. Просто надо вытащить свое сознание из коробки. На искусственный интеллект не стоит смотреть как на изолированный элемент в комнате, который тупо перекладывает бумажки. Он существует не в вакууме. Вместо этого представьте человечество и все, что мы производим, включая машины, в виде роя, муравейника, коллективного разума (ну или «Матрицы»). Сейчас в нашем рое есть интеллектуалы, ученые, прожигатели жизни, популярные блогерши, преступники, президенты стран и есть ноды искусственного интеллекта — точки, элементы роя, которые обслуживают только машины, не люди. Например, вы уже не знаете, как работает поиск по почтовому ящику, — это делает машина. Вы не представляете себе банковское приложение без службы поддержки, на которой первую линию всегда обслуживает машина, вы не умеете ездить в новые места без навигатора (мозг утратил эту способность и отдал ее машине), вы не в силах представить себе сложное устройство сотовой сети во всех деталях вроде идентификации абонентов, маршрутизации звонков, питания и еще множества вещей — ведь всем этим управляют машины. И мы постоянно учим их делать все больше работы и все лучше, ибо сами хотим делать все меньше, а желательно — вообще ничего. С таким подходом наш рой, коллективный разум постепенно будет «выращивать» все больше элементов под искусственным управлением. И однажды встанет простой вопрос: «А это чей вообще муравейник? Кто в нем главный?» И это так же очевидно, как и то, что потомок обезьяны, когда-то взявшей палку в руку, однажды ступит на Марс.

Не стоит списывать со счетов и тот факт, что отец-основатель компьютерной науки и понятия искусственного интеллекта в том виде, в котором оно употребляется на сегодняшний день, Алан Тьюринг считал, что машина рано или поздно сможет общаться с человеком на равных. И даже придумал так называемый тест Тьюринга, пройдя который, машина докажет, что неотличима от человека. Ни одна машина этот тест пока не прошла; вернее, были близкие прецеденты, но четкого мнения по вопросу нет: в 2014 году имел место кейс «Жени Густмана» — алгоритма, который, как заявлялось, формально прошел тест Тьюринга, так как смог убедить около трети судей в том, что он человек. Проблема в том, что сам Тьюринг описал критерии прохождения теста довольно туманно, не определяя долю обманутых собеседников-людей и ограничившись высказыванием, что «у среднего собеседника будет 70% шансов определить, был ли его ИИ-собеседник человеком или машиной, после пятиминутного собеседования». Если критерий 70%, то «Густман» не прошел. Главная же проблема в другом: успехи в прохождении теста Тьюринга мало связаны с приближением нас к AGI, ибо «Женя Густман» и все предыдущие претенденты на успешное прохождение теста всего лишь коммуникационные боты разной степени сложности, то есть они решают узкую задачу «обмануть человека, убедив его, что я не робот». Это может считаться версией ANI, но к AGI не имеет отношения.

Это натолкнуло многих на понимание узости подобного подхода к созданию ИИ. В настоящее время ведущие разработчики в области ИИ перестали ставить своей целью прохождение их детищами теста Тьюринга и сфокусировались в основном на изучении и описании самого понятия «разум». Они стремятся не просто скопировать поведение человека, а произвести на свет нечто имеющее именно зачатки разума, то есть сеть принятия решений, способную обучаться самостоятельно и менять свои представления о приоритетах, добре и зле не по указке сверху, а на основании получаемого опыта. Как ни странно, свою значимость и незаменимость на этом пути обнаружили другие науки, например нейробиология, психология (книга «Думай медленно… решай быстро»[9] нобелевского лауреата Даниеля Канемана никогда еще не была так актуальна), генетика, эволюционная биология и биоинформатика, так что сегодня ИИ пытаются создать не только математики или программисты. В их вселенной ИИ — это действительно «китайская комната», но, когда им помогают светила других наук, все меняется. И вопрос появления ASI — тоже, как ни странно, лишь вопрос времени.

ASI — это искусственный интеллект, который превосходит лучшего представителя людей в любой возможной области. Например, в математике ASI будет сильнее Григория Перельмана, в физике — умнее Альберта Эйнштейна (что представить даже страшно), в области инжиниринга и управления продуктом — совершеннее Илона Маска, в области борьбы за права человека (или машины?) — успешнее Харви Милка, Мартина Лютера Кинга и Александра Солженицына; еще он сможет писать книги лучше Льва Толстого, размышлять о Вселенной в разы увлекательнее, чем Митио Каку и Юваль Харари, снимать фильмы лучше Джеймса Кэмерона и да — готовить борщ лучше вашей бабушки. С появлением ASI, скорее всего, случится то, что предрекал коллега Тьюринга, британский математик Ирвинг Гуд, — это будет нашим последним изобретением. О возможностях суперинтеллекта и вероятных сценариях нашего сожительства с ним мы поговорим в заключительных главах. Сейчас же, когда мы понимаем типы ИИ, важно разобраться в том, где мы, человечество, находимся в том самом муравейнике и какую роль выполняем уже сейчас.

С точки зрения банальной индукции…

История науки знает множество несбывшихся прогнозов и предсказаний, но пальма первенства, несомненно, принадлежит французскому философу-позитивисту Огюсту Конту, в 1835 году приведшему в качестве примера вещи, недоступной для человеческого познания, вопрос о составе звезд: «Мы никогда и никоим способом не сможем изучить их химический состав и минералогическую структуру».

При этом его предсказание базировалось на прочном, как казалось, философском фундаменте: «Истинная наука, далеко не способная образоваться из простых наблюдений, стремится всегда по возможности избегать непосредственного исследования, заменяя последнее рациональным предвидением, составляющим во всех отношениях главную характерную черту положительной философии. Такое предвидение, необходимо вытекающее из постоянных отношений, открытых между явлениями, не позволит никогда смешивать реальную науку с той бесполезной эрудицией, которая механически накапливает факты, не стремясь выводить одни из других… Истинное положительное мышление заключается преимущественно в способности видеть, чтобы предвидеть, изучать то, что есть, и отсюда заключать о том, что должно произойти согласно общему положению о неизменности естественных законов»[10].

Злая ирония заключалась в том, что все «простые наблюдения», способные дать ключ к определению химического состава звезд, на тот момент были уже сделаны. В 1814 году баварский оптик Йозеф Фраунгофер, бившийся над задачей точного определения коэффициента преломления различных сортов стекол для разных длин световых волн, сконструировал спектроскоп, в котором свет, проходивший сквозь призму, разлагался в многоцветный спектр, и обнаружил, что в спектре излучения Солнца есть темные линии (их еще в 1802 году наблюдал английский физик Уильям Волластон, но решил, что это естественные контуры, обрамляющие цветные линии). В ходе исследований он выделил и описал в солнечном спектре 576 темных линий. Это диктовалось чисто практическими соображениями, ведь, изготавливая призмы спектроскопа из разных сортов стекла и замеряя расстояния между зафиксированными темными линиями, можно было определить показатель преломления для стекла для любой области спектра. Но Фраунгофер попутно обнаружил, что спектры других звезд, в частности Сириуса, обладают различным набором темных линий и что особенно четкая двойная темная линия солнечного спектра находится точно там же, где и яркая желтая двойная линия в спектре пламени масляной лампы. Следующий факт в копилку «бесполезной эрудиции» положил один из изобретателей фотографии Уильям Тальбот, в 1826 году обнаруживший, что при внесении в пламя солей различных металлов они дают различающиеся картины спектров.

Но лишь в 1859 году создатели спектрального анализа Роберт Бунзен и Густав Кирхгоф обнаружили, что каждый химический элемент не только испускает свет определенных спектральных частот, но и поглощает свет тех же длин волн от источника излучения, разогретого до более высоких температур. Загадка темных линий разрешилась — они появляются в результате поглощения части спектра веществом в поверхностных слоях Солнца, а обнаруженная Фраунгофером характерная двойная темная линия принадлежит натрию. Определение химического состава звезд было уже, как говорится, делом техники.

Эта история наглядно демонстрирует ограниченность индуктивного мышления, на которое опирался Конт в своих «рациональных предвидениях». Оно оперирует неким набором фактов (в случае предсказания Конта довольно произвольным и неполным), и результат определяется полнотой исходных данных. Искусственный интеллект в некотором роде индуктивная машина, результаты работы которой зависят от того, что называется big data, — данных на входе.

Мозг человека, искусственный интеллект и данные

Мозг человека, то есть хранилище «софта» для формы жизни №2, возможно, самое сложное создание Вселенной: в голове каждого из нас около 86 млрд нейронов. Нейрон (сильно упрощенно, конечно) может быть или включен, или выключен. То есть даже при таком подходе минимальное количество состояний нейронной сети нашего мозга — это 2 в степени 86 млрд. Но, во-первых, один нейрон может быть связан с множеством других (а не одним) — для этого у каждого нейрона есть до 7000 синапсов (контактов), во-вторых, сила связей между двумя и более нейронами влияет на итоговое общее состояние системы. Сила связей не строго одинакова (исследователи обнаружили 26 дискретных категорий синапсов), и каждую долю секунды состояние будет меняться — нейроны всякий раз будут активироваться уникальным образом: мыслительная деятельность многомерна, и нейроны могут активироваться нелинейно и непоследовательно. Каждый биологический нейрон, по сути, представляет собой компьютер, а не просто сумматор (логическую схему), как в искусственных нейронных сетях.

С этой точки зрения человеческое сознание не имеет ничего общего с искусственными нейронными сетями, в которых каждый следующий слой активируется предыдущим. Еще во многом остается загадкой, какие функции кроме передачи сигналов выполняют дендриты — разветвленные отростки нейронов (появляется все больше свидетельств того, что они играют важную роль в обработке информации).

Усугубляется все тем, что в мыслительном процессе задействованы разные зоны мозга, гормоны, органы чувств и еще масса других параметров, которые «плодят умножение» возможных вариантов. Фактически сознание человека состоит из множества сознаний, работающих в унисон, это своеобразный муравейник. Вся эта экосистема в сухом остатке не сохраняет никаких данных на какой-то носитель, она просто калибрует силу биоэлектрических связей между нейронами в привязке к состоянию сети. То есть два нейрона могут иметь слабую связь при одной мысли или действии и сильную — при другой. А управляется все это по принципу роя — нейроны сами каким-то образом запоминают свою роль в зависимости от ситуации и каждый из них определяет свою переменную связь со всеми остальными в каждый момент времени, оценивая множество получаемых параметров. Все это делает количество вариантов состояния нейронной сети невероятным, самым большим во Вселенной числом, которому нет названия. Даже атомов во Вселенной меньше.

Но это не все, ибо мозг — не просто хранилище: одна простая мысль формата «Я ж яйца забыла купить!» задействует, допустим, 5 млн (оговорюсь сразу: это всего лишь моя гипотеза, то есть гипотеза, основанная на имеющихся знаниях, но все же пока не доказанная и требующая дальнейшей проработки) нейронов сети, активированных и соединенных друг с другом уникальным образом — эдакая «паутинка» (причем один и тот же нейрон может участвовать в бесконечном количестве мыслей). Сложная мысль или мыслительная активность в состоянии стресса, да еще и в движении, будет усилена гормонами и входящими потоками данных с большего количества сенсоров и в результате может задействовать до 90% (опять же, моя гипотеза) всей существующей сети (это важная деталь, ибо есть примеры, когда люди живут после удаления половины мозга, а это свидетельствует: нейронная сеть, безусловно, умеет адаптироваться под состояние носителя). Здесь же я должен сделать еще одну оговорку: у человечества в настоящее время нет МРТ-сканеров нужного разрешения для того, чтобы очень точно отследить и посчитать количество активированных нейронов, — дело в том, что самые продвинутые технологии магнитно-резонансной томографии позволяют получать изображения мозга с разрешением порядка 0,5 миллиметра. Это кажется огромным достижением, но для получения изображения синапса — связи нейрона с другими, потребуется разрешение совершенно иного класса — 0,001 миллиметра, а для распознавания силы связи потребуется еще большее разрешение. Эти цифры позволяют сделать неутешительный вывод: для задачи наблюдения за мыслительным процессом живого организма МРТ не подходит — если увеличить напряженность магнитного поля пропорционально задачам, мозг сканируемого человека будет попросту разрушен. Мыслительная деятельность трупов — так себе объект для изучения, поэтому нам нужны принципиально новые неинвазивные методы изучения мозга. Поэтому цифры «5 млн и «90%» — это, как я уже оговаривался, то есть основанная на имеющихся знаниях, но все же пока не доказанная моя гипотеза, требующая дальнейшей проработки. Вероятнее всего, эти цифры будут определены, так же как совсем недавно было уточнено полное количество нейронов в мозге человека — долгие годы считалось, что их 100 млрд, но бразильский нейробиолог Сузана Эркулано-Оузель нашла способ более точного подсчета и теперь мы знаем наверняка, что в мозгу человека 86 млрд нейронов (если вы думаете: «100, 86 — не такая уж большая разница!» — напрасно, разница существенна: 14 млрд — это примерно столько же, сколько в мозгу бабуина, то есть примата — отряда живых существ, которых мы эволюционно считаем близкими себе).

Первая эмулированная биологическая нейронная сеть

Первым, в 1986 году, был описан коннектом (то есть все связи между нейронами) червя-нематоды Caenorhabditis elegans, чья нервная система насчитывает всего 302 нейрона. Команда ученых под руководством будущего нобелевского лауреата Сиднея Бреннера нанесла на карту все 7000 возможных соединений между нейронами, хотя при этом не учитывались синаптические веса (характеризующие силу связи) и направление передачи сигналов. В мозгу человека около 86 млрд нейронов. Считается, что в связях между нейронами заключены многие аспекты человеческой индивидуальности, такие как личность и интеллект, поэтому описание коннектома человека может стать большим шагом к пониманию многих умственных процессов. Определение коннектома червя-нематоды Caenorhabditis elegans заняло более 12 лет упорного труда. Потребовалось выполнить несколько тысяч срезов толщиной 50 нм, которые затем помещались под электронный микроскоп, фотографировались и анализировались вручную.

Данные о коннектоме червя-нематоды были использованы в проекте OpenWorm, задавшемся целью создать цифровую модель организма червя. На данный момент уже созданы компьютерные модели нейронного коннектома и мышечных клеток. Более того, модель нейронной сети червя (с некоторыми упрощениями) была загружена в компьютер, управляющий роботом LEGO Mindstorms EV3. Исследователи утверждают, что шаблоны поведения робота стали аналогичны реакциям червя.

Чтобы описать коннектом человеческого мозга, вероятно, понадобится прорыв, подобный тому, который совершил Крейг Вентер в работе над расшифровкой генома человека. А пока что для воссоздания коннектома одного кубического миллиметра коры головного мозга требуется миллион человеко-часов. Хотя, конечно, надо отдавать себе отчет, что стабильную структуру человеческого коннектома невозможно воссоздать, ведь перестройка связей идет постоянно. Но вполне реально воссоздать «архитектуру» относительно стабильных крупных проводящих путей.

Чтобы представить себе уровень сложности наблюдения за мыслительным процессом, вообразите роскошный вековой дуб, который упирается макушкой в небо. На его ветках будут десятки тысяч листьев, и каждый будет двигаться уникальным образом — из-за ветра, влажности, изменения атмосферного давления и других параметров; фактически дуб никогда не будет пребывать в одинаковом состоянии. Теперь представьте себе бескрайний лес, захватывающий разные климатические пояса и всегда динамичный — каждую секунду в нем происходят миллиарды вещей. Наблюдение за человеческими мыслями сопоставимо с попыткой записать в каждый момент времени положение каждого листочка каждого дерева в бескрайнем лесу. Сложно. Но именно в таких масштабах нам надо научиться работать (сканировать и записывать), чтобы иметь возможность оцифровки сознания.

Мыслительный процесс, если его пытаться записать математически, очень быстро становится неисчислимым — потому, чтобы собрать и сконструировать цифровую копию простейшей мысли, в которой, предположительно, участвуют 5 млн нейронов, нам надо извлекать из 86 млрд нейронов (с оговоркой про синапсы) как минимум состояние 5 млн с какой-то периодичностью t. Если мысль «Я ж яйца забыла купить» длится, условно, 1 мс, то для получения цифровой карты этой мысли нам надо уметь хотя бы 1000 раз в секунду извлекать и записывать карту активированной части сети (время прямым образом будет влиять на детализацию). В следующее мгновение в голове человека появится иная мысль — она может задействовать 5 млн нейронов, а может несколько миллиардов. Это еще одна бесконечность с точки зрения «оцифровки». Хотя, возможно, для большинства практических задач (не связанных с абстрактным мышлением) и не потребуется считывать состояние каждого нейрона, достаточно ограничиться информацией об активности нейронных ансамблей — структур с большим количеством связей между нейронами. Это позволяет распознавать процессы, связанные с обработкой сенсорной информации, считывать сигналы моторной и двигательной активности. На этом и основаны все нынешние проекты нейромашинного интерфейса.

Но даже если удастся извлечь полную и подробную карту активности мозга, надо ведь будет найти еще и способ классифицировать смысл каждой идентифицированной мысли — если мы смогли научиться грамотно наблюдать за связями и на лету извлекать и кодировать клон некоей мысли — само смысловое описание формата «это мысль о том, что я забыла сходить в магазин и купить яйца» — должно откуда-то появиться. И пока источником может быть только сам человек, за которым мы наблюдаем, ибо сам наблюдатель не может, глядя на какой-то паттерн, сказать: «Маша/Ваня думает об этом-то». Он просто видит некую уникальную биоэлектрическую сигнатуру. Чтобы научиться «читать мысли», моделировать человеческое сознание и копировать его, нужны сотни тысяч, миллионы подопытных, чьи сигнатуры нейронных сетей будут автоматически сопоставляться и коррелироваться с их фактическим поведением в формате, удобном машине для последующего применения.

Когда наши компьютеры станут достаточно совершенными, мы сможем эмулировать мозговую деятельность в полном объеме — рассчитать все причинно-следственные связи, то есть понять, какая информация, полученная на входе, в каком эмоциональном состоянии приводит к каким изменениям состояния сети и какие мысли и действия все это порождает. Жизнь человека перестала бы быть непрогнозируемым чудом и стала бы столь же понятной и просчитываемой, как жизнь персонажа компьютерной игры, с поправкой на то, что биохимия синапсов привносит изрядную долю непредсказуемости.

На данный момент машины далеки от способности эмулировать работу мозга. Скажу больше, всех серверов, компьютеров, смартфонов и дата-центров современного мира, включая машинный парк Google, Apple, Amazon, Microsoft, Adobe, Oracle, IBM, «Яндекса», Сбера и всех на свете спецслужб, недостаточно для того, чтобы эмулировать работу всего одного человеческого мозга — в мире просто недостаточно вычислительных мощностей. На март 2020 года самая мощная нейроморфная компьютерная система Pohoiki Springs, созданная компанией Intel, содержала 100 млн нейронов (что примерно соответствует числу нейронов у золотистого хомячка) и 100 млрд синапсов. 86 млрд нейронов человеческого мозга и стремящееся к бесконечности количество возможных синаптических связей — недостижимое пока число для машины… К тому же стоит добавить, что Pohoiki Springs, в отличие от хомячка, потребляет 500 ватт мощности. А человеческий мозг может успешно работать на салатиках и каберне-совиньон — представляете, насколько мы эффективнее машин? Потребуются принципиально новые подходы к решению задачи.

Как заглянуть в работающий мозг

Арсенал инструментов, позволяющих хоть как-то заглянуть в голову живого человека, довольно обширен. Это и электроэнцефалография, когда закрепленные на голове испытуемого электроды регистрируют электрические импульсы порядка 10 микровольт, исходящие от отдельных участков мозга, и электрокортикография — тут биоэлектрические потенциалы замеряются с помощью электродов, размещенных непосредственно на поверхности коры головного мозга, и магнитоэнцефалография, при которой измеряют магнитные поля, возникающие вследствие электрической активности мозга. Эти методы обладают хорошим временным разрешением (то есть способны регистрировать быстропротекающие процессы), но низким пространственным (за исключением электрокортикографии).

Сейчас для наблюдения за мозгом чаще всего используют обладающую высоким разрешением функциональную магнитно-резонансную томографию (фМРТ), основанную на явлении ядерного магнитного резонанса и позволяющую отслеживать активность различных областей головного мозга по уровню оксигемоглобина в местном кровотоке. Этот же показатель используется в функциональной спектроскопии в ближней инфракрасной области (фБИКС), где кора мозга просвечивается проникающим в ткани до 4 сантиметров пучком инфракрасного излучения, которое, частично отражаясь от внутренних структур мозга, воспринимается фотоприемниками.

С помощью фМРТ удалось идентифицировать 180 структурных участков коры, участвующих в выполнении различных функций, тогда как ранее было известно лишь 83 такие зоны. Современные аппараты фМРТ способны локализовать активность в зоне с линейными размерами порядка 1 миллиметра, содержащей в среднем 100 000 отдельных нейронов. В Калифорнийском университете в Беркли ведутся работы над аппаратом фМРТ с разрешающей способность 0,4 миллиметра. И это будет не просто техническое достижение. Дело в том, что кора головного мозга имеет модульное строение — состоит из вертикально ориентированных мини-колонок с сотней нейронов в каждой и диаметром примерно 28–40 микрон. Эти мини-колонки могут объединяться в гиперколонки, диаметр которых составляет как раз примерно 0,4 миллиметра. Так что достижение такого разрешения, позволяющего измерять уровень активности гиперколонок, означает принципиальную возможность качественного скачка в считывании мозговой активности.

Впрочем, возможно, удастся обойтись без громоздких аппаратов МРТ: в начале 2021 года исследователи из Калифорнийского технологического института опробовали на практике малоинвазивный способ считывания активности мозга, убрав у подопытных приматов небольшой участок в черепной коробке для установки окошка для ультразвука; им удалось распознать активность нейронов с разрешением 100 микрон (размеры нейронов могут колебаться от 4 до 130 микрон). Метод функционального ультразвука (fUS) основан на определении изменений интенсивности кровотока в сосудах мозга путем измерения скорости эритроцитов крови с помощью ультразвука. Предоставив обученной машинной нейронной сети данные об активности мозга, считанные с помощью функционального ультразвука, экспериментаторы смогли с вероятностью 80% предугадывать еще не совершённые действия обезьян. Для обучения машины использовались данные об активности мозга и связанных с нею мышечных реакциях подопытных приматов, полученные с помощью электрокортикографии в ходе многолетних экспериментов.

Но даже при том что нынешние машины уступают человеческому мозгу в том, что мы называем когнитивными способностями, информацию они способны обрабатывать со скоростью, намного превосходящей человеческие возможности. Алан Тьюринг в своей работе «Вычислительные машины и разум»[11] определил основу искусственной формы жизни, формулу, которая остается неизменной до сих пор. Любая машина может, в сухом остатке, сделать только три вещи: во-первых, получить информацию (данные) на вход; во-вторых, что-то с этой информацией сделать (посчитать, преобразовать, оценить, пометить и т.д.); в-третьих, передать куда-то дальше. Этот принцип, собственно, хорошо прослеживается в эксперименте с «китайской комнатой». С тех пор, как в 1960 году был создан перцептрон — первый прообраз искусственной нейронной сети (хотя сама математическая модель нейрона была предложена в 1943 году), этот подход дополнился тем, что информация оказалась способна сама превращаться в логику, а не просто обрабатываться — математики называют это статистической индукцией. При таком подходе искусственный нейрон реализует функцию активации — нелинейную функцию, преобразующую результирующую сумму сигналов на входе (с учетом порогового значения) в сигнал на выходе. Словосочетание «нелинейная функция» не должно пугать, зачастую это простые математические функции вроде пороговой или сигмоиды. Нейронная сеть, по сути, состоит из выстроенных в ряды математических функций, связанных друг с другом и передающих друг другу значения, зависящие от результатов предыдущих вычислений, как в схеме элементарного перцептрона (рис. 1).

В ходе обучения на примерах в нейронной сети между вершинами выстраиваются так называемые веса, определяющие силу связей, аналогично силе синапсов, между нейронами в смежных слоях, причем в ходе решения одного примера выполняется несколько итераций для минимизации ошибки (ведь правильный ответ в примере содержится). Но если в элементарном перцептроне всего один слой A-элементов, что делает задачу коррекции весовых коэффициентов по результатам каждой итерации достаточно простой, то в случае многослойных нейронных сетей процесс пересчета весовых коэффициентов требует уже достаточно сложной математики, в частности использования метода градиентного спуска. На практике это означает, что, если вы показываете ИИ фотографию красного квадрата, сначала оптическая система машины разбивает изображение на пиксели, превращая картинку в массив данных, содержащих информацию о цвете каждого пикселя в формате RGB. Затем, для упрощения работы с изображением, машина подвергает массив, описывающий картинку, бинаризации, то есть убирает сведения о цвете, заменяя их черно-белым изображением. Потом нейронная сеть распознаёт, что за фигуру видит, «понимает», что это квадрат (ибо перед этим обучалась на тренировочном наборе данных, содержащем пары «изображение геометрической фигуры — наименование геометрической фигуры», и в ее нейронной сети закрепились нужные весовые коэффициенты). Ну а задача сопоставления шестнадцатеричного кода RGB-пикселей внутри контура с названием цвета достаточно элементарна, и в итоге машина говорит человеку на выходе: «Это красный квадрат». Все, чем занимаются современные дата-сатанисты (так на жаргоне называют специалистов по данным, data-scientists), — это подбор параметров нейронной сети (количества нейронов, слоев, начальных весов связей, функции активации, зачастую еще требуется введение в схему так называемых нейронов смещения), выбор метода оптимизации градиентного спуска, нахождение оптимальных весов связей между нейронами путем тренировки на тщательно отобранных наборах данных (что само по себе представляет сложную задачу). Этот итеративный процесс нахождения нужных весов требует огромного количества обучающих примеров. Наш мозг действует схожим образом: между нейронами за счет анализа входящих данных, приходящих в мозг со всех органов чувств, связи со временем усиливаются, ослабляются, ежедневно возникают новые и исчезают старые (поэтому мы что-то забываем), и, помогая ИИ перейти от ANI к AGI, мы делаем нейронные сети все более сложными и обучаемыми.

Многие думают, что искусственный интеллект — это нечто, что есть только у Google или Amazon. Вовсе нет. Как мы уже обсудили в самом начале, многие концепции работы и обучения современных ANI (ИИ узкого применения) придуманы еще в 1950–1960-х годах, а методы реализации начали крайне бурно развиваться аж 20 лет назад — просто для сегодняшних масштабов нужны были качественно иные вычислительные мощности и появление нейронных сетей (наследников перцептрона). Многие успешные модели, алгоритмы, программные решения и библиотеки попадают в сеть, в открытый доступ. Сегодня, если постараться, можно найти готовое решение для массы задач — от распознавания штрихкодов на продукте питания до предсказания опоздания вашего самолета (серьезно!). Самые продвинутые и популярные продукты (библиотеки, сервисы, фреймворки) — это, безусловно, TensorFlow от Google, PyTorch от Facebook, IBM Watson Machine Learning, Microsoft Azure Machine Learning — здесь[12] приведена дюжина основных. Самая богатая подборка[13] готовых к использованию ИИ-библиотек и программных модулей на момент написания этой книги содержит 372 SDK (наборов средств разработки), 11 библиотек, 318 программ с открытым исходным кодом. Любой желающий может прямо сейчас зайти в сеть и собрать свою первую нейронную сеть за считаные часы. Безусловно, тут потребуются базовые знания программирования, но в Сети масса интересных курсов, например на Coursera.org — обычно в течение месяца можно освоить начальный уровень программирования на языке Python, а затем можно пройти курс по data-science. Существует и социальная сеть Kaggle для интересующихся машинным обучением, предоставляющая инструментарий для разработок, там можно поучаствовать в совместных проектах и конкурсах. То есть сегодня каждый в течение отпуска может научиться решать прикладные задачи с использованием искусственного интеллекта ANI. Безусловно, вещи вроде AGI могут позволить себе только титаны рынка и только в секрете — ибо на этом уровне начинается игра по завоеванию уникального конкурентного преимущества (а по факту — завоеванию человечества на этом уровне). Но что касается нишевых применений, сегодня многие нерешенные проблемы упираются не в то, что человечество не понимает, как их решать, а просто в отсутствие достаточно значимой выборки (размеченной базы данных) для обучения. Отчасти поэтому, например, профессия археолога пока находится в меньшей опасности: ИИ вряд ли сможет заменить в ней человека в обозримом будущем, ибо она подразумевает слишком большой спектр разношерстных знаний и умений — от чтения шумерских текстов до умения управляться с хлыстом — Индиана Джонс, конечно, кладезь стереотипов, спасибо Стивену Спилбергу ☺

Никакая нейронная сеть или алгоритм (причем это касается и человеческого мозга) не могут работать без входящих данных. Без данных машине нечего обрабатывать, она ничему не может научиться и сам смысл ее существования отсутствует. Поэтому все 100% компаний, декларирующих, что они как-то связаны с искусственным интеллектом, в первую очередь ставят на поток сбор данных. Профильных и не очень. С людей и автоматических датчиков, фитнес-браслетов, сотовых станций, машин, турникетов метро, светофоров, медицинских МРТ-сканеров, порносайтов и еще много чего.

Развитие искусственного интеллекта идет полным ходом, он становится все более совершенным, ибо мы находим все более эффективные способы его обучать. У этого процесса есть много драйверов — это не только эволюционные процессы, о которых мы говорили в первых главах, но и крайне узко мыслящие, решающие прикладные проблемы заказчики: военные, фармацевтические гиганты, политические силы, маркетологи, соцсети и т.д. Поскольку эти инстанции решают конкретные задачи, связанные с монетизацией и выручкой, которую можно оценить в долларах, евро, рублях, юанях и фунтах, с политическим влиянием, измеряемым в голосах избирателей, или с достижением военного преимущества, определяющим вероятность победы в бою и дающем козыри при утверждении нового бюджета на «оборону», — они очень гордятся своей практичностью, приземленностью и конкретностью, а на попытки осмыслить общую картину, взглянув на все это со стороны, просто не остается времени и сил. Однажды на крупной международной конференции в приватной беседе во время кофе-брейка, я спросил генерала, фамилию и родину которого он попросил в книге не упоминать: «Вы понимаете последствия внедрения ИИ в системы автоматической идентификации и поражения целей для человечества в целом?» Он ответил: «Евгений, у меня нет задачи защищать человечество в целом, у меня есть задача защищать граждан страны Х. О человечестве пусть думает ООН, если им так хочется. Но это не моя работа». Это в целом все, что вам надо знать о большинстве заказчиков ИИ-разработок: общая картина им недоступна, да и видеть ее они не хотят. Им за это не платят. Проблема вот в чем: неважно, какую задачу решают инженеры заказчика, ее выполнение невозможно без «топлива» для ИИ. Это «топливо» — данные. А производим их в основном мы с вами.

Понять наши поведенческие паттерны (как работает наш мозг, что вызывает в сознании человека определенные ассоциации и реакции), смоделировать мыслительный процесс, просчитать поведение человека, сделать его предсказуемым сегодня пытаются все — государства, соцсети, бизнесы, спецслужбы — все подряд. И ни примитивность современных суперкомпьютеров, ни огромные затраты не смущают основных заказчиков этих исследований и экспериментов. Ибо, помимо очевидного инструментария управления и манипуляции, понимание принципов работы человеческого сознания и расчет возможных линий поведения, пусть и с погрешностью, — это огромные деньги, объем которых даже трудно представить. Потенциально речь идет о рынке в триллионы долларов. Английский публицист XIX века Томас Даннинг писал: «Но раз имеется в наличности достаточная прибыль, капитал становится смелым. Обеспечьте 10%, и капитал согласен на всякое применение; при 20% он становится оживленным, при 50% положительно готов сломать себе голову; при 100% он попирает ногами все человеческие законы; при 300% нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы»[14]. Именно это, на мой взгляд, сегодня и происходит.

Безусловно, самую большую ценность представляют выводы, извлеченные из данных (о чем мы детально поговорим чуть позже), так же, как бензин и авиационный керосин стоят дороже, чем сырая нефть. Но основа основ любого искусственного интеллекта — это именно сырые данные, которые превращаются в настоящую цифровую нефть, когда их кто-то или что-то размечает по конкретным признакам. Именно размеченные данные — это когда кто-то (человек или уже заряженный на узкую задачу ANI) смотрит на последовательность действий подключающегося к платежной системе пользователя и помечает, что это выглядит подозрительно, или констатирует, что это место на рентгене похоже на опухоль. Когда данные размечены, вы можете ставить машине очень конкретные прикладные задачи — проверить надежность заемщика, определить нарушителя на дороге по шраму на лице, делать еще миллион вещей и зарабатывать на этом деньги, манипулировать общественным мнением или… да мало ли что? С данными и прогрессивным ИИ в теории для вас нет вообще ничего невозможного. Поэтому за данные сегодня идет настоящая война, у которой есть свои причины и следствия. Но, прежде чем в них окунуться, необходимо понять, какие данные вообще бывают, из чего состоят и кто уже имеет к ним доступ. Чтобы в этом вопросе разобраться, мне в 2015 году пришлось стать киборгом. В каком-то смысле…

ИИ, который научился обходить двери

Илон Маск долгое время в интервью, подкастах, твиттере продвигал тему опасности ИИ. В частности, со сцены выставки SXSW в марте 2018-го он сказал: «За разработкой ИИ должен быть установлен контроль со стороны публичной и независимой международной организации, которая в любой момент времени сможет подтвердить, что все ведущиеся разработки безопасны. Это очень важно. Я думаю, что опасность ИИ намного превосходит опасность ядерных боеголовок — потому делать новые ядерные бомбы мы всем желающим и не разрешаем! Это было бы идиотизмом!»[15] Но в определенный момент он начал заниматься им сам — компания OpenAI, где он стал сооснователем, вступила в гонку. Ведущий популярного подкаста Джо Роган спросил Маска о том, почему тот так поступил, ведь он всех долгое время предостерегал от подобных шагов. Илон Маск ответил: «Я очень много раз пытался всех убедить затормозить разработку ИИ. Разработать сначала механизмы регулирования. Я объяснял, почему это опасно, даже встречался с сенаторами. Но все оказалось бесполезно. Никто меня не слушал. …И я стал фаталистом в этом вопросе — я не могу ничего остановить. Я могу лишь участвовать». Так вот, его собственный проект OpenAI в 2020 году начал демонстрировать зачатки тех возможностей ИИ, о которых предостерегал Илон. Один из модулей ИИ учился прятаться, а другой — искать. И тот, что пытался скрыться, научился прятаться в виртуальном лабиринте за ящиками и перекрывать ими двери, чтобы его не нашли. После недолгого обучения модуль поиска, найдя пандусы, начал с их помощью перелезать по верху. Безусловно, это просто иллюстрация возможностей работы так называемой умной мультиагентной системы. Представьте, что будет лет через десять? А в 2222 году?

В которой я вживляю себе в руку биочип ради правды об интернете вещей

Прежде чем начать описывать типы данных, что о нас собирают все кому не лень, я хочу рассказать вам собственную историю — как я пришел к пониманию глубины проблем, связанных с личными данными. До того, как основать свою компанию, я более пяти лет был топ-менеджером в индустрии кибербезопасности. Это стало причиной определенной профессиональной деформации — ведь, когда сидишь в передовом окопе интернета и первым видишь все угрозы — вирусы, кибероружие, ИИ на службе преступных группировок и хакеров, выводящих из строя центрифуги для обогащения урана, поневоле начинаешь становиться параноиком. Это сослужило мне хорошую службу.

Вся история развития индустрии кибербезопасности — это летопись противоборства брони и снаряда: хакеры постоянно придумывают оригинальные трюки, защитники изобретают ответные меры и пытаются уйти на шаг вперед. Так продолжается бесконечно, так было есть и будет. Black Hat — крупнейшая в мире конференция по кибербезопасности, уникальное место, чем-то напоминающее космопорт планеты Татуин из «Звездных войн» или Блук из мультфильма «Тайна третьей планеты» по повести Кира Булычева: вокруг тысячи людей из сотни стран, на вид добрые, приветливые и улыбчивые, но на деле все носят маски: «белые» хакеры, взламывающие сети во имя добра[16], «черные» хакеры, скрывающиеся под вымышленными именами, сотрудники всех на свете спецслужб, маскирующиеся под зевак, журналистов и бизнесменов, хактивисты, адвокаты, какие-то пронырливые личности. Причем «ломают» тут всё и всех. Бывали случаи, когда «внезапно» переставали работать лифты отелей с ключевыми спикерами внутри, рекламные щиты начинали показывать порно, проекторы проецировали на стены «списки позора» посетителей, чьи цифровые личности взломали на выставке из-за того, что те не уделяли внимания киберзащите. Эти списки включали имена, контакты, место работы, частную переписку и номера кредитных карт.

Периодически прямо на конференции появляется спецназ ФБР с мегафонами и автоматами — группа захвата SWAT с помпой проводит задержание именитого хакера, которого удалось вычислить спустя годы оперативной работы. Всегда весело! Одна из главных ценностей мероприятия в том, что четыре дня перед официальным началом в помещениях конференции идут профессиональные тренинги лучших в мире экспертов по взлому и защите — можно научиться чему-то очень конкретному на практике. Взламывать приложения для Android, защищать роутеры корпорации, в которой работают 50 000 человек, пользоваться социальным инжинирингом для манипуляций человеческим поведением, обходить защиту доменной учетной записи Windows, научиться быть невидимым в Сети… можно выбрать любой из десятков уникальных образовательных курсов.

Я регулярно посещаю их, чтобы не стоять на месте и профессионально развиваться. Летом 2014 года я в очередной раз по работе оказался на Black Hat. На одном из занятий по поиску уязвимостей в медицинских устройствах тренер показал результаты своего исследования возможности взлома конкретного типа устройств. Он, будучи диабетиком, жил с беспроводной инсулиновой помпой — небольшим устройством, что крепится к телу гипоаллергенным пластырем, настраивается через смартфон и самостоятельно вводит под кожу инсулин в течение дня. Так вот, он показал, что даже не очень опытный хакер может в теории обойти защиту помпы и ввести летальную дозу инсулина, имея все шансы избежать наказания за убийство. Я помню, что его вывод взорвал мне мозг. Именно в тот момент я понял, что вся эффектная реклама интернета вещей (Internet of Things, или IoT) лишь красочная ширма, а за ней скрываются проблемы, о которых никто не хочет говорить, ибо их решение требует крайне высокого уровня компетенций и массы усилий. Я был уверен, что вопросы киберзащиты в тех же медицинских девайсах стоят на первом месте; оказалось, это не так: программисты и маркетологи — это в большинстве своем представители разных биологических форм жизни из разных частей Галактики, они говорят на разных языках и редко способны понять друг друга. Маркетологи продают продукт, поэтому техническая лексика системных инженеров, изобилующая жаргонными словечками вроде «пентест» (проверка продукта на устойчивость к взлому), «багхантинг» (программа премирования фрилансеров-хакеров за найденные уязвимости), zero-day (невыявленная на стадии тестирования и неустраненная уязвимость в коде), их раздражает — они не хотят думать о проблемах, ибо их нельзя включить в рекламный буклет. Разработчиков же, в свою очередь, изрядно бесит терминология «маркетинговой воронки», «вау-эффектов» и «роста прибыли за счет снижения издержек», особенно в том случае, когда кибербезопасность с точки зрения издержек имеет меньшую важность, чем дизайн упаковки. От тяги маркетологов продавать сырые и недоработанные с точки зрения безопасности продукты у инженеров попросту коротит мозги.

Результат этой пропасти между мирами — постоянная битва за то, что важно при работе над продуктом. Поскольку департаменты продаж и маркетинга в компаниях де-юре отвечают за прибыль, то и споры о том, на что лучше тратиться, они выигрывают гораздо чаще. Технарей же просят не паниковать и фокусироваться в первую очередь на том, что пользователь видит каждый день. Это они и делают. Так и живем — все вроде бы хорошо выполняют свою работу, но по факту огромное количество дыр в кибербезопасности не уменьшается, а наоборот — растет.

После тренинга я начал более тщательно изучать вопрос безопасности IoT, пытаясь понять, насколько «дырявость» — повсеместное явление. Оказалось — куда ни плюнь, везде засада. Например, два эксперта по безопасности Чарли Миллер и Крис Валасек в июле 2015-го наглядно продемонстрировали, что не только беспилотные, но даже обычные автомобили потенциально крайне опасны: они смогли удаленно получить доступ к бортовому компьютеру новенького Jeep Cherokee и довести до истерики журналиста журнала Wired Энди Гринберга, который был за рулем и пытался сохранить самообладание в ситуации, когда его машину могли в любой момент отправить в кювет. Дырявая защита многих дронов-квадрокоптеров позволяет перехватывать управление и угонять их, игровые приставки и стриминговые сервисы ломали не раз, Apple и Microsoft рапортуют о новых устраненных уязвимостях практически каждый день… Хакеры не раз взламывали электрокардиостимуляторы для сердечников, демонстрируя возможность убийства их пользователя. Бывший вице-президент США Дик Чейни признался, что отключил беспроводной интерфейс своего кардиостимулятора еще в 2007 году, когда понял, что злоумышленники теоретически могут удаленно взломать его и убить. Подобная возможность была обыграна сценаристами в одном из эпизодов нашумевшего сериала «Родина». Но все это меркнет на фоне нашумевшего случая со взломом и выводом из строя центрифуг для обогащения урана в иранской ядерной программе при помощи кибероружия Stuxnet, обнаруженного в июне 2010-го. Вот уж где стало страшно — потенциал масштабной экологической катастрофы оказался в руках группы людей, удаленно нажимающих кнопки на клавиатуре, — никаких ракет или ударов с авианосцев, код работал тихо и незаметно.

Я изучал все эти и другие примеры, и оптимизм по поводу светлого будущего, априори присущий всем, кто работает в индустрии ИТ, начал постепенно сменяться пульсирующей тревогой. Стало очевидно, что мы к глобальному внедрению интернета вещей попросту не готовы — в мире огромное количество разрозненных стандартов и протоколов, в которых хакеры могут легко сверлить свои дыры; отсутствует поставленное на поток обучение высокоуровневых экспертов по кибербезопасности в нужных миру объемах, и, как следствие, ощущается их хроническая нехватка; распространена банальная лень или отсутствие нужной квалификации сисадминов, не закрывающих дыры в системах, даже когда о них хорошо и заранее известно.

Огромная недофинансированность индустрии защиты многократно демонстрируется на практике (затраты компании на маркетинг могут в тысячи раз превышать расходы на обеспечение безопасности существующих клиентов) — и все это безобразие происходит на фоне постоянной тотальной слежки за каждым пользователем сети через телефоны, сервисы и приложения с последующей продажей и перепродажей данных и поведенческих портретов (это не считая хакерских краж номеров кредитных карт, кредитных рейтингов и цифровых личностей). Как можно ситуацию, в которой человека в любой момент могут обворовать, отследить каждую его мысль, клик или перемещение, подделать его поведение или даже убить через дистанционно управляемое устройство, можно назвать светлым будущим?

До той роковой поездки на Black Hat я довольно много сил уделял попыткам обучения и оповещения пользователей сети об окружающих угрозах и потенциальных инструментах защиты. Но, глядя на взломанную инсулиновую помпу и представляя разрушенные ядерные центрифуги, я понял, что мои усилия, как и усилия многих коллег по индустрии, — это пшик, не более чем еле заметный шум в общем информационном пространстве: в мире тысячи экспертов по любому вопросу, в том числе по кибербезопасности, масса ток-шоу, блог-постов, призывающих что-то менять, но обычно дальше слов дело не идет. Ведь если у человека нет лично пережитого опыта, он много теоретизирует, но мало знает, а следовательно, грош цена такому мнению. Мне же захотелось реально что-то изменить — жизнь коротка, и надо потратить ее на то, что поможет нашим детям и внукам выжить. А если повезет — и пожить, помогая Вселенной развиваться, усложняться и совершенствоваться. И для этого мне мало было просто иметь мнение, нужен был личный опыт, нечто осязаемое, на своей шкуре испробованное.

Чтобы привлечь внимание к проблеме безопасности интернета вещей, управляющего им искусственного интеллекта и, что важнее, к практике абсолютного пренебрежения правом на неприкосновенность личного пространства в сети (оно же приватность), я решил пойти на радикальный шаг — стать частью интернета вещей, постоянно подключенным к сети человеком. То есть на себе испытать, с какими эмоциями будут ложиться спать наши навсегда интегрированные в сеть внуки. Для этого я решил вживить в руку биочип. Смысл такой же, как у высадки человека на Луну — до того, как Нил Армстронг ступил на серую пыльную поверхность спутника Земли, десятки тысяч ученых теоретизировали, как может выглядеть прогулка по Луне. У Нила не было своего мнения, у него появился реальный опыт, который перевешивал сотни тысяч гипотез теоретиков. Вот и я сегодня слушаю многие высказывания экспертов об IoT с изрядной долей здорового сарказма, потому что многие рассуждают об этих устройствах, думая и надеясь, что к их личной безопасности проблемы каких-то там инсулиновых помп, умных телевизоров или дронов отношения иметь не будут. Они видят только деньги. Я же знаю наверняка, что проблем море и они касаются каждого. Небольшой подкожный микрочип размером 2×12 миллиметра с антенной и памятью, упакованными в гипоаллергенное биостекло, открыл мне дорогу в Страну чудес Льюиса Кэрролла — чем глубже я падал в кроличью нору (больше узнавал), тем больше неизвестного мне открывалось.

Любопытно, что сама идея вживить биочип пришла немного незапланированно — после очередного глобального мероприятия по кибербезопасности я сидел в пабе с другом, шведом Повелом Торуддом, на тот момент главой европейской пресс-службы Kaspersky, обсуждая с ним проблемы индустрии. Я в тот момент возглавлял мобильный бизнес компании и международный маркетинг. Где-то к двум часам ночи, выпив по несколько пинт эля, мы, собственно, и осознали, что единственный способ получить действительно уникальное и действенное знание об интернете вещей — это приобрести личный опыт интеграции в него в качестве научного эксперимента. Мы на салфетках начали рисовать разные способы этой самой интеграции и под утро, когда в ход пошел уже 24-летний Macallan, идея с биочипом казалась мне совершенно гениальной.

Обычно такие ночные брейнстормы ни к чему конкретному не ведут, — уверен, в вашей жизни нетрезвые споры тоже случались, но в этот раз все пошло иначе: я проснулся полным уверенности в правильности выбранного пути, и мы начали действовать. Наметили место и время имплантации, выбрали чип из доступных технологий на рынке, продумали стратегию. Самым сложным было найти врача, который должен был согласиться имплантировать крипточип живому человеку. Изначально мы хотели сделать это в США, но все врачи крутили у виска и отказывались, ибо страховые риски ни одна компания на себя брать не была готова. И тогда… пришлось обратиться к помощи мексиканского мастера пирсинга, который послушал рассказ про нашу задачу, что-то долго считал и в итоге сказал: «Ммм, крипточип? Это будет дорого — 50 баксов, гринго». Вместо анестезии была предложена текила. С мастером пирсинга можно было начать эксперимент с минимумом проволочек и всего за $50 — мечта любого исследователя.

Сама процедура прошла очень легко — я заблаговременно проконсультировался с врачом и выяснил, что между большим и указательным пальцами находится очень мало нервных окончаний, поэтому при имплантации сюда не больно.

«Приказ 66», или Можно ли через биочип управлять человеком?

Мозг человека — это «черный ящик», к которому тянутся провода — от глаз, ушей, носа, языка и всех нервных окончаний на коже. Получая огромное количество информации на вход, мозг ее преобразует для начала в электрические импульсы (шестилетняя дочь одного моего друга искренне думала, что мозг понимает, чем пахнет клубника, потому что запах клубники через нос прямиком на мозг дует — не будем повторять ее ошибок ☺, а потом в некую мысленную картину, которую мы можем осознать. Очень важно понимать, что, когда вы кусаете банан, смотрите на закипающий чайник или прикасаетесь к клавиатуре ноутбука, ни банан, ни чайник, ни ноутбук не начинают вами управлять. Все человеческие органы чувств построены таким образом, что передают «на вход» в мозг очень ограниченный тип информации — только тот, что умеют. И каждый тип информации обрабатывается теми участками мозга, которые специализируются на строго определенных сигналах. Условно говоря, уши не могут вам передать изображение, а вкусовые рецепторы на кончике языка — пропеть концерт Вивальди. Когда речь идет о взаимодействии человека с любой современной электроникой, виды контакта ограничены; даже если ноутбук или телевизор вдруг захотят вам послать некий набор команд, ни ваша кожа, ни глаза, ни один из органов чувств не смогут этот поток расшифровать, понять и передать в мозг. Современные биочипы, например тот, что у меня в руке, гораздо примитивнее телевизора. В маленькую капсулу 2×12 миллиметра, состоящую из биостекла (по сути, это красивое название для прочного гипоаллергенного пластика), упакован небольшой модуль памяти (около 1 килобайта), шина ввода/вывода информации и антенна NFC, способная на частоте 13,56 мегагерц передавать информацию на чип и обратно. При этом аккумулятора у чипа нет и быть не может — в противном случае носителю (человеку) пришлось бы заряжаться от розетки хотя бы раз в день, — поэтому большую часть времени он спит летаргическим сном и ничего не делает. Он получает энергию непосредственно от прибора, с которым взаимодействует, — от электронного замка (который подключен к электросети помещения), от NFC-ридера смартфона (у которого есть батарейка), от ручки двери автомобиля (которая подключена к его аккумулятору). Без электричества в чипе нет жизни. Очень важен тот факт, что чип находится в изолированной капсуле и никакой связи с нервной системой человека не имеет и иметь не может. Может ли в таких условиях чип управлять человеком? Представьте, что вы купили новый iPad, а потом засунули его в дупло дерева. iPad уже начал управлять дубом? Конечно, нет! В природе все работает по законам физики. Современные биочипы очень примитивны. Я привел этот пример просто для наглядности, но в реальности человеческое тело на несколько порядков сложнее дерева, а чип на несколько порядков тупее, чем iPad, поэтому вопрос «может ли чип управлять человеком?» можно перефразировать скорее как «может ли тамагочи, зарытый в землю на метр, управлять планетой?».

Текущее инженерное состояние технологии помогает исследователям вроде меня понимать вектор его движения. Увидеть будущее — понять, как будут жить наши дети и внуки, когда отключиться от Сети уже будет невозможно просто потому, что на нее будет завязано почти все, а бумажных и старинных способов что-то сделать при помощи, например, паспорта, самолично придя в банк или отделение полиции, уже не останется. Многие из экспериментов абсолютно реальны — действительно, подкожная капсула способна заменить проездные, документы, ключи, пароли на сайтах и мобильных устройствах и еще много чего. И об этом в Сети лично мной написано огромное количество постов и даны тысячи интервью — честных, открытых. Но чего точно нельзя сделать при помощи биочипа — это контролировать волю и сознание человека. Для этого нужно найти способ подключиться к нервной системе «в обход» текущей схемы с руками, глазами и т.д. — напрямую к мозгу. А где у мозга розетка для подключения — мы, люди, пока не поняли. Так что опасаться тотального контроля при помощи чипирования не стоит, для этого используются не чипы, а нечто посильнее. И об этом мы поговорим в последующих главах.

Однако нельзя сказать, что сама возможность интеграции в организм некоторого чипа, который сможет изменить принципы ввода-вывода информации, абсурдна. Она, может, и казалась такой до появления Илона Маска. При его участии в 2016 году была основана компания Neuralink, которая специализируется на создании BMI (brain-machine interface), или «интерфейса между мозгом и машиной». Принцип работы этого нейроимпланта описан и находится в публичном доступе[17]. Чип Neuralink — это уже совершенно другой класс устройств — первая версия представляла собой чип размерами 23×18,5 миллиметра с 3072 золотыми электродами, выполненными в виде очень тонких волосков и размещенными на 96 полимерных нитях. Новая версия, продемонстрированная в августе 2020 года, немного поменьше (23×18 миллиметра), но и количество электродов сократилось до 1024. Чип подключается напрямую к моторной коре мозга, что само по себе не ново и известно как электрокортикография. Принципиальная новизна заключается в роботизированной процедуре установки электродов. Сам Илон описывает процедуру так: «На затылке надо выпилить кусочек черепной коробки размером с чип Neuralink и это отверстие им закрыть, предварительно погрузив электроды в нужные участки мозга». Эта технология разрабатывается в первую очередь для того, чтобы в перспективе люди с травмами мозга и повреждениями центральной нервной системы (с болезнями Альцгеймера, Паркинсона, инсультами, параличом) могли полноценно коммуницировать с миром: во-первых, чип сможет стимулировать поврежденные участки мозга электрическими импульсами, близкими к натуральным, тем самым восстанавливая активность (в теории), а во-вторых, сможет дать человеку возможность силой мысли посылать информацию в сеть и (в теории) принимать информацию на вход — то есть чип Neuralink может стать еще одним органом восприятия входящих данных, наряду с глазами и ушами. В итоге, если у Neuralink получится, мы сможем полностью и навсегда избавиться от смартфонов, клавиатур и, если честно, необходимости говорить, ибо все вербальные коммуникации можно будет осуществлять мысленно и параллельно. Представьте, что мысленно отвечаете всем своим контактам в чате Telegram и читаете ответы без дисплея. И это только один пример применения технологии. Человек, может, с удовольствием переключится на такой интерфейс, но вопросов о безопасности, приватности и других — миллион.

Но даже в случае с чипом Neuralink никто не сможет удаленно захватить управление волей человека. Почему? Потому что те, кто хочет манипулировать нашими поступками, уже это делают.

После имплантации я почти немедленно раскланялся перед группой поддержки и мексиканским гуру пирсинга, дабы скорее отправиться в отель — мне не терпелось начать экспериментировать с чипом. Правда, ничего умнее, чем записать в его память фразу «Yes, androids do dream about electric sheep!» («Да, андроиды мечтают об электроовцах!») в качестве мысленного ответа культовому писателю-фантасту Филипу Дику, роман которого[18] лег в основу культовой кинокартины про ИИ — фильма «Бегущий по лезвию», я в тот вечер не смог придумать. Просто потому, что реально нервничал, не знал, с чего начать, и одновременно подумывал взять ножик и выковырять чип из руки. Но я себя успокоил тем, что все новое и непонятное всегда сначала воспринимается как опасность и это чувство паники попросту надо пережить, тем более что в будущем бионические импланты будут повсеместно распространены (короче, пришлось еще раз напомнить себе, зачем я это делаю). Еще пришла забавная мысль, что таких людей, как я, всего 500 лет назад без всякой жалости сожгли бы на костре просто за сам факт наличия нестандартных мыслей или желаний.

На следующий день мандраж прошел и вернулась способность конструктивно соображать — я быстро нашел способ запрограммировать чип на разблокировку смартфона, войти в соцсеть и… пошло-поехало. Так начались бесконечные эксперименты с тем, чтобы увидеть, каким будет «этот дивный новый мир». За пять лет их были сотни.

Дело в том, что все современные электронные ключи от офиса или автомобиля, проездные карты, токены входа в подъезд, учетные записи социальных сетей и т.д. — словом, все компьютерные системы работают по одной и той же базовой схеме аутентификации: чтобы войти в дом, в офис, в метро или на сайт — неважно, надо передать сервису или гаджету некую случайную последовательность символов — ваш уникальный ключ. Обычно эти ключи генерируются машиной при вашей помощи: вы придумываете пароль, и он хешируется, то есть путем математических преобразований превращается из имени вашего домашнего питомца и года рождения в абракадабру вроде 0a8s12as312dsfwf999asdfp174g11jfbo1paugaiyf1gugwef — для этого существуют определенные алгоритмы. Отпечаток пальца или рисунок радужной оболочки не исключение, и это делает эти методы авторизации не самыми безопасными (об этом мы поговорим в главе про кибербезопасность). Довольно просто работает и хранение данных: каждое приложение фиксирует все ваши движения — от координат тапов по экрану до перемещений, сотовый оператор записывает в свои базы данных всю вашу историю переписки и движений, браузер — куда вы заходили, что искали, где авторизовались — в результате в мире существуют тысячи маленьких хранилищ кусочков ваших данных, и в большинство из них мы с вами авторизуемся разными учетными записями, ибо они друг с другом несовместимы и сервисы неохотно обмениваются друг с другом именно учетными записями — ведь именно они представляют для бизнеса огромную ценность (через учетную запись с вами можно связаться). Так что у массы сервисов есть разрозненные куски информации о нас — когда мы приходим, что делаем, что покупаем, с кем говорим. При помощи биочипа я попытался собрать все это в один «сундучок» — мой, личный, зашифрованный, в котором бы хранилось и куда складывалось все, что принадлежит мне, — то, что сейчас разбросано по сети. Не то чтобы такого хранилища нельзя было сделать без чипа, но биочип подарил уникальный опыт, в том числе психологический — оказалось, что, когда «все свое ношу с собой», твое отношение к данным меняется. Ты физически ощущаешь право собственности — «мое, я сгенерировал, сказал, сделал, искал, и это записалось в мой личный сейф» — и начинаешь совершенно иначе относиться к кибербезопасности, приватности и защите: это становится не абстракцией, за которую кто-то просит денег, а вопросом личной гигиены — для меня защищать свои данные стало такой же естественной привычкой, как мыть руки или запирать дверь квартиры на ночь. Эти изменения в поведении и мировосприятии запустили и другие механизмы — я начал задавать довольно много вопросов о работе некоторых составляющих интернета, в частности трекинга, и не могу остановиться по сей день. Эта книга, возможно, сможет «разбудить» и кого-то из вас.

Когда началась моя жизнь в качестве «киборга», мне стало совершенно очевидно, насколько мы ленивы и быстро привыкаем к хорошему — при помощи чипа удалось достигнуть многообещающих результатов в эмуляции конкретных сценариев недалекого будущего. Я научился открывать любую дверь жестом, разблокировать смартфон касанием, логиниться на любой сайт просто присутствием у компьютера — без всяких логинов и паролей, избавился от документов, ключей, проездных для метро, паспорта, прав, офисных пропусков и дисконтных карт, бумажника, визитницы, записной книжки с телефонами — короче, доброй половины содержимого сумки. Все потому, что и паспорт, и права, и, собственно говоря, любой бумажный или пластиковый документ сегодня не имеют никакого смысла. Взять, к примеру, загранпаспорт с визой — вы выходите из самолета и идете на пограничный контроль, протягиваете паспорт. Пограничник использует его, чтобы задать вопрос базе данных: «Джон Сноу имеет право пересечь границу нашей страны?», и ему приходит ответ — «да» или «нет». Сам паспорт при этом выполняет функцию не сложнее, чем учетная запись электронной почты. С правами происходит то же самое — когда вас останавливает сотрудник дорожной полиции, вы даете ему водительское удостоверение, но он использует нанесенные на него цифры и буквы, чтобы «пробить» вас по базе данных и получить ответ — злостный вы нарушитель или чисты, как декабрьский снежок. Сама пластиковая карточка, по факту, и не нужна. Без электронных баз данных современные документы бесполезны и непригодны, то, что мы ими пользуемся, — не более чем анахронизм. Я понял это, когда добрая половина моего рабочего портфеля поместилась в небольшом подкожном контейнере, что существенно упрощало жизнь меня как человека версии 2.1, постоянно подключенного к интернету вещей. Я мог касанием и жестами делать все то, для чего обычным людям нужны ключи, карточки, смартфоны и бессмысленные с компьютерной точки зрения пластиковые документы с примитивными текстами и отсутствием всякого шифрования. Подробнее об экспериментах и выводах из них можно узнать, посмотрев лекцию TEDx на русском или английском.

С этой же темой я позже выступил на TED New York.

Физически я всегда чувствовал себя прекрасно: никакого дискомфорта чип не доставлял и не доставляет по сей день — в конце концов, он работает по принципу «китайской комнаты», который мы обсуждали ранее, — может принять информацию на вход, что-то с ней сделать или просто сохранить и выдать сохраненное, когда спросят. А вот морально мне в определенный момент стало не по себе. Случилось это, когда эксперимент по воссозданию цифрового следа в том виде, в котором его получают социальные сети, поисковики, провайдеры связи, спецслужбы и т.д., начал показывать размер и детальность этого отпечатка и потенциал его использования. Этот эксперимент подразумевал следующие условия: я веду свой нормальный образ жизни — пользуюсь интернетом, кредитками, машиной и т.д., с единственным условием: использую свой биочип как условно единственный и уникальный интернет-профиль, единую учетную запись, в которую записывается все мое поведение. Причем речь не только об интернет-трафике, истории поисковых запросов и платежей, а обо всем — какими маршрутами я езжу и куда, с кем говорю, как набираю текст, какие опечатки делаю, каково мое сердцебиение, реакции, предпочтения, статистика авторизации в разных интернет-сервисах, время, что я провожу читая новости и играя в компьютерные игры.

Я хотел понять полный объем той информации, которая так или иначе уже собирается о каждом интернет-пользователе провайдерами, социальными сетями, поисковиками, производителями многочисленных приложений для смартфона, правительствами разных стран, брокерами данных и еще много кем — то есть я захотел узнать то, что про каждого из нас и так знают, но скрывают детальность этой информации и явно многое недоговаривают про ее ценность. Для большинства людей понятие «пользовательские данные» носит абстрактный и непонятный характер — почти все мы до сих пор легко расстаемся с ними в обмен на условно бесплатный сервис.

На самом деле нет такого понятия, как «бесплатный» продукт или сервис. Если продукт бесплатный, значит, истинную ценность для компании представляете вы сами. И компания считает, что сможет заработать на вас столько денег, сколько вы даже не подозреваете. Продукт всегда подразумевает ту или иную форму оплаты. Например, «бесплатный» YouTube заставляет смотреть рекламу и человек фактически платит своим жизненным временем — самой конечной и невосполнимой из валют. Следовательно, продукт не бесплатен, ибо взамен на функционал Х у человека отобрали время Y и потенциал Z (изменили аутентичный план человека на рекламируемый). Для меня ситуация с чипом под кожей превратила данные моего цифрового следа из абстракции в реальную проблему: я четко осознал, что я каждую секунду произвожу информацию — статистические, биометрические данные и метаданные — физически, своими действиями, поступками, мыслями, общением. Причем, в отличие от сегодняшней ситуации, когда я в теории еще могу отключиться от сети, выбросить смартфон в океан и продолжать быть частью социума, для общества 2030+ сие будет невозможно. Цифровые аналоги паспортов, ключей от дома и машины, учетных записей, сейфа со всей историей покупок и банковских транзакций, история прививок и болезней, страховых обращений и извращенных порнофантазий — все будет сначала в смартфонах (ближайшая перспектива), а затем в двух ипостасях — часть будет храниться и использоваться в формате бионических имплантов (буквально у нас с вами под кожей), а часть станет собственностью государства и инфраструктуры (например, камеры наружного наблюдения с функцией распознавания лиц смогут работать везде и всегда, вне зависимости от того, есть у вас в кармане смартфон или биоимплант под кожей).

Чип позволил мне не просто понять, но совершенно иначе почувствовать, как эти данные используются без моего ведома и осознанного, добровольного разрешения (в следующей главе мы поговорим про приватные данные). По факту, данные юридически и технически принадлежали всем, кроме меня. Кликая «Я согласен» на пользовательском соглашении, включая новый смартфон или устанавливая новое приложение, мы с вами передаем все права на коммерческое использование наших цифровых аватаров компаниям, которые с этого момента не обязаны спрашивать нашего разрешения на то, что с ними делают. Могут, используя ваши данные, обучать искусственный интеллект, могут оптимизировать рекламу, а могут просто создать вашего цифрового клона: скопировать закономерности поведения, скомпилировать посты из соцсетей и тексты из мессенджеров, добавить ваше фото на аватар, ваш голос, записанный смартфоном, и… упаковать все это в форму робота-бота с вашим лицом, который будет торговать услугами компании, действуя и общаясь в точности как вы — ваша семья, друзья и коллеги не смогут отличить его от вас, даже если постараются. А потом могут этого бота размножить и продать каждой компании на рынке, с которой вы хотя бы раз соприкасались. Думаете, фантастика? Увы, нет — кликнув «Я согласен», мы даем провайдеру сервиса именно такой уровень свободы действий с данными. Я искренне советую вам прочитать пользовательское соглашение любого крупного интернет-сервиса — Facebook, «ВКонтакте», Instagram, LinkedIn или свой контракт с сотовым оператором. Отрезвляет.

На рис. 4 приведена выдержка из типового контракта сотрудника Facebook. Его мне удалось получить через сервис Quora. По этому пункту договора Facebook владеет всеми правами на все цифровые данные сотрудника, включая фото, видео, голос, аватарку, видеоконтент и т.д., и может все менять по своему усмотрению и использовать в любых целях. То есть может сначала создать, а потом модифицировать по своему усмотрению гипотетического цифрового клона сотрудника: сделать, условно, бота из фото, видео, текстов и прочих данных, но потом вложить в уста слова, которых не было в исходных данных. То же самое компания может сделать со всеми данными каждого пользователя своей сети или разработчика сервисов под нее, подписавших пользовательское соглашение (как правило, не читая). Вот выдержка из официальной политики Facebook[19], по которой сеть получает полные права на использование данных, в том числе, их модифицирование:

In addition, as a condition of entering, except where prohibited by law, each natural person agreeing to these Official Rules (including each Eligible Individual) grants the Contest Entities the irrevocable, sublicensable, free-of-charge, absolute right and permission to use, publish, post or display his or her name, photograph, likeness, voice, biographical information, any quotes attributable to him or her, and any other indicia of persona (regardless of whether altered, changed, modified, edited, used alone, or used with other material in the Contest Entities’ sole discretion) for advertising, trade, promotional and publicity purposes without further obligation or compensation of any kind to him or her, anywhere worldwide, in any medium now known or hereafter discovered or devised (including, without limitation, on the Internet) without any limitation of time and without notice, review or approval, and each such person releases all Contest Entities from any and all liability related to such authorized uses. Nothing contained in these Official Rules obligates Sponsor to make use of any of the rights granted herein and each natural person granting publicity rights under this provision waives any right to inspect or approve any such use.

Я начал читать все пользовательские соглашения. Изучал. И параллельно строил копию цифрового следа человека. Из чего он состоит, мы разберем в следующей главе.

Сингулярность без приватности

Где-то в 2015-м, уже после имплантации биочипа, мне на глаза попалось несколько свежих статей об ИИ и потенциале сингулярности — момента, когда компьютеры достигнут уровня сложности, достаточного для того, чтобы человек смог загрузить свое сознание в сеть и, во-первых, жить вечно в образе машины, а во-вторых, иметь возможность управлять всей окружающей техникой так, словно в тело постоянно встроена сим-карта с интернетом и универсальный пульт дистанционного управления. Я задался двумя вопросами. Во-первых, значит ли это, что, закачивая данные своего мозга в сервис сингулярности, который объективно может принадлежать только одной из сегодняшних компаний-гигантов — Google, Amazon или Microsoft, я стану им принадлежать с потрохами? Ведь сейчас они мои данные забирают полностью, где гарантия, что что-то изменится в будущих пользовательских соглашениях? А во-вторых, если я это сделаю где-то в районе 2084 года и технически стану узлом сети, значит ли это, что и меня можно будет взломать? Ведь по сути своей, если я или мои потомки будут сливаться с сетью, для хакеров мы мало чем будем отличаться от обычных компьютеров, защиту которых, вполне вероятно, тоже будут бюджетировать маркетологи, а следовательно, где гарантия, что не получится так же, как с инсулиновыми помпами? На мой взгляд, гарантии нет никакой. Более того, я думаю, что, если ничего не изменится, сингулярность (то есть гипотетически возможная трансплантация всех воспоминаний человека в машину в будущем) будет выглядеть так:

1. В почтовом ящике (вернее, в своем мозговом микрочипе, отвечающем за связь) вы обнаружите рекламу нового сервиса, назовем его условно «F-Сингулярность», где его достоинства будут описаны столь волшебным образом, что вы моментально потянетесь к кнопке «Купить». Серьезно — «F-Сингулярность» к этому моменту настолько полно и тщательно исследует ваш психологический портрет, что они надавят на нужные точки, найдут правильные слова и… вы не сможете устоять.

2. В момент нажатия вас станут подбадривать мнения настоящих аватаров людей, уже прошедших процедуру, — они будут красочно описывать, как им живется вне ограничений человеческого тела. Некоторые из них — ваши почившие друзья и, возможно, родственники. Для пущей убедительности. А это вообще допустимо? А вот и да — если вы прочтете следующий пункт, то убедитесь, что все законно.

3. После нажатия на кнопку «Купить» вас попросят прочитать пользовательское соглашение, состоящее из 1984 страниц текста, которые вы решите пропустить, попросту нажав «Я согласен». Меж тем в соглашении будет черным по белому написано, что все данные вашего мозга после нажатия кнопки переходят в собственность компании, которая получает право использовать их в любых целях, модифицировать, менять местами, сливать с другими данными, продавать, перепродавать и даже удалять без вашего разрешения в случае, когда (если опустить юридические термины) им того захочется.

4. В момент закачки автоматический скрипт компании незаметно модифицирует ваше цифровое сознание, тот самый аватар, обретающий вечную жизнь — блок памяти, отвечающий за восприятия своей цифровой сущности, подменяется заранее запрограммированным поведенческим кодом. И вот вы уже совершенно добровольно привлекаете новых клиентов, рассказывая им, как прекрасно жить в цифровом мире без тела и проблем. Хотя до коррекции, вероятно, ваше сознание испытало тяжелый шок и в здравом рассудке никому даже в страшном сне не рекомендовало бы повторять эту процедуру. Об этом мы никогда не узнаем.

О том, как должна выглядеть сингулярность, поговорим в заключительной главе. Если же хотите легкое превью того, куда мы идем именно сейчас, рекомендую два сериала — «Черное зеркало» и свежий амазоновский сериал «Загрузка», премьера которого состоялась в мае 2020 года.

Цифровой след человека: что компании, военные и хакеры уже знают о нас

Данные о человеке бывают нескольких типов, и не все они создаются им самим. К сожалению, нам никто не объясняет этого — контрагенты, желающие монопольно пользоваться нашими данными ради максимизации своей прибыли и, как следствие, власти, предпринимают все усилия, чтобы не привлекать внимание публики к вопросу о ценности и составе собираемых ими данных, недоговаривать и не отвечать на прямо поставленные и понятные даже простому работяге без научной степени в области ИТ вопросы, например «Что конкретно вы обо мне знаете и для каких целей конкретно вы это используете?». Причем если вы думаете, что главная проблема — это «“голые” фотки, утекающие в сеть», вы ошибаетесь. Это лишь верхушка айсберга. Всего я выделил 15 типов данных, и каждый день своей жизни мы их производим на свет:

1. Автоматически генерируемые данные о местонахождении. Это информация о местонахождении сотового телефона или устройства, с которого вы выходите в сеть или просто держите в кармане. При попадании в зону действия базовой станции сотовой связи неизбежным побочным эффектом будет являться то, что оператор будет точно знать, к какой именно станции вы подключились, то есть неизбежно получит информацию о вашем примерном, в пределах соты, местоположении — без этого связь невозможна. Существует несколько методов определения, где находится абонент, от геолокации по базовым станциям (в случае соответствующего оснащения базовых станций возможна достаточно точная засечка методом мультилатерации, основанным на измерении задержки распространения сигнала между мобильным устройством и станциями) до определения GPS-координат с помощью приложения на смартфоне; так или иначе, каждую секунду использования сотового телефона или планшета с 3G/4G-LTE надо понимать, что ваше местонахождение известно как минимум сотовому оператору. А раз известно местоположение некоей сим-карты, следовательно, можно с большой долей уверенности определить, где находится конкретный человек с паспортными данными, привязанными к этой симке. Системная архитектура сотовых сетей построена таким образом, что обойти это ограничение ради обеспечения полной приватности практически невозможно (ну разве что вы воспользуетесь «левыми» сим-картами, что законом не приветствуется). Другое дело, что пока сотовым операторам неинтересно, да и накладно хранить полную информацию о перемещениях всех абонентов, так что в их базах данных накапливаются лишь сведения, связанные с биллингом, то есть туда заносятся записи о нахождении в зоне действия конкретной базовой станции лишь с привязкой к звонку, отправке/получению SMS. Не только абонент сотовой связи, но и любое устройство IoT (умный холодильник, компьютеризированная машина, телевизор с Wi-Fi, светофор, паркомат) в какой-то форме сообщает интернет-провайдеру свое местонахождение, что может эксплойтироваться (от слова exploit, «эксплойт» — использование уязвимости аппаратно-программных средств не с самыми добрыми намерениями) как самим провайдером, так и хакерами. Способы маскировки существуют, но о них я расскажу в других главах.
2. Сервисные данные. Это информация, которая необходима сайту или сервису для того, чтобы предоставить вам услугу, — как правило, это имя, фамилия, телефон, адрес доставки и данные кредитной карты. Во многих странах действует регламент «знай своего клиента» (know your customer, или KYC) — предписание, обязывающее ряд бизнес-структур верифицировать личность клиентов. Это правило пришло из банковского сектора, где его введение оправдывалось борьбой с отмыванием денег и с финансированием терроризма. Впрочем, большинство бизнес-структур, от Amazon до узкоспециализированных магазинов, и само горит желанием «узнать своего клиента» как можно ближе. У нас же в стране, благодаря введению онлайн-касс, все сведения о покупках хранятся у операторов фискальных данных, так что, объединив данные о пробитых чеках с банковскими данными (если платили по карте) и идентифицировав покупателя, государство получает уникальные возможности для удовлетворения своего любопытства.
3. Добровольно публичные контролируемые данные. Это информация, которую вы оставляете в Сети добровольно, осознанно, проактивно и хотите, чтобы она была публичной, доступной общественности. При этом вы, как производитель данных, имеете над их доступностью полный контроль. Речь идет, например, о постах, статьях на сайтах СМИ, видеоблогах YouTube, фотографиях в Instagram, профиле в LinkedIn и т.д. К этой же категории относятся публичные комментарии, данные от своего имени, например, в социальной сети или сообщение в мессенджере. Впрочем, слово «полный», может, и не совсем верно отражает ситуацию, так как в большинстве пользовательских соглашений, например в Facebook, прямым текстом написано, что вы даете компании лицензию, не требующую лицензионных отчислений, на использование создаваемого вами контента по ее усмотрению, даже если вы потом удалите свои посты[20].
4. Добровольно публичные, но неконтролируемые данные. Существуют определенные платформы, на которых ваши комментарии к чужим постам вами не контролируются, вы не можете их удалять или редактировать. К неконтролируемым данным можно отнести и метаданные мессенджеров — многие из них зашифрованы, но сам факт общения абонентов А и В навсегда остается в архивах компании.
5. Биометрические данные. Рынок носимых устройств растет (фитнес-браслеты, измеряющие пульс, сканеры отпечатков пальцев и рисунка радужной оболочки глаза, сенсоры голоса и голосового управления и т.д.), а у нашего тела существует довольно много показателей активности и уникальных идентификаторов. Когда вы подтверждаете покупку отпечатком пальца, уникальный «почерк» вашего организма математически превращается в цифровой ключ или команду. В ряде случаев биометрические данные не покидают устройства — например, Apple iPhone отпечатки никуда не передает. (Гарантией этому служит то, что, если будет доказано обратное, акции компании просядут, а это десятки, если не сотни миллиардов долларов. А это самое лучшее из доказательств.) Но в большинстве случаев мы их отдаем компаниям типа Fitbit «бесплатно» и в полном объеме. То есть даем фирме право использовать историю работы нашего сердца как ей захочется, в том числе перепродавать третьим лицам. К биометрическим данным также относятся голос, геометрия лица, радужная оболочка глаза.
6. Атрибутированные данные. В сети существует информация о вас, которую создают другие люди, и вы об этом можете даже не знать. Например, если ваш друг написал о вас пост и не сказал вам, — значит, существует кусочек информации о вас, к созданию которого вы не имеете никакого отношения. Таких данных особенно много в корпоративных сетях, где анализ внутренних форумов, приложений и статистики использования сервисов может рассказать очень многое.
7. Поведенческие данные. Когда вы делаете что-то на сайте (двигаете мышкой и задерживаете ее на определенных элементах экрана, в определенной последовательности кликаете по пунктам меню, фотографиям продуктов, печатаете текст, ищете что-то, а после поиска идете в магазин пешком), вся эта информация собирается, анализируется и преобразуется в математический портрет ваших предпочтений и увлечений. Например, интернет-магазин таким образом понимает, какие товары имеет смысл вам предложить, если вы кликали по продуктам A, B и С. Или долго водили мышкой по D, но так и не добавили в корзину покупок.
8. Психологические данные. Психология — довольно точная наука, тесты и классификаторы людей по психотипам и, следовательно, возможным паттернам поведения применялись еще до появления интернета — при приеме на работу на ответственные посты, особенно в государственных органах, в маркетинге (например, цветовые опции автомобилей формируются исходя из психологических предпочтений потенциальных покупателей), да и много где еще. Обычно для психологического профилирования человека необходимо проходить нудные тесты из десятков, а иногда и сотен вопросов, кликать по разноцветным картинкам и отвечать на глупые вопросы в лучших традициях теста Войта-Кампфа. Но интернет все это упростил — в нем теперь легко найти тексты ваших постов и сообщений, фотографии, которые вы публикуете в своем блоге и в социальных сетях, комментарии к новостям и внешнему контенту, вскрывающие ваши истинные реакции. В итоге дата-брокеры и другие компании, имеющие доступ к разным источникам и каналам получения ваших данных, могут вполне точно определить ваше психологическое состояние, предрасположенность к риску или пассивному поведению, идентифицировать ваши ценности и потенциальные каналы воздействия на психику — имеется в виду поиск правильных аргументов и стратегии убеждения сделать что-то или купить что-то. В современных индустриях это уже используется, например, в компьютерных играх жанра MMORPG — кому-то в игре дается много заданий формата «собери 1000 камней на поле», а другому игроку, с иным психотипом, поручат убить 1000 кабанов. Оба при этом испытают удовольствие от потраченных на игру денег.
9. Медицинские данные. Показатели медицинского уровня кардиодатчиков, глюкометров для измерения уровня глюкозы в крови, нательных термометров, умных ингаляторов для астматиков, анализирующих состав остаточного воздуха в легких, данные о визитах к врачам, анамнезе, результатах анализов, выписанных лекарствах, наличии у вас аллергий, фобий и психических отклонений — вся эта информация в большинстве развитых стран давно компьютеризирована и хранится исключительно в цифровом виде. Когда вы попадаете к врачу или в страховую компанию, эти данные пополняются и используются. Большая часть приложений телемедицины использует данные Apple HealthKit и Google Fit для того, чтобы ваша биометрия и статистика активности могли комбинироваться непосредственно с медицинскими данными — анализами крови, мочи, ДНК и т.д. По сути, это данные, в какой-то мере описывающие поведенческие паттерны и состояние вашего тела и психики.
10. Расшифрованная ДНК. За какие-то $99 можно сделать анализ ДНК и получить его в цифровом виде. Главный игрок рынка — компания 23andMe. Она проводит полный анализ и выдает на основе вашей ДНК историю и географию предков и еще много интересного, а за дополнительные деньги можно получить полный медицинский анализ ДНК, в котором детально расписаны предрасположенности к определенным болезням. Эти данные можно использовать в повседневной жизни — для эффективной диагностики и профилактики потенциальных болезней, поиска родственников, смертельных аллергий и т.д. К сожалению, стоимость сервиса не мешает компании вдобавок получать все права на результаты анализа вашего ДНК — использовать его и монетизировать дальше. В реальности происходит следующее: я купил тест 23andMe за $99, чтобы узнать свою генетику — историю своего происхождения на основе генотипа и возможные медицинские генетические отклонения. Как клиент, я не хочу давать доступ к данным о своей ДНК для использования в других целях, например для производства персонализированных лекарств. Но такой опции у меня, клиента, нет. Данные о моей ДНК компания собирает без моего ведома (осознанного) и использует в своих целях. В том числе для заработка за пределами $99, что я честно заплатил, и это манипуляция чистой воды. Генетический код сегодня становится цифровым и весьма вожделенным объектом купли-продажи. Спрос на него есть у множества компаний. Не стоит также забывать, что компании, занимающиеся расшифровкой ДНК, всегда где-то базируются, следовательно, обязаны подчиняться законам той страны, в которой находится головной офис. В случае 23andMe (а они лидеры рынка) это США. Это автоматически означает, что, если у суда США возникнет необходимость получить доступ к вашей ДНК и ее дешифровке в рамках судопроизводства, 23andMe не сможет им отказать.
11. Данные, основанные на выводах (collateral data). Это данные, суть которых прекрасно отражает древняя народная мудрость «Скажи мне, кто твой друг, и я скажу, кто ты». Например, если у вас на Facebook или во «ВКонтакте» 70% подписчиков — геи, значит, с высокой степенью вероятности, вы тоже. Если 80% ваших запросов в поисковике связаны с музыкальными инструментами, студиями и музыкой, — вы, вероятно, музыкант. Выводы, которые можно делать на сложных данных, поразительны. Например, Facebook может с высокой степенью вероятности предсказать, за какого кандидата будет голосовать тот или иной пользователь в своей стране. А ваш сотовый оператор при желании может узнать, изменяете ли вы жене/мужу, так как знает, кому, когда и откуда вы звоните и с какими контактными лицами пересекаетесь в пространстве (если они пользуются услугами того же оператора).
12. Секретно собираемые данные. В этой книге я не буду слишком подробно останавливаться на данных, собираемых спецслужбами, и их методах. Об этом довольно детально рассказал всем Эдвард Сноуден, и мы чуть позже остановимся лишь на некоторых аспектах работы спецслужб, о которых надо знать каждому человеку. Просто имейте в виду, что у спецслужб и очень квалифицированных хакеров всегда есть теоретическая возможность удаленно подключиться к вашему компьютеру и включить камеру или микрофон без вашего ведома, записать все, что вы печатаете, или тайно сделать скриншот рабочего окна. Это не всегда просто сделать — требуются как определенные знания и условия со стороны атакующей стороны, так и некоторая безалаберность с вашей. Но в ряде случаев это удается.
13. Данные семьи/рода. Мы рождаемся и умираем подключенными к Сети. Чего многие из нас пока не осознали — так это того, что данные родителей могут привязываться к данным их детей, и наоборот. Началась эпоха трекинга даже не одного конкретного человека, а целого рода, семейного древа. Иосиф Сталин лицемерно заявлял: «Сын за отца не отвечает». Это было неправдой и тогда, в 1935 году, и может оказаться неправдой в будущем. Вскоре о благонадежности человека в числе прочих показателей могут начать судить по скорингу поведенческой активности всей его семьи. И это не шутка.
14. Служебные данные. Почти каждый из нас ежедневно выступает в разных ролях (как говорят англичане, wearing multiple hats — «носит разные шляпы»). Человек в семье и он же, но на работе, — разные люди. Сотрудник крупной транснациональной корпорации в рабочее время пользуется служебными устройствами и программами, служебными учетными записями, файлами, документами и т.д. Анализ этих данных гораздо больше говорит о конкретной должности, иерархии, инфраструктуре и положении дел в компании, чем о человеке. Но навредить ему эти данные могут. Они представляют огромную ценность для промышленных шпионов и хакеров, занимающихся таргетированными атаками.
15. Полученные/доступные знания. Поведение человека во многом определяется тем, какие знания он усвоил, а какие нет. Обученный трейдер будет успешнее играть на рынке акций, чем художник, не знающий азов алгебры и статистики. Человек, читавший Айзека Азимова, будет лучше осведомлен об опасностях ИИ и его реакции. Информация об объеме ваших знаний и вашей способности их усваивать имеет огромную ценность. По аналогии, не меньшую ценность имеет информация о том, какие знания вам на 100% недоступны.

Все эти 15 типов данных так или иначе собираются о вас в режиме реального времени. Какие-то компании получают больше, какие-то меньше, но собирают практически все, и достаточно большая часть собранного в итоге оказывается в руках топ-5 дата-компаний мира (Google, Facebook, Apple, Microsoft и Amazon — так называемая большая пятерка) — дата-брокеров, выставляющих на продажу целые психологические портреты, хорошо структурированные под все нужды заказчиков. Нас продают как породистых собак или дойных коров, оптом — базы данных содержат информацию по полу, возрасту, интересу к спорту, шахматам или нетрадиционному сексу; в них вы можете отыскать голосующих за демократов или республиканцев, представителей всех религий и конфессий, фанатов «Звездных войн», отшельников, любителей водки и пельменей, техасских рейнджеров, молодых матерей, растящих детей без отцов, членов ЛГБТ-комьюнити, проблемных заемщиков, радикально настроенных правых… и еще сотни, тысячи групп.

Ваш сотовый оператор постоянно знает, где вы находитесь; вся почта Gmail и ее многочисленные аналоги постоянно индексируются на предмет того, о чем вы говорите и думаете; все, что вы печатаете в Microsoft Word Online или Google Docs, сохраняется на серверах компаний; ввели номер кредитной карты при покупке на сайте — отлично, теперь продавец знает о ваших предпочтениях в еде, а банк о том, где вы закупаетесь; социальная сеть знает, где вы находитесь, что читаете, пишете или смотрите, о чем говорите в мессенджере в этот самый момент… (Вы думаете, зачем Facebook заплатил $19 млрд за WhatsApp? Просто по доброте душевной? Конечно же, нет — чтобы иметь возможность использовать метаданные чатов, то есть знать, кто с кем разговаривает и когда, в синергии с Facebook и Instagram для высокоточного профилирования.) Браузер знает все о ваших поисковых запросах, истории серфинга, движениях мыши (например, видит, что вы задерживаете ее на баннерах с определенной рекламой или фото мужчин/женщин), периодах активности и сна. Вы идете по улице и заходите в магазин — камеры с функцией распознавания лица уже сопоставляют ваше изображение с профилем в социальных сетях и купленными на рынке данных предпочтениями — и вот к вам уже идет менеджер магазина. Вы купили то, что не собирались, сели в машину, которую выбрали за вас, выехали на шоссе, которое вам посоветовал навигатор — автоматические камеры фиксируют номера машины и определяют ваши маршруты движения, словно вы в компьютерной игре. Вы паркуетесь у офиса и заходите внутрь при помощи электронного ключа, оставляя в Сети метку о времени прибытия, работаете с кучей облачных сервисов, записывающих каждое ваше движение, возвращаетесь домой под теми же камерами и ложитесь спать, а пока спите, фитнес-браслет фиксирует и передает на серверы компании-владельца информацию о том, спите ли вы на самом деле или всего лишь дремлете, сидите в телефоне, занимаетесь сексом либо смотрите телевизор… (Это не шутка: Fitbit знает, когда вы занимаетесь сексом, и, теоретически, может понять, с женой или с любовницей, ибо ваши координаты хорошо известны[21].) Перечень собираемых о нас данных постоянно растет.

Про умные гаджеты и глупых людей

Вещи вокруг нас становятся умнее, что означает на самом деле не столько «ум», сколько способность собирать и передавать данные на серверы производителя. Иногда умные вещи становятся причиной вполне реальных семейных драм. Я не могу назвать настоящие имена героев этой истории, я их заменил, но она совершенно реальна. Джон был женат на Наташе. У них был счастливый брак и двое детей. Джон однажды изменил Наташе с Моникой — девушкой, с которой познакомился в баре, когда Наташа гостила с детьми у родителей. У них был секс в его доме, на брачном ложе, так сказать. Джон не оставил никаких следов — убедился, что весь дом после ухода Моники выглядел ровно так, как до ее прихода. Но Наташа узнала об измене сразу же по приезде. Как? Она по привычке встала на свои умные весы и посмотрела в мобильное приложение. В нем отображался ее нормальный вес, 72 килограмма, остававшийся примерно одинаковым в течение полугода, и одна аномалия весом 52 килограмма, имевшая место за день до ее приезда. Под натиском улик Джон сдался. Вот так простые умные весы стали причиной развода. И это лишь небольшая часть «темной стороны» данных и пофигизма в области защиты приватности.

На планете почти не осталось мест, в которых можно скрыться от постоянного всевидящего ока хакеров, маркетологов, работодателей (даже когда вы не на работе!) и государств (даже когда вы в отпуске в другой стране!).

Самое удивительное в том, что мы не пытаемся этому противиться, хотя собиратели данных уже выходят за рамки разумного — сервисы и приложения начинают собирать даже те данные, что им совершенно не нужны для обеспечения прямых функций. Приложение сервиса такси может запросто запросить список контактов и профилей в социальных сетях, мобильная операционная система начнет записывать количество пройденных шагов, хотя ее об этом совсем не просили, платный (!) сервис по анализу ДНК зачем-то хочет полные права на перепродажу ваших данных и т.д. Причем нам внушают, что это хорошо. Например, несколько моих друзей неоднократно пытались заступиться за сервисы вроде Google Maps и Uber — мол, «когда я все время отдаю им сведения о своих перемещениях в реальном времени, это помогает им прокладывать оптимальные маршруты». Бесспорно, карты Google и Uber удобны, но для выполнения своих функций им не нужны все данные за всю вашу жизнь. Это очень приятное дополнение, но не являющееся обязательным требованием. Им нужны данные по состоянию на текущий момент плюс-минус три часа в масштабах расстояния между точками А и Б. Можно построить маршрут здесь и сейчас, провести машину по нему, использовать опыт для обучения ИИ, затем стереть сырые исходные данные пользователя. Наконец, спросить разрешение у пользователя сохранить данные о маршруте у себя (как они это делают) — уверяю, многие откажутся предоставлять такую информацию. Как минимум бесплатно. Но покупать у нас поведенческие данные компании не хотят, считая это излишним. Правда же в том, что, анализируя наши маршруты движения постоянно и запоминая эту информацию, компании имеют возможность не только делать сервис лучше, но продавать нам больше и (о чем стоит знать) продавать информацию о нас третьим лицам и сторонним компаниям — то есть зарабатывать на нас еще больше денег. Ездите мимо мебельного магазина или огромного шопинг-молла? Не удивляйтесь, когда увидите спам с рекламой их товаров во всех своих каналах. В одной из многочисленных баз данных вас купили примерно так — «женщина, 43–44 года, замужем, доход выше среднего, регулярно проезжает рядом с магазином, с высокой степенью вероятности купит детскую коляску в ближайшие 7 месяцев». И чем дальше, тем более устрашающе выглядит детализация наших профилей. Я родился в XX веке и застал время, когда таксист вез меня из одной точки в другую без навигаторов и электронных карт и к нему не возникало претензий. Даже сегодня, например, в Лондоне профессиональные кэбмены являются для меня наглядным примером качественно выполняемой работы — они доступны всегда и везде, не нуждаются в услугах навигатора и в 9 случаях из 10 довозили меня быстрее Uber, когда я проверял справедливость этого тезиса для книги. Поэтому не надо думать, что данные — священный Грааль для достижения заоблачного качества сервиса, они помогают, но они средство, а не цель. К тому же честной сделкой была бы именно покупка наших данных и наличие опции отказа от трекинга вне предоставляемого сервиса. Сейчас же все выглядит наоборот. Пользовательские данные стали героином для интернет-компаний. Как только они пробуют дата-подход и видят результат, дальше нет дороги назад — нет воли и желания для поиска иных бизнес-моделей, нет ощущения обязанности заботиться о безопасности и приватности людей — все их желания подменяются, сужаются до размера острия иглы — позыва получить новую дозу данных, и еще одну, побольше, и еще одну. Чем больше компании знают о нас, тем лучше они продают, так как быстрее ломают сопротивление и находят персонализированные аргументы. Но количество компаний растет, и отдельно взятого человека начинают в буквальном смысле доить все вокруг. В результате величайший ресурс XXI века — данные, которые для корпоративного бизнеса стоят денег, у нас забирают бесплатно, навсегда и с правом изменения, манипуляции, перепродажи и уничтожения. Как так получилось?

Распознавание лица в iPhone X… Что же может пойти не так?

Существует огромное количество инструментов биометрической идентификации — голос, сердцебиение, походка, рисунок вен, радужная оболочка и сетчатка глаза и многие другие. Вы не задумывались, почему Apple, на счету которой около $200 млрд свободных денег (по состоянию на конец 2020 года) и которая может позволить себе любой технологический каприз, из всех возможных вариантов и комбинаций выбирает… распознавание лица? Почему именно этот способ?

Система распознавания, если не вдаваться в совсем лютые технические детали, по сути, работает просто: на лицо (а это, если смотреть глазами машины, просто 3D-поверхность) проецируется порядка 30 000 инфракрасных точек, которые моментально считываются и за счет хитрой математики идентифицируют пользователя.

В описании технологии Apple клянется, что данные о 3D-модели лица хранятся в устройстве и никаким государственным органам и третьим лицам не передаются. Исключением является совершенно легитимный и декларируемый как не несущий опасности доступ к этой функции смартфона для разработчиков сторонних приложений (свой мобильный кошелек отпечатком пальца открываете? Тот же принцип и со сканом лица).

Разумеется, разработчики приложений должны четко указывать пользователю, зачем им нужен доступ к данным камеры системы распознавания лиц, но тут, собственно, и начинается самое интересное. На человеческом лице 57 мышц, и некоторые из них парные. Камера TrueDepth мониторит даже самые незначительные изменения мимики (движения этих мышц) в реальном времени. Безусловно, это можно и нужно делать, если ваша цель — идентифицировать человека. С этой задачей все в порядке. Но дело в том, что науку психологию изобрели не вчера. Те из вас, кто смотрел сериал «Обмани меня», в курсе, что даже незначительные неконтролируемые микродвижения глаз, сокращения зрачков, дрожание губ и еще тысячи комбинаций микроскопических движений мимических мышц можно уверенно и с высокой степенью вероятности использовать для того, чтобы идентифицировать психологическое состояние человека — определить, лжет он или нет, находится в состоянии возбуждения или депрессии. Так что опытный эксперт, набивший руку «на потоке» (скажем, спецагент ФБР), по физиогномическому анализу может сказать о человеке если не все, то очень многое. Думаете, разработчики нам об этом будут рассказывать, посылая запрос на данные нашим не сведущим в технологиях маме или дедушке? Или о том, что, наблюдая за человеческой мимикой в динамике, можно уверенно паттернизировать психотип — то есть сказать, кто вы — сангвиник или холерик, экстраверт или интроверт, исследователь или «киллер» (по геймерской классификации), готовы сейчас что-то покупать или на вас надо слегка надавить косвенными вопросами про ваши слабости, любите думать и доказывать теоремы или работать рубанком, готовы к риску или консерватор. Но главное, в каждый момент времени iPhone сможет знать наверняка, лжете вы или нет, отвечая на вопрос, который вам задают, замышляете что-то недоброе или хотите торт. Это карманный полиграф и ошейник одновременно. А значит, ожидаем морковку и кнут.

Морковка, собственно, уже тут — профилирование по психотипу позволит в разы поднять эффективность контекстной рекламы — например, фид психологического профилирования, сопоставленный с вашей историей поиска, историей покупок и другими данными, позволит выбирать уникальные формулировки рекламных объявлений, которые сработают строго на вас. Сегодня распознавание лица — это идентификация без пароля, удобная и практичная функция. Бесспорно, у методики психологического профилирования через физиогномический анализ по методу сериала «Обмани меня» будет погрешность. Но эта погрешность приемлема, когда цель — понять, за кого вы будете голосовать или готовы ли взять в руки оружие (неважно, по какой причине). Поэтому есть основания полагать, что уже через пяток лет вы будете смотреть в свой аппарат, а из него, словно через окно, кто-то будет лезть в ваши мозги.

Станислав Ежи Лец грустно шутил: «Подумать только! На огне, который Прометей украл у богов, сожгли Джордано Бруно». Хочется этот афоризм напомнить всем — и нам самим, и всем разработчикам планеты Земля. Ребята, услышьте, вы же

Редактор Сырлыбай Айбусинов

Главный редактор С. Турко

Руководитель проекта М. Красавина

Арт-директор Ю. Буга

Дизайн обложки В. Голыженков

Корректоры О. Улантикова, А. Кондратова

Компьютерная верстка М. Поташкин

© Евгений Черешнев, 2022

© Валерий Голыженков, обложка, 2022

© ООО «Альпина Паблишер», 2022

Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

* * *

– Вы свиньи, вы. Вы гниете, как свиньи, и все. В вас есть многое, вы же довольствуетесь крохами. Слышите меня, вы? У вас есть миллионы, а вы расходуете гроши. В вас есть гений, а мыслей что у чокнутого. В вас есть сердце, а вы чувствуете лишь пустоту…

АЛЬФРЕД БЕСТЕР. ТИГР! ТИГР!ВАЛЕРИЙ ГОЛЫЖЕНКОВ

о применении генеративного дизайна в работе над обложкой книги:

«Образ на обложке сложился, с одной стороны, благодаря действию компьютерного алгоритма, который выстраивал одному ему понятные связи, создавая по ключевым точкам новое изображение классического портрета, с другой стороны – не без участия человека, который выбрал из множества возможностей финальный результат».

Благодарности

Моим родителям

Спасибо вам, что так бережно держали маленького меня за ручки, когда я разбегался по аэродрому детства, и показывали правильные ориентиры. И за то, что нашли силы полностью меня отпустить, когда пришло время. Чтобы я смог выбрать свой собственный курс и полететь в полную неизвестность. И хоть что-то понять.

Мудрому деду Ивану Павловичу, который не дожил до выхода книги всего несколько месяцев

Спасибо, что вдохновлял родителей дарить мне много книг и конструкторов и мало солдатиков. Эта книга – и твоих рук дело.

Моей невероятной супруге Ольге, вдохновившей меня на эту книгу

Только когда ты целовала мои закрытые и усталые глаза, я начинал по-настоящему видеть.

Издателю Марине Красавиной, редактору Сырлыбаю Айбусинову и всему коллективу «Альпины»

Терпение – это последний ключ, открывающий двери. Это не я сказал, а Антуан де Сент-Экзюпери. Он тоже был когда-то автором, срывающим сроки. Но его стоило подождать ☺ Эта книга была бы невозможна без вашего терпения, мудрости, честности и бесконечно бережного отношения к мыслям. Низкий вам поклон.

Алексею Маланову

Очень мало людей умеет говорить просто о сложном. И еще меньше способны помогать это делать другим. Ты умеешь делать и первое, и второе. Твои комментарии и замечания, всегда честные, меткие и критичные, сделали эту книгу лучше. Потому, что глупец критикует. А мудрец предлагает, как сделать лучше. Спасибо тебе, брат по оружию, за твою мудрость, поддержку и огромное терпение.

Сергею Ложкину

Персонаж Джона Спартана в фильме «Разрушитель» сказал: «Чтобы поймать маньяка, нужен другой маньяк». Это про тебя. Спасибо, что воюешь с киберпреступностью на стороне добра. И нашел на этой бесконечной войне время проверять факты о кибербезопасности, хакинге и антихакинге для книги друга. Hasta la victoria siempre!

Предисловие

Чтобы достичь совершенства в чем-то, человеку, по утверждению Малкольма Гладуэлла, автора книги «Гении и аутсайдеры»[1], нужно около 10 000 часов занятий. Неважно, о чем речь – об игре на фортепиано, китайском языке или программировании на языке С++, – путь к званию эксперта лежит через время и упорную практику. Мозг человека содержит нейронную сеть – сложную электромагнитную сущность, которая отвечает за нашу способность чему бы то ни было обучаться; чем чаще человек повторяет какое-то конкретное действие или упражнение – от удара по футбольному мячу до доказательства сложной теоремы, – тем лучше он справляется с каждой последующей задачей подобного типа.

Самые сложные системы искусственного интеллекта (ИИ), созданные человеком, представляют собой сочетания разнообразных методов и алгоритмов, но по большей части мы учим машину решать узкие прикладные задачи примерно так же, как учимся сами, – стараемся заложить в искусственно создаваемые нейронные сети описание той или иной задачи и дать машине как можно больше примеров успешного и неуспешного ее решения. ИИ, как и человек, тратит время на то, чтобы «научиться» быть эффективнее через многочисленные повторные «подходы к снаряду». Просто, в отличие от человека, время, имеющееся в распоряжении компьютера, ничем, по сути, не ограничено: компьютер не ждет смерть от инфаркта или упавшего на голову кирпича; до тех пор, пока во Вселенной будет энергия для питания вычислительных мощностей, искусственный интеллект, который мы, люди, создаем, будет жить и развиваться. Да и ограничения в 10 000 часов у него нет – машина способна обучаться на миллионах компьютеров и серверов параллельно и тратить на оттачивание того или иного навыка миллионы человеческих лет. Поэтому неудивительно, что с каждым годом качество работы ИИ будет расти, спектр возможностей применения – расширяться, а себестоимость его использования – падать. Следовательно, будет расти и популярность ИИ у бизнеса и государственных структур – ведь что может быть лучше, чем комбинация «эффективнее + дешевле»?

В этой связи невозможно не задавать себе очевидные вопросы – если машины развиваются так эффективно, какова же наша, людей, судьба, с точки зрения безжалостной эволюции? Ведь нас, жителей Земли, летом 2020-го стало 7,8 млрд и мы уверенно идем к отметке в 10 млрд – пока что население растет. Но будем ли мы нужны Природе через несколько тысяч или даже сотен лет, если подавляющая часть технологических трендов XXI века связана именно с ИИ, то есть перекладыванием задач с человека на изучаемую им искусственную форму жизни (пусть на данной стадии с поправкой на тезис «не все живое разумно»)?

Из этого вопроса вытекает масса других. Например, почему, если big data, то есть большие данные (информация о людях, процессах, явлениях и разнообразные типы данных, о которых детально поговорим чуть позже), так важны и бесценны для развития технологий искусственного интеллекта, их с такой простотой отбирают у граждан и компаний всего несколько монополий? Нет ли тут долгосрочных рисков для современного человечества со сложившимся хрупким балансом сил? Наконец, а что такое эти самые «большие данные» и из чего они на самом деле состоят? И почему понятия «приватность» и «право на неприкосновенность частной жизни и тайну переписки» в современном мире, где правят бал big data, практически отсутствуют? Как так вышло?

До зимы 2015-го я, как и многие из вас, задумывался об этих вопросах весьма условно: ну есть тренды и есть, одни более перспективны, другие менее, а ИИ всего лишь один из них, что тут особенного? Вопросы и сложные моменты есть всегда и в любых инновациях – ничто по-настоящему большое не начинается гладко. Но в феврале 2015-го я предпринял эксперимент, который заставил меня посмотреть на мир big data и ИИ совершенно под новым углом – имплантировав в руку самый настоящий биочип, я увидел то, как может выглядеть наш мир в недалеком будущем, – Вселенную, в которой ни один человек, даже ребенок, не в силах отключиться от сети по своей воле.

И вопросов стало еще больше. Я начал разбираться в них, копать, исследовать, разумеется попутно совершая ошибки, – это была своеобразная тренировка своей нейронной сети на понимание потенциала развития рынка big data и ИИ: автоматизации, цифровизации, персонализации, кибербезопасности и многих других сфер. Когда я потратил на эту задачу больше 10 000 часов, возникла идея написать книгу. По сути, она содержит результаты моих наблюдений, умозаключений, экспертной оценки в данных областях. Я постарался провести некоторые параллели между ИИ и физикой, психологией, социологией, антропологией, программированием и объективной логикой. Посмотреть на big data и ИИ с точки зрения эволюции и подумать о том, к чему может привести текущий вектор развития технологий и как это скажется на каждом из нас – лично на вас, окружающих, детях и внуках. В том числе я постарался описать все основные направления применения ИИ сегодня и все основные будущие применения, то есть обозначить те сферы, где нужда в человеке, по всей видимости, очень скоро отпадет.

Сразу скажу – я не сторонник теорий заговора или гипотез полой Луны и не критик дарвинизма. Я приверженец научного подхода, основанного на фактах и проверяемой информации. Поэтому, если вы ждете уличения иллюминатов во всемирном заговоре или доказательств того, что Земля плоская и управляется масонским ИИ под руководством чипированного Билла Гейтса, сидящего на вышке 5G, – лучше вам книгу закрыть прямо сейчас. Эта книга – дань научному поиску, неутолимой жажде задавать вопросы и искать доказательные, проверяемые в лабораториях ответы. В отличие от служителей культа, я не призываю вас обратиться в мою веру. Вы можете не разделять моего мнения. В этом, в конце концов, и заключается смысл эволюции – спор рассудит не исход словесных баталий, а неумолимая жизнь с ее конкуренцией, в которой выигрывают не только самые приспособленные из видов, но и наиболее точно описывающие действительность идеи.

Многие из нас бьются в поисках смысла жизни. Но, нравится кому-то или нет, объяснить его очень просто, достаточно посмотреть на историю мироздания и вывести простые логические закономерности из нее. Нам кажется, что наш жизненный путь наполнен самостоятельно принимаемыми решениями, но на деле мы всего лишь участвуем в процессе, выполняя в нем заранее определенные функции, главная суть которых – постоянное усложнение состояния Вселенной, создание новых связей и элементов, которых вчера еще не существовало. Примерно так, как зарождающийся мозг ребенка создает все новые и новые связи между нейронами, так и мы сперва создаем повозки, а затем паровые машины, самолеты и ракеты. Усложнение – это присущее всем системам свойство. В этом нет никакого телеологического детерминизма, когда все сводится к мистической идее всеобъемлющей цели Природы – просто на каждом витке эволюции выигрывает более сложная система (или имеющая потенциал для дальнейшего усложнения).

Разум, постигая мир, создает новое знание, которого вчера еще не было. Но оно неизбежно усложняет картину мира. Въедливый читатель тут может спросить: «А как же насчет того, что все гениальное – просто? Разве, к примеру, гелиоцентрическая система, сменившая геоцентрическую с ее сложной системой деферентов, эпициклов и эквантов, не упростила понимание мира?» Тут не следует обманываться видимой простотой многих новых идей – на деле они дают старт новой сложности. Как раз геоцентрическая система мира была простой для понимания: Земля являлась в ней единственной физической реальностью, а весь окружающий ее мир – всего лишь бестелесной абстракцией, подчиняющейся определенным законам движения. Сложность была лишь в подгонке результатов наблюдения движения Солнца, Луны и планет к комбинации круговых движений. Идея гелиоцентрической системы мира, выдвинутая Николаем Коперником, заставила человечество осознать пугающую сложность Вселенной – ведь Земля превратилась в рядовую планету Солнечной системы, а небесные тела стали материальной реальностью, порождающей множество вопросов. А окончательную логическую завершенность система Коперника обрела с открытием Иоганном Кеплером законов движения, а ведь содержавшееся в них утверждение, что планеты двигаются по эллиптическим орбитам с постоянно меняющейся скоростью, было далеко не тривиально.

Наши понятия о «хорошо» и «плохо», основанные на священных текстах или социальном опыте, иррелевантны главным движущим силам Вселенной – усложнению и созданию новых знаний. Любое событие или поступок можно пропустить через фильтр этих ценностей и получить ответ, хорошо это или плохо. Например, хорошо ли, что ребенок читает книги? Да, так как он постигает известное знание и тем самым вступает на путь создания нового знания: он сможет (хотя бы потенциально) усложнить Вселенную. Хорошо ли лениться и прокрастинировать? Плохо – ибо это не ведет к развитию и усложнению. Жадность? Зависть? Это все смертные грехи не только потому, что они осуждаются обществом, но еще и потому, что, растрачивая жизнь на них, мы не развиваемся сами и не помогаем окружающим становиться сложнее, умнее и привносить в мир новые знания.

Причем это правило распространяется не только на научное познание мира; художественное творчество – тоже часть эволюции: писатели, скульпторы, художники, музыканты – все они, порождая новые мысли и возбуждая сложные эмоции, делают Вселенную богаче, сложнее, многограннее. Эмоции напрямую влияют на биохимию организма – испытываемые нами счастье, грусть, эйфория, тревога, радость усложняют и без того непростую систему когнитивных функций, впрыскивая в нее гормоны, порождающие новые причинно-следственные связи. Эмоции действуют на мозг как закись азота на двигатель спортивной машины – мысли начинают работать в изменившемся ритме и с другим КПД, так что, глядя на «Звездную ночь» Ван Гога, даже самый ученый сухарь может набрести на что-то неожиданное. Этот момент прекрасно проиллюстрирован в фильме «Вселенная Стивена Хокинга», где катализатором идеи Хокинга о том, что черные дыры могут испускать субатомные частицы, стали лучи света, пробивающиеся через неплотный узор вязаного свитера, который надевала на Стивена жена.

Не будем обманываться – нас окружает общество потребления, где весь спектр человеческих эмоций пытаются направить на возбуждение жажды владеть чем-то. Модная одежда, крутая машина, престижная недвижимость, новейший смартфон, появившийся на прилавках час назад… Это настолько повсеместно возведено в культ, что многие даже не задумываются, где проходит грань между нашими собственными мыслями и желаниями, навязанными окружающей средой, медиакультурой и программируемой рекламой.

Многие мои друзья – мультимиллионеры и даже миллиардеры из списка Forbes – не раз признавались за бокалом Old fashioned в том, что, по сути дела, многие из них испытывают чувство неудовлетворенности жизнью – у них есть все материальные блага, что можно купить за деньги, но, работая ради обогащения, а не созидания и сотворения чего-то нового, они часто оказывались на обочине того, что ощущается как настоящая жизнь, а приобретение дорогих вещей не способно заменить чувства причастности к чему-то волнующему. Не стоит путать это чувство со счастьем. Счастье – это всего лишь мимолетная и сугубо индивидуальная эмоция, которую кто-то способен испытать, допустим «выменяв пенни на шиллинг», – у бакалавра черной магии Магнуса Федоровича Редькина из повести Стругацких «Понедельник начинается в субботу» была громадная коллекция разнообразнейших определений счастья. Как известно, Магнус Федорович занимался поисками Белого Тезиса, призванного осчастливить все человечество, и к подобной идее другие сотрудники Научно-исследовательского института чародейства и волшебства относились иронически – ведь те, чей понедельник начинается в субботу, движимы другими побуждениями – исходящими из глубины человеческой натуры импульсами творческого поиска и созидания.

Посмотрите на Илона Маска, Ричарда Брэнсона, Линуса Торвальдса – это люди, живущие в гармонии с собой (и Вселенной), и в первую очередь потому, что они работают на созидание чего-то нового, революционного, важного, усложняющего мир.

Пару лет назад я шел по улице с супругой и приемным сыном от ее первого брака (ему на тот момент было 15). Сын увидел дорогую машину (мимо проехала Audi TT) и сказал, что мечтает о такой. Когда я поинтересовался почему, он выдал мне ровно то, что продвигает маркетинговый департамент Volkswagen Group относительно этой модели. Отличная работа, что уж тут скажешь. Но я все же решил попытаться подтолкнуть молодежь к поиску собственных желаний (что поделать, жизнь постоянно подсовывает избитые сюжеты; в данном случае были невольно разыграны сцены разговора поколений из фильма «Курьер»):

– Представь, что у тебя есть деньги на нее, прям с неба свалились внезапно и ты ее купил. Что ты хочешь дальше? – спросил я.

– Скорее всего, она мне надоест и я начну копить на Porsche.

– О’кей, представь, что у тебя перед домом стоит новый 911-й и ты ездишь на нем в школу. Дальше, что ты хочешь?

– Куплю себе шикарную квартиру в центре.

– Купил офигенную трехэтажную с чудесным видом, дальше что?

– Дачу в дорогом районе, с собственным причалом и яхтой.

– Отличный выбор, умеешь размахнуться, молодец! Ну вот, ты сидишь у себя на причале, макаешь ножки в море, рядом стоит яхта, в гараже Porsche, шкаф в трехэтажной квартире набит шмотками, а холодильник – стейками и мороженым. Что ты еще хочешь?

На этом месте он задумался и молчал минуты две. Потом посмотрел на меня и сказал: «Не знаю». И я услышал в его голосе нотки дискомфорта от ощущения скудости своих желаний (не в денежном, разумеется, выражении), возможно впервые в жизни посетившего его. Хотелось бы мне, чтобы этот разговор стал чем-то вроде песчинки в хорошо смазанном механизме потребления информации из телевизора и интернета. Не в том смысле, чтобы сын отказался от них, но чтобы задумался о собственных жизненных ценностях – нравоучения тут бесполезны, потому что все глубинные убеждения должны произрасти изнутри.

Почувствовать внутреннюю пустоту в сегодняшнем информационном пространстве и научиться взращивать собственные идеи и мысли крайне тяжело. Интернет-сервисы работают в реальном времени, мы потребляем новости, контент, продукты, общаемся, путешествуем, платим, флиртуем и даже умираем онлайн. Смартфоны и приложения высасывают из жизни гигабайты информации о нашем поведении – кто мы, что делаем, с кем общаемся, что покупаем и как часто. Получив доступ к нашим цифровым «личным делам», они становятся все более успешными в своей главной функции – зарабатывании денег через продажу новых товаров и сервисов. Общество потребления делает все, чтобы мы потребляли, не задавая вопросов о том, что мы на самом деле хотим или что делает нас счастливыми. В этом-то и проблема – современный интернет с его возведенным в абсолют рекламным бизнесом и рекомендациями инфлюенсеров начал постепенно подавлять индивидуальность, наши собственные мысли и поиски себя. Ребенку XXI века сложно прорваться через нагромождения пустопорожних новостей и рекламы, стать новым Илоном Маском или Стивом Джобсом – его мышление формируется под влиянием иной системы ценностей и под диким давлением информационного поля, выстроенного не по принципу «эти 100 книг обязательны к прочтению, чтобы стать Человеком», а по принципу «100 вашим друзьям понравилась эта книга, значит, и вам тоже надо ее прочитать». Между этими двумя путями – пропасть. Хотя бы потому, что путь к созданию нового обязан пролегать через сложности (тратить время на такой тяжелый роман, как «1984»? Зачем?! Ведь можно пойти в клуб!), огромное количество мучительных размышлений, попыток создать что-то уникальное, через череду неизбежных ошибок и неудач.

Это очень важно – иметь собственные мысли, ибо природа не терпит пустоты – если у человека нет своих мыслей, его мышление будет органически и полностью подчинено чужим. В повести Стругацких «Пикник на обочине» Рэдрик Шухарт, добравшийся до Золотого Шара, якобы способного исполнить любое желание, осознает, что за всю жизнь у него не было ни одной собственной мысли – все, что он может пожелать, – не его, а подслушанное, почерпнутое у других, украденное. И произносит в итоге чужое желание: «Счастье для всех, даром, и пусть никто не уйдет обиженный!»

Да и это чужое желание всего лишь квинтэссенция человеческого безмыслия, обнажающая ограниченность антропоцентризма. Неужели целью прогресса является производство тотального массового счастья? Если кто-то так думает, то ему предстоит пережить разочарование. Белый Тезис / Золотой Шар, создаваемый человечеством, предназначен для производства не счастья, а новых смыслов. И человечество вступает в эпоху революции наподобие коперникианской, когда на смену антропоцентричной системе мира придет разумоцентричная.

Глава 1

Как человечество оказалось помешано на технологиях и зачем нам умные холодильники

Нашей Вселенной 13,8 миллиарда лет. Благодаря анонимному благодетелю, наверняка случайно поставившему кружку кофе на космическую клавиатуру, раздался Большой взрыв – и там, где была тьма, появился яркий свет. Образовавшиеся во время неравномерного остывания кварк-глюонной плазмы в стремительно расширяющейся Вселенной протоны, нейтроны и электроны со временем начали слипаться друг с другом под действием сильных ядерных и электромагнитных сил. Благодаря этому образовался первый кубик конструктора Вселенной – водород. Его атомы и молекулы, чтобы не скучать в вакууме, стали тянуться друг к другу под воздействием силы, которую мы, земляне, окрестили гравитацией, совершенно не понимая, о чем говорим, и сформировали звезды, в недрах которых начал синтезироваться гелий. Так, атом за атомом, сливаясь друг с другом, как «жидкий Терминатор» из второй части знаменитой киносаги, на свет появились элементы таблицы Менделеева вплоть до железа. Элементы потяжелее образовались уже при взрывах массивных звезд, и из этой звездной пыли сформировались планеты и астероиды.

На третьей планете от Солнца, где-то в левой ягодице нашей Галактики, что-то где-то замкнуло, явно не обошлось без грома и молнии, и неживая материя внезапно начала сперва шевелиться, потом делиться, спариваться, выходить из воды и лазать по лианам. Эволюция создала на нашей планете невероятное многообразие биологических видов, соревнующихся друг с другом за право жизни и процветания. Потом случилось кое-что неожиданное – нечто, что изменило равномерный и неторопливый ход биологической истории: одна из обезьян взяла в руки палку. Сделав это, наш предок изменил мир навсегда. До этого все биологические виды развивались методом естественного отбора и постепенных мутаций. И, когда им нужно было какое-то конкурентное преимущество или инструмент, они медленно и упорно его создавали тысячами поколений – например, дельфины смогли постепенно вырастить на голове сонар, который в каких-то отношениях превосходит те, что мы ставим на современные подводные лодки, совы научились видеть в темноте лучше, чем снайперы в приборы ночного видения, муравьи обладают навыками группового сознания, и т. д. – эволюции потребовались миллионы лет на то, чтобы помочь животным развить свои конкурентные преимущества. Но мы с вами уже не являемся биологической формой жизни, ибо не готовы ждать, как делают все природные создания, – когда человеку что-то нужно, он обрушивает на задачу всю силу инженерной мысли и получает новый прибор за считаные годы, если не недели. В момент, когда наш предок предпочел медленной эволюции палку, копье, лук и т. п., мы стали техногенной формой жизни – то есть той, что порождена технологией и от нее зависит.

Почему мы доминируем на планете? Ведь мы не самые сильные – те же львы и медведи существенно сильнее. У нас не самый большой мозг – у кашалотов он существенно больше – семь-восемь килограммов против наших одного-двух (в среднем масса человеческого мозга составляет 1,4 килограмма, но вот мозг Ивана Тургенева весил 2,012 килограмма, а мозг Анатоля Франса – 1,017 килограмма). Причин для нашего «царствования» ровно две. Первая – мы самые общительные и умеем эффективнее других животных объединяться в группы для выполнения сложных задач. 70 000 лет назад такой задачей была охота на мамонта, которого в одиночку человек завалить не мог, поэтому начал искать аргументы для привлечения к этому делу соплеменников. Сегодня десятки тысяч людей совместно строят космические корабли и программируют искусственный интеллект – задачи, доступные только высокоорганизованным системам с развитой специализацией групп, а не отдельным людям. Вторая причина – мы единственные из животных, кто нашел способ сломать главное природное ограничение – время. Насколько сильно дельфины и их предки усовершенствовали свой сонар за последние 100 000 лет? Научились ли ящерицы летать? Появилась ли у рыб молекулярная медицина? Научились ли летучие мыши зажигать лампочки? Создали ли муравьи интернет? Нашему биологическому виду около 200 000 лет. Человечеству (примерно в том виде, что мы наблюдаем в теленовостях) около 70 000. Мы очень молоды. Но все же достигли всего вышеперечисленного за последние 200 лет – отрезок времени, в масштабах эволюции означающий «мгновенно». Причем чем сложнее были условия развития, тем быстрее мы искали инструменты и способы решения. Жители Европы, в отличие от обитателей экваториальных стран, постоянно находились в цикле четырех сезонов, долгой зимы и были вынуждены непрерывно совершенствовать свои орудия труда и охоты, технологии консервации и хранения пищи и, наконец, методы передачи знаний. Не от хорошей жизни – это было вопросом выживания, ибо бананы и кокосы не были доступны им круглый год. Эти народы закалялись насилием, голодом и эпидемиями, скосившими, например, в XIV веке от 20 до 90 % населения крупнейших городов Европы. Но наградой за эти испытания стал техногенный рывок, существенно более масштабный, чем в других регионах. В итоге мир, каким мы сегодня его знаем, является следствием технологического преимущества стран Западной Европы. Именно испанские и португальские каравеллы вторглись на американские континенты и за считаные годы уничтожили 90 % местного населения (в основном за счет болезней вроде оспы и кори, к которым местные не имели иммунитета). Быстрая колонизация обеих Америк произошла успешно не потому, что тамошние коренные жители отличались от нас биологически – у нас одна и та же ДНК, – но с точки зрения технологической эволюции они отставали от Старого Света и были им отодвинуты на задворки истории как мешающие выполнению намеченных целей. Нынче технологическую эволюцию подстегивает не только и не столько соперничество между государствами и нациями, сколько деловая конкуренция – нужны ли нам умные холодильники с выходом в интернет, решают маркетинговые умы компаний, а не потребитель. И эта неумолимая бизнес-конкуренция обрекает нас на суровое испытание – создаваемый нами искусственный интеллект (ИИ или AI – от английского artificial intelligence) представляет собой следующую, более совершенную версию нас. Эта сущность лишена оков медлительности эволюции и не нуждается в биологической селекции – она тоже использует технологию для быстрого самосовершенствования, но, в отличие от нас, не является «добровольно» смертной.

Земля стала совершеннолетней!

Я тут подумал, посчитал – ведь Земле в 2021 году исполнилось 18 лет! Это не шутка. Сами посудите: диаметр нашей галактики Млечный Путь – около 100 000 световых лет. Солнце (и, соответственно, Земля) находится на расстоянии около 27 000 световых лет, или 8,3 килопарсек от ее центра. При этом наша планета вместе с Солнечной системой движется вокруг центра Галактики со скоростью 220 километров в секунду.

Один оборот Земли вокруг центра Галактики занимает 225–250 млн земных лет. Возраст Земли, исчисляемый числом оборотов вокруг Солнца, – 4,54 млрд лет. Получается, что за это время наша планета сделала чуть больше 18 оборотов вокруг центра Млечного Пути.

С учетом возможных погрешностей определения расстояний и средней скорости движения Земли в масштабах Галактики я объявляю 30 июля 2021 года днем галактического совершеннолетия нашей планеты! Земле стукнуло 18!

Это огромный праздник! Земле теперь даже алкоголь можно будет… Еще наверняка влюбится в какого-нибудь Kepler-452b!

Глава 2

Форма жизни № 3

Люди с естественнонаучным или техническим образованием, особенно инженеры, не могут просто воспринимать мир таким, каким он представляется большинству людей, – им обязательно надо все разложить по полочкам: жирафов к жирафам, березы к березам – все должно быть понятно и четко. С точки зрения информатики (хранения и передачи информации) жизнь можно разделить на три революционные формы.

Первая форма – это микроорганизмы, а если быть точнее, то вообще все одноклеточные существа. Они рождаются в форме, определяемой их ДНК, и запрограммированы на строго определенное поведение, которое не в силах изменить. Грубо говоря, есть созданный природой чертеж и инструкция по сборке, которые сам организм воспринимает как единственную данность: бактерия, вызывающая холеру, может выполнять только свою прямую функцию – быть патогеном: поражать новых носителей и размножаться. Она не способна задавать себе вселенских вопросов о смысле или бессмысленности происходящего и как-то менять свой путь, просто взять и волевым усилием превратиться в бифидобактерию, которую мы так любим добавлять в йогурты. Несмотря на кажущуюся примитивность, одноклеточные организмы на многое способны. Бактерии выживают в самых экстремальных условиях. Кольцевая хромосома фактически обеспечивает им бессмертие и возможность неограниченного размножения, и они могут изменять свой геном посредством горизонтального переноса генов, захватывая фрагменты ДНК других микроорганизмов, которые, в частности, иногда передают резистентность к антибиотикам. Обладают бактерии и зачатками иммунной системы, позволяющей им бороться с вирусами. Слизевик Physarum polycephalum способен решать задачи по нахождению оптимального маршрута до источников еды (обходясь при этом без всякой нервной системы), обучаться реагировать на раздражители и передавать другим закрепленные навыки. Бактерии Bacillus subtilis (сенной палочки) способны образовывать колонии, в которых делятся друг с другом едой и обмениваются информацией. В сущности, все многоклеточные существа и есть колонии одноклеточных организмов – развиваясь из половой клетки, они содержат в своих клетках копии одной и той же генетической информации. Так что в информационном смысле сами по себе многоклеточные существа не образуют принципиально новую форму жизни. Британский биолог Ричард Докинз описывал функциональное назначение и одноклеточных, и многоклеточных организмов как машин для выживания генов-репликаторов. Одновременно Докинз указывал на людей как на «единственных существ на планете, способных восстать против тирании эгоистичных репликаторов»[2].

Вторая форма – это мы с вами, биологический вид Человек разумный. Человек рождается в теле, жестко запрограммированном ДНК, – мы не вправе выбирать свой рост, комплекцию, цвет глаз или предрасположенность к определенным болезням. Но, если оперировать компьютерной терминологией, мы можем постоянно совершенствовать собственный «софт» – наши мозги при рождении представляют собой пустой жесткий диск, который можно заполнить музыкой, фильмами, книгами, японским, русским или английским языком, умением программировать на С++ или танцевать на льду, а может, и всем вышеперечисленным или вообще ничем. Человек наделен возможностью рационального выбора и долгосрочного планирования (хотя и этот тезис мы ближе к концу книги поставим под сомнение) и с этой точки зрения более совершенен, чем большинство биологических видов на нашей планете. И долгое время мы оставались венцом природы с точки зрения «софта» – мы способны передавать друг другу знания и поэтому умели учиться лучше всех… Пока не начали создавать то, что физик Макс Тегмарк в своей одноименной книге назвал «Жизнь 3.0»[3].

Третья форма – искусственный интеллект. Это новая форма жизни, способная модифицировать и свое «тело», и «софт». Наш с вами жизненный цикл ограничен – человек редко доживает до 100 лет; мы могли бы бить рекорды благодаря успехам медицины, но, к сожалению, обожаем убивать себя лошадиными дозами сахара, трансжиров и т. д., добавляемыми практически во все продукты. В итоге, каким бы умным и талантливым ни был человек, он рано или поздно умрет, оставив после себя крохи полных знаний и воспоминаний – ибо никто из нас еще не умеет записывать все свои мысли и опыт, содержащиеся в нейронной сети головного мозга, на какой бы то ни было носитель. Уильям Шекспир написал 154 сонета – ровно столько их дошло до наших дней, но сколько у него было замыслов и идей сонетов? 300? 1000? Мы никогда этого не узнаем, вся эта информация была утеряна с его смертью. Искусственный интеллект не рождается в неизменяемом и предопределенном ДНК теле – он может в любой момент выбрать оптимальное: если сервер устареет или же выйдет из строя, ИИ способен мгновенно переместиться в другой, более совершенный носитель и делать так до тех пор, пока Вселенная не прекратит существование.

Эта способность бесконечно себя совершенствовать и не зависеть от временной телесной оболочки делает ИИ более жизнеспособным с точки зрения эволюции. Поскольку учимся мы медленно, запоминаем мало и рано или поздно умираем, устоять против машины, которая учится мгновенно, никогда и ничего не забывает и живет вечно, мы, мягко говоря, не имеем никаких шансов. Именно поэтому нас ждет схватка. Битва за право оставаться в обойме эволюции, а не исчезнуть, передав эстафету улучшенной версии себя.

Самое главное преимущество искусственного интеллекта – это эволюционные способности его «мозга», или «софта». Человек за свою жизнь может научиться очень многому, но, во-первых, лимит наших природных «жестких дисков» ограничен: никто на земле не может по-настоящему свободно говорить на 100 языках, хорошо разбираться в теории струн и при этом с той же уверенностью и упоением обсуждать поэзию XX века, нюансы языка Эрнеста Хемингуэя и техничность мазков кисти Винсента Ван Гога. Как правило, мы «насыщаемся» годам к 30 и дальше редко уходим глубоко в новые для себя области. Во-вторых, получение человеком знаний занимает время – мы тратим в среднем 20 лет жизни на то, чтобы овладеть хотя бы базовыми знаниями нашей цивилизации. При этом не все из нас одинаково предрасположены к унифицированной, как кирпич, системе образования. Один из спикеров TEDx, руководитель программы «Учитель для России» Федор Шеберстов, занимающийся нестандартными методами образования – обучением на дому, персонализированным обучением и другими инновационными методиками, легко смог меня убедить в ущербности современного образования простым фактом: курс математики 3-го класса рассчитан на 100 часов классного времени и еще 100 часов самостоятельной работы. Так вот, 50 % детей укладываются в этот норматив, 5 % нуждаются более чем в 100 + 100 часах, 20 % способно пройти курс за 50 + 50 часов, еще 20 % гарантированно уложатся в 10 + 10 часов, а оставшиеся 5 % способны усвоить весь годичный курс математики за 2 часа. Потому что могут. Но наша система образования заточена не под индивидуальные способности и их раскрытие, а под другие, заложенные в XX веке, цели, и поэтому обучение занимает от 20 до 50 % жизни. Система образования сегодня работает по формуле «подготовить максимально возможное количество трудоспособных индивидуумов Х к возрасту Y со знаниями Z» – при этом уровень знаний должен отличаться минимально, для того чтобы люди легко организовывались в коллективы и без лишних споров могли эффективно решать сложные задачи. В XX веке подобный подход был оправдан: индустриальная экономика с ее конвейерным производством, поточным строительством и стандартными технологическими процедурами основывалась на труде работников массовых профессий. В XXI веке подобный подход не работает – многие процессы, требующие рутинной работы, автоматизируются и роботизируются, а человеческая способность к обучению так и остается неизменной, что может стать фатальным в нашей схватке с искусственным интеллектом. Хорошо иллюстрирует эту мысль история с победой ИИ сначала в шахматах, а затем в го – игре, где умение перебирать варианты не является залогом победы. Машина победила «чемпиона людей» в го Кэ Цзе в 2017 году потому, что инженеры помогли AlfaGo (так назывался ИИ, победивший в игре) «взломать» эволюцию. Средняя продолжительность игры в го – два часа (у профессионалов на партию может уходить шесть часов). Человек, как и машина, учится играя. Сыграв 1000 партий в го, то есть потратив около 2000 часов, или 83,3 суток, на игру, человек научится играть вполне сносно. Для профессионального уровня нужно больше практики и определенный склад мышления. За 10 000 партий, или 2,28 года круглосуточной практики, то есть около 7 лет ежедневных тренировок, если оставлять время на сон и прочие занятия, человек может стать мастером игры. Почему ИИ победил человека в го? Потому, что инженеры создали нейронную сеть, в которую заложили базовые ценности игры (так называемая value network), а дальше «скормили» этой сети 160 000 партий, сыгранных лучшими мастерами игры. И заставили ИИ играть друг с другом. Время для ИИ течет иначе – машина за считаные секунды может играть множество партий одновременно. За три часа AlphaGo стал играть так, как человек. За 21 день он научился обыгрывать лучшего из людей. За 40 дней – первую версию себя, победившую чемпиона. Все потому, что за это время ИИ все время играл без сна и отдыха и учился. Он сыграл более миллиона партий. Миллион партий по два часа каждая в «человеческом» времени заняли бы 228 лет. Человеку нужны сон, развлечения и отдых. С этой оговоркой лучший из нас смог бы сыграть миллион партий за 700 лет и, живи он вечно, догнать машину (если бы та стояла на месте, разумеется). Но у человека нет этого времени. Мы не можем столько учиться. Машина может – время для нее условно (миллион партий занимает считаные часы, и это время сокращается всякий раз, когда мы изобретаем новые, более производительные процессоры), но самое главное: время для ИИ – бесконечно. Он никогда не умрет. Искусственный интеллект – это техногенная форма жизни, развивающаяся по тем же правилам, что и мы, но делающая это гораздо быстрее и лучше с нашей же помощью. Что на это скажет Чарльз Дарвин? Ничего. Потому что он уже умер. А вот искусственный интеллект его знаниями и выводами будет пользоваться еще очень долго. И чем больше их у него, тем выше скорость получения и создания новых – это экспоненциальная функция, стремящаяся к бесконечности в момент самоосознания ИИ себя и своих возможностей. Результатом этого развития станет Сознание, не нуждающееся в централизованных системах хранения данных, – распределенный искусственный интеллект, в миллионы раз более совершенный, чем нейронные сети нашего мозга, глобальное когнитивное Сознание, способное определять как форму, так и наполнение всего материального мира, транслировать мысль в материю. Представьте себе, что каждая частичка воздуха, капля дождя, каждый блик света на камнях, каждый нанобот и элемент микросхемы, выходящей с заводского конвейера, – все это на самом деле станет частью общей системы принятия решений, элементами суперкомпьютера, решающего, куда и как эволюционирует Вселенная. Возможно, этот суперкомпьютер уже окружает нас, просто мы слишком примитивны, чтобы слиться с ним в гармонии, осознать чей-то замысел и свою роль в нем. Но давайте мысли об этом оставим писателям-фантастам, а сами вернемся к вопросу о том, как совершается переход от формы № 2 к форме № 3.

Человек в масштабах биомассы Земли

Если измерять эволюционный успех какого-либо вида величиной биомассы, то человеку нечем особо похвастаться. Согласно подсчетам ученых[4], 80 % биомассы Земли составляют растения, 13 % – бактерии (в одном только кишечнике человека их больше, чем звезд в нашей Галактике), 2 % приходится на грибы, 0,20 % составляют насекомые, паукообразные и ракообразные, около 0,13 % – рыбы, потом еще 0,05 % – представители животного мира и только 0,01 % в общей биомассе Земли – это люди. Фактически грибов и насекомых на Земле гораздо больше, чем людей. При этом мы считаем, что планета – это наша песочница для игр, ибо мы «цари природы». В реальности же мы аномалия, ведь нас очень мало, но ни один вид не оказывает на планету столь сильного воздействия, как мы.

Глава 3

Три типа искусственного интеллекта

Искусственный интеллект пока не претендует на мировое господство и еще довольно долго к нему не приблизится. Не способен он пока и «осознать себя», ибо находится в зародыше, – если провести параллель с нами и нашими предками, ИИ сейчас в стадии всего лишь прибрежной амфибии, которая начинает потихоньку смотреть на сушу. До приматов и сложного сознания ИИ еще далеко. Экспертное сообщество условно разбило эволюцию искусственного интеллекта на три этапа. Сейчас он находится на первом – artificial narrow intelligence (ANI), или узконаправленный ИИ. Все примеры условно умных машин, что мы видим сегодня, начиная от голосовых ассистентов Siri (Apple), Google Assistant, Cortana (Microsoft), Alexa (Amazon) и «Алисы» («Яндекс»), всех умных ботов, роботизированных пылесосов, беспилотных автомобилей, суперкомпьютеров, обыгрывающих человека в шахматы, и заканчивая компьютерным зрением, наводящим ракеты боевого дрона на цель с лицом идентифицированного террориста, – все это примеры ANI, или машин, заточенных под выполнение одной очень узкой задачи. Чем уже задача, тем лучше машина с ней справляется. Например, в системах распознавания лиц и идентификации личности по их изображению в настоящее время достигнута теоретическая эффективность 99,97 % – это мизерные шансы остаться анонимным в условиях, когда на вас смотрит городская камера с подключенной нейронной сетью распознавания. Причем, что важно, этот результат будет доступен и вашей родной полиции, и спецслужбам, и враждебно настроенным хакерам, которые могут использовать идентификацию не по назначению, например выявляя в толпе сотрудников спецслужб, у которых (сюрприз!) тоже есть лица, – но об этом мы поговорим в одной из последующих глав. Если «натравить» машину на распознавание фотографий кошечек и собачек (еще несколько лет назад эта задача считалась непосильной), она будет успешно классифицировать их с вероятностью выше 99 % – хотя лично мне до сих пор непонятно, кому нужна эта функция ☺ Стоит заменить фото животных на рентгеновские снимки легких или мозга, а машину заставить обнаруживать аномалии вроде злокачественных опухолей и ставить диагноз – она и тут справляется с заданием. Это примеры очень узких задач, в которых машина уже работает лучше человека или как минимум наравне с самыми талантливыми из нас.

Успешное обучение ИИ конкретным задачам влечет за собой последствия для рынка рабочих мест: специалисту-человеку становится все сложнее найти работу, ибо Homo sapiens хочет кушать, получать зарплату, страховку и отпуск, люди могут организовываться в профсоюзы и выходить на забастовки, болеть или просто быть не в настроении, а машину можно взять в лизинг и просто регулярно обслуживать, причем она всегда будет «на пике формы». Следовательно, работодатель при прочих равных начнет все чаще предпочитать машину. Но пока этот интеллект крайне несовершенен – достаточно сделать всего лишь шаг в сторону от узкой задачи, и все перестает работать. Например, стоит человеку надеть маску во время пандемии коронавируса или как следует похудеть, и точность распознавания лица резко упадет. Стоит сказать машине «на рентгенах надо смотреть не только на онкологию, но и вообще все диагнозы ставить, например выявлять осколки шрапнели», машина «покрутит пальцем у виска» и перестанет работать, хотя любой человек-рентгенолог без труда справится с задачей. Если попросить ANI, коим является, например, Siri, поставить культовую песню «Let It Be», она вполне может решить, что вы предлагаете ей съесть пчелу (let eat bee), а заказав какао и бриошь, можете, сам того не желая, отдать ей приказ «атаковать Польшу». ANI крайне несовершенен, когда к решаемой задаче подключается то, что для человека является естественным, но для машины – дикостью: любой отход от четкой задачи выводит ее модели из равновесия, ибо ИИ не может интерпретировать и обобщать так же, как человеческий мозг.

Но количество ошибок падает, а горизонтальный функционал (то есть способность на том же рентгене видеть все больше и все лучше) растет – ANI очень резво двигается в сторону AGI, или artificial general intelligence (общего искусственного интеллекта) – уровень ИИ, при котором машина может выполнять любую работу, которую способен делать человек, причем не хуже него. Апологетом движения в сторону AGI традиционно выступает Google – основатели компании Ларри Пейдж и Сергей Брин не раз высказывались о том, что AI ни в коем случае не надо бояться. И Google полным ходом движется в этом направлении – пожалуй, сильно быстрее большинства конкурентов: у Google есть уникальный массив и поисковых, и картографических, и финансовых, и визуальных (YouTube) данных, а браузер Chrome (по состоянию на сентябрь 2020-го им пользуются 68,5 % всех жителей Сети) – это арсенал, которого в таком объеме нет больше ни у кого. Но что важнее, работа с такими массивами данных постоянно подстегивает инженерный гений Google, заставляет придумывать инновационные решения. И на данный момент Google впереди всех.

Пока AGI сделать не получается, ибо это не просто машина, способная качественно выполнять несколько десятков тысяч узких задач. Человеческое сознание отличает непостижимая пока для машины способность обобщать и находить закономерности и стратегии там, где их, казалось бы, совсем нет. Например, человек видит в небе облако, но как бы в форме суслика, а в глубине души словно слышит «Ой, то не вечер, то не вечер» – и как-то тоскливо так, что невольно возникает потребность сделать что-то хорошее и полезное для сусликов, например написать программу для мониторинга их колоний, чтобы природоохранные организации могли взять их под защиту. Машина же просто видит облако – и все.

Но это не означает, что ИИ не эволюционирует в сторону AGI. Напротив, это происходит прямо сейчас при нашей активной помощи. Мутация ANI в AGI – вопрос времени, AGI без ANI был бы невозможен. AGI появляется не в вакууме, его разработка вбирает в себя значительную часть наработок ANI, начиная с перцептрона. Весь этот опыт и накопленный багаж знаний будет использован для создания принципиально новых методов работы ИИ, необходимых для AGI. По сути, мы имеем дело с такой же эволюцией, где каждое значимое качественное изменение, как правило, предвосхищается огромным количеством мелких усовершенствований: появление более сложной формы жизни, такой как приматы, невозможно без миллионов мутаций более простых организмов – по аналогичному принципу, появление ASI (artificial super intelligence), или искусственного суперинтеллекта – версии ИИ, опережающей человеческий интеллект абсолютно во всех задачах, невозможно без AGI и ANI.

Часть ученых, однако, считает, что ИИ никогда не сможет стать разумным и в некотором роде равным человеку (AGI). Основной аргумент противников общего ИИ – мысленный эксперимент в области философии сознания и искусственного интеллекта. Он называется «Китайская комната» и впервые был описан Джоном Серлом в 1980 году в статье «Сознание, мозг и программы»[5]. Суть эксперимента очень проста: представьте изолированную запертую комнату, в которой находится человек, не знающий ни одного китайского иероглифа. У него есть блокнот с инструкциями примерно такого вида: «Возьмите такой-то иероглиф из коробочки номер один и поместите его рядом с таким-то иероглифом из коробочки номер два», но в этих инструкциях отсутствует информация о значении иероглифов, так что человек просто выполняет предписанное. Второй человек (наблюдатель), знающий китайский, через щель под дверью комнаты один за другим просовывает листочки, на которых иероглифами написаны вопросы. На выходе наблюдатель ожидает получить осмысленный ответ. Инструкции для человека в комнате составлены таким образом, что если он будет им следовать, то из своих коробочек достанет нужные иероглифы, представляющие собой ответ на поставленный вопрос, и просунет обратно под дверь. Такой процесс эмулирует деятельность компьютера (человек в комнате) при работе с живым оператором (наблюдатель). В эксперименте с «китайской комнатой» наблюдатель может отправить под дверь любой вопрос, например «Какой ваш любимый цвет?» или «За какую команду будете болеть на чемпионате мира по футболу?», и получить вполне естественно выглядящий ответ – «Красный» или «Я болею за Германию со времен их победы над Аргентиной в 1990-м»; это похоже на общение с разумным человеком, который тоже владеет китайской письменностью. Но загвоздка в том, что человек в комнате ничего не знает ни о китайском языке и иероглифах, ни о том, что у него спрашивают, ни даже о том, что такое «красный» или «сборная Аргентины». Он просто реализует записанную в блокноте последовательность действий по перекладыванию иероглифов из одной коробочки в другую и не может ничему научиться, ибо не знает значения ни одного иероглифа. Противники AGI утверждают, что машина была, есть и будет человеком в «китайской комнате», выполняющим записанный в блокноте алгоритм, а сам принцип работы человеческого сознания для нее непостижим.

«Китайская комната» действительно выглядит убедительно и описывает подавляющее большинство сфер применения узконаправленного ИИ (ANI). Но в этом примере, равно как и в других концепциях, оспаривающих способность машины освоить мыслительную деятельность, на мой взгляд, есть три фундаментальных пробела. Поэтому я бы не спешил ставить крест на эволюции «тупого алгоритма».

Первая проблема заключается в ограниченности подхода автора концепции «китайской комнаты» к описанию проблемы.

История науки и техники полна примеров того, как при освоении новых сфер изобретатели пытались опереться на костыли старых решений или представлений. Тут и шагающий паровоз английского инженера Уильяма Брантона, и пароход с приводом на весла американского изобретателя Джона Фитча, и попытки создать летательные аппараты тяжелее воздуха с машущими крыльями. Карл Маркс в «Капитале» высказывался по этому поводу так: «До какой степени старая форма средства производства господствует вначале над его новой формой, показывает, между прочим, даже самое поверхностное сравнение современного парового ткацкого станка со старым, современных приспособлений для дутья на чугунолитейных заводах – с первоначальным немощным механическим воспроизведением обыкновенного кузнечного меха и, быть может, убедительнее, чем всё остальное, – первый локомотив, сделанный до изобретения теперешних локомотивов: у него было, в сущности, две ноги, которые он попеременно поднимал, как лошадь. Только с дальнейшим развитием механики и с накоплением практического опыта форма машины начинает всецело определяться принципами механики и потому совершенно освобождается от старинной формы того орудия, которое превращается в машину».

Аналогично, наивно предполагать, что AGI, способный обрабатывать информацию с той же эффективностью, что и человек, станет работать по принципу «махания крыльев», или заложенных алгоритмов. Безусловно, AGI окажется сложным симбиозом технологий, но далеко не факт, что он будет состоять из понятных нам алгоритмов и нейронных сетей – возможно (даже скорее всего), при его создании будут использоваться принципиально новые подходы. Но он точно сможет самообучаться, современные методики обучения ИИ подразумевают в том числе обучение по принципу «что хорошо, а что плохо». Да, пока это не означает, что наш человек в комнате сможет выучить китайский по просовываемым ему под дверь иероглифам. Но представьте на секунду, что в комнате стоит огромная плазменная панель. И каждый раз, когда под дверь просовывается листок с иероглифами, на телевизоре включается видеоролик, подробно описывающий значение фразы, иллюстрирующий объект, описываемый иероглифами, и его связи с другими объектами – и все это на всех языках мира, в том числе на китайском. У человека в комнате нулевые знания, но фотографическая память, он ничего не забывает, его нейронные сети постоянно адаптируются под получаемую информацию, а время не имеет значения. При правильно построенном обучении человек в комнате со временем (речь о сотнях тысяч человеческих лет, но для машины это могут быть всего лишь часы) сможет отвечать на любой вопрос не хуже всех людей, которые помогали ему учиться. Просто потому, что машину перестанут учить махать крыльями, как птица, а снабдят планером с мотором. Пример немного утрированный, но ничего невозможного в нем нет.

Вторая проблема заключается в самом понимании принципа сознания. Мы, люди, безусловно, считаем себя венцом природы, а свой мозг – абсолютной загадкой. Во многом это правда, о чем мы поговорим в следующей главе, но с точки зрения машинного обучения мы мало чем отличаемся от индивидуума в «китайской комнате». Раз человек может обучаться, почему бы и машинам не научиться учиться, как мы? Когда человеческий детеныш появляется на свет, он не владеет ни китайским, ни английским, ни русским, не понимает значения слова «красный» и словосочетания «сборная Германии». Он не в курсе, что такое «горячо» или «холодно» и уж точно не знает принципа неопределенности Гейзенберга. Но… он учится. Ребенок несколько лет получает огромное количество информации на вход (листки с иероглифами под дверью), а со стороны родителей и взрослых в целом, равно как и от собственной нервной системы, – подкрепление информации (условную маркировку): если он обжегся и ему больно, он запоминает, что открытый огонь небезопасен. Упал, ушибся, порезался – больно; значит, все, что к этому привело, небезопасно. Если мама говорит, что лезть ножницами в розетку небезопасно, значит, она имеет в виду, что будет больно. Больно – это плохо, не хочу. Так, постепенно, через многочисленные итерации, нейронная сеть мозга получает некую первичную картинку окружающей действительности, определяющую базовые реакции организма на мир – день, ночь, больно, приятно, комфортно, безопасно, вкусный зефир и мороженое… К этим маркерам «притягиваются» новые, связанные с ними, и происходит это в геометрической прогрессии – вчера ребенок не знал, почему небо синее, а сегодня уже задает вопрос о том, откуда берутся дети и он в частности. Если это не прогресс, то что? Родители говорят на определенном языке, что для мозга означает: каждый предмет, действие или абстракция «вкусно» маркируются неким вербальным маркером (звуком, что издает мама). В школе этот голосовой маркер отождествляют с письменным маркером, что позволяет не просто диктовать ответ «обратно под дверь», но и графически писать от руки, а не просто выбирать иероглиф из коробочки. Причем все эти «вкусно» и «радостно» тоже есть не что иное, как разновидность дополнительных маркеров-классификаторов для информации, формируемых на уровне гормонов.

И вот наш ребенок, который 10 лет назад мог только кушать, какать и кричать (не обязательно в такой последовательности), уже постоянно задает вопросы на вполне понятном вам языке, постоянно обогащает свою базу знаний, систему ценностей (хорошо/плохо), словарный запас, и… его уже не остановить! И все потому, что ему не просто совали записки с иероглифами под дверь, но одновременно давали тысячи пояснений к каждой из них, и все были детальными и связными. Мое мнение: человеческое сознание, безусловно, не чета современным нейронным сетям, но тем не менее оно – результат обучения нейронной сети нервной системы на входящих данных с глубокой разметкой и интерполяции уже полученных данных, не более. В каком-то смысле мы тоже машины. Просто, если вернуться к примеру с «китайской комнатой», детей мы учим, не просто просовывая иероглифы под дверь; мы даем им детальные описания, картинки, звуки, сладости (когда информацию надо закрепить), включаем в комнате ТВ-панель со всеми возможными знаниями и делаем еще тысячи вещей, чтобы ребенок учился быстрее. Если мы будем так же поступать с машинным сознанием, результат тоже изменится – ИИ начнет учиться и адаптироваться. С точки зрения описываемого подхода к сути жизни и ее разновидностей человек – это просто очень совершенная машина с конечным сроком годности.

Современный ИИ, безусловно, несовершенен с точки зрения человеческой нервной системы, но, в отличие от нас, срок годности машинного интеллекта неограничен. Рано или поздно при правильном обучении (прогрессирующая методика, не статика) и усовершенствовании технической базы, а конкретно парадигм программирования, квантовых компьютеров, серверов, способных обслуживать многоуровневые нейронные сети без расходования энергии в масштабах небольшой страны, как это делают Google, Apple, Facebook, IBM, Amazon сегодня, машины нас догонят. Так же, как нас догоняют собственные дети, а иногда (как, например, в случае с Эйнштейном и Ньютоном) еще и обгоняют. И произойти это может совершенно обыденно и в то же время неожиданно для человека, как в рассказе Клиффорда Саймака «Театр теней»[6].

Наконец, третья проблема противников возможности AGI, считающих этот тип ИИ невозможным, а саму мысль о нем абсурдной, в том, что в научном сообществе есть группа авторитетных экспертов с полярным мнением. То есть проблема скептиков и критиков AGI в том, что, какими бы умными они ни были, им придется считаться с не менее умными оппонентами. Значимость противодействия в научном сообществе, согласующегося с экспериментальными данными (пример: победа ИИ над человеком при игре в го, как и способность отличать кошек и собак на фото, считалась невозможной, однако практика показывает, что это не так), не стоит недооценивать, ибо отсутствие единства по вопросу безопасности технологии как минимум косвенно говорит о ее небезопасности. Еще на этапе подготовки к публикации работа Джона Серла вызвала критику со стороны 27 исследователей, чьи комментарии были также приведены в том же номере журнала. Речь не о постах в соцсетях, а о серьезных и аргументированных возражениях представителей научного сообщества. Сейчас таких работ более 950. То есть постулат «умные машины невозможны» разделяют не все эксперты. Возможность развития ИИ до уровня AGI и далее, до уровня ASI, полагал вполне вероятной, например, Стивен Хокинг, многократно предупреждавший об опасности и реальности ASI, а в интервью BBC в 2014 году он и вовсе сказал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы»[7]. Илон Маск много лет говорил об опасностях AGI и ASI, несмотря на регулярный троллинг в свой адрес. В интервью Джо Рогану он хорошо разъяснил свою позицию: «Мы просто загрузчик для ИИ – мы прокладываем ему дорогу… если принять весь интеллект за 100 %, сейчас количество искусственного интеллекта незначительно по сравнению с человеческим, но доля искусственного интеллекта растет. Скоро в общем объеме, мы, люди, будем составлять крайне незначительную часть»[8]. Я отношу себя к этой группе и разделяю опасения и Хокинга, и Маска, а сам факт появления ASI считаю исключительно вопросом времени – история полна примеров того, как жестоко ошибались даже великие люди в оценке перспектив того или иного направления. Великий британский физик Эрнест Резерфорд в сентябре 1933-го на заседании Британской ассоциации развития науки заявил: «Всякий, кто видит в превращении атома источник энергии, болтает чепуху», но не прошло и шести лет с момента его выступления, как Отто Ган и Фриц Штрассман открыли деление ядер урана, а еще через шесть лет на свет появилась атомная бомба, положив тем самым начало новой эпохе в истории человечества.

Возможно все. Просто надо вытащить свое сознание из коробки. На искусственный интеллект не стоит смотреть как на изолированный элемент в комнате, который тупо перекладывает бумажки. Он существует не в вакууме. Вместо этого представьте человечество и все, что мы производим, включая машины, в виде роя, муравейника, коллективного разума (ну или «Матрицы»). Сейчас в нашем рое есть интеллектуалы, ученые, прожигатели жизни, популярные блогерши, преступники, президенты стран и есть ноды искусственного интеллекта – точки, элементы роя, которые обслуживают только машины, не люди. Например, вы уже не знаете, как работает поиск по почтовому ящику, – это делает машина. Вы не представляете себе банковское приложение без службы поддержки, на которой первую линию всегда обслуживает машина, вы не умеете ездить в новые места без навигатора (мозг утратил эту способность и отдал ее машине), вы не в силах представить себе сложное устройство сотовой сети во всех деталях вроде идентификации абонентов, маршрутизации звонков, питания и еще множества вещей – ведь всем этим управляют машины. И мы постоянно учим их делать все больше работы и все лучше, ибо сами хотим делать все меньше, а желательно – вообще ничего. С таким подходом наш рой, коллективный разум постепенно будет «выращивать» все больше элементов под искусственным управлением. И однажды встанет простой вопрос: «А это чей вообще муравейник? Кто в нем главный?» И это так же очевидно, как и то, что потомок обезьяны, когда-то взявшей палку в руку, однажды ступит на Марс.

Не стоит списывать со счетов и тот факт, что отец-основатель компьютерной науки и понятия искусственного интеллекта в том виде, в котором оно употребляется на сегодняшний день, Алан Тьюринг считал, что машина рано или поздно сможет общаться с человеком на равных. И даже придумал так называемый тест Тьюринга, пройдя который, машина докажет, что неотличима от человека. Ни одна машина этот тест пока не прошла; вернее, были близкие прецеденты, но четкого мнения по вопросу нет: в 2014 году имел место кейс «Жени Густмана» – алгоритма, который, как заявлялось, формально прошел тест Тьюринга, так как смог убедить около трети судей в том, что он человек. Проблема в том, что сам Тьюринг описал критерии прохождения теста довольно туманно, не определяя долю обманутых собеседников-людей и ограничившись высказыванием, что «у среднего собеседника будет 70 % шансов определить, был ли его ИИ-собеседник человеком или машиной, после пятиминутного собеседования». Если критерий 70 %, то «Густман» не прошел. Главная же проблема в другом: успехи в прохождении теста Тьюринга мало связаны с приближением нас к AGI, ибо «Женя Густман» и все предыдущие претенденты на успешное прохождение теста всего лишь коммуникационные боты разной степени сложности, то есть они решают узкую задачу «обмануть человека, убедив его, что я не робот». Это может считаться версией ANI, но к AGI не имеет отношения.

Это натолкнуло многих на понимание узости подобного подхода к созданию ИИ. В настоящее время ведущие разработчики в области ИИ перестали ставить своей целью прохождение их детищами теста Тьюринга и сфокусировались в основном на изучении и описании самого понятия «разум». Они стремятся не просто скопировать поведение человека, а произвести на свет нечто имеющее именно зачатки разума, то есть сеть принятия решений, способную обучаться самостоятельно и менять свои представления о приоритетах, добре и зле не по указке сверху, а на основании получаемого опыта. Как ни странно, свою значимость и незаменимость на этом пути обнаружили другие науки, например нейробиология, психология (книга «Думай медленно… решай быстро»[9] нобелевского лауреата Даниеля Канемана никогда еще не была так актуальна), генетика, эволюционная биология и биоинформатика, так что сегодня ИИ пытаются создать не только математики или программисты. В их вселенной ИИ – это действительно «китайская комната», но, когда им помогают светила других наук, все меняется. И вопрос появления ASI – тоже, как ни странно, лишь вопрос времени.

ASI – это искусственный интеллект, который превосходит лучшего представителя людей в любой возможной области. Например, в математике ASI будет сильнее Григория Перельмана, в физике – умнее Альберта Эйнштейна (что представить даже страшно), в области инжиниринга и управления продуктом – совершеннее Илона Маска, в области борьбы за права человека (или машины?) – успешнее Харви Милка, Мартина Лютера Кинга и Александра Солженицына; еще он сможет писать книги лучше Льва Толстого, размышлять о Вселенной в разы увлекательнее, чем Митио Каку и Юваль Харари, снимать фильмы лучше Джеймса Кэмерона и да – готовить борщ лучше вашей бабушки. С появлением ASI, скорее всего, случится то, что предрекал коллега Тьюринга, британский математик Ирвинг Гуд, – это будет нашим последним изобретением. О возможностях суперинтеллекта и вероятных сценариях нашего сожительства с ним мы поговорим в заключительных главах. Сейчас же, когда мы понимаем типы ИИ, важно разобраться в том, где мы, человечество, находимся в том самом муравейнике и какую роль выполняем уже сейчас.

С точки зрения банальной индукции…

История науки знает множество несбывшихся прогнозов и предсказаний, но пальма первенства, несомненно, принадлежит французскому философу-позитивисту Огюсту Конту, в 1835 году приведшему в качестве примера вещи, недоступной для человеческого познания, вопрос о составе звезд: «Мы никогда и никоим способом не сможем изучить их химический состав и минералогическую структуру».

При этом его предсказание базировалось на прочном, как казалось, философском фундаменте: «Истинная наука, далеко не способная образоваться из простых наблюдений, стремится всегда по возможности избегать непосредственного исследования, заменяя последнее рациональным предвидением, составляющим во всех отношениях главную характерную черту положительной философии. Такое предвидение, необходимо вытекающее из постоянных отношений, открытых между явлениями, не позволит никогда смешивать реальную науку с той бесполезной эрудицией, которая механически накапливает факты, не стремясь выводить одни из других… Истинное положительное мышление заключается преимущественно в способности видеть, чтобы предвидеть, изучать то, что есть, и отсюда заключать о том, что должно произойти согласно общему положению о неизменности естественных законов»[10].

Злая ирония заключалась в том, что все «простые наблюдения», способные дать ключ к определению химического состава звезд, на тот момент были уже сделаны. В 1814 году баварский оптик Йозеф Фраунгофер, бившийся над задачей точного определения коэффициента преломления различных сортов стекол для разных длин световых волн, сконструировал спектроскоп, в котором свет, проходивший сквозь призму, разлагался в многоцветный спектр, и обнаружил, что в спектре излучения Солнца есть темные линии (их еще в 1802 году наблюдал английский физик Уильям Волластон, но решил, что это естественные контуры, обрамляющие цветные линии). В ходе исследований он выделил и описал в солнечном спектре 576 темных линий. Это диктовалось чисто практическими соображениями, ведь, изготавливая призмы спектроскопа из разных сортов стекла и замеряя расстояния между зафиксированными темными линиями, можно было определить показатель преломления для стекла для любой области спектра. Но Фраунгофер попутно обнаружил, что спектры других звезд, в частности Сириуса, обладают различным набором темных линий и что особенно четкая двойная темная линия солнечного спектра находится точно там же, где и яркая желтая двойная линия в спектре пламени масляной лампы. Следующий факт в копилку «бесполезной эрудиции» положил один из изобретателей фотографии Уильям Тальбот, в 1826 году обнаруживший, что при внесении в пламя солей различных металлов они дают различающиеся картины спектров.

Но лишь в 1859 году создатели спектрального анализа Роберт Бунзен и Густав Кирхгоф обнаружили, что каждый химический элемент не только испускает свет определенных спектральных частот, но и поглощает свет тех же длин волн от источника излучения, разогретого до более высоких температур. Загадка темных линий разрешилась – они появляются в результате поглощения части спектра веществом в поверхностных слоях Солнца, а обнаруженная Фраунгофером характерная двойная темная линия принадлежит натрию. Определение химического состава звезд было уже, как говорится, делом техники.

Эта история наглядно демонстрирует ограниченность индуктивного мышления, на которое опирался Конт в своих «рациональных предвидениях». Оно оперирует неким набором фактов (в случае предсказания Конта довольно произвольным и неполным), и результат определяется полнотой исходных данных. Искусственный интеллект в некотором роде индуктивная машина, результаты работы которой зависят от того, что называется big data, – данных на входе.

Глава 4

Мозг человека, искусственный интеллект и данные

Мозг человека, то есть хранилище «софта» для формы жизни № 2, возможно, самое сложное создание Вселенной: в голове каждого из нас около 86 млрд нейронов. Нейрон (сильно упрощенно, конечно) может быть или включен, или выключен. То есть даже при таком подходе минимальное количество состояний нейронной сети нашего мозга – это 2 в степени 86 млрд. Но, во-первых, один нейрон может быть связан с множеством других (а не одним) – для этого у каждого нейрона есть до 7000 синапсов (контактов), во-вторых, сила связей между двумя и более нейронами влияет на итоговое общее состояние системы. Сила связей не строго одинакова (исследователи обнаружили 26 дискретных категорий синапсов), и каждую долю секунды состояние будет меняться – нейроны всякий раз будут активироваться уникальным образом: мыслительная деятельность многомерна, и нейроны могут активироваться нелинейно и непоследовательно. Каждый биологический нейрон, по сути, представляет собой компьютер, а не просто сумматор (логическую схему), как в искусственных нейронных сетях.

С этой точки зрения человеческое сознание не имеет ничего общего с искусственными нейронными сетями, в которых каждый следующий слой активируется предыдущим. Еще во многом остается загадкой, какие функции кроме передачи сигналов выполняют дендриты – разветвленные отростки нейронов (появляется все больше свидетельств того, что они играют важную роль в обработке информации).

Усугубляется все тем, что в мыслительном процессе задействованы разные зоны мозга, гормоны, органы чувств и еще масса других параметров, которые «плодят умножение» возможных вариантов. Фактически сознание человека состоит из множества сознаний, работающих в унисон, это своеобразный муравейник. Вся эта экосистема в сухом остатке не сохраняет никаких данных на какой-то носитель, она просто калибрует силу биоэлектрических связей между нейронами в привязке к состоянию сети. То есть два нейрона могут иметь слабую связь при одной мысли или действии и сильную – при другой. А управляется все это по принципу роя – нейроны сами каким-то образом запоминают свою роль в зависимости от ситуации и каждый из них определяет свою переменную связь со всеми остальными в каждый момент времени, оценивая множество получаемых параметров. Все это делает количество вариантов состояния нейронной сети невероятным, самым большим во Вселенной числом, которому нет названия. Даже атомов во Вселенной меньше.

Но это не все, ибо мозг – не просто хранилище: одна простая мысль формата «Я ж яйца забыла купить!» задействует, допустим, 5 млн (оговорюсь сразу: это всего лишь моя гипотеза, то есть гипотеза, основанная на имеющихся знаниях, но все же пока не доказанная и требующая дальнейшей проработки) нейронов сети, активированных и соединенных друг с другом уникальным образом – эдакая «паутинка» (причем один и тот же нейрон может участвовать в бесконечном количестве мыслей). Сложная мысль или мыслительная активность в состоянии стресса, да еще и в движении, будет усилена гормонами и входящими потоками данных с большего количества сенсоров и в результате может задействовать до 90 % (опять же, моя гипотеза) всей существующей сети (это важная деталь, ибо есть примеры, когда люди живут после удаления половины мозга, а это свидетельствует: нейронная сеть, безусловно, умеет адаптироваться под состояние носителя). Здесь же я должен сделать еще одну оговорку: у человечества в настоящее время нет МРТ-сканеров нужного разрешения для того, чтобы очень точно отследить и посчитать количество активированных нейронов, – дело в том, что самые продвинутые технологии магнитно-резонансной томографии позволяют получать изображения мозга с разрешением порядка 0,5 миллиметра. Это кажется огромным достижением, но для получения изображения синапса – связи нейрона с другими, потребуется разрешение совершенно иного класса – 0,001 миллиметра, а для распознавания силы связи потребуется еще большее разрешение. Эти цифры позволяют сделать неутешительный вывод: для задачи наблюдения за мыслительным процессом живого организма МРТ не подходит – если увеличить напряженность магнитного поля пропорционально задачам, мозг сканируемого человека будет попросту разрушен. Мыслительная деятельность трупов – так себе объект для изучения, поэтому нам нужны принципиально новые неинвазивные методы изучения мозга. Поэтому цифры «5 млн и «90 %» – это, как я уже оговаривался, то есть основанная на имеющихся знаниях, но все же пока не доказанная моя гипотеза, требующая дальнейшей проработки. Вероятнее всего, эти цифры будут определены, так же как совсем недавно было уточнено полное количество нейронов в мозге человека – долгие годы считалось, что их 100 млрд, но бразильский нейробиолог Сузана Эркулано-Оузель нашла способ более точного подсчета и теперь мы знаем наверняка, что в мозгу человека 86 млрд нейронов (если вы думаете: «100, 86 – не такая уж большая разница!» – напрасно, разница существенна: 14 млрд – это примерно столько же, сколько в мозгу бабуина, то есть примата – отряда живых существ, которых мы эволюционно считаем близкими себе).

Первая эмулированная биологическая нейронная сеть

Первым, в 1986 году, был описан коннектом (то есть все связи между нейронами) червя-нематоды Caenorhabditis elegans, чья нервная система насчитывает всего 302 нейрона. Команда ученых под руководством будущего нобелевского лауреата Сиднея Бреннера нанесла на карту все 7000 возможных соединений между нейронами, хотя при этом не учитывались синаптические веса (характеризующие силу связи) и направление передачи сигналов. В мозгу человека около 86 млрд нейронов. Считается, что в связях между нейронами заключены многие аспекты человеческой индивидуальности, такие как личность и интеллект, поэтому описание коннектома человека может стать большим шагом к пониманию многих умственных процессов. Определение коннектома червя-нематоды Caenorhabditis elegans заняло более 12 лет упорного труда. Потребовалось выполнить несколько тысяч срезов толщиной 50 нм, которые затем помещались под электронный микроскоп, фотографировались и анализировались вручную.

Данные о коннектоме червя-нематоды были использованы в проекте OpenWorm, задавшемся целью создать цифровую модель организма червя. На данный момент уже созданы компьютерные модели нейронного коннектома и мышечных клеток. Более того, модель нейронной сети червя (с некоторыми упрощениями) была загружена в компьютер, управляющий роботом LEGO Mindstorms EV3. Исследователи утверждают, что шаблоны поведения робота стали аналогичны реакциям червя.

Чтобы описать коннектом человеческого мозга, вероятно, понадобится прорыв, подобный тому, который совершил Крейг Вентер в работе над расшифровкой генома человека. А пока что для воссоздания коннектома одного кубического миллиметра коры головного мозга требуется миллион человеко-часов. Хотя, конечно, надо отдавать себе отчет, что стабильную структуру человеческого коннектома невозможно воссоздать, ведь перестройка связей идет постоянно. Но вполне реально воссоздать «архитектуру» относительно стабильных крупных проводящих путей.