10 аргументов удалить все свои аккаунты в социальных сетях бесплатное чтение

Джарон Ланье
10 аргументов удалить все свои аккаунты в социальных сетях

Jaron Lanier

TEN ARGUMENTS FOR DELETING YOUR SOCIAL MEDIA ACCOUNTS RIGHT NOW

© Воронович Э., перевод на русский язык, 2019

© ИП Сирота, 2019

© Оформление. ООО «Издательство «Эксмо», 2019

Введение с кошками

Начнем с кошек.

Котики в интернете повсюду. Они появляются в самых забавных видеороликах и мемах.

Почему кошек там больше, чем собак?^[1]

Собаки не приходили к древним людям и не просились с ними жить. Мы их поймали и одомашнили^[2]. Их выращивали для подчинения. Они предсказуемы и легко поддаются дрессировке. Они работают на нас. Они приносят пользу^[3]. Здорово, что они такие верные и безотказные.

Кошки другие. Они пришли к нам и стали домашними отчасти сами. Они непредсказуемы. В популярных видеороликах с собаками хозяева хвастают, как хорошо те вышколены. Среди роликов с кошками бешеной популярностью пользуются те, где животные ведут себя странно.

Кошки умны, но если вам нужно животное, которое будет вас слушаться, они – не лучший выбор. Посмотрите ролики про кошачий цирк. В них отчетливо видно, что кошки каждый раз решают, выполнить ли им разученный трюк, отказаться трогаться с места или отправиться в зрительный зал.

Кошки совершили, казалось бы, невозможное: они сумели интегрироваться в современный мир высоких технологий, не изменившись. Они до сих пор сами по себе. Вам не стоит бояться, что какое-то незаметное внушение, созданное с помощью алгоритма и оплаченное коварным невидимым олигархом, управляет вашим котиком. Им вообще никто не управляет, в том числе и вы сами.

Как бы нам хотелось сказать то же самое о себе! Котики в интернете – это наши надежды и мечты о будущем человечества.

Несмотря на всю нашу любовь к собакам, быть такими же, по крайней мере в контексте иерархии власти, нам не хочется, и нас коробит от мысли, что Facebook и прочие компании превращают нас в собак. Когда мы занимаемся в сети какой-нибудь ерундой, это можно назвать реакцией на «бесшумный свисток», который могут слышать только собаки. Нас терзает подозрение, что нас незаметно контролируют.

Эта книга рассказывает о том, как остаться кошкой и сохранить анонимность в мире, где за каждым из нас ведется постоянное наблюдение и где богатейшие компании, которые зарабатывают тем, что влияют на наше поведение, непрерывно тычут в нас алгоритмами.

Название не врет. Я приведу в этой книге десять аргументов за то, чтобы немедленно удалить все свои аккаунты в социальных сетях. Но даже если вы целиком и полностью согласитесь со мной, вы все равно можете оставить некоторые свои аккаунты. Это ваше право, поскольку вы кошка и решаете сами за себя.

Я приведу десять аргументов и расскажу, как оценить ситуацию и понять, что для вас будет лучше. Но решение принимать вам.

Аргумент первый. Вы теряете свободу воли

Добро пожаловать в клетку

Прямо сейчас в мире происходит нечто уникальное. Всего каких-то пять или десять лет назад люди массово начали носить с собой небольшое устройство, смартфон, который стал удобной платформой для работы алгоритмов изменения поведения. Многие из нас к тому же ставят на кухонные полки или приборные панели автомобилей связанные со смартфоном устройства под названием «умные колонки». Корпорации нас постоянно отслеживают, считывают наши данные и выдают тщательно просчитанную обратную связь. Невидимые специалисты своего дела шаг за шагом гипнотизируют нас ради достижения целей, которые нам неизвестны. Все мы сейчас подопытные животные.

Каждую секунду алгоритмы поглощают информацию о вас. По каким ссылкам вы ходите? Какие видеоролики и как часто смотрите? Как быстро переключаете внимание с одних вещей на другие? Где, когда и что вы делаете? С кем общаетесь лично и в сети? Какие выражения принимает ваше лицо? Как, в зависимости от ситуаций, меняется его цвет? Что вы делаете, прежде чем решиться на покупку или участие в выборах?

Все это соотносится с такими же данными о жизни множества других людей, добытыми огромной шпионской сетью. Алгоритмы сопоставляют ваши действия с действиями остальных.

Эти программы не понимают вас по-настоящему, но они властвуют над числами, особенно большими. Если множество людей, которым нравятся те же блюда, что и вам, отвергнут портрет кандидата в розовой, а не голубой, рамке, то и вы, возможно, его отвергнете, и никому не интересно почему. Статистика надежна, но в этой ситуации она – глупый демон.

Вы одиноки, опечалены, напуганы? Счастливы, уверены в себе? Вы женщина, и у вас первые дни цикла? Нервничаете на уроке?

Так называемые рекламщики способны поймать момент, когда вы сильно взвинчены, и повлиять на вас сообщениями, которые сработали с другими людьми, чьи привычки и поведение в различных ситуациях совпали с вашими.

Я специально сказал «так называемые», потому что было бы неправильно называть рекламой откровенное манипулирование людьми. Настоящие рекламщики имели ограниченную возможность предлагать свой товар, и даже если иной раз их послание маскировалось или раздражало, оно было быстрым. Что еще важнее, люди видели одну и ту же рекламу на телевидении и в газетах, и никто ее не адаптировал под отдельно взятого человека. Но самое большое различие заключается в том, что за вами не вели постоянную слежку и не оценивали ваши действия, чтобы всучить вам «контент», который может изменить вас или побудить к чему-либо.

Теперь же все, кто зарегистрирован в социальных сетях, получают индивидуально подогнанные непрестанно меняющиеся стимулы, по крайней мере пока пользуются смартфонами. То, что раньше могло называться рекламой, сейчас следует расценивать как управление поведением в огромных масштабах.

Не сочтите это, пожалуйста, оскорблением. Да, я предполагаю, что вы потихоньку превращаетесь в идеально выдрессированную собаку, а может, и во что-то более неприятное, скажем в лабораторную крысу или даже робота. Что вас на расстоянии контролируют клиенты огромных корпораций. Но если я прав, то осознание этого поможет вам освободиться. Так почему бы не воспользоваться шансом?

Научное движение, названное бихевиоризмом, зародилось еще до изобретения компьютеров. Бихевиористы изучали новые, более методичные, стерильные и скучные способы дрессировки животных и людей.

Одним из знаменитых бихевиористов был Б. Ф. Скиннер. Он положил начало методологической системе, известной как ящик Скиннера. В рамках его экспериментов животных сажали в клетку и давали лакомство за совершение ими определенных действий. Животных никто не гладил и не хвалил, это было просто изолированное механическое действие – новая для того времени разновидность дрессировки. Позже бихевиористы применили этот метод к людям. Их стратегии часто срабатывали, и это ужасно пугало людей. В результате появилось множество фантастических романов и фильмов ужасов о «контроле разума».

Печально, но факт: при помощи бихевиористских методик можно дрессировать человека, и он даже не будет этого осознавать. До недавнего времени вы могли столкнуться с этим методом, только если бы записались добровольцем для участия в экспериментах в подвале университетского корпуса, в котором расположен факультет психологии. Вас бы отвели в специальное помещение, и психологи изучали бы вас через одностороннее зеркало. Несмотря на то что вы знали бы об эксперименте, вы не смогли бы осознать, как именно вами манипулируют. Что ж, вы были бы не в обиде, ведь вы сами дали согласие на то, что вами каким-то образом манипулировали. (Впрочем, не всегда. Некоторые жестокие эксперименты проводились на заключенных, бедняках и представителях других рас.)

В десяти главах этой книги я покажу, что вещи, которые внезапно стали считаться нормой – тотальная слежка и постоянные незаметные манипуляции – на самом деле негуманны, неэтичны, жестоки и опасны.

Опасны? О да, потому что вы не знаете, кто и в каких целях воспользуется этой властью.

Оказывается, безумный ученый заботится о собаке в клетке

Возможно, вы слышали о признаниях основателей империй социальных сетей, которые я предпочитаю называть «империями изменения поведения».

Например, Шона Паркера, первого президента Facebook:

«Нам нужно время от времени подкидывать вам дофамина – показывать, что кто-то оценил ваше фото, или пост, или что-нибудь еще… Петля обратной связи с социальным одобрением… это именно то, до чего додумался бы хакер, вроде меня, поскольку мы играем на уязвимости человеческой психологии… Изобретатели и создатели – я, Марк [Цукерберг], Кевин Систром из Instagram – мы постоянно это осознавали. И все равно это делали… ваши отношения друг с другом и обществом в буквальном смысле изменяются… Возможно, сети даже убивают способность продуктивно работать. Одному Богу известно, что все это делает с мозгом наших детей»^[4].

А вот что говорит Чамат Палихапития, бывший вице-президент Facebook по вопросам роста пользовательской аудитории:

«Созданные нами кратковременные петли обратной связи, подпитываемые дофамином, разрушают общество… Никаких дискуссий, чтобы достичь взаимопонимания, никакого сотрудничества, ложная информация, недоверие. Это не проблема одной только Америки, и дело вовсе не в шпионах. Это проблема всего мира… Я испытываю ужасное чувство вины. Думаю, в глубине души мы все это знали, хотя и притворялись, что не видим никаких негативных последствий. Думаю, где-то совсем в глубине сознания мы догадывались, что может произойти что-то плохое… Так что, с моей точки зрения, сейчас у нас действительно все плохо. Разрушается сама основа человеческого общения и взаимодействия друг с другом. И я понятия не имею, как эффективно решить проблему. Можно лишь отказаться пользоваться этими механизмами. Я уже несколько лет так и делаю»^[5].

Лучше поздно, чем никогда. Целая толпа критиков, и я в их числе, уже давно твердят, что мир катится в тартарары. Но когда это признают сами создатели соцсетей, это уже шаг вперед.

Долгие годы я был вынужден выслушивать весьма неприятную критику от друзей, работавших в Кремниевой долине. Я осуждал то, над чем мы вместе трудились, и меня считали предателем. Позже я столкнулся с противоположной проблемой. Я говорил, что работники Кремниевой долины по большей части порядочны, и просил не представлять нас вселенским злом. И сталкивался с новой волной праведного гнева. Я уже не понимаю, когда чрезмерно критикую свое окружение, а когда чрезмерно его защищаю.

Но куда важнее сейчас ответить на вопрос, имеет ли вообще значение хоть чья-нибудь критика. Мы все уже знаем, и корпорации не могут больше отрицать, что эта технология причиняет нам вред, но будем ли мы – а точнее, лично вы – в состоянии сопротивляться этому?

Некоторые компании, среди которых Facebook, Google и Twitter, пытаются исправить серьезные проблемы, из-за них же и возникшие, но действуют они разрозненно. Что случилось, в них проснулась совесть или на них оказывается давление? Думаю, понемногу и то и другое.

Как бы то ни было, компании меняют свою политику, тщательно мониторят происходящее и нанимают сотрудников для обработки и анализа данных, чтобы разработать алгоритмы, которые помогли бы избежать еще более страшных ошибок. Раньше в Facebook твердили: «Двигайся быстро и ломай устои»^[6], теперь они придумывают мантры получше, пытаясь собрать разбитый мир по кусочкам и склеить обломки.

Эта книга о том, что без нашей помощи компании не справятся.

Поскольку люди, работающие в Кремниевой долине, уже сожалеют о содеянном, может показаться, что нам достаточно немного подождать, и все наладится. Но это так не работает. Если вы не станете частью решения, его не будет вовсе.

В первом аргументе я представлю несколько ключевых концепций, стоящих за проектированием манипулятивных и формирующих зависимость сетевых сервисов. Осознанность – первый шаг к свободе.

Кнут и пряник

Паркер заявляет о том, что Facebook намеренно создает у людей зависимость, а Палихапития говорит об отрицательном влиянии этой соцсети на человеческие отношения и общество в целом. Где же связь между этими двумя источниками чувства вины?

Основной процесс, который позволяет соцсетям зарабатывать деньги и одновременно причиняет вред обществу – это изменение поведенческих моделей людей с помощью специальных методик. Причем их можно применять как для избавления от зависимостей, так и для их формирования.

Зависимости сводят людей с ума, и в этом заключается вред для общества. Зависимый человек постепенно теряет связь с реальностью и живыми людьми. Когда из-за применения манипулятивных схем множество людей перестают владеть собой, мир становится безумным и мрачным.

Зависимость – неврологический процесс, до конца еще не изученный. Мы знаем, что нейромедиатор дофамин влияет на получение нами удовольствия, и потому именно он лежит в основе работы механизма изменения поведения при реакции на поощрение. Вот почему Паркер его упоминает.

Изменение поведения современного человека под влиянием, например, смартфонов – статистический эффект. «Статистический» означает, что эффект реален, но не вполне объективен. В масштабах всего человечества результат вмешательства более или менее предсказуем, но с отдельно взятым человеком фокус может не сработать. Но не обольщайтесь – даже если выводы не вполне точны или основываются на нечетких логических построениях, они не перестают быть достоверными. Любой из нас – в какой-то степени животное, которое бихевиорист посадил для эксперимента в клетку.

Сегодня поощрение чаще всего применяется в экспериментах бихевиористов, но этот метод уходит корнями в древние времена. К нему прибегает каждый дрессировщик, когда дает собаке маленький кусочек лакомства после того, как она выполнит трюк. То же самое делают многие родители маленьких детей.

Иван Павлов, один из первых бихевиористов, блестяще продемонстрировал, что метод работает даже без настоящего лакомства. Он звонил в колокольчик каждый раз, как собаку кормили, – и в конце концов слюна у собаки начала выделяться, когда она просто слышала звук колокольчика.

Использование символов вместо настоящего поощрения – главная хитрость в инструментарии изменения поведения. Например, такая игра для смартфона, как Candy Crush, вместо настоящих сладостей использует для формирования зависимости нарисованные блестящие конфетки. Другие видеоигры могут привлекать внимание изображениями сверкающих монет и прочих сокровищ.

Складывающиеся у нас в мозгу стереотипы удовольствия и поощрения – «доза дофамина», выражаясь словами Шона Паркера, – это основная составляющая зависимости от социальных сетей. Однако соцсети также используют и наказание, или отрицательное подкрепление.

Во время лабораторных экспериментов ученые используют различные виды наказания – одно время весьма популярными были удары током. Но, как и с поощрением, наказанию совершенно не обязательно быть реальным и физическим. Иногда эксперименты проводятся с помощью начисления очков и применения символов.

Общаясь в социальных сетях, вы получаете эквиваленты как поощрения, так и ударов током.

Большинство пользователей соцсетей подвергались атакам со стороны аккаунтов-обманок, которые им подбрасывали, как фантик котенку^[7] (что кошки, кстати, терпеть не могут). Они испытали на себе бессердечное неприятие, принижение, пренебрежение, неприкрытый садизм или даже кое-что похуже. Это одновременно и кнут, и пряник. Неприятная обратная связь может сыграть в формировании зависимости и скрытом изменении поведения такую же важную роль, как и приятная.

Очарование тайны

Говоря «время от времени», Паркер, возможно, имеет в виду одно любопытное явление, которое открыли бихевиористы. Если за какое-либо действие человека поощрить – общественным одобрением или конфетой, – он будет стремиться совершать это действие как можно чаще. Получая похвалы за публикации в социальной сети, люди приобретают привычку писать много постов.

Звучит довольно невинно, но это может оказаться первым шагом на пути к зависимости, которая постепенно превратится в проблему как отдельного человека, так и общества в целом. Несмотря на то что в Кремниевой долине этот шаг благопристойно называют «вовлеченностью», мы уже достаточно напуганы, чтобы ограждать от него своих детей. Да, многие дети, чьи родители работают в Кремниевой долине, учатся в вальдорфских школах, где электронные устройства запрещены.

Давайте разберем это удивительное явление. Суть его не в слаженной работе положительной и отрицательной обратной связи, а в том, что непредсказуемая обратная связь может стать более мощным побуждающим фактором, чем самая идеальная.

Если вы – ребенок и получаете конфету каждый раз, как говорите слово «пожалуйста», возможно, вы начнете говорить его чаще. А теперь предположим, что однажды вы не получите свою конфету. Можно предположить, что отныне говорить «пожалуйста» вы будете реже: зачем стараться, если результат не гарантирован. Логично?

Но иногда происходит прямо противоположное. Как будто ваш мозг, с самого вашего рождения привыкший во всем находить взаимосвязи, не может устоять перед вызовом. «Тут должна быть какая-то хитрость», – шепчет он, одержимый навязчивой идеей. И вы продолжаете вежливо просить в надежде понять глубоко запрятанную закономерность. Однако ее нет, а есть только случайность безо всякого двойного дна.

Ученому позволительно увлекаться закономерностью, которая не имеет смысла. Он может копнуть глубже и действительно что-то обнаружить. Если вы пишете сценарий, это прекрасный инструмент для работы. Немного нелогичности в сюжете или характере персонажа сделает его более привлекательным.

Но во многих ситуациях это ужасная основа для увлечений. Возможно, именно очарование неопределенной обратной связи заманивает людей в мерзкие «созависимые» отношения, где с ними плохо обращаются.

Создать малую толику случайности в социальных сетях проще простого. Поскольку алгоритмы несовершенны, случайность будет подлинной. Но в дополнение к этому в новостные ленты привносится элемент намеренной случайности. Причина тому лежит в области базовой математики, а не человеческой психологии.

Алгоритмы социальных сетей обычно «самонастраиваемые». Это означает, что в них постоянно происходят небольшие изменения, призванные показать на выходе лучшие результаты. «Лучшие» в этом случае значит сильнее вовлекающие людей и, таким образом, приносящие больше выгоды. В таких алгоритмах всегда присутствует небольшой элемент случайности.

Предположим, обычный алгоритм показывает вам объявление о продаже носков или других товаров примерно через пять секунд после того, как вы посмотрите видео с котиками. Самонастраивающийся алгоритм проведет проверку, чтобы выяснить, что произойдет, если этот временной интервал уменьшить, скажем, до четырех с половиной секунд. Захочется ли вам купить товар сильнее? Если да, то он скорректирует время показа не только ваших будущих объявлений, но и объявлений тысяч других людей, более или менее совпадающих с вами хоть в цветовых предпочтениях, хоть в водительских привычках^[8].

Иногда самонастраивающиеся алгоритмы дают сбой, тогда они откатывают свои параметры до прежних показателей. Если после корректировки временного интервала и до четырех с половиной секунд, и до пяти с половиной секунд вы будете меньше хотеть купить носки, рекламу вам снова будут показывать ровно через пять секунд. На основании имеющихся доказательств, алгоритм примет пятисекундный интервал ожидания как оптимальный из всех возможных. По идее, если мелкие случайные изменения не помогают, алгоритм перестает адаптироваться. На деле же самонастраивающиеся алгоритмы никогда не теряют надежду улучшить самих себя.

Что же делать, если улучшить результат могут только более серьезные изменения? Возможно, стоит установить интервал в две с половиной секунды, но постоянные дополнительные поправки не помогут это выяснить, поскольку алгоритм застрял на пятисекундном интервале. Вот почему в самонастраивающиеся алгоритмы заложена возможность большой случайности. Зачастую алгоритм выходит на новый уровень эффективности, когда в почти идеальных настройках происходит сбой^[9].

Такой механизм скачкообразного развития часто бывает заложен в самонастраивающихся системах. Пример тому – полезные мутации, которые происходят в ходе биологической эволюции из-за постоянно нарастающего числа событий. В основе этого процесса лежит естественный отбор, когда гены отдельной особи либо передаются потомкам, либо нет. Мутация – непредсказуемый фактор, открывающий новые возможности, резкий скачок. Каждая новая мутация добавляет виду странные особенности, делающие его сильнее.

Нейрофизиологи закономерно интересуются, может ли подобный процесс происходить в мозге человека. Пока мы знаем, что мозг может адаптироваться к любым условиям, поскольку природа не терпит сбоев.

Пока рекламный алгоритм влияет на эмоции человека, случайность, облегчающая адаптацию программы, подпитывает у людей зависимость. Алгоритм пытается уловить идеальные параметры для манипуляции мозгом, а мозг пытается найти в этом более глубокий смысл и меняет свою реакцию в ответ на эксперименты алгоритма. В основе этой игры в кошки-мышки лежит чистая математика. Поскольку стимулы алгоритма случайны, а значит, бессмысленны, мозг адаптируется не к чему-то реальному, а к выдумке. Этот процесс – застревание в ловушке зыбкого миража – и есть зависимость. По мере того, как алгоритм пытается выбраться из ямы, человеческий разум в ней застревает.

Первыми это пересечение математики и человеческого мозга стали исследовать не компании – владельцы социальных сетей, а создатели цифровых игровых автоматов, вроде видеопокера, и интернет-сайтов с азартными играми. Временами эти первопроходцы жалуются на то, что соцсети нажились на их идеях и получили кучу денег, но чаще они признаются, что соцсети помогают им вычислять легкую добычу^[10].

Рай и ад – это другие^[11]

Социальные сети вводят стимулы нового измерения: социальное давление.

Люди точно чувствуют социальный статус, оценку и конкуренцию. В отличие от большинства животных, люди не только рождаются абсолютно беспомощными, но и остаются такими на протяжении многих лет. Мы выживаем лишь благодаря членам своей семьи и другим близким людям. Построение социальных связей – не дополнительные, а основные функции человеческого мозга.

Власть мнения окружающих оказалась достаточно сильной, чтобы повлиять на поведение участников знаменитых исследований, вроде эксперимента Милгрэма и Стэнфордского тюремного эксперимента. С помощью механизма социального давления нормальных людей, никак не связанных с преступным миром, заставляли делать ужасные вещи, мучить других.

В социальных сетях манипуляция общественными эмоциями стала кратчайшим путем к созданию системы поощрений и наказаний. В будущем ситуация может измениться, если, например, дроны начнут сбрасывать вам с воздуха настоящие конфеты, когда вы сделаете то, чего хочет алгоритм, но сейчас все основано на чувствах, которые он у вас вызывает. И связаны они, как правило, с тем, что думают о вас другие.

Когда мы боимся, что будем выглядеть в глазах окружающих недостаточно крутыми или привлекательными, мы чувствуем себя плохо. Этот страх – глубокое эмоциональное переживание. Оно причиняет боль.

Все люди время от времени страдают социальной тревогой. И каждый ребенок сталкивался с обидчиком, который делал социальную тревогу инструментом для издевательств – возможно, сам агрессор прятал за хулиганским поведением страх стать объектом насмешек. Вот почему люди, которые в нормальных условиях вели бы себя прилично, обычно набрасываются на жертву. Они настолько боятся настоящей боли, которую причиняет социальная тревога, что на какой-то момент забывают о своей лучшей стороне.

Это не означает, что все социальные эмоции приносят страдания. Общаясь с другими людьми, можно ощутить и чувство локтя, симпатию, уважение, восхищение, благодарность, надежду, сопереживание, эмоциональную близость, влечение и еще огромное множество других положительных переживаний. Но с другой стороны, мы ощущаем также и страх, неприязнь, отвращение, ревность и желание зло высмеять другого.

Если эмоция, вызванная социальным взаимодействием, служит поощрением или наказанием, то нельзя ли использовать ее для изменения личности человека? Этот вопрос изучали много лет, и ответ на него, по всей видимости, зависел от того, какие группы населения исследовали и в какой ситуации находились испытуемые. Одни ученые считают, что маленькие дети лучше реагируют на поощрение, чем на наказание, хотя после двенадцати лет ситуация может поменяться на противоположную^[12]. Другие предполагают, что наказание для студентов колледжа эффективнее поощрения^[13]. Вот краткое описание исследования, указывающего на то, что эмоциональная поддержка эффективно мотивирует взрослых работников^[14]. Может оказаться и так, что то, какая разновидность обратной связи эффективнее^[15], определяет характер поставленной задачи^[16].

Целый ряд научных исследований сравнивает силу положительной и отрицательной обратной связи, но вовсе не это занимает проектировщиков платформ для коммерческих социальных сетей, заинтересованных в снижении затрат и повышении производительности. Независимо от эффективности положительной обратной связи, отрицательная обратная связь оказывается более выгодной, а потому чаще встречается в соцсетях.

Отрицательные эмоции – страх или гнев – легче возникают и дольше сохраняются, чем положительные. Чтобы завоевать доверие, требуется больше времени, чем для того, чтобы его потерять. Реакция «бей или беги» запускается в считанные секунды, а вот на то, чтобы успокоиться, уходят часы.

Это работает в реальной жизни, а в упрощенном мире алгоритмов работает еще лучше.

Нет никаких злых гениев, которые посидели в огороженном уголке офиса компании, владеющей той или иной социальной сетью, провели расчеты и решили, что заставлять людей страдать более «увлекательно», а потому и выгоднее, чем вызывать у них положительные эмоции. По крайней мере, я их точно не встречал и ничего о них не слышал.

Основополагающий принцип увлекательности подкрепляет сам себя, и никто даже не замечает, как отрицательные эмоции начинают преобладать над положительными. Увлеченность не обязана служить никакой конкретной цели, а в результате получается глобальное распространение «легких» эмоций, которые в подавляющей массе оказываются отрицательными.

Бит как приманка

Если мы посмотрим шире и вспомним, что люди должны делать нечто большее, чем просто приспосабливаться, чтобы их вид выжил, окажется, что бихевиоризм не подходит для описания общества. Если вы хотите иметь мотивацию хорошо работать и переживать творческое вдохновение, а не изнурительно механически заучивать информацию, то поощрение и наказание – не лучшие инструменты.

Исследованием этого вопроса занимался целый ряд ученых, среди которых Абрахам Маслоу и Михай Чиксентмихайи (совместно с такими авторами, как Дэниел Пинк). Если мы хотим, чтобы люди действовали творчески, мало применять простые механизмы бихевиоризма, нужно найти к людям более творческий подход. Нам нужно воспитывать в себе радость, желание разгадывать интеллектуальные загадки, индивидуальность, любопытство и другие качества, которые не вписываются в аккуратную схему.

Но есть один момент, связанный с ригидностью цифровой технологии и двойственной природой бита, который привлекателен для бихевиористского образа мышления. Поощрение и наказание напоминают нуль и единицу. Поэтому неудивительно, что Б. Ф. Скиннер был одной из важнейших фигур в развитии цифровых сетей^[17]. Он рассматривал их как идеальный способ выдрессировать человечество для утопии, к которой он стремился, утопии, в которой мы все вели бы себя, как нужно. Одна из его книг называется «По ту сторону свободы и достоинства». По ту сторону!

Благопристойное слово «увлеченность» скрывает, насколько глупа машина, которую мы построили. Нужно начать открыто говорить «зависимость» и «изменение поведения». Вот еще один пример благопристойной речи: мы до сих пор называем клиентов владельцев социальных сетей «рекламодателями», и, честно говоря, многие из них и есть рекламодатели. Они хотят, чтобы вы покупали мыло и другие товары определенной марки. Но они же могут вести себя совершенно мерзко и исподтишка подрывать демократию. Так что я предпочитаю звать этих типов манипуляторами.

Да простят меня продавцы мыла… Впрочем, могу сказать, что сотрудники компаний вроде Procter & Gamble ведут себя вполне нормально – я общался с некоторыми из них, – и их мир был бы намного счастливее, если бы им не пришлось отчитываться перед владельцами социальных сетей.

В самом начале своего появления онлайн-реклама была действительно просто рекламой. Но вскоре прогресс в сфере компьютерных технологий удивительным образом совпал с абсурдной и порочной системой финансовых поощрений, о которой речь пойдет в следующей главе. Что же случилось после того, как корпорации основали «империи изменения поведения» и стали сдавать их в аренду? Такого рода метаморфозы всегда привлекают непорядочных манипуляторов.

К сожалению, эти бесчестные люди не могут добиться одинакового результата. Мы не можем заплатить компаниям, владеющим социальными сетями, за то, чтобы войны окончились и все разом стали добрыми. Социальные сети предвзяты. Они не принимают сторону ни левых, ни правых, однако заинтересованы в ухудшении ситуации. Относительная легкость использования отрицательных эмоций для формирования зависимости приводит к плачевным результатам. Неудачное сочетание биологии и математики поддерживает деградацию человечества. Информационное оружие помогает влиять на результаты выборов, люди собираются в группы, пропагандирующие ненависть, а нигилисты довольны, что им платят за попытки расшатать общество.

Стихийный характер трансформации рекламы в прямое изменение поведения стало причиной резкого умножения отрицательных эмоций в отношениях между людьми. Мы еще не раз вернемся к этому факту, когда будем говорить о воздействии социальных сетей на личном, политическом, экономическом, общественном и культурном уровнях.

Зависимость, или Познакомьтесь с сетевым эффектом

Массовая зависимость во многом объясняет, почему многие люди так спокойно принимают тот факт, что за ними постоянно следят, но эта причина не единственная. Цифровые сети действительно создают нам выгодные условия. Они позволяют достичь огромной эффективности и невероятно удобны. Вот почему многие из нас упорно трудились над их воплощением в жизнь.

Если с помощью карманного устройства вы можете в одну секунду забронировать билеты на самолет, заказать еду и отыскать друзей, вам будет сложно отказаться от него. Мы уже с трудом вспоминаем те времена, когда у людей с редкими заболеваниями не было возможности найти собратьев по несчастью, и поговорить о своих необычных проблемах им было не с кем. Какое счастье, что теперь все изменилось.

Но преимущества сети становятся очевидны только тогда, когда люди используют одну и ту же платформу. Если бы никто не хотел быть водителем Uber, от этого приложения не было бы никакого толку. Если в приложении для знакомств, которым пользуетесь вы сами, почти никого нет, результат тоже будет нулевым.

Это прискорбно, но когда приложение выходит на определенный уровень, все начинают активно им пользоваться. А если вы уже общаетесь в какой-то определенной соцсети, то ее очень сложно бросить и перейти в другую. Объективно невозможно сделать резервные копии всех данных каждого человека, так же как невозможно одновременно двигаться вперед и оглядываться назад, на прошлое.

Подобные эффекты называются сетевыми, а также привязками. Их сложно избежать в цифровых сетях.

С самого начала многие из нас, тех, кто работал над изменением масштабов интернета^[18], надеялись, что объединять людей – то есть вызывать сетевой эффект и создавать привязку – будет сам интернет. Но тогда в обществе царили либертарианские настроения, и мы оставили без внимания многие ключевые функции. Например, интернет не имеет механизма идентификации личности. Компьютеры обладают собственными кодовыми номерами, но люди никак не обозначены. Точно так же интернет не может предоставить вам место для хранения даже небольшого объема информации, способов проведения платежей или поиска людей со схожими интересами.

Все знали, что нам понадобятся эти и многие другие функции. Но мы считали, что разумнее будет позволить предпринимателям заполнять бланки, чем доверить решение этих задач правительству. Мы не учли, что из-за сетевых эффектов и привязки основополагающие потребности цифрового пространства, в том числе и те, что я упомянул, приведут к появлению огромных корпораций. Мы сглупили, заложив основы глобальных монополий, сделав за них всю тяжелую работу. Если точнее, то поскольку вы – продукт социальных сетей, а не их клиент, эти компании будет правильнее называть «монопсониями»^[19]. Наш либертарианский идеализм привел к появлению монополий в области цифровых данных.

Вам стоит удалить все аккаунты потому, что бесполезно выбирать между разными социальными сетями. Единственный вариант – уйти из всех них. Если вы не удалите аккаунты, вы не создадите пространства для действий, в котором Кремниевая долина смогла бы совершенствоваться.

Зависимость прямо противоположна свободе воли

Зависимость постепенно превращает вас в зомби, а зомби не обладают свободой воли. Повторюсь, этот эффект срабатывает не на каждом из вас, но он статистически значим. В интернете вы становитесь похожи на зомби быстрее, чем при других условиях.

Не верьте в миф об идеальных людях, у которых нет ни одной зависимости. Таких не существует. Вы не станете идеальным и не обретете абсолютной свободы, и не важно, сколько вы прочтете книжек по самосовершенствованию или от скольких вызывающих зависимость сервисов откажетесь.

Абсолютной свободы воли не существует. Наш мозг постоянно пытается адаптироваться к изменяющейся обстановке. Это сложно, и мозг устает! Иногда он делает перерыв, отключается и работает на автопилоте. Но это не значит, что им тайно управляют манипуляторы.

Мы постоянно изменяем поведение друг друга, и это хорошо. Нам приходится бороться с собственной чувствительностью и страхом, чтобы не изменять свое поведение по отношению к человеку в ответ на его поступки. Изменение поведения с пользой друг для друга может стать проявлением любви.

Нам не нужно думать о свободе воли как о сверхъестественном вмешательстве в нашу вселенную. Возможно, свобода воли существует лишь в той ситуации, когда наша адаптация друг к другу и миру носит исключительно созидательный характер.

Так что проблема не в изменении поведения как таковом. Проблема в беспощадном, роботизированном, абсолютно бессмысленном изменении поведения в угоду невидимым манипуляторам и бесстрастным алгоритмам.

Гипноз может быть целительным, только пока вы доверяете гипнотизеру, но кто ему доверится, если он работает на никому не известных третьих лиц? Кто? Очевидно, миллионы людей.

Подумайте о том, сколько миллиардов долларов получают каждый месяц Facebook, Google и прочие представители так называемой рекламной индустрии. Львиная доля этих денег исходит от тех, кто ищет все новые способы изменить ваше поведение. Некоторые из этих методов напоминают телерекламу – например, попытки заставить вас купить машину или пойти в кафе.

Но хотя компании – владельцы соцсетей знают о вас больше, чем вы знаете о себе, они не всегда могут идентифицировать рекламодателей, то есть тех, кто получает прибыль, манипулируя вами. Например, юристы фирм, работающих в сфере информационных технологий, под присягой заявили: сотрудники их компаний не могли знать о том, что иностранные спецслужбы стремятся сорвать выборы и разжечь рознь, которая ослабила бы общество^[20].

Я считаю, что параноидальное мышление в принципе непродуктивно. Оно отнимает у нас силы. Но оцените ситуацию, сложившуюся на сегодняшний день. Нам известно, что соцсети успешно используют для раскола общества^[21], и обходится это на удивление дешево. Мы знаем, что некоторые компании зарабатывают просто баснословные суммы, не всегда зная при этом, кто их клиенты. Так что наверняка они и есть те, кто анонимно манипулирует нами – вами.

Чтобы стать свободными, более цельными, менее зависимыми, чтобы меньше поддаваться манипуляциям и мучиться от паранойи… во имя этих чудесных целей удалите свои аккаунты.

Аргумент второй. Удалить свои аккаунты в социальных сетях – Лучший способ противостоять безумию нашего времени

Машина ОБЛОМ

Сразу и не скажешь, но вообще-то я оптимист. Я не считаю, что нам надо полностью отказываться от цифровых технологий. В большинстве своем они замечательные!

Проблема не в смартфонах, как предполагают авторы кучи статей с заголовками в духе «Погубил ли смартфон поколение?»^[22]. И не в интернете, который также постоянно обвиняют в том, что он разрушил мир^[23].

Кое-что действительно разрушает мир, но это не возможность общаться при помощи битов с людьми, которые находятся за много километров от нас, и не тот факт, что мы постоянно глядим в маленькие светящиеся экраны. Понятное дело, есть те, кто слишком засмотрелся в гаджеты^[24], но с тем же успехом они могли злоупотреблять и многим другим, так что экзистенциальная проблема нашего вида заключается вовсе не в этом.

Однако в мире высоких технологий есть кое-что действительно крайне вредное даже в небольших количествах – одна новая разработка, которую стоит искоренить навечно. Но прежде нужно определить проблему с максимальной точностью, чтобы не запутаться.

Проблема отчасти заключается в том, что мы носим с собой устройства, подходящие для массового изменения поведения. Но это не вполне корректная формулировка. В конце концов, наши гаджеты можно использовать и для других целей, что мы часто и делаем.

Также нельзя винить только тот факт, что пользователей загоняют в сетевую среду, которая вытаскивает на поверхность их души все худшее. Как и то, что в руках очень небольшой группы людей, которая контролирует гигантские облачные компьютеры, сосредоточена огромная власть.

Эти факторы – часть проблемы, но даже их совокупность не описывает ее целиком.

Проблема возникает, когда все эти явления складываются в бизнес-модель, побуждающую владельцев соцсетей искать клиентов, готовых платить за изменение поведения окружающих. Вспомните, что эффективность прежней рекламы можно было оценить по тому, насколько хорошо стал продаваться продукт уже после того, как прошла рекламная кампания. Сейчас же компании оценивают, изменилось ли поведение отдельных людей, и алгоритмы постоянно корректируют новостные ленты каждого человека, стремясь повлиять на него. Ваше поведение в отдельно взятой ситуации превращается в «увлекающий» продукт, который продают не пользователям, а манипуляторам, потому что те боятся остаться ни с чем, если не заплатят.

Но проблема включает в себя еще кое-что. Как я уже говорил, в этой бизнес-схеме лучше работает отрицательное подкрепление, а так навредить обществу можно куда эффективнее, чем принести пользу. Чем беспринципнее клиенты, тем больше выгоды они получат.

И наконец, нам нужно обозначить саму проблему. Ведь назвать – значит сделать первый шаг к тому, чтобы устранить ее без случайных жертв и побочных последствий. К великому счастью, наша проблема весьма конкретна.

Если отбросить вредную бизнес-модель, то окажется, что технология, на которой она держится, не так уж и плоха. По крайней мере, попытаться стоит, поскольку иначе нам придется вернуться в докомпьютерную эру. Технология – наш последний «бог, который смог»^[25], последний оплот оптимизма. Мы не можем позволить себе от нее отказаться.

Если вы можете похвастаться тем, что общение в социальных сетях доставляет вам радость, то уверяю вас, я не пытаюсь обесценить ваш опыт. На самом деле я надеюсь, что нам – как индустрии, так и всему человечеству – удастся найти способ прицельно поддерживать и улучшать то, что мы любим. Для этого нужно лишь четко определить то, от чего нам следует избавиться. Если сегодня вы удалите аккаунты из соцсетей, это повысит шансы на то, что в будущем они станут еще лучше.

Некоторые сравнивают социальные сети с табачной индустрией^[26], но мне больше нравится аналогия с краской, которая содержит свинец. Когда выяснилось, что свинец вреден, никто не заявил: «Дома больше не нужно перекрашивать». Нет, после лоббирования и изменений в законодательстве был принят новый стандарт, согласно которому краски не должны содержать свинца. Умные люди просто дождались появления в продаже более безопасных красок. Точно так же и с соцсетями: нужно удалить аккаунт и дождаться, пока не появятся менее вредные альтернативы.

Как специалист в области информатики, а не как психолог или социолог, я могу сказать, что время не стоит на месте. Мир быстро меняется по нашему приказу, так что бездействие – не выход. Строгая наука может предложить нам не слишком много ответов, зато мы располагаем достаточным количеством результатов, позволяющих описать проблему, которую нам следует решить, и как можно скорее.

Позвольте мне предложить аббревиатуру, чтобы не повторять одну и ту же фразу, которая исчерпывающе описывает проблему. Как насчет «Одураченный Блогер Легко Обогащает Менеджера»? ОБЛОМ.

ОБЛОМ – это машина. Статистическая машина, которая живет в облаках цифровых данных. Напомню, что если некое явление статистически недостоверно, оно не перестает быть реальным. Даже в самом лучшем случае алгоритмы ОБЛОМа могут лишь просчитать вероятность того, что в определенной ситуации человек поведет себя определенным образом. Однако в среднем, если речь идет о большом количестве людей, эта вероятность приближается к определенности. Результат влияния на все человечество куда более предсказуем, чем результат того же влияния на отдельно взятого человека.

Поскольку влияние ОБЛОМа статистическое, зло, исходящее от него, незаметное, как от изменений климата. Мы не можем утверждать, что конкретные шторма, наводнения или засухи стали прямыми последствиями климатических изменений, но точно знаем, что климатические изменения повлияли на шансы их возникновения. В долгосрочной перспективе самые жуткие явления, например подъем уровня моря, а также необходимость переселения большей части населения Земли и поиска новых источников пищи, можно будет списать на изменения климата, но к тому времени спор будет уже проигран.

Я не могу доказать, что отдельно взятый моральный урод по вине ОБЛОМа оскотинится еще больше, но я знаю, что человеческое общество в целом деградирует. Нельзя со стопроцентной уверенностью сказать, изменил ли ОБЛОМ ваше поведение, но позже я предложу несколько способов выяснить это хотя бы приблизительно. Если вы используете платформы, работающие на основе ОБЛОМа, вероятно, ваше поведение хоть немного, но изменилось.

Пока мы не знаем наверняка, каких именно деталей нашей жизни коснется исчезновение ОБЛОМа, но знаем, что изменится в общей картине мира. Как и в случае с изменениями климата, ОБЛОМ превратит нашу жизнь в ад, если мы от него не избавимся.

Составные части машины ОБЛОМ

ОБЛОМ состоит из шести основных компонентов.

Перечислю их.

1. Привлечение внимания, ведущее к превосходству моральных уродов.

2. Бесцеремонное вмешательство в жизни всех и каждого.

3. Агрессивное навязывание информации.

4. Максимально незаметное управление поведением людей.

5. Обогащение на том, что самым бессовестным моральным уродам позволяется исподтишка обманывать людей.

6. Толпы фальшивок и общество обманщиков.

И теперь подробнее разберем каждую часть.

1. Привлечение внимания, ведущее к превосходству моральных уродов

Люди в сети зачастую ведут себя вызывающе или грубо. Это странное явление удивляло всех еще в самом начале сетевого общения, и оно сильно повлияло на наш мир. Хотя далеко не со всеми людьми неприятно общаться по сети, вся атмосфера онлайн-общения пропитана духом хамства. Грубость стала чем-то вроде сырой нефти для компаний-владельцев социальных сетей и прочих империй, основанных на манипуляциях с поведением. Эти гиганты очень быстро захватили интернет, ведь горючим для отрицательной обратной связи послужили наглость и резкость.

Почему люди грубят друг другу? Об этом я подробнее расскажу в следующей главе. В общих же чертах: обычные люди собираются вместе в среде, где основным – а то и вовсе единственным – поощрением служит внимание. Например, они не могут всерьез надеяться на то, что заработают в сети деньги. Обычные пользователи могут добиться только мнимой, но никак не реальной власти и материальных благ. Вот и начинаются игры разума.

Когда, кроме внимания, добиваться становится нечего, обычные люди становятся моральными уродами, потому что на самых бессовестных и агрессивных реагируют острее всего. Этот фактор влияет на действия всех прочих компонентов машины ОБЛОМа.

2. Бесцеремонное вмешательство в жизни всех и каждого

О второй составляющей этой машины я уже упоминал в предыдущей главе.

Все люди находятся под наблюдением, прямо как в фантастическом романе-антиутопии. Тотальная слежка теоретически могла бы существовать и без платформ, где собирается куча моральных уродов, но так уж вышло, что в созданном нами мире эти два компонента часто пересекаются.

Слежка ведется главным образом при помощи подключенных к сети персональных устройств – особенно смартфонов, если говорить о дне сегодняшнем – которые люди носят на собственном теле. Программы узнают о контактах каждого человека, его интересах, движениях, эмоциональных реакциях на разные обстоятельства, выражениях лица, его покупках и жизненных показателях. Огромный, нескончаемый и постоянно пополняющийся поток данных.

Если вы читаете этот текст с электронного устройства, велика вероятность, что алгоритм считывает данные, скажем, о вашей скорости чтения или о том, когда вы прерываетесь и переключаетесь на что-нибудь другое.

Алгоритмы соотносят между собой как данные одного человека, так и данные разных людей. Их выводы являются теоретическими предположениями о характере каждого человека, степень предсказуемости которых проходит многократную проверку. Как и любые теории, построенные на логике, время от времени они совершенствуются за счет адаптивной обратной связи.

3. Агрессивное навязывание информации

Алгоритмы выбирают, что будет переживать человек, использующий то или иное устройство. Этот компонент можно назвать лентой, движком рекомендаций или персонализацией.

Третий компонент означает, что все люди видят разное. Прямая мотивация – дать стимулы для персонализированного изменения поведения.

ОБЛОМ затрудняет понимание того, почему окружающие думают и ведут себя так, а не иначе. Воздействие этого компонента я рассмотрю подробнее в главе, посвященной тому, как мы утрачиваем доступ к правде и возможность сопереживать.

(Не вся персонализация обусловлена ОБЛОМом. Когда Netflix рекомендует фильм, а eBay – товар, это не ОБЛОМ. Но становится ОБЛОМом в сочетании с другими компонентами. Ни Netflix, ни eBay не получают денег от третьих сторон и не воздействуют на ваше поведение вне вашей текущей активности на их сайтах.)

4. Максимально незаметное управление поведением людей

Первые три элемента сочетаются друг с другом, в результате чего получается машина измерения и обратной связи, намеренно изменяющая поведение пользователей.

Напоминаю: индивидуально настраиваемые ленты новостей оптимизируются, зачастую с применением мощных эмоциональных сигналов, для «вовлечения» каждого пользователя и последующего формирования зависимости. Люди не осознают, как именно ими манипулируют. Базовая цель манипуляции – заставить людей проводить в системе как можно больше времени^[27]. Но у манипуляторов есть и другие цели.

Например, если вы читаете с электронного устройства, подключенного к интернету, ваши читательские привычки будут сопоставляться с привычками множества других людей. И если человек с похожими на ваши привычками купит что-то после того, как этот товар будет представлен ему определенным образом, то вероятность того, что вы тоже купите этот товар, возрастет. Перед выборами вы могли попасть в группу, для которой в интернете были написаны странные посты, призванные пробудить цинизм в людях, похожих на вас, и снизить шанс на то, что вы пойдете голосовать.

Владельцы платформ, использующие алгоритмы ОБЛОМа, с гордостью рассказывают об экспериментах, в ходе которых людей намеренно расстраивали, влияли на их избирательную активность и усиливали приверженность к определенным торговым маркам. Примером тому служат несколько знаменитых исследований, обнародованных в период зарождения ОБЛОМа^[28].

Подход цифровых сетей к изменению поведения сводит все эти разнородные фрагменты жизни воедино. С точки зрения алгоритма злость, счастье и приверженность к торговой марке – разные, но похожие сигналы, которые можно оптимизировать.

Если окажется, что вас расстраивают посты определенного характера, они начнут попадаться вам все чаще. Никто и никогда не будет знать наверняка, почему именно эти посты так на вас действуют, и вы, возможно, даже не заметите, что немного расстроились из-за конкретного поста. Эффект слабый, но накопительный. Ученые только начинают догадываться о том, как это работает, основная часть процесса им недоступна, она происходит за счет автоматики. Это новая разновидность зловещего теневого мира.

Алгоритмы редко задают вопросы, а еще реже это делают независимые ученые – отчасти как раз из-за сложности понимания работы алгоритмов, которые автоматически совершенствуются за счет обратной связи.

Один из секретов нынешней Кремниевой долины в том, что некоторым людям удается лучше других обучать машины, и никто не понимает почему. Самый механический способ манипулирования человеческим поведением оказывается искусством, к всеобщему величайшему удивлению, основанным на интуиции. Те, у кого хорошо получается управлять новейшими алгоритмами, становятся знаменитыми и зарабатывают баснословные деньги.

5. Обогащение на том, что самым бессовестным моральным уродам позволяется исподтишка обманывать людей

Машина массового изменения поведения предоставляется внаем. Манипуляции ОБЛОМа не идеальны, но обладают достаточной силой, и для политиков, торговых марок и прочих конкурирующих друг с другом субъектов отказываться от регулярных платежей в пользу ОБЛОМа равносильно самоубийству. Это всеобщий когнитивный шантаж, в результате которого растут общие расходы на ОБЛОМ^[29].

Если кто-то не оплачивает ОБЛОМ, ему, чтобы удержаться на плаву, приходится постоянно подпитывать свою платформу данными. Когда Facebook сделали упор на «новости» в своей ленте, всему миру журналистики пришлось перекроить себя под стандарты ОБЛОМа. Чтобы не растерять внимание читателей, журналисты стали писать истории, ориентированные на клик-наживку. Их заставили стать частью ОБЛОМа, иначе ОБЛОМ уничтожил бы их.

ОБЛОМ не только сдвинул границы этики Кремниевой долины. Он перевернул с ног на голову всю остальную экономику. Об этой стороне ОБЛОМа я расскажу в девятой главе.

Прежде чем перейти к шестому компоненту, я должен объяснить особую роль пятой составляющей в финансовых поощрениях, которые поддерживают весь аппарат машины ОБЛОМа на ходу. Если вы окажетесь в Кремниевой долине, то услышите много разговоров о том, что деньги морально устаревают и что мы создаем свои разновидности власти и влияния, которые перестают иметь отношение к материальным ценностям. Но, кажется, все до сих пор гоняются за деньгами!

Если настанут такие времена, что заработать деньги можно будет, только пугая и зля людей, мы все будем вынуждены это делать, а в результате опасных людей станет больше. Если мы хотим чего-то иного, нам следует изменить сам способ зарабатывания денег.

В свете выборов 2016 года в США Facebook, Twitter, Google Search и YouTube^[30] объявили об изменениях политики использования их сервисов в целях борьбы с нечестной рекламой, распространением сфабрикованного новостного материала, разжигающих ненависть высказываний и тому подобного. Администрация сервисов также потребовала идентифицироваться всем, кто размещает политическую рекламу. Как раз на момент написания этой книги в Facebook объявили об отмене приоритета новостей в ленте. Журналисты ликовали, поскольку теперь у них появилось больше свободы, и они могли привлекать читательскую аудиторию на своих условиях.

Подобные изменения могли бы значительно ослабить эффект действия ОБЛОМа, хотя бы на время. Однако на самом деле новая политика использования соцсетей поспособствовала расцвету крайне неприятных явлений. В 2015 году модераторы Reddit удалили несколько подфорумов, где царила агрессия, и огромный поток постов, разжигающих ненависть, несколько схлынул.

Новые правила не отменяют системы поощрений, так что бессовестные люди наверняка изобретут еще более тайные и замысловатые меры противодействия. И это уже произошло. Так, есть довольно развитая профессиональная отрасль под названием «оптимизация сайтов», которая помогает заказчикам обходить изменения политики пользования поисковыми машинами.

Если система финансовых поощрений не изменится, с помощью одних лишь постепенных преобразований нам вряд ли удастся решить проблему зависимости, манипуляции и глобального побуждения к безумию. Безусловно, если ограниченные преобразования смогут изменить ситуацию, я их всецело поддержу. Надеюсь, изменения в работе ленты Facebook помогут сделать мир чуть лучше. Но боюсь, что мелкой отладкой многого не добьешься. Это стало одной из причин, почему я решил написать эту книгу.

Скрытые финансовые поощрения сильнее изменений в политике пользования. Попытки обойти правила ради прибыли превращают мир в мрачное и опасное место. Запреты обычно не срабатывают. Когда в начале XX века в США власти попытались объявить алкоголь вне закона, сильно выросла организованная преступность. Запрет пришлось отменить. Позже, когда вне закона объявили марихуану, произошло то же самое. Запрет – двигатель коррупции, которая раскалывает общество на официальный и криминальный лагеря. Лучше всего законы работают, когда они в разумных пределах подкреплены поощрениями.

Изменение правил ОБЛОМа без изменения системы скрытых финансовых поощрений, возможно, закончится таким же провалом. Собственно, это уже свершилось: первопроходцы ОБЛОМа, среди которых Google и Facebook, рьяно боролись с бессовестными нарушителями, фальсификаторами и нелегальными манипуляторами, но результатом стал расцвет подпольной технически совершенной кибермафии, зачастую работавшей по заказу недружественных государств.

Самый удручающий побочный эффект вмешательства ОБЛОМа в том, что каждый цикл гонки вооружений между платформами и злоумышленниками дает людям мотивацию – из самых лучших побуждений – требовать от компаний, работающих по принципам ОБЛОМа, все больше и больше вторгаться в их повседневную жизнь. Мы просим гигантов высоких технологий, чьи офисы находятся далеко от нас, модерировать разжигающие ненависть высказывания, сфабрикованные новости, травлю, расизм, сексуальные домогательства, подделку аккаунтов и прочие откровенно мерзкие явления. Активисты, которыми движут исключительно благие намерения, требуют, чтобы корпорации все больше и больше контролировали поведение пользователей. «О, молодые богатые программисты из Кремниевой долины! Расскажите нам, пожалуйста, что нам можно говорить, а чего нельзя! Дисциплинируйте нас!» Злоумышленники, которые стремятся дискредитировать демократию, и пользуются для этого силой машины ОБЛОМа, побеждают, даже если внешне сдают позиции под натиском активистов.

В этой книге я рассказываю о неудачных финансовых поощрениях ОБЛОМа. В главе, посвященной девятому аргументу, я приведу пример альтернативной структуры финансовых поощрений, которая могла бы сделать мир лучше. А теперь перейдем к шестому компоненту!

6. Толпы фальшивок и общество обманщиков

Хотя изначально это сборище не было частью плана, сейчас эта часть ОБЛОМа встречается в интернете на каждом шагу. Фальшивые аккаунты, которые существуют в неподсчитанных, но точно больших количествах, задают атмосферу. Боты, искины, агенты, фальшивые обозреватели, фальшивые друзья, фальшивые авторы постов, автоматизированные генераторы фальшивых личностей – целый паноптикум призраков.

Нас преследует невидимый социальный вандализм. Социальное давление, обладающее огромным влиянием на поведение и психику человека, стало возможно синтезировать.

О ключевой роли фальшивых личностей мы поговорим, обсуждая аргумент, касающийся правды. Сразу после того, как обсудим моральных уродов.

Проблема обозначена, значит, ее можно сдерживать

Чем конкретнее мы сформулируем проблему, тем легче ее будет решить. В этой книге я выдвинул гипотезу о том, что проблема кроется не в интернете, смартфонах, умных колонках или искусстве алгоритмов. Проблема в том, что из-за ОБЛОМа мир стал сумасшедшим и мрачным. Однако в самом центре этой машины находится не технология, а некий бизнес-план, который портит людей и от которого исходят превратно понимаемые финансовые поощрения.

Этот бизнес-план даже не так уж и распространен. Вне Китая единственные медиагиганты, полностью зависящие от ОБЛОМа, – это Facebook и Google. Пять остальных крупнейших компаний в сфере высоких технологий лишь эпизодически пользуются механизмами ОБЛОМа, ставшими нормой в современном мире, но не зависят от него. Менее крупные компании, задействующие ОБЛОМ, например Twitter^[31], также пользуются его силой, но зачастую сопротивляются ей. Это одна из причин, почему я не теряю оптимизм и считаю, что в долгосрочной перспективе ОБЛОМ покажет себя не лучшей бизнес-стратегией. В главе, посвященной экономике, я расскажу об этом подробнее.

Какие компании держатся на ОБЛОМе? Сложный вопрос! Наверняка можно утверждать лишь, что в это компании, которые прибегают к помощи или берут деньги у злоумышленников, например иностранных военных спецслужб. Эта проверка помогает обнаружить сервисы, которые действуют за счет псевдо-ОБЛОМа, это такие как Reddit и 4chan. Они играют важную роль в экосистеме ОБЛОМа настоящего.

Следующие на очереди сервисы, которые в будущем могут стать ОБЛОМ-платформами, но пока не достигли нужного масштаба. Обычно ими управляют другие гиганты, вроде Microsoft, Amazon и Apple, или компании помельче, вроде Snap.

Но эта глава не о корпорациях, а о вас. Я хочу рассказать о том, из чего состоит ОБЛОМ и как его избегать.

Проблема с ОБЛОМом не в том, что он задействует какую-то определенную технологию, а в том, что с его помощью кто-то упивается властью.

Методический бихевиоризм не проблема сам по себе. Можно взять и пройти у соответствующего специалиста курс когнитивно-поведенческой терапии и получить от него пользу. Хотелось бы при этом надеяться, что специалист давал присягу следовать профессиональным стандартам и заслужил ваше доверие. Однако если ваш психотерапевт работает на гигантскую корпорацию с удаленно работающим руководством и ему платят за то, что он заставляет вас принимать определенные решения, которые не всегда в ваших интересах, это уже ОБЛОМ.

Гипноз сам по себе тоже относительно безвреден. Но если гипнотерапевтом станет незнакомец, который заставит вас совершать какие-то действия, это уже будет ОБЛОМом.

Проблему представляет не конкретная технология, а тот факт, что ее используют, чтобы манипулировать людьми, в результате чего власть, сосредоточенная в руках владельцев ОБЛОМа, становится абсурдной, пугающей и превращается в угрозу для выживания цивилизации.

Если хотите избавить мир от безумия, не нужно выбрасывать смартфон или отказываться от облачных сервисов и интернет-сайтов. Нет нужды бояться математики, психологии или социологии.

Нужно избегать лишь ОБЛОМа. Удалите аккаунты, вырвитесь из лап ОБЛОМа!

Аргумент третий. Социальные сети превращают вас в морального урода

Позвольте, я переформулирую название этой главы. Я не знаком с вами лично и потому не могу утверждать, что вы точно превращаетесь в морального урода, но со многими происходит именно это. Правда, им самим при этом кажется, что в моральных уродов превращаются окружающие. Я на собственном опыте убедился, что могу вести себя в сети как последняя сволочь. Это было страшно и подействовало на меня угнетающе.

Так что на самом деле мне следовало бы сказать: «Вам угрожает перспектива постепенно превратиться в морального урода». Или так: «По статистике, вы с большой долей вероятности рискуете им стать». Поэтому не обижайтесь и воспримите ситуацию серьезно.

Снег, покрытый копотью

Зависимые люди могут скрывать свою зависимость, особенно от самих себя, но она непременно проявляется. Личность меняется.

Глубоко зависимый человек становится нервным, его неодолимо тянет к виртуальному наркотику. Ему всегда чего-то не хватает, и он стремится получить моральную поддержку. Зависимые люди становятся беспокойными, их внимание странным образом сосредотачивается на событиях, важных для них, но практически незаметных для окружающих. Они эгоистичны и настолько погружены в себя, что у них нет времени заметить, что о них думают и как к ним относятся окружающие. Они высокомерны и обожают преувеличивать. Этим они наверняка пытаются замаскировать глубокое чувство незащищенности. Зависимые люди пойманы в ловушку личных мифов. Они держатся крайне претенциозно и, скатываясь в свою зависимость все глубже, реагируют все менее адекватно.

Такие явные изменения видны у людей с тяжелой зависимостью – законченных наркоманов и азартных игроков. Большинство пользователей соцсетей, в которых действует ОБЛОМ, ведут себя немного похоже. С точки зрения статистики они склонны вести себя как зависимые. Как и во всех остальных ситуациях, связанных с ОБЛОМом, здесь преобладают серые тона. В результате общество в целом становится на несколько оттенков мрачнее.

Самая любопытная черта личности зависимого – то, что он в конце концов начинает искать себе источник страданий, так как страдания – часть цикла расчесывания раны. Азартный игрок зависим не от выигрышей, а от игры, в которой у него куда больше шансов проиграться, чем обогатиться. Наркоман зависим не от кайфа, а от головокружительной разницы между эйфорией и ломкой.

Точно так же зависимый от ОБЛОМа становится очень вспыльчивым, как будто бы надеется нарваться на ссору.

Зависимые становятся агрессивными, хотя сами они уверены, что просто вынуждены так себя вести. У них нет иного выбора, кроме как стать агрессором или жертвой. Даже приятные в общении и успешные люди, среди которых есть наиболее влиятельные фигуры в социальных сетях, если они зависимы от ОБЛОМа, считают, что нельзя вести себя слишком дружелюбно, потому что в «аквариуме», где царит конкуренция, это признак слабости^[32]. У статусных людей подписчиков должно быть больше, чем подписок.

Характерные изменения личности сложно увидеть и признать у себя самого, но легко разглядеть у других, особенно у тех, кто вам несимпатичен. Когда зависимые от ОБЛОМа консерваторы ополчаются на такую же зависимую либерально настроенную студенческую молодежь, они оскорбительно называют их «бедными маленькими снежинками».

Однако самая несчастная снежинка – это Дональд Трамп. За последние десятки лет я несколько раз встречался с ним, но в те годы он еще не был зависим от ОБЛОМа. Он был ньюйоркцем, манипулятором, деятельной личностью, и уже тогда он делил окружение на закадычных друзей и изгоев. Но все же он всегда умел посмеяться над собой. Даже реалити-шоу по ТВ не отняло у него это качество.

Зависимость от Twitter изменила его. Он ведет себя как самая настоящая снежинка, а не самый влиятельный человек в мире, и иногда не может себя контролировать. Зависимость сильнее его. Сколько бы агрессии он ни выказывал, он все равно будет жертвой.

Встреча со своим внутренним троллем

С годами в соцсетях многое изменилось, но их основа была заложена еще в начале 80-х годов, когда я только начал работать с компьютерами. Социальные сети того времени едва ли представляли собой нечто большее, чем комментарии. Несколько человек добавляли свой текст. Тогда еще не было возможности проголосовать за любимый пост, и алгоритмы не формировали ленту новостей. Все было предельно просто.

Но уже тогда, много лет назад, я заметил кое-что ужасное. Иногда я на ровном месте ввязывался в перепалки с одним человеком или группой людей. Это было очень странно. Мы начинали кидаться оскорблениями, пытаясь набрать побольше очков в соревновании, кто кого больнее заденет. Поводы для таких перепалок были совершенно идиотскими. Например, понимает ли человек, о чем идет речь, обсуждая марки фортепиано. Я серьезно.

Я носился от поста к посту. «Я не невежда! Я разбираюсь в пианино! Да как этот дурак смеет говорить обо мне такое? А, знаю, я навеки испорчу его репутацию, вынудив его сказать какую-нибудь глупость».

Это происходило так часто, что стало нормой. Не только для меня, а вообще для всех. Как непредсказуемый прогноз погоды, только с живыми людьми. То все утро светит солнце, то вдруг разразился шторм.

Чтобы не вести себя как скотина, мне приходилось изображать дружелюбие: быть приторно вежливым, а слова выбирать предельно осторожно, будто ходишь по яичным скорлупкам.

Но это было еще хуже!

В итоге я просто бросил все это, потому что мне очень не понравилось, в кого я превращался. Знаете присказку о том, что спутника жизни надо выбирать, когда поймешь, кем ты станешь рядом с этим человеком? Вот и технологии хорошо бы выбирать по такому же принципу.

Когда в 90-х годах несколько моих друзей основали первое онлайн-сообщество под названием Well, они сделали аккаунт и для меня, но я не написал ни одного поста. Та же история была, когда я помогал своим приятелям с разработкой онлайн-мира с элементами социальной сети Second Life.

В начале 2000-х годов женщина-предприниматель по имени Ариана Хаффингтон добилась от меня, чтобы я какое-то время вел блог в ее Huffington Post. Расскажу, как ей это удалось.

Мы были на какой-то конференции для богатых и влиятельных людей, организованной на широкую ногу в маленьком городке в Скалистых горах в штате Колорадо. Я спокойно сидел на скамейке, положив руку на круглый бетонный блок, в который была вставлена мусорка. Ариана подошла и уселась на мою руку, придавив ее. «Ох, Ариана, как же вы не заметили… дайте мне вытащить руку».

Она ответила с сильным греческим акцентом: «А вы знаете, что многие мужчины заплатили бы мне за это? Я позволю вам вытащить руку, если вы будете вести блог для моего издания».

Пришлось согласиться. Если в двух словах описать этот мой опыт, то я был одним из самых популярных блогеров и всегда попадал на главную страницу. Однако вскоре я снова столкнулся со старой проблемой – я понял, что никак не могу заставить себя не обращать внимания на комментарии. Я чувствовал, как где-то глубоко внутри меня закипает ярость. Или совсем уж по-дурацки светился, когда людям нравились мои посты, даже если их реакция говорила о том, что они не слишком-то внимательно их прочитали. Авторы комментариев в основном хотели привлечь к себе внимание.

Все мы варились в одном котле, манипулируя друг другом и набивая себе цену.

Через некоторое время я поймал себя на том, что пишу о вещах, в которые даже не верю, лишь бы подразнить читателей. Я писал то, что людям хотелось услышать. Или то, что не хотелось. В любом случае, я знал, что это вызовет ажиотаж.

Бог ты мой! Я вернулся к тому, от чего ушел, и начал снова превращаться в морального урода, попавшись на какой-то крючок этой дурацкой технологии!

И я снова забросил это.

Из всех десяти аргументов, которые я привожу в этой книге, именно этот сильнее всего задевает меня. Не хочу быть моральным уродом. И изображать дружелюбие тоже.

Я хочу быть приятным собеседником, но некоторые онлайн-проекты всеми правдами и неправдами борются с этим стремлением. Вот почему у меня нет аккаунта в Facebook, Twitter, WhatsApp^[33], Instagram, Snapchat или где-то еще. Если вы увидите мой аккаунт, он точно фальшивый. В Twitter есть даже некий @RealJaronLanier. Понятия не имею, кто это, но точно не я.

Я не считаю себя лучше вас из-за того, что у меня нет аккаунтов в соцсетях. Может быть, я даже хуже. Может быть, у вас получается справляться со всем этим лучше, чем у меня.

Но я не раз замечал, что с появлением социальных сетей у моральных уродов появилось больше поводов высказаться.

Опыт общения на площадках, где используется ОБЛОМ, полон контрастов. Либо моральные уроды набрасывают дрожжей в выгребную яму общественного мнения, либо все нацепляют маски предельно вежливых людей и приторно улыбаются друг другу.

Самые беспринципные моральные уроды получают больше всего общественного внимания, и в конце концов, именно они и задают тон общения на той или иной площадке. Даже если там есть отдельные уголки, где люди не ведут себя как злобные скоты, мне все равно неуютно, потому что я знаю, какая толпа уродов толчется и караулит снаружи. Это часть того механизма, благодаря которому первый компонент ОБЛОМа запускает стадный инстинкт.

Загадочная природа технологии расширения масштабов морального уродства

Я еще не встречал человека, который бы точно понимал, почему первый компонент ОБЛОМа вытаскивает наружу внутреннего мерзавца, сидящего в человеке. На этот счет существует множество теорий^[34], но вот несколько идей, которые я считаю самыми верными.

Неправильно думать, что мир делится на хороших людей и злобных скотов, или, если угодно, троллей и их жертв.

В каждом из нас сидит свой внутренний тролль. Раньше, до того, как все мы разом выпустили его на свободу, воздух был чище, и нам было легче заметить это странное ощущение, когда твой внутренний тролль говорит за тебя. Как будто давным-давно в тебе поселилась уродливая чужеродная форма жизни, о которой ты сам уже забыл. Не позволяйте внутреннему троллю перехватить управление! Если это происходит в каких-то определенных ситуациях, избегайте таких ситуаций! Не важно, в интернете вы общаетесь, на работе или где-то еще. Ваш характер, как и ваше здоровье, куда более уязвим, чем все, что покупается за деньги. Не разбрасывайтесь им понапрасну.

Но почему внутренний тролль вообще сидит внутри нас?

Проблема настолько широко распространена, что, должно быть, существовала еще на заре человечества. Возможно, это наше трагическое наследие, глупый сбой в самой глубине человечности. Возможно. Но все эти красивые слова ничего не объясняют. Что же именно такое этот внутренний тролль?

И почему он иногда перехватывает инициативу, а иногда нет? Моя рабочая гипотеза такова: внутри личности каждого человека есть переключатель между двумя режимами. Мы похожи на волков. Можем быть одиночками, а можем принадлежать к стае. Я так и называю этот переключатель – стайно-одиночным.

Когда мы одинокие волки, у нас больше свободы. Мы осторожнее, но и способны больше радоваться. Мы думаем самостоятельно, импровизируем, творим. Мы подбираем падаль, охотимся, прячемся. Иногда воем от восторга.

Когда мы в стае, взаимодействие с сородичами становится самым ценным, что только есть в мире. Не знаю, насколько оно важно для волков, но для людей крайне важно. Когда люди ограничены структурой власти, основанной на иерархии и конкуренции, например такой как корпорация, они могут утратить понимание реальности своих действий, потому что немедленная борьба за власть видится масштабнее самой реальности.

Пример такой масштабности в наши дни – категоричное отрицание изменений климата. Научное сообщество и практически все народы мира пришли к единодушному мнению, что этим изменениям нужно противостоять. Однако небольшая группа бизнесменов и политиков отказывается в это верить. Они воспринимают доводы ученых как угрозу собственной власти и влиянию. Это абсурд, но их понимание мира ограничено только человеческой борьбой за власть, вся остальная реальность из него исключена.

Человеку, принадлежащему миру технологий, удобно приводить такие примеры, потому что это дарит ему ощущение беззаботности. Однако и научное сообщество может страдать от переключения из одиночного режима в режим стаи. Например, физик-теоретик Ли Смолин описал, как ученые, сформулировавшие теорию струн, на некоторое время установили настоящую охлократию в мире теоретической физики^[35]. Такое поведение проявляется каждый раз, когда люди собираются в группы. Уличные банды мыслят только понятиями стаи – территория, месть, – даже если при этом рушатся их собственные жизни, семьи и добрососедские отношения. Переключение в режим стаи акцентирует ваше внимание на друзьях и врагах, но при этом вы можете не замечать того, что происходит прямо у нас перед носом.

Когда стайно-одиночный переключатель находится в режиме стаи, мы просто одержимы принципом «заклюй нижнего». Мы накидываемся на более слабых, чтобы самим не скатиться вниз, и в то же время из кожи вон лезем, строя глазки тем, кто находится выше. Тех, кто нам равен, мы записываем в «свои» или во «враги» настолько быстро, что даже не успеваем воспринять их как личностей. Они становятся архетипами, вроде персонажей комиксов. Единственная постоянная основа дружбы – совместная вражда против других стай.

Да, я провожу аналогии с животными. Конечно, я считаю, что современная «одомашненная» кошка больше похожа на волка-одиночку, чем на волка из стаи, хотя кошки придают огромное значение иерархии социальных структур. Возможно, у кошек есть переключатель в режим прайда, но жизнь с людьми подарила им больше свободы и позволила снизить значимость стаи. Чем богаче охотничьи угодья, тем легче не быть сволочью с равными. Жизнь с людьми могла стать для кошек эквивалентом технического прогресса для нас. Больше вариантов выбора означает больше шансов не стать троллем. По крайней мере, именно это означал технический прогресс в глобальной картине истории человечества. ОБЛОМ – несчастливое исключение, здесь технология применяется, чтобы ограничить свободу человека.

У людей переключатель всегда должен находиться в режиме волка-одиночки. Тогда каждый из нас будет получать свою информацию об окружающем мире и по-своему ее осмысливать. Я имею в виду отношение между режимом одиночки и характером человека. Но есть и другие причины, чтобы удерживать переключатель в этом положении.

Рассмотрим пример, который часто приводят в первый день занятий в школе бизнеса. Преподаватель показывает большую банку с мармеладным драже и просит каждого студента в группе прикинуть их количество. Среднее арифметическое всех оценок дает весьма точный результат. Люди смотрят на банку каждый со своей точки зрения, они используют разные когнитивные навыки, стили и стратегии для решения загадки, и, если между ними есть согласие, число драже высчитывается легко. (Это работает только в том случае, если число в ответе не меняется. Если попросить рабочую группу спроектировать некий продукт или написать роман, результат будет выглядеть как коллективная работа.)

А теперь представим себе, что студенты могут видеть банку только на фотографиях в ленте новостей социальной сети. Разные группы людей начнут выдвигать разные предположения о количестве конфет и поднимать все остальные группы на смех. Иностранные спецслужбы добавят фотографию такой же банки с другим количеством мармеладок. Продавцы сладостей заплатят троллям, чтобы те говорили, что в банке конфет слишком мало и нужно купить больше. И так далее. Люди не смогли бы угадать, сколько драже в банке, потому что нарушилась бы сама сила многообразия. Когда это происходит, рынки оказываются не в силах предложить миру что-то полезное.

На место банки можно поставить политика, товар или еще что-нибудь. Из-за этого возникают проблемы, о которых пойдет речь, когда я перейду к тому, как ОБЛОМ отнимает у нас правду и смысл.

Пока же поставьте на место банки из примера свой аккаунт в социальных сетях. ОБЛОМ искусственно переключил вашу личность в режим стаи. Сдвигая тумблер, вы стираете свою индивидуальность. Пока люди думают каждый сам за себя, они все вместе угадают, сколько драже находится в банке, но как только они превратятся в стаю и увязнут в болоте группового мышления, это перестанет работать.

В некоторых случаях нельзя не переключаться в режим стаи. Классический пример – военные подразделения. Иногда люди должны потерять себя и подчиниться иерархии, потому что это единственный способ выжить. Но цивилизация должна поставить перед собой цель свести количество подобных ситуаций к минимуму.

Когда переключатель сдвинут, капитализм не выживает – возникают спекулятивные пузыри и прочие нарушения рыночного механизма. Есть, конечно, и шумные бизнесмены, которые предпочитают вести дела как в армии, и тогда им положено быть жестоким и грубым. Но поскольку настройки стайного режима частично ослепляют, в долгосрочно перспективе такой тип личности вряд ли добьется большого успеха, особенно если определять бизнес как ориентированный на реальность за пределами социальной конкуренции.

Когда люди ведут себя как волки-одиночки, каждый человек занимает в обществе особое положение и думает особым образом. Вот еще пример: демократические выборы. Изначально они являлись синтезом идей и долгие десятилетия помогали обществу найти свой путь, преодолев все противоречия. Но они эффективны, только пока люди находятся в режиме одиночки. В стае демократии нет места. Вместо нее возникают племенные сходки, культы личности и авторитарная политика.

Мысль о том, что коллективные процессы работают эффективнее всего, когда все их участники действуют как отдельные личности, может показаться противоречивой, но это так.

Самый главный рубильник^[36]

Предположим, вы верите в мою теорию о стайно-одиночном переключателе. Как она связана с соцсетями, как они переключают тумблер? Самый простой ответ наверняка и есть верный. Переключатель повернется, когда выгоды одиночного режима станут сомнительными.

Когда вы волк-одиночка, вы имеете дело с более широкой реальностью, которой все равно, что думает общество. Вы должны искать себе воду и укрытие, а иначе погибнете. Вы должны самостоятельно охотиться или искать падаль. Ваша личность меняется. Вы должны решать проблемы на основе тех доказательств, которые у вас есть, не обращая внимания на групповое восприятие. Вы пробуете себя в качестве ученого или художника.

Когда вы – часть стаи, социальный статус и интриги становятся для вас актуальнее, чем большой мир. Вы больше напоминаете оператора, политика или раба.

Частое повторение ситуаций отделения от непосредственного контакта с большим миром, в которых значение социальных взаимодействий становится исключительным, заставит ваш внутренний тумблер переключиться в режим стаи.

Эта теория звучит логично, и ей можно найти доказательства. Например, из крупных соцсетей моральных уродов меньше всего в LinkedIn^[37]. Это не значит, что у LinkedIn нет других проблем, связанных с ОБЛОМом. Например, Тристан Харрис критикует эксплуатацию социального беспокойства ради повышения вовлеченности^[38].

Скажу честно: мне приходилось иметь дело с LinkedIn по работе, а потому я могу быть не вполне объективен (и это притом что у меня нет аккаунта на этом сайте). Не стоит принимать все слова на веру, и моя откровенность насчет конфликта интересов служит для этого хорошим началом. Думайте своей головой!

Люди, знакомые мне по LinkedIn, приятны в общении, но то же самое я могу сказать про людей, знакомых мне по Twitter и Facebook. Разница в том, что пользователям LinkedIn есть чем заняться, кроме конкуренции за чужое внимание, – у них ставки побольше. Этот сайт хорошо известен людям, которые хотят сделать карьеру. Его владельцы зарабатывают на том, что помогают устанавливать контакты между работодателями и работниками, а не на тайных манипуляциях людьми.

Карьера – реальный физический процесс, обеспечивающий средства к существованию. И он не просто реален, он еще и незаменим. Каждая карьера одновременно уникальна и необходима. Пользователи LinkedIn не претендуют на одно и то же теплое местечко, так что у них нет необходимости вступать в открытый конфликт или политические отношения друг с другом. А еще у них нет рейтинга популярности, как у честолюбивых пользователей соцсетей, которым навязана всеобщая конкуренция.

Пользователям LinkedIn есть чем заняться, помимо написания постов, которые подкармливают моральных уродов. Да большинство людей, если бы им предоставили выбор, выбрало бы не быть моральными уродами. Главную роль здесь играет преобладающая мотивация делать что-нибудь кроме того, как добиваться внимания или искать другие поощрения чисто психологического характера. Одно простое качество – наличие ставок в реальной жизни, а не играх разума – значительно повышает качество сетевой среды.

Все так просто. Практичность – которая включает в себя и то, как вы зарабатываете себе на жизнь, – это то, что объединяет нас и делает более цивилизованными^[39].

В мире ОБЛОМа возникает ощущение, что каждый незначительный комментарий либо превращается в соревнование по всеобщему обесцениванию и разрушению, либо порождает волну показного дружелюбия. Самый очевидный пример – зависимый от ОБЛОМа президент США, можно сказать, главнозависимый, который все превращает в игру «Кто глубже затопчет собеседника в землю одним твитом» или «Кто получит мое хорошее отношение в обмен на абсолютную преданность».

Отправляйтесь туда, где вы добрее всего

Разумеется, моральные уроды существовали в мире и до появления ОБЛОМа, но тогда было намного проще сдерживаться. Там, где царит ОБЛОМ, приходится воевать с силой притяжения, чтобы просто оставаться приличным человеком.

Проблему превосходства моральных уродов в сети можно решить очень легко – просто выкинуть из бизнеса модель, основанную на ОБЛОМе. Скажем, дать людям возможность чаще и более честным образом зарабатывать на своей сетевой активности. Об этом я подробнее расскажу в главе, посвященной губительному воздействию соцсетей на экономику.

Нам нужно что угодно, кроме социальных притязаний, все, что могло бы занять людей и не позволить им стать моральными уродами.

На сегодняшний день кое-что можете сделать и лично вы. Если однажды вы поймаете себя на каком-то мерзком чувстве, например на ощущении незащищенности, униженности, отчаянном желании ввязаться в скандал на ровном месте или смешать кого-то с грязью, покиньте этот сайт. Все просто.

Сетевую травлю обсуждают повсеместно, и о ней нужно говорить, а у вас наверняка есть свой болезненный опыт. Потому что он есть у очень многих людей.

Но я также прошу вас отметить – только не рассказывайте об этом никому, – чувствуете ли вы соблазн напасть на кого-нибудь в сети. Может быть, он первый начал. Неважно. Игра все равно не стоит свеч. Уходите с этой площадки. Не выкладывайте постов с оскорбительными видеороликами, не пишите мстительных твитов.

Если бы Twitter прямо завтра перестал существовать, Трамп, думаю, стал бы куда более симпатичным человеком. Правда, ровно до тех пор, пока не подсел бы на какую-нибудь другую сетевую площадку под управлением ОБЛОМа.

У меня нет доказательств этому, и многие со мной не согласятся. Но это не важно. Загляните внутрь себя. Нет, правда, вы действительно такой, каким хотите быть? В какие моменты вы становитесь тем, кем хотите быть, а в какие – раздражительным и безапелляционным?

Ваша личность – самое лучшее из того, что у вас есть. Не позволяйте ей деградировать.

Аргумент четвертый. Социальные сети заставляют сомневаться в правде

Все знают

Фраза «с недавних пор правда умерла» – одно из самых известных образных выражений наших дней. И чаще всего ее убийцами называют социальные сети. Или президента, зависимого от общения в соцсетях. Статей с заголовками вроде «Как технологии погубили правду»^[40] полным-полно, так что не стоит приводить тут гору ссылок на них.

В этой книге я предлагаю несколько различных объяснений того, как и почему социальные сети заставляют сомневаться в правде.

Каждый из шести компонентов ОБЛОМа убивает правду по-своему.

1. Моральные уроды превращают обмен мнениями в слив яда. Они переключают людей из одиночного режим в стайный, что заставляет их уделять слишком много внимания борьбе за социальный статус и не замечать более полную картину, более важную правду.

2. Производители информационных технологий следят за вами, беспардонно вмешиваясь в вашу жизнь. Восприятие правды требует, чтобы люди были настоящими, а значит, и воспринимали все по-настоящему. Этот принцип я объяснял на примере аналогии с банкой, наполненной мармеладным драже. Когда шпионские технологии подглядывают за людьми, те теряют естественность.

3. Агрессивное навязывание ощущений. Когда ощущения человека становятся продуктом, который продают богатейшие корпорации, правдивость неизбежно страдает. Продукт – это утеря правдивости.

4. Управление образом жизни за счет всеобщего изменения поведения. Чтобы использовать намеренно сформированные зависимости для манипуляций широкими массами людей с целью извлечь из этого коммерческую выгоду, этим массам непременно нужно перекрыть доступ к правде. В этом весь смысл.

5. Зарабатывать тем, что позволять некоторым людям, зачастую крайне неприятным, втайне изменять поведение других людей. Экономические поощрения стремятся обойти правила, принятую политику и добрые намерения. Об этом моменте я расскажу подробнее в главе, посвященной экономике. Таким образом, поощрения в рамках ОБЛОМа делают правду невыгодной. Мягко говоря, они не равняются на правду.

6. У фальшивых людей нет причин говорить правду. Для личности-фальшивки правда равносильна самоубийству. А ОБЛОМ множит и взращивает фальшивых личностей.

Заявление, которое можно проверить, или события, которые можно честно документально зафиксировать, – то, чем все люди могут владеть совместно, – по определению будут ненавистны манипуляторам. Для своего процветания ОБЛОМ должен действовать в обход правды и всячески ее подавлять.

Когда люди ненастоящие, ненастоящим становится все вокруг

Фальшивые люди шестого компонента – стволовые клетки всей остальной фальшивки ОБЛОМа.

Оставив в стороне такие честные искусственные личности, как Алекса, Кортана и Сири, вы можете даже растеряться и решить, что никогда и не встречали в сети фальшивых людей. На самом деле вам их попадалась целая толпа. Вы делали покупку, потому что товар получил много хороших отзывов, но многие из них оставили несуществующие люди. Вы используете поисковые системы, чтобы найти врача, но ссылка на него была первой в выдаче поисковика только потому, что ее посетило множество фальшивых людей. Вы смотрели видеоролик или читали историю, потому что они набрали множество просмотров, но большинство из них были фальшивыми. Вы узнавали о твитах, которые копировали несметные полчища ботов.

Группы равных нам людей оказывают на нас сильнейшее влияние, особенно пока мы молоды. Если большая часть обширной группы равных вам людей состоит из множества фальшивых личностей, желающих вами манипулировать, то на вас оказывается влияние, которое вы даже не осознаете.

Это сложно принять, но это правда: из-за такого высокого приоритета социального восприятия, с которым мы живем, часто оказывается, пусть даже в малой степени, что мы сами живем фальшивой жизнью. ОБЛОМ частично превращает в фальшивку и вас.

Что бы вы ни сделали, боты повторят это тысячу раз, не успеете вы и глазом моргнуть. Фальшивые личности – это хакерская атака по типу «отказ в обслуживании» на культурном уровне.

При такой атаке целая армия ботов перегружает сайт огромным количеством трафика, так что ни один реальный человек не может открыть его. При этом злоумышленники используют компьютерные вирусы – они заражают миллионы компьютеров, а потом заставляют их одновременно заходить на выбранный в качестве мишени сайт. Или, что происходит еще чаще, продают этот процесс как услугу.

Так легионы фальшивых личностей на платформах, на которых применяется ОБЛОМ, захватывают территорию и управляют миром от лица своих хозяев.

Люди, которые управляют ОБЛОМ-платформами, обычно не пишут от лица людей-фальшивок. Наоборот, эти призраки появляются в новом теневом мире. Сейчас продажей поддельных личностей занимается целая индустрия.

По сообщениям New York Times, на начало 2018 года действующая ставка на несуществующие личности в Twitter составляла 225 долларов за 25 000 фальшивых подписчиков^[41]. Среди подделок мелькают аккаунты реальных людей, поэтому при случайной проверке обманки тоже кажутся реальными. Знаменитости, бизнесмены, политики, а также множество клиентов сетевых злоумышленников извлекают пользу из этих конвейеров по производству фиктивных личностей. Правда, такие компании сами, как правило, фальшивка. (По данным Times, один известный сервис по торговле ботами оставлял несуществующий адрес.)

Если бы некоторые сайты не были предназначены специально для фальшивых людей, их бы даже не существовало. В качестве самого известного примера можно привести Эшли Мэдисон, мнимый сервис знакомств для неверных супругов. Есть данные, что этот сайт заманивал фальшивыми женскими личностями мужчин подписываться на более дорогие аккаунты^[42]. Его даже обвиняли в размещении в сети фальшивой критики, призванной разжечь конфликт и таким образом принести сайту популярность^[43].

У главных компаний, внедряющих ОБЛОМ, руки не вполне чисты – все они пользуются ботами. Основным организаторам ОБЛОМа сложно полностью избавиться от фальшивых личностей, поскольку они становятся созависимы, как животные и кишечные бактерии. Шестой компонент дает бесплатную движущую силу и энергию. Чужеродные элементы становятся частью машины.

Все разработчики информационных технологий ведут борьбу с фальшивыми аккаунтами, но они же и извлекают из них выгоду. Безусловно, на уровне эмоций или этики люди, работающие в Twitter, предпочли бы, чтобы на разработанной ими платформе не было ботов, однако именно боты делают этот ресурс активнее, а общение интенсивнее. Массовая фальшивая активность начинает влиять на реальных людей. Роботы косвенно создают естественную социальную реальность, а это значит, что они зарабатывают деньги. У них получается успешно манипулировать людьми. Сведущие в технике люди могут попытаться рационализировать ситуацию и доказать, в первую очередь самим себе, что боты увеличивают свободу слова и прочую ерунду^[44]. И это несмотря на то, что работа ботов запросто может свести на нет подлинную свободу высказывания.

Еще один пример шестого компонента – то, что медиаканалы предыдущего поколения, например Fox News в США, стали тяготеть к эксцентричности и подозрительности. (Под «медиаканалами предыдущего поколения» я имею в виду телевидение, радио и печатные издания. Так их называют на языке Кремниевой долины.) Почему это происходит в эпоху социальных сетей, если раньше свободы слова было гораздо меньше? Для этого много причин, но одна из них определенно в том, что ОБЛОМ можно использовать для создания новой социальной среды. Благодаря ему можно построить то, что раньше казалось немыслимым. Например, самые безумные конспирологические теории часто начинаются на основе ОБЛОМа, широко распространяются за счет фальшивых личностей, а потом уже транслируются чрезмерно подозрительными медиаканалами старшего поколения^[45].

Информагентства, вроде Fox News, во всем склонные видеть подвох, могут считаться одной из составляющих шестого компонента. Все это – остатки старых медиаканалов, возникших стихийно и ставших частью машины ОБЛОМ^[46].

Шестой компонент обеспечивает стабильность ОБЛОМа в его жути, а потому мелкие исправления, нацеленные на его усовершенствование, не приносят большой пользы. Например, в США законодатели обязали владельцев социальных сетей отслеживать тех, кто оплачивает рекламу. Но если машину ОБЛОМа подпитывает бесчисленное множество фальшивых аккаунтов, как вообще можно что-то отследить?

Боты старательно обходят все попытки менять ОБЛОМ или как-то его регулировать. Если начать жестко регулировать рекламу, размещаемую за счет ОБЛОМа, то боты могут, например, устроить бомбардировку мусорными постами^[47] и добиться того, что никто больше не сможет существовать за счет рекламы. Вот почему ОБЛОМу не должно быть места в нашем мире.

Давая показания на допросах перед Сенатом США, юристы владельцев социальных сетей заявляли, что их компании не могут выявлять фальшивых личностей^[48]. У них якобы нет для этого технических средств.

Ситуация как в черной комедии. Вполне возможно, что алгоритмы ОБЛОМа пытаются манипулировать фальшивыми личностями точно так же, как и нами. Но, в отличие от нас, у ботов есть иммунитет к такому влиянию.

Стоит уточнить, что я высмеиваю лишь те толпы фальшивых личностей, которые были созданы в рамках мошеннической схемы. Безусловно, я не берусь судить, что сочтете настоящим вы лично и как вы выстраиваете свой образ в сети. Я критикую иерархические отношения, в которых изначально не заложена искренность. Когда подросток заводит фальшивый аккаунт в Instagram, это не всегда плохо. Разобраться в том, на чем держится окружающее тебя общество, – значит занять в нем высокое положение. И если оно держится на фальшивых личностях, то лучше научиться самому их создавать.

ОБЛОМ убивает

Вред, исходящий от ОБЛОМа, в большинстве случаев обратим, если удалить аккаунты в соцсетях. Но из-за того, что он отнимает у общества правду, иногда он бьет по людям, которые не имеют к ОБЛОМу прямого отношения. Можно привести много примеров, особенно в политике, но я затрону сферу общественного здравоохранения.

Я сам отец, и мне бы хотелось, чтобы дети, с которыми общается моя дочь, были привиты. Вакцинация – общественное благо, дар, которым мы можем поделиться друг с другом, одно из величайших изобретений в истории человечества.

В детстве я видел на улице людей, искалеченных полиомиелитом: тем, кто выжил после него и мог хоть как-то ходить, еще повезло. Болезни было наплевать, черный вы или белый, бедный или богатый. Заразиться полиомиелитом мог кто угодно.

А когда вы в последний раз видели человека, перенесшего полиомиелит? И это не единственный пример. Поколение моих родителей застало эпидемии, которые унесли жизни миллионов и даже десятков миллионов людей.

Вакцинация важнее электричества, унитазов и космических исследований вместе взятых. А я очень люблю эти изобретения человечества.

Но я знаю и других родителей, причем образованных американцев из верхушки среднего класса, которые даже не подумают прививать своих детей. Некоторые из них придерживаются «левых» взглядов, некоторые – «правых», это не имеет значения. Все они считают вакцинацию страшным злом и чужеродной мерзостью. Они считают, что прививки вызывают аутизм. Они не могут выкинуть из головы конспирологические теории. И я вовсе не впадаю в «элитизм», когда ужасаюсь поведению «образованных» и наверняка финансово обеспеченных родителей, распространяющих опасные слухи. Ведь разве не главная цель образования – повышать устойчивость людей к разным глупостям?

Я пытался найти с этими родителями общий язык, и тогда они показывали мне свои ленты новостей в соцсетях, где царит сплошной ОБЛОМ. Каждый день им попадаются мемы, надуманные страшилки и кликбейты. Многие из них наверняка размещают^[49] боты, хотя точный масштаб проблемы не знает никто^[50]. Эти зависимые от ОБЛОМа люди погрузились в атмосферу паранойи и отказались думать своей головой, предпочтя вместо этого довериться положительным и отрицательным социальным стимулам.

В обществе всегда ходили странные волны ложных слухов, но, пробивая себе путь к нынешнему современному комфорту, мы шаг за шагом вместе нашли и дорогу к правде, пусть сейчас многие из нас не считают мармеладное драже непосредственно в банке.

В эру ОБЛОМа информация, которая доходит до людей, находится в сфере пересечения интересов рекламодателей-манипуляторов и одержимых властью владельцев медиахолдингов с сумасшедшей, тщательно продуманной гонкой за социальным статусом. Следовательно, в социологических исследованиях, которые помогли бы нам докопаться до истины, становится все меньше правды.

Людей подталкивают вступать в сообщества параноиков, поскольку так их мнение можно легко и предсказуемо направить в нужную сторону. Объединение в группы – процесс автоматический, стерильный и, как всегда, сам по себе невинный. Никто ни в одном медиахолдинге не решал в качестве тактики специально внедрять антипрививочную риторику – с тем же успехом кампания могла быть направлена против хомячков. Единственная причина, по которой ОБЛОМ продолжает все это транслировать, состоит в том, что паранойя – эффективный способ привлечь внимание масс.

Люди наслаждаются такими шикарными возможностями современности, как значительное уменьшение числа смертоносных эпидемий, но при этом спокойно отказываются от благ правды, завоеванной с таким трудом, – вот насколько далеко мы зашли как высокотехнологичный вид. Люди считают, что болезни им не страшны даже без вакцинации, как будто здоровье им гарантированно.

Санитарная охрана и современная медицина удвоили продолжительность нашей жизни. Удвоили! Это благодаря им некоторые из нас могут позволить себе роскошь поверить в опасную чушь и не поплатиться жизнью за свою наивность. По крайней мере, какое-то время.

Чтобы выиграть в долгосрочной перспективе и дождаться времени, когда технологии усовершенствуются, мы не должны разнеживаться в комфорте и позволять себе пассивно плыть по течению в сторону губительных фантазий. Для выживания нам необходимы медиаканалы, транслирующие правду, но те, что главенствуют в наши дни, не выполняют эту функцию.

Я привел этот пример, поскольку он расстраивает меня как отца, а это глубокий уровень расстройства. Меня бесит ситуация, когда я еду по Кремниевой долине, смотрю на растянувшиеся до самого горизонта ряды многоэтажек с окнами из зеленого стекла, где располагаются офисы медиакорпораций, и понимаю, что работа многих из моих друзей, которые сидят в этих офисах, помогает возродить к жизни давно побежденные болезни^[51].

Спасите детей, удалите свои аккаунты.

Аргумент пятый. Социальные сети лишают ваши слова смысла

То, что вы говорите, не имеет смысла вне контекста.

Этот простой факт легко оставить без внимания в личном общении, поскольку там контекст обычно очевиден. Предположим, я скажу: «Отстань от меня! Я не могу сейчас уделить тебе внимание!» Эта фраза может показаться грубой и даже жестокой, если не видеть, что я говорю ее нашей кошке Подружке (мы ее так назвали, потому что она о-очень дружелюбна и постоянно ко всем лезет).

В экстремальных ситуациях это правило проявляется отчетливее. Если вы увидите, что у кого-то из-под капота машины вырывается пламя, и закричите: «Пожар!», вы можете спасти человеку жизнь. Если то же самое вы закричите в клубе, где собралась толпа народа, вы добьетесь того, что кто-нибудь погибнет в давке, возникшей из-за паники, и будет уже неважно, был ли там пожар на самом деле.

При общении в сети у нас почти, или совсем, нет возможности узнать или повлиять на контекст восприятия нашего собеседника. Самый простой способ понять принцип – рассмотреть экстремальные ситуации, то есть те, в которых участники общения обладают некоторым влиянием и могут силой навязать перемены.

Возьмем рекламодателей на YouTube: некоторое время назад считалось нормой вставлять рекламу чего-нибудь безобидного, например мыла, в ролик с совершенно жутким содержанием, вроде вербовки в террористическую организацию. Но после того, как рекламодатели подали жалобу, – и только после того, как ее зафиксировали, – Google начал удалять контент, связанный с терроризмом^[52]. Рекламодателям, чьи интересы пострадали, выплатили компенсацию реальными деньгами. Рекламодатели – реальные клиенты, а потому у них есть право голоса. Смогут ли также весомо высказаться рядовые пользователи о контексте, в который их поместили схемы ОБЛОМа?

Еще пример, один из самых распространенных – это попытки девушек и женщин заявить о том, что их слова и визуальные образы сексуализируются или намеренно ассоциируются с насилием и манипуляциями. В сети женщин часто пытаются выставить в гротескном искаженном виде с целью домогательства, унижения и внушения стыда^[53]. Известные женщины долгие годы борются с сексуальными домогательствами, но сейчас с этим сталкиваются и обычные молодые женщины^[54].

Такие экстремальные ситуации возникают из-за правил игры ОБЛОМа: вы не знаете контекста другого человека, и у вас нет надежных способов узнать, как ваша информация будет выглядеть для него.

Проблема получила настолько широкое распространение, что ее просто не видят. Она привычна нам, как воздух. Мы отбросили связь с контекстом. Социальные сети играют со смыслом. Что бы вы ни сказали, алгоритмы, а также множество реальных людей и фальшивых личностей, впишут это в контекст того, что говорят другие.

Никто точно не знает, как люди воспримут сказанное ими, но в ситуациях вне ОБЛОМа вы можете хотя бы догадываться об этом. Я выступаю на публике и инстинктивно подстраиваю свое выступление под аудиторию. Ученикам средней школы я скажу одно, а, скажем, для биржевых аналитиков^[55] подберу совершенно другие слова. Это нормальная составляющая коммуникации.

Разговор в социальной сети на самом деле вообще не разговор. Ваши слова вписывают в чужой контекст в угоду чьих-то интересов и чьей-то выгоды.

Это меняет сам возможный объект выражения. Когда платформа побеждает контекст, общение становится жалким, мелким и предсказуемым. Приходится впадать в жуткие крайности, если хочешь сказать что-то, что хотя бы короткое время продержится на плаву, пусть и в непредсказуемом контексте. Это возможно, только если общаться в стиле моральных уродов.

Смысл отдельно

ОБЛОМ подменяет ваш контекст своим. С точки зрения алгоритмов вас перестает определять имя и начинает определять число: подписчиков, лайков, кликов и других цифр, которыми вы ежеминутно помогаете машине ОБЛОМа.

Авторы фантастических антиутопий, когда описывают империю зла, часто заменяют имена героев номерами. В реальной жизни такое проделывают с заключенными в тюрьмах. И тому есть причина. Стать числом значит перейти в полное подчинение системе. Номер – публичное подтверждение ограничения свободы, социального статуса и индивидуальности. Для меня это особенно страшно, потому что моя мать выжила в концлагере, где пленнику делают на руке татуировку с номером. В наше время это было бы слишком дорого. Нацисты просто хранили бы порядковые номера вместе с биометрическими данными в облаке.

Людям, которые играют по правилам соцсетей, это может показаться слишком мрачным. Передо мной возникает вполне современная дилемма. Если люди сами хотят подчиняться, кто я такой, чтобы говорить им: «Вы должны отстаивать собственное достоинство»? Не становлюсь ли я тогда тем, кто не уважает желания окружающих?

Вот почему я не хочу критиковать людей, которых ситуация, по всей видимости, устраивает, например молодых людей, пробивающихся во влиятельные блогеры. Вместо этого я сосредоточусь на тех, кто пытается не позволить свести себя к набору цифр, пусть даже они по рукам и ногам связаны новой реальностью главенства чисел.

Новые источники контента, среди которых новостные порталы, люди обнаруживают в основном через ОБЛОМ, а потому такие сайты наверняка играют в игры, иначе они не смогли бы удовлетворить и людей, и алгоритмы.

В одном отделе новостей я видел большие экраны, расставленные по всему офису. Прямо как в командном центре НАСА, только показывали они ежесекундную статистику по каждому посту, опубликованному тем или иным сотрудником. Я думаю, авторы заметок прочно привязаны к этим цифрам, и у них нет иного выбора, кроме как стремиться максимально повышать «вовлеченность». Их вынудили стать винтиками машины ОБЛОМа. Я им сочувствую.

Эта беда недавно настигла и ленту новостей Facebook – такое неудачное решение в принципе свойственно ОБЛОМу. Впрочем, проблема возникла гораздо раньше^[56]. Зато теперь, когда в Facebook объявили о снижении приоритета новостей в ленте, дела, возможно, пойдут немного лучше. И все же мне сложно представить себе, что новости в одночасье откажутся от контекста, навязанного ОБЛОМом. Для того чтобы новости снова обрели контекст, люди должны будут находить их через системы, не связанные с ОБЛОМом. Какими они будут? Надеюсь, в итоге люди вернутся к прямым отношениям и предпочтут их подпискам на новости и прочему контенту.

Сейчас журналистика сталкивается со множеством проблем из-за поклонения божеству статистики. Некоторые критические замечания вам уже знакомы: засилье клик-наживок снижает уровень погружения в тему. Авторы не могут рисковать, они вынуждены писать о том, что популярно у читателей.

Вспомните, как алгоритмы ОБЛОМа постоянно оптимизируют сами себя – они регулярно возвращаются к старому. Этот процесс я подробно описал в первой главе. Все, включая журналистов, вынуждены играть в игры оптимизации в надежде выжать из ОБЛОМа максимум. Источник новостей будет понемногу улучшать себя, пока дальнейшие исправления не перестанут приносить результаты. Затем все повторится. Вот почему в сети полно клик-наживок, так похожих друг на друга. Оптимизировать их может только этот странный трюк^[57].

Но в болото людей затягивает не оптимизация, а среда ОБЛОМа. Просто в реальном мире столько сложностей и тонких деталей, что оптимизация никого не возвращает в привычную колею. Обратная связь хороша, но преувеличение значимости обратной связи внутри искусственно ограниченного виртуального окружения приводит к комичным последствиям^[58].

Вот не связанная с сетью формулировка той же мысли: что, если следовать советам внутреннего голоса и страстно любить этику и красоту – значит в долгосрочной перспективе получить преимущества, пусть даже в настоящий момент это считается менее эффективным? Что, если глубокое влияние на небольшую группу людей имеет большее значение, чем нулевое воздействие, направленное на всех?

Нужно задать и некоторые другие вопросы. Во-первых, верить ли числам? Как я уже говорил, мир в сети – по большей части фальшивка. Фальшивые подписчики, фальшивые комментаторы, фальшивые упоминания. Новостные сайты, которые напрямую пытаются заманить рекламодателей и стараются произвести на них впечатление, зачастую в огромное множество раз преувеличивают количество читателей, а также выдают бесконечные статьи о товарах, которые можно было бы прорекламировать, например обзоры по выбору нового игрового компьютера.

Это не значит, что сайт подтасовывает числа. Просто менеджер, возможно, обратился к консалтинговой фирме и воспользовался алгоритмом оптимизации выбора сервисов анализа данных, чтобы оценить, какого рода статистика пригодится для привлечения рекламодателей. Иными словами, владельцы сайта не специально подтасовывали цифры, но они знали, что их статистические данные – лишь часть большой игры.

Не вините портал. Полностью независимых новостных сайтов осталось крайне мало, и все они на вес золота. ОБЛОМ припирает их к стенке, и они невероятно уязвимы. Информационные агентства – особенно те, что поддерживают недешевую расследовательскую журналистику, – уже двадцать лет слышат, что только от них зависит, смогут ли они противостоять «разрушительному влиянию» крупных медиакорпораций, но до действительно хорошего совета, как это сделать, пока никто не додумался.

Так что новости сильно поредели, равно как и набор их тем. ОБЛОМ буквально одержим новостями, но при этом в США практически не осталось местных информагентств, занимающихся журналистскими расследованиями, а независимых информагентств, располагающих ресурсами и пользующихся влиянием, можно пересчитать по пальцам.

Когда из-за того, что они не могут напрямую влиять на людей, а вынуждены обращаться к ненадежной системе распространения чисел, у авторов пропадает мотивация, они теряют связь с контекстом. Чем успешнее автор в системе, тем меньше он знает то, о чем пишет.

Даже если его читают настоящие люди, контент за них выбирают алгоритмы, а потому выбор читателей нельзя назвать независимым. Параметры ненадежны по определению. Нельзя сначала сказать человеку, куда ему идти, а потом хвастаться тем, что узнал, куда он пошел. Это еще одна невидимая, как воздух, проблема.

И немного положительных моментов: то, что независимая журналистика переживает не лучшие времена, говорит о ее принципиальности. Журналисты выбрали более высокие стандарты, чем у влиятельных блогеров, хоть и заплатили при этом свою цену. Сегодня настоящие новости называют «недостоверными», поскольку по стандартам ОБЛОМа то, что реально, становится фальшивым. ОБЛОМ заменил реальность дурацкими цифрами.

Люди подкастов

Еще один способ осветить проблему хитроумной деградации контекста – посмотреть туда, где это пока не проблема. В 2018 году, на момент написания этой книги, той частью виртуального мира, что не утратила своего контекста, остались подкасты. Они еще не превратились в ОБЛОМ.

Подкастеры – реальные люди, известные слушателю. Подкасты выходят эпизодически, а потому несут в себе контекст и ощущение индивидуальности. Слушатель – пока что – не может пробежаться по контенту подкаста по диагонали, как в случае с визуальным контентом на странице сайта или видеоролике. В таком формате ведущий лучше представляет себе, что чувствует его слушатель, чем когда тот листает ленту соцсетей, захваченных ОБЛОМом.

Чтобы лучше объяснить эту разницу, я изобрету способ убить подкастинг. Только не надо так поступать на самом деле.

Какой-то негодяй может создать новый подкаст «с искусственным интеллектом», в котором будут сочетаться мелкие фрагменты множества чужих подкастов. Сортировка будет идти по, например, набору ключевых слов. Можно будет сказать: «Я хочу услышать мнения о политике X» – или какой-нибудь знаменитости.

После чего вы услышите, как люди безостановочно говорят на заданную тему. Фразы будут вырваны из контекста. Фрагменты будут сменяться так быстро, и их будет так много, что даже если компьютерный голос определит, откуда был взят каждый кусочек, вы не сможете этого понять.

Подкастеры начнут выпускать такие записи, чтобы их можно было отшлифовать и скатать в колбасу. В них появится много глупой ругани, неожиданных провокаций, странных выкриков и смешков, по большей части бессмысленных.

Исследователи искусственного интеллекта будут с гордостью демонстрировать, что могут заставить голос одного подкастера произносить сказанное другим. Вы сможете выбрать актера, который будет читать все подкасты, которые вы хотите услышать. Слова Эзры Клейна вложат в уста Гилберта Готфрида.

Чтобы повысить уровень вашей вовлеченности, в очередь включат личные сообщения голосовой почты. Возможно, это станет единственным способом прослушать свои сообщения.

Ах да, и, конечно же, в новом подкасте будут рекламные вставки. Голос вашего спутника жизни будет рассказывать о различных товарах, а скрытые сенсоры будут считывать вашу позу и передавать данные неизвестным сервисам таргетированной рекламы. Посреди мешанины фрагментов политических подкастов вдруг попадется информация о том, что такой-то политик содержит в подвале пиццерии притон, в котором в качестве секс-работников эксплуатируют детей.

Полчища троллей и лжетроллей начнут играть с системой и добавят в подкаст столько жестоких фрагментов, что вы не сможете переварить информацию. Даже самые замечательные кусочки чужих выступлений станут лишь украшением в этом жестоком, параноидальном, бесящем и сводящем с ума звуковом супе.

А может быть, такой подкаст-мозаика станет информационным пузырем. В нем будут звучать голоса только тех, с кем вы согласны. Правда, вам преподнесут отнюдь не мнения реальных людей, и весь контент будет собран в виде потока фрагментов, этакой пародии на сообщество подкастеров. Возможно, вы будете жить в разных мирах с кем-то, кто слушает другую подборку.

Приложение-агрегатор подкастов будет носить какое-нибудь горделивое название, превозносящее мощь искусственного интеллекта, вроде Podcast Meta-genius, а может, наоборот, ребячески-игривое, к примеру Poddytraining.

Если моя идея кажется вам нелепой и странной, посмотрите на то, что уже происходит с текстовым, визуальным, а также видеоконтентом. Так ли придуманный мной подкаст отличается от того, что считают приемлемым люди, полагающиеся на ленты соцсетей как на средство связи с миром?

Подкасты все еще рассчитаны на магазины и подписки, а потому сохраняют свою структуру и ориентируются на взаимодействие людей друг с другом, избегая мешанины отдельных людей, широких масс, алгоритмов и скрытых манипуляторов.

Наслаждайтесь подкастами, пока можете. Но пожалуйста, оставайтесь начеку, и если подкасты сдадут позиции, перестаньте их слушать и записывать. Помните, что вы не можете контролировать то, что монстр, имя которому ОБЛОМ, сделает со смыслом ваших слов.

Аргумент шестой. Социальные сети убивают в вас Способность к сопереживанию

Этот аргумент – оборотная сторона предыдущего. По мере того, как социальные сети обессмысливают вас, вы все меньше понимаете, что происходит с окружающими вас людьми.

Вспомните третий компонент ОБЛОМа – агрессивное навязывание нам ощущений. Суть его такова: алгоритмы решают, что вам нужно увидеть и прочитать. А это значит, вы не знаете, что видят другие люди – для них программы высчитывают другие результаты. Страшно даже представить, скольким людям ОБЛОМ изменил и переформировал картину мира. В основе этой проблемы лежат индивидуальные настройки поисковых систем, лент новостей, видеопоказов и тому подобного.

Давайте представим себе, как в давние времена исследователь-бихевиорист расставлял в лаборатории клетки с собаками. Каждому животному давали угощение или били током в зависимости от его действий. Эксперимент проходил удачно, только если каждая собака получала стимул, привязанный к ее конкретным действиям. Если прямой связи не было, и собаки получали стимулы бессистемно, эксперимент не удавался.

То же самое делают с людьми ОБЛОМ-платформы.

Однако возможные последствия для людей куда серьезнее, чем для собак, потому что люди не сидят в клетках и, следовательно, в значительной степени полагаются на социальное восприятие.

Мы чутко отслеживаем реакции друг друга, и они помогают нам ориентироваться в жизни. Если все ваше окружение из-за чего-то беспокоится, вы сами начнете нервничать, потому что дыма без огня не бывает. Когда все спокойны, вы тоже будете стараться успокоиться.

В детстве мы с друзьями часто приходили в какое-нибудь людное место и дружно начинали смотреть в небо, чтобы разыграть окружающих. Вскоре все вокруг задирали головы, даже если наверху не было ничего примечательного.

Особенно хорошо социальное восприятие можно прочувствовать на себе, если приехать в страну, языка которой не знаешь. Вы внезапно обнаружите, что подстраиваетесь под действия других людей и отслеживаете, на что они обращают внимание, так как это единственный способ понять, что происходит. Как-то раз в джунглях Таиланда я заметил, что люди внимательно смотрят в одном направлении. Я тоже взглянул в ту сторону и успел вовремя убраться с дороги колонны армейских джипов, которые мчались на полной скорости. Социальное восприятие спасло мне жизнь. Оно всегда служит выживанию человечества.

Но если все мы видим разное, живем в обособленных мирах, то наши сигналы, отправленные друг другу, теряют смысл. Страдает наше восприятие объективной реальности, даже той, что лежит вне ОБЛОМ-платформы.

Свежих примеров хватает. Например, человек устроил стрельбу в пиццерии, про которую в сети написали, что в ее подвале находится притон, где растлевают детей^[59]. Ложные убеждения, как следствие социального безумия, распространялись еще до появления ОБЛОМа. Например, они спровоцировали салемскую охоту на ведьм. Однако внезапные вспышки такой агрессии возникали реже, чем сейчас. Скорость, глупость и масштаб ложного социального восприятия разрослись до такой степени, что создается впечатление, будто люди живут не в одном реальном мире, а в миллионах разных.

Вот еще одна из тех проблем, что подкрались к нам незаметно. Общественное пространство потеряло в размерах, да и сами границы общности сильно сузились.

Мысленный эксперимент поможет проиллюстрировать, насколько странной стала наша ситуация. Можете ли вы представить себе, что Википедия составила секретный профиль каждого из вас и начала показывать разные версии статей, опираясь на него? Посетители, поддерживающие Трампа, увидят статью, радикально отличающуюся от той, которую покажут посетителям, настроенным против Трампа. И вы ни за что не найдете в ней пометок, указывающих на то, чем именно она отличается от противоположной версии самой себя.

Это может показаться странным и напомнить фантастический роман, но на самом деле именно это вы видите в своей ленте ОБЛОМ-платформы. Для вас подбирается контент, под вас подгоняется реклама, а вы понятия не имеете, почему и до какой степени образ мира исказился.

Еще один способ взглянуть на проблему – подумать об общественных пространствах. Если вы находитесь где-то вместе с людьми, которые не уткнулись в экраны своих смартфонов, то вы находитесь в этом пространстве вместе. У вас общая база для опыта. Это ощущение может быть очень приятным, и оно объясняет, почему люди любят ходить в клубы, церковь или на спортивные мероприятия.

Но когда каждый видит перед собой только экран мобильного телефона, вы куда хуже понимаете, что с ними происходит. Их ощущения тщательно подобраны далекими алгоритмами. И пока все не отложат телефоны, вы не сможете образовать с ними общность.

К счастью, мы еще можем разглядеть следы прежнего, общего, мира. Можно смотреть немодные теленовости, которые смотрят и похожие на вас люди, и совершенно непохожие. Например, я не люблю американское информагентство Fox News, поскольку считаю их склонными к эксцентричности, фанатизму и паранойе. Но я иногда смотрю их новости – это помогает мне понять, что думают и чувствуют люди, которые их смотрят. И мне чрезвычайно дорога эта возможность.

Однако у меня нет никакой возможности увидеть ваши ленты соцсетей. Таким образом, у меня остается меньше возможностей сопереживать вашим мыслям и чувствам. Нам не обязательно видеть вещи в одном ракурсе, чтобы понимать друг друга. Только устаревшие авторитарные режимы принуждают всех смотреть строго в одном направлении. Но нам нужно видеть то же, что видят другие.

Эмпатия^[60] – топливо, на котором работает приличное общество. Если ее отбросить, останутся только бесстрастные правила и борьба за власть.

Возможно, благодаря мне термин «эмпатия» стали использовать в маркетинге информационных технологий, поскольку я начал говорить о виртуальной реальности как методе развития эмпатии еще в 80-е годы. И я все еще уверен, что технология может научить людей лучше чувствовать друг друга. Если более совершенное общество будущего станет использовать какую-нибудь, любую, технологию, в ней будет задействована и эмпатия.

Но ОБЛОМ настроен так, чтобы убивать способность к эмпатии.

Социальная неловкость, обусловленная цифровыми технологиями

ОБЛОМ часто и обоснованно критикуют за создание «информационных пузырей»^[61]. В сети вам показывают информацию, которая либо подтверждает ваши собственные взгляды, либо является самым раздражающим вариантом противоположного мнения, высчитанным алгоритмами. Поддакивание или нападки – лишь бы как можно дольше владеть вашим вниманием.

Вас заталкивают в загон вместе с другими людьми, чья вовлеченность достигнет максимума, если они окажутся в одной группе с вами. Алгоритмы ОБЛОМа сами по себе тяготеют к заключению людей в гетто информационных пузырей, потому что вовлекать во что бы то ни было группу – это куда эффективнее и дешевле, чем повышать степень вовлеченности каждого человека в отдельности.

(Думаю, стоило бы сказать честнее – «манипулировать», а не «вовлекать», поскольку влияние на вас оказывается на имя блага неизвестных третьих лиц, которые платят деньги за то, чтобы ваше поведение менялось. За что бы им еще платить? За что еще Facebook получает те миллиарды долларов прибыли, о которых сообщают его представители?)

Бесспорно, информационные пузыри вредны, поскольку они делают взгляд на мир туннельным. Но так ли недавно они возникли? Разумеется, раздражающие и вредные разновидности ограничительных социальных коммуникаций встречались и до ОБЛОМа, в том числе в среде политиков, которые отправляли своим сторонникам скрытые послания.

Например, как всем хорошо известно, во время президентских выборов в США 1988 года политики спровоцировали у избирателей латентный расизм, использовав для этого историю чернокожего мужчины по имени Вилли Хортон, который совершил ряд преступлений после выхода из тюрьмы. Но в этом случае все видели одну и ту же рекламу, так что вы могли хотя бы понять, почему кто-то реагирует на нее расистскими выпадами.

Сейчас вы не всегда и увидите это послание, ведь бывает так называемая темная реклама, которую показывают человеку в его ленте соцсетей, несмотря на то что технически такие посты даже не публикуются вместе с новостями^[62]. О темной политической рекламе экстремистского толка на Facebook стало известно только благодаря результатам судебной экспертизы, проведенной в свете событий на выборах 2016 года^[63]. Эта реклама была такой наглой и токсичной, что в Facebook объявили о намерении сгладить нанесенный ей вред, однако на момент написания книги ничего не изменилось.

Пока никто вне Facebook – а может, и внутри его – не знает, как широко распространена и насколько эффективна темная реклама^[64]. Самая частая форма сетевой близорукости – тот факт, что большинство людей находит время лишь для ленты соцсетей, тщательно составленной алгоритмами.

Я опасаюсь тонкой программной настройки ленты даже больше, чем беспардонной темной рекламы. Раньше было технически невозможно мгновенно рассылать индивидуальные сообщения миллионам людей одновременно. Как и составлять и тестировать множество посланий, в основе которых лежит детальное наблюдение за ничего не подозревающими людьми.

Скажем, небольшой процент пользователей почему-то не доверял тому или иному человеку. А дело было в шрифте подписи под его портретом – этот шрифт когда-то появлялся в популярном видеоролике на неприятную тему. Но никто из них так и не узнал причину своей антипатии. Все дело в статистике.

Результатом становятся незначительные, но непрерывные изменения в поведении людей, которые в конечном итоге суммируются как сложный процент.

Это одна из причин, почему ОБЛОМ поддерживает племенное мировоззрение и раскол в обществе, хотя технические специалисты, которые работают в компаниях, практикующих ОБЛОМ, зачастую действуют из лучших побуждений. Чтобы код ОБЛОМа мог оптимизировать сам себя, он автоматически ищет любые скрытые проявления племенного мировоззрения и расизма, поскольку эти нейтральные пока хэштеги ждут своего часа в менталитете каждого из нас. Сделав на них акцент, легко можно единолично завладеть всеобщим вниманием. (Эту проблему я разберу подробнее в главе о том, как социальные сети уничтожают надежду на развитие общества.)

Вместе с искажением вашей картины мира снижается ваша осведомленность о картине мира других людей. ОБЛОМ перекрывает вам доступ к опыту других групп, которыми он манипулирует отдельно. Их опыт вам неведом, поскольку вашим собственным опытом управляют алгоритмы.

Это разработка эпохального уровня. Та версия мира, которую видите вы, невидима для людей, которые не понимают вас, и наоборот.

Теория, утерянная вашим мозгом

Способность размышлять о том, что ощущает другой человек, называют наличием теории сознания. Она предполагает у нас способность смоделировать в уме мировоззрение другого человека. Теория сознания лежит в основе уважения или сопереживания, и это предпосылка любых ожиданий разумного сотрудничества, цивилизованности или политики, ориентированной на человека. Благодаря ей пишется история.

Вы наверняка слышали поговорку «Не суди человека, пока сам не окажешься в его шкуре». Нельзя понять другого, не имея хотя бы немного представления о том, через что ему довелось пройти.

Большинство животных обходится без теории сознания, но людям она необходима.

Когда вы можете оценивать только поведение другого человека, но не можете овладеть его опытом, сформировать теорию сознания в отношении этого человека становится сложнее. Например, если вы видите, как один человек ударил другого, но не знаете, что он при этом защищал ребенка, скорее всего, вы ложно проинтерпретируете ситуацию.

Точно так же, если вы не видите темной рекламы и бессердечных мемов, не слышите вездесущих слухов и не листаете полную насмешек индивидуально настроенную ленту соцсетей другого человека, он может показаться вам просто ненормальным.

Таков наш новый мир ОБЛОМа. Мы кажемся друг другу ненормальными, потому что алгоритмы жестоко отбирают у нас способность формировать теорию сознания по отношению к окружающим.

Даже если ощущения людей честно запечатлены видеокамерой смартфона или видеорегистратора, ОБЛОМ провоцирует достаточно шума, чтобы уничтожить общность. Провоцируемое ОБЛОМом недопонимание действует в сети все время. Например, на видео запечатлен момент перед выстрелом полицейского, но ОБЛОМ заставляет людей выкладывать бесконечные версии этого видео с различными наложенными эффектами и намеренными искажениями. Эмпатия тонет в шуме.

Мне кажутся ненормальными сторонники Трампа, а они говорят, что считают ненормальными либералов. Но говорить, что мы отдалились друг от друга и утратили взаимопонимание, неправильно. На самом деле мы просто гораздо реже смотрим на мир глазами других, а потому у нас меньше возможностей понять друг друга.

Конечно же, вы можете отслеживать хотя бы часть контента, который видят окружающие вас люди. Я, например, читаю новостные сайты консервативного толка и ищу личного контакта с людьми, которые со мной не согласны, если только они хотят пойти на диалог^[65]. На Reddit даже есть довольно приятное сообщество, посвященное таким переговорам^[66], но все эти попытки тонут в океане хаоса и токсичности.

Различие между тем, что показывают другому, и тем, что, как я думаю, ему показывают, само по себе непостижимо. Непрозрачность нашего времени устрашающа, поскольку скрыта даже степень этой непрозрачности. Я помню те времена, когда мы считали, что интернет сделает общество прозрачным. А получилось как раз наоборот.

Аргумент седьмой. Социальные сети делают вас несчастными

Почему многие популярные твиты заканчиваются словом «грустно»?

Жизнерадостная риторика компаний, внедряющих ОБЛОМ, делает акцент на дружбе и возможности для людей со всего мира стать ближе друг другу. Но все же наука раскрывает^[67] нам^[68] правду^[69]. Исследование^[70] показывает, что люди со всего мира не становятся ближе, а, наоборот, страдают из-за чувства разобщенности.

Этот сценарий^[71] настолько очевиден^[72], что даже исследования компаний – владельцев социальных сетей показывают, как они делают вас несчастными. Ученые, работающие на Facebook, практически похвастались^[73] тем, что они могут сделать людей несчастными, да так, что те даже не поймут, почему им стало плохо^[74].

Зачем называть такие выводы «замечательным результатом исследования»? Не повредит ли это авторитету бренда Facebook? Может быть, столь громкий общественный резонанс предназначался для истинных клиентов, которые платят деньги за манипуляции над людьми. Те, на кого направлено воздействие, то есть вы, это не клиенты, а продукт.

И лишь совсем недавно сотрудники Facebook наконец признали^[75] то, о чем давно говорили авторы исследований: их продукт может причинять настоящий вред.

Меня сильно раздражает подача этой проблемы со стороны компаний – владельцев соцсетей. Они говорят: «Ну да, конечно, мы делаем вас несчастными, но все же мы приносим миру больше пользы, чем вреда». Однако все хорошее, чем они хвастаются, свойственно собственно интернету, и все это можно было бы получить и без ОБЛОМа в придачу. Разумеется, то, что люди могут общаться друг с другом, прекрасно^[76], но почему они должны платить за это свободой своей воли? Что, если настоящая проблема кроется в манипуляциях, а не в общении?^[77]

В самом начале этой главы я привел несколько примеров того, как социальные сети делают вас несчастными. Казалось бы, общение в интернете, наоборот, должно радовать, однако есть огромное количество исследований, которые доказывают, что это не так. Проверьте сами, введите запрос в поисковую систему. (Имейте в виду, он может повлиять на содержание вашей ленты в соцсетях. Алгоритмы могут не явно, а скрыто, по ассоциации, отметить вас как склонного к депрессии человека. А сетевые манипуляторы могут попытаться воспользоваться этим и усилить вашу предполагаемую подавленность.)

Почитайте газетные статьи по ссылкам, приведенным в сносках, в них подробно описываются исследования, подтверждающие тот факт, что социальные сети делают вас несчастными. Там же приводится ряд предположений, почему так происходит: например, нерационально завышенные стандарты красоты и требования к социальному статусу или уязвимость к нападкам троллей.

Почему нельзя назвать одну причину? А будет ли достаточно одного способа расстраивать людей? Поскольку основная стратегия бизнес-модели ОБЛОМа – позволить системе автоматически адаптироваться и найти наиболее оптимальный способ обеспечить вашу глубокую и длительную вовлеченность, и поскольку отрицательные эмоции проявляются сильнее, такая система будет изыскивать любую возможность огорчить вас. Изредка она будет скупо подбрасывать вам и положительные моменты^[78], поскольку автопилот, задача которого – играть с вашими эмоциями, обнаружит, что контраст между поощрением и наказанием эффективнее, чем поощрение или наказание по отдельности^[79]. Зависимость связана с ангедонией – снижением способности получать удовольствие от чего бы то ни было за исключением объекта зависимости. Зависимые от социальных сетей оказываются склонны к особенно длительной ангедонии^[80].

Конечно же, ОБЛОМ сделает вас несчастным. Но как? О, тут работает индивидуальный подход – для вас подберут особую разновидность печали, подав это как нечто само собой разумеющееся. Людям, управляющим медиакорпорациями, в которых царит ОБЛОМ, незачем выяснять, что именно вас расстроило. Это вам важно обладать этим знанием, поскольку оно – последний бастион вашей приватности. Вы можете переживать из-за того, что не столь привлекательны или успешны, как другие люди. А ведь система заставляет других людей переживать из-за своего несовершенства, глядя на вас.

Исследование показывает, что причины, по которым люди чувствуют себя несчастными, можно объединить в несколько категорий. Так что я рискну предположить, что творится лично с вами. Возможно, вы проводите меньше времени, занимаясь сексом, чем листая анкеты сайта знакомств, через который этот самый секс ищете. Вы сидите, открыв приложение, и возите пальцем по экрану вместо того, чтобы ходить на свидания. Возможно, вы проводите меньше времени со своей семьей, чем тратите его, стараясь показать в соцсетях, какая у вас замечательная семейная жизнь^[81]. Возможно, вы рискуете сильно навредить себе, часами сидя в соцсетях, особенно если вы молодая женщина^[82]. Возможно, сетевое общение усугубляет ваш психологически травмирующий опыт^[83]. Ваше самоуважение может падать, даже если вы активно самовыражаетесь^[84].

Я мог бы поиграть в угадайку, но не буду, ведь я вас абсолютно не знаю. Исследование помогает лишь выявить статистически значимые тенденции. Вы можете быть исключением. Я не собираюсь гадать, что для вас лучше.

Не тот конец ОБЛОМа

А вот что я буду делать, так это углубляться в причины, почему некоторые онлайн-проекты, в числе которых большинство социальных сетей, старательно расстраивают меня. Я очень недоволен тем, что ОБЛОМ ставит меня в положение подчиненного. Это систематическое унижение.

Причем меня огорчают даже не такие очевидные вещи, как ярмарка тщеславия, которую устраивают в сети люди, когда притворяются более состоятельными, счастливыми и благополучными, чем они есть на самом деле, а сама основа системы ОБЛОМа. Если я зависим и мной манипулируют, я почувствую себя плохо, но этим дело не ограничивается. ОБЛОМ делает меня участником нечестного и унижающего человеческое достоинство соревнования без каких-либо высоких целей, в рамках которого меня постоянно судят – и осуждают.

Меня насторожили еще самые ранние прототипы социальных сетей, созданные в 80-е годы. Даже древние сервисы, вроде раннего Usenet, оставляли незнакомое мне прежде чувство опустошенности. Я не ощущал подобного со времен своего детства. Откуда ни возьмись пришло чувство незащищенности, боязнь не соответствовать некоему уровню, страх быть отвергнутым.

Сначала я думал, что сам виноват, потому что связался с продвинутой технологией, которая, конечно же, была лучше, чем примитивные средства, вроде газет и телефонов.

Это чувство совпало с моментом, когда я обнаружил в себе тролля, но оно возникло само по себе. Я провел на себе эксперимент. Если этот интернет-проект вызвал у меня неприятные ощущения, то каковы его качества? Чем он отличается от проектов, которые доставляют радость? И вот что я понял о себе: я не возражаю, чтобы меня оценивали, если судьи честно служат высокой цели, но мне очень не нравится, когда меня походя осуждают толпой или когда я нахожусь во власти какого-то дурацкого алгоритма.

Мне не нравится, когда программа считает, больше ли у меня друзей, чем у других, нравлюсь ли я людям, в чем я лучше, имею ли шансы разбогатеть или что-то еще. Чтобы работать, алгоритмы ОБЛОМа не могут не поместить вас в какую-нибудь категорию и не оценить. Главная цель ОБЛОМа – превратить вас самих и ваше поведение в продукт. Алгоритмы нужны для того, чтобы приносить выгоду собственникам платформы и рекламодателям, вы нужны и тем и другим в виде абстракции.

Алгоритмы ОБЛОМа, стоящие за деятельностью таких компаний, как Facebook и Google, прописаны в нескольких файлах, которые невозможно взломать – настолько они засекречены. Данные Управления национальной безопасности США^[85] и ЦРУ^[86] регулярно воруют, но нигде, даже в даркнете, не найти алгоритм поиска Google или ленты новостей Facebook^[87].

Дело отчасти в том, что если бы все узнали, как работают искусственный интеллект и облачные приложения, это вызвало бы волнения. Люди поняли бы, насколько непостоянными могут быть результаты. (Об этом я рассказывал в первой главе.) Алгоритмы полезны лишь функционально, статистически, а ведь на этой тончайшей ниточке полезности висят самые огромные состояния нашего времени.

Но как по мне, так дело не только в программах, даже самых чудесных, а в иерархических отношениях, которые возникают, когда люди начинают уважать эти программы.

Источники мнений о вас, значение которых было раздуто людьми – прямо скажем, до смешного, – существовали всегда, но они практически не имели никакого веса. Например, гороскопы в газетах. Редакторы не могли отследить движения ваших глаз, а потому никто не знал, что вы именно читаете. Но даже если вы читаете свой гороскоп (прошу прощения, если вы в них верите, но это нелепо), то и что с того?

Может, вы верите в астрологию, а может, ваш взгляд зацепился за случайное слово, а может, вы сочли гороскоп забавной шуткой. Да что угодно. Это оставалось между вами и неодушевленным предметом, максимум – между вами и человеком, которому вы об этом рассказали.

Гороскоп из газеты не менял реальность за пределами вашей головы. И уж точно не влиял на ваши взаимоотношения с другими людьми.

ОБЛОМ работает иначе. Предположим, что вместо газеты у нас онлайн-сервис, а вместо гороскопов – оценка вашей заботы о собственном здоровье, вашего трудолюбия, привлекательности в качестве романтического партнера или чего-нибудь еще. Facebook, например, классифицирует вас на основании ваших политических взглядов и многих других факторов^[88]. Все эти категории – ответ ОБЛОМа на гороскопы.

Суждения алгоритмов ОБЛОМа ненадежны и ничего не значат в научном смысле, но в реальной жизни они еще как значимы. От них зависит, какие новости вы увидите, кому на вас укажут как на возможного романтического партнера, какие товары вам предложат купить. Суждения, основанные на активности в соцсетях, могут определять, какой кредит вам дадут в банке^[89], в какие страны вас впустят^[90], будет ли у вас работа^[91], какое образование вам позволят получить^[92], какой вердикт вынесут при обращении за выплатами по страховке вашего автомобиля^[93], а также то, насколько свободно вы сможете собирать вокруг себя единомышленников^[94]. (Зачастую третьи лица применяют свои алгоритмы суждения к данным, добытым с помощью ОБЛОМа, а не полагаются на категории ОБЛОМ-платформ.)

Все ваши прихоти и чудачества рассматриваются под микроскопом сил, значительно превосходящих ваши собственные, если только вы не живете в полицейском государстве, вроде Восточной Германии или Северной Кореи.

Невозможность выцарапать себе место, где можно просто побыть самим собой, – вот что заставляет нас чувствовать себя несчастными. О каком самоуважении вообще речь, если ваше мнение о самих себе больше не имеет первостепенного значения?

Как можно быть счастливым без чувства собственного достоинства? Как можно быть настоящим, когда все, что вы читаете, пишете или делаете, скармливается оценивающей машине?

Если быть точным, оценка внутри ОБЛОМ-машины происходит на двух уровнях. Первый открыт всем желающим. В интернете полно мнений о вас лично. Как много у вас друзей и подписчиков? Привлекательны ли вы? Сколько очков вы набрали в онлайн-игре? Есть ли у вас золотая звезда или еще какая-нибудь виртуальная мишура, полученная от магазина за то, что вы убедили других сделать там покупку?

Второй уровень оценки основан на математических соотношениях, которые скрыты от людей и не поддаются человеческому пониманию. Их иногда называют интерпретациями промежуточного уровня из-за того, как они рождаются в процессе машинного обучения. Эти методы обработки данных используют для оптимизации ОБЛОМа: какого рода реклама с наибольшей вероятностью окажет на вас определенный эффект, какие новости или фотографии милых котиков нужно поместить в вашу ленту новостей?

О чем бы ни шла речь, обратите внимание на суть происходящего. Вас и других людей внезапно втянули во множество глупых состязаний, в которых никто из вас не собирался участвовать. Почему вы не выложили столько же классных фото, сколько ваш друг? Почему у вас меньше подписчиков? Постоянное дозирование социального беспокойства заставляет людей тратить все больше и больше времени на эту ерунду. Глубинные механизмы нашего мозга, ответственные за социальное взаимодействие, отслеживают наше общественное положение, и из-за них мы приходим в ужас от перспективы остаться за бортом, оказаться больным слабым животным, брошенным посреди саванны на съедение хищникам.

Я уже давно понял, что не хочу участвовать ни в каких рейтингах и состязаниях, если только сам их не выбрал. Если я хочу выиграть грант на исследовательский проект, то смиряюсь с тем, что мне придется участвовать в конкурсе и что мой проект будут оценивать и сравнивать с другими. Но как смеет какой-то несчастный алгоритм напоказ выставлять мне оценки, которых я не просил?

Но, как ни парадоксально, когда это все же происходит, я не могу просто взять и выкинуть ситуацию из головы. Во мне живет мелкий бес соревновательности. Думаю, такой сидит почти в каждом из нас.

Когда я вижу, что человека только что оценили по ряду параметров и признали его более популярным/умным/общительным/ценным/еще каким-нибудь, чем я, этот мелкий бес говорит: «Да неужели?» И тогда я ощущаю необходимость что-то с этим сделать: или обойти его в этой игре, или найти другую игру.

Но пока вы поглощены ОБЛОМом, вы не сможете вырваться. ОБЛОМ ведет миллионы игр, и в большинстве из них вы проигравший, потому что соревнуетесь почти со всеми жителями планеты. А победители зачастую выигрывают чисто случайно.

Это как если бы вместо одного футбольного матча велась глобальная игра, в которой участвуют все люди Земли, и все играют против всех. Конечно, почти все проигрывают. Наихудшая разновидность спорта.

Еще хуже то, что некоторые люди, а именно сотрудники Кремниевой долины, как я, поглядывают на вас свысока, видят больше, нежели можете увидеть вы или ваши друзья, и манипулируют вами.

Высокий замок

Правда обрушилась на меня, когда Google был небольшой компанией, еще до Googleplex. Я зашел в их маленький офис, и мой друг, один из первых программистов Google, рассказал мне о письме женщины, которая была очень расстроена. Она писала, что если ввести в поисковую систему ее имя, первая же ссылка в выдаче ведет на идиотский пост о том, что она без ума от мочи.

Это стало нетривиальным моментом для первого состава команды Google. Они встали перед выбором: считаться ли им с требованиями отчаявшейся женщины или решить, что удобство их сервиса перевешивает причиненный ей вред?

Сегодня такие проблемы со всеми вытекающими последствиями (простите за каламбур!) кажутся вчерашним днем, но они до сих пор могут сильно испортить людям жизнь. Uber, работающий по принципу псевдо-ОБЛОМа, возможность шпионить за людьми называет «взглядом Бога»^[95].

Кремниевая долина заняла богоподобную позицию. Избранные люди и алгоритмы видят, кто, что и когда написал, а также кто и когда это написанное нашел и прочитал. Мы можем наблюдать весь процесс, как копошение муравьев. И муравьишки знают, что за ними ведется наблюдение. Та женщина писала все более эмоциональные письма, умоляя о помощи. Некоторые люди в офисе ее жалели, а другие над ней смеялись.

Ощущать себя муравьем, за которым наблюдают якобы высшие существа, которые на самом деле никакие не высшие, а такие же люди, как и вы, которые, как и вы, учились в школе, а потом стали работать на ОБЛОМ… унизительно и вгоняет в депрессию.

Позвольте напомнить, что отрицательные эмоции у людей вызвать намного легче, и они куда эффективнее положительных притягивают ОБЛОМ.

Если бы все люди разом стали довольны и счастливы, они бы вышли из соцсетей, от которых так зависимы, и стали бы радостно бегать среди цветов, а потом обратили бы внимание друг на друга. Однако пока люди переживают о своей популярности, беспокоятся о конце света, который должен наступить в результате ужасного взрыва, или злятся на каких-то дураков, влезающих в их разговоры с семьей и друзьями, они просто не посмеют отвлечься на что-то еще. Их поймали на крючок естественной настороженности.

Нам в Кремниевой долине нравится наблюдать, как муравьишки все старательнее закапываются в грязь. Пока мы на них смотрим, они дают нам деньги.

Вы постоянно сталкиваетесь с дисбалансом власти. Скажите, вы не чувствуете себя униженным, когда пользуетесь одним из дочерних брендов Facebook, например Instagram или WhatsApp? Между прочим, Facebook – первая открытая акционерная компания, которая принадлежит одному человеку^[96]. Я ничего не имею против Марка Цукерберга лично, дело вообще не в нем. Но почему вы подчиняете часть своей жизни какому-то незнакомому человеку?

Во времена моей юности были и знаменитые политики, и богатые люди, и звезды поп-культуры, и лидеры промышленности, но никто из них не имел существенного влияния на мою жизнь. Иногда их слова привлекали мое внимание, но и только. Они были где-то далеко.

Вы скажете, что вас это не волнует, но, думаю, вы знаете, что на каком-то глубинном уровне на самом деле волнует. А еще вам кажется, что сердиться на соцсети нет смысла, потому что ничего с этим поделать нельзя. Можно. Удалите свои аккаунты^[97]