Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти

Погружаясь в многочисленные проекты как известных IT-гигантов (Google, Facebook*, Amazon, Apple, Microsoft), так и порой вызывающих удивление изобретения других компаний (Smart-TV от Samsung, домашний пылесос Roomba, приложение для сна Sleep Number, термостат Nest, идентификаторы от телекоммуникационной компании Verizon и даже кукла Кайла), невольно начинаешь задавать себе вопрос: «Почему и в какой момент я отказался от приватности?». В этом и есть основная ценность книги – она заставляет задуматься о том, что на протяжении последних 30 лет компании формировали, а затем реализовывали невидимые, но крайне продуманные разнообразные стратегии изъятия нашего поведенческого излишка. Экономически вполне понятный и закономерный процесс. Поэтому описывая его, Шошана Зубофф – первая, кто вводит в науке понятие «надзорного капитализма». Эпоха надзорного капитализма, подчеркивает автор, утвердила право на превращение человеческого опыта в сырье, которое компании могут бесплатно и беспрепятственно собирать (даже через выключенные смартфоны, телевизоры и роботы-пылесосы), переводя их в поведенческие данные, становящиеся собственностью таких компаний, а значит дает им право раскрыть эти данные, использовать полученное новое знание по собственному усмотрению. И далее все циклично: если это собственность компании, то компания и решает, при каких условиях и как ее собирать, владеть, а главное – кому передавать дальше. Автор подчеркивает, что некогда бесхозные данные стали ценным ресурсом, а значит ключевая конечная задача таких компаний не в том, чтобы удовлетворить потребителя, а в том, чтобы собрать как можно больше новых данных.

В какой-то момент появляется чувство, что читаешь описание одной из многочисленных войн, которую яростно ведет человечество. Но только поле битвы здесь достаточно специфичное, а именно – бескрайнее интернет-пространство, и используемое оружие неординарно – персональные компьютеры, кредитные карты, телефоны, камеры, датчики, голосовые помощники, всевозможные гарнитуры для смартфонов, как например очки Google glass, ну а главный трофей – беспрецедентные объемы данных (автор говорит, что уже к 2013 году 98% информации в мире переведено в цифровой формат).

Борьба подкрепляется постоянно возводимыми оборонительными укреплениями – текстами многостраничных пользовательских соглашений, положения которых туманны и невнятны. Автор приводит интересные результаты одного исследования: для адекватного понимания политики о конфиденциальности требуется не менее 45 минут, однако лица в среднем тратят на это 14 секунд. Итог этой битвы не просто захваченный поведенческий излишек, а ущемление нашего человеческого права на достоинство и независимость. Сложившаяся в результате практика использования наших данных в качестве основного сырья для преумножения капитала и так богатых компаний стала организационным принципом формирования социальной и моральной среды в целом. И именно в этом автор видит ключевую проблему.

Так почему мы не сопротивляемся? Госпожа Зубофф считает, что наша пассивность и принятие этого связано с эпохой, в котором мы живем, где происходит разделение общественного знания как нового принципа социального порядка, когда контроль над этим разделением в руках у надзорного капитализма, т.е. у тех самых цифровых гигантов. Информация и стремление к ней объединяет общество. Например, лента новостей Facebook* скрепляет воедино наши связи. Но важно, что эти же компании манипулируют полученной информацией для достижения своих коммерческих целей. Кто же в итоге принимает решение в самом широком смысле этого слова? И действительно ли реализовано наше базовое право если не на частную жизнь (тут, получается, мы уже привыкли), то на достоверную информацию?

Стоит отметить, что ближе к середине книги начинает появляться ощущение безысходности и излишнего драматизма описываемых событий, наступивших в результате «фаустовской сделки, проданной пользователям интернета во всем мире», которая закрепила надзорный капитализм и «горькую цену бесплатных услуг». Описываемые примеры из повседневной жизни любого читателя лишь усиливают этот эффект: встроенные датчики в автомобилях передают информацию о нас в страховые компании, которые на их основе решают, сколько будет стоить моя страховка; социальные сети и многочисленная таргетированная реклама, создаваемая их бизнес-партнерами, формируют мой образ, нанося ущерб моему безусловному праву на самостоятельное принятие решений, подталкивая к тем, которые удобны им. Но остается надежда, что автор чуть позже найдет выход и покажет нам его.

Меж тем, в книге поднимается еще одна интересная проблема «потерянного поколения». Крупные IT-компании сманивают ведущих специалистов по всему миру, привлекая их к работе у себя для решения ключевой задачи – совершенствование работы алгоритмов искусственного интеллекта для большого извлечения знания. Профессора ведущих университетов мира, по мнению автора, уже не работают над проблемами изменения климата или продовольственной безопасности на благо всего общества, они должны обеспечить реализацию той самой стратегии надзорного капиталиста: поисковая система, социальная сеть должны знать лучше, чего хочу я, чем я сам. Наверное, в какой-то степени это соответствует действительности, но такие обобщающие выводы лишают нас надежды на то, что ученые могут работать не только за большие деньги, но и за идею.

Автор продолжает рассуждать и поднимает уже фундаментальную философскую проблему: узурпация права собственности на данные приводит к вторжению в личное пространство человека и несовместимо с возможностью развития демократии. Само существование демократических институтов опирается на индивидуальные особенности и способности лица, его суждения, право на самоопределение и на свободный выбор. Если же данные используются компанией для выстраивания собственных стратегий развития, ключевой задачей которых становится не только «предсказать», но и сформировать, скорректировать поведение индивида, то очевидно, что это не совместимо со свободой в самом широком трактовании этого понятия и с автономией человека, и не просто с его правом на личную жизнь, а с его правом на будущую жизнь.

Успех в решении этих вопросов автор видит не в расширении программ шифрования, улучшении анонимности данных или права собственности на данные. Это лишь подтверждает неизбежность коммерческого надзора. Нужны коллективные социальные действия. Какие? Автор не уточняет.

Книга состоит из трех частей. В то время как части 1 и 2 рассказывают про условия, механизмы, которые изменили многие бизнес-модели и создали новые – основанные исключительно на данных (извлечение и оцифровка данных, понуждение к действиям, передача поведенческого излишка и создание на его основе новых цепочек поставок, прогнозных продуктов и т.д.), то часть 3, последняя, внезапно начинается с исторического обзора становления в мире такого явления, как тоталитаризм. Снова появляется ощущение излишнего драматизма. Например, автор сравнивает стратегию по захвату персональных данных и созданию на их основе таргетированных предложений с политикой Италии, Германии и других стран эпохи тоталитаризма по «захвату» ими душ людей и созданию послушного идеологически выверенного общества. Автор приводит еще одно интересное сравнение: эпоха повсеместной компьютеризации стоит в одном ряду с идеологией марксизма, т.к. участники обоих явлений являются современными утопистами. Так, проповедники волны компьютеризации утверждают, что наступила новая эра, эра бесполезности противостояния неизбежности лидирования высоких технологий, как Карл Маркс утверждал когда-то, что победа пролетариата неизбежна.

В целом, художественная составляющая книги, как и массив проведенных исторических параллель, безусловно будут ценны и интересны читателю. Чего только стоит анализ процесса появления цифровых помощников, как Google Now. Автор поясняет, что персонализация в виде появления «личных цифровых помощников» как «предмета первой необходимости для изможденных масс» очень схож с итогами промышленной революции XVIII века и появлением мануфактур, когда предметы роскоши (фарфор, мебель и прочее) стали доступны не только богатым.

Постоянное противопоставление автором новых технологий, предсказательных законов тому, что определяет в нас личность, а именно индивидуальной автономии, морали, социальным нормам, праву на принятие решения в конце концов приводит к ожидаемым противоречиям. Недовольство автора принятием обществом концепции о том, что экспоненциальный рост интернета и вычислительных мощностей позволяет получить коллективную выгоду от обмена человеческим знанием и творческой энергией, вынуждает задать вопрос: а разве это не так? Т.е. согласившись с тем, что мы потеряли существенную долю своего контроля над своими же данными, право принимать отдельные решения, разве не получили мы то, что позволяет этому миру и нам, в частности, развиваться дальше, критически оценивая происходящее?

С чем безусловно стоит согласиться с автором, так это с тем, что не должно быть дискриминации в предоставлении услуг на основе объема предоставляемых персональных данных. Автор приводит в качестве примера политику одной компании, выпускающей домашний пылесос, когда большинство встроенных опций может начать работать только при условии скачивания приложения, введения больших данных о себе и т.д. В целом использование компаниями принудительного подхода в духе требования большего количества данных недопустимо. Безусловным правом потребителя должно быть право не просто знать, для чего просят его данные, но и право на получение таких же услуг, как и у тех, кто согласился делиться большим количеством своих данных. Еще одна важная проблема, поднимаемая автором на последних страницах книги, касается вопроса потери социальных навыков, например поиска друзей или даже своего партнера, так как все чаще люди предпочитают это делать через специальные онлайн сервисы.

Ближе к концу книги все-таки хочется найти выход из этого мрачного мира социального доминирования надзорных капиталистов. И автор нам его обозначает. Решение – в коллективном осознании, что «надзорные капиталисты знают слишком много, чтобы претендовать на свободу». Предложенное решение напоминает ключевой принцип мировоззрения эпохи Просвещения, когда произошел отказ от старого миропонимания и философы призвали обратиться к разуму как к единственному критерию познания человека и общества. Учёные нового типа, к которым, видимо, относит себя и автор настоящей книги, стремились распространять знание, популяризировать его. Если смотреть на книгу госпожи Зубофф с этой точки зрения, то автор безусловно достигла своей цели.

* Соцсеть принадлежат компании Meta, деятельность которой признана экстремистской и запрещена в РФ.