Общий искусственный интеллект

В наши дни мы можем наблюдать не просто рост оборота индивидуальных данных, а даже ускорение многих показателей, связанных с их сбором и использованием. Это стало возможным, в существенной степени, благодаря развитию информационных технологий и вовлечению большого числа пользователей в те или иные сервисы. Априори рост технологий и сетевых эффектов не является каким-то негативным событием, однако человеческой природе никогда не был чужд риск недобросовестного поведения (moral hazard), поэтому и возникает активная дискуссия о неправомерном использовании технологий в контексте данных. В связи с этим вполне ожидаемо появление подобных книг, не только описывающих факты и масштабы злоупотреблений в использовании данных, но обозначающих глобальные риски в рамках более широкой картины жизни людей, государств и всего мира. Неблизорукий взгляд, позволяющий всё же «увидеть лес за деревьями», должен помочь в осознании глобальных проблем (как сейчас, так и в недалёком будущем), а также и в поиске возможных решений и ответов на появляющиеся цивилизационные вызовы. Именно такой глобальный взгляд на проблемы демонстрирует в своей книге Шошана Зубофф. Стиль написания книги может показаться читателю несколько «кошмарящим», однако большой набор аргументов и некоторый уход в сторону научности от легко воспринимаемого научно-популярного стиля свидетельствует об остроте восприятия автором обсуждаемых в книге проблем и вызовов.

Книга очень хорошо структурирована, что можно понять уже по оглавлению, описывающему стадии развития, являющиеся в некотором роде блоками фундамента, на котором строится «надзорный капитализм». Наблюдаемое нами возникновение этого, если угодно, нового политического строя и является ключевым нарративом книги Шошаны Зубофф. Описывая суть понятия надзорного капитализма, автор приводит следующее заключение, в которой явным образом просматривается и вызов, столь её беспокоящий: «Институциональный порядок надзорного капитализма представляет собой информационную олигополию, от которой зависят как демократические, так и нелиберальные правительства в вопросах масштабного извлечения данных, генерируемых людьми, их обработки и прогнозирования». Именно риски от этого нового порядка как для привычных нам институтов, так и для индивидуальных прав граждан и являются основной проблемой, возникающей на наших глазах, к скорейшему решению которой и призывает автор книги.

Что же лежит в основе этих вызовов? Откуда возникают эти риски? Кто ответственен за них? Ответы на эти вопросы и раскрывает в своей книге Шошана от главы к главе.

Основу проблемы, ведущей к институциональному кризису, автор видит в неконтролируемом и неподотчётном сборе и использовании данных об индивидах крупными IT-корпорациями. Данные собираются совершенно непрозрачным образом, зачастую непонятным и неизвестным ни самим индивидам, ни каким-либо контролирующим органам. Крупные корпорации, по мнению автора, используют эти данные исключительно для обогащения, расширяются, что приводит к удешевлению и ускорению сбора больших массивов данных за счёт эффекта масштаба. Зачастую, по мнению автора, подрываются права индивидов на конфиденциальность.

Отсутствие какого-либо адекватного развитию отрасли регулирования ведет к тому, что, исходя из чисто экономических принципов (роста кликов, цитируемости, вовлечения новых пользователей), информационные гиганты не только не контролируют, но, напротив, часто способствуют распространению недостоверной информации. Всё это приводит к тому, что автор называет «эпистемическим хаосом». Столь важный вопрос распространения недостоверной информации явным образом не обсуждается в книге, однако неразрывно связан с дискурсом об искажении реальности и получении несуществующих фактов и данных посредством использования ИИ (AI, artificial intelligence, искусственный интеллект) – технологии, наиболее активно развивающейся в последние годы и ускоряющей и без того растущую сферу IT.

Однако на этом проблемы не заканчиваются. Сбор данных может использоваться (и, как показывает автор, используется!) не только для конструирования альтернативной реальности, но и для управления поведением людей. Причем как индивидуальным, так и коллективным. Всё это может оказывать влияние на глобальные процессы и приводить к результатам, недостижимым без искажений информации. В качестве одного из примеров автор приводит манипулирование избирателями посредством прямой дезинформации и склонения к голосованию за другого кандидата, а также и через влияние на явку в тех или иных регионах с помощью определенной направленности постов в социальных сетях. Данные, собранные по критической массе индивидов, позволяют не только таргетировать рекламу согласно предпочтениям, но и знать пол, цвет кожи, возраст и другие критические данные, дающие возможность манипулировать политическими процессами на глобальном уровне. Всё это, по мнению автора, ведёт к подрыву привычных многим демократических институтов, так как глобальные процессы теперь могут быть продиктованы просто волей руководителей IT-гигантов.

При всех дискуссиях вокруг перспектив ОИИ книга оставляет сбалансированное впечатление: Тогелиус обоснованно утверждает, что многие страхи и надежды преувеличены, но в то же время он подчёркивает, что мы находимся только на раннем этапе долгого пути к созданию «по-настоящему общего» ИИ. Его профессиональный взгляд помогает не поддаваться мифам и одновременно не упускать из виду ту революцию, которую уже совершают современные системы машинного обучения.

Одной из основных сильных сторон книги является её структура и систематичность. Автор начинает с исторического обзора достижений узкого ИИ, таких как шахматные программы (включая легендарный Deep Blue) и системы распознавания изображений (например сети, получившие высокие результаты на базе ImageNet). Эти примеры наглядно показывают, почему узкий интеллект, даже если он превосходит человека в специализированной задаче, ещё далёк от того, чтобы стать общим.

Затем он переходит к рассмотрению концепций интеллекта с позиций психологии и нейробиологии, чтобы показать, какие аспекты когнитивных способностей человека могут оказаться критически важными при разработке ОИИ. В частности, автор уделяет целую главу обсуждению понятия g-фактора (общего фактора интеллекта), хорошо известного из теорий Кэттелла-Хорна-Кэрролла. Тогелиус подчеркивает, что для того, чтобы машина претендовала на звание общего интеллекта, она должна проявлять нечто вроде «машинного g-фактора» – единый универсальный механизм, обеспечивающий высокие результаты в самых разных областях применения, а не целенаправленно учиться решать конкретную задачу. Он приводит примеры современных языковых и мультимодальных моделей, которые, кажется, обладают более широкой компетентностью, чем классические узкие системы. Однако, по мнению автора, даже такие системы еще не демонстрируют глубокое единое основание, сходное с человеческим g-фактором.

Тогелиус очень удачно разграничивает понятия «узкий» и «общий» ИИ, демонстрируя, что нынешние достижения, несмотря на их впечатляющий масштаб, по-прежнему далеки от универсального интеллекта, способного решать принципиально разные задачи. Особенно ценны главы (7 и 8) о двух наиболее перспективных, по мнению автора, подходах к созданию AGI: базовым моделям на основе самообучения (large-scale трансформеры и другие крупные нейросети, подобные GPT-4 и Stable Diffusion) и открытому обучению в виртуальных средах. В последнем случае речь идёт о системе, которая формулирует собственные цели и развивается эволюционным путём в моделируемом мире.

Интересно раскрыты и спорные темы, такие как возможность появления сознания у искусственного интеллекта (глава 9) и потенциальные риски, связанные с созданием сверхинтеллекта, когда ИИ сможет улучшать сам себя (глава 10). Тогелиус отмечает, что ни один из существующих алгоритмических подходов ещё не приблизился к стадии осознания, и указывает на нерешённость «проблемы сознания» в философии. Однако он также признаёт, что если мы когда-либо создадим самообучающуюся систему, обладающую способностью к переосмыслению собственных механизмов, теория «взрывного роста интеллекта» может оказаться не таким уж фантастическим сценарием.

В целом, книга Юлиана Тогелиуса будет полезна не только специалистам в области ИИ, но и всем, кто интересуется технологическим будущим и хочет лучше понять возможные сценарии развития искусственного интеллекта и его влияние на человечество. В заключительных главах (11 и 12) автор подробно разбирает социальные последствия гипотетического появления ОИИ, затрагивая вопросы занятости, структуры общества и этического отношения к потенциально сознательным машинам. Подход Тогелиуса отличается сбалансированным анализом: он не только говорит об успехах и перспективах, но и призывает к учёту ограничений, которые пока что не позволяют узким ИИ выйти за рамки заданных задач и эволюционировать в сторону подлинного «общего» интеллекта.