Мы привыкли слышать об опасностях соцсетей. Они убивают время, заставляют прокрастинировать, занижают самооценку и просто делают нас глупее. Но что если соцсети, на самом деле, намного страшнее? Что если они могут уничтожить людей или научиться нами управлять?

Ранее мы писали о том, как социальные сети предопределяют наш выбор, а недавно на стриминговой платформе Netflix вышел документальный фильм The Social Dilemma, в котором бывшие сотрудники Facebook, Google и другие инсайдеры Кремниевой долины рассказали со своей точки зрения, как соцсети и цифровые платформы изменили человечество. Мы посмотрели его и собрали для вас основные тезисы этого фильма. 

В чем проблема?

Соцсети создавались, чтобы объединить нас и облегчить нам жизнь. И у них это получилось. Теперь благодаря Facebook мы можем найти дальних родственников, поддерживать связь с друзьями, однокурсниками, коллегами и даже строить романтические отношения. Врачи пользуются соцсетями, чтобы находить доноров, полиция может эффективнее бороться с преступностью, а специальные службы – предотвращать теракты. Twitter и YouTube часто используются для организации политических протестов и становятся эффективными инструментами в борьбе с диктаторскими режимами (достаточно вспомнить Арабскую весну).

Но компании, которые создают соцсети и цифровые платформы, не ставят перед собой цель распространить демократию или объединить как можно больше людей. Смысл существования бизнеса всегда заключается в увеличении дохода. Такие гиганты, как Facebook и Google, постоянно заинтересованы в поиске новых способов увеличить вовлеченность пользователей, потому что это приносит им больше денег через рекламу. Продуктом, который продают компании, становятся их пользователи, а если быть точнее, то:

«Продуктом становится постепенное незначительное неуловимое изменение в вашем поведении и восприятии». Джарон Ланье, учёный в области визуализации данных и биометрических технологий, автор термина «виртуальная реальность.

Однорукий бандит

Удержать пользователей можно только с помощью большого количества данных. Основываясь на них, компании могут построить модели нашего поведения и предсказать наш выбор.

«Многие технологические компании преследуют 3 цели. Вовлечение – вы должны продолжать бесконечный скроллинг. Рост – вы должны захотеть вернуться и пригласить друзей. Реклама – компания должна получить максимальный доход от вовлечения пользователя». Тристан Харрис, основатель компании Center for Humane Technology, бывший сотрудник Google, «совесть Кремниевой долины».

Корпорации зарабатывают на людях – они изучают наше поведение, а потом пробуют разные алгоритмы на основе этих данных. Каждый цифровой отпечаток перерабатывается машинным обучением. Технологии, основанные на базовых психологических установках, заставляют нас осуществлять запрограммированный выбор. Это похоже на игру в слот-машину – мы готовы постоянно просматривать ленту в соцсетях в надежде увидеть то, что нас заинтересует, как будто нажимая на ручку игрового автомата. Всё это изначально задумывалось дизайнерами приложений. В оповещениях о новой фотографии друга вы не видите саму картинку, вам надо открыть, поставить лайк, прокомментировать, ответить на комментарий, и вот… уже прошло 30 минут.

Скрытая угроза

Взрослые люди все-таки способны контролировать себя и ограничивать потребление цифрового контента. Реальную опасность соцсети могут представлять для детей.

«Мы строим нашу жизнь вокруг придуманного идеала, потому что мы получаем вознаграждение в форме коротких символов (сердечки, лайки) и в результате ассоциируем это с ценностью, с истиной. Но на самом деле, это не что иное, как фейковая и хрупкая популярность, опустошающая нас изнутри». Чамат Палихапития, бывший вице‐президент Facebook по росту пользователей.

Рост уровня депрессии и тревоги у подростков в США начал активно расти с 2011-13 годов. Примерно с этого же периода возросло количество девушек, которые попадали в больницу с порезами лица и другими видимыми попытками изменить свою внешность в домашних условиях. Количество самоубийств среди девушек в возрасте от 15 до 19 лет увеличилось на 70%, а в возрасте от 10 до 14 лет – на 151%. Именно это поколение получило доступ к социальным сетям уже в средней школе. Дети сталкиваются с нереалистичными стандартами красоты, которым они не могут соответствовать, и не выдерживают давления. Они растут с ощущением, что от любой проблемы можно уйти в виртуальный мир.  

Чем внимательнее вы смотрите, тем меньше видите

Многие опасаются, что в будущем искусственный интеллект может уничтожить людей. Но ИИ уже управляет поведением людей. Алгоритмы улучшают сами себя. Информация, которую вы получаете из соцсетей, подбирается компьютером, машинами, люди уже не полностью контролируют этот процесс. Если вы введете в Google запрос «Изменение климата (climate change) – это…», то получите разные варианты поиска в зависимости от места, где вы живете. Вам может быть предложено научное объяснение глобального потепления или конспирологическая теория про заговор политиков и ученых. Система выдает результат, который основывается на ваших интересах и истории поиска. Реальность для каждого человека становится индивидуальной.

«Когда фокусник показывает свой трюк, он просит выбрать карту. Как правило, вы не замечаете, что карта уже выбрана за вас. Так же работает и Facebook». Роджер Макнейми, сооснователь Elevation Partners, инвестор ранних стадий, вложивший деньги в Facebook, Google и Amazon.

Соцсети создают вокруг нас пузырь спокойствия. Мы читаем только те новости и мнения, которые подтверждают нашу точку зрения. Политическая поляризация сильно увеличилась в США за последние 10 лет. Трамп, BLM, коронавирус – эти и другие проблемы заставляют американское и мировое сообщество делиться на группы, между которыми сложно найти что-то общее. И одна из причин такого состояния заключается в системе рекомендаций в социальных сетях и цифровых платформах.

Мы получаем новые видео только о тех темах, которые нам интересны. Если мы изучаем иностранный язык, мы видим материалы про образование и учёбу; если мы любим путешествовать, то нам чаще будут попадаться видео тревел-блогеров. Но если мы не уверены в том, что Земля круглая, а рептилоиды – плод чьего-то воображения, тогда для нас подберут контент, убеждающий в нашей правоте.

4 декабря 2016 года американец Эдгар Мэддисон Уэлч устроил стрельбу в пиццерии, он хотел убедиться, что работники пиццерии не причастны к педофилии. Это произошло из-за распространения в соцсетях теории заговора «Пиццагейт», согласно которой влиятельных сторонников Хиллари Клинтон считали членами тайной организацией педофилов.

Столкновения в Мьянме в 2017, связанные с мусульманами-рохинджа, также можно объяснить влиянием соцсетей. В Мьянме при покупке смартфона всем пользователям устанавливается Facebook с персональным аккаунтом. Это даёт возможность властям манипулировать общественным мнением, насыщая социальную сеть контентом, разжигающим ненависть к религиозным и социальным группам.   

Кто виноват и что делать?

«Сами технологии не угрожают нашему существованию, но их способность вызывать худшее в людях – это и есть экзистенциальная опасность». Тристан Харрис

Удобство и комфорт соцсетей – это прекрасно, но корпорации должны нести ответственность за негативное влияние своего продукта.

Авторы фильма предлагают следующие решения:

• ввести налоги, ограничивающие количество информации, которые компании могут собирать о пользователях;
• объявить рынки внимания пользователей вне закона и остановить продажу человеческого вовлечения;
• осознать угрозу и изменить технологии, переориентировать их на прогресс;
• ограничить собственное использование соцсетей, убрать все оповещения, никогда не выбирать рекомендованное видео;
• ограничить соцсети для детей, не использовать смартфоны за полчаса до сна, обсудить временные ограничения.

Критика

Facebook выпустил опровержение основных тезисов фильма, в котором заверил, что компания стремится бороться с поляризацией в обществе, ценит приватность и личные данные пользователей и никогда не продавала индивидуальную информацию. По сути, компания всё же признала, что её основная бизнес модель строится на продаже данных своих пользователей.

Основная критика фильма концентрируется на отсутствии конкретных механизмов исправления ситуации. Авторы предлагают этический дизайн для цифровых платформ, но такой подход оставляет множество вопросов о механизмах его осуществления.

Фильм состоит из интервью бывших топ-менеджеров технологических компаний, которые осознали вред своих продуктов и выступают в качестве моральных ориентиров для будущих изменений. Многолетняя деятельность активистов, борющихся за цифровые права и приватность, остаётся в тени.

Несмотря на критику, эксперты признают важность фильма: он заставляет общество задуматься о количестве информации, которой мы делимся, и необходимости пересмотреть фундаментальные основы цифровой безопасности.  

Автор: Марат Уметов
Фото обложки: Merakist