В минувшие выходные 1-2 апреля в Москве завершила свою работу Лаборатория «За 30 лет до полудня». Это нестандартное мероприятие собрало около 50 участников. Все они представители разного возраста, разных социальных и профессиональных групп. Однако всех участников объединила общая цель – создать то будущее, в котором им будет комфортно жить. В течение четырех дней – 25-26 марта и 1-2 апреля – участники Лаборатории слушали лекции, делились своим опытом, играли и разрабатывали собственные гуманитарные инициативы, направленные на работу с новыми технологиями под руководством опытных игротехнических команд страны. Корреспондент THE WALL встретилась с организатором Лаборатории Петром Левичем и обсудила с ним цели мероприятия, а также его собственные представления о будущем.
Петр, добрый день! У вас есть блог и канал в телеграмм. Вы занимаетесь активной пропагандой идей осмысления будущего. Некоторые ресурсы называют вас футурологом, какие-то просто апеллируют к вашему формальному статусу — директор департамента взаимодействия науки, технологий и общества Московского технологического института. А как бы вы сами себя обозначили?
Да, действительно, я работаю в Московском технологическом институте. Что касается меня, то называть меня можно как футурологом и исследователем техноэтики, так и тем, кто стремится изменить мир доступным ему методом. Для меня важно найти и пронести через свою жизнь баланс между исследовательской позицией, комфортной, но принципиально отстранённой, и позицией прогрессора, то есть человека, меняющего мир. Хороший исследователь должен быть сторонним наблюдателем, прогрессор же должен быть частью мира и конкретной ситуации, но его позиция заведомо некомфортна. Именно баланс между исследовательской и прогрессорской деятельностью я и стремлюсь найти
В чем вы видите свою миссию в этой роли?
Технологический образ будущего нам более или менее понятен. Всего скорее нас в скором времени ожидают киборгизация, чипы, искусственный интеллект, редактирование геномов, нейротехнологии. И влиять сильно на эти процессы мы не в состоянии. На технологический образ будущего влияют технологические компании, которые получают деньги за свои открытия, изобретения и деятельность. Конечно, можно пытаться лоббировать законопроекты, запрещающие технологическое развитие, но у меня нет ни желания, ни ресурсов, ни понимания того, что это нужно. Поэтому ответы на вопросы техноэтики лежат не в технологической области, а в гуманитарной. На одном и том же технологическом пакете может быть построено как свободное общество с уважением к правам человека, так и тоталитарное государство с совершенно иными ценностями. Свою миссию я как раз и вижу в том, чтобы менять образ будущего гуманитарными способами, гуманитарными инициативами и технологиями.
Насколько тема будущего интересна современной публике? Находит ли ваша деятельность отклик в обществе?
И да, и нет! С одной стороны, действительно, будущее – это та тема, которое волнует общество. Например, на нашу Лабораторию был достаточно высокий конкурс, несмотря на то, что анонсирование шло только через мой канал в Telegram, подписчиков в Facebook. При этом люди относят испытываемые дискомфорт и страх к технологиям. Люди боятся технологий, что мне кажется в корне неправильным. Пока мы не изобрели сильный искусственный интеллект, человек остается единственным актором, обладающим собственным целеполаганием. Технологии же этически нейтральны, они лишь являются инструментом человека. Ни одна молекула химического оружия не хотела убить человека по собственному желанию, ни один мессенджер не прислал коды шифрования спецслужбам по собственной инициативе. Когда люди говорят, что боятся технологий, на самом деле они боятся других людей, которые могут им навредить. Мы можем формировать желаемый образ будущего с помощью технологий, а не вопреки им. Поэтому темой будущего надо интересоваться не потому, что технологии опасны, а потому, что мы должны работать друг с другом и учиться использовать технологии себе на пользу, а не во вред.
«Хороший исследователь должен быть сторонним наблюдателем, прогрессор же должен быть частью мира и конкретной ситуации, но его позиция заведомо некомфортна»
Тематика будущего – это тема энтузиастов-одиночек, или сегодня существуют организации, которые бы занимались подобной проблематикой? Насколько в процесс обсуждения будущего включено сегодня государство?
Если говорить о государстве, власти и будущем, то необходимо отметить, что в России общественной дискуссии в отношении будущего и его образа не существует. Право говорить на эту тему, «стратегировать» будущее фактически приватизировано государством, так как сегодня это является в высшей степени политической историей.
Что касается в целом групп влияния, которые интересуется будущим, то, в первую очередь, эта тема в той или иной степени сконцентрирована в университетах и научных организациях. Так было всегда. Очевидно, что тема будущего должна активно разрабатываться технологическими компаниями. Я знаю, что у ABBYY, Лаборатории Касперского, еще у некоторых фирм есть проекты, связанные с будущим. Но если в целом сравнивать российскую ситуацию с зарубежной, то наши компании могли бы чуть активнее развиваться в данной области. Например, Google взял к себе на работу Реймонда Курцвейла, которого, пожалуй, можно назвать самым известным футурологом. В целом история с транснациональной компанией, не думающей сегодня о будущем и не имеющей в том или ином виде футурологического отдела, становится сегодня невозможной.
Однако влияние государства, компаний и в целом вертикальных иерархических институций сегодня ослабевает. Растет роль горизонтальных сообществ. Например, если еще несколько лет назад мы говорили только о хакерах, то сегодня появляются биохакеры, которые могут получать нелегальные заказы на редактирование генома растений или разработку иных биотехнологий от фармацевтических и иных компаний. Таким образом, мы понимаем, что многие истории про будущее сегодня сконцентрированы в горизонтальных сообществах. Наша Лаборатория также результат развития таких горизонтальных связей.
Вот и поговорим о вашем мероприятии! Оно носит очень интересное и неоднозначное название Лаборатория «За 30 лет до полудня». Слово «лаборатория» означает специальное помещение, которое оборудовано для проведения научных опытов и экспериментов. С другой в основе названия лежит метафора, связанная с художественным произведением братьев Стругацких «Обитаемый остров». Как Вы можете объяснить это странное сочетание в названии мероприятия? Каков формат мероприятия и его цель?
Основная идея Лаборатории заключается в том, что для создания желаемого образа будущего необходимо работать с гуманитарными инициативами, влияющими на ценностный уровень общества. Слово «лаборатория» – это то слово, которые мы выбрали по остаточному принципу, не предполагающее тех форматов, которых бы мы не хотели. При выборе формата мероприятия мы мыслили себе что-то среднее между школой и групповым взаимодействием. Мы не хотели делать школу, так как она предполагает определенную иерархию, хотя у нас есть элементы такой работы – например, лекции. Мы не хотели делать формат рабочих групп, так как все же у нас присутствует и образовательный элемент. Наше мероприятие – это история не совсем иерархическая, но и не полностью горизонтальная. Также его можно мыслить как некий «хакатон» гуманитарных инициатив. На выходе мы ожидаем, что люди сложатся в команды и создадут свои проекты: движение, сообщество, медиа, возможно, лоббирование законопроектов или даже технологию, которая, будучи технической по сути, сможет оказать влияние на гуманитарную сферу жизни общества.
Что касается названия, то фраза «за 30 лет до полудня» – это действительно отсылка к миру полудня Стругацких. Многим войти в роль «меняющего мир» проще в игровом формате. Изменение нашего мира – сложный и смелый процесс. Задача участников представить, что Лаборатория – это на самом деле школа прогрессоров, которых в 2157 году готовят к отправке на Саракш. Мир Саракша выбран именно потому, что он больше всего из миров Стругацких похож в технологическом плане на Землю. И у меня такое ощущение, что, если ничего не делать, то через 30 лет на Земле и будет Саракш с его тоталитарным государством и в целом не очень приятными для жизни условиями.
Много ли заявок на участие было вами получено? И по каким критериям проходил отбор участников?
Изначально было получено более 120 заявок. После мне написало еще несколько человек. Конкурс составил приблизительно 3 человека на место, и мы взяли даже больше людей, чем рассчитывали, но все равно, к сожалению, пришлось многим отказать в участии. Отбор проходил в форме конкурса эссе. Вопрос в эссе звучал так: «Каким вы видите образ желаемого будущего, и что вы готовы делать или уже делаете для его изменения?» Главным критерием было стремление или хотя бы готовность что-то делать для создания желаемого образа жизни.
Чем был обусловлен выборов лекторов и менторов лаборатории?
Это сложный вопрос. Я не могу назвать конкретный принцип отбора. Это скорее вопрос доверия. Это те люди, кто, как мне казалось, могут хорошо осветить ту или иную тему. Это не значит, что другие не могут хорошо про это рассказать, это значит, что именно они могут найти баланс в понимании своей специальности и повесткой изменения мира. Хочу отметить, что в Лаборатории речь идет не только о технологиях, но и об устройстве общества, искусстве и так далее. И мне кажется, я не ошибся в своем выборе.
Петр, вы упомянули, что Лаборатория — результат развития горизонтальных связей. Кто еще принял участие в организации мероприятия?
Это мероприятие было бы невозможно без моих коллег, за что я им очень благодарен: Ивана Ниненко, Павла Лукши, Елены Дирюгиной и других. Соорганизаторами в том числе стали «Группа 17», движение Protopia Labs, игротехническая мастерская «Ворона на мосту» и анимационная студия «ДА». А партнером мероприятия среди прочего выступила Российская Венчурная Компания.
Каково дальнейшее развитие проекта? Планируется ли проведение подобных мероприятий в будущем или дальнейшее взаимодействие с участниками проекта или нет?
Я надеюсь, что те люди, которые сегодня здесь приступили к созданию инициатив продолжат их и после. Хотелось бы, чтобы мы продолжили существование в форме сообщества. Что касается дальнейших планов, возможности проведения подобных или иных мероприятий, то я пока их не хочу озвучивать, так как должен еще осмыслить опыт этой Лаборатории и сделать для себя определенные выводы.
«Влияние государства, компаний и в целом вертикальных иерархических институций сегодня ослабевает. Растет роль горизонтальных сообществ»
Как вы сами представляете будущее, которое ожидает нас через 30 лет. Если мы условно разделим будущий мир на три ипостаси, — технологическое будущее, социальной устройство и человек — то как бы вы описали каждую из них. Давайте начнем с технологического будущего. Что нам ждать здесь через 30 лет?
Я бы не хотел делать прогнозы, не потому что они не оправдаются, а потому, что это не самое ценное. Что касается технологий, которые выступают неким контекстом социального и индивидуального развития, то я считаю, что все, что может быть изобретено – будет изобретено рано или поздно. Мы можем запрещать развитие технологий, что замедлит технологический прогресс, но найдется место и люди, которые все равно будут заниматься этим. Это прежде всего финансовый вопрос: те кто создает технологии зарабатывают на этом деньги. Кроме того, наука в высшей степени синхронна. И если мы ограничим развитие науки в одной стране, в одном научном центре, то к этому открытию придут другие. Примером может стать технология CRISPR (технология редактирования геномов высших организмов, базирующаяся на иммунной системе бактерий), за патент на которую сейчас борется сразу несколько лабораторий. Мы не можем остановить технологический процесс, не можем даже значимо влиять на его направление.
Хорошо, что в этих условиях произойдет с социальным устройством?
В социальной сфере, как я уже отмечал, все большее влияние будут приобретать горизонтальные связи и сообщества. Вертикальный мир дал человечеству возможность построить сложную технологическую цивилизацию, которая позволила нам создать адронный коллайдер, совершить полеты на Луну. Но дальнейшее развитие в рамках вертикальных структур представляется едва возможным. Нам нужны иные форматы взаимодействия, которые бы позволили преодолеть имеющийся предел развития.
И, соответственно, как изменится индивид к 2050 году?
Сегодня уже наблюдается некий кризис идентичности, который будет только усиливаться в ближайшем будущем. В Средние века человеком считалось то, что сотворено Богом. Новое время предложило иную трактовку: человек – это живое существо, имеющее геном биологического вида homo sapiens. Но технологии редактирования геномов делают эту идею несостоятельной. Тогда может человек – это тот, кто может творить и создавать новое? Но, оказалось, что это тоже не так – нейронная сеть копирует музыкантов, поэтов, художников. Все, что ограничено телом человека уже тоже не может быть основой нашей идентичности, потому что сегодня создаются роботы, имеющие в своем строении живые клетки. Барьер между живым и неживым, между человеком и не человеком стирается. Что же тогда остаётся нам? Одна из гипотез гласит, что человек – это история про этику и ценности. Человек – это тот, кто поступает как человек, вне зависимости от того сделан он из кремния, органики, он творит или он копирует, имеет он геном homo sapiens sapiens «по праву рождения», генетически изменен или вообще сконструирован в лаборатории.
Нет ли у вас опасений, что инновации будут приводить к большему контролю над человеком и ограничению свободы? Или же больше шансов, что все будет наоборот?
Новые технологии могут дать новые инструменты. Люди с помощью технологий могут ограничивать нашу свободу, с помощью более эффективных технологий они могут ограничивать нашу свободу более эффективно. Сегодня технологии становятся дешевле, быстрее, мощнее и общедоступнее. И поэтому людям стоит научиться лучше друг с другом договариваться. Каждому уровню развития и мощности технологий должен соответствовать определенный уровень развития общества, готового принять возможные риски и выжить.
«Все, что ограничено телом человека, уже тоже не может быть основой нашей идентичности, потому что сегодня создаются роботы, имеющие в своем строении живые клетки. Барьер между живым и неживым, между человеком и не-человеком стирается»
По мере развития технологий искусственного интеллекта встаёт вопрос о том, как машины могут вести себя в различных ситуациях. Ряд исследований показывает, что, чем больше вычислительная мощность машины, тем более агрессивные стратегии поведения она выбирает. Какие механизмы контроля за развитием интеллектуальных систем и их внедрение в практику должны быть задействованы?
Безусловно такие методы контроля должны быть, но это сфера специалистов по кибербезопасности. На мой взгляд, сценарий войны человека с машинами не очень правдоподобен. Пока мы не в состоянии создать очень мощный искусственный интеллект, но у нас уже хорошо получается создавать искусственный интеллект, решающий частные задачи. Но зачем нам конкурировать с искусственным интеллектом, гораздо эффективнее с ним объединиться. Хочется осветить вопрос и про этику искусственного интеллекта или, другими словами, какие критерии должны лежать в основе принятия тех или иных решений роботехническими системами. Важно, чтобы мы не пришли к тоталитаризму, евгенике, расизму, какой-то форме шовинизма, обусловленным тем, что в качестве критерия принятия тех или иных (управленческих, а, может, и связанных с вопросами жизни) решений искусственный интеллект использует критерий ценности для общества того или иного индивида. «Управленческая политика» автономных систем должна быть максимально гуманистична. Но ведь это также относится и к людям, правда?
И последний вопрос, на который бы хотелось получить предельно краткий и емкий ответ: будущее человечества вы бы могли описать как преимущественно позитивное, окрашенное яркими красками, или все-таки как негативное и ведущее в тупик?
Сейчас, на мой взгляд, наиболее вероятным сценарием ближайшего будущего будет столкновение человечества с теми или иными кризисами. Мой оптимизм заставляет меня верить, что мы их преодолеем, и то, какими мы выйдем из них — будет влиять на более далекую перспективу.
Автор: Оксана Хлопкова
Фото: Антон Андриенко
