Цифровой ад, технологический рай или нечто совершенно иное: какие технологии определяют будущее человечества (original) (raw)

Ответы на вопрос, как относиться к научно-техническому прогрессу, породили несколько противоборствующих лагерей: сторонников научно-технического развития (технооптимистов), его противников (технопессимистов) — и стоящих между ними технореалистов.

Что такое технооптимизм

Сторонники технооптимизма верят, что для человечества хороши все технологии: от голосовых помощников и больших данных до искусственного интеллекта, способного заменить человека практически в любой сфере.

В сегодняшних медиа технооптимизмом обозначают не только интеллектуальное течение в философии техники или литературе, но и повседневные установки и отношения людей к научно-техническому развитию. В его основе — вера в положительные последствия технологического прогресса, в его способность решить все проблемы человечества.

Как появился технооптимизм

Технооптимизм как интеллектуальное направление зародился в 1960-е, когда послевоенные настроения привели к постановке новых национальных и глобальных задач: восстановлению общественного порядка, стремлению к развитию и процветанию, достижению всеобщего человеческого блага. Научные открытия и технологические изобретения виделись едва ли не единственным способом вывести человечество на новый этап развития, где рациональность технологий победит социальные и экономические проблемы.

Каждое новое технонаучное открытие подкрепляло веру в позитивный сценарий прогресса и порождало новую волну фантазий: ядерная энергетика, освоение космоса, микроэлектроника открывали новые горизонты потенциального развития человечества.

Промышленный подъем сделал популярными утопические мечты о светлом будущем, и эта футурология нашла отражение в художественном и академическом творчестве.

Пик такого творчества пришелся на 60–80-е годы прошлого столетия, когда вышли ключевые работы философов, социологов и политологов. Технооптимизм нашел отражение в идеях «индустриального» и «постиндустриального», «информационного» и «компьютерного» общества. Д. Белл, Р. Арон, Дж. Гэлбрейт — и многие другие социальные исследователи — предлагали свое видение развития общества на основе достижений науки и технологий. Эти концепции были легко (и в основном некритично) восприняты академическим сообществом, публикой и далее легитимизировали технократические настроения в государственной политике, во многом поддержав холодную войну и сопутствующую гонку вооружений.

Технооптимизм в СССР

В Советском Союзе технооптимизм укоренялся благодаря системе образования, влиянию политики и идеологии на производство научного знания, распространению научно-технических знаний в культурной среде. Роман Абрамов очень подробно исследовал, из чего складывалась такая культурная политика: в повседневность советских людей входят научно-популярная литература (например, Стругацкие до 1963 года) и периодические издания («Квант», «Техника и наука», «Техника — молодежи», «Юный техник», «Моделист-конструктор», «Земля и Вселенная»), кино и телепередачи (одним из основных производителей стал «Центрнаучфильм»).

Советский диафильм 1960 года «В 2017 году»

Советская инженерная школа к послевоенному времени стала привлекательной для молодежи, что привело к популяризации инженерной профессии и развитию фундаментальной науки.

Уникальным стал феномен научных школ по математике и физике с харизматичными лидерами, которые с их страстью к открытиям культивировали занятия наукой и собирали вокруг себя молодых и талантливых студентов, аспирантов, научных сотрудников.

Этот феномен нашел отражение и в художественном советском творчестве, где ученые стремятся совершить открытия, даже рискуя жизнью.

«Когда-нибудь люди скажут нам „спасибо“».

Это цитата из фильма «Девять дней одного года», который стал ярким примером этого феномена. Примечательно, что в некоторых эпизодах ленты результаты научной деятельности подвергаются моральной оценке, ставятся под вопрос из-за их потенциального негативного влияния на общество: в разговорах ученых между собой, с семьей рассуждают, хорошо это или плохо, стоит ли результат жертв, следует ли делать открытия. И эти разговоры завершаются доводами о необходимости развития, страсти к изобретениям: «Мысль остановить нельзя».

Дружественная, почти семейная атмосфера научных институтов, появление и развитие академических городков придавали технооптимизму человеческое измерение с чувственным желанием создавать, творить. И хотя государственное финансирование создавало стабильные условия для инженерной интеллигенции, характерная для этого сообщества инженерная культура предполагала определенную свободу творчества — в первую очередь, от господствующей идеологии.

В результате предпринимались отдельные попытки сформировать представление о «правильном» пути общественного развития, выстроенном на рациональной логике.

Эта технократическая позиция рассматривала общество и социальные процессы как моделируемые, поддающиеся изменениям благодаря тщательно просчитываемым действиям. Социогуманитарное знание развивалось в строгих идеологических рамках, поэтому не могло предоставить достаточной экспертизы об устройстве общества.

Как технооптимизм повлиял на современную Россию

В современной России такой технооптимистический — или технократический — подход остается актуальным, особенно с учетом фокуса на высокие технологии и развитием цифровой экономики (на эту программу государство потратит 1,267 трлн рублей до 2024 года).

В сегодняшних государственных программах развития России не учитывается общество с его социальными проблемами — есть только необходимые цифровые компетенции и новая система образования с фокусом на программистов и технологии.

Например, в команде «лидеров, которые делают цифровую экономику» за кадры и образование отвечает IT-предприниматель, а не специалист в области образования и подготовки кадров. Если изучить состав основных команд и центров компетенций, станет ясно, что социогуманитарная экспертиза по-прежнему остается за рамками принятия политических решений.

Как технооптимизм влияет на наше мышление

Надо понимать, что технооптимизм находит отражение на многих уровнях сразу: осваиваясь и закрепляясь на государственном уровне принятия решений и официального дискурса, он передается в системе образования, воспроизводится на рабочих местах, становится общим местом и разделяемым всеми людьми повседневным знанием — и наконец, способствует формированию крепких культурных убеждений, которые перестают ставиться под вопрос.

“We are the Gods now” — огненная утопически технооптимистичная речь Джейсона Сильва о мощи технологий

Мы всё еще верим, что технологии смогут решить все проблемы: повсеместный интернет преодолеет социальное неравенство, компьютеризация школьных классов улучшит качество образования, IT-стартапы решат сырьевой кризис, цифровая грамотность избавит от домашнего насилия, а программисты обеспечат условия для импортозамещения.

Технооптимизм, при всей своей яркости картинки правильного общества и человека будущего, остается очень ограниченным взглядом. Он грубо упрощает сложность социального устройства мира, в котором эти самые технологии приживаются и социализируются.

Технооптимизм забывает о том, что технологии не существуют в вакууме, а являются прямым отражением человеческий действий — хороших и плохих в равной мере. Поэтому даже искусственный интеллект не будет хуже или лучше человека, а будет отражать то общество, с которым столкнется.

Что еще почитать о технооптимизме

Что такое технопессимизм

Противоположный по своим взглядам технопессимизм считает, что большинство современных технологий, на которые радужно смотрят оптимисты, могут повредить, а в худшем случае и уничтожить нас. Это отношение людей к технологиям, представленное в негативном спектре: от недоверия до острой критики их необходимости и даже луддизме, то есть намеренном и целенаправленном уничтожении технологий.

Истоки технопессимизма нужно искать в промышленных революциях конца XVIII и XIX веков, которые породили новые возможности для роста экономики, развития транспорта и инфраструктуры, появления больших городов.

Тогда на заводы были пригнаны сотни тысяч работников, чья жизнь превратилась в обслуживание линий производства, а всеобщая рационализация мира сделала бюрократов и экспертов главными источниками власти. Такое положение постоянно критиковали.

В какие-то моменты критика становилась особенно сильной. Например, в 1930–40-е технологию (и, чуть шире, индустриальную систему) много критикуют знаменитые философы М. Хайдеггер, К. Ясперс, Т. Адорно, М. Хоркхаймер, В. Беньямин.

В частности, Хайдеггер говорит о технологии как о средстве объективации мира и человека: река Рейн, например, которая была в течение многих веков объектом воспевания у поэтов, оказывается превращена в служанку гидроэлектростанции.

В. Беньямин в своем знаменитом эссе «Произведение искусства в эпоху технической воспроизводимости» пишет об утрате целостности и интерактивности произведений искусства: например, кино делает возможным создание чистого образа, который проходит через множество фильтров и потому теряет всё свое очарование аутентичности и непосредственности, какие были в театре. Эти мыслители показывают, что логика технологии (оптимизация, рациональность, планирование) становятся доминирующими для всех сфер человеческой деятельности.

Что такое технократия и за что ее критикуют

Наибольшего расцвета технопессимизм достиг в 1960-е на волне рождения контркультур. Здесь технопессимизм принял форму критики технократии.

Технократия — это способ решать любые, в том числе социальные, проблемы с помощью технологий и рациональной формы планирования.

Например, многие исследователи города называют современные идеи умных городов технократическими. Роб Китчин считает, что обилие данных ошеломляет городских менеджеров и заставляет их думать, что все процессы в городе можно измерить и оптимизировать. А на все вопросы о неэтичности того или иного решения можно отвечать: «Это не я, так говорят данные!»

Ричард Сеннет, один главных городских социологических классиков, в свою очередь, замечает, что новые проекты городов типа арабского Масдара или южнокорейского Сонгдо ужасны, поскольку предлагают своим жителям не самим создавать для себя возможности, а только выбирать те, которые им предлагаются: к какому врачу обратиться, в какую школу записать ребенка, куда сходить за покупками — всё это определяется тщательными и скрупулезными расчетами в больших дата-центрах компаний Cisco и IBM.

В технократии главные люди — технические эксперты. Если раньше управление доверялось «богоизбранным» королям и императорам с чудотворными силами, церкви или феодалам, то XX век стал веком экспертов, которые управляют любыми процессами и вещами (экономикой, политикой, культурой) с помощью рациональных и эффективных средств.

Глашатай контркультуры Теодор Роззак полагает, что такое положение не устроило «детей цветов» 1960-х, которые не принимали ценности своих родителей: организации, четкого управления, прогресса. Наоборот, мода на восточные религии, развитие духовности, индивидуализм, экспериментирование с культурными формами и определенная доля критической позиции — вот что отличало новое поколение.

Эти ценности подростков никак не вязались с проповедями в СМИ о наступлении прогрессивного технологического будущего. Кроме всего прочего, это технократическое будущее было еще напрочь милитаристским. Так, Роззак пишет:

«Молодежь начала шестидесятых приезжала в кампусы с убеждением, что высшее образование сродни самовыражению, свободному выбору и радикальным возможностям. Однако вскоре они понимали, что крупные университеты служат совсем иному политическому порядку: связанные контрактами с милитаристами в правительстве, они процветали на ядерной физике».

В итоге технопессимизм этого времени перерос не только в сомнение в том, что технологии могут сделать жизнь каждого человека лучше, — он дал начало социальным движениям против негативных эффектов научного знания и технологий на общество. Появились движения за ядерное разоружение, за права животных, в защиту окружающей среды, а более консервативные слои населения разделяли технопессимизм радикальных групп. Например, известный кантри-певец того времени Вуди Гатри написал песню «Маленькая вещь, которую не может сделать атом», в которой пелось, что технологический прогресс не заменит «простых человеческих ценностей»: заботливого отношения, любви и принадлежности к сообществу. Интересно, что эта песня была переведена на русский и в 1970-е и исполнялась в СССР Аллой Пугачевой. Так технопессимизм в Советском Союзе, стране победившего технооптимизма, приходил с неожиданных сторон.

Как технопессимизм превратился в технодепрессию

В 1980-е годы открытый и политически насыщенный технопессимизм 60-х сменяется, как отмечает историк технологии Лео Маркс, ощущением депрессии и безвыходности. Всё труднее оказывалось противопоставить всё более совершенным и сложным технологиям что-то радикально-альтернативное.

Это хорошо видно на примере промышленных катастроф, таких как авария на энергоблоке АЭС Три-Майл-Айленд, взрыв газа на заводе пестицидов в индийском Бхопале в 1984 году, Чернобыльская авария в 1986 году. Снятый в 2014 году Рави Кумаром фильм, основанный на реальных событий в Бхопале, отлично показывает, что трагедия произошла не из-за чьего-то злого умысла. Завод пестицидов был необходим для экономики Индии и удобен для глобального капитализма, поэтому его строительство было почти вынужденным, хотя и очень опасным.

В итоге нет никакой альтернативы, кроме как существовать бок о бок с очень сложными технологическими системами, несущими огромные риски. Это осознание и вызывало депрессию и технопессимизм в тот период.

Свою лепту вносят в эти настроения и новые виды технологий. Появившиеся в США и Европе персональные и рабочие компьютеры вызывали огромный страх и тревогу для пользователей, которые подогревались многочисленными публикациями в СМИ. Биотехнологии, как пишет Донна Харауэй в 1985 году в своем знаменитом «Манифесте киборгов», стирают все границы между человеческим и животным:

«…человеческие детеныши с сердцами бабуинов вызывают всенародную этическую озабоченность — у борцов за права животных по крайней мере такую же, как и у блюстителей чистоты человечества».

Не меньшие страхи вызывают нанотехнологии, развитие искусственного интеллекта и — уже позднее, в 1990-х, — киберпространства. Именно в это время появляются фильмы и книги, которые начинают рисовать образ технологий в темных тонах: можно вспомнить «Бегущего по лезвию», «Чужих», «Бегущего человека», «Вспомнить все», «Дюну» и даже советскую «Кин-дза-дзу!». Особого внимания заслуживают «биологические хорроры» Дэвида Кроненберга, не лишенные отсылок к современным ему биотехнологиям.

Кто такие «бойцы любовного сопротивления»

В преддверии появления цифровых технологий, в начале 1990-х, американский медиатеоретик Нил Постман публикует книгу «Технополия», где говорит о том, что современный ему мир живет в ситуации тоталитарной технократии, когда все формы человеческой деятельности подчинены логике технологии (то есть автономности, порядку, четкой организованности, обратной связи). Здесь можно найти отражение контркультурных 1960-х, которые противопоставили технократическому миру духовные практики, креативность, свободу от сексуальных и иных ограничений.

Сам Постман считал, что компьютер — это самое яркое выражение тоталитарности современных технологий, поскольку он опосредует всё, в том числе творческие и социальные потребности человека.

Постман говорит о том, что необходимо стать the loving resistance fighter — бойцом сопротивления всего «человеческого» (самовыражения, веры, демократии, свободы, межперсональных отношений) против всего «технологического» (науки, статистики, эффективности, наносной новизны).

Всё это каждый должен делать на индивидуальном уровне. А на уровне общества нужно преподавать в школе больше гуманитарных дисциплин, особенно историю, литературу и филологию. Тем самым меньше людей будут верить в объективность, полезность и единственную верность технологического прогресса.

Технопессимизм в современной России

В современной России технопессимизм можно встретить у художников, писателей, музееведов, философов. Например, в санкт-петербургском музее современного искусства «Эрарта» рядом с некоторыми произведениями можно встретить подобные описания: «Московский художник Сергей Лакотко создал свою работу „Game over“ в назидание геймерам, блоггерам и пользователям социальных сетей, аудитория которых угрожающе разрастается… виртуальная реальность традиционной является чем-то враждебным». Или другой пример:

«Герой <автопортрета Николая> Сажина олицетворяет собой беспомощность современного человека, порабощенного плодами научно-технического прогресса… вполне вероятно, что в недалеком будущем от пяти нынешних чувств у человека не останется ни одного — они будут заменены на электронные приспособления и атрофируются за ненадобностью… пугает, что реальностью для человека тогда станет то, что ему предложат считать таковыми производители всевозможных гаджетов».

Всё это — отголосок большой романтической традиции критики технологий, которой, несмотря на общий технооптимизм в СССР и России, следовали художники, писатели и многие гуманитарно образованные люди. Технологии противопоставляются ценностям самовыражения, индивидуализма, творчества, веры. С другой стороны, технопессимизм находит себя и в более консервативных слоях населения, которые мало знакомы с миром технологий и их развитием.

Есть у этой позиции и свои плюсы: технопессимисты стараются показать, что принципы, заложенные в современных технологиях (например, эффективность, рациональность, организованность, системность), не являются единственно верными.

Однако резко негативная настроенность и неграмотность населения в отношении технологий приводит к их неприятию, узкому рынку потребления технологических новинок и к тому, что люди не поддерживают траты на научные разработки.

Что еще почитать о технопессимизме

Научпоп

Евгений Морозов — американский журналист белорусского происхождения, пишет для New York Times, Financial Times, Economist, Wall Street Journal, London Review of Books.

Научнепоп

Что такое технореализм

Третий путь оказывается самым сложным. Вспомните гениального изобретателя-инженера Тони Старка из киноверсии вселенной Marvel, который никак не мог решить, чем же являются его изобретения. Созданный им Железный человек был хорош как символ спасения людей, но в чужих руках быстро становился орудием массового убийства. На протяжении множества серий герой так и не мог определиться до конца, кто он — оптимист или пессимист в отношении технологий. Так же как и не решил, насколько его творения — благо или зло для человечества. Ему не удалось найти третий вариант, оценив плюсы и минусы крайних позиций. Метания между этими лагерями мы видим не только в кино, но и в реальной жизни.

Технореализм ищет баланс этих позиций, принимает аргументы спорящих сторон и нащупывает лучший способ их объединения, который позволил бы нам трезво посмотреть на взаимодействие технологий и общества.

Технореализм опирается на многосторонний анализ той роли, которую конкретная технология играет в обществе, фокусируется на последствиях отдельных технологических явлений и расшифровывает их влияние на наше будущее. Этот взгляд основан на критической оценке того, насколько отдельно взятый технический артефакт — самый обычный и неприметный или передовой — помогает или мешает человечеству в его попытках улучшить жизнь человека, сообществ и мира в целом.

Что такое «Манифест технореализма»

В 1998 году группа американских техновизионеров собралась вместе и подготовила «Манифест технореализма». Авторами стали Эндрю Шапиро, Дэвид Шенк и Стивен Джонсон. Манифест вызвал всплеск интереса в американских СМИ: о технореализме написали The New York Times, Washington Post, USA Today и Guardian. Первоначальный текст был сфокусирован на реалистическом понимании места и роли IT-технологий в современном обществе, но многие его положения перенесли затем в дискуссии о био- и нанотехнологиях.

Первый и основной принцип этого манифеста гласит, что техника не нейтральная и не существует вне исторического и культурного контекста.

Новые технологии не появляются сами по себе, они не сыпятся непрерывным потоком из репликаторов, как это представили создатели «Звездных войн». Артефакты создают вполне реальные люди (которых мы называем инженерами), живущие в определенном социальном контексте. Их создания — не безликие и внеконтекстные, а значит, будет огромной ошибкой считать, что в них нет культуры, политики или экономики того общества, в которых их создавали.

Взять, например, банальные радиаторы тепла, которые есть в каждой российской квартире. В одной из глав книги исследователей из Европейского университета «Инфраструктура свободы» рассказывается, как эти железные конструкции, о которых мы вспоминаем, только когда они ломаются и не греют нас, продолжают поддерживать идеи совместного коммунального проживания коллектива — своеобразного насильного общежития советских, а теперь и российских граждан. От этой совместной железной коммуналки не так и просто избавиться, даже когда общество с завтрашнего дня решает начать жить при капитализме. Сложно было перекрыть подачу к административному зданию, не отключив при этом половину района от трубы. Сложно было просто так перерезать трубу злостному неплательщику за коммуналку, не лишив тепла весь остальной подъезд. Сложно было поменять эту трубу у себя и надеяться, что ты-то теперь точно будешь с теплом, не заставив соседей сверху и снизу твоей квартиры сделать тоже самое.

Почему технологии нужно очищать от социальных предрассудков

Новые технологии так же чувствительны к вопросам равенства и справедливости. Это показал, например, известный философ и историк технологий Лэнгдон Виннер на примере мостов, соединяющих районы Нью-Йорка и Лонг-Айленда друг с другом. Строительством мостов руководил «главный строитель Нью-Йорка» Роберт Мозес, который верил в личные автомобили, а не общественный транспорт. И это, как демонстрирует Виннер, привело к появлению в городе сооружений такой высоты, под которой не могли проехать городские автобусы. Если вспомнить, что автомобили в то время могли позволить себе представители среднего класса и элита, а на автобусах ездили бедные американцы, мосты оказались совсем не нейтральными конструкциями. Они давали дорогу одним и не пускали других; позволяли наслаждаться прекрасными парками и белоснежными пляжами элите и препятствовали появлению там бедных.

Технореализм поэтому призывает нас обращать внимание как на процесс дизайна и разработки технологий, так и на способ их использования в повседневности.

Технологии — не зло и не благо, а неотъемлемый элемент нашей жизни, который напрямую влияет на наши решения и способы действия, создавая то, что экономисты назвали бы path dependence — путем зависимости от предшествующих решений.

Суть этой концепции в том, что при выборе любого последующего решения человек или общество всегда сталкиваются с решениями, принятыми в прошлом, или событиями прошлого, которые сложно обойти на новом витке принятия решений.

Примеров путей зависимости технологий — множество. QWERTY — наиболее популярная раскладка клавиатуры ПК и планшетов. Она была придумана больше столетия назад, в 1873 году, для пишущих машинок компании Шоулза и Глиддена. Долгое время машинка была единственной, представленной на рынке, и к ее раскладке букв успели привыкнуть покупатели. Сегодня такая раскладка — анахронизм. Ей без особых усилий можно придумать десятки альтернатив, которые будут ничем не хуже. Но она, не самая удобная, продолжает использоваться большей частью человечества, оказываясь тем самым путем зависимости, с которого так сложно сойти.

Как демократизировать использование технологий

Другие принципы манифеста технореализма гласят, что раз технологии нельзя назвать нейтральными, за ними должен кто-то следить и отвечать за их действия. Технологии делают не только то, для чего их придумали инженеры, но и то, что они неожиданно начинают делать сами по себе, — как в истории с мостами Мозеса: например, разъединять людей и указывать каждому на его место в обществе. В таком случае решения о дизайне, форме и использованию технологий должны принимать не только их создатели.

Вопросы о том, для чего, кого и как делается та или иная железная или любая другая конструкция, должны критически рассматриваться в публичных обсуждениях.

В некоторых же случаях новых технологий — как, например, клонирование — эти же вопросы необходимо обсуждать всем обществом и, может быть, даже поставить на всеобщее голосование.

С такой позиции вера технооптимистов, что технологическая сфера — это особая нейтральная зона, отделенная от всей остальной планеты, свободная от какого-либо вмешательства, как минимум наивна, а чаще всего и опасна.

Если общество не будет иметь право голоса на определение будущего новых технологий, ценности и установки в них начинают вписывать большие корпорации, сужая сферу публичности вокруг новых технологий до узкого круга лиц.

В конце манифеста создатели технореализма призывают каждого из нас стать ответственным гражданином в мире постоянно меняющихся технологий. Научиться понимать их природу, видеть критически их хорошие и плохие последствия и инициировать дискуссии по ходу их дизайна и разработки. Как заявляется в манифесте:

«Технические устройства влияют на нашу жизнь не меньше, чем законы».

Как мы помним, от того, что мы не знаем законов, они не перестают существовать и управлять нами. То же самое можно сказать и по поводу технологий: если они существуют и влияют на нас каждый день и час, на них, как и законы, необходимо распространить демократию и публичность обсуждения.

Почему технореализм не так популярен

Технореализм, несмотря на кажущуюся логичность и простоту, не так и легок в использовании на практике. Не скатиться в один из полюсов взглядов на технологии — оптимизм или пессимизм — сложная задача, оказавшаяся по силам лишь роботу-андроиду. Такая же сложная, как и найти практикующего технореалиста в России.

Ближе всех к этой позиции оказываются социальные исследователи технологий, такие как Лэнгдом Виннер или другой историк технологий, Томас Хьюз, известный своим исследованием истории электрификации в западных обществах. Виннер, Хьюз и многие другие исследователи смотрят на конкретный физический артефакт и его переплетение с социальным если не отстраненно, то хотя бы с рефлексией собственных ценностей: через призму исторических, политических, экономических, культурных факторов — стремясь как можно более полно очертить контекст вокруг конкретной технологии и ее возможных оптимистических или пессимистических последствий.

Именно этой позиции сегодня не хватает в российском публичном пространстве.

Что еще почитать о технореализме