k_frumkin (original) (raw)
В "Новом мире" вышла моя статья по этике искуственного интеллекта. Ее главный вывод заключается в том, что что в большинстве случаев так называемые этические проблемы ИИ коренятся не в компьютере, а в делах и решениях людей, которые усиливает, обслуживает, а иногда даже консервирует искусственный интеллект. Но, конечно, внедрение ИИ в ситуации принятия решений требует особого анализа, чтобы выявить, где в недостатках техники виновны люди, а где мы имеем дело с техническим сбоем.
Ссылка: https://nm1925.ru/articles/2024/12-2024/nuzhna-li-etika-iskusstvennomu-intellektu/
Декан Экономфака МГУ А.А. Аузан, в своей рождественской лекции в МИСИС, разъясняя смысл международного разделения труда сказал: у вас лучше всего получается то, что вы любите делать.
Нет, к России это не вполне относится. Еще мы часто очень любим делать то, что у нас не получается.
Вспомните, как мы любим футбол.
Вспомните как мы любим автомобилестроение и авиастроение.
С советского времени осталась эта глухая ностальгия/гордость по поводу научно-индустриальных достижений. Множество инженеров, ученых, и просто публицистов и просто доброхотов, старых которые помнят советское время, и молодых, которые читали о нем в книгах, вспоминая гигантские заводы и первый спутник, хотят проектировать и производить ужасно сложные и потрясающие по эффекту и масштабу железные штуки, но при условии чтобы никто не смел заикаться про их качество, цену, надежность, рыночную востребованность и возможность сервисного сопровождения. Желательно что-то военное или космическое, чтобы никакого рынка и рядом не было.
Когда в начале 1870-х годов вышел роман Достоевского «Бесы», он вызвал довольно негативную реакцию критики, и претензии, которые к нему предъявлялись, были, в целом, совершенно справедливы.
Писали, что:
- роман совершенно неправдоподобен, и не может ни в какой степени считаться репрезентативным по отношению к состоянию русского общества или русской молодежи;
- что теории, которые высказывают герои романа, одновременно и нелепы, и неактуальны;
- что у героев романа практически нет индивидуальных характеров - что особенно странно для писателя, завоевавшего репутацию великого психолога;
- что облик главных героев не соответствует их ролям: неприятный Верховенский не может быть лидером, а у Ставрогина вовсе нет якобы имеющегося у него обаяния;
- что присутствующие в романе сатиры на Тургенева и Грановского столь недостойны, что дискредитируют скорее их автора, чем объекты;
Но прошло несколько десятилетий – и к роману стали относиться гораздо лучше. И это изменение отношения нельзя объяснить изменением отношения к революционерам – другие «антинигилистические» романы, такие как «Взбаломученое море» Писемского или «Некуда» Лескова это не спасло.
Предновогоднее. Культура дарения подарков еще держится, но выбор подарков становится все более трудной задачей. Как я полагаю, главная проблема заключается в том, что благосостояние жителя современного мегаполиса все меньше строится на обладании вещами и все больше – на пользовании услугами. Отсюда рост популярности денежных подарков и как некий компромисс – подарочных сертификатов, которые выполняют роль странной промежуточной, переходной формы между вещами и деньгами. Немаловажно, что современный горожанин живет как правило в довольно лимитированном жилом пространстве, загромождение которого вещами является проблемой. Умберто Эко, на которого сыпались подарки в виде книг, говорил, что к каждой книге надо прилагать денежную сумму, чтобы он мог арендовать дополнительные квадратные метры под личную библиотеку. Еще важным дополнительным фактором является то, что предметы о которых житель современного мегаполиса действительно мечтает (в фантазии или копя деньги) как правило столь дороги, что в обычном случае подарком быть не могут (автомобили, недвижимость, навороченные планшеты и телефоны). С другой стороны, из нашего быта практически ушли те бытовые мелочи, которые когда-то наряду с функционалом могли играть роль предметов роскоши – дорогие часы, перьевые ручки с золотым пером, чернильные приборы из малахита, запонки, антикварные грампластинки, навороченные микрокалькуляторы. Остатком и рецидивом этого бытового слоя остались дизайнерские блокноты и подарочные издания книг, все более вопиющие о своей бессмысленности/винтажности на фоне вымирания бумажных носителей информации. Списки подарков – хорошее изобретение, но, оно, собственно перекладывает трудность выбора на одариваемого.
От Аристотеля ведет историю понятие «трагической вины», предполагающее, что герой трагедии в каком-то смысле виноват в своих несчастиях, хотя и стал виноватым помимо своей воли. В контексте античности истоком трагической вины обычно является ошибка - Эдип не знал, что убивает собственного отца, Геракл не знал, что убивает собственных детей. Наше время дало прекрасную альтернативную версию трагической вины: принадлежность к преступному сообществу.
Вторая мировая война дала тему принадлежности к преступному государству - и началось: отвечает ли рядовой немец за нацизм? – и так далее.
Думается, любого (почти любого) любителя научной фантастики должен обрадовать выход на русском языке очередной книги польского фантаста Яцека Дукая – высокоинтеллектуального писателя, чей талант проявляется в первую очередь в особой изобретательности при конструировании сеттингов, «вселенных» своих произведений; здесь Дукай демонстрирует и недюжинный ум, и готовность воспринять важнейшие идеи из научно-философских сфер, так что его можно считать достойным претендентом на «престол» Станислава Лема – вполне «лемовским», в частности был его роман «Идеальное несовершенство», в малейших подробностях описывавший мир различных форм киборгизации и трансгуманистического преобразования человеческой природы.
Вышедшая в этом году на русском языке книга «Старость аксолотля» - сборник довольно старых повестей писателя, очень разных по тематике, но одинаково «дукаевских», и, в то же время одинаково «лемовских», в том смысле, что в центре каждой повести находится сконструированная проблема, идея, а сюжет нужен скорее для демонстрации разных граней и последствий исходного допущения.
Дальше будут легкие спойлеры.
Есть три серьезных пьесы, метафорически исследующих генезис фашизма. Одна из них (начинаю не в хронологическом, а в логическом порядке) – пьеса Ионеско «Носороги». То, что это метафора происхождения фашизма настаивал сам автор. В этой сюрреалистической пьесе жители города один за другим превращаются в носорогов, и если в этом превращении есть соблазн – то это соблазн силы, здоровья и отбрасывания моральных норм. Сам Ионеско в своих мемуарах писал, что идея пьесы родилась тогда, когда его знакомые, в том числе те, кого он считал близкими, присоединялись к фашистскому движению «Железная гвардия». Таким образом, концепция фашизма по Ионеско – это, во-первых, всеобщее моральное падение (позже Иосиф Бродский будет говорить, что коммунизм – это непоправимая антропологическая катастрофа), и, во-вторых, идеологически это падение имеет анархо-индивидуалистический характер, люди хотят быть сильными аморальными эгоистами. Представляется, что фашизм и нацизм были больше озабочены «правами» не индивидуумов, а народов, наций, государств, но почему-то такое представление о фашизме как об идеологии анархистов-хулиганов распространилось, оно, например, видно в старых советских фильмах; в фильме «Убийство на улице Данте» (1956, реж. Михаил Ромм) на столе у коллаборциониста лежит книга «Как стать самым сильным». В этом случае древнейшим идеологом фашизма был Калликл – персонаж диалога Платона «Горгий», который подробно и убедительно доказывает право сильных на господство в государстве и на служение своим необузданным желаниям, приводя в качестве примера то Геракла, то завоевательные походы персов – то есть он оказывается еще и предшественником литературного Раскольникова. В сущности, это попытка вывести фашизм из психологии штурмовика, чернорубашечника, кронштадтского матроса-анархиста образца 1917 года - то есть участника неформальных, молодежных военнизированных объединений еще до прихода их партий к власти – впрочем, психологии мифологизированной, воображаемой, и, к тому же, в случае Ионеско, распространенной на все население.
Просмотрел старую, 2020 года и кажется тогда прогремевшую лекцию Виктора Вахштайна (СМИ- иностранный агент) «Наука как религия», в которой он сравнивает любителей популяризации науки с религиозной сектой и задумался о самом этом традиционном полемическом приеме, когда сравнение с религией происходит «в плохом смысле». Этот прием всегда имеет привкус недобросовестности, поскольку если вы противник воинствующего просветительского атеизма-сциентизма, то почему для вас сравнение с религией является негативным? Всякий раз, когда священник говорит «атеизм – это тоже вера», хочется спросить, «а это хорошо или плохо? Может быть хорошо? Может быть это просто «более лучшая» вера?»
После долгих лет размышлений, я понял, в чем моя главная претензия к роману Достоевского «Преступление и наказание». Это философский роман, но главный мыслитель в нем - Раскольников, однако автор его мировоззрению не сочувствует, автор является его противником и, соответственно, изображает его так, чтобы это мировоззрение было заведомо уязвимо. Таким образом, роман является философски-хромым в том смысле, что в нем сколько-то развернуто не излагаются мысли, за которые автор бы нес ответственность - в нем лишь есть карикатура на опровергаемого противника. Та же ситуация в «Бесах», но «Бесы» по характеру текста - откровенный памфлет, и сам Достоевский называл его памфлетом, между тем как «звериная серьезность» в изображении Раскольникова маскирует сатирическую направленность, и маскирует именно что мнимым, имитированным сочувствием к Раскольникову. Такое имитированное сочувствие – может быть литературное открытие Достоевского. Оно очень сильно отличается от сочувствия успешным негодяям - по принципу «Моих грехов подсчет оставьте до поры, вы оцените красоту игры». Это сочувствие скорее сродни медикализации преступления - да, таких надо не казнить, а лечить. «Но вечно жалок мне изгнанник, как сумасшедший, как больной». Но несмотря на маскировку, роман несет на себе печать нарративной ущербности, характерной для сатирических произведений (например, для Салтыкова-Щедрина) – Раскольников не является «настоящим», полноценным главным героем, поскольку не является ни альтер-эго автора, ни предложением к отождествлению для читателя.
События, накрывшие нас после 2020 года (Тимур Шаов сказал: «Ковид был разминкой») показали, как ограничены наши ресурсы эмоциональной реакции. Хотя головой, рассудком мы понимаем как катастрофично то, что нас окружает, хотя это воплощается во вполне конкретные смерти, хотя мы знаем о конкретных опасностях, грозящих нашей жизни и благополучию, хотя разрушается привычный быт – удаленка, исчезновение товаров и доступа к курортам и сервисам – но ресурса, чтобы чувствовать ужас или сочувствие нет, это остается скорее на уровне абстрактного понимания – в том числе абстрактного понимания того какие эмоции мы должны испытывать и как-бы испытываем в этой ситуации.
Наверное, аналогичные размышления заставили Владислава Ходасевича в 1919 году написать: Душа поет, поет, поет, В душе такой расцвет, Какому, верно, в этот год И оправданья нет. В церквах — гроба, по всей стране И мор, и меч, и глад, — Но словно солнце есть во мне: Так я чему-то рад.