klub_ofir (original) (raw)

На прошедшем заседании мы поднимали вопрос о мнении Пенроуза, считавшего что для компьютеров принципиально невозможны некоторые операции человеческого мозга.Ниже я привожу письмо от физика Александра Панова, разъясняющего это мнение Пенроуза:

Константин!
>
> Я, наверное, не очень хорошо поступил, оставив Вас наедине с книгой
> Пенроуза, так как книга на самом деле исключительно сложна для
> понимания - особенно как раз начиная с раздела 2.5 и дальше. Хотя
> формально она является популярной, в действительности она требует для
> понимания математической культуры не меньше, чем большинство книг по
> квантовой теории поля. Поэтому я сейчас очень коротко и своими словами
> объясню, что такое теорема Пенроуза.
>
> Сначала я напомню, что такое первая теорема Гёделя о неполноте, так
> как теорема Пенроуза, фактически, есть частный случай теоремы Гёделя.
> Первая теорема Гёделя о неполноте говорит о том, что если некоторая
> аксиоматическая система достаточно сильна, чтобы содержать в себе
> формальную арифметику и при этом непротиворечива, то средствами этой
> системы можно сформулировать утверждение, которое, с одной стороны,
> является истинным, но, с другой стороны, истинность его нельзя
> доказать средствами этой системы.
>
> Теперь Теорема Пенроуза. Она утверждает невозможность представить
> методы мышления человека, используя любые вычислительные методы,
> которые могут быть реализованы компьютером (конечным автоматом).
> Доказательство проводится методом "от противного". Я описываю смысл
> доказательства, но не то, как оно фактически проводится - об этом
> можно прочитать в книге Пенроуза.
>
> Предположим, имеется компьютерный алгоритм, или сколь угодно сложная
> ВЫЧИСЛИТЕЛЬНАЯ система любой природы, которая представляет все
> возможные методы мышления человека - Искусственный Ителлект, не менее
> слабый, чем интеллект человека. Будучи конечной вычислительной
> системой, ее функционирование может быть описано конечным набором
> правил - алгоритмом. Этот алгоритм есть нечто вполне аналогичное
> конечному набору аксиом, о которых говорится в теореме Гёделя. Тогда,
> по теореме Гёделя, существует истинное утверждение, истинность
> которого не может быть доказана в рамках этой системы. И
> действительно, Пенроуз, используя так называемый диагональный метод
> Кантора, точно так же, как и в доказательстве теоремы Гёделя, строит
> это утверждение в явном виде. По структуре этого утверждения
> совершенно очевидно, что оно истинное, но истинность его не может быть
> получена рассматриваемой системой ИИ. Мы пришли к противоречию:
> предположили, что данная система ИИ может все, что можем мы, и
> немедленно доказали существование утверждения, истинность которого
> доступна нам, но недоступна системе ИИ. Т.е., если система ИИ может
> все, что можем мы, то она не может чего-то, что можем мы. Это
> противоречие. Следовательно системы ИИ, реализованной на любой
> вычислительной основе, и которая может воспроизвести все наши
> возможности, не существует.
>
> Пенроуз представляет этот результат в следующих словах: Мозг реализует
> невычислительную активность. Вторая половина книги посвящена тому,
> какого именно рода может быть эта активность.
>
> В действительности в доказательстве Пенроуза есть много тонких
> моментов. И Пенроуз детальнейшим образом разбирает все возражения,
> которые он когда-либо слышал против этого доказательства. Наиболее
> тривиальным возражением является то, что наш ИИ на самом деле является
> открытой системой, обменивающейся информацией с внешней средой, есть
> множество более тонких возражений - все это им рассмотрено. Этому
> посвящен весь остаток второй главы и третья глава книги, и это самые
> сложные места во всей книге. Помимо тех возражений, что рассмотрел сам
> Пенроуз (и дал внятный ответ), я нигде и никогда не встретил ни одного
> внятного или нового возражения. В большинстве случаев то, что мне
> приходилось встречать, отражает непонимание того (или незнание), что
> уже было сказано Пенроузом. У меня есть пара собственных возражений
> (точнее - уточнений), но они не могут изменить сути дела. По одному из
> таких уточнений я как раз должен написать статью - дедлайн в конце
> ноября.