И кот ученый свои мне сказки говорил

[egovoru]

Некоторые трактовки сознания все же вызывают у меня полное недоумение. Скажем, панпсихизм. Если, по Чалмерсу, атомы обладают сознанием, то почему же останавливаться на них? Следует также признать, что сознательны и протоны, и кварки, и суперструны. Единственное, что у них есть общего – то, что они существуют (отвлекаясь от проблематичности последних). А значит, обладать сознанием – это и есть существовать (прямо по Декарту :) Но ведь обозначать одно и то же свойство объекта двумя разными терминами – плохая логика?

Или вот идея Пенроуза-Хамероффа, что сознание основано на квантовых процессах в тубулиновых полимерах. Ее авторы вроде бы связывают сознание с нейронами, но почему-то избирают в качестве его носителя вовсе не специфические для нейронов структуры, а те, что обязательно присутствуют не только во всех клетках нашего тела, но и вообще во всех эукариотических, то есть, ядерных, клетках. Причем, тубулины из разных организмов настолько похожи, что распознаются одними и теми же антителами. Из чего следует, что мы должны назвать сознанием нечто, что есть у амебы (у которой тубулины есть), но чего нет у бактерии (у которой их нет). Ваши предложения?

«Танец амеб», рисунок Timothy Forry
Художник явно скрестил амеб с инфузориями,
потому что они у него покрыты ресничками :)

Comments

[egovoru.livejournal.com]

"Специфические для нейронов структуры" ничего, кроме алгоритмов (по его мнению) не дают"

Мне кажется, он просто попал в плен ныне распространенному представлению о нейронах, как о транзисторах. Обычная логика поисков структурно-функциональных связей такова. Если мы видим, что какая-то функция (в данном случае, сознание) присутствует только у каких-то животных (в данном случае, людей; для простоты отвлечемся от тех ростков сознания, которое проявляют и обезьяны), то логично предположить, что она обеспечивается структурой, которая только у людей и имеется. И структура эта - сложный человеческий мозг. Отдельный нейрон никакого сознания не проявляет; судя по всему, сознание - результат сложного взаимодействия биллионов нейронов. Принимая это во внимание, попытки приписать сознание индивидуальным белкам выглядят достаточно нелепо. Не говоря уже о том, что тубулины - суперконсервативные белки; они совершенно одинаковые даже у тех организмов, у которых нет не только мозга, но и нейронов - у одноклеточных амеб, например. Если квантовые процессы в тубулинах лежат в основе сознания, то почему его нет у амебы, у которой тубулины есть?

Кроме того, весь его ход рассуждений, приведший к выводу о том, что сознание не представляет собой алгоритм, не кажется мне убедительным. Утверждение, что математики могут доказывать истинность утверждений, которая по Геделю не может быть доказана, просто-напросто означает, что математики (как и все мы) используют иные критерии истины, а не те, что предписаны логикой. Насколько я понимаю, и с физической точки зрения его "объективная редукция" волновой функции отнюдь не была доказана.

[yoginka.livejournal.com]

Пенроуз осознает, что все, что он пишет о несводимости сознания к алгоритмам, он не доказывает в строгом математическом смысле, и не раз делает соответствующие оговорки. Но он в это верит. Что же касается объективной редукции, то он предложил экспериментальную проверку, которая давно уже делается, но статистика пока не накопилась, насколько я слышала. Кое-что можно почитать здесь:
https://en.wikipedia.org/wiki/Penrose_interpretation#Physical_consequences

[egovoru.livejournal.com]

"не доказывает в строгом математическом смысле"

Но это же надо не доказывать в математическом смысле, а проверять экспериментально. Причем, как я уже заметила выше, проверять надо не просто то, что явления, о которых он говорит, имеют место быть, но то, что они есть у человека, но не у шимпанзе. А принимая во внимание, что тубулины, в высшей степени схожие с человеческими (настолько, что даже антитела их не различают!) есть даже у амебы, вероятность того, что эта гипотеза пройдет проверку, кажется мне ничтожно малой.

То, что сам автор верит в свою гипотезу - это понятно, но стоит ли придавать значение этой его вере? Я понимаю, Пенроуз заработал себе очень серьезную репутацию - но ведь совсем в другой области, и его интуиция - это интуиция математика, стоит ли доверять ей в сугубо биологических вопросах?

Поскольку мне эта идея сразу показалась совершенно дикой, серьезно вникать в нее я не стала. Но сейчас, принимая во внимание Ваш к ней интерес, я решила почитать, что же о ней говорят специалисты-нейрофизиологи. Похоже, в Phys. Life Rev. в 2014 была опубликована целая серия статей дискуссионного порядка, посвященных этой проблеме. К сожалению, их нет в открытом доступе, но я попробую все же раздобыть их и ознакомиться. Но это займет какое-то время.

[yoginka.livejournal.com]

//Но это же надо не доказывать в математическом смысле, а проверять экспериментально. //
- Как можно проверить несводимость сознания к алгоритмам? Создать строго алгоритмический ИИ и потом тестом Тьюринга проверить? Но и это будет не очень убедительно, так как успешное прохождение теста Тьюринга в ограниченный промежуток времени не гарантирует, что в следующий момент ИИ не "проколется" на чем-нибудь.
//А принимая во внимание, что тубулины, в высшей степени схожие с человеческими (настолько, что даже антитела их не различают!) есть даже у амебы, //
- Это ничему не мешает. Ведь дело не в том, что в них предположительно происходит Orch_OR (она, если действительно существует, происходит абсолютно везде и всюду), а в том, что результат этой редукции в тубулинах потом используется нервными клетками, которые умеют это делать.
//То, что сам автор верит в свою гипотезу - это понятно, но стоит ли придавать значение этой его вере? //
- Это дело вкуса :) Я всего лишь указываю на то, что в его идее на самом деле все совершенно логично. Он чрезвычайно аккуратен, почти до занудства, делает все мыслимые оговорки на все случаи жизни.

[egovoru.livejournal.com]

"Как можно проверить несводимость сознания к алгоритмам"

У нас ведь нет даже внятного определения алгоритма (в приложении к природным процессам), не говоря уже о том, что мы совсем не понимаем, что такое сознание, так что обсуждать этот тезис мне вообще не кажется целесообразным.

Скептицизм у меня вызывает утверждение, что в основе сознания (специфически человеческого психического феномена) лежат какие-то процессы в тубулинах, а не электрическая возбудимость клеточных мембран. В пользу последнего утверждения имеются тонны экспериментальных свидетельств, в пользу первого - никаких. Если уж так хочется привлечь квантовую механику к исследованию сознания, то есть же масса других возможностей: вот (https://www.ncbi.nlm.nih.gov/pmc/articles/PMC2862977/) и вот (https://www.nature.com/articles/srep41625), навскидку, пара работ, обсуждающих полезность КМ для понимания работы ионных каналов.

"результат этой редукции в тубулинах потом используется нервными клетками, которые умеют это делать"

Это означало бы, что в нейронах должны присутствовать какие-то структурные особенности, позволяющие это делать, отсутствующие в других клетках, обладающих микротрубочками (а они есть практически во всех эукариотических клетках). Более того, эти особенности должны отличать нейроны человека от нейронов шимпанзе! Насколько я знаю, ничего подобного не обнаружено.

[yoginka.livejournal.com]

//электрическая возбудимость клеточных мембран. В пользу последнего утверждения имеются тонны экспериментальных свидетельств,//
- Какие могут быть свидетельства, если, как вы чуть выше сами отметили, "мы совсем не понимаем, что такое сознание". Свидетельства могут быть только в пользу того, что активность сознания сопровождается разнообразной электрической активностью нейронов. Но это вовсе не означает, что эта электрическая активность "лежит в основе сознания". Пользуясь компьютерной аналогией, она может быть проявлением работы разнообразных драйверов, а не центрального процессора. Ведь если верна гипотеза Пенроуза или какая-либо иная, помещающая источник сознание на микроуровень, то без этих "драйверов" все равно никак не обойтись, нужно как-то преобразовывать результаты работы "процессора" в сигналы для макроскопических внешних устройств и наоборот.
//Это означало бы, что в нейронах должны присутствовать какие-то структурные особенности, позволяющие это делать, отсутствующие в других клетках//
- А разве нейроны не отличаются от других клеток?
//Более того, эти особенности должны отличать нейроны человека от нейронов шимпанзе! Насколько я знаю, ничего подобного не обнаружено. //
- Во первых, это совершенно не обязательно. Сознание не тождественно способности решать сложные логические построения, даже современные компьютеры уже делают это лучше нас. А с другой стороны, мы признаем наличие сознания у умственно отсталых, разве не так? Нормальные люди имеют более развитую алгоритмическую, логическую способность. Чем обезьяны хуже умственно неполноценных? Читала, что они развиваются примерно до уровня ребенка полутора-двух лет, если их воспитывать в семье.
Во-вторых, всё ли мы знаем об отличии нейронов у разных видов животных?

[egovoru.livejournal.com]

"Какие могут быть свидетельства, если, как вы чуть выше сами отметили, "мы совсем не понимаем, что такое сознание"

Мы не понимаем, что такое сознание, в том смысле, что мы не знаем, какие именно структуры мозга за него отвечают, и что конкретно в них при этом происходит, но сомнений в том, что сознание - это результат деятельности мозга, нет никаких. Сознание - это сложная (как говорят, высшая) форма нервной деятельности, а есть и более простые, как, например, рефлексы, которые наблюдаются даже у низших животных. Механизм таких рефлексов мы понимаем уже очень хорошо, и совершенно ясно, что в их основе лежит электрическая возбудимость мембран нейронов (и мышечных клеток). Ничто не указывает на то, что сознание основано на чем-то другом.

"А разве нейроны не отличаются от других клеток"

Нейроны, конечно, очень сильно отличаются от других клеток, и эти их отличия связаны именно со способностью к генерации и передаче электрических импульсов, что и составляет их основную функцию. Тубулины же - это скелетные белки, которые присутствуют во всех эукариотических клетках, причем, как я уже упоминала, они одинаковые в них всех, и даже у разных организмов. (В отличие, кстати, от ионных каналов, которые гораздо более разнообразны в разных типах клеток в соответствии с разными функциями последних). Тубулины нужны нейронам для поддержания их весьма специфической формы (в частности, их длинных отростков). Кроме того, состоящие из тубулинов микротрубочки служат "направляющими" для внутриклеточного транспорта белковых молекул. Ни та, ни другая роль тубулинов не является специфически нейронной; они делают примерно то же самое во всех типах клеток.

Я пока не уяснила, постулируют ли Х. и П., что предполагаемые ими квантовые процессы идут только в микротрубочках нейронов или в микротрубочках и других клеток. Если первое, то непонятно, почему - ведь микротрубочки во всех клетках примерно одинаковы. Если второе, то это автоматически означает, что в нейронах должны быть еще какие-то субклеточные струтуры, которые используют эти квантовые процессы в нейронных микротрубочках для кооперации активности многих нейронов. (Потому что, насколько я понимаю, даже Х. и П. не считают, что сознаним обладает индивидуальный нейрон). Так вот, никаких таких структур в нейронах не обнаружено, а строение этих клеток изучено уже довольно хорошо.

"если верна гипотеза Пенроуза или какая-либо иная, помещающая источник сознание на микроуровень"

Не поняла, что Вы имели здесь в виду. Если то, что индивидуальная микротрубочка или индивидуальный нейрон уже обладает сознанием, тогда Вы понимаете под сознанием не то, что я (некоторые люди считают, что и атомы обладают сознанием). Я же имею в виду специфический для человека тип психической активности.

"они развиваются примерно до уровня ребенка полутора-двух лет, если их воспитывать в семье"

Мне представляется целесообразным рассматривать сознание не как способность, которая либо есть, либо нет, а как некую градуальную функцию, возникающую постепенно как в ходе эволюции, так и в процессе индивидуального развития. Человеческий новорожденный еще не обладает в полной мере сознанием, оно развивается только постепенно, проходя определенные стадии. Точно так же и шимпанзе уже обладает некоторыми зачатками сознания - меньше, чем (взрослый) человек, но больше, чем, например, морская звезда. Кроме того, сознание вообще нельзя, по-видимому, четко отделить от других психических явлений, таких как мышление или эмоции, а те, в свою очередь, трудно четко отделить от более простых нервных процессов, вроде рефлексов, упомянутых выше.

"всё ли мы знаем об отличии нейронов у разных видов животных"

Конечно нет. Более того, в мозгу даже очень простых животных, вроде нематод, есть нейроны множества разных типов, существенно отличающиеся между собой как структурно, так и функционально, и мы только-только приступаем к описанию всего этого многообразия.

Ух, простите, что получилось так длинно, но я подумала, что было бы полезно прояснить все эти вещи.

[yoginka.livejournal.com]

//Механизм таких рефлексов мы понимаем уже очень хорошо, и совершенно ясно, что в их основе лежит электрическая возбудимость мембран нейронов (и мышечных клеток).//
- Но это же никак не сознание и даже не способность решать математические проблемы, на которой сконцентрировался Пенроуз как на наиболее формализуемом и близком к компьютерам проявлении сознания. Рефлексы уже сейчас имитируются у роботов, нет принципиальных проблем с их алгоритмизацией.
//Ни та, ни другая роль тубулинов не является специфически нейронной; они делают примерно то же самое во всех типах клеток.//
- Это не отменяет возможности того, что у тубулинов есть и другая функция - ответственность за включение и выключение сознания, предполагаемая Хамероффом на основе многолетнего опыта анестезиолога.
//Я пока не уяснила, постулируют ли Х. и П., что предполагаемые ими квантовые процессы идут только в микротрубочках нейронов или в микротрубочках и других клеток.//
- Сами процессы происходят везде, в том числе и в пустом пространстве (под влияние гравитации). Вопрос только в том, чтобы их использовать, а не игнорировать. Тут можно привести аналогию с солнечным светом, заливающим все пространство вокруг него фотонами. Некоторые одноклеточные и растения умеют делать фотосинтез, я бы хотела, да не умею, а камень даже и не "подозревает" о такой возможности.
Для Пенроуза не важно, с помощью чего конкретно мозг ловит эту редукцию, ему предложили микротрубочки, и он принял это как возможность. Но он не раз отмечал, что на них свет клином не сошелся.
//Не поняла, что Вы имели здесь в виду. Если то, что индивидуальная микротрубочка или индивидуальный нейрон уже обладает сознанием, тогда Вы понимаете под сознанием не то, что я//
- Я имела в виду то, что предполагают Пенроуз и Хамерофф - то, что в микротрубочках, как и везде, под влиянием гравитации происходит редукция волновой функции, "оркестрируемая" чем-то глобальным (гравитационным полем с его микро перепадами). Это не сознание. Идея Пенроуза в том, что это не чисто случайный процесс, потому и добавлено слово "оркестрируемая". Чисто случайная редукция не помогла бы объяснить феномен сознания. А этот процесс (по его предположению) может объяснить недетерминированную целенаправленность сознания (он какие-то другие слова употреблял, но я точно не помню). Хамерофф называет это протосознанием, но, как мне кажется, Пенроуз к этому слову не прибегает, не припомню такого.
//Мне представляется целесообразным рассматривать сознание не как способность, которая либо есть, либо нет, а как некую градуальную функцию, возникающую постепенно как в ходе эволюции, так и в процессе индивидуального развития. //
- Тут я полностью поддерживаю вас. И отсюда всего один логический шаг до "протосознания" :)
//"всё ли мы знаем об отличии нейронов у разных видов животных"
Конечно нет.//
- Ну, значит отсутствие сознания у других животных пока можно списать на это возможное отличие :)

[egovoru.livejournal.com]

"Рефлексы уже сейчас имитируются у роботов, нет принципиальных проблем с их алгоритмизацией"

Все имеющиеся данные свидетельствуют о том, что сознание - результат эволюции рефлексов и других более простых форм нервной деятельности, а не явление принципиально другого рода. Соответственно, если в основе рефлексов лежит электрическая возбудимость клеточных мембран, то и в основе сознания тоже.

"И отсюда всего один логический шаг до "протосознания"

Разумеется, мы можем говорить о протосознании, но целесообразно зарезервировать этот термин за психическими способностями более простых мозгов, вроде мозга шимпанзе, а не процессами в тубулинах. Если бы дело было только в том, чтобы "улавливать" редукцию волновой функции, то зачем потребовались такие сложные мозги? Как я уже говорила, тубулины есть уже у амебы - почему тогда у нее нет сознания?

Аналогия с фотосинтезом здесь не проходит: вот фотосинтез - действительно, явление клеточного уровня, что и иллюстрируется тем, что есть фотосинтезирующие бактерии (то есть, самые примитивные клетки), существующие уже миллиард лет. Сознание же, напротив, появилось только тогда, когда появились сложные человеческие мозги. Как я понимаю, Х. и П. нечего сказать о том, зачем потребовалась эта длительная эволюция?

Но я чувствую, Вам очень нравится их гипотеза, а мои соображения не кажутся Вам убедительными. Что ж, тут нужно вспомнить завет Ли Смолина, который мы только что обсуждали в предыдущих постах: в ситуации, когда мы стоим перед сложной проблемой (а проблема сознания именно такова), нужно разрабатывать все возможные гипотезы (насколько хватит денег). Как я понимаю, у Х. и П. нашлись какие-то сторонники, которые пытаются искать экспериментальные свидетельства в пользу их идеи. Я таки скачала их последний обзор и штук шесть откликов на него - постараюсь разобраться получше и тогда сделаю отдельный пост на эту тему.

[yoginka.livejournal.com]

//Все имеющиеся данные свидетельствуют о том, что сознание - результат эволюции рефлексов и других более простых форм нервной деятельности,//
- Из того, что я читала, получается, что это все-таки спорный вопрос.
//Если бы дело было только в том, чтобы "улавливать" редукцию волновой функции, то зачем потребовались такие сложные мозги?//
- Мозги не только для сознания нужны, но и для анализа данных от окружающей среды и управления сложными телесными функциями. Это весьма сложная вычислительная задача. Кстати, видели ли роботов с телом, слегка напоминающем собаку? Их пинают, а они восстанавливают равновесие (https://www.youtube.com/watch?v=M8YjvHYbZ9w ). Процессор мощный нужен для этого, а сознания у них нет.
//Аналогия с фотосинтезом здесь не проходит: //
- Вы не так истолковали аналогию, как я имела в виду. Я ее привела для того, чтобы проиллюстрировать вездесущность пенроузовской редукции, т.е. показать, что она везде и всегда происходит. Как солнечный свет все заливает, не важно, будут ли его улавливать и использовать для фотосинтеза.
//Но я чувствую, Вам очень нравится их гипотеза//
- Нравится, да. Но я в нее не "верю" и не "не верю". Здесь у меня полный агностицизм.
//а мои соображения не кажутся Вам убедительными.//
- С чисто логической точки зрения они не опровергают гипотезу.
//когда мы стоим перед сложной проблемой (а проблема сознания именно такова), нужно разрабатывать все возможные гипотезы//
- Согласна. Кстати, я вполне допускаю и идею о полной алгоритмичности сознания и о том, что оно появится у компьютеров. И как раз люди моей профессии в этом лагере, из крупных сторонников - Марвин Минский (https://en.wikipedia.org/wiki/Marvin_Minsky). Но эта идея мне меньше нравится. Что же касается оценки вероятностей для этих двух противоположных гипотез, то не берусь их расставить :)

[egovoru.livejournal.com]

"Из того, что я читала, получается, что это все-таки спорный вопрос"

А каковы же аргументы против? И напомните, пожалуйста, как конкретно Пенроуз приходит к выводу, что сознание - не алгоритм (я прочла его "Новый ум императора", но давно и уже подзабыла детали, а в этом новом обзоре этого уже, кажется, нет)? И, заодно - а что же такое алгоритм в приложении к природным явлениям? Здесь у меня та же проблема, что и с понятием информации: я понимаю, что алгоритм - это последовательность команд, то есть, опять же, текст. Но существуют ли алгоритмы в природе? Когда математики начинают рассуждать на эту тему, они невольно сбиваются на полную ерунду (https://egovoru.livejournal.com/118823.html).

"они восстанавливают равновесие"

Да, конечно, равновесие восстанавливает даже термостат: обратная связь еще не означает сознания.

"Как солнечный свет все заливает, не важно, будут ли его улавливать и использовать для фотосинтеза"

Как я понимаю, гипотеза П.-Х. распадается на две части, которые, по-видимому, надо рассматривать по-отдельности. Первая часть состоит в предложенной Пенроузом интерпретации квантовой механики; об этом мне трудно судить, поскольку мне и близко не хватает образования. Вторая же часть, выдвинутая Хамероффом, заключается в утверждении, что в основе сознания лежит не электрическая возбудимость мембран, которая, безусловно, лежит в основе всей остальной нервной деятельности, а некие квантовые процессы в тубулиновых микротрубочках. Это уже более близкая мне территория, хотя bona fide нейрофизиологом я и не являюсь.

"С чисто логической точки зрения они не опровергают гипотезу"

Как Вы сами прекрасно знаете, естественно-научные гипотезы не опровергают логически, их проверяют экспериментом. Но эксперимент стоит денег, и потому приходится ограничивать набор гипотез, в проверку которых мы готовы вкладывать средства. Мы с Вами сейчас в положении комиссии по раздаче грантов и пытаемся понять, стоит ли давать деньги П. и Х. на их исследования. Вы полагаете, что стоит, а я - что едва ли :)

"люди моей профессии в этом лагере, из крупных сторонников - Марвин Минский"

Да, я слышала о том, что Минский - один из наиболее вдохновенных проповедников идеи, что мозг - это компьютер, но самих его трудов я не читала. Я с осторожностью отношусь к любым уподоблениям природных явлений техническим средствам, потому что исторический опыт показывает, что мы всегда видим сходство природы с теми техническими средствами, которые мы только что изобрели: когда мы изобрели часы, то сразу увидели, что Вселенная - это они и есть. Теперь мы изобрели компьютер и тут же решили, что Вселенная - это компьютер. Это какой-то инфантилизм, разве нет?

[yoginka.livejournal.com]

//А каковы же аргументы против? И напомните, пожалуйста, как конкретно Пенроуз приходит к выводу, что сознание - не алгоритм//
- Он этому посвятил чуть ли не половину книги, которую вы читали, и повторяет в других книгах. Его аргументы опираются на машины Тьюринга (это - одно из нескольких математически эквивалентных определений алгоритма) и теоремы Геделя. Он объясняет все, что необходимо для понимания дальнейших его аргументов. Объяснение очень подробное, не рассчитанное на предварительные знания в этой области, но требует напряженного внимания и обдумывания. Я не смогу все это кратко изложить, к сожалению. Могу только сказать, что для его аргументов понимание машин Тьюринга (хотя бы на том уровне, как он излагает) более важно, чем теоремы Геделя. Во второй книге "Тени разума" он опять все это делает, учитывая всю критику на первую книгу. Отдельно от основного изложения, он посвятил там много страниц ответам на критику по первой книге и даже добавил ответы на пришедшие ему в голову возможные возражения, которые никто ему не предъявлял. Может, вам стоит прочитать начало этой второй книги - "Тени разума".
Могу только отметить, один из важнейших моментов - все до сих пор существующие алгоритмы, даже недетерминированные и те, что используются сейчас в ИИ, сводятся к машинам Тьюринга. А эти машины имеют одно важное свойство: они на некоторых очень простых для человека задачах входят в бесконечный цикл, а сами этого не могут заметить (это их свойство строго математически доказано). Конечно, насильственный выход из цикла можно дополнительно предусмотреть в алгоритме (что и делается на практике), но решение задачи при этом не будет получено. Человек же, потыкавшись алгоритмически, заподозрит неладное, заметит закономерности и совершенно неалгоритмическим "скачком" увидит задачу с другой стороны и может дать ответ. Если ответ опять не получится, то человек может сделать совершенно другой неалгоритмический скачок, и так делать, пока не получит ответ (или пока не надоест). Пенроуз приводит очень наглядные и простые примеры этого. Запрограммировать эти человеческие способности случайными скачками к другим подходам, хранящимся в какой-нибудь базы данных можно (и пытаются), но случайный выбор работает плохо и не избавляет от той же главной проблемы зацикливания, только уже на ином уровне. Вот потому Пенроузу и понадобилось то, что не алгоритм и случайность. И эту роль играет его объективная оркестрированная редукция.

//а что же такое алгоритм в приложении к природным явлениям?...
... я понимаю, что алгоритм - это последовательность команд, то есть, опять же, текст.//
- Не обязательно текст. Алгоритм может быть реализован и чисто механическим способом (см. https://en.wikipedia.org/wiki/Charles_Babbage).

//Да, конечно, равновесие восстанавливает даже термостат: обратная связь еще не означает сознания. //
- Ну так и я о том же. Если помните, я про собаковидных роботов написала для того, чтобы ответить на ваш вопрос о том, для чего еще нужны большие мозги. И сама же тогда написала, что сознания там нет.

//Как я понимаю, гипотеза П.-Х. распадается на две части, которые, по-видимому, надо рассматривать по-отдельности. //
- Полезно выделить две, но другие части. В первой книге, которую Вы читали, Пенроуз еще не знал ничего о Хамероффе. И какие мозговые структуры могут улавливать и эксплуатировать вездесущую редукцию, он даже не пытался гадать. Хамерофф с ним контактировал именно в результате прочтения первой книги. Но уже в первой книге можно выделить две части: неалгоритмизируемость мышления и механизм оркестрируемой объективной редукции для объяснения "неалгоритмической неслучайности" человеческого мышления (точно не помню его слов, возможно, это мой термин). Для начала про микротрубочки и Хамероффа можно забыть.

//Это какой-то инфантилизм, разве нет? //
- Это да. Но мы ведь и есть вечно играющие и вечно обучающиеся в играх существа :) Вполне естественно пытаться объяснять непонятное на основе узнанного.

[egovoru.livejournal.com]

"Может, вам стоит прочитать начало этой второй книги - "Тени разума"

Да, наверное, я так и сделаю - особенно если в этом обзоре, что я скачала, действительно не будет про неалгоритмизируемость.

"неалгоритмизируемость мышления"

Вот сейчас Вы употребили, мне кажется, более точное слово. Функция решения задач, о которой рассуждает Пенроуз, относится все же к мышлению, а не к сознанию. Беда в том, что ни одно из этих слов не поддается четкому определению, что особенно затрудняет обсуждение соответствующих явлений.

"Алгоритм может быть реализован и чисто механическим способом"

Разумеется, но ведь любой сооруженный нами автомат - это не более чем изоморфная (так, кажется, говорят математики?) реализация текста (чертежа, программы и т.д.). А в каком смысле можно назвать алгоритмическим природный процесс? Очевидно, в том, что нам удается выделить в нем некие отдельные последовательные стадии. А если нам сегодня не удается выделить такие стадии, то кто возьмется утверждать, что нам не удастся выделить их завтра? Вот почему рассуждения о том, является ли природный процесс (мышление или сознание) алгоритмическим, кажется мне начисто лишенным смысла. Но Вы правы: мне надо еще раз прочитать, как это подает сам Пенроуз.

"Для начала про микротрубочки и Хамероффа можно забыть"

Ну, как же забыть? Моя профессиональная квалификация такова, что наиболее трезво я могу судить как раз об этом, давайте назовем его третьим, компоненте концепции, а не об алгоритмах и квантовой механике :)

"Вполне естественно пытаться объяснять непонятное на основе узнанного"

Тут важно помнить, что ни часы, ни компьютер ведь не были специально созданы как модели Вселенной, с учетом известных нам ее свойств. Напротив, они были изготовлены для совершенно других и очень конкретных целей. Так что уподобление Вселенной часам и компьютерам - это не научная модель, а поэтическая метафора :)

[yoginka.livejournal.com]

//Функция решения задач, о которой рассуждает Пенроуз, относится все же к мышлению, а не к сознанию.//
- В книге "Тени разума" он где-то вначале дает свои определения этим аспектам человеческой умственной деятельности и объясняет, почему он сконцентрировался именно на математическом мышлении - потому, что именно в нем можно найти явные алгоритмы и легче заподозрить, что оно полностью к ним сводится. Если же показать, что оно не сводится к алгоритмам, то остальные аспекты тем более не сводятся. Если будете читать, обратите на это внимание.

//А в каком смысле можно назвать алгоритмическим природный процесс? Очевидно, в том, что нам удается выделить в нем некие отдельные последовательные стадии. А если нам сегодня не удается выделить такие стадии, то кто возьмется утверждать, что нам не удастся выделить их завтра? Вот почему рассуждения о том, является ли природный процесс (мышление или сознание) алгоритмическим, кажется мне начисто лишенным смысла.//
- Добавлю еще, что стадий недостаточно. Нужно, чтобы эти стадии менялись согласно правилам. И такие стадии и правила можно легко найти в решении многих математических задач. И именно поэтому "природный" процесс мышления математика взят Пенроузом как наиболее легко подозреваемый в алгоритмичности. И тем не менее, в этих успешно выделенных стадиях и правилах обнаруживаются иногда явные разрывы, отклонения от алгоритма. Поэтому рассуждения о том, "является ли природный процесс (мышление или сознание) алгоритмическим" все-таки имеет смысл.

[egovoru.livejournal.com]

"И тем не менее, в этих успешно выделенных стадиях и правилах обнаруживаются иногда явные разрывы, отклонения от алгоритма"

Но разве мы можем полностью проследить ход собственной (или чужой) мысли? Ведь мы осознаем только ничтожную часть процессов, происходящих в нашем мозгу? Может, эти разрывы - только потому разрвывы, что мы не осознаем часть своих рассуждений?

А главное, как мы можем исключить, что физиологические и биохимические процессы, лежащие в основе математического мышления - не алгоритмические, ведь не все их детали нам известны? Более того, мы ведь никогда не сможем стать уверенными, что выяснили все их детали?

[noname-rambler.livejournal.com]

Я бы не стал этого делать... но так как Вы выше апеллируете к логике...
Тут у Вас чисто логическая ошибка.
"не говоря уже о том, что мы совсем не понимаем, что такое сознание, так что обсуждать этот тезис мне вообще не кажется целесообразным"
и буквально в следующих строчках
"В пользу последнего утверждения имеются тонны экспериментальных свидетельств"
а в пользу чего?
"что в основе сознания лежит электрическая возбудимость клеточных мембран"
Но позвольте, как мы можем "исследовать экспериментально основу" того, чего "мы совсем не понимаем"?
Тогда как Пенроуз пытается сначала именно понять, ухватить как целое предмет своего исследования.

[egovoru.livejournal.com]

"у Вас чисто логическая ошибка"

Согласна, я выразилась не слишком удачно, но вот что я имела в виду. "Понимание" - это ведь не бинарная величина: вот мы в один момент "не понимаем", а вот, в другой - сразу "понимаем". Это градуальный процесс, постепенный прирост знаний о данном явлении.

Сегодня мы "не понимаем, что такое сознание" в том смысле, что мы не понимаем его так, как понимаем, например, рефлекс: в случае последнего мы можем идентифицировать структуры, в нем участвующие, понимаем существо процессов, к нему приводящие, мы можем схематически изобразить его в виде рефлекторной дуги и т.д. Что же касается сознания, тут ситуация совсем другая: мы даже толком не знаем, какие именно отделы мозга тут задействованы, и уж тем более не знаем, что при этом в них происходит, какие именно нейроны и как конкретно работают.

Но то, что сознание - результат деятельности деятельности мозга, мне кажется, совершенно ясно. И не всякого мозга, а именно человеческого, потому что даже мозг шимпанзе, очень похожий на наш, не может делать того, что может наш: например, манипулировать символами (ну, можно сказать, что у шимпанзе есть зачатки этой способности, но только зачатки).

Тот факт, что менее сложные типы нервной деятельности, вроде рефлексов, связаны именно с электрической активностью нейронных мембран (то есть, генерацией и распространением электрических импульсов) дает основания предпологать, что и сознание определяется именно этой способностью, а не какими-то таинственными процессами в белках цитоскелета. Тем более, что нет никаких экспериментальных свидетельств в пользу участия последних в сознании. Наконец, как я уже отмечала выше, белки цитоскелета не уникальны для нейронов, они есть во всех клетках, выполняющих самые разные функции; а вот способность к генерации потенциалов действия - это уникальная черта именно нейронов (еще мышц), так что уже из этого следует, что искать надо где-то там.

[noname-rambler.livejournal.com]

Будете смеяться (и поделом мне...) но для меня понимание как раз бинарный процесс — как будто лампочка включается (или не включается). Переход количества в качество:) после накопления (прироста) знаний в какой-то момент. Ну как в моём любимом стихотворении Ходасевича: "мне мир прозрачен как стекло". Конечно это в большей степени иллюзия, самообман, обусловленный чистой психологией — ну куда от неё деться...
Но это меня опять заносит.
А если по теме, то вот что мне понятно — что конечно же сознание (материально) базируется на таких вещах, как нейроны, синапсы, электрическая активность нейронных мембран, в общем физическое содержимое работающего живого головного мозга. Нигде больше сознания нет, во всяком случае в третьем мире им. Пенроуза-Поппера — это уж точно. Также и третий мир не является продуктом сознания, то есть он "объективно" "существует" за пределами человечьей головы, вне электрической активности нейронов (каким образом так получается — не готов сейчас объяснять)
Также понятно, ну в общих чертах (пока читал его книжки:), почему Пенроуз "дошёл до жизни такой", почему он долго и нудно объясняет про машину Тьюринга, про эти самые алгоритмы, про теорему Геделя, про квантовую теорию (кстати, его объяснение квантовой теории — лучшее на мой вкус из всех, что я читал) — в книжке, посвящённой проблеме сознания. Я не думаю, что у него тут какое-то опасное "спекулятивное" заблуждение не-естествоиспытателя, я больше склонен соглашаться с Вашей собеседницей, что "он чрезвычайно аккуратен, почти до занудства". И также как и ей, "идея о полной алгоритмичности сознания" "мне меньше нравится". Ну с моей то стороны это уже чистая вкусовщина наверное...

[egovoru.livejournal.com]

"для меня понимание как раз бинарный процесс — как будто лампочка включается"

А я, наоборот, очень рано убедилась, что понимание - это многоступенчатый процесс. Я здесь уже рассказывала в этом журнале о нашем замечательном школьном учителе математики - так вот, он практиковал такую методу. Скажем, у нас в программе пределы. Он просит нас прочесть определение в учебнике - и поднять руку, кто думает, что он его понял. К тем, кто поднял, он подходит и предлагает решить маленькую задачку на это определение - и тут выясняется, что никакого понимания на самом деле нет. Тогда он предлагает подумать еще какое-то время и снова поднять руку :) И ведь тогда, заметьте, шла речь всего лишь о понимании чего-то, придуманного другими людьми - а сейчас мы ведь с Вами говорим о понимании природного процесса? Мне кажется, тут можно говорить только о степени понимания - лучшей или худшей. А?

"он "объективно" "существует" за пределами человечьей головы"

Я, признаться, в этом не уверена - но про "третий мир" у меня скоро будет отдельный пост!

"идея о полной алгоритмичности сознания" "мне меньше нравится"

Я не могу сказать, что мне нравится или не нравится идея об алгоритмичности сознания. На мой взгляд, у нас нет оснований выдвигать ни ту, ни другую точку зрения, пока мы не поняли получше, как наше сознание работает - в том смысле, какие именно процессы в каких нейронах и отделах мозга при этом протекают (иными словами, не выяснили то, что называют "нейрокоррелятом сознания").

Возвращаясь же к книге Пенроуза, ее автор вовсе не кажется мне предельно последовательным в своих выкладках, и - что существенно! - не мне одной. Автор, например, вот этой статьи (https://books.google.com/books?id=0jSS-3Bl06cC&lpg=PP1&pg=PA173#v=onepage&q&f=false), выступающий от лица математиков, пишет так:

"Обобщая и усиливая критичность возражений со стороны специалистов по математической логике, доказано, что все возможные варианты этого аргумента <о неалгоритмической природе мышления> приводят к порочному кругу, противоречию или ошибке (принятию неверного утверждения)".

Более того, этот автор пишет, что вроде бы сам Гедель утверждал, что его теорема вовсе не исключает наличие робота, обладающего человеческими математическими способностями :)

[noname-rambler.livejournal.com]

"понимание - это многоступенчатый процесс"
Да, согласен, всё верно, нам тоже говорили про студентов, которые по методу Кисы Воробьянинова "ну это я знаю" пропускают процесс вывода, а потом "выходят к доске" и получают в лучшем случае тройку.
Но я вот о чём. Лампочка вспыхивает многократно, каждый раз освещая нечто целое, которое в процессе познавания вдруг опять неожиданно рассыпается — у Вас не бывало, ощущение, когда вдруг перестаёшь понимать проблему, погружаясь в её рассмотрение? А потом опять вспыхивает, предмет рассмотрения собирается, cogitare, если воспользоваться словечком Августина.
Что касается исследования сознания, то там этого видения целого как раз и нет, "лампочка" не вспыхивает — если уж мы не можем даже подступиться к главному вопросу об алгоритмичности (говоря другими словами — о "свободе воли"). И мне почему-то кажется, что в процессе исследований "британских учёных" процессов, происходящих в нейронах, на основе результатов, полученных в этих исследованиях, просчёта "нейрокоррелята сознания" — она не вспыхнет. То есть результаты эти конечно будут нужно и важны, чтобы на них опереться, выдвигая ту или иную идею. В самом ворохе экспериментальных данных идеи нет. А у Пенроуза она есть, и с этой идеей он подходит к вороху, выбирает подходящую для идеи тему ("трубочки"). При этом, как подчёркивает Ваша собеседница, особо то не настаивая на достоверности данной (тубулиновой) темы, ведь её недостоверность не означает неправильности его идеи (опять же чисто логически) — "значит надо рыть в другом месте". И это нормально (наверное). Плохо было бы, если б было наоборот (как у нас в недавнем прошлом, Лысенко и пр. прелести "идеологически выдержанной" науки).
Ещё раз, идея Пенроуза — она до "трёх составляющих", она не из них родилась, во всяком случае что "не из трубочек" — это даже я способен понять...

[egovoru.livejournal.com]

"идея Пенроуза — она до "трёх составляющих"

Почему же не "из трех"? Она и есть первая составляющая - утверждение, что сознание (вернее, мышление - но с точки зрения Пенроуза мышления не бывает без сознания) не представляет собой алгоритмический процесс. К этому выводу он приходит, если совсем упростить, на основании того, что наши мозги могут решать такие задачи, которые компьютеры не могут. На мой взгляд, этого недостаточно, чтобы сделать столь фундаментальный вывод о природе сознания.

Более того, разговор с уважаемой yoginka прояснил вот что. Она говорит, что, если все составные части системы можно описать алгоритмом, то и всю ее тоже можно (при условии, что она работает достаточно надежно, так что ошибки не приводят к хаосу). Кажется, все согласны, что работу фермента или ионного канала можно описать алгоритмом. А что такое мозг, как не собрание очень большого числа таких молекул, каждую из которых можно описать алгоритмом? Эта линия рассуждений приводит нас к противоположному выводу, чем тот, что сделал Пенроуз.

Что же касается Вашего опасения, что знание нейрофизиологических механизмов не поможет нам понять, что такое сознание, то, мне думается, теорема Геделя поможет нам еще меньше.

[noname-rambler.livejournal.com]

Я на минутку представил себе эту картинку — совокупность всех алгоритмов сознания (мозга), задаваемых строго детерминированными (ведь так?) биохимическими процессами в нейронах и молекулах, как один большой сложный (сложноструктурированный) алгоритм... Который когда-нибудь будет полностью расшифрован, описан, разложен по полочкам...
Знаете что останавливает полёт фантазии в эту сторону? Оговорка, Ваша или Вашей собеседницы:
при условии, что она работает достаточно надежно, так что ошибки не приводят к хаосу
— там ошибок уйма, и они почему-то не приводят к хаосу, ну за редким клиническим исключением...
Компьютер же, вот тот, за которым я сейчас пишу этот комент, работает по-другому, его супервизор жёстко контролирует ошибки, исправляет их, всего одна неисправленная ошибка, один неправильно считанный бит, может привести к краху системы. Наше сознание ошибок не боится, более того, принципиальная возможность "ошибаться, не срываясь в хаос", и составляет его преимущество перед компьютерным "разумом", пусть даже последний и обыгрывает уже и чемпиона по игре в го.

Сознание пластично, текуче, пусть даже случилось невероятное, и мы описали его, "просчитали", "положили на полочку" — а оно уже не то, оно другое. Похоже конечно на слепок, но это похожесть фотографии на живое лицо.

[egovoru.livejournal.com]

"там ошибок уйма, и они почему-то не приводят к хаосу, ну за редким клиническим исключением"

Ну, во-первых, не очень-то понятно, что называть "ошибкой", говоря о работе мозга? Но действительно, если вспомнить некоторые другие аспекты биологической организации, ошибки могут быть не только вредны, но и исключительно полезны. Я имею в виду ошибки копирования ДНК (мутации), которые и делают возможной эволюцию. Возможно, что-то такое происходит и в мышлении, особенно при создании новых идей.

Что же касается хаоса, то для того, чтобы ошибка привела в нему, система должна обладать определенными особенностями, например, положительной обратной связью, а в биологических системах более распространены связи отрицательные.

[noname-rambler.livejournal.com]

«ошибки копирования ДНК (мутации), которые и делают возможной эволюцию ... возможно, что-то такое происходит и в мышлении, особенно при создании новых идей»
Возможно, надо у специалистов спросить (если они знают конечно).
Но вот что алгоритмическому "мышлению" цифрового компьютера ошибки копирования строго противопоказаны — это я знаю точно. Оговорку про цифровой компьютер я сделал специально, потому что существуют (в моей сфере деятельности) аналоговые вычислительные системы, они как раз строятся на элементах с большим коэффициентом усиления, предусматривающим возможность введения глубоких отрицательных обратных связей (операционные усилители).
Но это конечно прошлый век, сейчас все говорят про квантовые компьютеры (но никто ничего про них не знает:)

[egovoru.livejournal.com]

"сейчас все говорят про квантовые компьютеры"

Да, но я пока что не поняла, каков их принцип. Уважаемая yoginka говорит, для этого мне надо сначала понять, что такое квантовая суперпозиция :)