И кот ученый свои мне сказки говорил

[egovoru]

Некоторые трактовки сознания все же вызывают у меня полное недоумение. Скажем, панпсихизм. Если, по Чалмерсу, атомы обладают сознанием, то почему же останавливаться на них? Следует также признать, что сознательны и протоны, и кварки, и суперструны. Единственное, что у них есть общего – то, что они существуют (отвлекаясь от проблематичности последних). А значит, обладать сознанием – это и есть существовать (прямо по Декарту :) Но ведь обозначать одно и то же свойство объекта двумя разными терминами – плохая логика?

Или вот идея Пенроуза-Хамероффа, что сознание основано на квантовых процессах в тубулиновых полимерах. Ее авторы вроде бы связывают сознание с нейронами, но почему-то избирают в качестве его носителя вовсе не специфические для нейронов структуры, а те, что обязательно присутствуют не только во всех клетках нашего тела, но и вообще во всех эукариотических, то есть, ядерных, клетках. Причем, тубулины из разных организмов настолько похожи, что распознаются одними и теми же антителами. Из чего следует, что мы должны назвать сознанием нечто, что есть у амебы (у которой тубулины есть), но чего нет у бактерии (у которой их нет). Ваши предложения?

«Танец амеб», рисунок Timothy Forry
Художник явно скрестил амеб с инфузориями,
потому что они у него покрыты ресничками :)

Comments

[egovoru.livejournal.com]

"Сейчас актуально понять, что нам сулит ИИ, может ли он нас превзойти во всем или только в алгоритмизируемых задачах"

Да, я понимаю, что весь этот круг вопросов порожден попытками создать ИИ. Но мне, опять же, кажется пустым занятием гадание, сможем ли мы создать "настоящий" разум или сознание. Я не думаю, что математика, квантовая механика или что бы то ни было могло дать нам ответ на этот вопрос, просто потому, что мы не знаем, что же такое есть этот настоящий разум - т.е., наш собственный.

[yoginka.livejournal.com]

ИИ - не настоящий разум или сознание. И пока его разработчики не претендуют на это. Тут опять проблема в словах и технической терминологии. Пока нет цели создать "настоящий разум или сознание". Есть цель создавать новые алгоритмы, хорошо решающие те задачи, которые раньше очень плохо решались компьютерами. Простейшие примеры - переводы с естественных языков и распознавание образов (например, отличить кошку от собаки). Я помню время, когда это считалось очень сложным запрограммировать. Сейчас научились, успехи впечатляют. И это уже называется ИИ (англ. AI).
Я слежу за развитием в области AI и знаю, что сейчас называют этими словами. AI без уточнения - термин объединяющий три разновидности: ANI, AGI, ASI (Narrow, General и Super). Я сейчас имею в виду ANI, который уже во многих местах присутствует. Тут ни о каком сознании даже и речи нет, и никто не утверждает этого. Считается, что сознание может возникнуть, причем само, не раньше, чем появится AGI. Но некоторые считают (и Пенроуз) что и тогда не будет сознания.
ANI уже во многих местах присутствует. Например, меня поразили его способности в фотоальбомах в Гугле. Он удивительно хорошо распознает лица людей. Даже если они на дальнем плане в толпе, в разных ракурсах и в разных возрастах (40 лет разницы!!!), он их правильно приписывает одному человеку. Становится жутковато. О распознавании предметов и пейзажей я вообще молчу. В фейсбуке такое тоже есть, но я им не пользуюсь, потому о его способностях распознавания мало мугу сказать. Но знаю, что и он умеет по фото определять людей и автоматом приписывает к фото, кто там присутствует. Видела и ошибки в этом, путает похожих людей.

[egovoru.livejournal.com]

"ИИ - не настоящий разум или сознание. И пока его разработчики не претендуют на это"

Да, Пенроуз в своей книжке оговаривает это. Обсуждению этих тем сильно мешает, конечно, разнообразие смыслов, в которых разные люди употребляют термины "интеллект", "мышление" и "сознание". Пенроуз, надо отдать ему должное, хорошо понимает это, и старается по мере сил объяснить хотя бы свое собственное словоупотребление. Так, он считает, что "интеллектом" может обладать только сознательный объект, и при таком раскладе поименование разных там Deep Blue "искусственным интеллектом" просто неверно.

Но, насколько я могу судить, более распространено представление, что интеллект (мышление) может осуществляться и в отсутствие сознания (чем и была порождена концепция "философского зомби"). На самом же деле мы просто не знаем, может ли такое быть, или по достижении определенного уровня сложности мышление (способность решать задачи) порождает сознание (т.е., появление субъективных ощущений, внутреннего мира) просто автоматически.

Насколько я понимаю, и это соответствует и тому, что и Вы написали, основные усилия по созданию ИИ направлены просто на то, чтобы воспроизвести в силиконе те или иные способности человеческого ума, как его способность производить арифметические операции уже была успешно воспроизведена машиной Тьюринга. При этом никого не заботит (как не заботило и Тьюринга), делает ли машина это тем же способом, что и человеческим ум, или нет - важен результат. В этом смысле усилия по созданию ИИ вряд ли сильно помогают в понимании того, как работает наш собственный мозг - у них просто нет этой цели.

[yoginka.livejournal.com]

//он считает, что "интеллектом" может обладать только сознательный объект, и при таком раскладе поименование разных там Deep Blue "искусственным интеллектом" просто неверно. //
- Я не думаю, что неверно. Это вопрос терминологии. Иногда бывает и так, что дополнительное прилагательное отменяет некоторые свойства существительного. Например, вас же не удивит сочетание "ущербный интеллект", вы предположите сразу, что в нем достаточно много сходства с интеллектом, но чего-то не хватает. Или "искусственная кожа", вы от нее не ждете всех свойств настоящей, понимаете, что это некий суррогат. Относитесь так же и к термину ИИ.

Насчет зомби согласна. Все это вопросы представляются неразрешимими.

[egovoru.livejournal.com]

"Это вопрос терминологии"

Да, конечно, и терминология Пенроуза такова, что интеллект с необходимостью должен обладать сознанием. Как он справедливо замечает в своей книжке, даже самые горячие энтузиасты ИИ не считают, что Deep Blue обладает сознанием. Так что, следуя логике силлогизма, Deep Blue - не интеллект :)

[yoginka.livejournal.com]

Аналогия с искусственной кожей вас, похоже, не убедила?

[egovoru.livejournal.com]

Мне кажется, она здесь неуместна. Ведь что такое искусственная кожа? Это материал, обладающий заданными свойствами (упругость, водонепроницаемость и т.д.), характерными для настоящей кожи. При этом заданные свойства достигнуты в искусственной коже иными средствами (ее химический состав и микроструктура совсем не таковы, как у настоящей кожи). Похожий пример - самолет; он летает, как и птица, но совсем другим способом. В случае же Deep Blue то свойство, которое Пенроуз считает обязательным для интеллекта, а именно, сознание, вообще не достигнуто, никаким способом.

Другое дело, что определение интеллекта по Пенроузу - очень сильное. Насколько я понимаю, большинство считает интеллект необходимым условием для сознания, а не наоборот. Но в этом случае мы сталкиваемся с проблемой определения нижней границы того, что можно назвать "интеллектом". Допустим, Deep Blue - можно, а можно ли назвать "интеллектом" обыкновенный компьютер? Разве он не попадает в категорию ANI?

[yoginka.livejournal.com]

А как вам нравится сочетание слов "искусственна почка"? Это большой аппарат, вне тела, совсем на почку не похожий. Слово "искусственный" часто используется для устройства, выполняющего функции (и не обязательно все) того, к чему это слово добавлено. Точно также дело обстоит с современным значение термина "ИИ". Определение слова "интеллект" у Пенроуза или у кого-либо еще никак не мешает тому, чтобы добавив слово "искусственный", применить его к любому суррогату и ослабить таким образом требования исходного определения.

//можно, а можно ли назвать "интеллектом" обыкновенный компьютер? Разве он не попадает в категорию ANI? //
- Пока обыкновенный стандартный компьютер не попадает. Но и на нем можно запускать разные программы, которые попадают в эту категорию (если вы эти программы имеете).

[egovoru.livejournal.com]

"А как вам нравится сочетание слов "искусственная почка"?"

Искусственная почка таки выполняет ту функцию, которую мы считаем определяющей для почки настоящей. А вот ни одно из ныне существующих устройств не обладает сознанием - то есть, не выполняет ту функцию, которую Пенроуз считает определяющей для интеллекта.

"на нем можно запускать разные программы, которые попадают в эту категорию"

Разумеется, говоря о компьютере, я имела в виду не только hard-, но и software, потому что одно без другого не имеет смысла. А каков же критерий, позволяющий считать какие-то программы ANI, какие-то - нет?

[yoginka.livejournal.com]

Насчет термина "ИИ" - ваше личное дело, что не нравится. Но так уж назвали, значит, так тому и быть.

//А каков же критерий, позволяющий считать какие-то программы ANI, какие-то - нет?//
- Признаки AI (всех трех видов) связаны с видами используемых алгоритмов. Эти алгоритмы были разработаны сравнительно недавно. Примеры: обучающиеся алгоритмы (например, Deep Learning), нейронные сети. Но AGI и ASI, которых пока нет, предполагаются универсальными, и их даже внешне не спутаешь с обычными программами. ANI же функционально может мало отличаться от обычной программы, делающей то же самое, и здесь важны именно те технические решения-алгоритмы, которые в них используются. Например, первые программы, играющие в шахматы, были реализованы обычными алгоритмами, "грубой силой". Такие программы сейчас не называются ANI. И Deep Blue технически тоже не ANI, он тоже берет грубой силой и специализированным под задачу чипом.

[egovoru.livejournal.com]

"ваше личное дело, что не нравится"

В отличие от Пенроуза, я не так уж уверена, чти мышление (интеллект) невозможно без сознания. Опять же, мы пока слишком мало знаем о том и о другом, чтобы судить, как именно они связаны.

"Признаки AI (всех трех видов) связаны с видами используемых алгоритмов"

Иначе говоря, эти названия - чисто условные, жаргон данной области исследований, не имеющий никакого отношения к реальному интеллекту. Мне кажется, это немного запутывает, как и в случае "нейронных сетей". Проблема в том, что нейрофизиологи используют то же самое словосочетание для обозначения реальных нейронных сетей, и из контекста не всегда ясно, о чем именно идет речь :(

[yoginka.livejournal.com]

Да, вы все правильно поняли, именно "жаргон" или технические определения в данной области. Опасно понимать слова в обычном смысле. Мой любимый пример: "кольцо главных идеалов". Если вы не знакомы с той областью, откуда это сочетание слов, имеющее совершенно однозначный и математически строгий смысл, то могу представить, что может приходить в голову :)