Я насмерть поражен своим сознаньем

[egovoru]

Отношения между разумом и сознанием запутанные: кое-кто, как Роджер Пенроуз, считает, что это одно и то же; другие полагают, что это разные свойства человеческой психики. Даже если Пенроуз неправ, сознание, будучи отдельным свойством, может оказаться необходимым для работы человеческого интеллекта. А значит, тем, кто трудится над созданием ИИ, волей-неволей потребуется и машинное сознание. Кое-кто даже надеется перенести свое личное сознание в кремний и тем самым обеспечить себе бессмертие.

Уважаемый vsopvs подкинул мне обзор попыток создания искусственного сознания, на редкость толковый для такой скользкой темы. Автор, Джеймс Реджа, построил его по принципу воронки: сначала он – очень кратко – обрисовывает ландшафт философских представлений о сознании. Подавляющее большинство работающих над его компьютерным воплощением исходят из признания возможности физического объяснения сознания, а точнее – из предположения, что сознание есть следствие определенного функционального состояния физической системы.

Затем он – уже подробно – описывает конкретные модели сознания, используемые в таких работах: (1) глобальное рабочее пространство (global workspace); (2) интеграция информации (information integration); (3) внутренняя модель «я» (internal self-model); (4) высокоуровневые репрезентации (higher-level representations); (5) механизмы внимания (attention mechanisms). Автор считает их все комплементарными, но, например, модель (4) постулирует, что сознательная репрезентация информации обеспечивается локальной активностью нейросети, а бессознательная – глобальной, что вроде бы не стыкуется с моделями (1) и (2). Модели (2) и (5) мы уже немного обсуждали в этом журнале.

Согласно самому распространенному представлению, сознание – это наличие субъективных ощущений, и автор его разделяет. Он, конечно, отдает себе отчет, что моделирование сознания в этом смысле – занятие неблагодарное: мы ведь никак не можем установить, есть ли у машины субъективные ощущения. А значит, судить об успехе мы можем только по внешним, косвенным признакам сознательности. Все рассмотренные автором модели воспроизводят хотя бы некоторые из таких признаков. Проблема, однако, в том, что мы толком не знаем, насколько эти признаки действительно необходимы и достаточны для наличия субъективных ощущений. А выяснить это можно, только изучая объекты, у которых мы допускаем наличие таких ощущений просто по аналогии с нами самими – то есть, изучая других людей, а не машины.

Так есть ли хоть какая-то польза от попыток создания искусственного сознания, учитывая, что пока этот проект – из серии «поди туда, не знаю куда, принеси то, не знаю что»? Оптимист автор считает, что безусловно есть, потому что подобные разработки могут помочь созданию если и не сознательных, то по крайней мере более «умных» машин. Как в том анекдоте: если и не догоним, так хоть согреемся :)

Единственная видеозапись публичного выступления Джеймса Реджа, которую мне удалось найти на ютьюбе

Comments

[lj-frank-bot.livejournal.com]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: Общество (https://www.livejournal.com/category/obschestvo?utm_source=frank_comment), Происшествия (https://www.livejournal.com/category/proisshestviya?utm_source=frank_comment), Психология (https://www.livejournal.com/category/psihologiya?utm_source=frank_comment), Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[skogar.livejournal.com]

-- мы ведь никак не можем установить, есть ли у машины субъективные ощущения.

Казалось бы, а откуда им вообще взяться? Всё, что собрано из разного рода железа, ими не может обладать: как соберут, каким софтом начинят - так и будет работать и "чувствовать"; или это вызывает сомнения?

[victor-chapaev.livejournal.com]

свое личное сознание в силикон

В кремний, все же... Силикон в грудях и попах, в основном

[staerum.livejournal.com]

Пока горящий свет субъективного переживания воспринимается как эпифеномен логика построения ИИ понятна.
Мне интереснее куда пойдёт мысль если переопределить основание с материализма на нейтральный монизм или идеализм.
To speak of creating consciousness in a machine one must assume consciousness to be, well, 'creatable.' Something can only be created if it wasn't there in the first place. In other words, engineers assume that consciousness isn't the primary aspect of reality, but a secondary effect generated by particular arrangements of matter.(с)

Не конструировать сознание, а ловить, приземлять его базовое присутствие во вселенной в некоторую структуру.

[vitus_wagner]

Вот нахрена на людях зацикливаться?

Возьмем кошку. Есть вроде как консенсус что разума у кошки нет. (хотя отдельные кошатники может и не согласятся).
Субъективные ощущения точно есть.

А может ли кошка "потерять сознание", или "пребывать в бессознательном состоянии"?

Вроде как да. Вот общий наркоз ей сделать, как назвать то состояние, в котром она окажется?

Получается так, что разума-то нет, а сознание - еще как есть.

[skogar.livejournal.com]

-- Не конструировать сознание, а ловить, приземлять его базовое присутствие во вселенной в некоторую структуру.

Ловить сачком? :)

[staerum.livejournal.com]

Если паттерн сачка вам кажется подходящим, то можно и сачком.
Ловить на паттерн потока информационной трансформации, которую обеспечивает нервная ткань, насколько мы её пониманием — это ближе к канону. Вообще надо пробовать ловить на что ловится. Хоть на генератор случайных чисел.

[staerum.livejournal.com]

И так до самой амёбы, которая в среде градиентом кислотности начинает себя вести. Небось тоже этосамое целесообразное переживание её туда устремляет, а не какая-нибудь химическая реактивность поверхности.

[greygreengo.livejournal.com]

Сознание это рефлекс или рефлекс с искажением, возникающим вследствии осознания отделения себя от внешнего явления?

ЗЫ И каков тормозной механизм для этого? :)

[vsopvs.livejournal.com]

примерно такой же, как в случае двух зеркал напротив друг друга

сигнал затухает

[greygreengo.livejournal.com]

В таком случае мы бы не имели лазеров.

ЗЫ Тормозной механизм подавляет неинтересное, и стимулирует и усиливает то, что мы хотим увидеть. Взять хотя бы те же картинки теста Роршаха.

[vsopvs.livejournal.com]

> мы бы не имели лазеров

когерентность - свойсво луча лазера, которого нет у мозга

> Тормозной механизм подавляет неинтересное

я говорил о затухании на общем уровне. сознание - это рефлексия, рекурсия. на общем уровне затухание предотвращает "дурную бесконечность"

[greygreengo.livejournal.com]

Не всякая бесконечность — дурная, вам это любой математик скажет.

В постановке задачи об обучаемой нейронной сети всегда возникает момент, связывающий сравнение траекторий прохождения импульса по необученной сети с обученной. Как правило на этом строится алгоритм обучения. При этом механизм выбора из многих путей с близкими весовыми (стохастическими sic!) характеристиками и установление устойчивой обратной связи решается как правило по типу "победитель получает все ресурсы".

В этом отражен тот принцип который в нас, приматах зашит настолько глубоко, что мы от него не избавимся никогда, если конечно не воткнем в себя гены пчелы, муравья или еще кого-то из предельно специализированных видов, которые вот это самое "бей или беги" разделили на разные специализации. муравей воин только бьет, муравей рабочий только работает, матка только рожает, трутень только занят сексом — специализация в чистом виде.

Нет, мы конечно тоже специализированы. Зрение — отдельный орган, слух или обоняние — тоже, причем области мозга, которые это обрабатывают, как правило не пересекаются.

ЗЫ Но, как только мы находим такие объекты, для которых рефлексия по типу "бей или беги" становится неприменима, например динамика микрообъектов, то весь присущий виду здравый смысл выбрасывается нафиг, и приходится выстраивать аппарат квантовой механики на принципах дуализма типа "волна-частица", или там, диалектика "субъектно-объектного" в гносеологии.

[greygreengo.livejournal.com]

Когда шина обмена содержит проводов столько, чтобы хватило на распараллеливание потоков вычислений от довольно массивной неполиномиальной задачи, то это с неизбежностью утыкается на паразитные наводки и тепловые шумы. Что и приводит к эффекту сомнения в, собственно, правильности алгоритма.

[skogar.livejournal.com]

Т.е. по-Вашему сознание - это что-то типа вторичного продукта, что ли?

[greygreengo.livejournal.com]

Еще Бехтерев говорил о наличии паразитных процессов в мозге человека, отличающего его от животного:

"У животных, включая обезьян, могут быть только два эндогенных состояния психики: бодрствование и сон.

У взрослого человека могут быть четыре эндогенных состояния психики: бодрствование, сон, гипнотическое состояние, шизофрения (расчастленная, диссоциированная форма психики)."

Кроме того, Тен, в книге «Человек безумный. На грани сознания » объясняет феномен возникновение сознания через поломанное или разделенное развитие на речь и мышление, как не связанные между собой процессы становления, через которые проходит первобытный человек и через этапы которого проходит ребенок.

[skogar.livejournal.com]

-- паразитных процессов в мозге человека, отличающего его от животного

Какие же они паразитные?!

[greygreengo.livejournal.com]

Ну, не знаю, назовите это состояние, скажем, расщеплением сознания, когнитивным диссонансом — в данном случае важно, что процесс наведенных шумов стимулирует индуцированное направленное рефлексирование, применимое только к одному аспекту реальности. Это и называется рождение сознательного в алгоритмической самообучаемой нейросети.

[skogar.livejournal.com]

Т.е. Вы предлагаете верить, будто сознание в человеке (высшая, самая сложная часть) - следствие каких-то левых шумов?

[evgeniirudnyi.livejournal.com]

Я писал про этот обзор. В нем нет экстерналисткого подхода, хотя такие работы среди робототехников также есть.

[greygreengo.livejournal.com]

Ну, верить — пожалуй не соглашусь, но с учетом того, что эти шумы создали качественный переход от животного к человеку, позволю процитировать того же В. Тена

"Нейрофизиологи отдали большую дань и этой концепции. Выяснилось, что высокий уровень специализации нейронов характерен для сенсомоторной, а не для ассоциативной коры. Мы смотрим, нюхаем, ощущаем, двигаемся, дышим, благодаря анатомически специализированным клеткам мозга. Логично было бы предположить, что существуют особые клетки, предназначенные для мышления. Не тут-то было. Наверное, никакой клад в мире не искали с таким старанием и такой тщательностью, как «клетки разума». В конце концов ученые пришли к выводу, что возможности мышления и памяти «не определяются анатомической специализацией» нейронов или каких-то частей функционирующей коры; что «мозг функционирует как целое и его различные участки взаимозаменяемы»; что «специализация клеток не дает преимуществ, когда дело идет об ассоциативных способностях».

Если бы клетки ассоциативной коры были узко специализированы, они не могли бы успешно заменять друг друга, а они заменяют.

Универсальность тех именно клеток, которые делают человека человеком разумным, определяя наше видовое своеобразие, является анатомической основой нашей универсальности в целом. Напомню, что человек отличается от всех других животных именно универсальной природой, в этом и заключено – парадоксально – наше видовое своеобразие.

И все-таки: наличествует ли в мозге человека нечто особенное, что является, вкупе с нейронами, анатомической основой разума? Особенное, постольку-поскольку ни нейроны сами по себе, ни их популяции не могут быть монопольной основой разума. Одной из основ разума они являются, с этим глупо спорить, но при этом не имеют критериального статуса. Судя только по ним, мы не можем понять, почему человек разумен, а животные – нет.

Ответ положительный. Человеческий мозг представляет собой дуальную систему, благодаря тому, что он сформировался из двух автономно работающих мозгов наших предков – неотенической формы дельфинид. Процесс сапиентации заключался не в росте массы мозга «мало-помалу» и не в специализации нейронов, а в формировании комиссуры, сферы контакта, обеспечивающей «узнавание» двумя Я друг друга. В результате у человека за миллионы лет эволюции сформировалась огромная комиссура: пучок волокон, соединяющий два полушария, бывшие некогда автономными органами управления организмом нашего животного предка.

Это самый большой интерфейс, который когда-либо создавала природа. Настолько огромный, что превосходит, возможно, все связи во Вселенной. Это и есть тот самый критериальный анатомический порог, тот «мозговой Рубикон», который безуспешно пытались выявить анатомы, нейрофизиологи, палеопсихологи, психолингвисты, антропологи, когда искали в клетках, в их специализации, в их количестве… И нигде не нашли пороговых значений.

Вот реальный порог, реальный эксклюзив человека, заключенный в мозге. Его уникальность заставляет видеть в мозолистом теле существенный анатомический признак разума, имеющий к тому же критериальный статус." (с)

ЗЫ Интерфейс мозга сходен с компьютерным, так, что наверное этот тезис имеет право на существование.

[egovoru.livejournal.com]

Угадал только наполовину, Фрэнк: годятся "Психология" и "Технологии", остальное - лишнее.

[egovoru.livejournal.com]

Не скажите: сознание может оказаться эмерджентным феноменом, который возникает в любой физической системе, достигшей, например, определенного уровня сложности.

[egovoru.livejournal.com]

Пожалуй, Вы правы: Силиконовая долина, конечно, и по-русски Силиконовая, но первая ассоциация с этим словом у нас совсем другая. Сейчас исправлю в тексте поста, спасибо!

[lj-frank-bot.livejournal.com]

Я подумаю.