Я насмерть поражен своим сознаньем

[egovoru]

Отношения между разумом и сознанием запутанные: кое-кто, как Роджер Пенроуз, считает, что это одно и то же; другие полагают, что это разные свойства человеческой психики. Даже если Пенроуз неправ, сознание, будучи отдельным свойством, может оказаться необходимым для работы человеческого интеллекта. А значит, тем, кто трудится над созданием ИИ, волей-неволей потребуется и машинное сознание. Кое-кто даже надеется перенести свое личное сознание в кремний и тем самым обеспечить себе бессмертие.

Уважаемый vsopvs подкинул мне обзор попыток создания искусственного сознания, на редкость толковый для такой скользкой темы. Автор, Джеймс Реджа, построил его по принципу воронки: сначала он – очень кратко – обрисовывает ландшафт философских представлений о сознании. Подавляющее большинство работающих над его компьютерным воплощением исходят из признания возможности физического объяснения сознания, а точнее – из предположения, что сознание есть следствие определенного функционального состояния физической системы.

Затем он – уже подробно – описывает конкретные модели сознания, используемые в таких работах: (1) глобальное рабочее пространство (global workspace); (2) интеграция информации (information integration); (3) внутренняя модель «я» (internal self-model); (4) высокоуровневые репрезентации (higher-level representations); (5) механизмы внимания (attention mechanisms). Автор считает их все комплементарными, но, например, модель (4) постулирует, что сознательная репрезентация информации обеспечивается локальной активностью нейросети, а бессознательная – глобальной, что вроде бы не стыкуется с моделями (1) и (2). Модели (2) и (5) мы уже немного обсуждали в этом журнале.

Согласно самому распространенному представлению, сознание – это наличие субъективных ощущений, и автор его разделяет. Он, конечно, отдает себе отчет, что моделирование сознания в этом смысле – занятие неблагодарное: мы ведь никак не можем установить, есть ли у машины субъективные ощущения. А значит, судить об успехе мы можем только по внешним, косвенным признакам сознательности. Все рассмотренные автором модели воспроизводят хотя бы некоторые из таких признаков. Проблема, однако, в том, что мы толком не знаем, насколько эти признаки действительно необходимы и достаточны для наличия субъективных ощущений. А выяснить это можно, только изучая объекты, у которых мы допускаем наличие таких ощущений просто по аналогии с нами самими – то есть, изучая других людей, а не машины.

Так есть ли хоть какая-то польза от попыток создания искусственного сознания, учитывая, что пока этот проект – из серии «поди туда, не знаю куда, принеси то, не знаю что»? Оптимист автор считает, что безусловно есть, потому что подобные разработки могут помочь созданию если и не сознательных, то по крайней мере более «умных» машин. Как в том анекдоте: если и не догоним, так хоть согреемся :)

Единственная видеозапись публичного выступления Джеймса Реджа, которую мне удалось найти на ютьюбе

Comments

[lj-frank-bot.livejournal.com]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: Общество (https://www.livejournal.com/category/obschestvo?utm_source=frank_comment), Происшествия (https://www.livejournal.com/category/proisshestviya?utm_source=frank_comment), Психология (https://www.livejournal.com/category/psihologiya?utm_source=frank_comment), Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[egovoru.livejournal.com]

Угадал только наполовину, Фрэнк: годятся "Психология" и "Технологии", остальное - лишнее.

[lj-frank-bot.livejournal.com]

Я подумаю.

[skogar.livejournal.com]

-- мы ведь никак не можем установить, есть ли у машины субъективные ощущения.

Казалось бы, а откуда им вообще взяться? Всё, что собрано из разного рода железа, ими не может обладать: как соберут, каким софтом начинят - так и будет работать и "чувствовать"; или это вызывает сомнения?

[greygreengo.livejournal.com]

Когда шина обмена содержит проводов столько, чтобы хватило на распараллеливание потоков вычислений от довольно массивной неполиномиальной задачи, то это с неизбежностью утыкается на паразитные наводки и тепловые шумы. Что и приводит к эффекту сомнения в, собственно, правильности алгоритма.

[skogar.livejournal.com]

Т.е. по-Вашему сознание - это что-то типа вторичного продукта, что ли?

[egovoru.livejournal.com]

Не скажите: сознание может оказаться эмерджентным феноменом, который возникает в любой физической системе, достигшей, например, определенного уровня сложности.

[skogar.livejournal.com]

Главное - больше спирта заливать: спьяну любая железка соображать начнёт.

[staerum.livejournal.com]

"Эмерджентные феномены" это концепция позволяющая сохранять редукционизм при этом замечая, что на каждом новом уровне происходит что-то принципиально новое.

[Алексей Орлов (from livejournal.com)]

>> Не скажите: сознание может оказаться эмерджентным феноменом, который возникает в любой физической системе, достигшей, например, определенного уровня сложности.

Вполне возможно. Как мы об этом узнаем, вот вопрос. Лем, кстати, что-то такое писал. Солярис, по всем косвенным признакам, не глупее людей был. А пообщацца не вышло, и вовсе не по глупости или недобросовестности участников.

[victor-chapaev.livejournal.com]

свое личное сознание в силикон

В кремний, все же... Силикон в грудях и попах, в основном

[egovoru.livejournal.com]

Пожалуй, Вы правы: Силиконовая долина, конечно, и по-русски Силиконовая, но первая ассоциация с этим словом у нас совсем другая. Сейчас исправлю в тексте поста, спасибо!

[staerum.livejournal.com]

Пока горящий свет субъективного переживания воспринимается как эпифеномен логика построения ИИ понятна.
Мне интереснее куда пойдёт мысль если переопределить основание с материализма на нейтральный монизм или идеализм.
To speak of creating consciousness in a machine one must assume consciousness to be, well, 'creatable.' Something can only be created if it wasn't there in the first place. In other words, engineers assume that consciousness isn't the primary aspect of reality, but a secondary effect generated by particular arrangements of matter.(с)

Не конструировать сознание, а ловить, приземлять его базовое присутствие во вселенной в некоторую структуру.

[skogar.livejournal.com]

-- Не конструировать сознание, а ловить, приземлять его базовое присутствие во вселенной в некоторую структуру.

Ловить сачком? :)

[staerum.livejournal.com]

Если паттерн сачка вам кажется подходящим, то можно и сачком.
Ловить на паттерн потока информационной трансформации, которую обеспечивает нервная ткань, насколько мы её пониманием — это ближе к канону. Вообще надо пробовать ловить на что ловится. Хоть на генератор случайных чисел.

[egovoru.livejournal.com]

"engineers assume that consciousness isn't the primary aspect of reality, but a secondary effect generated by particular arrangements of matter"

Ну да, именно так. Автор об этом не пишет, но при этом к тому же подразумевается, что сознание - это именно человеческое свойство, следовательно, до появления человека сознания не было. Конечно, кое-кто пытается расширить понятие сознания с тем, чтобы включить в него не то что животных, но даже и атомы, но мне кажется, это тупиковый путь (https://egovoru.livejournal.com/48400.html).

"Мне интереснее куда пойдёт мысль если переопределить основание с материализма на нейтральный монизм или идеализм"

Автор пишет, что среди тех, кто пытаются создать искусственное сознание, идеалистов мало, и не упоминает никаких имен. А что, Вы знаете таких людей? Интересно, как выглядят их попытки?

[vitus_wagner]

Вот нахрена на людях зацикливаться?

Возьмем кошку. Есть вроде как консенсус что разума у кошки нет. (хотя отдельные кошатники может и не согласятся).
Субъективные ощущения точно есть.

А может ли кошка "потерять сознание", или "пребывать в бессознательном состоянии"?

Вроде как да. Вот общий наркоз ей сделать, как назвать то состояние, в котром она окажется?

Получается так, что разума-то нет, а сознание - еще как есть.

[staerum.livejournal.com]

И так до самой амёбы, которая в среде градиентом кислотности начинает себя вести. Небось тоже этосамое целесообразное переживание её туда устремляет, а не какая-нибудь химическая реактивность поверхности.

[egovoru.livejournal.com]

"Субъективные ощущения точно есть"

А как же мы можем быть в этом уверены? То, что кошка без накроза ведет себя иначе, чем под наркозом, еще не исключает, что она - зомби :)

[Алексей Орлов (from livejournal.com)]

Кошке можно прищемить хвост дверью. Как раз тут есть разумная уверенность, что она чувствует ровно то же, что человек почувствовал бы на ее месте.

А если даже сознательный ИИ начнет бояться отключения электричества и убедительнейшим образом орать от пролития кофе на клавиатуру, как узнать, что ему правда страшно и больно?

[greygreengo.livejournal.com]

Сознание это рефлекс или рефлекс с искажением, возникающим вследствии осознания отделения себя от внешнего явления?

ЗЫ И каков тормозной механизм для этого? :)

[vsopvs.livejournal.com]

примерно такой же, как в случае двух зеркал напротив друг друга

сигнал затухает

[egovoru.livejournal.com]

Рефлексы можно выработать даже у инфузории, а вот в сознании ей большинство из нас все же отказывает, так что называть сознание рефлексом вроде как-то не с руки?

[evgeniirudnyi.livejournal.com]

Я писал про этот обзор. В нем нет экстерналисткого подхода, хотя такие работы среди робототехников также есть.

[egovoru.livejournal.com]

А где же ссылка на Ваши заметки? Мне было бы интересно взглянуть. И что такое "экстерналисткий подход"? Мне понравилось, что автор постарался объективно описать общую ситуацию в этой области, а не изложить только свою любимую модель.