egovoru | Я насмерть поражен своим сознаньем (Reply)

Отношения между разумом и сознанием запутанные: кое-кто, как Роджер Пенроуз, считает, что это одно и то же; другие полагают, что это разные свойства человеческой психики. Даже если Пенроуз неправ, сознание, будучи отдельным свойством, может оказаться необходимым для работы человеческого интеллекта. А значит, тем, кто трудится над созданием ИИ, волей-неволей потребуется и машинное сознание. Кое-кто даже надеется перенести свое личное сознание в кремний и тем самым обеспечить себе бессмертие.

Уважаемый vsopvs подкинул мне обзор попыток создания искусственного сознания, на редкость толковый для такой скользкой темы. Автор, Джеймс Реджа, построил его по принципу воронки: сначала он – очень кратко – обрисовывает ландшафт философских представлений о сознании. Подавляющее большинство работающих над его компьютерным воплощением исходят из признания возможности физического объяснения сознания, а точнее – из предположения, что сознание есть следствие определенного функционального состояния физической системы.

Затем он – уже подробно – описывает конкретные модели сознания, используемые в таких работах: (1) глобальное рабочее пространство (global workspace); (2) интеграция информации (information integration); (3) внутренняя модель «я» (internal self-model); (4) высокоуровневые репрезентации (higher-level representations); (5) механизмы внимания (attention mechanisms). Автор считает их все комплементарными, но, например, модель (4) постулирует, что сознательная репрезентация информации обеспечивается локальной активностью нейросети, а бессознательная – глобальной, что вроде бы не стыкуется с моделями (1) и (2). Модели (2) и (5) мы уже немного обсуждали в этом журнале.

Согласно самому распространенному представлению, сознание – это наличие субъективных ощущений, и автор его разделяет. Он, конечно, отдает себе отчет, что моделирование сознания в этом смысле – занятие неблагодарное: мы ведь никак не можем установить, есть ли у машины субъективные ощущения. А значит, судить об успехе мы можем только по внешним, косвенным признакам сознательности. Все рассмотренные автором модели воспроизводят хотя бы некоторые из таких признаков. Проблема, однако, в том, что мы толком не знаем, насколько эти признаки действительно необходимы и достаточны для наличия субъективных ощущений. А выяснить это можно, только изучая объекты, у которых мы допускаем наличие таких ощущений просто по аналогии с нами самими – то есть, изучая других людей, а не машины.

Так есть ли хоть какая-то польза от попыток создания искусственного сознания, учитывая, что пока этот проект – из серии «поди туда, не знаю куда, принеси то, не знаю что»? Оптимист автор считает, что безусловно есть, потому что подобные разработки могут помочь созданию если и не сознательных, то по крайней мере более «умных» машин. Как в том анекдоте: если и не догоним, так хоть согреемся :)

Единственная видеозапись публичного выступления Джеймса Реджа, которую мне удалось найти на ютьюбе