Рай – в конечном достиженьи духом вечного безличья

[egovoru]

Вторая книжка современного пифагорейца Макса Тегмарка называется «Life 3.0» (есть и русский перевод, но, кажется, небесплатный). «Жизнь 1.0» характеризуется только дарвиновской эволюцией, «Жизнь 2.0» (наша с вами) – еще и культурной, ну, а «Жизнь 3.0» будет обладать возможностью дизайна не только своего программного обеспечения, но и своего «железа».

На одно возникшее у меня замечание к этой схеме автор отвечает тут же в тексте: да, нашу способность протезировать собственные зубы и сердечные клапаны можно назвать «Жизнью 2.1». Но остается другое, более существенное. Верно, что освоение, например, иностранного языка не требует изменений в нашей ДНК. Но разве только ДНК составляет наше «железо»? А где же в этой схеме учитываются те – вполне физические – изменения числа и структуры синапсов, которыми сопровождается приобретение нового навыка? Так что освоение иностранного языка никак нельзя назвать переписыванием только программы. Другое дело, что, как и в случае с зубными протезами, связанные с ним изменения в структуре мозга не слишком радикальны – но и радикальные изменения, о которых мечтает Тегмарк, не были бы какой-то принципиально новой ступенью.

Столь же проблематична и предложенная Тегмарком классификация мнений об искусственом интеллекте, но по другой причине. Заметьте, речь идет именно об «общем интеллекте», не о способности решать узкий класс конкретных задач. Ну, а как же выяснить, превосходит ли ИИ в этом отношении человеческий разум или нет, если возможных задач – бесконечное множество? На любую задачу, которую ИИ решит успешнее человека, найдется новая задача, для которой он может оказаться непригодным. А раз так, то вся эта схема (как и генерализованный тест Тьюринга, кстати), летит к чертям.

Две иллюстрации из книжки Макса Тегмарка.
Слева – три версии жизни, справа – классификация мнений об ИИ

К счастью, ни одна из этих картинок не важна для основного содержания книжки Тегмарка, посвященной проблеме безопасности ИИ. Я совершенно согласна с автором, что предпринимать шаги для обеспечения этой безопасности нам нужно уже сейчас, независимо от того, насколько далеко нам удастся продвинуться в усовершенствовании ИИ.

Comments

[olaff67.livejournal.com]

Нет, одним нигилизмом тут не отделаться. Квалия в обсуждении возможности возникновения личности и воли не нужна, это понятие придумано не для онтологии субъекта, а для гносеологии. Аналитическая философия к метафизике относится плохо.

Но звучит умно, как и менталитет.

[skogar.livejournal.com]

Вы понимаете квалиа иначе, чем я описал чуть выше? Если их понимать таким образом, то и они существуют вместе с волей "в составе" разума.

[olaff67.livejournal.com]

Там много к чему есть вопросы. "Воля предшествует внешнему воздействию" — если только во временном (и не всегда), но не причинном смысле.
Квалиа же для меня остаются вне проблемы возникновения разума и личности, так как это понеятие вообще не имеет отношения к этой проблеме. Оно же введено для описания и обобщение, т.е. оно в хорошем смысле ярлык, обозначающий совокупность качеств и оттенков восприятия — чтобы их не перечислять каждый раз.
Я думаю, что эти самые квалиа возможны только постериори — уже при наличии разума и воли.

[skogar.livejournal.com]

Так, как я их описал - однозначно имеют самое прямое отношение к проблеме. (Может быть их понимают и иначе, но дело не в терминологии, а суть я объяснил.) Но Вы видимо не поняли то, что я сказал.

Действия человека (пусть не все) могут быть разумными, а тогда им предшествует воля - как во временном, так и в причинном смысле.

Квалиа - это "в обратном направлении". Идёт внешнее воздействие, человек воспринимает его органами чувств, но здесь пока разум ещё не нужен, это как сенсор у робота. То, как "сигнал" доходит и до разума, и есть квалиа.

[olaff67.livejournal.com]

Ну а как можно понимать значение термина, который услышал в первый раз, кроме как через определения, данные ему при возникновении?
И опять же: тот способ, которым сигнал доходит до разума, лежит вне онтологии разума. Возможно, что он относится к технической и инженерной проблеме "как создать разум", хотя я и в этом случае сомневаюсь в пользе этого термина — он же всего лишь ссылка на некую совокупность восприятий, и его использование в конструировании бесполезно. Как и упомянутый менталитет, квалиа "экономит" время при рассмотрении иных проблем.

[skogar.livejournal.com]

Моя мысль состоит в том, что квалиа имеют значение, аналогичное значению воли, только "в другом направлении". Разумное существо имеет волю и квалиа, которые из всякого "железа" не сконструировать.