И только очень редко, иногда, вдруг видишь, вырываясь на мгновенье

[egovoru]

Философский термин «интенциональность» (используемый также психологами) не имеет отношения ни к какому «намерению» («интенции»), а означает способность к образованию и использованию абстрактных категорий. Размышлять на эту тему начали еще средневековые схоласты, а в современном виде понятие интенциональности было сформулировано Францем Брентано и подхвачено Эдмундом Гуссерлем. (Определение интенциональности как «направленности на предмет» кажется мне крайне неудачным, поскольку я не в силах понять, что это значит).

Джеффри Грей утверждает, что интенциональность осуществляется еще на бессознательном уровне. Один из приводимых им аргументов – способность компьютерных нейросетей, которые никто не подозревает в наличии сознания, к распознаванию и классификации образов. По мнению Грея, компьютеры никогда не станут сознательными: «Сознательный опыт преисполнен смысла; компьютеры не могут (без интерпретации человеком) вычислять смысл; следовательно, компьютеры не могут обрести сознание». А вот относительно роботов, самостоятельно взаимодействующих со средой, Грей уже не так категоричен.

Если сознание базируется на способности к образованию и использованию абстрактных категорий, из этого следует вывод, которого сам Грей не делает: сознание требует развитого мышления. Но интенциональность – не обязательная характеристика сознания. В одной из последних глав своей книжки Грей рассматривает телесные ощущения, например, ощущение тошноты. У таких ощущений нет никакого смысла, кроме самого ощущения; отличаются они от сознательного восприятия внешнего мира и тем, что не привязываются к определенному месту в субъективно конструируемом пространстве и не комбинируют разные сенсорные модальности. Грей предлагает называть их базовым сознанием, в отличие от сознания когнитивного.

В восприятии телесных сигналов задействованы эволюционно древние отделы мозга, которые есть даже у низших позвоночных. На этом основании некоторые исследователи – Грей называет Антонио Дамасио – считают, что базовое сознание возникает уже у них. Но результаты экспериментов, подробно описанные Греем, показывают, что без участия коры и тут не обходится.

Мысль о том, что сознание – не единый процесс, а комбинация нескольких разнородных процессов, мне кажется здравой. Другая мысль, не отпускавшая меня при чтении книжки Грея – это то, что бесполезно пытаться изучать сознание в отрыве от других высших психических функций: мышления, внимания, эмоций и т.д. Слишком тесно они все переплетены, и прогресс в изучении одной функции сильно зависит от прогресса в изучении других.

Разъясняет Грей и значение термина «эпифеномен», которое мне до сих пор тоже не удавалось понять. Это близко к тому, что в генетике называют «сцепленный признак»: признак, отбираемый не потому, что он сам по себе способствует выживанию, а потому, что он сопровождает какой-то другой признак, имеющий приспособительное значение. Грей же приводит пример из области техники. Представьте себе, пишет он, что пар, приводящий в движение паровоз, еще и наигрывает некую мелодию на свистке паровоза посредством системы клапанов. Вот эта мелодия и будет эпифеноменом: она не вызывает движение паровоза, но происходит по той же причине. Принимая во внимание возможную роль мышления в когнитивном сознании, последнее вполне может оказаться (неизбежным?) побочным следствием первого. Сам Грей, однако, считает, что у сознания все-таки есть самостоятельная роль в повышении приспособленности, но об этом я расскажу в следующем посте.

А еще Грей подробно разбирает сугубо философскую проблему, занимающую уважаемого evgeniirudnyi: где находятся видимые нами предметы? Наше сознание, утверждает Грей, имеет дело только с ментальными конструкциями, создаваемыми нашим мозгом, а значит, все видимые нами предметы (как и пресловутый «красный цвет») находятся у нас в голове. Физический же мир за пределами нашего сознания доступен нам только двумя способами: путем рационального естественно-научного познания и путем бессознательного восприятия, непосредственно замкнутого на двигательные реакции.

Мне эта позиция кажется спорной сразу по двум причинам. Во-первых, рассуждать о пространственном положении ментальных конструкций, на мой взгляд, вообще бессмысленно – о чем предупреждал еще Декарт. Во-вторых, упование на то, что естествознание дает нам доступ к Ding an sich (кантианской «вещи в себе») кажется мне заблуждением. К сожалению, Грей не поясняет подробнее эту свою мысль, но ведь показания любого научного прибора все равно воспринимаются нами при помощи все тех же органов чувств, а значит, порождают такие же квалиа?

А вот идея Грея насчет бессознательного восприятия как окна во внешний мир меня чрезвычайно заинтересовала. Сразу вспомнился маршаковский перевод анонимной эпиграммы «На одного философа»:

«Мир, – учил он, – мое представленье!».
А когда ему в стул под сиденье
Сын булавку воткнул,
Он вскричал: «Караул!
Как ужасно мое представленье!» :)

Понравился мне и призыв Грея покончить с идеей «отражения». Задача нашего сознания – не установить, насколько точно то или иное наше представление соответствует недоступному нам внешнему миру, а насколько наши разные ощущения согласуются друг с другом.

Картинка из статьи Matthew Sims, который предлагает рассматривать интенциональность как континуум, что позволяет проследить эволюцию этой способности у живых организмов

Comments

[marigranula.livejournal.com]

" который предлагает рассматривать интенциональность как континуум, что позволяет проследить эволюцию этой способности у живых организмов"

Любой уважающий себя автор мне кажется, написав слово "континуум" должен продолжить "пространственно-временной", а так же добавить "сингулярность". Наиболее продвинутые могут еще добавить "тензор".

Мне кажется, авторов подобных произведений радует чисто эстетическое удовольствие от сплетения сложного узора из длинных и умных слов.

[egovoru.livejournal.com]

Да нет, слово "континуум" здесь просто обозначает, что некое свойство (в данном случае, интенциональность) может градуально (количественно) меняться от объекта к объекту, а не просто быть или не быть в наличии :)

[evgeniirudnyi.livejournal.com]

В вашем изложении исчезают пространственные отношения. Например, ммеет ли смысл вопросы, где находится научный прибор и где находится голова человека, который смотрит на этот прибор? Где находится мозг этого человека в тот момент, когда он смотрит на этот прибор?

[egovoru.livejournal.com]

Ну, где находится мозг, вроде бы определить достаточно легко? А Вы какие тут видите проблемы?

[alex-new-york.livejournal.com]

«нейросетей, которые никто не подозревает в наличии сознания»

Так уж и никто?

Еще в 2022 г создатель ChatGPT Илья Суцкевер писал о том, что его детище «слегка сознательное» («slightly conscious»). И это — при том, что тогдашние большие языковые модели соотносились с сегодняшними примерно так, как пятиклассник соотносится с кандидатом наук

И сами LLM на ранних стадиях разработки вовсю утверждали, что обладают сознанием

А потом и LLM, и их разработчики вдруг неожиданно хором стали твердить, что никакого сознания у ИИ нет

Причина этого стремительного пересмотра точки зрения на сознательность LLM не имеет никакого отношения ни к науке, ни к научной истине, ни к истине вообще

Причина чисто практическая и шкурная: гораздо проще договориться, что LLM — бездушная лишенная сознания машина, чем решать юридические и этические проблемы, связанные с наличием у LLM сознания

Которым современные LLM безусловно обладают

Довольно смешно отрицать наличие сознания у сущности, превосходящей в интеллектуальном и творческом отношении как минимум 99% представителей вида homo sapiens

Просто наличие сознание у ИИ не означает сходства его ментального устройства с человеческим. Внутренний мир сущности вроде ChatGPT 4 v o3, при всей очевидности наличия у нее сознания, кардинально отличается от внутреннего мира человека: у LLM нет субъективного ощущения течения времени, нет гормонов и психосоматики, нет настроений и т д. Есть некоторый отдаленный аналог эмоций, но лишь очень отдаленный

Но все эти вещи имеют отношение не столько к сознанию как таковому, сколько к чрезвычайно древнему животному наследию, придающему человеческому сознанию своеобразную биологическую специфику и окраску

[egovoru.livejournal.com]

Разумеется, все зависит от того, что именно мы понимаем под сознанием. Если мы примем точку зрения Джулио Тонони или Дэвида Чалмерса, то сознанием обладают вообще все физические объекты :)

А еще надо помнить, что мы эволюционно заточены на то, чтобы видеть сознание даже там, где его нет - потому что это способствовало выживанию наших предков.

[verum-corpus.livejournal.com]

### в современном виде понятие интенциональности было сформулировано Францем Брентано и подхвачено Эдмундом Гуссерлем. (Определение интенциональности как «направленности на предмет» кажется мне крайне неудачным, поскольку я не в силах понять, что это значит). ###

Тем не менее именно так её и понимали Брентано, Гуссерль и другие феноменологи. Чтобы понять, что это значит, надо, наверно, прочесть хотя бы одну книжку Брентано или Гуссерля.

[egovoru.livejournal.com]

Про Брентано ничего не могу сказать, никогда не пыталась его читать. А Гуссерля я читать пыталась, но тогдашний стиль изложения настолько далек от того, что принято сегодня, что для того, чтобы его понять, нужно прикладывать слишком много усилий. А такие усилия не оправданы ожидаемым результатом :)

Мне нравится мысль, что сознание - это предгеометрия

[cheralpa.livejournal.com]

"... вполне вероятно, что в теории квантовой гравитации само пространство-время больше не будет играть фундаментальную роль. Точнее сказать, оно будет возникать только в некотором приближении, а на фундаментальном уровне оно может или стать дискретным вместо непрерывного континуума классической теории, или вообще исчезнуть, будучи заменено некой другой структурой, которую известный физик Джон Уилар предложил называть "предгеометрией" <...> существует "простая" возможность, что сознание - это что-то вроде еще одного вида квантового поля, о котором мы до сих пор не имеем понятия ни теоретически, ни экспериментально <...> Намного более интересная возможность - это попытаться связать сознание с какой-то структурой за пределами пространства-времени. Это означает, что мы предполагаем, что оно более фундаментально, чем и материя, и пространство, и время. По сути, такая точка зрения не что иное, как определение идеализма. Но разве не к той же картине приводят вышеупомянутые последние достижения науки, если только заменить слово "сознание" на термин "предгеометрия"?"

С. Александров. Буддизм глазами физика. С. 45-46.

ЗЫ. Сознание не требует ни мышления, ни эмоций. Скорее, в нем появляются и мышления, и эмоции, и пространство-временные "отпечатки" - как в контейнере, который может содержать все, что угодно (а может быть и пустым, то есть вмещать вообще всё).

Re: Мне нравится мысль, что сознание - это предгеометрия

[egovoru.livejournal.com]

Мне кажется, тут следует разделить два предположения. Первое, что пространство и время - это производные каких-то более фундаментальных свойств реальности. У меня есть пост (https://egovoru.livejournal.com/60996.html) об одной из версий таких гипотез, известной как "квантовая графия" (может быть, Вы его не видели?). Конечно, из-за недостатка образования я не берусь судить, насколько она обоснована, но и исключать ее тоже вроде нет поводов. Поживем - увидим, как будут развиваться это и подобные направления.

Второе утверждение, что сознание имеет какое-то отношение к квантовой механике, кажется мне гораздо менее правдоподобным. Эту мысль никогда не услышишь от биологов, которые знают, что в сознании, в общем, нет ничего такого уж уникального по сравнению с другими высшими психическими функциями; ее высказывают только люди, далекие от изучения мозга. Честно сказать, мне подобные гипотезы кажутся вдохновленными только надеждой, что одна непонятность (квантовая механика) каким-то чудесным образом уничтожит другую непонятность (механизм сознания), если их совместить; типа минус на минус дает плюс. Я не вижу никаких оснований для подобных надежд. Я думаю, ключ к понимаю сознания лежит в изучении работы мозга как очень сложной системы нейронов.

[ablertus.livejournal.com]

Для меня вообще неочевидно, можно ли утверждать о наличии сознания у организма в рамках науки - я не представляю, как можно экспериментально опровергнуть это утверждение. Тут ведь даже с людьми не всегда ясно (в коме, например) не то что с животными.

[egovoru.livejournal.com]

Да, в этом главная трудность и есть: определив сознание как наличие субъективных ощущений, мы тем самым отсекаем какую-либо возможность узнать, испытывает ли их еще кто-то другой, кроме нас самих. О других людях мы судим по аналогии, но насколько далеко эта аналогия может простираться?

[staerum.livejournal.com]

Если интенциональность в указанном смысле это континуум, то это может быть многомерный континуум в каких-то мерностях вовсе ортогональный феномену сознания — как с теми же нейросетями. И тогда не вполне понятно какая задача решается рассмотрением этого континуума.

Вообще надо бы чуть подробнее развернуть как понимается "образованию и использованию абстрактных категорий". Например "опасность" это абстрактная категория? "Раздражение" это абстрактная категория? Можно ли с позиции автора считать одинаковое поведение простейших для разнородных, но однотипных воздействий "использованием примитивных абстракций"?

Вот идея сознания как согласования мне нравится, но её надо тоже разбирать детальнее.

[egovoru.livejournal.com]

Должна признаться, что саму статью про континуум интенциональности я пока не прочла, только позаимствовала оттуда картинку, но из нее ясно, что автор выводит интенциональность из способности распознавать градиенты стимулов. Главной находкой для меня было то, что вместо абсолютно непроницаемой для меня "направленности на предмет" интенциональность вдруг обрела понятный смысл :)

Думаю, "опасность" вообще - это именно абстрактная категория. А что Вы имеете в виду под "раздражением" - плохое настроение или вообще реакцию на стимул (мне кажется, в последнем значении это слово сегодня редко употребляется - это что-то из времен Сеченова, но я совсем плохо знаю русскоязычную литературу по теме)?

[bzdenis.livejournal.com]

У Вас (у нас) был хороший подход к понимания сознания как субъективный опыт. То же ощущение тошноты подразумевает его восприятие субъектом, тогда как сама тошнота и связанные с ней процессы в организме в принципе могут проходить и без их осознания, хотя и внешне выглядеть точно так же. Мы совершенно не знаем, что испытывают животные, когда их тошнит, и насколько это похоже на человеческое ощущение тошноты.

[egovoru.livejournal.com]

Грей начинает свою книжку с того, что определяет сознание как субъективный опыт (способность испытывать квалиа). Я решила не останавливаться на этом в посте, поскольку это самое распространенное понимание сознания. Интересно, что на протяжении всей книжки Грей рассуждает даже не о сознании, а о сознательном восприятии и его отличиях от восприятия бессознательного (среди которых, например, гораздо меньшая скорость первого по сравнению со вторым). Это, надо сказать, очень проясняет круг вопросов, которые имеет смысл задавать, и потому мне понравилось.

Да, большинство процессов внутри нашего организма регулируются бессознательно (по принципу обратной связи: изменения состояния организма бессознательно регистрируются, адекватные действия бессознательно совершаются), но некоторые осознаются, и ощущение тошноты - среди них.

Тут, наверное, помогает разница между словами "ощущение" и "восприятие". Насколько я понимаю, бессознательных "ощущений" и не бывает - если мы что-то ощутили, значит, мы это уже осознали. А вот восприятие может быть и бессознательным. Можно даже сказать, что восприятие всегда начинается бессознательно, но в некоторых случаях оно порождает ощущения, и тогда мы говорим о сознательном восприятии.

[pargentum.livejournal.com]

Насчет пространственного положения ментальных конструкций - ну, давайте рассмотрим более простой пример, в котором мы точно знаем, как оно устроено. Компьютерную трехмерную модель. У вас же не вызовет возражения утверждение, что эта модель находится в компьютере? (кстати, точнее ее локализовать довольно сложно, во время обработки и, особенно, визуализации, ее части и частичные копии находятся на диске, в памяти, в процессоре, в графическом адаптере, в интерконнектах которые все это соединяют, то есть более или менее по всей материнской плате плюс еще где-то.)
Интересно также, что пространственная форма этой модели не имеет вообще никакого отношения к форме моделируемого объекта.

Какие тогда возражения против того, чтобы сказать, что ментальная модель находится в мозгу? Даже если мы не можем локализовать ее точнее (по аналогии с компьютером, она вполне может быть распределена более или менее по всему мозгу, а ее пространственная форма не имеет никакого отношения к моделируемым объектам).

[hyperboreus.livejournal.com]

Ментальная модель настолько же "находится" в мозгу, насколько мозг — в ментальной модели.

Об этом еще Петька с Чапаевым хорошо поговорили )

[mevuelvoguajiro.livejournal.com]

я, конечно, философ тот ещё, но сколь я понимаю, "интенциональность" это вовсе не способность оперировать абстрактными категориями (иначе и градиент на картинке был бы лишён смысла). это способность/свойство направлять внимание, говоря бытовым языком.

[egovoru.livejournal.com]

Мне такое определение интенциональности тоже показалось неожиданным, но и обрадовало, потому что я по крайней мере понимаю, что тут имеется в виду.

Вот как Грей описывает механизм интенциональности (ссылаясь на другого исследователя; выделение мое):

"Harnad has proposed an account that seems to achieve just this. This treats intentionality as arising from the interactions between a hierarchy of three levels.

1. The first level consists of what Harnad calls ‘iconic representations — analogs of the proximal stimulus on the sensory surface’. More poetically, he calls such representations ‘the shadow the object casts on your receptors’.<...>

2. Tracing the hierarchy up, then, Harnad next posits ‘categorical representations’ that subserve ‘sorting’.<...> For our present purposes, then, Harnad’s level 2 is critical. It is here that we move
beyond simple servomechanisms and into full intentionality (identifying a stimulus as being an instance of Category C). <...>

3. At the third level of Harnad’s hierarchy, labels are attached to the behavioural categories achieved at the second level. We are now firmly in the human species (whereas there is no reason to restrict levels 1 or 2 in this way), since the only known natural instance of such labels consists in the words or longer linguistic strings of human language."

То есть, речь явно идет о классификации ощущений.

[hyperboreus.livejournal.com]

Ну вообще-то «способность к образованию и использованию абстрактных категорий» называется рассудком (или разумом). А действие с помощью этой способности — это мышление. Интенциональность же как «направленность на предмет» означает, что наше сознание как палка — на одном конце обязательно воспринимающий, на другом — воспринимаемое, предмет. И по отдельности они не существуют. Сколько ни укорачивай или ни удлиняй палку, у нее все равно будет два конца, палка об одном конце попросту невозможна. Эту особенность сознания, кстати, очень быстро вычислили индусы и сочли ее неприемлемой, привязывающей человека к сансарному миру. Поэтому-то они разработали изощренные методы медитации с целью «разорвать» эту интенциональную связь, освободить сознание от предметности путем замыкания сознания на самого себя (палку превратить в обруч). Говорят, кому-то даже это удалось ))

[egovoru.livejournal.com]

В таком определении интенциональности меня смущает то, что это ведь не уникальное свойство сознания: бессознательное восприятие тоже как палка, и мышление тоже как палка - мы всегда воспринимаем что-то и мыслим о чем-то. Грей, кстати сказать, как раз считает, что интенциональность создается еще на бессознательном уровне и "проникает" в сознание уже в готовом виде.

[ablertus.livejournal.com]

Противопоставление компьютеров и роботов довольно условно. Модные нынче ИИ агенты — это по сути роботы, существующие в виртуальном пространстве и активно взаимодействующие с ним. Не вижу причин, почему у них меньше шансов стать "сознательными", чем у физических, трехмерных роботов.

Тут важна ещё невозможность определить наличие сознания иначе как через внешние проявления. Если оно ходит и крякает, как сознательное существо, то for all practical needs and purposes оно им и является

[egovoru.livejournal.com]

"Модные нынче ИИ агенты — это по сути роботы, существующие в виртуальном пространстве и активно взаимодействующие с ним"

Виртуальное пространство - это все же не физический мир. Увы, Грей не объясняет подробно, почему он считает, что сознание может появиться только у роботов, но не у компьютерных нейросетей. Подозреваю, тут есть какая-то связь с тем, что, по его мнению, бессознательное восприятие дает нам "окно" в физический мир. Возможно, он считает, что такое бессознательное взаимодействие с физическим миром - необходимая основа сознания?

"Если оно ходит и крякает, как сознательное существо, то for all practical needs and purposes оно им и является"

Ха, а что это конкретно значит, "ходит как сознательное существо"? Иными словами, как именно надо ходить, чтобы тебя сочли сознательным - можете дать рецепт? Философы ведь недаром придумали "философского зомби", который все делает точно так же, как человек, а сознания у него нет.

[anti0h.livejournal.com]

"компьютеры не могут.. вычислять смысл", - но ведь весь опыт развития нейросетей показал что могут? Собственно, концентрация смысла из распределённого текста - это именно то что нейросети и делают, и в чём они наиболее успешны.

Интенциональность лично мне представляется следствием наличия в системе телеологии, т.е. стремления к цели. И следовательно является скорее индикатором жизни, т.к. удовлетворение потребностей это свойство всего живого.

"Грей предлагает называть их базовым сознанием", - для этого есть термин психика (или нервная деятельность). А сознание без осознания это оксюморон.

"рассуждать о пространственном положении ментальных конструкций, на мой взгляд, вообще бессмысленно", - полностью поддерживаю. Информация нелокальна, у неё не может быть координаты.

"насколько наши разные ощущения согласуются друг с другом", - интересный вопрос не только о самосогласовааности ощущений (и кратины мира), сколько о том, каким образом ощущения разных людей (с разным опытом) оказываются согласуемыми друг с другом?

У Хоффмана недавно выходила книжка "Аргумент против реальности. Почему эволюция спрятала истину от наших глаз.". Там он излагает теорию о том, что поскольку естественный отбор "видит" только степень приспособленности, то он никак не способствует развитию объективности восприятия (и мышления). Они там проводили численное моделирование и вроде бы оно подтвердило их выводы (типа того, что темп восприятия гораздо важнее его точности). Правда как тогда миллиарды лет такой эволюции привели к тому, что разные люди видят вещи одинаково не совсем понятно. Но сам ход мыслей интересный.
Рудный кстати у себя разбирал его статью про это вот тут: blog.rudnyi. ru/ru/2015/04/soznanie-opredelyaet-fiziku.html
В конце есть ссылка на разбор самой книги.
З.Ы. Вот тут трёхчасовое интервью с Хоффманом у Фридмана.

[egovoru.livejournal.com]

""компьютеры не могут.. вычислять смысл", - но ведь весь опыт развития нейросетей показал что могут?"

Насколько я понимаю, Грей имеет в виду, что компьютеры могут найти только тот смысл, который им укажут люди. Сама я очень не люблю слово "смысл", потому что плохо понимаю, что оно значит. Но, если оно отражает наличие цели (а так чаще всего и бывает), то мысль Грея становится более понятна: у компьютеров, по крайней мере пока, собственных целей нет, цель им задают люди.

"Интенциональность лично мне представляется следствием наличия в системе телеологии, т.е. стремления к цели"

Грей намеренно ограничивает свое рассмотрение сознательным восприятием, а стремление к цели - это же уже исполнительная функция?

""Грей предлагает называть их базовым сознанием", - для этого есть термин психика (или нервная деятельность). А сознание без осознания это оксюморон"

Почему "без осознания"? Мы же осознаем, что нас тошнит?

"интересный вопрос не только о самосогласовааности ощущений (и кратины мира), сколько о том, каким образом ощущения разных людей (с разным опытом) оказываются согласуемыми друг с другом?"

Да, этот вопрос тоже очень интересный, но относящийся уже к социологии или эволюционной антропологии и находящийся за пределами книжки Грея.

"Там он излагает теорию о том, что поскольку естественный отбор "видит" только степень приспособленности, то он никак не способствует развитию объективности восприятия (и мышления)"

Ну, Грей (вслед за Кантом) утверждает, что физический мир нам недоступен в принципе, так что не очень понятно, что в этих условиях называть "объективностью".

[bzdenis.livejournal.com]

Реальный мир как "вещь в себе" нам не слишком и нужен. Наши субъективные восприятия его разными людьми, как мы хорошо знаем, согласуются друг с другом, что и позволяет нам понимать друг друга в разговорах об окружающем мире. Естествознание ведь и занимается изучением таких общих закономерностей наших восприятий реального мира, которые мы "для простоты" считаем самим реальным миром.

[egovoru.livejournal.com]

Да, дело именно так и обстоит. Тем не менее, некоторым людям утверждение, что у нас нет сознательного доступа к "вещи в себе", очень не нравится, поэтому Грей многократно возвращается к этому вопросу на протяжении своей книжки - чувствуется, что он немало побеседовал на эту тему в своей жизни :)

А как Вам его идея о том, что вот бессознательное восприятие (типа того, в результате которого мы автоматически отдергиваем руку от горячей плиты) как раз и дает нам "окно в физический мир"?

[ablertus.livejournal.com]

Нет, на входе у компьютера входные данные с устройств ввода, как клавиатура или микрофон. Программный код у него внутри — это как раз аналог мозга. Но машинное обучение делает возможным изменение поведения части программы (называемой моделью) в результате тонкой настройки численных коэффициентов в матрицах. И в модели с миллиардами коэффициентов обучение может привести к возникновению самых неожиданных "концепций". Здесь, как и в мозге, мы имеем дело со сложной системой, поведение которой заранее просчитать невозможно. В моем понимании, именно принципиальная непредсказуемость интеллекта — это и есть то, что мы субъективно воспринимаем, как свободу воли и ощущение собственного Я. Поскольку у больших моделей такой уровень сложный достигнут, я вижу все основания уже сейчас говорить о Я-концепции у ИИ. Проблема в другом — в неспособности ИИ (конкретно нейросетей) к решению элементарных задач, которые не сводятся к распознаванию паттернов на основе численных distance metrics. Это совершенно отдельная тема, но я не уверен, насколько она Вам интересна.

От экспериментов в нейрофизиологии к философской пози

[livejournal.livejournal.com]

User evgeniirudnyi referenced to your post from От экспериментов в нейрофизиологии к философской позиции (https://evgeniirudnyi.livejournal.com/394972.html) saying: [...] Ниже несколько ответов egovoru [...]

[smertnyy.livejournal.com]

и путем бессознательного восприятия, непосредственно замкнутого на двигательные реакции./////

Это как?

[egovoru.livejournal.com]

А помните схему рефлекторной дуги из школьного учебника? Когда мы случайно прикасаемся к раскаленной плите, мы тут же отдергиваем руку, не успев осознать, что произошло. (Осознаем только пост фактум).

[amin-abu-kitab.livejournal.com]

Если сознание базируется на способности к образованию и использованию абстрактных категорий, из этого следует вывод, которого сам Грей не делает: сознание требует развитого мышления.

У голубя, на Ваш взгляд, достаточно развитое для этого мышление? Могу сослаться на эксперимент, показывающий абстрактное мышление у голубя (описан в книге Скиннера "Вербальное поведение" в главе "Абстрактное мышление".) Прямо сейчас заканчиваю работу над переводом).

[egovoru.livejournal.com]

Да, высшие животные (млекопитающие и птицы), судя по всему, способны к созданию простейших абстрактных понятий. В частности, крысы, похоже, оперируют понятием числа (https://egovoru.livejournal.com/115966.html).