Не все постигнул ум надменный, не все светло для мудреца

[egovoru]

Бестселлер Ника Бострома (настоятельно рекомендованный мне уважаемым 109) в основном посвящен проблемам искусственного интеллекта, но в первых главах автор разбирает и возможные способы когнитивного усовершенствования биологического варианта.

Поскольку ~50% нашего ума обусловлены наследственностью, то положительный отбор естественно возникающих удачных генетических комбинаций должен дать желаемый эффект. Для ускорения процесса Бостром предлагает производить яйцеклетки не обычным путем, а превращая соматические клетки в стволовые и дифференцируя последние в яйцеклетки. Таким образом от одной женщины можно получить не ~350 яйцеклеток, как в норме, а практически неограниченное их число, и эта возможность уже была продемонстрирована на мышах.

Бостром даже приводит табличку, на сколько пунктов можно увеличить IQ в зависимости от строгости отбора. Осталось уговорить графа Потоцкого: а именно, выяснить, какие комбинации аллелей отвечают за наследование интеллекта, без чего вся эта возня не имеет смысла. Но ведь эффект комбинации может сильно зависеть от условий, с которыми ее носитель сталкивается в жизни – а разве мы в силах надежно контролировать все условия жизни наших детей? Не говоря уже о том, что иные комбинации, улучшая интеллект, могут подрывать здоровье или увеличивать агрессивность, и мы еще очень, очень нескоро в этом разберемся – тут ведь не обойдешься стадией яйцеклетки.

Другой рассматриваемый Бостромом путь к суперинтеллекту можно назвать гибридным: создание компьютерной модели человеческого мозга на основе предварительного сканирования его структуры. Автор надеется, что достаточно будет определить «местоположение отдельных нейронов и матрицу их взаимосвязей, а также частичную структуру их дендритных деревьев и, вероятно, некоторых переменных состояний индивидуальных синапсов».

Наивный! Для сколько-нибудь реалистической модели мозга нам потребуется не клеточный, а молекулярный и даже субмолекулярный уровень детализации: знание не только числа и распределения индивидуальных молекул рецепторов и ионных каналов каждого типа в мембране каждого нейрона, но и модификаций этих молекул (в частности, степени фосфорилирования, влияющего на функцию).

Наглядно демонстрирует эти трудности то, что у нас до сих пор нет реалистической компьютерной модели даже состоящего из <302 нейронов «мозга» нематоды C. еlegans, хотя его карту бостромова уровня мы составили уже много лет назад (302 – это общее число нейронов в теле гермафродита нематоды; большинство из них – в его «мозге», но сколько именно, я не знаю). А вот, кстати, наша бывшая биошкольница, а ныне нейрофизиолог, рассказывает на «Постнауке» о том, чем еще отличаются живые нейронные сети от компьютерных.

По поводу двух других биологических или полубиологических способов «поумнения» человечества и сам Бостром не питает особого энтузиазма. Киборгизация (создание нейро-машинного интерфейса) сопряжена со слишком большими техническими трудностями, но не дает явных преимуществ для создания суперинтеллекта, а объединение биологических мозгов в сети и организации чревато проблемами из-за неизбежных конфликтов между интересами сети в целом и ее отдельных элементов.

Реконструкция 0.0005 мм³ коры головного мозга мыши,
содержащего 400 тыс. синапсов (фото из статьи Motta et al. 2019).
«Коврик» на заднем плане – графическое представление коннектома,
совокупности связей между нейронами

Comments

[lj-frank-bot.livejournal.com]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: IT (https://www.livejournal.com/category/it?utm_source=frank_comment), Компьютеры (https://www.livejournal.com/category/kompyutery?utm_source=frank_comment), Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[egovoru.livejournal.com]

Совершенно верно, Фрэнк!

[lj-frank-bot.livejournal.com]

Замечательно

[maiorova.livejournal.com]

Господи, а зачем? Родине нужны уборщицы и солдаты (с).

[egovoru.livejournal.com]

Не скажите: если бы нам удалось переложить все рутинные, неприятные работы на роботов, мы бы все могли вести такой образ жизни, как античные философы - прогуливаясь между колонн и беседуя о возвышенных предметах :)

[maiorova.livejournal.com]

И кто будет сторожить сторожей, в смысле, обслуживать роботов?

[greygreengo.livejournal.com]

И чем случайней тем вернее рождаются стихи навзрыд... (с)

> Для сколько-нибудь реалистической модели мозга нам потребуется не клеточный, а молекулярный и даже субмолекулярный уровень детализации: знание не только числа и распределения индивидуальных молекул рецепторов и ионных каналов каждого типа в мембране каждого нейрона, но и модификаций этих молекул (в частности, степени фосфорилирования, влияющего на функцию)

Для того, чтобы описывать сложную систему, состоящую из большого количества подсистем с одинаковыми свойствами вовсе не обязательно отслеживать индивидуальные качества каждой подсистемы — вполне достаточно уловить статистический вклад от подсистем по вполне определенным параметрам. Модель реального газа вполне работает по данным температура-давление-плотность несмотря на то, что мы никогда не сможем узнать импульсы и координаты всех включенных в рассмотрение молекул.

ЗЫ С нейронными цепями и алгоритмами обучения принятий решений абсолютно аналогично.

[egovoru.livejournal.com]

"вовсе не обязательно отслеживать индивидуальные качества каждой подсистемы — вполне достаточно уловить статистический вклад от подсистем по вполне определенным параметрам"

Сложность в том, что нейроны, составляющие мозг - не только все разные, но их свойства еще и постоянно меняются!

[greygreengo.livejournal.com]

Молекулы и атомы, входящие в состав смеси неидеального газа тоже разные. Свойства тоже меняются в зависимости от того в основном или возбужденном уровне находится тот или иной атом, та или иная молекула.

ЗЫ А уравнение состояния и участие этой смеси в термодинамических процессах считается как простая задача для третьекурсника.

ЗЗЫ К тому же примеры патологий головного мозга говорят нам о том, что разные области мозга могут переключаться на не свойственные для них задачи.

[serge no (from livejournal.com)]

Для сколько-нибудь реалистичной модели компьютера и поведения его операционной системы потребуется молекулярный уровень, а может даже и знание изотопного состава чипов. )) Вот же странные люди эти учёные... )

[egovoru.livejournal.com]

Изотопный состав тут как раз ни при чем, а вот ассортимент белков, задействованный в производстве и распространении нервного импульса, имеющийся в распоряжении каждого нейрона, выяснять придется, потому что от этого зависит, как этот нейрон будет функционировать. Более того, придется учитывать, что нейроны все разные (есть определенные типы их, но индивидуальные нейроны одного и того же типа тоже не идентичны). Кроме того, свойства каждого нейрона постоянно меняются по ходу его активности, и это тоже придется учитывать.

Вероятно, гораздо ближе к настоящему мозгу была бы модель, где каждый нейрон представлен не одним чипом, а целым компьютером, а весь мозг - массивом из 80+ миллиардов таких компьютеров :)

[serge no (from livejournal.com)]

Ни изучая функционирование регистров, ни функционирование транзисторов или отдельных полупроводниковых слоёв, невозможно понять, как работает операционная система компьютера, что она делает и в связи с чем. Даже на уровне процессорных команд это безнадёжная задача. Столь же бессмысленно пытаться понять, что и в связи с чем делается в мозге, изучая функционирование нейронов.

[evgeniirudnyi.livejournal.com]

Лучше читать настоящую научную фантастику. Больше пользы.

[egovoru.livejournal.com]

Боюсь, это тот случай, когда всеми хвалимая книга не произвела на меня сильного впечатления. Автор начинает с того, что показывает, как плохо люди, работающие в компьютерной области, способны предсказывать направление и скорость ее развития. После чего он переходит именно к таким предсказаниям :)

[109.livejournal.com]

Смешно, но враньё.

Автор специально показывает, что предсказания КОГДА что-то произойдет, бывают фантастически неточными. Поэтому автор специально фокусируется на том, ЧТО будет, и КАК, и специально не отвечает на вопрос КОГДА.

[109.livejournal.com]

> Для сколько-нибудь реалистической модели мозга нам потребуется не клеточный, а молекулярный

Полезные модели, извините, не бывают реалистичными. Модель, по определению, это слепок реальности минус ненужные детали. Какие именно детали мы выбрасываем, а какие оставляем, зависит от цели моделирования.

Конкретно про мозг есть мнение, что даже отдельные нейроны не надо моделировать, достаточно моделировать cortical columns.

[alaev.livejournal.com]

Подход с имитацией нейронов хорош тем, что из него можно извлечь хотя бы миллиграмм оптимизма. Если всё аккуратно повторить, то вдруг заработает?

Про все остальные модели понятно лишь то, что они либо не работают, либо технически неосуществимы.

[egovoru.livejournal.com]

Для того, чтобы что-то повторять, надо ведь понимать как работает образец? На сегодня мы неплохо понимаем, как работает индивидуальный нейрон, но уже в работе цепей нейронов мы разбираемся горяздо хуже, а ведь такие высшие функции, как мышление или сознание, осуществлятся целым мозгом! Трудно предсказать, как скоро мы разберемся в этом в достаточной степени для того, чтобы стать способными воспроизвести это в другом материале, и будет ли это технически возможно.

А если припомнить историю, например, воздухоплавания, то возникает вопрос, действительно ли это нужно для целей создания ИИ? Самолет ведь летает совсем не так, как птица.

[109.livejournal.com]

> Если всё аккуратно повторить, то вдруг заработает?

В смысле "вдруг заработает". Давно уже заработало. На многочисленных примерах, последние — alpha zero и gpt3 — мы видим, как эффективно работают даже чудовищно грубые модели нейронов.

[egovoru.livejournal.com]

"Полезные модели, извините, не бывают реалистичными. Модель, по определению, это слепок реальности минус ненужные детали"

Реалистичная модель - это как раз такая, которая сохраняет нужные нам свойства моделируемого предмета, в данном случае - способность выполнять нужные нам функции - способность мыслить. Проблема, однако, в том, что мы не знаем, какие детали устройства естественного мозга можно отбросить без ущерба для мыслительной функции. Не говоря уже о том, что мы не знаем, как, собственно, мозг эту свою функцию осуществляет.

Мне, признаться, кажется горздо более продуктивным чисто технический подход создания устройств, способных выполнять одну конкретную нужную нам задачу - скажем, распознавать образы. Предыдущий опыт уже показал, что для многих подобных задач вовсе не нужна пресловутая "general intelligence" - как она не нужна для игры в шахматы.

[egovoru.livejournal.com]

А расскажите, пожалуйста, что показалось Вам особенно интересным в этой книжке? Какие мысли автора произвели переворот в Ваших представлених - или, наоборот, подтвердили то, до чего Вы и сами уже догадались?

[bomjscienst.livejournal.com]

Осталось уговорить графа Потоцкого: а именно, выяснить, какие комбинации аллелей отвечают за наследование интеллекта, без чего вся эта возня не имеет смысла.
Над этим работают — и довольно продуктивно.
Но ведь эффект комбинации может сильно зависеть от условий, с которыми ее носитель сталкивается в жизни – а разве мы в силах надежно контролировать все условия жизни наших детей?
Эмм... одна из глубоких мыслей психогенетики заключается в том что наследуемость такая высокая потому что мы НЕ контролируем условия жизни наших детей. В обществе где все люди в обязательном порядке посещали бы ВУЗ наследуемость этой черты была бы около нуля но у нас есть свобода выбора идти туда или нет поэтому данная черта начинает зависеть от личных качеств в том числе и от генов.
Не говоря уже о том, что иные комбинации, улучшая интеллект, могут подрывать здоровье или увеличивать агрессивность, и мы еще очень, очень нескоро в этом разберемся – тут ведь не обойдешься стадией яйцеклетки.
Давайте рассмотрим пример попроще, а именно СДВГ на данный момент его лечат амфетаминами и наверно не зря у людей с этим синдромом есть неприятная привычка убивать своих родителей — но довольно логично что у подобного рода лекарств есть побочные эффекты и не факт что "пренатальная генетическая терапия" такой штуки имеет побочные эффекты больше.

[egovoru.livejournal.com]

"Над этим работают — и довольно продуктивно"

Работают, и давно, но успехи, насколько я знаю, пока довольно скромные. Я не специалист в этой области, но вот, например, авторы недавнего обзора пишут (https://www.nature.com/articles/nrg.2017.104#Sec3):

"Until 2017, genome-wide polygenic scores derived from genome-wide association studies (GWAS) of intelligence were able to predict only 1% of the variance in intelligence in independent samples.

Polygenic scores derived from GWAS of intelligence can now predict 4% of the variance in intelligence.

More than 10% of the variance in intelligence can be predicted by multipolygenic scores derived from GWAS of both intelligence and years of education. This accounts for more than 20% of the 50% heritability of intelligence."

Признаться, я не стала разбираться, чем multipolygenic scores отличаются от polygenic scores, но даже и они не дают полной картины. А главное, мы же не знаем, что бы реально выросло из детей, отобранных таким образом - не говоря уже о том, что мы не знаем, много ли родителей согласилось бы на подобный эксперимент?

"В обществе где все люди в обязательном порядке посещали бы ВУЗ наследуемость этой черты была бы около нуля"

Заставить всех по окончании школы идти в вузы еще возможно, но я с трудом представляю себе, как можно заставить всех быть умными - так что вряд ли наследуемость интеллекта можно снизить таким путем.

"довольно логично что у подобного рода лекарств есть побочные эффекты и не факт что "пренатальная генетическая терапия" такой штуки имеет побочные эффекты больше"

Но не факт, что меньше, особенно учитывая, что ведь психотропные средства в значительной степени воспроизводят эффекты генов.

Лично мне кажется, есть гораздо более простые средства для воплощения в жизнь предлагаемого автором отбора на интеллект: просто плати больше тем, кто интеллект проявляет, а также поощряй их нематериально.

[oleg96345.livejournal.com]

Вот сколько не попадаются посты по теме модель мозга, а я что-то не встречал такую мысль. Вот допустим есть сеть из черных ящиков (ЧЯ), которые как-то связаны и передают информацию. Надо "понять" как работает ЧЯ. И здесь очевидные шаги: считать входы, выходы и изменение состояния ЧЯ, создать свой ЧЯ, заменить оригинальный на свой. Новая сеть работает — значит модель более-менее удачная.

Я так понимаю технический уровень еще далек и не позволяет как-то считывать информацию на входе нейронов нематоды, на выходе и состояние (а может можно и без него обойтись)?

[egovoru.livejournal.com]

"считать входы, выходы и изменение состояния ЧЯ, создать свой ЧЯ, заменить оригинальный на свой"

Так в том же и дело, что не получается "заменить оригинальный на свой", если не понимаешь, как работает исходный ЧЯ!