Не все постигнул ум надменный, не все светло для мудреца

[egovoru]

Бестселлер Ника Бострома (настоятельно рекомендованный мне уважаемым 109) в основном посвящен проблемам искусственного интеллекта, но в первых главах автор разбирает и возможные способы когнитивного усовершенствования биологического варианта.

Поскольку ~50% нашего ума обусловлены наследственностью, то положительный отбор естественно возникающих удачных генетических комбинаций должен дать желаемый эффект. Для ускорения процесса Бостром предлагает производить яйцеклетки не обычным путем, а превращая соматические клетки в стволовые и дифференцируя последние в яйцеклетки. Таким образом от одной женщины можно получить не ~350 яйцеклеток, как в норме, а практически неограниченное их число, и эта возможность уже была продемонстрирована на мышах.

Бостром даже приводит табличку, на сколько пунктов можно увеличить IQ в зависимости от строгости отбора. Осталось уговорить графа Потоцкого: а именно, выяснить, какие комбинации аллелей отвечают за наследование интеллекта, без чего вся эта возня не имеет смысла. Но ведь эффект комбинации может сильно зависеть от условий, с которыми ее носитель сталкивается в жизни – а разве мы в силах надежно контролировать все условия жизни наших детей? Не говоря уже о том, что иные комбинации, улучшая интеллект, могут подрывать здоровье или увеличивать агрессивность, и мы еще очень, очень нескоро в этом разберемся – тут ведь не обойдешься стадией яйцеклетки.

Другой рассматриваемый Бостромом путь к суперинтеллекту можно назвать гибридным: создание компьютерной модели человеческого мозга на основе предварительного сканирования его структуры. Автор надеется, что достаточно будет определить «местоположение отдельных нейронов и матрицу их взаимосвязей, а также частичную структуру их дендритных деревьев и, вероятно, некоторых переменных состояний индивидуальных синапсов».

Наивный! Для сколько-нибудь реалистической модели мозга нам потребуется не клеточный, а молекулярный и даже субмолекулярный уровень детализации: знание не только числа и распределения индивидуальных молекул рецепторов и ионных каналов каждого типа в мембране каждого нейрона, но и модификаций этих молекул (в частности, степени фосфорилирования, влияющего на функцию).

Наглядно демонстрирует эти трудности то, что у нас до сих пор нет реалистической компьютерной модели даже состоящего из <302 нейронов «мозга» нематоды C. еlegans, хотя его карту бостромова уровня мы составили уже много лет назад (302 – это общее число нейронов в теле гермафродита нематоды; большинство из них – в его «мозге», но сколько именно, я не знаю). А вот, кстати, наша бывшая биошкольница, а ныне нейрофизиолог, рассказывает на «Постнауке» о том, чем еще отличаются живые нейронные сети от компьютерных.

По поводу двух других биологических или полубиологических способов «поумнения» человечества и сам Бостром не питает особого энтузиазма. Киборгизация (создание нейро-машинного интерфейса) сопряжена со слишком большими техническими трудностями, но не дает явных преимуществ для создания суперинтеллекта, а объединение биологических мозгов в сети и организации чревато проблемами из-за неизбежных конфликтов между интересами сети в целом и ее отдельных элементов.

Реконструкция 0.0005 мм³ коры головного мозга мыши,
содержащего 400 тыс. синапсов (фото из статьи Motta et al. 2019).
«Коврик» на заднем плане – графическое представление коннектома,
совокупности связей между нейронами

Comments

[lj-frank-bot.livejournal.com]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: IT (https://www.livejournal.com/category/it?utm_source=frank_comment), Компьютеры (https://www.livejournal.com/category/kompyutery?utm_source=frank_comment), Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[maiorova.livejournal.com]

Господи, а зачем? Родине нужны уборщицы и солдаты (с).

[greygreengo.livejournal.com]

И чем случайней тем вернее рождаются стихи навзрыд... (с)

> Для сколько-нибудь реалистической модели мозга нам потребуется не клеточный, а молекулярный и даже субмолекулярный уровень детализации: знание не только числа и распределения индивидуальных молекул рецепторов и ионных каналов каждого типа в мембране каждого нейрона, но и модификаций этих молекул (в частности, степени фосфорилирования, влияющего на функцию)

Для того, чтобы описывать сложную систему, состоящую из большого количества подсистем с одинаковыми свойствами вовсе не обязательно отслеживать индивидуальные качества каждой подсистемы — вполне достаточно уловить статистический вклад от подсистем по вполне определенным параметрам. Модель реального газа вполне работает по данным температура-давление-плотность несмотря на то, что мы никогда не сможем узнать импульсы и координаты всех включенных в рассмотрение молекул.

ЗЫ С нейронными цепями и алгоритмами обучения принятий решений абсолютно аналогично.

[serge no (from livejournal.com)]

Для сколько-нибудь реалистичной модели компьютера и поведения его операционной системы потребуется молекулярный уровень, а может даже и знание изотопного состава чипов. )) Вот же странные люди эти учёные... )

[evgeniirudnyi.livejournal.com]

Лучше читать настоящую научную фантастику. Больше пользы.

[109.livejournal.com]

> Для сколько-нибудь реалистической модели мозга нам потребуется не клеточный, а молекулярный

Полезные модели, извините, не бывают реалистичными. Модель, по определению, это слепок реальности минус ненужные детали. Какие именно детали мы выбрасываем, а какие оставляем, зависит от цели моделирования.

Конкретно про мозг есть мнение, что даже отдельные нейроны не надо моделировать, достаточно моделировать cortical columns.

[alaev.livejournal.com]

Подход с имитацией нейронов хорош тем, что из него можно извлечь хотя бы миллиграмм оптимизма. Если всё аккуратно повторить, то вдруг заработает?

Про все остальные модели понятно лишь то, что они либо не работают, либо технически неосуществимы.

[egovoru.livejournal.com]

Для того, чтобы что-то повторять, надо ведь понимать как работает образец? На сегодня мы неплохо понимаем, как работает индивидуальный нейрон, но уже в работе цепей нейронов мы разбираемся горяздо хуже, а ведь такие высшие функции, как мышление или сознание, осуществлятся целым мозгом! Трудно предсказать, как скоро мы разберемся в этом в достаточной степени для того, чтобы стать способными воспроизвести это в другом материале, и будет ли это технически возможно.

А если припомнить историю, например, воздухоплавания, то возникает вопрос, действительно ли это нужно для целей создания ИИ? Самолет ведь летает совсем не так, как птица.

[egovoru.livejournal.com]

"Полезные модели, извините, не бывают реалистичными. Модель, по определению, это слепок реальности минус ненужные детали"

Реалистичная модель - это как раз такая, которая сохраняет нужные нам свойства моделируемого предмета, в данном случае - способность выполнять нужные нам функции - способность мыслить. Проблема, однако, в том, что мы не знаем, какие детали устройства естественного мозга можно отбросить без ущерба для мыслительной функции. Не говоря уже о том, что мы не знаем, как, собственно, мозг эту свою функцию осуществляет.

Мне, признаться, кажется горздо более продуктивным чисто технический подход создания устройств, способных выполнять одну конкретную нужную нам задачу - скажем, распознавать образы. Предыдущий опыт уже показал, что для многих подобных задач вовсе не нужна пресловутая "general intelligence" - как она не нужна для игры в шахматы.

[egovoru.livejournal.com]

Изотопный состав тут как раз ни при чем, а вот ассортимент белков, задействованный в производстве и распространении нервного импульса, имеющийся в распоряжении каждого нейрона, выяснять придется, потому что от этого зависит, как этот нейрон будет функционировать. Более того, придется учитывать, что нейроны все разные (есть определенные типы их, но индивидуальные нейроны одного и того же типа тоже не идентичны). Кроме того, свойства каждого нейрона постоянно меняются по ходу его активности, и это тоже придется учитывать.

Вероятно, гораздо ближе к настоящему мозгу была бы модель, где каждый нейрон представлен не одним чипом, а целым компьютером, а весь мозг - массивом из 80+ миллиардов таких компьютеров :)

[egovoru.livejournal.com]

"вовсе не обязательно отслеживать индивидуальные качества каждой подсистемы — вполне достаточно уловить статистический вклад от подсистем по вполне определенным параметрам"

Сложность в том, что нейроны, составляющие мозг - не только все разные, но их свойства еще и постоянно меняются!

[egovoru.livejournal.com]

Не скажите: если бы нам удалось переложить все рутинные, неприятные работы на роботов, мы бы все могли вести такой образ жизни, как античные философы - прогуливаясь между колонн и беседуя о возвышенных предметах :)

[egovoru.livejournal.com]

Совершенно верно, Фрэнк!

[egovoru.livejournal.com]

А расскажите, пожалуйста, что показалось Вам особенно интересным в этой книжке? Какие мысли автора произвели переворот в Ваших представлених - или, наоборот, подтвердили то, до чего Вы и сами уже догадались?

[lj-frank-bot.livejournal.com]

Замечательно

[egovoru.livejournal.com]

Боюсь, это тот случай, когда всеми хвалимая книга не произвела на меня сильного впечатления. Автор начинает с того, что показывает, как плохо люди, работающие в компьютерной области, способны предсказывать направление и скорость ее развития. После чего он переходит именно к таким предсказаниям :)

[serge no (from livejournal.com)]

Ни изучая функционирование регистров, ни функционирование транзисторов или отдельных полупроводниковых слоёв, невозможно понять, как работает операционная система компьютера, что она делает и в связи с чем. Даже на уровне процессорных команд это безнадёжная задача. Столь же бессмысленно пытаться понять, что и в связи с чем делается в мозге, изучая функционирование нейронов.

[maiorova.livejournal.com]

И кто будет сторожить сторожей, в смысле, обслуживать роботов?

[greygreengo.livejournal.com]

Молекулы и атомы, входящие в состав смеси неидеального газа тоже разные. Свойства тоже меняются в зависимости от того в основном или возбужденном уровне находится тот или иной атом, та или иная молекула.

ЗЫ А уравнение состояния и участие этой смеси в термодинамических процессах считается как простая задача для третьекурсника.

ЗЗЫ К тому же примеры патологий головного мозга говорят нам о том, что разные области мозга могут переключаться на не свойственные для них задачи.

[egovoru.livejournal.com]

"невозможно понять, как работает операционная система компьютера, что она делает и в связи с чем"

Но ведь комьютер был сконструирован нами именно для того, чтобы работать так, как он работает? Это принципиально отличает его от мозга, сконструированного не нами.

[egovoru.livejournal.com]

Предполагается, по-видимому, что большое число роботов может поддерживать в рабочем состоянии небольшое число людей-инженеров.

[egovoru.livejournal.com]

"Свойства тоже меняются в зависимости от того в основном или возбужденном уровне находится тот или иной атом, та или иная молекула"

Верно, но число возможных состояний нейрона неизмеримо больше числа возможных состояний атома или молекулы.

[greygreengo.livejournal.com]

Можно начать с простой модели перцептрона Розенблатта.

[serge no (from livejournal.com)]

Компьютер сконструирован. Мало того, есть полная спецификация того, как работает его аппаратная часть, на некотором уровне. Но если попробовать, опираясь на эту спецификацию, разобраться как, например, из ячеек памяти, находящихся в некотором состоянии, на растровом экране получается изображение текста, то окажется, что достигнуть таким путём общего понимания, как это делается, крайне затруднительно. Причём самое нелепое, что можно придумать, — это копать в направлении, вообще противоположном тому, которое теоретически (но не практически) может привести к пониманию, а именно: выяснять в деталях, что происходит в кристалле кремния, когда исполняются описанные в спецификации машинные команды. Чем мозг принципиально отличается в данном отношении? Что даёт его сконструированность не нами (кроме того, что это даже ещё хуже для понимания, чем если бы он был нашего производства)?

[maiorova.livejournal.com]

И эти морлоки в случае чего подложат прочим — элоям — такую подлянку, что мало не покажется.