Что вслед Радищеву восславил я свободу

[egovoru]

Ветхозаветный закон «око за око» был сформулирован, чтобы обуздать неуемную человеческую мстительность: стремление забрать жизнь за выбитый глаз. Теория игр тоже предсказывает, что самая успешная стратегия взаимодействия – «как аукнется, так и откликнется». Однако в ходе развития авраамической традиции принцип справедливости сменился призывом к милосердию – христианской проповедью прощения. На первый взгляд это противоречит вердикту теории игр, но на самом деле никакого противоречия тут нет.

Стратегия «как аукнется» работает только тогда, когда самый первый шаг первого участника – предложение дружбы; если вражды – то, понятно, игра быстро заканчивается. В теории каждая игра рассматривается отдельно, но в жизни так не бывает: мы вступаем в новую «игру», нагруженные психологическим багажом предыдущих. Для того, чтобы начать ее готовым к сотрудничеству, надо списать печальный итог прежних игр. И то, что мы все-таки еще не уничтожили друг друга – свидетельство торжества надежды над опытом :)

Лукас Кранах Старший. Христос и блудница. 1532
(фото Музея изобразительных искусств, Будапешт)

Comments

[alex-new-york.livejournal.com]

На мой взгляд, самый большой цивилизационный риск заключается не в переносе человеческой психики на небиологический носитель, а в том, что этот перенос состоится слишком поздно, и вместо него будет иметь место агрессивное прорастание неантропоморфных технологий в сферу психики и субъективного бытия. Сейчас этот процесс уже идет полным ходом: мы адаптируемся к требованиям компьютерного интерфейса и формата передачи информации. Киберинформационные потоки неспособны дотянуться до древнего и бескрайнего мира наших инстинктов и генетической памяти, создавая вместо этого убогие суррогатные новоделы. На смену тонким выражениям лица приходят смайлики. Из нашей жизни незаметно исчезают запахи, прикосновения, интонации. На их место приходят буквы клавиатуры, курсор мыши и плоские изображения на блестящих экранах. Вместо того, чтобы превращать киберпространство в уютный, привычный и родной человеческий мир, мы сами незаметно превращаемся в компьютеры или периферийные устройства к ним

[egovoru.livejournal.com]

"На смену тонким выражениям лица приходят смайлики"

Когда появилась письменность, многие опасались, что она испортит нашу память. А когда появилось книгопечатание, многие сожалели об утрате искусства каллиграфии ;)

[alex-new-york.livejournal.com]

Проблема вторжения неантропоморфных технологий в человеческую психику представляется мне более серьезной, чем может показаться на первый взгляд. Как биолог, Вы хорошо знаете, что эволюция тяготеет к надстраиванию новых этажей над уже имеющимися: эмоций - над не рассуждающими инстинктами, разума - над эмоциями и т д. При этом к оставшимся внизу этажам эволюция возвращается очень редко, просто потому, что в этом случае слишком многое придется перестраивать.

Это означает, что к тому моменту, как искусственный разум приобретет контроль над земной цивилизацией и пустится в самостоятельное эволюционное плавание, присутствующий в нем баланс человеческого и компьютерного станет тем самым нижним этажом, над которым дальнейшая эволюция будет надстраивать последующие. И если перенос человеческой психики на небиологический носитель произойдет слишком поздно или не произойдет совсем, человеческого в этом балансе будет крайне мало. И это положение вещей вероятнее всего сохранится навсегда.

А в том, что искусственный разум рано или поздно приобретет контроль над земной цивилизацией, сомневаться не приходится. Биологические темпы развития не в состоянии соперничать с технологическими. Еще два-три десятилетия назад искусственный интеллект едва дотягивал до уровня насекомого, а сейчас он уже примерно достиг уровня мыши, повысив свою производительность и сложность на несколько порядков величин. Развиваясь такими темпами, он обгонит человеческий разум примерно в середине столетия. А еще через несколько десятилетий превзойдет его настолько, насколько человек превосходит в своем развитии мышь.

"Когда появилась письменность, многие опасались, что она испортит нашу память."

Как интересно! Чьи же опасения подобного рода дошли до нас из глубин тысячелетий? :)

[egovoru.livejournal.com]

"Развиваясь такими темпами, он обгонит человеческий разум примерно в середине столетия"

Но согласитесь, что искусственный разум пока все же не развивается сам, а исключительно конструируется нами, и это его принципиальное отличие от нашего.

Насчет же "обгонит в середине столетия" - по какому именно признаку? Скажем, по скорости вычисления компьютеры "обогнали" нас давным-давно - точно так же, как автомобили "обогнали" нас по скорости передвижения и т.д. ;)

Мне кажется, тут следует различать две возможности: 1) перенос нашего разума на технический носитель; 2) самозарождение некоего нового разума где-то в глубине нашей технологии. Мне, признаться, обе эти вероятности кажутся малоправдоподобными, но если уж выбирать из этих двух, то вторая кажется мне более вероятной.

Конечно, уже сейчас нам кажется, что наш компьютер порой ведет себя слишком самостоятельно, но все же никаких признаков возникнивения технического разума мы пока не наблюдаем, так что говорить о его быстрой эволюции не приходится ;) Но исключить такую возможность мы, наверное, не можем.

[alex-new-york.livejournal.com]

Все начнется с появления сфер, в силу практической необходимости контролируемых искусственным разумом. По дорогам уже ездят управляемые искусственным разумом автомобили и демонстрируют гораздо меньший риск аварий. Автономные боевые дроны, принимающие решения во много раз быстрее и точнее человека, тоже уже становятся реальностью. Есть и много других областей, где скорость и точность реакции с учетом сложных и быстро меняющихся обстоятельств оказывается критическим фактором. Хирургия, например. Не удивлюсь, если некоторые сложные хирургические операции, требующие быстрого завершения, скоро начнут делать разумные роботы. Человек - чудесная биологическая машина, но по сравнению с управляемым компьютером роботом он медлителен, утомляется, отвлекается, совершает ошибки, неспособен охватить взглядом слишком большое число важных деталей.

Со временем стремление человека сохранить за собой все контрольные функции, не давая разумным машинам слишком большой самостоятельности в принятии важных решений будет все больше и больше тормозить процесс принятия этих решений и отрицательно влиять на их качество. А культуры, предоставляющие разумным машинам больше самостоятельности, будут получать все более существенные конкурентные преимущества.

В результате лет через 100-150 ежедневно принимаемые цивилизацией решения выйдут на уровень сложности и временной интенсивности, просто не оставляющие человеку сколько-нибудь значительной роли в принятии этих решений.

[egovoru.livejournal.com]

"А культуры, предоставляющие разумным машинам больше самостоятельности, будут получать все более существенные конкурентные преимущества"

Да - точно так же, как и в сфере производства автомобилей. Но ведь это отнюдь не означает, что умные машины начнут эволюционировать самостоятельно - не более, чем автобили - отбирать сами себя на скорость?

[alex-new-york.livejournal.com]

Конечно, начнут. Проектировать в реальном времени искусственные разумные системы с сотнями тысяч независимых сложных функций людям будет просто не под силу.