Что вслед Радищеву восславил я свободу

[egovoru]

Ветхозаветный закон «око за око» был сформулирован, чтобы обуздать неуемную человеческую мстительность: стремление забрать жизнь за выбитый глаз. Теория игр тоже предсказывает, что самая успешная стратегия взаимодействия – «как аукнется, так и откликнется». Однако в ходе развития авраамической традиции принцип справедливости сменился призывом к милосердию – христианской проповедью прощения. На первый взгляд это противоречит вердикту теории игр, но на самом деле никакого противоречия тут нет.

Стратегия «как аукнется» работает только тогда, когда самый первый шаг первого участника – предложение дружбы; если вражды – то, понятно, игра быстро заканчивается. В теории каждая игра рассматривается отдельно, но в жизни так не бывает: мы вступаем в новую «игру», нагруженные психологическим багажом предыдущих. Для того, чтобы начать ее готовым к сотрудничеству, надо списать печальный итог прежних игр. И то, что мы все-таки еще не уничтожили друг друга – свидетельство торжества надежды над опытом :)

Лукас Кранах Старший. Христос и блудница. 1532
(фото Музея изобразительных искусств, Будапешт)

Comments

[egovoru.livejournal.com]

"когда разумные машины вытеснят людей с рынка труда, рост народонаселения сменится его падением"

Мне-то кажется, что забота о постоянном приросте населения - анахронизм. Я понимаю, что этого требует наша текущая экономическая модель, но для меня это только означает, что рано или поздно и модель придется менять. В условиях конечной планеты нам рано или поздно придется стабилизировать численность населения.

Проблема в том, что у нас нет для этого навыков - мы всегда решали все свои проблемы за счет территориальной экспансии. И, честно сказать, я думаю, что и сейчас мы скорее согласимся колонизировать Луну или Марс, чем начнем всерьез контролировать собственное размножение - в конце концов, это последнее идет уж слишком вразрез с "категорическим императивом" любого живого существа. Но, во всяком случае, нам необходимо начать осознавать, что постоянный прирост населения - вовсе не абсолютное благо, которого надо добиваться любой ценой.

Даже если поверить в то, что экономическое развитие неизбежно приводит к стабилизации численности населения, проблема состоит в том, что этот "демографический переход", как называет его Капица, со всеми сопровождающими его рисками, сейчас совершается совсем в других исторических условиях, чем он совершался в ныне развитых странах. Так что, мне думается, что просто спокойно ждать, когда все само собой устаканится - слишком опасно :(

[alex-new-york.livejournal.com]

Не устаканится. Проблемы перенаселения меркнут перед перспективой доминирования искусственного разума, которое вероятнее всего наступит уже в этом столетии. Если уже сейчас интернет и киберпространство с устрашающей скоростью засасывает в себя человечество, то можно представить себе, что произойдет, когда разум и жизнь перестанут быть прерогативой человека, а граница между человеческой душой и миром технологий окончательно размоется. Думаю, что по исторической значимости с этим событием сможет сравниться разве что появление в земной экосистеме многоклеточных организмов или разумной жизни.

[egovoru.livejournal.com]

"перспективой доминирования искусственного разума, которое вероятнее всего наступит уже в этом столетии"

Ну, я, как Вы знаете, отношусь с некоторым скептицизмом к подобным перспективам, и уж никак не ожидаю столь глобальных перемен в столь близкие сроки ;)

А к Вам, как к уверенному в таком будущем, тогда вопрос: должны ли мы - и можем ли - что-то предпринять, чтобы это предотвратить? И другой, сопряженный, вопрос: полагаете ли Вы, что человечество на каком-то этапе может придти к глобальному решению заморозить технический прогресс?

[alex-new-york.livejournal.com]

Попытки затормозить прогресс по этическим соображениям периодически возникают. Достаточно вспомнить движение луддитов или запрет на эксперименты над человеческим эмбрионом и клонирование. Обычно дело сводятся к тому, что страны и другие хозяйственные субъекты, свободные от таких попыток, получают конкурентное преимущество и вырываются вперед в развитии. Думаю, что развитие искусственного интеллекта и технологий переноса психики на небиологический носитель не станет исключением. Будут и попытки торможения, и опережающие развитие тех, кто сумеет эти попытки обойти.

Нужно ли тормозить развитие технологий? Нужно, конечно, когда опасность от них перевешивает пользу. Как, к примеру, в случае бактериологического и химического оружия. Да и ядерное оружие неплохо бы заменить чем-то более безопасным и эффективным. Развивать цивилизацию и мечтать о прекрасном будущем на фоне готовых в любую секунду отправиться в полет миллиардов тонн радиоактивного тротилового эквивалента, как-то диковато.

Нужно ли и можно ли тормозить развитие искусственного интеллекта и технологий переноса психики на небиологический носитель? Не думаю. Дешевые разумные машины - это и помощники для стариков, теряющих возможность заботиться о себе, и сохранение жизни более, чем миллиону потенциальных жертв автокатастроф ежегодно, и много других возможностей сделать жизнь счастливее. И как вы объясните смертельно больному человеку, что он должен умереть потому, что технологии переноса сознания на небиологический носитель находятся под запретом? Да и человечна ли экономика и система отношений между людьми, построенные вокруг продажи человеком своей способности трудиться и целенаправленно превращающие человека в средство производства вещей и услуг? Лично мне кажется, что они фундаментально бездуховны и безнравственны.

Просто ничто не приходит даром. Возможность жить вечно, не страдая от болезней и необходимости превращать себя в средство производства - это не только колоссальный дар, но и колоссальное испытание. И нет никакой гарантии, что отдельный человек или человечество в целом достойно это испытание выдержат. Но трусить перед лицом серьезных испытаний и останавливаться в развитии только для того, чтобы этих испытаний избежать - жалкое занятие :)

[egovoru.livejournal.com]

"Обычно дело сводятся к тому, что страны и другие хозяйственные субъекты, свободные от таких попыток, получают конкурентное преимущество и вырываются вперед в развитии"

Да, это первое, что приходит в голову, когда задумываешься о том, возможно ли запретить прогресс: (неизбежный) нарушитель запрета получает слишком большое преимущество.

А как насчет такого сценария: никто ничего не запрещает, но научный прогресс останавливается просто потому, что никто больше не хочет вкладывать в него деньги? (Потому что по закону diminishing returns такое вложение становится невыгодным).

[alex-new-york.livejournal.com]

В условиях массового производства и жесткой конкуренции такое происходит нечасто, поскольку конкурирующие производители дышат друг другу в затылок, и тот, кто даже немного вырывается вперед, отвоевывает у конкурентов значительную долю рынка, резко увеличивая прибыли. Обычно разработки в каком-то направлении прекращаются не из-за малого эффекта от дополнительных усилий, а просто потому, что появляется новая технология, не оставляющая прежней шансов. Вакуумные лампы уступили место транзисторам, карбюраторы - инжекторам топлива и т д.

[alex-new-york.livejournal.com]

На мой взгляд, самый большой цивилизационный риск заключается не в переносе человеческой психики на небиологический носитель, а в том, что этот перенос состоится слишком поздно, и вместо него будет иметь место агрессивное прорастание неантропоморфных технологий в сферу психики и субъективного бытия. Сейчас этот процесс уже идет полным ходом: мы адаптируемся к требованиям компьютерного интерфейса и формата передачи информации. Киберинформационные потоки неспособны дотянуться до древнего и бескрайнего мира наших инстинктов и генетической памяти, создавая вместо этого убогие суррогатные новоделы. На смену тонким выражениям лица приходят смайлики. Из нашей жизни незаметно исчезают запахи, прикосновения, интонации. На их место приходят буквы клавиатуры, курсор мыши и плоские изображения на блестящих экранах. Вместо того, чтобы превращать киберпространство в уютный, привычный и родной человеческий мир, мы сами незаметно превращаемся в компьютеры или периферийные устройства к ним

[egovoru.livejournal.com]

"На смену тонким выражениям лица приходят смайлики"

Когда появилась письменность, многие опасались, что она испортит нашу память. А когда появилось книгопечатание, многие сожалели об утрате искусства каллиграфии ;)

[alex-new-york.livejournal.com]

Проблема вторжения неантропоморфных технологий в человеческую психику представляется мне более серьезной, чем может показаться на первый взгляд. Как биолог, Вы хорошо знаете, что эволюция тяготеет к надстраиванию новых этажей над уже имеющимися: эмоций - над не рассуждающими инстинктами, разума - над эмоциями и т д. При этом к оставшимся внизу этажам эволюция возвращается очень редко, просто потому, что в этом случае слишком многое придется перестраивать.

Это означает, что к тому моменту, как искусственный разум приобретет контроль над земной цивилизацией и пустится в самостоятельное эволюционное плавание, присутствующий в нем баланс человеческого и компьютерного станет тем самым нижним этажом, над которым дальнейшая эволюция будет надстраивать последующие. И если перенос человеческой психики на небиологический носитель произойдет слишком поздно или не произойдет совсем, человеческого в этом балансе будет крайне мало. И это положение вещей вероятнее всего сохранится навсегда.

А в том, что искусственный разум рано или поздно приобретет контроль над земной цивилизацией, сомневаться не приходится. Биологические темпы развития не в состоянии соперничать с технологическими. Еще два-три десятилетия назад искусственный интеллект едва дотягивал до уровня насекомого, а сейчас он уже примерно достиг уровня мыши, повысив свою производительность и сложность на несколько порядков величин. Развиваясь такими темпами, он обгонит человеческий разум примерно в середине столетия. А еще через несколько десятилетий превзойдет его настолько, насколько человек превосходит в своем развитии мышь.

"Когда появилась письменность, многие опасались, что она испортит нашу память."

Как интересно! Чьи же опасения подобного рода дошли до нас из глубин тысячелетий? :)

[egovoru.livejournal.com]

"Развиваясь такими темпами, он обгонит человеческий разум примерно в середине столетия"

Но согласитесь, что искусственный разум пока все же не развивается сам, а исключительно конструируется нами, и это его принципиальное отличие от нашего.

Насчет же "обгонит в середине столетия" - по какому именно признаку? Скажем, по скорости вычисления компьютеры "обогнали" нас давным-давно - точно так же, как автомобили "обогнали" нас по скорости передвижения и т.д. ;)

Мне кажется, тут следует различать две возможности: 1) перенос нашего разума на технический носитель; 2) самозарождение некоего нового разума где-то в глубине нашей технологии. Мне, признаться, обе эти вероятности кажутся малоправдоподобными, но если уж выбирать из этих двух, то вторая кажется мне более вероятной.

Конечно, уже сейчас нам кажется, что наш компьютер порой ведет себя слишком самостоятельно, но все же никаких признаков возникнивения технического разума мы пока не наблюдаем, так что говорить о его быстрой эволюции не приходится ;) Но исключить такую возможность мы, наверное, не можем.

[alex-new-york.livejournal.com]

Все начнется с появления сфер, в силу практической необходимости контролируемых искусственным разумом. По дорогам уже ездят управляемые искусственным разумом автомобили и демонстрируют гораздо меньший риск аварий. Автономные боевые дроны, принимающие решения во много раз быстрее и точнее человека, тоже уже становятся реальностью. Есть и много других областей, где скорость и точность реакции с учетом сложных и быстро меняющихся обстоятельств оказывается критическим фактором. Хирургия, например. Не удивлюсь, если некоторые сложные хирургические операции, требующие быстрого завершения, скоро начнут делать разумные роботы. Человек - чудесная биологическая машина, но по сравнению с управляемым компьютером роботом он медлителен, утомляется, отвлекается, совершает ошибки, неспособен охватить взглядом слишком большое число важных деталей.

Со временем стремление человека сохранить за собой все контрольные функции, не давая разумным машинам слишком большой самостоятельности в принятии важных решений будет все больше и больше тормозить процесс принятия этих решений и отрицательно влиять на их качество. А культуры, предоставляющие разумным машинам больше самостоятельности, будут получать все более существенные конкурентные преимущества.

В результате лет через 100-150 ежедневно принимаемые цивилизацией решения выйдут на уровень сложности и временной интенсивности, просто не оставляющие человеку сколько-нибудь значительной роли в принятии этих решений.

[egovoru.livejournal.com]

"А культуры, предоставляющие разумным машинам больше самостоятельности, будут получать все более существенные конкурентные преимущества"

Да - точно так же, как и в сфере производства автомобилей. Но ведь это отнюдь не означает, что умные машины начнут эволюционировать самостоятельно - не более, чем автобили - отбирать сами себя на скорость?

[alex-new-york.livejournal.com]

Конечно, начнут. Проектировать в реальном времени искусственные разумные системы с сотнями тысяч независимых сложных функций людям будет просто не под силу.