Грядущее, от изобилья своих даров, мне знанье шлет

[egovoru]

Если теизм, некогда господствующая идеология, сегодня уступил место гуманизму, то, полагает Юваль Харари, и гуманизм не вечен. Что же придет ему на смену? Догадка Харари: датаизм (не путать с дадаизмом :)

Датаизм – представление о мире как о совокупности потоков «данных», рассматриваемых как наивысшая ценность. Признаться, мне не удалось увидеть тут какой-то особой новизны. Харари не дает внятного определения «данным», но из контекста следует, что он имеет в виду информацию (хотя само слово «информация» он употребляет в значении «смысл»: данные нужны, чтобы извлекать из них информацию). Но ведь информационно-теоретическое описание мира уже сегодня кажется вполне обыденным? Более того, его истоки можно усмотреть даже в некоторых древних философских идеях (вроде китайской «ци»)?

К тому же у Харари не ясно, кто же, собственно, будет поклоняться данным? Он предполагает, что к тому времени людей вытеснят киборги и даже роботы. Усилия по созданию ИИ он рассматривает как процесс отделения интеллекта от сознания. Остается непонятным, почему этот отделившийся интеллект вообще будет нуждаться в идеологии?

Жутковатая иллюстрация Edmon de Haro
к статье Генри Киссинджера в Atlantic об опасностях ИИ

Comments

[greygreengo.livejournal.com]

Смысл датацентризма или датаизма, по терминологии Харари, заключен в том, чтобы передать сотворенной человеком вещи, как то принтеру, серверу, сотовому телефону или навороченной кофеварке права на участие в процессах обмена, равные с такими же правами как и у людей. Делать из этого религию нет необходимости, достаточно того, что вскоре нас ждет нашествие адептов секты глобального потепления.
Ну а с машинами уже можно пробовать вести диалог. Недавно купил принтер и обнаружил, что он сам по себе обладает своим е-мейлом. Надо ему что нибудь написать, типа : - Здорово, с вступлением в семью и не жри столько чернил на ночь, разнесет. Как-то так.

[egovoru.livejournal.com]

"передать сотворенной человеком вещи <...> права на участие в процессах обмена, равные с такими же правами как и у людей"

Tакого призыва у Харари я что-то не припомню, и эта идея кажется мне дикой. Харари пишет, что ИИ - это интеллект, оторванный от сознания, а без сознания - какие же могут быть права?

"с машинами уже можно пробовать вести диалог"

Про это у меня здесь есть отдельный пост (https://egovoru.livejournal.com/72807.html) :)

[greygreengo.livejournal.com]

Мне показалось, что в датаизме важно именно это - свобода информации для всех устройств, которые эту информацию (дальше по теореме Найквиста -Котельникова).

[hyperboreus.livejournal.com]

Данные же сами по себе не существуют. Нет фактов, есть интерпретации.

[egovoru.livejournal.com]

Честно сказать, я не уверена, что поняла, что же он имеет в виду. Мне показалось, он здесь пытается натянуть сову на глобус, потому что ему уж очень хочется увидеть некие три ступени глобальной социальной эволюции. По мне так и гуманизм нельзя считать новой ступенью по сравнению с теизмом, потому что бывают ведь и вполне христианские гуманисты, как, например, Эразм Роттердамский.

[hyperboreus.livejournal.com]

В 20 веке их было полно: Габриэль Марсель, Симона Вейль, Тиллих.. Поэтому Тиллих, сам богослов, и заявил, что традиционный теизм должен быть упразднен. Так что я все-таки склонен в этом согласиться с вашим автором. Конечно, если гуманизм понимать в максимально широком смысле, как взгляд на человека, не только достойного базовых прав для повседневной жизни, но и достойного вечности.

[sergeyoho.livejournal.com]

Харари, помимо малопонятных философских высказываний, вполне себе чётко тыкает пальцем в конкретные проблемы.

Первая проблема – он боится, что наша жизнь будет постоянно наблюдаться всякими «большими братьями». В этом смысле «религия данных» означает что-то вроде «информация должна быть свободной: передавай наружу как можно больше информации, чтоб мир стал лучше, и тебе тоже было хорошо».

Например, страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры. Противоречит privacy? Проявят понимание, дадут скидки смелым и открытым первопроходцам. Пройдёт не так много лет и «скидки для желающих отказаться от privacy» превратятся в жуткие условия для старорежимных недобитых гадов, которые пожелают зачем-то privacy сохранить.

Вторая проблема – всё больше решений будет приниматься за нас алгоритмами, чью логику мы обычно плохо понимаем. Сегодня навигатор определяет маршрут. (Известны совершенно реальные комичные случаи, когда люди в реку заезжали, слепо доверяя навигатору.) «Завтра» «ИИ» будет за нас вести машину. И, в частности, решать, в случае возникновения плохой ситуации на дороге, сбивать ли выскочившего перед машиной ребёнка или свернуть на встречку под грузовик. «Послезавтра» мы можем доверить ИИ выбор спутника жизни.

Есть ли почва для этих опасений? Полагаю, да. Например, в сети уже мелькало немало информации о всяких китайских экспериментах типа «социального рейтинга» или школ, где дети увешаны мониторящими их приборами.

Я согласен, что Харари раздувает опасности именно этого типа и преуменьшает другие, более традиционные, типа старых добрых мировых войн. Но это совершенно обычное дело для гуманитария, интересующегося конкретной тематикой.

[egovoru.livejournal.com]

"чётко тыкает пальцем в конкретные проблемы"

Потенциальные проблемы всеобщей дигитализации - это одно, а стройная трехступенчатая эволюция, теизм-гуманизм-датаизм - это совсем другое. Последнее, признаться, кажется мне натягиванием совы на глобус :)

"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"

С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд.

"всё больше решений будет приниматься за нас алгоритмами"

В этом отношении мне кажется показательным решение математиков, что компьютерное доказательство таки считается за доказательство, даже если человек не может его проверить. Что же касается автомобилей и т.д., то, наверное, можно просто сравнить их показатели (число аварий на единицу пробега или что-то в этом роде) и показатели людей-шоферов? Если беспилотники создают меньше аварий, чем люди-шоферы, значит, они лучше? Правда, люди, конечно, сильно различаются по навыкам автомобилевождения, и не очень понятно, как сравнивать одного конкретного индивидуума-шофера и беспилотный автомобиль.

"всяких китайских экспериментах типа «социального рейтинга»"

Это, мне кажется, несколько иная идея, чем подмена алгоритмом принятия решения. Китайцы, в сущности, ввели некий новый "экзамен", который раньше проверял знание древних текстов, а теперь - социальную активность.

"Харари раздувает опасности именно этого типа"

Но нас ведь никто не заставит ездить на беспилотных автомобилях, если они более опасны, чем вести самому? Так в чем же здесь опасность-то?

[sergeyoho.livejournal.com]

Потенциальные проблемы всеобщей дигитализации - это одно, а стройная трехступенчатая эволюция, теизм-гуманизм-датаизм - это совсем другое. Последнее, признаться, кажется мне натягиванием совы на глобус :)

Тут ошибкой будет искать какого-то Бога Данных, которому датаисты молятся. Общая идея Харари вполне элегантна и касается подхода к принятию важных решений.

Теизм – посмотри, что написано в священных текстах, если шибко грамотный. А лучше пойди к священнику-раввину-мулле за советом.

Гуманизм – загляни внутрь себя. Пойми, чего хочет твоё прекрасное «внутреннее я».

Датаизм – внутри нас никакого «внутреннего я» нет, только путаные алгоритмы, созданные под гоняющихся по саванне за антилопами обезьян. Алгоритмы Big Data лучше. Если ты и другие люди передадут этим алгоритмам информацию, будут приняты оптимальные решения в интересах человека и общества.

[sergeyoho.livejournal.com]

"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"

С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд.

Во-первых, в данном случае «наружу» не значит «всем». Допустим, вам скажут, что считываемые с вас в реальном времени данные будут храниться на «облаке» в зашифрованном виде, доступ получат лишь врачи и страховая компания.

Тут у меня есть и личные наблюдения. И в западном хайтеке я вижу достаточно энтузиастов (Харари назвал бы их датистами), которые готовы обсуждать идеи в духе: «Пусть шофёр грузовика спит дома с датчиком. Датчик покажет, что он недоспал – за руль не пустим». Я согласен, что пока что эти энтузиасты не имеют шансов пробить западную систему защиты прайваси. Что будет через 30 лет – понятия не имею.

Но есть ещё и Восток.

https://focus.ua/technologies/416382-v-kitae-za-uchenikami-sledyat-s-pomoshhyu-umnoj-shkolnoj-formy.html

Но нас ведь никто не заставит ездить на беспилотных автомобилях, если они более опасны, чем вести самому? Так в чем же здесь опасность-то?

Беспилотные автомобили могут войти в обиход, если статистически они будут безопаснее теперешних. К конкретной ситуации на дороге общая статистика может иметь косвенное отношение.

Касательно «никто не заставит»: если 80% населения пересядет в беспилотные автомобили – на оставшиеся 20% будут по понятным причинам сильно давить. Могут и заставить.

Повторяю, одна из проблем – критические ситуации. На шоссе выскочили два неосторожных ребёнка, затормозить не успеть. Но можно свернуть на встречку под самосвал. У вас в машине старенькая мама. Вы готовы доверить алгоритму «разрулить» эту ситуацию?

[yoginka.livejournal.com]

//"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"
С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд. //
- А у китайцев уже подобные данные и все остальные - не секрет. У них все данные идут в централизованную копилку, контролируемую правительством. Все про всех известно, кто где был, что покупал, с кем и о чем переписывался и т.п., и сами китайцы особо не заморачиваются на этот счет. С одной стороны, это уже позволяет предотвращать преступления и даже более эффективно тренировать разнообразные ИИ. Но западному человеку это кажется жуткой антиутопией. И не идем ли мы к тому же?
Не только в Китае это происходит. Несколько лет назад читала, что страховые компании (в США)) покупали у магазинов данные о том, какие продукты покупает человек. А потом повышали медицинскую страховку тем, кто злоупотребляет "вредными". (Не помню источник и не могу сказать, насколько он надежен).

[evan-gcrm.livejournal.com]

У Сьюзена Блэкмора есть любопытное эссе:
https://opinionator.blogs.nytimes.com/2010/08/22/the-third-replicator/
https://evan-gcrm.livejournal.com/1120994.html
где собрав все в кучу он выходит на обоснование датаизма.

[egovoru.livejournal.com]

Сьюзен Блэкмор - женщина, т.е., ее имя по-русски не склоняется :) У меня здесь есть отдельный пост (https://egovoru.livejournal.com/26854.html) по ее книжке про мемы. (В том посте, кстати, есть и видеозапись ее выступления). В той книжке про temes еще не было, и мне не очень понятно, почему мы должны считать их отдельным типом репликаторов?

[evan-gcrm.livejournal.com]

Зарапортовался с Сьюзен Блэкмор. Прошу прощения.)

Тема очень интересная, если можно поделюсь с вами развивающими ее работами.

Мне кажется это попытка свести/уложить на одну шкалу, ранее вещи не очень сводимые.

В прошлом году Joshua A. Grochow и David H. Wolpert опубликовали работу: https://dl.acm.org/citation.cfm?doid=3232679.3232689
Такой себе универсальный Дарвинизм.)

Несколько выводов из неё:
- Живые организмы можно рассматривать как объекты, которые приспосабливаются к окружающей среде с помощью информации, поглощая энергию и тем самым уклоняясь от равновесия;
- Адаптация живого и неживого достигается через предсказание/прогнозирование, а оно через оптимизацию памяти и времени вычислений.
- Базовые особенности обработки информации живыми системами, в отсутствие эволюции или репликации, уже обусловлены неравновесной термодинамикой;
- Более сложные черты — скажем, использование орудий или социальное сотрудничество — казалось бы, должны обеспечиваться эволюцией, но нет: они могут рассматриваться, как результат проявления «каузальной энтропийной силы» — своего рода желания системы частиц (направляющее ее поведение) сохранить свободу действий в будущем.

Спускаясь или подымаясь по иерархической лестнице Дойч Дэвид рассматривает культуру как набор идей, которые обуславливают в некоторых аспектах сходное поведение их носителей.
Под идеями он имеет в виду любую информацию, которая может храниться в голове человека и влиять на его поведение.

https://fis.wikireading.ru/6187

Как и гены, все мемы содержат знания (они неявно содержат информацию, которая неизвестна их носителям, но которая тем не менее вынуждает их к сходному поведению) о том, как вызвать собственную репликацию.
Эти знания кодируются в цепочках ДНК или запоминаются мозгом.
В обоих случаях знание приспособлено к тому, чтобы вызывать свою репликацию – у него это получается увереннее, чем практически у всех его вариаций.
В обоих случаях эта адаптация – результат чередующихся циклов изменчивости и отбора.

Чтобы быть мемом, идея должна содержать достаточно замысловатое знание того, как заставить людей делать как минимум две независимые вещи: верно усвоить мем и воспроизвести его.



Автор делает вывод, что как зачастую случалось в истории универсальности, способность человека к универсальным объяснениям развивалась не ради получения универсальной функции. Она эволюционировала, просто чтобы повысить объем меметической информации, которую могли приобрести наши предки, а также скорость и точность, с которыми они могли ее приобрести. Но поскольку для этого эволюции было проще всего дать нам универсальную способность объяснять с помощью творческого мышления, это она и сделала.
Творческое мышление является не только необходимым, но и достаточным условием для репликации мемов человека.

Этот эпистемологический факт обьясняет прежде всего причину эволюции творческого мышления человека, а значит, и человеческого вида.

К этому допущению я бы добавил также закон необходимого разнообразия Эшби: «если система должна быть в состоянии успешно справляться с разнообразием проблем, возникающих в ее среде, то ей необходимо иметь репертуар ответов, который (по крайней мере) столь же нюансирован, как и проблемы, возникающие в окружающей среде. Таким образом, жизнеспособная система - это система, которая может справиться с изменчивостью окружающей среды. Только разнообразие может поглощать разнообразие.
https://www.edge.org/response-detail/27150

Fresco, Nir, Ginsburg, Simona and Jablonka, Eva вводят понятие функциональная информация - это особый причинный тип информации, понимается как любая разница в среде системы, которая привела к разнице в целенаправленном поведении системы.
https://www.academia.edu/36926352/Functional_Information_a_graded_taxonomy_of_difference_makers

Тема сырая, но очень любопытная.
Спасибо.)

[a-spyd.livejournal.com]

Не вполне понял изначальный посыл.
Любая идеология -- это прежде всего декларация приоритетных моральных ценностей/ориентиров. Что такое "хорошо" и что такое "плохо".
Допустим, мир -- это поток данных. Как это утверждение соотносится с какими бы то ни было моральными ценностями?

[egovoru.livejournal.com]

Эта часть книги показалась мне не слишком внятной, так что я, возможно, поняла ее неправильно, но вроде бы идея состоит в том, что данные и представляют собой наивысшую ценность.

O, в Вики уже есть такая статья (https://en.wikipedia.org/wiki/Dataism): "More recently, the term has been expanded to describe what social scientist Yuval Noah Harari has called an emerging ideology or even a new form of religion, in which 'information flow' is the 'supreme value'". Так что автор статьи понял Харари так же, как и я.

[a-spyd.livejournal.com]

О том и речь :)

Очень уж напоминает типичную подмену цели средством.
Если я ничего не путаю, идеологическая "высшая ценность" должна же содержать и какую-то нравственную составляющую. А 'information flow' как таковой ни нравственным, ни безнравственным быть не может. Так же, как химический автоклав, в котором можно сварить лекарство, а можно -- химическое оружие.

Я бы ещё понял, если бы Харари провозгласил ОТКАЗ от идеологии. Но это идея второй или даже третьей свежести. С ней не прогремишь на весь мир :)

[le-ra.livejournal.com]

Я не то, чтобы совсем не верю в возможность появления искусственного интеллекта. Скорее склонен предполагать, что таковой, даже зародившись, никогда не станет самоцелью, а навсегда сохранит свое подчиненное, вспомогательное положение по отношению к человеку. Интеллект ведь не означает наличие амбиций (и, как следствие, идеологий). Не помню в каком НФ-произведении попутки создания полноценного искусственного интеллекта по достижении некой критической стадии каждый раз кончались "самоубийством" прототипа. Мне такой вариант показался вполне логичным, тем более, что, говорят, прецеденты уже были. :)

[egovoru.livejournal.com]

Мне кажется, в этой области главная сложность - отсутствие ясного понятия, что же такое "интеллект". Разговор получется более внятным, если мы будем рассуждать о создании машин для решения тех или иных задач. Скажем, машину, способную играть в го, уже создали, а вот смогут ли создать машину, способную оперировать больных - вопрос пока открытый.

Соответственно, и разговоры о потенциальной опасности ИИ имеет смысл вести в приложении к конкретным устройствам. Скажем, чем может быть опасна машина для игры в го? Насколько я вижу, ничем.

[yoginka.livejournal.com]

//То есть, Вы реально знаете страховую компанию, которая ориентируется на списки покупок клиента в супермаркете, назначая размер страхового взноса? //
- Я реально читала об этом :) Но было это очень давно, и за достоверность источника не могу поручиться. И с тех пор могли уже позаботиться об этом на уровне законодательства.
Возввращаясь к Харари и датаизму, мы пока сильно ограничиваем передвижение информации :)

[egovoru.livejournal.com]

"мы пока сильно ограничиваем передвижение информации"

Проблема, как я ее понимаю, в том, что пока непонятно, насколько общественная выгода от тотального сбора персональных данных может превысить потенциальную опасность его использования во вред. Думаю, что, как всегда в таких случаях, выяснить это можно только методом проб и ошибок. Скажем, мы уже практически полностью перешли на виртуальные финансы - несмотря на то, что периодически подвергаемся краже паролей и взлому сайтов. Возможно, то же будет и с отслеживанием наших покупок или постоянной видеозаписью наших перемещений - в конце концов мы оценим их преимущества и смиримся с их недостатками; а может, и нет.

Кстати сказать, Харари прав в том, что, если мы и правда дойдем до такой жизни, то это чем-то будет напоминать религию. В том смысле, что все видящий и карающий за прегрешения Бог - это же и есть та самая постоянно тебя отслеживающая видеокамера, только воображаемая.

[steblya-kam.livejournal.com]

Ох, вести дискуссию на эту тему проблематично как раз потому, что в слово "гуманизм" кто какое значение хочет, тот то и вкладывает. Назовёт кто-то гуманизмом режим апартеида или действия испанской инквизиции, и изволь иметь с этим дело. Я даже в своём романе "Двойной бренди" это спародировала: "Виктор, вы что-то путаете. Гуманизм - это американская разновидность фашизма".

[egovoru.livejournal.com]

Харари, похоже, считает гуманизмом любую светскую идеологию: и либерализм, и коммунизм, и нацизм - это все "гуманизм" в его системе :) Иными словами, так он обозначает факт глобального упадка религиозности.

Фукуяма умер, да здравствует .....?

[mynameisanonym.livejournal.com]

Не жалко вам своего времени на этот горячечный бред?

Re: Фукуяма умер, да здравствует .....?

[egovoru.livejournal.com]

Почему "бред"? Достоинство книг Харари - занимательность, и это, мне кажется, уже немало. Я, увы, уже почти не могу читать художественную литературу, а вот такое еще пока могу. Ну и, соответственно, чем бы дитя ни тешилось :)