![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
egovoruДатаизм – представление о мире как о совокупности потоков «данных», рассматриваемых как наивысшая ценность. Признаться, мне не удалось увидеть тут какой-то особой новизны. Харари не дает внятного определения «данным», но из контекста следует, что он имеет в виду информацию (хотя само слово «информация» он употребляет в значении «смысл»: данные нужны, чтобы извлекать из них информацию). Но ведь информационно-теоретическое описание мира уже сегодня кажется вполне обыденным? Более того, его истоки можно усмотреть даже в некоторых древних философских идеях (вроде китайской «ци»)?
К тому же у Харари не ясно, кто же, собственно, будет поклоняться данным? Он предполагает, что к тому времени людей вытеснят киборги и даже роботы. Усилия по созданию ИИ он рассматривает как процесс отделения интеллекта от сознания. Остается непонятным, почему этот отделившийся интеллект вообще будет нуждаться в идеологии?
к статье Генри Киссинджера в Atlantic об опасностях ИИ
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2019-01-16 04:27 pm (UTC)Ну а с машинами уже можно пробовать вести диалог. Недавно купил принтер и обнаружил, что он сам по себе обладает своим е-мейлом. Надо ему что нибудь написать, типа : - Здорово, с вступлением в семью и не жри столько чернил на ночь, разнесет. Как-то так.
no subject
Date: 2019-01-16 04:42 pm (UTC)no subject
Date: 2019-01-16 05:14 pm (UTC)Первая проблема – он боится, что наша жизнь будет постоянно наблюдаться всякими «большими братьями». В этом смысле «религия данных» означает что-то вроде «информация должна быть свободной: передавай наружу как можно больше информации, чтоб мир стал лучше, и тебе тоже было хорошо».
Например, страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры. Противоречит privacy? Проявят понимание, дадут скидки смелым и открытым первопроходцам. Пройдёт не так много лет и «скидки для желающих отказаться от privacy» превратятся в жуткие условия для старорежимных недобитых гадов, которые пожелают зачем-то privacy сохранить.
Вторая проблема – всё больше решений будет приниматься за нас алгоритмами, чью логику мы обычно плохо понимаем. Сегодня навигатор определяет маршрут. (Известны совершенно реальные комичные случаи, когда люди в реку заезжали, слепо доверяя навигатору.) «Завтра» «ИИ» будет за нас вести машину. И, в частности, решать, в случае возникновения плохой ситуации на дороге, сбивать ли выскочившего перед машиной ребёнка или свернуть на встречку под грузовик. «Послезавтра» мы можем доверить ИИ выбор спутника жизни.
Есть ли почва для этих опасений? Полагаю, да. Например, в сети уже мелькало немало информации о всяких китайских экспериментах типа «социального рейтинга» или школ, где дети увешаны мониторящими их приборами.
Я согласен, что Харари раздувает опасности именно этого типа и преуменьшает другие, более традиционные, типа старых добрых мировых войн. Но это совершенно обычное дело для гуманитария, интересующегося конкретной тематикой.
no subject
Date: 2019-01-16 11:20 pm (UTC)https://opinionator.blogs.nytimes.com/2010/08/22/the-third-replicator/
https://evan-gcrm.livejournal.com/1120994.html
где собрав все в кучу он выходит на обоснование датаизма.
no subject
Date: 2019-01-17 12:00 am (UTC)Tакого призыва у Харари я что-то не припомню, и эта идея кажется мне дикой. Харари пишет, что ИИ - это интеллект, оторванный от сознания, а без сознания - какие же могут быть права?
"с машинами уже можно пробовать вести диалог"
Про это у меня здесь есть отдельный пост (https://egovoru.livejournal.com/72807.html) :)
no subject
Date: 2019-01-17 12:06 am (UTC)no subject
Date: 2019-01-17 12:30 am (UTC)Потенциальные проблемы всеобщей дигитализации - это одно, а стройная трехступенчатая эволюция, теизм-гуманизм-датаизм - это совсем другое. Последнее, признаться, кажется мне натягиванием совы на глобус :)
"страховые медицинские фирмы попросят людей постоянно мониторить и передавать наружу свои физиологические параметры"
С таким я не сталкивалась, а, наоборот, сталкивалась с обратным: медицинские данные больных - топ-секрет, за разглашение которых врачи идут под суд.
"всё больше решений будет приниматься за нас алгоритмами"
В этом отношении мне кажется показательным решение математиков, что компьютерное доказательство таки считается за доказательство, даже если человек не может его проверить. Что же касается автомобилей и т.д., то, наверное, можно просто сравнить их показатели (число аварий на единицу пробега или что-то в этом роде) и показатели людей-шоферов? Если беспилотники создают меньше аварий, чем люди-шоферы, значит, они лучше? Правда, люди, конечно, сильно различаются по навыкам автомобилевождения, и не очень понятно, как сравнивать одного конкретного индивидуума-шофера и беспилотный автомобиль.
"всяких китайских экспериментах типа «социального рейтинга»"
Это, мне кажется, несколько иная идея, чем подмена алгоритмом принятия решения. Китайцы, в сущности, ввели некий новый "экзамен", который раньше проверял знание древних текстов, а теперь - социальную активность.
"Харари раздувает опасности именно этого типа"
Но нас ведь никто не заставит ездить на беспилотных автомобилях, если они более опасны, чем вести самому? Так в чем же здесь опасность-то?
no subject
Date: 2019-01-17 12:53 am (UTC)no subject
Date: 2019-01-17 01:14 am (UTC)Любая идеология -- это прежде всего декларация приоритетных моральных ценностей/ориентиров. Что такое "хорошо" и что такое "плохо".
Допустим, мир -- это поток данных. Как это утверждение соотносится с какими бы то ни было моральными ценностями?
no subject
Date: 2019-01-17 01:47 am (UTC)O, в Вики уже есть такая статья (https://en.wikipedia.org/wiki/Dataism): "More recently, the term has been expanded to describe what social scientist Yuval Noah Harari has called an emerging ideology or even a new form of religion, in which 'information flow' is the 'supreme value'". Так что автор статьи понял Харари так же, как и я.
no subject
Date: 2019-01-17 01:48 am (UTC)no subject
Date: 2019-01-17 01:53 am (UTC)no subject
Date: 2019-01-17 02:11 am (UTC)ЗЫ Сумбурно, но вот как-то так.
no subject
Date: 2019-01-17 02:36 am (UTC)no subject
Date: 2019-01-17 06:43 am (UTC)Тут ошибкой будет искать какого-то Бога Данных, которому датаисты молятся. Общая идея Харари вполне элегантна и касается подхода к принятию важных решений.
Теизм – посмотри, что написано в священных текстах, если шибко грамотный. А лучше пойди к священнику-раввину-мулле за советом.
Гуманизм – загляни внутрь себя. Пойми, чего хочет твоё прекрасное «внутреннее я».
Датаизм – внутри нас никакого «внутреннего я» нет, только путаные алгоритмы, созданные под гоняющихся по саванне за антилопами обезьян. Алгоритмы Big Data лучше. Если ты и другие люди передадут этим алгоритмам информацию, будут приняты оптимальные решения в интересах человека и общества.
no subject
Date: 2019-01-17 08:39 am (UTC)no subject
Date: 2019-01-17 09:40 am (UTC)no subject
Date: 2019-01-17 09:49 am (UTC)no subject
Date: 2019-01-17 11:09 am (UTC)Тема очень интересная, если можно поделюсь с вами развивающими ее работами.
Мне кажется это попытка свести/уложить на одну шкалу, ранее вещи не очень сводимые.
В прошлом году Joshua A. Grochow и David H. Wolpert опубликовали работу: https://dl.acm.org/citation.cfm?doid=3232679.3232689
Такой себе универсальный Дарвинизм.)
Несколько выводов из неё:
- Живые организмы можно рассматривать как объекты, которые приспосабливаются к окружающей среде с помощью информации, поглощая энергию и тем самым уклоняясь от равновесия;
- Адаптация живого и неживого достигается через предсказание/прогнозирование, а оно через оптимизацию памяти и времени вычислений.
- Базовые особенности обработки информации живыми системами, в отсутствие эволюции или репликации, уже обусловлены неравновесной термодинамикой;
- Более сложные черты — скажем, использование орудий или социальное сотрудничество — казалось бы, должны обеспечиваться эволюцией, но нет: они могут рассматриваться, как результат проявления «каузальной энтропийной силы» — своего рода желания системы частиц (направляющее ее поведение) сохранить свободу действий в будущем.
Спускаясь или подымаясь по иерархической лестнице Дойч Дэвид рассматривает культуру как набор идей, которые обуславливают в некоторых аспектах сходное поведение их носителей.
Под идеями он имеет в виду любую информацию, которая может храниться в голове человека и влиять на его поведение.
https://fis.wikireading.ru/6187
Как и гены, все мемы содержат знания (они неявно содержат информацию, которая неизвестна их носителям, но которая тем не менее вынуждает их к сходному поведению) о том, как вызвать собственную репликацию.
Эти знания кодируются в цепочках ДНК или запоминаются мозгом.
В обоих случаях знание приспособлено к тому, чтобы вызывать свою репликацию – у него это получается увереннее, чем практически у всех его вариаций.
В обоих случаях эта адаптация – результат чередующихся циклов изменчивости и отбора.
Чтобы быть мемом, идея должна содержать достаточно замысловатое знание того, как заставить людей делать как минимум две независимые вещи: верно усвоить мем и воспроизвести его.
Автор делает вывод, что как зачастую случалось в истории универсальности, способность человека к универсальным объяснениям развивалась не ради получения универсальной функции. Она эволюционировала, просто чтобы повысить объем меметической информации, которую могли приобрести наши предки, а также скорость и точность, с которыми они могли ее приобрести. Но поскольку для этого эволюции было проще всего дать нам универсальную способность объяснять с помощью творческого мышления, это она и сделала.
Творческое мышление является не только необходимым, но и достаточным условием для репликации мемов человека.
Этот эпистемологический факт обьясняет прежде всего причину эволюции творческого мышления человека, а значит, и человеческого вида.
К этому допущению я бы добавил также закон необходимого разнообразия Эшби: «если система должна быть в состоянии успешно справляться с разнообразием проблем, возникающих в ее среде, то ей необходимо иметь репертуар ответов, который (по крайней мере) столь же нюансирован, как и проблемы, возникающие в окружающей среде. Таким образом, жизнеспособная система - это система, которая может справиться с изменчивостью окружающей среды. Только разнообразие может поглощать разнообразие.
https://www.edge.org/response-detail/27150
Fresco, Nir, Ginsburg, Simona and Jablonka, Eva вводят понятие функциональная информация - это особый причинный тип информации, понимается как любая разница в среде системы, которая привела к разнице в целенаправленном поведении системы.
https://www.academia.edu/36926352/Functional_Information_a_graded_taxonomy_of_difference_makers
Тема сырая, но очень любопытная.
Спасибо.)
no subject
Date: 2019-01-17 12:38 pm (UTC)Разве мы полагаемся на "загляни внутрь себя", когда, например, обнаруживаем, что заболели? Нет, мы идем к специалисту-врачу. Или когда мы хотим, например, построить мост - разве мы прислушиваемся к внутреннему голосу? Нет, мы обращаемся к справочнику по сопромату. Да, с некоторых пор мы заменили логарифмическую линейку электронным устройством - но стоит ли считать это изменение столь принципиальным?
no subject
Date: 2019-01-17 12:43 pm (UTC)Соответственно, и разговоры о потенциальной опасности ИИ имеет смысл вести в приложении к конкретным устройствам. Скажем, чем может быть опасна машина для игры в го? Насколько я вижу, ничем.
no subject
Date: 2019-01-17 12:47 pm (UTC)no subject
Date: 2019-01-17 12:49 pm (UTC)no subject
Date: 2019-01-17 01:10 pm (UTC)"результат проявления «каузальной энтропийной силы» — своего рода желания системы частиц"
Насколько я поняла, это аристотелевская энтелехия имеется в виду?
"они неявно содержат информацию, которая неизвестна их носителям, но которая тем не менее вынуждает их к сходному поведению"
Почему же "неизвестна"? По поводу того, что называть "мемом", идут дебаты, но все же большинство считает, что к ним следует относить и вполне сознательные идеи. Вообще слово "мем" мне кажется несколько избыточным: я понимаю, Докинз придумал его по аналогии со словом "ген", чтобы подчеркнуть способность мема к воспроизведению, но мне слово "идея" кажется вполне достаточным.
"Эти знания кодируются в цепочках ДНК или запоминаются мозгом"
Как это "знания кодируются в цепочках ДНК" - где Вы такое прочли? Не известно ни одного примера, когда внешние условия (приобретение знаний) направленно повлияли бы на последовательность нуклеотидов ДНК (да и не очень понятно, как это вообще могло бы произойти, исходя из того, что нам известно о механизмах синтеза ДНК). Кроме того, ДНК ведь кодирует РНК (и в конечном счете белки), а вовсе не "знания" в человеческом смысле. Есть, конечно, технические проекты, предполагающие использовать ДНК для хранения созданных нами текстов (https://egovoru.livejournal.com/123039.html) - но Вы же совсем не об этом?
"понятие функциональная информация - это особый причинный тип информации"
Я слыхала о таком, но пока не поняла, зачем это нужно (мне показалось, что ни зачем - т.е., введение этого понятия никак не помогает объяснить что бы то ни было).
no subject
Date: 2019-01-17 01:13 pm (UTC)