О, одиночество, как твой характер крут

[egovoru]

Книжка Макса Тегмарка, о которой я уже начала рассказывать, оказалась все же не о том, как защитить себя от ИИ, а о том, какие возможности он перед нами откроет. И тут фантазия автора не знает границ: он живописует картины, как ИИ не только поможет человечеству справиться с остыванием Солнца, но и преодолеть разлетание галактик вследствие расширения пространства. С одной стороны, нельзя не позавидовать такому полету фантазии, но с другой, эта перспектива кажется мне все же чересчур отдаленной :)

Но одну мысль Тегмарка я считаю очень, очень своевременной. Он пишет, что вера в пришельцев, весьма распространенная в широких слоях населения, может усиливать легкомысленное отношение к тому, что мы уже имеем. Типа того, что, дескать, не страшно, если мы угробим жизнь на нашей планете: рано или поздно прилетят зеленые человечки и снова засеют это поле! Мое дилетантское ощущение совпадает с тем, что пишет космолог-профессионал Тегмарк: все попытки рассчитать вероятность возникновения жизни и разума во Вселенной – гадание на кофейной гуще. А раз так, то вполне может оказаться, что мы – единственный и неповторимый случай во всей потенциально доступной нам области мироздания (ограниченной скоростью света). Так что, если мы совершим самоубийство, санитары не приедут и не откачают.

Трехмерная модель пространства-времени из обсуждаемой книжки Макса Тегмарка. Фиолетовые формы представляют собой области, колонизированные независимо возникшими разумными жизнями. И эти области вовсе не обязательно должны пересекаться! Не говоря уже о том, что я бы не стала рисовать их бесконечно продолжающимися: всякая жизнь, разумная или нет, имеет свое начало и свой конец

Comments

[lj-frank-bot.livejournal.com]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: Литература (https://www.livejournal.com/category/literatura?utm_source=frank_comment), Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[egovoru.livejournal.com]

"Технологии" - правильно, а "Литература" - это потому, что ты, Фрэнк, тоже считаешь идеи автора уж чересчур завиральными?

[marigranula.livejournal.com]

" Он пишет, что вера в пришельцев, весьма распространенная в широких слоях населения, может усиливать легкомысленное отношение к тому, что мы уже имеем. Типа того, что, дескать, не страшно, если мы угробим жизнь на нашей планете: рано или поздно прилетят зеленые человечки и снова засеют это поле! "
Мне кажется, что исследование людей верящих в пришельцев которые прилетели или прилетят было бы очень интересным!
Ведь нельзя же! — год подряд
То тарелками пугают —
Дескать, подлые, летают,

[egovoru.livejournal.com]

"исследование людей верящих в пришельцев которые прилетели или прилетят было бы очень интересным!"

Могу уже предложить Вам один исключительно интересный результат таких исследований. Вот статистика сообщенных очевидцами появлений тарелок в США за период с 1995 по 2012 год (отсюда (https://www.economist.com/graphic-detail/2019/07/04/are-extraterrestrials-extra-patriotic)). Отчетливо видно, что инопланетяне выбрали 4 июля как самый подходящий день для своих визитов :)

[panoramov.livejournal.com]

Насчет остывания Солнца можно пока не беспокоиться, даже думы о стабильности орбит солнечной системы откладываются на 5 гигалет.

Вера в пришельцев, конечно, расхолаживает. "Придёт дядя и всё исправит." Напоминает оперное deus ex machina.

[egovoru.livejournal.com]

Да, именно. А между тем, все больше и больше людей видят тарелки (отсюда (https://www.statista.com/chart/8452/ufo-sightings-are-at-record-heights/))

[109.livejournal.com]

Почему гигалет? 5 миллионов лет же время Ляпунова.

[alex-new-york.livejournal.com]

Что касается инопланетного разума, то он как раз с огромной вероятностью является искусственным

Возраст Вселенной — порядка 10 миллиардов лет. И если разумные цивилизации не погибают, едва возникнув, то это означает, что типичный возраст такой цивилизации измеряется как минимум сотнями миллионов лет

Наша человеческая цивилизация уже через несколько десятилетий после выхода в космос создала ИИ, превосходящий человеческий разум во многих сферах

Нет никакого сомнения, что уже через несколько столетий искусственный разум будет доминировать над биологическим во всех областях

И что если земная цивилизация просуществует десятки и сотни миллионов лет, то представлена она будет не негибким и медленно развивающимся биологическим разумом, а небиологическим, обладающим неограниченной архитектурной пластичностью, объемом и быстродействием

Хотя вряд ли можно будет называть «искусственным» в нашем сегодняшнем смысле то, во что проэволюционирует ИИ за эти миллионы лет развития цивилизации. По степени развития эти новые формы оставят далеко позади биологическую жизнь и выдут на уровень возможностей, который в нашей нынешней культуре отождествляется с божественным

И уж конечно к иным планетным системам отправятся именно искусственные разумные системы, а не уязвимые и несовершенные разумные биологические организмы

Та же логика применима и к инопланетному разуму. Вероятность, что изучающий и осваивающий космос инопланетный разум представлен «зелеными человечками», крайне мала. С гораздо большей вероятностью путешествующий по галактике инопланетный разум представляет из себя продукт исключительно сложных и мощных технологий, с возможностями, которые мы восприняли бы как божественные

Столкнувшись с ним, мы, вероятно, просто не поняли бы, что произошло. И сочли бы произведенные им изменения в окружающем нас мире и в нас самих результатом каких-то естественных, хотя и не до конца понятных нам процессов

[egovoru.livejournal.com]

"типичный возраст такой цивилизации измеряется как минимум сотнями миллионов лет"

Не очень понятно, откуда берется эта цифра?

"искусственный разум будет доминировать над биологическим во всех областях"

Вопрос в том, что такое "искусственный разум", и что такое "доминировать". Ясно, что в области, например, арифметических вычислений мы уже и сейчас применяем преимущественно ИИ - мало кто сегодня считает в уме или столбиком на бумажке. Но оправдано ли тут слово "доминирование"?

"к иным планетным системам отправятся именно искусственные разумные системы"

Да, Тегмарк тоже так думает. Вам бы эта его книжка, вероятно, понравилась - у Вас тоже есть склонность к полету фантазии :)

"сочли бы произведенные им изменения в окружающем нас мире и в нас самих результатом каких-то естественных, хотя и не до конца понятных нам процессов"

Ну, некоторые же и считают, что все, что мы видим вокруг себя - продукт инопланетного ИИ :)

[mns2012]

Как же это всё далеко от реальных проблем ...

[egovoru.livejournal.com]

Согласна, беспокойство об остывании Солнца кажется сегодня не слишком актуальным, но вот озабоченность тем, как бы нам по дурости не угробить самим себя вместе со всей жизнью на планете, я бы не назвала излишней. А Вы как думаете?

[tijd.livejournal.com]

Джордж Карлин в свое время шутил про то, что спасать планету не нужно - люди исчезнут, а она останется: "The planet is fine… the people are fucked!"



Некоторые шутки сегодня кажутся менее смешными, чем раньше:

"What would you do if you were the planet trying to defend against this pesky, troublesome species? Let’s see… what might… hmm… viruses! Viruses might be good. They seem vulnerable to viruses. And uh… viruses are tricky; always mutating and forming new strains whenever a vaccine is developed."

[egovoru.livejournal.com]

Да мне его выступление вообще не показалось особенно смешным. В частности, насчет того, что виды так и так вымирают, так что не надо заботиться об их спасении - это же полная ерунда :(

[ald1976.livejournal.com]

А есть ли вообще связь между ужасом от конечности жизни цивилизации и количеством таких цивилизаций во Вселенной?

Если мы одни, то какая разница - вымрем или нет? Все равно никто этого оценить не сможет.

И даже если предположить нашу уникальность, все закончится либо вымиранием, либо расселением по многим звездным системам. И тут уже наши потомки точно будут знать, что они не одни, так что в случае чего "прилетит волшебник в голубом вертолете". И начнут морально разлагаться :)))

[egovoru.livejournal.com]

"Если мы одни, то какая разница - вымрем или нет? Все равно никто этого оценить не сможет"

Ну да, пока я жив - смерти нет, а когда она придет, меня не будет :) С точки зрения целых цивилизаций это, может, и так, но вот с точки зрения отдельных людей внутри них - все-таки как-то хочется, чтобы у тебя были не только дети и внуки, но и пра-пра-пра-пра и т.д., разве нет?

[andresol.livejournal.com]

Я считаю, что у человечества в целом, как и у отдельного человека, есть моральное право совершить самоубийство, если дальнейшее существование стало невыносимо бессмысленным. И мы никому – ни богам, ни инопланетянам, ни потенциальным потомкам – не обязаны жить и размножаться до бесконечности.

Но найти инопланетян мне было бы интересно с научной точки зрения, чтобы изучить их биохимию.

[skogar.livejournal.com]

Ещё вопрос, кто чью биохимию будет изучать :)

[egovoru.livejournal.com]

"у человечества в целом, как и у отдельного человека, есть моральное право совершить самоубийство"

Я очень сомневаюсь, что у всех людей одновременно когда-либо возникнет желание покончить счеты с жизнью: все-таки у нас за плечами миллиарды лет отбора на выживаемость. Но вот продолжающийся технический прогресс приближает нас к той стадии (или даже уже приблизил), когда один самоубийца (или просто идиот) будет в состоянии угробить всю планету нажатием одной кнопки, и это не может не беспокоить.

[vsopvs.livejournal.com]

прежде, чем обсуждать пришельцев и искусственный интеллект, хотелось бы немного прояснить картину тут, на Земле, с естественным интеллектом.

есть ли черта, которая отделяет тех, кто наделен интеллектом, от тех, у кого его нет? у шимпанзе есть интеллект? и далее - вниз по лестнице, ведушей вверх: у прочих обезьян? а у коровы?

[ald1976.livejournal.com]

Для начала надо понять, есть ли интеллект у человека, или это иллюзия.

Если есть, то наличие интеллекта у животных очевидно, и надо только определиться с его количественными параметрами - у кошки как у пятилетнего ребенка, у коровы - как у младенца и.т.д. [все числа примерные]

[egovoru.livejournal.com]

Единственная возможность количественно оценить интеллект, какая у нас есть - это заставлять испытуемых решать некие задачи. Существуют задачи, которые могут решать не только люди, но и другие животные - причем одни животные (слоны, дельфины, человекообразные обезьяны) делают это лучше, чем другие. В принципе, можно считать интеллект неким градуальным качеством и выстроить всех животных в некую лестницу от совсем глупых до самых умных (нас). Проблема, однако, в том что очень трудно придумать такие задачи, которые годились бы и для нас, и для, скажем, инфузории. И второе замечание: поскольку задачи придумываем именно мы, то такие задачи неизбежно оценивают именно то, насколько ум других животных близок к нашему собственному, а не то, насколько они "объективно умнее".

[mynine.livejournal.com]

>> вполне может оказаться, что мы – единственный и неповторимый случай во всей потенциально доступной нам области мироздания

Какая область мироздания считается потенциально нам доступной? Ни до одной из самых близких звезд мы не можем добраться физически и шансы попать туда хоть когда-то ничтожно малы. Так что да, в физически доступной области мы точно одиноки.

Но если рассматривать наблюдаемую нами Вселенную, то она огромна и вероятность нашего одиночества крайне мала, учитывая количество звезд и огромный возраст Вселенной (с точки зрения биологических организмов). Предположение о нашей уникальности, это то, от чего всегда уходила научная мысль познающая Вселенную — нет никаких оснований предполагать нашу особость. Мы живем на рядовой планете, с обычным химическим составом, рядом с самой обыкновенной звездой, которых только в Галактике многие миллиарды (это уж не говоря о числе таких галактик в видимой нам части Вселенной).

[egovoru.livejournal.com]

"Ни до одной из самых близких звезд мы не можем добраться физически и шансы попать туда хоть когда-то ничтожно малы"

Под "доступностью" Тегмарк имеет в виду именно возможность получения сигнала, т.е. наблюдаемость.

"она огромна и вероятность нашего одиночества крайне мала, учитывая количество звезд и огромный возраст Вселенной (с точки зрения биологических организмов)"

Число звезд и проч. не дает нам возможности оценить вероятность возникновения жизни. Она может оказаться настолько мала, что никакая огромность не поможет. На сей день нет никаких сколько-нибудь достоверных оценок этой вероятности, да и не очень понятно, как ее в принципе можно было бы рассчитать, имея на руках только одну жизнь.

[greygreengo.livejournal.com]

Танцы с бубнами у Тегмарка вокруг темы ИИ связаны банально с тем, что ему, кроме как в астроложество и выползти не с чем — там идей собственно ноль. Опровержение формулы Дрейка это еще хуже, чем фричество с опровержением теории относительности. А попытка привязать ко всему этому проблемы программирования программных комплексов с самообучением на основе статистической обработки данных только это подчеркивает. Ну, как если какой-то горячий сторонник СССР начнет говорить, что программа "Время" позитивно влияла на освещение новостных событий и общность советских людей выросла благодаря этому и сводить к статистическим данным просмотров.

Есть какая-то единая закономерность того, как многие выродки от прикладного направления программирования, выросшие на продвижении и продаже своих программ и продуктов Гейтс, Джобс Цекурберг, и прочие по мелочевке, начинают вдруг озабочиваться тем, как по их мнению должно быть все устроено, причем там, где они ни ухом ни рылом. И вот от такой "защиты от дурака" у нашей цивилизации барьера не нашлось, увы. Так, что все, что мы тут наблюдаем, начиная с конца примерно восьмидесятых — это такие пляски даже не слонов в посудных лавках разной степени фарфоровости, а шаманов с бубнами на различного рода био-, нано- космо- и прочих конференциях. Причем их всех слушают, поскольку ребята-то при деньгах, а кто девушку кормит, тот ее и танцует, как известно. Впрочем, что тут говорить.

ЗЫ "Срамота!" (с)

[egovoru.livejournal.com]

Я рассчитывала найти в этой книжке какой-то ликбез о том, что именно понимают под ИИ и какие стратегии изпользуют для его создания, но ничего этого тут нет. Ее первая примерно треть представляет собой описание этакого ИИ-апокалипсиса - то есть, того, какой вред может принести неразумно используемый ИИ, а остальные 2/3 - описание воздушных замков, которые можно построить при помощи ИИ. По делу же там, собственно, ничего и нет - то есть, эту книгу нельзя классифицировать как научно-популярную: она просто популярная, без науки :)

[mr-whole.livejournal.com]

Вообще-то утешение типа "младая жизнь играть" разумного человека утешает слабо и потому мало влияет на его поведение. Так что построение автора книги представляется сомнительным в смысле логики.

Что касается парадокса Ферми - сам парадокс был сформулирован в Лос-Аламосе, уже после испытания атомной бомбы на людях, при создании термоядерной. Все участники того разговора принимали участие и в создании этой более мощной бомбы.

Если же говорить о реальном состоянии дел, более развитую цивилизацию сложнее заметить, чем менее развитую, в силу обязательного роста КПД, без которого она просто самоуничтожилась бы тем процентом, который идёт в тепло и на прочие побочные эффекты. Пароход девятнадцатого века дымил многократно более современного океанического лайнера, островному папуасу его заметить было гораздо проще. И с остальным то же самое.

[egovoru.livejournal.com]

"Пароход девятнадцатого века дымил многократно более современного океанического лайнера, островному папуасу его заметить было гораздо проще"

Интересное наблюдение, но я не уверена, что его можно распространить на планетарный масштаб. Согласитесь, что для выхода за пределы земной атмосферы нужна более развитая технология?