И Агнец снял четвертую печать
Oct. 20th, 2021 09:00 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
egovoruДа, мы можем ввести в память ИИ какие-то «законы робототехники» наподобие азимовских, но нам все равно не удастся добиться того, чтобы ИИ принимал решения на человеческий манер. Почему? А потому, что мы сами руководствуемся не только сознательными доводами, но и бессознательными соображениями. Даже если мы и сможем воспроизвести в ИИ первые, то вот как смоделировать вторые, если мы сами их не осознаем? Ник Бостром выдвигает интересную идею ИИ, способного постигать человеческие ценности посредством самообучения, но пока неясно, что может из этого получиться.
На третий апокалипсический сценарий, предполагающий наличие у ИИ самостоятельного целеполагания – иными словами, свободы воли – моей фантазии уже не хватает. Мне кажется, свобода воли (вне зависимости от того, иллюзия это или нет) – производное жизни, а ИИ никак не попадает в эту категорию.
выдает в нем человека подозрительно наивного :)
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2021-10-20 02:01 pm (UTC)LiveJournal categorization system detected that your entry belongs to the category: Технологии (https://www.livejournal.com/category/tehnologii?utm_source=frank_comment).
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team
no subject
Date: 2021-10-20 02:03 pm (UTC)Это если жизнь трактовать узко — только как "способ существования белковых тел". А вот если расширить...
no subject
Date: 2021-10-20 02:16 pm (UTC)no subject
Date: 2021-10-20 03:02 pm (UTC)no subject
Date: 2021-10-20 03:33 pm (UTC)no subject
Date: 2021-10-20 04:08 pm (UTC)no subject
Date: 2021-10-20 04:32 pm (UTC)no subject
Date: 2021-10-20 04:34 pm (UTC)Проблема в том, что в этих двух литературных произведениях описана мягкая колонизация Земли развитой цивилизацией ради собственных интересов. Я же веду речь совершенно о другом
no subject
Date: 2021-10-20 05:06 pm (UTC)- Иллюзия она или нет, необходимым условием ее является отсутствие возможности надежно просчитать будущее. А это и нам обеспечено, и ИИ. Так что зря Вы его так дискриминируете :)
(А насчет "целеполагания" у нас с Вами уже была длинная дискуссия, оно есть не только у ИИ, но и у довольно тупых программ. Чего нет у программ — так только квалиа, как у нас).
no subject
Date: 2021-10-20 05:13 pm (UTC)> решит, что для этого надо уничтожить все человечество.
- типичное заблуждение.
В управлении есть цель и есть задачи. Эти задачи нужно решать для достижения цели. Никаких законов роботехники не нужно, если явно определена цель.
no subject
Date: 2021-10-20 08:19 pm (UTC)Вот жеж мать жеж вашу за ногу, простите мой клатчский. Почему бы по теме ИИ не задать вопрос информатику (не путать с программистом) или математику?! Я, конечно понимаю, что он человек умный и авторитетный, но это же не его область от слова "совсем". Давайте спросим еще лауреата Нобелевки по литературе. Или чемпиона по преферансу. В итоге получаем "способность ИИ постигать человеческие ценности" и прочие умные и красивые, но крайне далекие от реальности высказывания.
no subject
Date: 2021-10-20 09:52 pm (UTC)no subject
Date: 2021-10-20 09:55 pm (UTC)no subject
Date: 2021-10-20 09:58 pm (UTC)no subject
Date: 2021-10-20 10:06 pm (UTC)no subject
Date: 2021-10-20 10:12 pm (UTC)no subject
Date: 2021-10-20 10:15 pm (UTC)А что значит "абсолютно все" - как проверить, все или не все, если этого всего - потенциальная бесконечность?
no subject
Date: 2021-10-20 10:16 pm (UTC)no subject
Date: 2021-10-20 10:23 pm (UTC)no subject
Date: 2021-10-20 10:29 pm (UTC)Интересная мысль, впервые с ней сталкиваюсь. Но этому условию удовлетворяет вообще все, что существует, так что необходимого условия тут маловато, нужно еще и достаточное.
"А насчет "целеполагания" у нас с Вами уже была длинная дискуссия, оно есть не только у ИИ, но и у довольно тупых программ"
Если я правильно помню тот наш разговор, Вы имели в виду, что программы могут самостоятельно выбирать себе промежуточные цели, нужные им для достижения главной цели, поставленной программистом. В данном же случае я имела в виду неспособность программ поменять свою главную цель: например, программа, созданная для игры в шахматы, не может вдруг сама собой захотеть сыграть в го.
no subject
Date: 2021-10-20 10:32 pm (UTC)no subject
Date: 2021-10-20 10:37 pm (UTC)Ник Бостром, на книжку которого я ссылаюсь в посте, тоже не computer scientist, а философ. Он, кстати, целую первую главу посвятил демонстрации того, как плохо сбываются прогнозы развития computer science, сделанные самими computer scientists - с намеком, по-видимому, что ему, как философу, это удастся лучше :)
А кого бы из специалистов Вы посоветовали почитать на эту тему?
no subject
Date: 2021-10-20 10:38 pm (UTC)no subject
Date: 2021-10-20 10:56 pm (UTC)no subject
Date: 2021-10-20 11:04 pm (UTC)сомневаются в том, что для этого требуется свобода воли.