Лишь символ – все бренное, что в мире сменяется

[egovoru]

Сколько информации содержит молекула ДНК, состоящая из 10 нуклеотидов? Большинство из вас, вероятно, ответит, воспользовавшись формулой Шеннона h(E) = -log₂P{E}: 20 бит. Но я думаю, этот ответ неверен, и вот почему.

Двадцать бит содержит не сама молекула ДНК, а последовательность из 10 символов четырехбуквенного алфавита, которой мы подменяем молекулу ДНК, производя эти вычисления. Но ведь ту же молекулу ДНК можно представить и по-другому: например, как последовательность чисел – пространственных координат всех составляющих ее атомов, плюс буквенные обозначения химических элементов. Если мы подсчитаем, сколько информации содержит такая запись (а именно так и строят структурные модели молекул), то получим число, существенно большее, чем 20 бит. Теоретически можно представить себе и квантово-механическое описание всех составляющих молекулу частиц, хотя пока мы и не умеем этого делать для молекул такого размера – и эта запись будет содержать еще больше информации.

Не означает ли это, что понятие «количество информации» вообще не имеет смысла для физических объектов, а применимо только к их символьным обозначениям? Ведь прежде чем измерять информацию как вероятность выбора одного варианта из многих, необходимо разметить пространство возможностей.

На ту же мысль наводит и отсутствие прибора, которым можно было бы измерить информационное содержание физического объекта – в отличие от, например, температуры. В противном же случае приходится выдумывать такие несуразности, как отдельная «органическая информация» :)

Leo Bear-McGuinness рассказывает о планах использования ДНК
для хранения произведенных человечеством текстов

Спасибо уважаемому mns2012 за ссылку на статью Барбиери.

Comments

[affidavid.livejournal.com]

Нет, вычисления вполне годятся, если мы используем ДНК для кодировки каких-то сообщений (про это довольно много статей). Разумеется, это не имеет никакого отношения к биологической роли ДНК, там все совершенно по-другому.

[egovoru.livejournal.com]

Конечно, если мы хотим использовать ДНК для записи некоего сообщения, как показано в этом видео, то вопрос, сколько ДНК нужно, чтобы закодировать его, вполне осмысленный. В этом случае мы заранее договариваемся, что будем использовать разные нуклеотиды для передачи четырех разных символов (а можно задействовать и только два нуклеотида для более привычного бинарного кода или изобрести какой-то более сложный код для передачи, скажем, всех букв алфавита). Эта ситуация ничем не отличается от той, когда мы используем лампы или транзисторы для той же цели.

Меня смущает не это, а разговоры о том, что, дескать, такой-то физический объект "содержит столько-то бит информации". Мне кажется, подобные утверждения начисто лишены смысла. А Вы что думаете?

[egovoru.livejournal.com]

"если мы используем ДНК для кодировки каких-то сообщений"

Кстати, подумала, что те, кто собираются хранить информацию в виде ДНК, похоже, не отдают себе отчет в неизбежности ошибок копирования при размножении клеток. С учетом этого в качестве "хранилищ" нужно выбирать не микроорганзимы с их чрезвычайно коротким временем жизни (а значит, и быстрой сменой поколений со столь же быстрым накоплением ошибок!), а каких-нибудь долгоживущих тварей вроде черепах :)

[evgeniirudnyi.livejournal.com]

Физики нашли по этому поводу крайне простое решение. У них в настоящее время информация вселенной сохраняется.

[egovoru.livejournal.com]

В том-то и беда, что мне совершенно непонятно, как можно говорить об "информации вселенной" или даже атома - и вообще любого физического объекта. А Вы понимаете, что именно при этом имеется в виду? Как именно предполагается подсчитывать количество информации, содержащееся в том или ином физическом объекте?

[marigranula.livejournal.com]

Информацонное содержание чего либо само по себе вряд ли имеет какой-либо смысл. Как в случае и с близким к информации понятию энтропии. Какой-либо смысл имеет говорить не об абсолютном значении энтропии, а об разнице между энтропиями двух состояний. В случае с информацией, обьем информации зависит и от носителя информации и от взаимодействующей с ней системой (например, прибором). Если у нас например есть синтезатор ДНК, то на вопрос "Сколько бит нужно, чтобы синтезировать ДНК из 10 оснований," ответ - 20 бит. А вот если у нас есть прибор синтезирующий ДНК или из С14 или из С13, то нам потребуется уже 30 бит. Но при этом стандартный анализатор ДНК все равно будет выдавать по 2 бита на основание для нашей последовательности. А вот если мы приделаем к анализатору масс-спектрометр, то он уже будет выдаст 30 бит. А если мы добудем atomic force микроскоп, то будем определять положение нуклеотидов, и информации будет ещё больше. Я к тому, что тут прям по анекдоту:
-А правда, что в Одессе всегда отвечают вопросом на вопрос?
-А почему вы спрашиваете?
Так и тут, на вопрос "сколько информации содержится в ДНК" единственный коректный ответ "а почему вы спрашиваете?" . Что вы собираетесь с этой ДНК делать? С помощью каких приборов? От этого все зависит.

[egovoru.livejournal.com]

"Информацонное содержание чего либо само по себе вряд ли имеет какой-либо смысл"

Если мы имеем дело с последовательностью символов, то говорить о ее информационном содержании очень даже можно - см. формулу Шеннона. Иными словами, количество информации - это отрицательный логарифм вероятности выпадения именно этой последовательности символов среди всех, которые можно составить из данного алфавита (проще говоря, величина, обратная числу всех возможных последовательностей). Но как определить количество информации, содержащееся в физическом объекте?

"Сколько бит нужно, чтобы синтезировать ДНК из 10 оснований," ответ - 20 бит"

Верно, но, заметьте, это ведь ответ на вопрос, обратный тому, какой я задала в посте :) Действительно, синезируя ДНК, мы заранее договариваемся, что букве А в заданной нам последовательности символов будет соответствовать аденин в создаваемой молекуле, букве Т - тимин и т.д.

"на вопрос "сколько информации содержится в ДНК" единственный коректный ответ "а почему вы спрашиваете?"

Да, именно об этом я и говорю. А между тем, постоянно попадаются суждения типа "такой-то физический объект содержит столько-то информации" - или даже попытки подсчитать информационное содержание Вселенной (https://www.researchgate.net/profile/Aleksandr_Bukalov/publication/289779624_Antropo-cosmic_resonance_coincidence_of_dynamic_values_and_constants_in_the_present_epoch_and_generalization_of_the_Antropic_Principle/links/5692908108aec14fa55d7f19/Antropo-cosmic-resonance-coincidence-of-dynamic-values-and-constants-in-the-present-epoch-and-generalization-of-the-Antropic-Principle.pdf)! Мне кажется, все это начисто лишено смысла, или нет?

[a-gorb.livejournal.com]

”Большинство из вас, вероятно, ответит, воспользовавшись формулой Шеннона”
Как во всякой формуле, сначала надо более-менее понять, к чему она относится. (Например, формула 2+2=4 не всегда является верной, как показал в своей диссертации Менделеев, 2 литра воды + 2 литра спирта = 3,86 литров напитка.) Так и здесь. Говоря о информации, Шеннон начинает со следующего:
Система связи по существу состоит из пяти частей:
Источник информации – создает сообщение
Передатчик – перерабатывает в некий сигнал
Канал передачи
Приемник – восстанавливает сообщение по сигналу
Адресат.

[egovoru.livejournal.com]

К Шеннону-то нет никаких претензий: его формула совершенно четко определяет способ подсчета количества информации, содержащейся в данном сообщении (оцифрованном сигнале) - иными словами, в данной последовательности символов. Но как приложить эту формулу к физическим телам, которые ведь вовсе не представляют собой последовательность символов? А между тем, таки сплошь и рядом прилагают и даже говорят об "информационном содержании Вселенной" :)

[riftsh.livejournal.com]

> Если мы подсчитаем, сколько информации содержит такая запись (а именно так и строят структурные модели молекул), то получим число, существенно большее, чем 20 бит.

Это не обязательно так. Для иллюстрации правильнее рассматривать белки, потому что у ДНК структура вообще простая. "Последовательное" информационное содержание белка из 100 аминокислот - 600 бит. Теоретически возможное число конформаций такого белка в приближении Левинталя (3 стабильные конформации на торсионный угол) - 3^198 (мы знаем, что это число на десятки порядков больше реального пространства конформационного поиска, см. парадокс Левинталя). И вот это вот сильно завышенное "структурное" информационное содержание - log₂(3^198)=314 бит - прекрасно вписывается в наши 600 бит из последовательности.

Важно иметь ввиду, что такие расчеты предполагают доступность полного структурного "алфавита". Построить белок ab initio обойдется немножко дороже, чем 314 бит ;)

[egovoru.livejournal.com]

"такие расчеты предполагают доступность полного структурного "алфавита"

Вот именно. То есть, эти 314 бит нужны будут нужны в дополнение к 600 (да и то, 600 - это какой-то уж очень коротенький белок). Не говоря уже о том, что тут мы решаем обратную задачу - подсчитываем, сколько информации нам будет нужно, чтобы построить заданный белок. А эта задача предполагает предварительную договоренность о том, как именно мы будем расшифровывать заданную нам информацию, что, очевидно, тоже имеет свое информационное содержание. Вопрос же об информационном содержании физического тела остается неопределенным.

[le-ra.livejournal.com]

Погодь, 10 пар нуклеотидов - это максимум три разных аминокислоты в протеинивом эквиваленте (или я уже все забыл?)

[egovoru.livejournal.com]

Не обязательно - они ведь могут быть и стоп-кодонами, например. Но дело не в том, как последовательность нуклеотидом определяет последовательность аминокислот, а в том, что я не понимаю, в каком смысле говорят об "информационном содержании" физических тел. На мой взгляд, информационное содержание может быть только у нашего описания такого тела, а последнее зависит от контекста.

[109.livejournal.com]

А что смущает-то? Если кодировать аминокислотами, то одно количество бит, а если атомами – то другое. Вот если я спрошу, сколько бит можно закодировать числом от 0 до 255, вы же правильно ответите? А если добавить, что записывать число можно разноцветными фломастерами? А если после каждой цифры можно точку ставить или не ставить?

[egovoru.livejournal.com]

Вопрос о том, сколько информации можно закодировать таким-то способом, вполне правомочный. Меня смущает правомочность обратного вопроса, сколько информации содержит физический объект. Он кажется мне бессмысленным, потому что ответ на него зависит от контекста.

[mns2012]

Посмотрите хорошую статью немецкого специалиста Хуберта Йоки.

Теория Шеннона не отражает смысловой аспект сообщений.

Функциональная информация - это минус лог. отношения числа функциональных строк (доставляющих заданный уровень конкретной биофункции f) к числу всех возможных строк длины не более заданной. Это объективная величина (понятно, с учетом стандартных допущений теории информации).

По поводу Вашего недоумения думаю, что никаких нестыковок быть не должно: нужно смотреть в каждом методе, какие допущения используются. Если все допущения привести "к общему знаменателю", то разными способами должна получаться примерно одна и та же цифра.

[egovoru.livejournal.com]

"Теория Шеннона не отражает смысловой аспект сообщений"

Верно, но подсчитывать смысл, если я правильно понимаю, никто пока не научился.

Но в данном случае меня занимает не смысл, а невозможность однозначно рассчитать количество даже шенноновской информации для физического объекта. Это количество зависит от контекста, то есть, от того, какой именно последовательностью символов мы представляем данный объект.

Спасибо за отклик и ссылку на статью, но, судя по Вашему о ней посту, автор пишет все же несколько о другом.

[yoginka.livejournal.com]

С информацией дело обстоит так же, как и с энергией. Вопрос: сколько энергии в шаре массой 1 кг, летящем со скоростью 10 км/час? При такой постановке вопроса сразу приходит школьная формула для кинетической энергии mv²/2. А если, например, этот шар сделан из угля или другого горючего материала? У него же есть еще и химическая энергия, выделяющаяся при горении, это тоже энергия (можно найти из таблиц). Ну и, наконец, есть еще и так называемая полная энергия E=mc². Т. е. на разных уровнях рассмотрения получаются совершенно разные значения.
Информация - тоже понятие относительное, ее количество зависит от уровня рассмотрения.

[egovoru.livejournal.com]

Энергия, безусловно, понятие тоже достаточно сложное. Но, может, потому, что оно присутствует в нашей речи уже достаточно давно, по крайней мере у меня оно вызывает меньше трудностей. Ведь, например, даже эта максимально объемлющая "полная" энергия выражается через такие вроде бы сугубо физические вещи, как масса и скорость.

Информация же - это вроде бы нечто из области сугубых абстракций, символов, текстов, а подмена физического объекта текстом кажется мне опасной игрой. То есть, физика, разумеется, тоже имеет дело с абстракциями - идеальным газом, абсолютно черным телом и т.д. - но все же тут есть понимание, что абстракции служат только моделями некоего "реального мира", который не является последовательностью символов!

[rock-25.livejournal.com]

Вы не путаете "информацию по Шеннону" и "информацию по Колмогорову"?

[egovoru.livejournal.com]

Вики, во всяком случае, приписывает (https://en.wikipedia.org/wiki/Quantities_of_information#Self-information) это определение именно Шеннону :)

Вот что он пишет в своей знаменитой статье 1948 года (только я не умею вставлять в html греческие буквы):

"We shall call H = - (Сигма) Pi log Pi the entropy of the set of probabilities p1, ... pn. If X is a chance variable we will write H(x) for its entropy; thus x is not an argument of a function but a label for a number, to differentiate it from H(y) say, the entropy of the chance variable y."

А что такое "информация по Колмогорову"? Я слыхала только о "колмогоровской сложности" и еще о его определении вероятности.

[steblya-kam.livejournal.com]

Не означает ли это, что понятие «количество информации» вообще не имеет смысла для физических объектов, а применимо только к их символьным обозначениям? - Хлоп-хлоп-хлоп (аплодисменты). Наконец-то кто-то это понял. Для меня как для гуманитария это было очевидно с самого начала, и я пыталась это людям разъяснять, но мои разъяснения обычно не воспринимают.

[rock-25.livejournal.com]

"Количество информации по Шеннону" применимо к последовательностям из конечного числа символов при условии, что любые такие последовательности равноправно допустимы и информацию несут . Для гуманитария понятно, что не любая последовательность 2709700 печатных символов эквивалентна роману "Война и мир" Льва Толстого по крайней мере, как еще один хоть какой-нибудь роман :) БОльшая (я затрудняюсь подобрать эпитет, чтобы сказать, насколько бОльшая!) часть таких наборов - полная бессмыслица!

[egovoru.livejournal.com]

Если бы все было так просто! Но информация - это же энтропия с обратным знаком, а уж энтропия-то точно принадлежит физическому миру: ее можно если и не непосредственно измерить, то рассчитать из соотношения Гиббса dG = H - TdS.

[alex-new-york.livejournal.com]

Если задаться вопросом, сколько мегабайт данных можно записать в молекулу днк человека, используя в качестве элементов кодировки нуклеотидные пары, то ответ - примерно 750 мегабайт.

Конечно, это далеко не предел. Объем информации можно увеличить, например, записывая её еще и внутри формирующих днк нуклеотидов - аденина, гуанина, цитозина и тимина, каждый из которых содержит полтора десятка атомов. Например, используя в качестве элементов кодировки их изотопный состав.

Есть ли с точки зрения физики теоретический предел объема информации, которую может хранить тот или иной физический объект как информационный носитель? Можно ли, например, каким-то образом записать мегабайт информации внутри отдельного атома или небольшой молекулы? Не уверен. Ведь для этого нужно каким-то образом научиться создавать, сохранять и считывать миллионы достаточно стабильных квантовых состояний внутри такого объекта. Откуда им там взяться в таком количестве, не очень понятно.

[egovoru.livejournal.com]

"Если задаться вопросом, сколько мегабайт данных можно записать в молекулу днк человека"

Этот-то вопрос не вызывает у меня никаких возражений, потому что здесь мы просто-напросто составляем сообщение, используя в качестве символов не типографские литеры, а нуклеотиды. Смущает меня обратный вопрос: сколько информации содержит физический объект? Он ведь вроде бы подразумевает некоего "кодировщика", который закодировал некую информацию в этом объекте, разве нет?

"Откуда им там взяться в таком количестве, не очень понятно"

Очевидно, мы можем подсчитать максимальное число различных состояний квантового объекта, пользуясь сегодняшними знаниями. Но, допустим, завтра будет получено подтверждение струнной теории. Не означает ли это, что тогда мы сможем распознать больше разных возможных состояний, чем сейчас (подобно тому, как мы можем рассмотреть в микроскоп гораздо больше деталей, например, у муравья, чем невооруженным глазом)?