женские трусы больших размеров
Medical site

На головну

АвторОчеретів В.Н.
НазваЛюдина і інформація
Рік видання 1970

Введення

Не всяке досягнення в науці удостоюється назви «Фундаментальне». А те нове, що містилося в статті Клода Шеннона, надрукованій в 1948 р. в Реферативному журналі американської телефонної компанії «Белл систем», вважається саме фундаментальним внеском у науку. Це було створення нової галузі знання - теорії інформації.

Тридцятидворічний інженер-зв'язківець вклав в роботу, яка зайняла всього близько ста сторінок, такі ідеї, які поступово сколихнули математику, фізику, техніку, а потім біологію, лінгвістику і багато інших наук.

Теорія інформації, закладена Шенноном, стала навіть як би символом сучасної науки.

Здавалося б, що тепер, через 20 років після історичної публікації, можна «розкласти все по поличках» і намалювати ясну картину розвитку теорії інформації; Шеннон робить наукове відкриття, воно. развіпается, вдосконалюється як самим Шенноном, так і його послідовниками, і начіпает все більше вторгатися в різні сфери людської діяльності. В історії науки з'являється нова глава, в якій питання пріоритету не піддавалося ні найменшого сумніву.

Але існує * декілька фактів, які неможливо примирити з цією спокусливо простий картиною н які порушували б всю її ясність і наполегливо висувають питання, які породжують нові, ще більш важкі питання. Ось деякі з таких фактів.

1. У 1924 р., за 24 роки до виходу в світ роботи Шеннона, в тому ж самому журналі «Белл систем» промайнула стаття Найквіста, що містить багато положень, які лежать зараз в основі теорії інформації. У 1928 р. все в тому ж журналі була опублікована, як ми зараз сказали б ще більш визначено, теоретико-інформаційна стаття Хартлі. У ній містилася основна формула для кількості інформації й обговорювалися можливі застосування цієї формули.

2. Сам Шеннон, публікуючи свою роботу, не вважав, що в ній міститься якесь революційне відкриття, Робота починається словами: «Сучасний розвиток різних методів модуляції .... підвищило інтерес до общейтеоріі зв'язку. Деякі основні положення цієї теорії маються на важливих роботах Найквіста і Хартлі.В цій статті ми розширимо теорію з тим, чтобивключіть деяке число нових факторів, зокрема, вплив шуму в каналі ».

З перших же рядків - посилання на фундаментальні результати попередників, концентрація уваги на чисто технічне питання. І зауважте, не «створимо, а« розширимо »теорію - мається на увазі, вже існуючу.

Втім, може бути, це лише надмірна скромність великої людини, начебто скромності Ньютона, який сказав: «якщо я і досяг чогось, то тому, що стояв на плечах гігантів».

Ні, вся стаття Шеннона переконує в тому, що її автор не вважав свої внесок у науку відкриттям. Сам термін «теорія інформації» не має ніякого відношення до Шеннону. Стаття Хартлі 1928 називалася «Передача інформації», а стаття Шеннона 1948 р. - «Математична теорія зв'язку».

3. Багато часу опісля після свого появленіяета робота Шеннона була майже безвісній. Вона зовсімне викликала при опублікуванні тієї бурі, яка зараз здається нам неминучою і обов'язковою, а отже, і сталася. Ось що пише, наприклад, з цього приводу академік А. Н. Колмогоров:

«- Мені пригадується, що ще на міжнародному з'їзді математиків в Амстердамі (1954 р.) мої американські колеги, фахівці з теорії ймовірностей, вважали мій інтерес до робіт Шеннона дещо перебільшеним, так як це більш техніка, ніж математика »(передмова до книги К. Шеннона" Роботи з теорії інформації і кібернетики »).

4. Вже в 1956 р., тобто через 8 років після виходу основоположною роботи, Шеннон опублікував коротеньку статтю «Бандвагон», в якій гаряче прізивалпісать скромніше про теорії інформації, не вважати цю теорію всемогутньої і універсальною, не перебільшувати її значення. Він писав:

«Будинок нашого дещо штучно створеного благополуччя занадто легко може впасти, як тільки в один прекрасний день виявиться, що за допомогою декількох магічних слів, таких, як інформація, ентропія, надмірність ___ не можна вирішити всіх невирішених проблем ».

Підсумовуючи всі ці факти, мимоволі починаєш підозрювати, що Шеннон не відкривав, та й не збирався відкривати, нову теорію, а написав роботу з займав його спеціального питання, причому зміст цієї роботи вважав досить скромним. Роботу, як уже сказано, деякий час не помічали. Коли ж ув'язнені в ній ідеї стали раптом звеличуватися до небес, Шеннон енергійно почав з цим боротися.

Отже, замість образу великого першовідкривача перед нами виникає образ хорошого інженера, волею долі і проти власного бажання залученого в величезне наукове протягом, яка винесла його на поверхню і проголосило своїм лідером і основоположником. Який же образ вірний? Не саме чи час зараз це з'ясувати, поки Шеннон ще порівняно молодий і не став «класиком», у затвердженій історією біографії якого нічого не можна змінити; поки ярки ще спогади про його публікаціях і про їх сприйнятті науковою громадськістю; поки всі матеріали порівняно свіжі і легко доступні.

Перш ніж спробувати вирішити цю проблему, скажемо ще кілька слів на підтвердження її складності.

Можна було б (сказати наступне: Шеннон - геніальна людина, але він не математик-професіонал. Він прикладник, інженер. Тому свої революційні ідеї він наділив у форму, мало привабливу для математиків. Він вирішував технічний питання і вирішив його по-новому, але не знав, що це нове може бути використано і в інших сферах. І лише коли математики розкусили саму сутьегоідей, вони вхопилися за них і стали переносити їх на інші науки. Іншими словами, виникає бажання примирити концепцію першозасновника з деякими з наведених вище фактів при помоши образу геніального самородка, який сам не зрозумів величі того, що зробив, не зрозумів по недоліку загального математичної освіти. Йдучи цим шляхом, ми зблизили б Шеннона з інженером Хевісайдом, «випадково» відкрив операційне числення, обгрунтоване потім математиками, або з одним відомим фізиком, який називав «винайдені» ім матриці «товстими рядами Фур'є» , бо не знав про те, що такі об'єкти широко поширені в математиці і мають там давно сформована назва.

І знову ця спрощує історію створення теорії інформації модель входить в протиріччя з фактами.

По-перше, Шеннон насамперед математик і за освітою (в 1940 р. він отримав ступінь магістра електротехніки та доктора математики), і по складу розуму.

По-друге, якщо найважливішим у роботі Щеннопа була загальна концепція, яку свого часу він ке усвідомив до кінця, то чому ж не викликали шуму інші загальні концепції теоретико-інформаційного плану, які з'являлися і до Шеннона?

Наприклад, в 1935 р. в журналі «Під прапором марксизму» професор Г. І . Покровський у співавторстві з А. А. Некрасовим опублікував статтю, пронизану тим самим духом, який характерний для сучасної теорії інформації. У цій роботі містилося, мабуть, не менш загальних ідей, ніж у роботі Шеннона, хоча замість слова «інформація» Г. І. Покровський вживав слово «різноманіття» .. Але відгомону стаття Г, Й. Покровського не викликала,

Дивні речі відкриваються тому, хто подробноі за першоджерелами вивчає історію науки. У ній вседвіжется і розвивається не зовсім так, як потім записують у підручники. До якоїсь пори всі вчені виглядятслепимі і глухими і не хочуть помічати навіть самихясних натяків на те, що потім буде визнано велікімоткритіем. Але от щось спрацьовує, і раптово починається ажіотаж, повальне захоплення. Ще недавно лежала на поверхні і нікому не потрібна думка овладеваетумамі .......

Але чи так вже раптово?

Швидше треба думати, що умови для сприйняття ідеї зріють поступово, але спочатку проходять інкубаційний період. До кінця цього періоду атмосфера в науці розжарюється, в ній витає щось майже відчутне, але ще незрозуміле, виникає передчуття того, що ось-ось блисне блискавка.

Передумови для виникнення теорії інформації биля все наявності. Було вчення про ентропії і проблема «демона Максвелла», була формула Хартлі, були дослідження частот букв мови, була практика телеграфного кодування, були загальні ідеї теорії комунікації в людському суспільстві, був закон психофізичного сприйняття Вебера - Фехнера. Шеннон нічого ке винайшов в прямому сенсі, він тільки вміло розвинув існували ідеї. Але головна його заслуга полягала в тому, що він зібрав воєдино все те, що до нього було розсипано, зв'язав все власної ясною концепцією і показав, в якому напрямку слід розвивати додатки цієї концепції. Зробити йому це вдалося лише тому, що він - математик вищого класу. І те, що він зробив, безсумнівно є відкриття.

Існують відкриття фактичні - наприклад, відкриття нової частинки. Вони іноді як би погіршують становище в науці - ставлять у глухий кут існуючу теорію , призводять до того, що область нашого розуміння затуманявается. Відкриття Шеннона є відкриттям не фактичним, а теоретичним. Він поєднав відомі елементи в такому поєднанні, яке дозволило сильно розширити область розуміння. Для цього потрібні були все якості генія: ясність і логічність мислення, інтуїція, прагнення до конкретності і до доведення якого міркування до кінця, до кількісного результату.

Коли ця робота була пророблена, було вже не настільки істотно, кал скоро її помітять. Громоотвод був створений, може бути, трохи раніше, ніж атмосфера наелектризовані до потрібної ступеня. Творець цього громовідводу ні засліплений спалахом і застерігав від засліплення інших. Та ж сама ясність, яка дозволила йому по-новому осмислити рояоденние його попередниками ідеї, не дала йому побачити у виниклій теорії того, чого там не було.

Але людина , який викликав до життя захлеснув науку процес, був безсилий, коли намагався впливати на цей процес в ході його розвитку. Його заклики до помірності приймалися за зайву скромність, а посилання на попередників - за крайню педантичність.

До того ж більшість людей, особливо в останні роки, вивчали теорію інформації по підручниках і науково-популярним викладам, а тому мало хто наштовхувався на пророче застереження Шеннона-«Банд-ваг він» г.

А пророчим воно було тому, що зараз, через 14 років поїло опублікування, збулися найгірші побоювання Шеннона. перебільшене уявлення про могутність теорії інформації розрослися и розширилися. Старовинне слово «інформація» придбало присмак модного терміну. ??

У тих випадках, коли раніше говорили, наприклад, «порожній доповідь», тепер багато хто із задоволенням ввернуть звучне слівце і скажуть « доповідь, позбавлений інформації ».

Замість колишнього« не читай швидко - я не встигаю зрозуміти »зараз можуть заявити:« читай помедленнее - я не встигаю переробити інформацію ».

І якщо десять років тому на художній виставці ми чули слова «картина містить надто багато деталей», то сьогодні не виключена така вишукана -. репліка: «картина перевантажена зорової інформацією».

Говорити при всякому зручному випадку про інформацію зробилося в деяких колах як би свідченням інтелектуалізму, хорошого тону. Складається враження, що більшість культурних людей прекрасно освжлісь з поняттям інформації и може швидко, на гллзок, оцінити її кількість. Послухавши загублені . фр * зи, можна припустити, що багато хто сприймає інформацію як матеріальну субстанцію. Коли, наприклад, заявляють, що у радіопередачі мало інформації, то не уточнюють деталей і обставин сприйняття, а значить, мають на увазі, що в даній передачі може бути або мало, або багато інформації, як молока в пляшці, незалежно від того, хто його п'є.

  • 1 Треба сказати, що заклики до помірності в застосуваннях, ч теорії з боку самого основоположника цієї теорії є, мабуть, безпрецедентними в історії науки. Майже всяка науч ная ідея в бойовій період становлення і завоювання «місця йод солі-1 цом» претендувала иа універсальність, на вирішення всіх проблем світобудови (досить згадати Декарта, Леібянца, Дарвіна, і багатьох інших вчених).

У цьому пункті і починається серйозна розбіжність між науковим, строгим визначенішим інформація, на підставі якого виникла нова галузь знання, і житейській, інтуїтивним, поверхневим про неї поданням. Ця розбіжність є настільки корінним, що переважна більшість «ультрасучасних» розмов про інформацію виявляється лише видимістю знапія, а не справжнім знанням, претензійною і ефектним балаканиною, не наближає до істини, а, навпаки, відволікаючим від істини і тим самим завдає великої шкоди.

Адже якщо людина зізнався сам собі, що він не знає якогось предмета, який для нього корисно і потрібно було б знати, то він захоче заповнити пробіл у своїй освіті. Якщо ж у нього є підстава повірити в своє знання предмета, то він постарається повірити, щоб не затрачати працю і час на навчання, - така вже природа людської психіки. А підстави , точніше, приводи для запевнення себе в розумінні - це слова. Ті самі слова, про які з тривогою згадував Щеннон в «Бандвагоне» - інформація, надмірність і т. д.

Колись, десятки тисяч років тому, наші предки створили мову. Це було найбільше з усіх досягнень людини. Природно, що воно сприймалося як диво. У ті далекі часи назвати річ або явище означало зрозуміти. Слово було магією. Докази такого ставлення до слова, що панував в давнину, розсипані всюди. У багатьох релігіях, в зокрема в буддійської, величезне значення надається знанню правильного імені бога. У казках «Тисяча і однієї ночі» вимовлене слово відчиняє печеру з скарбами. У «Калевале» схиляння перед словом йде ще далі: знаючи тексти магічних пісень, Вейнемейнен створює предмети з нічого. Та й кожен з нас пам'ятає те атавістичне почуття поваги до знання правильного слова, яке супроводжувало нас в дитячих іграх.

Доісторична віра в могутність називання мала цілком зрозумілі причини. Мислення без мови неможливо. Дати назву предмету або події означало залучити його в сферу мислення. Навіть і сьогодні введення в ужиток нового слова або терміна має певне методологічне значення. Раз з'явився термін, значить виникла необхідність привернути увагу до якого- то явищу; це явище стало важливим для якоїсь галузі людської діяльності - політики, науки, мистецтва. Отримавши назву, воно має постійний пропуск до газети, журнали, монографії, енциклопедії. Роль введення терміна добре ілюструється не так давно широко поширився словом «ескалація *), яке саме до себе без подальшого пояснення допомагає викликати у свідомості певні явища міжнародного життя.

Але проте в наші дні «просте називання» вже не можна вважати розумінням. Зараз знання тільки зароджується в назві, далі слід суворе визначення названого явища, потім з'ясування його властивостей і зв'язків з іншими явищами. Тільки таке знання визнається повноцінним.

Як ми вже сказали, найбільш поширена помилка полягає в тому, що інформацію абсолютизируют, відривають від конкретних умов її передачі, від вихідних даних, що характеризують стан сприймає системи. На жаль, таке невірне розуміння як би закладено в самій Шенноновская теорії, так як він: »індукується ло1іческой строгістю і математичної коректністю цієї теорії. Знявши верхній шар проблеми, ми натрапляємо на щось досить щільне і гладке і приймаємо його за ядро, тоді як насправді воно являє собою лише наступний шар, який при зусиллі можна теж зняти і побачити більш глибокий. Всі математичні побудови Шеннона, зокрема його знамениті теореми про канал зв'язку, базуються на деяких постулатах і поза цих постулатів не є істинними. Ясно зрозуміти, в яких саме межах справедливі ті чи інші формальні висновки, дуже важко, але в кінцевому рахунку необхідно, бо без такого розуміння вченість, навіть придбана в результаті величезної праці і фантастичною відданості науці, виявляється все ж самообманом, який може тривати досить довго (іноді набагато довше терміну людського життя), але не вічно. Викриття такого роду ілюзій не раз вже потрясало науку, зокрема  математику. Скільки видатних учених вірило, наприклад, що істини геометрії, алгебри і тим більше арифметики непорушні, абсолютні, являють собою щось дане ззовні. Але поступово цей погляд розхитувати. Дослідження Лобачевського, Рімана, Кантора, Кроне-кера, Рассела, Уайтхеда, Брауера та інших математиків, що володіли виключною незалежністю розуму, показали, що можна говорити не про вічність, а лише про розумність або конструктивних достоїнствах дгатематі-чеський аксіоматики і що структура цієї аксіоматики не в останню чергу визначається людською інтуїцією і в кінцевому рахунку суспільною практикою.

Теорія інформації як частина математичної науки не може відмахнутися від «гамлетівських» питань, пов'язаних з логічним фундаментом її буття. Але спускатися разом з читачем у філософську безодню і шукати першооснови пізнання - не мета цієї книги. Ми хіба лише заглянемо в цю безодню, щоб ще затишніше відчути себе на тій обмеженою, але твердій землі, де наші побудови будуть надійними. Крок за кроком ми простежимо за кожним наступним розширенням поняття інформації і весь час при цьому будемо запитувати себе, наскільки таке розширення правомочна і де воно може бути використано?

Зрозуміло, можна було б взагалі не виходити за межі щенноновской теорії зв'язку і таким чином уникнути гострих і спірних проблем. Але класична теорія інформації без раздвіганія своїх кордонів не може стати інструментом дослідження для вчителів, психологів, журналістів, вихователів, редакторів, пропагандистів, художників, лікарів, зоологів, іхтіологів та інших - практично для всіх тих, хто в своїй роботі прямо чи опосередковано має справу з людьми або тваринами. А ці фахівці зацікавлені у використанні теорії інформації. І вже, звичайно, треба особливо сказати про генетиках, про працівників радіо і телебачення, про зв'язківців - про тих, для кого успішне управління інформацією в широкому смисяе є найпершим професійною необхідністю.

Ця книга призначена для тих, хто не є професіоналом в математиці або теорії зв'язку. Тому завдання книги полягає в тому, щоб термін «інформація» був усвідомлений в дещо більш загальному значенні, ніж це Прийнято в спеціальній літературі. Однак без викладення основ теорії зв'язку неможлива ніяка популяризація теоретико-інформаційних поглядів, так як еталоном строгості залишаються дослідження Шеннона і його послідовників, що стосуються передачі інформації по «каналу», і всяке розширення проблеми корисно звіряти з цим еталоном. Ми обрали таку послідовність розташування матеріалу, щоб незабаром після основних визначень і їх обговорення  можна  було познайомитися з шенпоновскімі результатами, використовувати їх як «затравки», а потім вже перейти до інших розділів, намагаючись зберегти по можливості ту визначеність і чіткість, яка панує в теорії зв'язку, обумовлюючи при всіх неминучих ухилення від такої визначеності.

Ми намагалися не перевантажувати книгу формулами і викладками. Але оскільки теорія інформації насамперед є метод, в ній не менше значення, ніж загальні положення, мають ілюстрації того, як застосовуються ці положення до конкретних завдань. Ми обрали ті ілюстрації, які доступні читачеві, що володіє шкільної математикою і началами диференціального числення. Простежити за технікою виводу і застосування теоретико-інформаційних ідей до різних ситуацій буде корисно для засвоєння матеріалу і, ймовірно, цікаво. З цих же міркувань ми досить детально розібрали ряд досліджень щодо застосування теорії інформації в мовознавстві. Ті з читачів, які не мають відповідних знань в математиці, можуть ці викладки пропустити. Але дуже важливо читати книгу поспіль. Вона побудована так,  що  майже всюди необхідна тверда опора на попереднє.

Щоб зробити хоча б один крок у вивченні теорії інформації, потрібно рішуче розлучитися з ілюзією, нібито термінологія вже є наука. Той, хто так думає, повинен зробити зусилля і повернутися до початку, щоб вже напевно стати на правильний шлях. Потрібно доставити перед собою питання: що таке інформація в науковому сенсі і як її вимірювати в конкретних випадках. Тільки відповівши однозначно на це питання, можна рухатися далі і прийти до розуміння цікавих ї перспективних застосувань теорії інформації.

 Глава перша
 Міра інформації; визначення на рівні здорового глузду

З самого початку раз і назавжди запам'ятаємо головне: д н-формація-є характеристика але повідомлення, а співвідношення між повідомленням і його споживачем.

Без наявності споживача, хоча б уявного, потенційного, говорити про інформацію так само безглуздо, як без наявності повідомлення.

Ті, хто думає, що інформація закладена в самому повідомленні безвідносно до процесу його сприйняття, як би повторює оману хіміків XVIII в., Які вірили в існування теплороду - особливого материа ла вогню. У той час думали, що в такому-паливі міститься рівно стільки-то теплорода і горіння є виділення цього виду матерії назовні. Але тепер кожному відомо, що теплота, що виділяється хімічною реакцією, залежить від того, з чим вступає в реакцію дана речовина, іншими словами, визначається двома речовинами, їх взаємодією. Подібно до цього про кіль честве інформація мова може йти лише в тому випадку, коли відомі властивості і повідомлення і те, хто його отримує. Тільки з'єднуючись із споживачем, повідомлення «виділяє» інформацію, саме по собі воно ніякої інфор мационной субстанції не містить, так само як дропа не містять теплорода. Інформація тобто не матеріальна сутність, а спосіб опису взаємодії.

Коли відкинули тедлородную теорію, стало зрозуміло, чому в кисні сдічкі горять яскраво, ав повітрі тьмяно.

Якщо читач, слідуючи нашій раді, відразу категорично відкине уявлення про і-нформации як про самостійну субстанції, йому легко буде пояснити, чому для однієї людини лекція цікава, а для іншого немає, чому одца і та ж книга викликає і позіхання, і захоплюючий інтерес залежно від того, хто її читає. Розгадка в тому, що одне і те ж повідомлення одному споживачеві може давати багато інформації, а іншому мало.

Після цих вступних слів нам слід, вирішити, яким чином вимірювати кількість інформації, якщо дано і повідомлення, і його споживач.

Науковий термін «інформація» збігається з древнім словом латинського походження, широко поширеним в гуртожитку. «Інформувати» в звичайному розумінні означає «повідомити щось невідоме раніше». Ясно, що точне математичне визначення поняття інформації ие повинно вступати в протиріччя з повсякденним значенням цього поняття. Але від приблизного визначення потрібно перейти до суворого. Зауважимо, що в корені невірним є погляд, ніби термін стоїть вище звичайного житейського слова. Суворе визначення  має  свої переваги і недоліки. Загальновживане, інтуїтивно розуміється значення слова «інформація» куди багатше значення терміна і в багатьох сенсах цікавіше останнього. Але, беручись за науковий аналіз проблеми, доводиться навмисно звужувати коло уявлень, що викликаються даним словом, і приносити багатозначність в жертву простоті.

Почнемо з такого кінця: що означає «допис не рало мені ніякої інформації»? Очевидно, таке: «... те, що мається на повідомленні, мені і так було відомо». Ось тут і знаходиться ключ до кількісного визначення інформації. Якщо у заздалегідь відомому повідомленні кількість інформації дорівнює нулю, значить інформації Для даного споживача в даному повідомленні тим більше, чим більш несподівано повідомлення. Але як виміряти несподіванка кількісною мірою?

Уявімо собі таку ситуацію.

Багатий, але нерозумний студент Джон на іспитах часто вдається до підказок бідного, але розумного студента Джека. Якщо питання професора поставлене так, що ш  нього є тільки дві відповіді, го підказка коштує долдар. Для інших випадків сторони-розробили тариф "н ую сітку. Її центральна ідея полягає в тим, що, як би 'ні докуповувати правильну відповідь,-відразу або по частинах, за нього треба сплатити одну і ту жу сууму - умова, природне для комерційних відношенні, що не ускладнених неясними правилами зниження цін при оптовій торгівлі.

На кількох прикладах, взятих з їх екзаменаційної практики, читач переконається, що система Джона і Джека працює бездоганно чітко.

Випадок перший.

Cj Джона запитали: «В який час року Земля знаходиться | ближче  всього  до Сонця? »Він цього, звичайно, не знав і читав-думати про доцільність звернення до Джека. Можна покластися на удачу і сказати одне з чотирьох можливих слів: «взимку», «навесні», «влітку», «восени». Але це ризиковано. Краще розлучитися з доларом. І Джон шепоче Джеку - у першому чи другому півріччі?

У першому, - підказує Джек і ховає в кишеню гроші.

Залишилося вибрати між зимою і весною. Спробую щастя,-думає Джон і відповідає професору:-Навесні! У відповідь він чує знайому репліку - знову не знаєте! - Прикро. Потрібно було відразу віддати два дол ^ лара - і кінець справі.

Випадок другий.

- Скажіть, будь ласка, містер Джон, на який зпланет сонячної системи, крім Землі, звичайно, наивірогідніша життя?

Скільки коштуватиме повна підказка? Планет вісім: Меркурій, Венера, Марс, Юпітер, Сатурн, Уран, Нептун, Плутон, tlx можна розділити на дві групи по чотири планети. Вказати групу, в якій знаходиться потрібна планета, Джек може за один долар. Після цього четвірку можна розбити на дві пари - ще один долар. В результаті залишаться дві планети, і вказівка ??єдиною з них обійдеться ще в долар. Разом, три долари. Немає сенсу втрачати час і задавати питання порціями, нехай Джек відразу отримує три долари і називає планету.

Випадок третій.

- Дайте відповідь, студент, який з шістнадцяти Людова-'до ов сказав: «Держава - jjtjjji»?

Людовиков було, виявляється, цілих шістнадцять! Відповідь, мабуть, буде досить дорогим. - Куплю спочатку частина відповіді, - думає Джон, - а там, можливо, і: сам згадаю.

Який, - запитує він Джека, - парний або непарний?

Парний. - Долар перейшов з однієї кишені в іншу.

Д> кон силкується викликати у своєму мозку якісь асоціації, але не може. Йому необхідно ще одне уточнення.

До восьмого включно або вище?

- Вище.

Знову пауза, протягом якої Джон марно намагається вирішити залишилася задачу сам. І знову шедот: - Ділиться на чотири чи ні?

- Ні.

Тепер залишилося тільки два Людовика - десятий і чотирнадцятий. Немає сенсу ризикувати в самому кінці.

- Плачу четвертий долар, говори, який?

- Чотирнадцятий.Випадок четвертий.

На іспиті з російської мови Джона запитали: яка буква російського алфавіту має найбільшу частоту? Будучи при грошах, він вирішив купити відповідь «на корені». У скільки ж доларів це йому обійдеться?

Читач легко тепер може збагнути, скільки разів довелося б розбивати безліч букв, спочатку складається з тридцяти двох, на рівні половини, щоб дістатися до єдиною літери. Звичайно ж, п'ять разів. Значить, оптова ціна, яка повинна співпасти з сумою роздрібних, дорівнює п'яти доларам.

Ділити дана кількість об'єктів до отримання одного об'єкта потрібно, очевидно, стільки ж разів, скільки разів потрібно виробляти подвоєння починаючи з одиниці, щоб отримати дану кількість. Як ми зараз переконалися, коли підказуються вибір з чотирьох можливих варіантів, то передаються дві одиниці інформації, коли з восьми - три, коли з шістнадцяти - чотири, коли з тридцяти двох - п'ять, і так далі. Узагальнюючи цю закономірність, ми приходимо до наступного висновку.

Якщо перед одержувачем повідомлення є 2 J рівноправних варіантів і повідомлення вказує на єдиний з них, то можна вважати, що воно приносить даному споживачеві / одиниць інформації.

Цю ж думку можна виразити і по-іншому: одиницею інформації ми умовляється рахувати кількість інформації, що міститься в повідомленні, яке скорочує наше невідання рівно вдвічі.

Ось приклади повідомленні, містять одиницю інформації:

1. - Хто з мешканців нашого будинку виграв «Волгу»?

- Не знаю точно хто, але знаю, що він живе в ційполовині будинку.

2. - Як мені потрапити в ГУМ?

- Ідіть по вулиці в ту сторону, а там запитайте.

3. - Коли у нього день народження?

- Пам'ятаю тільки, що в першій половині року.

4. - У якому півкулі знаходиться Кергелен?- У Південному.

5. - На яке число припадає найближча суббота?

- На парне.

6. - Ти кажеш, у мене забруднена щока. Яка?

- Ліва.

7. - З якого боку від Костроми цей будинок відпочинкуна Волзі?

- Вниз за течією.

8. - Хто у неї народився?

- Дівчинка.

9. - У цій квартирі живуть двоє. Хто з них відповідьственний квартиронаймач?

- Іван Петрович.

10. - Ви поїдете на бал?

- Поїду.

Останній приклад, навіяний знаменитої грою «Вам пані прислала сто рублів», корисно розібрати докладніше. Власне кажучи, в ньому є деяка натяжка. Більше того, без певних застережень цей приклад просто невірний. Щоб переконатися в цьому, досить уявити, що ви підходите до свого товариша по службі і питаєте:

- Ви поїдете на бал?

Якщо він навіть не буде занадто приголомшений таким питанням, а просто відповість «ні», навряд чи ваше неведення зменшиться вдвічі. Адже і до відповіді ви були майже на сто відсотків упевнені, що ні на який бал він л найближчим часом їхати не збирається. Кількість інформації, укладену у відповіді, буде практично дорівнює нулю: ви услішіте те, що й так знали.

Інша справа - відповідь у грі про пані. У рамках тих умовностей, які керують цією грою, позитивний і негативний відповідь абсолютно рівноправні, тому апріорі ви могли очікувати будь-якого з них в рівній мірі  1.  Тут інформація відповіді буде вимірюватися в точності однієї  одиницею.  До речі кажучи, та обставина, що відповідь умовний, що справжньою поїздки на справжній бал не відбудуться, не грає ніякої ролі: такі аспекти, як правдивість інформації, зараз нас не цікавлять. Одиниця інформації доставляється всяким вказівкою на один з двох досконала равнояравних варіантів, дозволом будь альтернативи, в якій немає ніяких натяків на перевагу одного іншому.

  •  1 Строго кажучи, в грі майже завжди відповідають «поїду», так що ми маємо на увазі тут наступне: гот, кого запитують, знає про умовність питання, по які зпает, як прийнято отве чать.

Багаторазове повторення вибору однієї нз половин потребує отримання багатьох одиниць інформації. В результаті / одиниць інформації звужують область вибору в 2 J раз. Це можна зобразити на схемі «підказки при пошуках скарбу» (рис. 1).

Неважко збагнути, що якщо повідомлення вказує на єдиний варіант з рівноправних шістдесяти чотирьох, то воно несе 6 одиниць інформації:

якщо з 128 ........................ 7 одиниць,

якщо з 256 ........................ 8 одиниць,

якщо з 512. . . . . .9 Одиниць,

якщо з 1024 .................. 10 одиниць,

якщо з 2048 ............... 11 одиниць,

якщо цз 4096 .................. 12 одиниць і т. д.

У всіх цих випадках кількість інфор мації одно стел і, в яку потрібно звести двійку, щоб отримати число рівноправних варіантів вибору.

Тепер задамо що напрошується питання. А якщо число варіантів не є настільки спеціальним, як у щойно наведеному стовпці, а дорівнює, скажімо, п'ятдесяти? Адже тоді не можна підібрати відповідне ціле число /, щоб виконувалася рівність

 2 '= 50.

Навіть не виходячи за межі «інтуїції здорового глузду», легко впоратися з цією проблемою. Якщо не можна підшукати цілу ступінь, що задовольняє останньому рівності, то завжди знайдеться ступінь дробова, яка забезпечить як завгодно близький збіг лівої і правої частин. Для цього достатньо скористатися таблицею логарифмів - в даному випадку довічних, так як двійковий логарифм даного числа за визначенням є та ступінь, в яку потрібно звести двійку, щоб отримати дане число. З таблиці довічних лагаріфмов знаходимо, що в нашому випадку

/ = 5,644

з точністю до третього знака після коми.

Отже, природне узагальнення всього сказаного вище: якщо повідомлення вказує на один з N  рівноправних варіантів, то воно несе кількість інформації, рівне log 2  N.

Одиниця інформації отримала назву «біт», за ним криється скорочення англійських слів binary digit - двійкова одиниця 1.

Зараз для нас істотно познайомитися не тільки із значеннями інформації в тих чи інших ситуаціях, а із загальними рисами поведінки інформації як функції «широти вибору». Поведінка функції найнаочніше пояснюється графіком, тому ми і розглянемо приблизний графік (рис: 2), відклавши по горизонтальній осі кількість варіантів, між якими потрібно зробити вибір, а по вертикальній осі - кількість інформації, необхідне для здійснення вибору, або, що те ж саме, що доставляється зазначенням єдиного варіанта.

Зверніть увагу на різке уповільнення зростання інформаційної функції. Кількість інформації зростає далеко не так швидко, як росте число варіантів вибору. Такі особливості логарифмічною функції. По графіку видно, що для здійснення вибору між числом варіантів, зрослим  під  стільки-то раз, потрібно отримати інформації  на  деяку величину більше колишньою. У міру того як широта вибору зростає в геометричній прогрес оці, інформація росте в аріфметі чеський прогресії.

  •  1 Це слово преаложіл Тьюки,

Сильне збільшення дієвості інформації при порівняно невеликому зростанні її кіль чесна дивує, часто несвідомо. Поки не уявляєш основ теорії, це властивість інформації важко сприйняти з усією чіткістю і ще важкий пояснити, але воно виявляється в багатьох явищах, коли ведеться пошук потрібного варіанта серед маси підозрюваних. Отримання кількох зайвих біт в багатьох випадках є вирішальним і призводить до остаточної розгадки казавшейся жахливо складною головоломки.

Це цінна якість інформаційної функції відкривається, зокрема, коли в дитинстві знайомишся з грою-відгадкою «жарко - холодно». Зрозуміло, в цьому віці ми нічого не знаємо про теорію інформації. Може бути, тому нами здається дивним, що за допомогою декількох відповідей по двійковій системі (для спрощення візьмемо той варіант гри, в  якому  не кажуть «холоднувато», «теплуватим», «набагато тепліше», «мороз», «дуже жарко», «обпечешся» і т. д.; будемо вважати, що існують тільки дві підказки: «спекотніше» і «холодніше») досить скоро відшукується захована в обширній кімнаті дрібна штучка.

Ще з більшою яскравістю лавинне зростання цінності якої додаткової порції інформації проявляється у слідчих процесах.

Розглянемо як приклад один судовий випадок, який став у. деякому роді класичним.

Раннім літнім ранком господар однієї з ферм півдня США попрямував до хліва, щоб подоїти корів. Ліниво позіхаючи, він почав відмикати замок, і в цей момент його розсіяний погляд впав на пролітає на великій висоті пасажирський реактивний лайнер. - Рейс 5.30, - подумав фермер, який знав з досвіду, коли пролітають над його будинком які літаки. І тут сталося щось непередбачене, що вибило з випадкового глядача залишки сну і змусило його забути про своїх корів: літак раптом зник і на його місці виникло біла хмарка. Ще пізніше долинув гуркіт далекого вибуху, але до цього часу в блакиті ясного неба вже нічого не було. Прокинувшись від заціпеніння, фермер кинувся дзвонити в поліцію.

Через особливу значущості трагічного справи його ведення було доручено ФБР, що має в своєму розпорядженні кілька тисяч кваліфікованих агентів, располагающему лабораторіями за хімічним і спектральному аналізу, радіометричними приладами, електронно-обчислювальними машинами і т. д. і т. д. На місце події виїхали експерти . Величезна територія, на якій були розсіяні уламки літака, була оточена, і війська прочісували її метр за метром, щоб відшукати докази, що можуть пролити світло на інцидент. Колосальна розшукова машина включилася в дію і працювала, не рахуючись ні з якими витратами, - в таких випадках за все платить держава.

Зрештою через багато місяців справа була розплутати і причини аварії встановлені. Федеральне бюро розслідувань записало це в свій актив. Ніколи з тих пір воно не упускало випадку з гордістю згадати про блискуче розкриття злочину, полягав у знищенні літака бомбою уповільненої дії.

Здається, що до такої гордості є причини: дізнатися, чому вибухнув лайнер, від якого залишилися лише дрібні обгорілі шматочки металу, і тим більше з'ясувати, хто влаштував цей вибух. Але при уважному розгляді виявляється, що для цього потрібно ненабагато більше «підказок», ніж при розшуку захованої речі в грі «жарко - холодно».

Повернемося до цієї гри і проаналізуємо її з точки зору теорії інформації. При цьому нам доведеться кілька схематизувати дії граючих, але ідеалізація реального процесу неминуча при всякому точному дослідженні.

Нехай кімната, в якій захована річ, має об'єм 64 кубічних метра - досить велика кімната. Припустимо далі, що річ може бути захована в будь-якій точці кімнати, наприклад, підвішена лрямо в повітрі, і що, захована в будь-якій точці-, вона залишається невидимою. Нарешті, зробимо ще таке припущення: річ вважається знайденої лише в тому випадку, якщо на неї натрапила рука шукає, тобто якщо рука потрапила в обсяг, займаний цієї "річчю в просторі кімнати.

Гру будемо представляти так: гравець, що розшукує предмет, подумки ділить весь обсяг кімнати на дві рівні частини і від межі розділу робить рух у напрямку до однієї з цих частин. Після цього має послідувати підказка або «спекотніше», або «холодніше». Так буде  обрана правильна з половин, яка потім знову поділиться на дві частини, і т. д. Предмет буде виявлений, коли фіксований обсяг приблизно співпаде з обсягом, характерним для області досяжності пальців при нерухомій кисті, т. е стане рівним небудь близько тисячі кубічних сантиметрів. Як ви думаєте, скільки підказок достатньо отримати, щоб напевно знайти захований?

Неважко підрахувати, що шістнадцяти вказівок буде свідомо достатньо. Адже кожне вказівку дає один біт інформації, так як визначає єдиний варіант з двох можливих, З іншого боку, та частина простору, яку нам необхідно локалізувати, дорівнює приблизно одній сімидесятитисячні частці від усього обсягу кімнати. Значить, щоб знайти предмет, потрібно скоротити неведення в сімдесят тисяч разів, тобто число, яке входить в нашу формулу, дорівнює 70 000. По таблиці довічних логарифмів ми швидко знайдемо число біт  J,  достатню для вирішення завдання

J  = Log a 70000 ж 16,

Зауважимо, що ми висловилися обережно: «достатня». Сказати, що 16 біт є необхідними, було б невірно: випадково предмет може виявитися знайденим раніше, але 16 підказок завідомо достатньо.

Якщо згадати, що умови нашої уявної гри були дуже суворими - річ могла бути захованої в будь-якій точці простору і залишалася невидимою, ніби все відбувалося в повній темряві, - то така незначна кількість потрібних одиниць інформації для заведомово виграшу здається дивним. Таким же дивним представляється можливість виграшу в відомій грі «загадування великих людей». Ця гра особливо широко поширена в Англії. Правила її такі: хтось один виходить за двері, а інші задумують-якого видатної людини, напевно відомого вийшов. Останнього кличуть у кімнату і пропонують відгадати задуману прізвище з допомогою питань, на які присутні зобов'язані давати правильні відповіді. Але відповіді можуть бути тільки двох типів: «так» чи «ні», всі інші забороняються. Відповідно відгадує повинен ставити свої питання в такій формі, щоб ці відповіді були можливі. Якщо після двадцяти відповідей прізвище не відгадана, «водить» програв.

Тому, хто вперше знайомиться з правилами цієї гри, здається, що виграти в неї абсолютно немислимо - хіба тільки випадковість може допомогти. Але практика переконує у зворотному: при правильній стратегії вона безпрограшна і навіть обьтчпо частину дозволеної кількості питань залишається невикористаною.

Ось зразок такої гри.

Жив до п'ятнадцятого століття?

Ні.

Дев'ятнадцятий - двадцяте століття?

Так-

Дев'ятнадцятий?

-Так.

: - У нашій країні?

Так.

Представник мистецтва?

Ні.

Вчений?

Так.

Точні науки?

- "Так-

Тут ми зробимо паузу для коментаря. Сім питань - одна третина допустимої кількості - витрачені на те, щоб встановити, являетсялі задумане обличчя російським; фізиком, математиком чи астрономом; жило в минулому столітті. Це вже дуже багато. Але залишається дізнатися теж, звичайно, чимало. Тому треба побудувати стратегію задавши, ания подальших питань найбільш розумним чином. Інтуїтивно відчувається, що найвигідніше ставити питання так, щоб наявне на даний момент безліч підозрюваних великих людей розбивалося на дві приблизно рівні групи. Що така стратегія найбільш ефективна, можна здогадатися по явною безглуздості протилежної стратегії: якщо ми будемо називати кожен раз якусь прізвище навмання, тобто кожним питанням розбивати наше безліч на вкрай неоднакові групи - один і всі інші, то виграти практично буде неможливо . Ми скоро побачимо, що теорія інформації підтверджує інтуїтивне уявлення про оптимальну стратегії,

Восьмий питання:

Фізик?

Нот.

Дев'ятий:

Математик?

Так.

Тепер справа значно прояснилося, особливо для тих, хто знайомий з іменами російських математиків. У пам'яті виникають конкретні варіанти. Але йти напролом, звичайно, ще рано - в Росії в XIX в. було чимало математиків.

Як же провести наступний розділ на дві групи? Можна, наприклад, так. У математиці є творці нових ідеї, зачинателі оригінальних течій, а є такі дослідники, які лише з успіхом розвивають закладене іншими. Ось ця обставина і потрібно використовувати і задати десятий питання так:

Створив новий напрям у науці?

Так.

Тепер, коли на відбір математика самого  вищого  класу, що живе в Росії минулого століття, залишилося цілих десять питань, можна дозволити собі пряме вгадування. Запас інформації, яку дозволяється отримати, достатньо великий для того, щоб не обтяжувати себе витримуванням оптимальної стратегії.

Лобачевський?

Так-

Перемогу здобуто. Для її досягнення знадобилося 11 питань.

У цій грі, як, втім, і при торгівлі підказками на іспитах, дуже відчутно відбувається послідовна передача одиниць інформації. Біти, як краплі, падають у свідомість задає питання, і вакуум його непоінформованості все більше заповнюється. Але якщо краплі води витісняють повітря зі склянки рівномірно, всякий раз зменшуючи його обсяг  на  одну і ту ж величину, то поодинокі порції інформації, одержувані вгадуємо, скорочують його неведення в  одне і те ж число раз - удвічі. Внаслідок цього область ворожіння стрімко зменшує розміри, і дуже скоро задумане обличчя «заганяється в кут» і викривається.

Звернемо увагу на таку деталь: для вирішення Завдання зовсім неважливо, але якою ознакою дроізводітся поділ підозрюваної групи навпіл і відбір потрібної половини. Повна байдужість інформаційної функції до змісту відомостей є досить характерним її властивістю. Надалі ми скажемо про нього докладніше, оскільки недостатньо ясне розуміння цієї властивості призводить до серйозних непорозумінь. Зараз ми проілюструємо його таким чином: проведемо ту ж саму гру з вгадування зовсім за новим принципом.

Отже, «водить» входить до кімнати і починає:

Перша літера прізвища голосна?

Ні.

Дзвінка згодна?

- Так.

- Вибухова?

Ні.

«Л»?

Так.

Разом чотири питання. Максимум же на відгадування букви знадобиться п'ять питань, оскільки всього букв

32. Наступні букви буде відгадати ще легше, так як вже відомі попередні частково підкажуть правильний варіант. Наприклад, знаючи, що перша буква є Л, ми вже можемо бути впевнені, що в якості другої букви законами мови заборонено виступати таким, як Ш, Щ, виданню, Ч, Ц, (Фіт. д., а отже, область вгадування звузиться . Кладучи в середньому чотири питання на кожну букву, ми до двадцятого питання будемо мати поєднання «ЛОБАЧ». Після цього задумана прізвище стане очевидною.

Тепер звернемося до трагічного інциденту з літаком. Перед розслідувачів стояло завдання: хто винуватець страшної катастрофи? До яких би то не було уточнень можна в принципі підозрювати кожного з людей, що живуть в США. Візьмемо крайній випадок і будемо вважати, що ця кількість становить сто мільйонів - майже все доросле населення країни (виключаючи ув'язнених, божевільних, хворих та ін.) Скільки ж потрібно отримати одиниць інформації, щоб вказати серед них справжнього злочинця?

Iog 3 10 Березень ж  26,7. Виявляється, агентам досить було отримати відповіді на двадцять сім альтернативно поставлених питань, і зловмисник в глухому куті ..

Які це питання і кому їх задавати - це вже професійна сторона справи. В описаному випадку ретельно вивчалися уламки літака, і таким чином виникали відповіді на наступні альтернативи: де стався. вибух-г у носовій або кормовій частині машини і т. д. / Перевірялися люди, так чи інакше пов'язані з, загинув-. ські пасажирами, і кожна подробиця що заводяться. на них досьє давала відповідь на якесь питання або частина питання. Нам немає потреби вникати зараз в усі тонкість слідчого ремесла. Головне нам ясно. Ми переконалися, що детективам не так вже необхідно володіти надприродною інтуїцією і геніальної спостережливістю, а достатньо мати терпіння, акуратність і бути грамотними в своїй справі. Надознать, какіедесяток-два питань поставити речей і людей, щоб поступово загнати істину в єдину осередок. А десяток або два відповідей отримати можна дуже в багатьох випадках-недарма Шерлок Холмс говорив, що на місці навіть самого «кваліфікованого» злочини залишається безліч слідів.

Якщо вже говорити про чудесні і надприродних речах, то такою річчю є нездатність ФБР до кінця розібратися у всьому тому, що відноситься до вбивства Джона Кеннеді і його брата Роберта. Натренована машина розшуку забуксувала саме тоді, коли цього найменше можна було очікувати. Вбивство Джона, наприклад, сталося на очах маси свідків; в розпорядження агентів потрапили кулі, що вразили жертву, і навіть аматорський фільм, на якому зображений драматичний, момент. Публічно відбувалися і багато інших подій, пов'язані зі злочином. Все це могло забезпечити принципову можливість  отримати відповіді  не так на 27, а на набагато  більшу  коллчестпо альтернатив. І все ж справа не була доведена до кінця. Темпи розслідування тут знаходяться в повному протиріччі з теорією інформації. Зате вони, ймовірно, не суперечать Інтерос деяких «сильних світу цього».

 Зміст  Далі

наверх

psm.in.ua

     © psm.in.ua - підручники, статті та монографії
енциклопедія  флотський  пломбір  зелені  запіканка