Клод шеннон теория информации кратко. Клод Шеннон и чем он знаменит? кратко. Клод Шеннон — становление инженерного гения

В книге прослеживается история и эволюция компьютерного мира, которую можно условно разделить на несколько периодов: период, предшествующий компьютерной эпохе; период создания первых компьютеров и появления первых языков программирования; период становления и развития компьютерной индустрии, возникновения компьютерных систем и сетей; период создания объектно-ориентированных языков программирования и новых компьютерных технологий. Каждая из глав книги посвящена отдельному периоду, изобретателям, конструкторам и программистам - архитекторам компьютерного мира.

Для широкого круга читателей

Книга:

В наше время идеи Шеннона играют важную роль почти во всех системах, хранящих, обрабатывающих или передающих информацию в цифровой форме, от лазерных дисков до компьютеров, от машин до автоматических космических станций…

Дж. Хорган

Клод Шеннон

В конце 1930-х годов Шеннон был первым, кто связал булеву алгебру с переключающими цепями, являющимися составной частью современных компьютеров. Благодаря этому открытию булева алгебра могла быть использована как способ организации внутренних операций компьютера, способ организации логической структуры компьютера. Таким образом, компьютерная промышленность многим обязана этому человеку, даже несмотря на то, что его интересы подчас находились далеко от компьютеров.

Его отец был адвокатом и в течение некоторого времени судьей. Его мать преподавала иностранные языки и стала директором Еайлордской средней школы. Молодой Клод очень любил конструировать автоматические устройства. Он компоновал модели самолетов и радиоцепи, создал также радиоуправляемую лодку и телеграфную систему между своим домом и домом друга. Он исправил радиостанции для местного универмага. Томас Эдисон был одновременно его героем детства и дальним кузеном, хотя они ни разу не встречались. Позже Шеннон добавил Исаака Ньютона, Чарльза Дарвина, Альберта Эйнштейна и Джона фон Неймана в список своих героев. В 1932 году Шеннон был зачислен в Мичиганский университет. Клод Шеннон специализировался в электротехнике. Но математика также его увлекала, и он пытался посещать столько курсов, сколько было возможно. Один из тех математических курсов, по символической логике, сыграл большую роль в его карьере. Он получил степень бакалавра по электротехнике и математике. "Вот история моей жизни, - говорит Шеннон. - Взаимодействие между математикой и электротехникой".

В 1936 году Клод Шеннон стал аспирантом Массачусетского технологического института (MIT). Его руководитель Ванневар Буш, создатель дифференциального анализатора (аналогового компьютера) в качестве темы диссертации предложил описать логическую организацию анализатора.

Работая над диссертацией, Шеннон пришел к выводу, что булева алгебра может с успехом использоваться для анализа и синтеза переключателей и реле в электрических схемах. Шеннон писал: "Сложные математические операции возможно выполнить посредством релейных цепей. Числа могут быть представлены позициями реле и шаговыми переключателями. Соединив определенным образом наборы реле, можно производить различные математические операции". Таким образом, объяснял Шеннон, можно собрать релейную схему, выполняющую логические операции И, ИЛИ и НЕ. Также можно реализовать сравнения. С помощью таких цепей легко осуществить конструкцию "If… then…".

В 1937 году Шенноном написана диссертация под названием "Символический анализ релейных и переключательных цепей". Это была необычная диссертация, она расценивалась как одна из наиболее значимых во всей науке того времени: то, что сделал Шеннон, проложило путь к разработке цифровых компьютеров.

Работа Шеннона имела очень важное значение: теперь инженеры в своей повседневной практике, создавая аппаратуру и программы для компьютеров, сети телефонной связи и другие системы, постоянно пользуются булевой алгеброй. Шеннон преуменьшал свою заслугу в этом открытии. "Просто случилось так, что никто другой не был знаком с этими обеими областями (математика и электротехника. - А. Ч.) одновременно," - говорил он. И после заявлял: "Мне всегда нравилось это слово - булева".

Справедливости ради нужно заметить, что до Шеннона установлением связи между булевой алгеброй и переключательными цепями занимались в Америке Ч. Пирс, в России - П. С. Эренфест, В. И. Шестаков и др.

По совету Буша Шеннон решил добиваться докторской степени по математике в MIT. Идея его будущей диссертации родилась у него летом 1939 года, когда он работал в Cold Spring Habor в Нью-Йорке. Буш был назначен президентом Carnegie Institution в округе Вашингтон и предложил Шеннону провести там немного времени: работа, которую делала Барбара Беркс по генетике, могла послужить предметом, для которого Шеннон применит свою алгебраическую теорию. Если Шеннон смог организовать переключение цепей, то почему он не сможет сделать то же в генетике? Докторская диссертация Шеннона, получившая название "Алгебра для теоретической генетики", была завершена весной 1940 года. Шеннон получает докторскую степень по математике и степень магистра по электротехнике. Т. Фрай, директор отделения математики в Bell Laboritories, был впечатлен работой Шеннона в области символической логики и его математическим мышлением. Летом 1940 года он приглашает Шеннона работать в Bell. Там Шеннон, исследуя переключающие цепи, обнаружил новый метод их организации, позволяющий уменьшить количество контактов реле, необходимых для реализации какой-либо сложной логической функции. Он опубликовал доклад, названный "Организация двухполюсных переключающих цепей". В конце 1940 года Шеннон получил Национальную научно-исследовательскую премию. Весной 1941 года он вернулся в Bell Laboratories. С началом войны Т. Фрай возглавил работу над программой для систем управления огнем для противовоздушной обороны. Шеннон присоединился к этой группе и работал над устройствами, которые засекали вражеские самолеты и нацеливали зенитные установки.

AT&T, владелец Bell Laboratories, была ведущей фирмой мира в области связи и естественно, что в лабораториях Bell также велись работы по системам связи. На этот раз Шеннон заинтересовался электронной передачей сообщений. Мало, что было понятно ему в этой области, но он верил, что математика знала ответы на большинство вопросов.

Сначала Шеннон задался простой целью: улучшить процесс передачи информации по телеграфному или телефонному каналу, находящемуся под воздействием электрических возмущений или шума. Он пришел к выводу, что наилучшее решение заключается не в техническом усовершенствовании линий связи, а в более эффективной упаковке информации.

Что такое информация? Оставляя в стороне вопрос о содержании этого понятия, Шеннон показал, что это измеримая величина: количество информации, содержащейся в данном сообщении, есть функция вероятности, что из всех возможных сообщений будет выбрано данное. Он назвал общий потенциал информации в системе сообщений как ее "энтропию". В термодинамике это понятие означает степень случайности (или, если угодно, "перемешанности") системы. (Однажды Шеннон сказал, что понятием энтропии ему посоветовал воспользоваться математик Джон фон Нейман, указавший, что, т. к. никто не знает, что это такое, у Шеннона всегда будет преимущество в спорах, касающихся его теории.)

Шеннон определил основную единицу количества информации, названную потом битом, как сообщение, представляющее один из двух вариантов: например, "орел" - "решка", или "да" - "нет". Бит можно представить как 1 или 0, или как присутствие или отсутствие тока в цепи.

На этом математическом фундаменте Шеннон затем показал, что любой канал связи имеет свою максимальную пропускную способность для надежной передачи информации. В действительности он доказал, что, хотя можно приблизиться к этому максимуму за счет искусного кодирования, достичь его невозможно. Этот максимум получил известность как предел Шеннона.

Каким образом можно приблизиться к пределу Шеннона? Первый шаг заключается в том, чтобы воспользоваться избыточностью кода. Подобно тому как влюбленный мог бы лаконично написать в своей любовной записке "я лбл в", путем эффективного кодирования можно сжать информацию, представив ее в наиболее компактной форме. С помощью специальных методов кодирования, позволяющих проводить коррекцию ошибок, можно гарантировать, что сообщение не будет искажено шумом.

Идеи Шеннона были слишком провидческими, чтобы иметь немедленный практический эффект. Схемы на вакуумных электронных лампах просто не могли еще вычислять сложные коды, требовавшиеся для того, чтобы приблизиться к пределу Шеннона. На самом деле только в начале 70-х годов с появлением быстродействующих интегральных микросхем инженеры начали в полной мере пользоваться теорией информации.

Все свои мысли и идеи, связанные с новой наукой - теорией информации, Клод Шеннон изложил в монографии "Математическая теория связи", опубликованной в 1948 году.

Теория информации, помимо связи, проникла также и в другие области, в том числе в лингвистику, психологию, экономику, биологию и даже в искусство. В подтверждение приведем, например, факт: в начале 70-х годов в журнале "IEEE Transactions on Information Theory" была опубликована редакционная статья под названием "Теория информации, фотосинтез и религия". С точки зрения самого Шеннона применение информационной теории к биологическим системам вовсе не является таким уж неуместным, поскольку, по его мнению, в основе механических и живых систем лежат общие принципы. Когда его спрашивают, может ли машина мыслить, он отвечает: "Конечно, да. Я машина и вы машина, и мы оба мыслим, не так ли?"

В действительности Шеннон был одним из первых инженеров, высказавших мысль о том, что машины можно запрограммировать так, чтобы они могли играть в карты и решать другие сложные задачи.

В 1948 году он публикует работу "Программирование компьютера для игры в шахматы". Ранее подобных публикаций на эту тему не было, причем созданная Шенноном шахматная программа явилась основой для последующих разработок и первым достижением в области искусственного интеллекта. В 1950 году он изобрел механическую мышь Тесей, которая, будучи управляема магнитом и сложной электрической схемой, скрытой под полом, могла найти выход из лабиринта.

Он построил машину, "читающую мысли" и играющую в "монетку" - игру, в которой один из играющих пытается угадать, что выбрал другой играющий, "орел" или "решку". Коллега Шеннона, также работавший в Bell Laboratories, Дэвид У. Хейджелбарджер построил опытный образец; машина запоминала и анализировала последовательность прошлых выборов оппонента, пытаясь отыскать в них закономерность и на ее основе предсказать следующий выбор.

Клод Шеннон был одним из организаторов первой конференции по искусственному интеллекту, состоявшейся в 1956 году в Дартмупте. В 1965 году он побывал по приглашению в Советском Союзе, где прочитал ряд лекций по искусственному интеллекту.

В 1958 году Шеннон покинул Bell Laboratories, став профессором в Массачусетском технологическом институте. После того как в 1978 году он официально ушел на пенсию, его величайшим увлечением стало жонглирование. Он построил несколько жонглирующих машин и разработал то, что можно было бы назвать объединенной теорией поля для жонглирования.

С конца 50-х годов Шеннон опубликовал очень мало работ по теории информации. Некоторые из его бывших коллег поговаривали, что Шеннон "перегорел" и ему надоела созданная им самим теория, но Шеннон отрицал это. "Большинство великих математиков писали свои лучшие работы, когда были еще молодыми", - говорил он.

В 1985 году Шеннон и его жена внезапно решили посетить Международный симпозиум по теории информации, состоявшийся в английском городе Брайтоне. В течение многих лет он не принимал участия в конференциях, и сначала его никто не заметил. Затем участники симпозиума стали перешептываться: скромный седоволосый джентльмен, который то приходил, то уходил из залов, где слушались доклады, это - Клод Шеннон. На банкете Шеннон сказал несколько слов, немножко пожонглировал тремя мячами и подписал множество автографов инженерам, выстроившимся в длинную очередь. Как вспоминал один из участников, "это воспринималось так, как будто Ньютон появился на конференции, посвященной проблемам физики".

В начале марта 2001 года, в возрасте 84 лет, после продолжительной болезни Клод Шеннон скончался. Как писали вездесущие журналисты - скончался человек, который придумал бит.

Клод Шеннон краткая биография и интересные факты из жизни американского инженера, криптоаналитика и математика, отца информационного века, изложены в этой статье.

Клод Шеннон краткая биография

Клод Элвуд Шеннон появился на свет 30 апреля 1916 года в городке Петоцки, штат Мичиган. Его отец был юристом, а мать преподавала иностранные языки. В 1932 году юноша окончил среднюю школу и параллельно обучался на дому. Отец Клода постоянно покупал сыну радиолюбительские наборы и конструкторы, содействуя его техническому творчеству. А старшая сестра проводила ему углубленные занятия математикой. Поэтому любовь к технике и математике была очевидной.

В 1932 году будущий ученый поступает в университет Мичигана. Окончил учебное заведение в 1936 году со степенью бакалавра по математике и электротехнике. В университете он прочитал работы «Логическое исчисление» и «Математический анализ логики» автора Джорджа Буля, которые во многом определили его будущие научные интересы.

Вскоре его пригласили на работу в Массачусетский технологический институт на должность ассистента-исследователя в лаборатории электротехники. Шеннон работал над модернизацией аналогового компьютера, дифференциального анализатора Ванневара Буша.

В 1936 году Клод решил поступать в магистратуру, и годом позже написал диссертацию. На ее основе выдает статью под названием «Символьный анализ реле и переключательных схем», опубликовал ее 1938 году в журнале Американского института инженеров-электриков. Его статья заинтересовала научное электротехническое сообщество и в 1939 году ему присудили Премию им. Альфреда Нобеля. Не окончив магистерскую диссертацию, Шеннон начал работу над докторской работой по математике, затрагивая задачи генетики. Она называлась «Алгебра для теоретической генетики».

В 1941 году, в возрасте 25 лет, он стал работать в математическом отделении научно-исследовательского центра «Bell Laboratories». В Европе в это время начались военные действия. Америка финансировала исследования Шеннона в области криптографии. Он являлся автором анализа зашифрованных текстов при помощи информационно-теоретических методов. Ученый в 1945 году завершает большой секретный отчет «Математическая теория криптографии».

Какой вклад внес Клод Шеннон в информатику?

В своих исследованиях ученый подготовил концепции по теории информации. В 1948 году Шеннон опубликовал труд «Математическая теория связи», в которой математическая теория предстала как приемник информации и канал связи для ее передачи. Осталось только все перевести на более простой язык и донести свои наработки человечеству. Клод Шеннон ввел такое понятие информационной энтропии, которое обозначает величину, единицу информации. Ученый рассказывал, что данный термин ему посоветовал использовать математик . Клод Шеннон создал 6 концептуальных теорем, которые являются фундаментом его теории информации:

  • Теорема количественной оценки информации.
  • Теорема рациональной упаковки символов при первичном кодировании.
  • Теорема согласования потока информации с пропускной способностью канала связи без помех.
  • Теорема согласования потока информации с пропускной способностью двоичного канала связи с помехами.
  • Теорема оценки пропускной способности непрерывного канала связи.
  • Теорема безошибочного восстановления непрерывного сигнал.

В 1956 году ученый прекращает работу в «Bell Laboratories» и занимает должность профессора сразу на двух факультетах технологического института в Массачусетсе: электротехническом и математическом.

Когда ему исполнилось 50 лет, он перестает заниматься преподавательской деятельностью и всего себя посвящает любимым хобби. Он создал одноколесный велосипед с 2-мя седлами, роботов, которые собирают кубик Рубик и жонглируют шарами, складной нож с большим количеством лезвий. В 1965 году он посетил СССР. А в последнее время Клод Шеннон сильно болел и умер в феврале 2001 году от недуга Альцгеймера в массачусетском доме престарелых.

Клод Шеннон интересные факты

Любовь к науке была привита Шеннону его дедушкой. Дед Шеннона был изобретателем и фермером. Он изобрёл стиральную машину вместе с многой другой полезной в сельском хозяйстве техникой

Подростком он работал посыльным в Western Union.

Он увлекался игрой на кларнете , слушал музыку и читал поэзию.

Шеннон женился 27 марта 1949 года, на Мэри Элизабет Мур Шеннон, с которой познакомился в «Bell Labs». Она работала там аналитиком. У супругов родилось трое детей: Андрю Мур, Роберт Джеймс и Маргарита Катерина.

Клод Шеннон на выходных любил сгонять в Лас-Вегас вместе со своей женой Бетти и коллегой, дабы поиграть в блэкджек. Шеннон со своим другом даже спроектировали первый в мире wearable-компьютер, занимающийся «подсчетом карт».

Занимался разработкой устройств, которые обнаруживали самолеты противника и наводили на них зенитные установки. Также он создал криптографическую систему для правительства США, обеспечивающею тайность переговоров Рузвельта и Черчилля.

Любил играть в шахматы и жонглировать. Свидетели его молодости в Bell Laboratories вспоминали, как он разъезжал по коридорам фирмы на одноколесном велосипеде, при этом жонглируя мячами.

Он создал одноколесный велосипед с двумя седлами, складной нож с сотней лезвий, роботов, собирающих кубик Рубика, и робота, жонглирующего шарами.

Шеннон, по собственным словам, был аполитичным человеком и атеистом.

Клод Шеннон родился в 1916 году. Вырос в городе Гэйлорде, в штате Мичиган. Уже в детстве Шеннон проявлял интерес как к технике и ее детальному исследованию, так и к общим математическим принципам. Он копался в первых детекторных приемниках, которые приносил ему отец, и одновременно решал математические задачки и головоломки, которыми снабжала его старшая сестра Кэтрин, ставшая впоследствии профессором математики.

В 1936 году выпускник Мичиганского университета Клод Шеннон, которому было тогда 21 год, сумел ликвидировать разрыв между алгебраической теорией логики и ее практическим приложением.
Шеннон, имея два диплома бакалавра - по электротехнике и по математике, выполнял обязанности оператора на неуклюжем механическом вычислительном устройстве под названием "дифференциальный анализатор", который построил в 1930 году научный руководитель Шеннона профессор Вэннивер Буш . В качестве темы диссертации Буш предложил Шеннону изучить логическую организацию своей машины. Постепенно у Шеннона стали вырисовываться контуры устройства компьютера. Если построить электрические цепи в соответствии с принципами булевой алгебры, то они могли бы выражать логические отношения, определять истинность утверждений, а также выполнять сложные вычисления.

Электрические схемы, очевидно, были бы гораздо удобнее шестеренок и валиков, щедро смазанных машинным маслом у "дифференциального анализатора". Свои идеи относительно связи между двоичным исчислением, булевой алгеброй и электрическими схемами Шеннон развил в докторской диссертации, опубликованной в 1938 году.

В 1941 году 25-летний Клод Шеннон поступил на работу в Bell Laboratories, где, помимо всего прочего, прославился тем, что катался на одноколесном велосипеде по коридорам лаборатории, одновременно жонглируя мячиками.

В то время применение к технике методов английского ученого Джорджа Буля (1815-1864), который в 1847 году опубликовал работу с характерным названием "Математический анализ логики, являющийся опытом исчисления дедуктивного рассуждения" было делом почти революционным. Сам же Шеннон лишь скромно заметил на это: "Просто случилось так, что никто другой не был знаком с обеими областями одновременно".

Большую ценность представляет другая работа - Communication Theory of Secrecy Systems (1949), в которой сформулированы математические основы криптографии.

В годы войны он занимался разработкой криптографических систем, и позже это помогло ему открыть методы кодирования с коррекцией ошибок. Кстати, в те же сороковые годы Шеннон, например, занимался конструированием летающего диска на ракетном двигателе. Одновременно Клод Элвуд Шеннон начал развивать идеи, которые впоследствии легли в основу прославившей его теории информации. Целью Шеннона была оптимизация передачи информации по телефонным и телеграфным линиям. И для того, чтобы решить эту проблему, ему пришлось сформулировать, что такое информация и чем определяется ее количество. В своих работах 1948-49 годов он определил количество информации через энтропию - величину, известную в термодинамике и статистической физике как мера разупорядоченности системы, а за единицу информации принял то, что впоследствии было названо "битом", то есть выбор одного из двух равновероятных вариантов.

C 1956 - член Национальной академии наук США и Американской академии искусств и наук.

В своих работах Клод Шеннон определил количество информации через энтропию - величину, известную в термодинамике и статистической физике как мера разупорядоченности системы, а за единицу информации принял то, что впоследствии окрестили "битом", то есть выбор одного из двух равновероятных вариантов. На прочном фундаменте своего определения количества информации Клод Шеннон доказал удивительную теорему о пропускной способности зашумленных каналов связи. Во всей полноте эта теорема была опубликована в его работах 1957-1961 годов и теперь носит его имя. В чем суть теоремы Шеннона? Всякий зашумленный канал связи характеризуется своей предельной скоростью передачи информации, называемой пределом Шеннона. При скоростях передачи выше этого предела неизбежны ошибки в передаваемой информации. Зато снизу к этому пределу можно подойти сколь угодно близко, обеспечивая соответствующим кодированием информации сколь угодно малую вероятность ошибки при любой зашумленности канала. Помимо этого Шеннон неустанно занимался различными проектами: от конструирования электронной мышки, способной находить выход из лабиринта, до конструирования жонглирующих машин и создания теории жонглирования, которая, впрочем, не помогла ему побить его личный рекорд - жонглирование четырьмя мячиками.

Клод Элвуд Шеннон – ведущий американский учёный в сфере математики, инженерии, криптоаналитики.

Он приобрёл мировую известность, благодаря своим открытиям в области информационных технологий и изобретению «бит» (1948 г.), как самой маленькой информационной единицы. Его считают основоположником информационной теории, основные положения которой до сих пор актуальны в разделе высокотехнологичной связи и современных коммуникаций.

Шенноном также было впервые введено понятие «энторопия» , что говорит о неопределённой мере передаваемой информации.

Этот учёный первым применил научный подход для информационной идей и законов криптографии, обосновав свои мысли в работах о математической теории связи, а также о теории связи в секретных системах.

Большой вклад внёс он и в развитие кибернетики, обосновав такие ключевые моменты, как вероятностность схемы, игровую научную концепцию, а также мысли о создании автоматов и управленческой системы.

Детские и юношеские годы

Клод Шеннон появился на свет в американском Петоски, что в штате Мичиган. Это радостное событие случилось 30.04.1916-го.

Отец будущего учёного занимался бизнесом в сфере адвокатуры, а затем был назначент судьёй. Мать – преподавала иняз и со временем получила должность директора школы в Гэйлорде.

Математические наклонности были присущи Шеннону-старшему. Ключевую роль в формировании склонности к научной деятельности у внука сыграл дедушка – фермер и изобретатель.

В его арсенале создание стиральной машинки и некоторых видов прикладной сельхозтехники. Примечательно, что Эдисон имеет родственные связи с этой семьёй.

В 16-летнем возрасте Клод закончил среднюю школу, где преподавала его мать. Успел поработать курьером в Western Union, занимался конструированием различных устройств.

Его интересовало моделирование самолётов и радиотехники, ремонт небольших радиостанций. Он своими руками сделал лодку с радиоуправлением, телеграф для связи с другом.

Как уверяет сам Клод, его абсолютно не интересовали только политика и вера в Бога.

Студенческие годы

Университет Мичигана распахнул перед Шенноном свои двери в 1932 году. Учёба здесь открыла для него труды Дж. Буля. Диплом бакалавра по математике и электротехнике Клод получил в 1936 г.

Его первым местом работы стала должность ассистента-исследователя в технологическом университете Массачусета. Научную деятельность Клод вёл в качестве оператора механического компьютерного устройства, созданного его учителем В.Бушем.

Глубоко вникнув в концептуальные научные разработки Буля, Шеннон понял возможность их практического применения. Защитив магистерскую диссертацию в 1937 г., которую курировал Фрэнк Л. Хичкок, он перешёл в известную Bell Telephone Laboratories, где выпустил материал по символическому анализу в схемах переключения и с задействованием реле.

Он был размещён на страницах специального журнала институтом инженеров-электриков в США (1938 г.).

Основные положения статьи раскрыли усовершенствование маршрутного посыла телефонного вызова, благодаря замене реле электромеханического типа на переключающую схему. Молодой учёный обосновал концепцию о возможности решения применением схем всех задач Булевой алгебры.

Эта работа Шеннона получила Нобелевскую премию в области электрической инженерии (1940 г.) и стала основой для создания логических цифровых схем в электрических цепях. Этот магистерский труд стал настоящим научным прорывом ХХ века, положив начало созданию электронной вычислительной техники современного поколения.

Буш рекомендовал Шеннону заняться диссертацией на получение степени доктора математических наук. Серьёзное внимание им было уделено математическим исследованиям в тесной связи с генетическими законами наследственности известного Менделя. Но эта работа так и не получила должного признания и впервые была опубликована только в 1993 г.

Немало сил учёным было отдано построению математического фундамента для различных дисциплин, особенно информационных технологий. Этому способствовало его общение с видным математиком Г. Вейлем, а также Дж. Фон Нейманом, Энштейном, Гёделем.

Военный период

С весны 1941 г. до 1956 г. Клод Шеннон работает на оборону США, разрабатывая управление огнём и обнаружение врага при ведении противовоздушной обороны. Он создал устойчивую межправительственную связь президента США с английским премьером.

Национальной премии в области научных исследований он был удостоен за свой доклад об организации двухполюсных переключающих цепей (1942 г.).

Учёный заинтересовался идеями англичанина Тьюринга по шифрованию речи (1943 г.), и уже в 1945-м выпустил работу об усреднении данных и прогнозировании для систем управления огнём. Его соавторами стали Ральф Б. Блэкмен и Х. Боде. Смоделировав специальную систему, обрабатывающую информацию и спецсигналы, они положили начало информационному веку.

Секретный меморандум К. Шеннона в области математической теории криптографии (1945 г.) доказал, что криптография и теория связи – неразделимы.

Послевоенный период

Это время ознаменовано его меморандумом о теории связи с математической точки зрения (1948 г.) в части кодировки передаваемых текстов.

Дальнейшая работа Шеннона вплотную связана с информационной теорией в области разработки игр, в частности колеса рулетки, машины, читающей мысли, а также машины по сбору кубика Рубика.

Учёный воплотил идею, позволяющую сжать информацию, которая позволяет избежать её потерю при распаковке.

Учёный создал школу, где периодически вёл семинары, где учил студентов находить новые подходы к решению тех или иных задач.

Известны его научные исследования в области финансовой математики. Среди них, электрическая цепь денежного течения в американских пенсионных фондах и обоснование выбора портфеля инвестиций при распределении денежных активов.

Многие сравнивают популярность Клода Шеннона с Исааком Ньютоном.

После 1978 г., на пенсии он занялся теорией жонглирования и сконструировал специальную машину.

Сборник своих статей Клод Шеннон выпустил в 1993 году, куда вошли 127 его научных работ.

Завершающий жизненный этап

Последние годы он провёл в Массачусетском доме-интернате из-за болезни Альцгеймера . Здесь, по заверению его жены Мэри Элизабет, Клод участвовал в исследованиях по изучению способов её лечения.

Вся семья постоянно находилась рядом с ним. Смерть наступила 24.02.2001 г.

У Шеннона остались единственная жена, брак с которой продлился с марта 1949 г. У них родились трое детей Роберт, Андрю, Маргарита.

Анатолий Ушаков, д. т. н, проф. каф. систем управления и информатики, университет «ИТМО»

Многие поколения технических специалистов второй половины XX века, даже достаточно далекие от теории автоматического управления и кибернетики, выйдя из стен вузов, на всю жизнь запомнили названия «авторских» научно-технических достижений: функции Ляпунова, марковские процессы, частота и критерий Найквиста, винеровский процесс, фильтр Калмана. Среди таких достижений почетное место занимают теоремы Шеннона. В 2016 г. исполняется сто лет со дня рождения их автора - ученого и инженера Клода Шеннона.

«Кто владеет информацией, тот владеет миром»

У. Черчилль

Рис. 1. Клод Шеннон (1916–2001)

Клод Элвуд Шеннон (Claude Elwood Shannon) (рис. 1) родился 30 апреля 1916 г. в городе Петоцки, расположенном на берегу озера Мичиган штата Мичиган (США), в семье юриста и преподавателя иностранных языков. Его старшая сестра Кэтрин увлекалась математикой и со временем стала профессором, а отец Шеннона совмещал работу адвоката с радиолюбительством. Дальним родственником будущего инженера был прославившийся на весь мир изобретатель Томас Эдисон, имевший 1093 патента.

Шеннон закончил общеобразовательную среднюю школу в 1932 г. в возрасте шестнадцати лет, одновременно получив дополнительное образование на дому. Отец покупал ему конструкторы и радиолюбительские наборы и всячески содействовал техническому творчеству сына, а сестра привлекала его к углубленным занятиям математикой. Шеннон полюбил оба эти мира - технику и математику.

В 1932 г. Шеннон поступил в Мичиганский университет, который окончил в 1936 г., получив степень бакалавра по двум специальностям: математика и электротехника. Во время обучения он нашел в библиотеке университета две работы Джорджа Буля (George Boole) - «Математический анализ логики» и «Логическое исчисление», написанные в 1847 и 1848 годах соответственно. Шеннон тщательным образом их изучил, и это, по-видимому, определило его дальнейшие научные интересы.

После окончания университета Клод Шеннон устроился на работу в лабораторию электротехники Массачусетского технологического института (MTИ) ассистентом-исследователем, где работал над задачами модернизации дифференциального анализатора Ванневара Буша (Vannevar Bush), вице-президента МТИ, - аналогового «компьютера». С этого времени Ванневар Буш стал научным наставником Клода Шеннона. Изучая сложные, узкоспециализированные релейные и переключательные электросхемы устройства управления дифференциальным анализатором, Шеннон понял, что концепции Джорджа Буля могут получить в этой области достойное применение.

В конце 1936 г. Шеннон поступает в магистратуру, а уже в 1937 г. он пишет реферат диссертации на соискание степени магистра и на его основе готовит статью «Символьный анализ реле и переключательных схем», которая была опубликована в 1938 г. в издании Американского института инженеров-электриков (AIEE). Эта работа привлекла к себе внимание научного электротехнического сообщества, и в 1939 г. Американским обществом гражданских инженеров (American Society of Civil Engineers) Шеннону была присуждена за нее Премия имени Альфреда Нобеля.

Еще не защитив магистерской диссертации, Шеннон по совету Буша решил работать над докторской по математике в МТИ, касающейся задач генетики. По мнению Буша, генетика могла стать удачной проблемной областью приложения знаний Шеннона. Докторская диссертация Шеннона, получившая название «Алгебра для теоретической генетики», была завершена весной 1940 г. и посвящена проблемам генной комбинаторики. Шеннон получил докторскую степень по математике и в это же время защитил диссертацию на тему «Символьный анализ реле и переключательных схем», став магистром электротехники.

Докторская диссертация Шеннона не получила большой поддержки у генетиков и по этой причине никогда не была опубликована. Однако диссертация на степень магистра оказалась прорывной в коммутационной и цифровой технике. В последней главе диссертации было приведено много примеров успешного применения разработанного Шенноном логического исчисления к анализу и синтезу конкретных релейных и переключательных схем: селекторных схем, замка с электрическим секретом, двоичных сумматоров. Все они наглядно демонстрируют совершенный Шенноном научный прорыв и огромную практическую пользу от формализма логического исчисления. Так родилась цифровая логика.

Рис. 2. Клод Шеннон в Bell Labs (середина 1940-х гг.)

Весной 1941 г. Клод Шеннон становится сотрудником математического отделения научно-исследовательского центра Bell Laboratories (рис. 2). Следует сказать несколько слов об атмосфере, в которую попал 25-летний Клод Шеннон, - ее создавали Гарри Найквист (Harry Nyquist), Хенрик Боде (Hendrik Bode), Ральф Хартли (Ralph Hartley), Джон Тьюки (John Tukey) и другие сотрудники Bell Laboratories. Все они уже имели определенные результаты в разработке теории информации, которые Шеннон со временем разовьет до уровня большой науки.

В это время в Европе уже шла война, и Шеннон проводил исследования, которые широко финансировало правительство США. Работа, которую Шеннон выполнял в Bell Laboratories, была связана с криптографией, что привело его к необходимости заняться математической теорией криптографии и со временем позволило проводить анализ зашифрованных текстов информационно-теоретическими методами (рис. 3).

В 1945 г. Шеннон завершил большой секретный научный отчет на тему «Математическая теория криптографии» («Communication Theory of Secrecy Systems»).

Рис. 3. У шифровальной машины

В это время Клод Шеннон был уже близок к тому, чтобы выступить перед научной общественностью с новыми базовыми концепциями по теории информации. И в 1948 г. он опубликовал свой эпохальный труд «Математическая теория связи» . Математическая теория связи Шеннона предполагала трехкомпонентную структуру, составленную из источника информации, приемника информации и «транспортной среды» - канала связи, характеризующегося пропускной способностью и способностью искажать информацию при передаче. Возник определенный круг проблем: как количественно оценить информацию, как ее эффективно упаковывать, как оценить допустимую скорость вывода информации из источника в канал связи с фиксированной пропускной способностью, чтобы гарантировать безошибочную передачу информации, и, наконец, как решить последнюю задачу при наличии помех в канале связи? На все эти вопросы Клод Шеннон дал человечеству исчерпывающие ответы своими теоремами.

Следует сказать, что коллеги по «цеху» помогли Шеннону с терминологией. Так, термин для минимальной единицы количества информации - «бит» - предложил Джон Тьюки, а термин для оценки среднего количества информации на символ источника - «энтропия» - Джон фон Нейман (John von Neumann). Свою основополагающую работу Клод Шеннон изложил в виде двадцати трех теорем. Не все теоремы равноценны, часть из них носит вспомогательный характер или посвящена частным случаям теории информации и ее передачи по дискретным и непрерывным каналам связи, но шесть теорем являются концептуальными и составляют каркас здания теории информации, созданной Клодом Шенноном.

  1. Первая из этих шести теорем связана с количественной оценкой информации, генерируемой источником информации, в рамках стохастического подхода на основе меры в виде энтропии с указанием ее свойств.
  2. Вторая теорема посвящена проблеме рациональной упаковки символов, генерируемых источником, при их первичном кодировании. Она породила процедуру эффективного кодирования и необходимость введения в структуру системы передачи информации «кодера источника».
  3. Третья теорема касается проблемы согласования потока информации из источника информации с пропускной способностью канала связи в условиях отсутствия помех, гарантирующего отсутствие искажения информации при передаче.
  4. Четвертая теорема решает ту же задачу, что и предыдущая, но в условиях наличия в двоичном канале связи помех, действия которых на передаваемую кодовую посылку сообщения способствуют вероятности искажения произвольного бита кода. Теорема содержит условие замедления передачи, гарантирующее заданную вероятность безошибочной доставки кодовой посылки получателю. Данная теорема является методологической основой помехозащитного кодирования, которая привела к необходимости введения в структуру системы передачи «кодера канала».
  5. Пятая теорема посвящена оценке пропускной способности непрерывного канала связи, характеризующегося некоторой частотной полосой пропускания и заданными мощностями полезного сигнала и сигнала помехи в канале связи. Теорема определяет так называемую границу Шеннона.
  6. Последняя из теорем, именуемая теоремой Найквиста - Шеннона-Котельникова, посвящена проблеме безошибочного восстановления непрерывного сигнала по его дискретным по времени отсчетам, которая позволяет сформулировать требование к величине временного интервала дискретности, определяемого шириной частотного спектра непрерывного сигнала, и сформировать базисные функции, именуемые функциями отсчета.

Следует сказать, что изначально у многих математиков мира вызвала сомнения доказательная база этих теорем. Но со временем научная общественность убедилась в корректности всех постулатов, найдя им математические подтверждения. В нашей стране этому делу отдали свои силы Хинчин А.Я. и Колмогоров А.Н. .

В 1956 г. знаменитый Клод Шеннон покидает стены Bell Laboratories, не порывая с ней связей, и становится полным профессором сразу двух факультетов Массачусетского технологического института: математического и электротехнического.

Рис. 4. Лабиринт Шеннона

У Клода Шеннона всегда было много интересов, совершенно не связанных с его профессиональной деятельностью. Выдающийся инженерный талант Шеннона проявлялся в создании всевозможных машин и механизмов, среди которых механическая мышь «Тезей», решающая лабиринтную задачу (рис. 4), вычислительная машина с операциями над римскими цифрами, а также вычислительные машины и программы для игры в шахматы.

В 1966 г. в возрасте 50 лет Клод Шеннон удаляется от преподавательской деятельности и практически полностью посвящает себя своим хобби. Он создает одноколесный велосипед с двумя седлами, складной нож с сотней лезвий, роботов, собирающих кубик Рубика, и робота, жонглирующего шарами. Кроме того, Шеннон и сам продолжает оттачивать мастерство жонглирования, доведя количество шаров до четырех (рис. 5). Свидетели его молодости в Bell Laboratories вспоминали, как он разъезжал по коридорам фирмы на одноколесном велосипеде, при этом жонглируя мячами.

Рис. 5. Клод Шеннон - жонглер

К сожалению, у Клода Шеннона не было тесных контактов с советскими учеными. Тем не менее ему удалось посетить СССР в 1965 г. по приглашению Научно-технического общества радиотехники, электроники и связи (НТОРЭС) имени А.С. Попова. Одним из инициаторов этого приглашения был многократный чемпион мира по шахматам Михаил Ботвинник, доктор технических наук, профессор, который также был электротехником и интересовался шахматным программированием. Между Михаилом Ботвинником и Клодом Шенноном состоялась оживленная дискуссия о проблемах компьютеризации шахматного искусства. Участники пришли к выводу, что это очень интересно для программирования и бесперспективно для шахмат. После дискуссии Шеннон попросил Ботвинника сыграть с ним в шахматы и по ходу игры даже имел небольшое преимущество (ладью за коня и пешку), но все же проиграл на 42-м ходу.

Последние годы жизни Клод Шеннон тяжело болел. Он скончался в феврале 2001 г. в массачусетском доме престарелых от болезни Альцгеймера на 85-м году жизни.

Клод Шеннон оставил богатое прикладное и философское наследие. Им создана общая теория устройств дискретной автоматики и вычислительной техники, технология эффективного использования возможностей канальной среды. Все современные архиваторы, используемые в компьютерном мире, опираются на теорему Шеннона об эффективном кодировании. Основу его философского наследия составляют две идеи. Первая: целью всякого управления должно быть уменьшение энтропии как меры неопределенности и беспорядка в системной среде. Управление, которое не решает этой задачи, является избыточным, т. е. ненужным. Вторая состоит в том, что все в этом мире в каком-то смысле есть «канал связи». Каналом связи является и человек, и коллектив, и целая функциональная среда, и промышленность, и транспортная структура, и страна в целом. И если не согласовывать технические, информационные, гуманитарные, правительственные решения с пропускной способностью канальной среды, на которую они рассчитаны, то хороших результатов не жди.

Вконтакте

Литература

  1. Shannon C. E. A Mathematical Theory of Communication. Bell Systems Technical Journal. July and Oct. 1948 // Claude Elwood Shannon. Collected Papers. N. Y., 1993. P. 8-111.
  2. Shannon C. E. Communication in the presence of noise. Proc.IRE. 1949. V. 37. № 10.
  3. Shannon C. E. Communication Theory of Secrecy Systems. Bell Systems Technical Journal. July and Oct. 1948 // Claude Elwood Shannon. Collected Papers. N. Y., 1993. P. 112-195.
  4. Автоматы. Сборник статей под ред. К. Э. Шеннона, Дж. Маккарти / Пер. с англ. М.: Из-во Ин. лит. 1956.
  5. Robert M. Fano Transmission of information: A statistical theory of communication. Published Jointly by the M.I.T., PRESS and JOHN WILEY & SONS, INC. New York, London. 1961.
  6. www. research.att. com/~njas/doc/ces5.html.
  7. Колмогоров А. Н. Предисловие // Работы по теории информации и кибернетике / К. Шеннон; пер. с англ. под. ред. Р. Л. Добрушина и О.Б. Лупанова; предисл. А. Н. Колмогорова. М., 1963.
  8. Левин В. И. К.Э. Шеннон и современная наука // Вестник ТГТУ. 2008. Том 14. №3.
  9. Винер Н. Я. – математик / Пер. с англ. М.: Наука. 1964.
  10. Хинчин А. Я. Об основных теоремах теории информации. УМН 11:1 (67) 1956.
  11. Колмогоров А. Н. Теория передачи информации. // Сессия Академии Наук СССР по научным проблемам автоматизации производства. 15–20 окт.1956 г. Пленарное заседание. М.: Изд-во АН СССР, 1957.
  12. Колмогоров А. Н. Теория информации и теория алгоритмов. М.: Наука, 1987.