4 клод шеннон основатель статистической теории информации. Американский инженер Клод Шеннон и чем он знаменит. Биография и интересные факты. Клод Шеннон интересные факты

Приходившийся дальним родственником знаменитому изобретателю Томасу Эдисону, Клод Шеннон с детства обожал делать разные автоматические игрушки - модели самолетов, радиотехнические цепи, лодки на радиоуправлении. Как-то он даже смастерил телеграфную сеть между соседским и своим домами. Забегая вперед, именно он стал автором первой в мире серийной игрушки на радиоуправлении, которая производилась в Японии в пятидесятых.

Получив две степени бакалавра в Мичиганском университете и MIT, Шеннон смог поработать на одном из первых (еще аналоговом) устройств, которое мы бы сейчас назвали компьютером. Именно там Шеннон понял, что принципы булевой алгебры вполне можно использовать при создании электрических цепей. Эти цепи могли бы выражать логические отношения, определять истинность или ложность утверждений, а также выполнять сложные вычисления - три кита, фундамент современных компьютеров. Так что, не будь Шеннона, кто знает, что именно вместо макбуков нам пришлось бы таскать с собой в Старбакс.

В 2016 году исполнилось сто лет со дня рождения Клода Шеннона. “И чем он знаменит?”, - наверняка спросят те, кто не имеет никакого отношения к кибернетике и теории автоматического управления. А все посвященные, конечно же, поймут, что речь идет об авторе ряда теорем, которые преподаются на технических факультетах в университетах и которые так и называются - теоремы Шеннона. Далее в статье мы расскажем вам о жизни и деятельности этого выдающегося ученого-кибернетика и инженера. История его жизни занимательна и порой немного даже фантастическая.

Клод Шеннон: биография и чем он знаменит?

Родился будущий ученый 30 апреля 1916 года в США, городе Петоцки, который расположен на озере Мичиган. Его отец был по профессии юристом, а мать - преподавательницей иностранных языков. Однако и он, и его старшая сестра с детства увлекались математикой. Кэтрин Шеннон поступила в математический факультет, а затем стала профессором и преподавала в университете. Сам же Клод вначале пошел по стопам отца и после окончания университета работал в адвокатской конторе. Наряду с этим он на любительском уровне занимался радиотехникой. Кстати, дальним родственником будущего известного инженера и изобретателя был сам Томас Эдисон. Конечно же, он не смог достичь уровня знаменитого родича, ведь у того в арсенале было более 1900 патентов.

Образование

Клод учился в общеобразовательной средней школе, одновременно он получал дополнительное образование у себя на дому. Несмотря на то что отец хотел, чтобы сын, как и он, пошел в юристы, Шеннон-старший также желал развивать у сына логику и смекалку и постоянно покупал ему конструкторы, различные радиолюбительские наборы и т.д. Этим он желал содействовать так называемому техническому творчеству своего сына. Сестра Клода, Кэтрин, в свою очередь вовлекала его в математику, все чаще задавая ему разные интересные задачки. В итоге будущий юрист просто обожал как технику, так и математику. И тем не менее, он окончил юридический факультет, а спустя некоторое время уже учился на бакалавра в Мичиганском университете сразу по двум специальностям - электротехника и математика - тем, чем знаменит Клод Шеннон. И он, несмотря на такую нагрузку, смог окончить оба факультета с отличием.

Научная деятельность

После того, как К. Шеннон окончил университет, он устроился в качестве ассистента-исследователя в электротехническую лабораторию Массачусетского института. Здесь он работал над методами модернизации дифференциального анализатора В. Буша. Позже ученый стал его научным руководителем и наставником. Спустя год Шеннон решает поступить в магистратуру. В период учебы он написал статью по теме «Символьный анализ переключательных схем и реле». Она была опубликована в AIEE - в издании Американского института электриков-инженеров. Данная его работа сразу же привлекла внимание научного сообщества электротехников, а в 1939 г. Американское общество гражданских инженеров присудило ему Премию им. притом что он еще не успел защитить степень магистра. После этого о нем все больше стали говорить в научных кругах, теперь уже многие знали, кто такой Клод Шеннон и чем он знаменит. Такое отношение коллег взбодрило ученого, и он по настоянию своего учителя и наставника Буша решил не дожидаться защиты магистерской диссертации и немедля занялся докторской, которая была посвящена проблемам генной комбинаторики.

Научный вклад

К сожалению, докторская Шеннона не получила поддержки со стороны генетиков и не была нигде опубликована, зато магистерская диссертация была признана прорывом в коммутационной и цифровой технике. В последней главе своей диссертационной работы Шеннон привел множество разных примеров, в том числе, как можно успешно применить разработанный им метод логического исчисления к синтезу и анализу конкретных переключательных и релейных схем: замка с электрическим секретом, селекторных схем, двоичных сумматоров и т.д. Все это наглядно демонстрирует научный прорыв, а также гигантскую практическую пользу от логического исчисления, разработанного молодым американским ученым. Именно благодаря ему зародилась цифровая логика. Это и есть то, чем знаменит он - Клод Шеннон. Краткое содержание этого курса ученый написал специально для студентов вузов.

Деятельность

В 1941 году К. Шеннон начинает работать в научно-исследовательском центре Bell Laboratories, в отделении математики. Ему тогда было всего лишь 25 лет. Среди его коллег были такие ученые, как Гарри Найквист, Хенрик Боде, Ральф Хартли, Джон Тьюки и др. Это была прекрасная команда, каждый из членов которой имел прекрасные результаты в разработке информационной теории. И тем не менее именно Шеннон впоследствии развил их до уровня большой науки. С началом Второй мировой войны правительство США стало широко финансировать исследовательские проекты, которые осуществляла Bell Laboratories, в которой сосредоточились лучшие умы своего времени. Правительство было в первую очередь заинтересовано в развитии метода математической криптографии, именно этим занимался и он, Клод Шеннон. Чем знаменит этот труд? Он позволял анализировать зашифрованные тексты противника информационно-теоретическими методами.

Новые концепции

В 1945 году, уже к концу войны, ученый смог завершить свой эксклюзивный секретный отчет по теме «Математическая теория криптографии» и уже был готов выступить перед американской научной общественностью и представить свои новые базовые концепции по теории информации. В 1948-м был опубликован эпохальный труд «Математическая теория связи» - то, чем знаменит Клод Шеннон. И он представил в ней все свои разработки, которые были сделаны в период с 1945 по 1948 г. Его математическая теория связи предполагала 3-компонентную структуру, которая состоит из источника информации, «транспортной среды» и приемника информации. “Транспортная среда” - это канал связи, который характеризуется способностью искажать информацию при передаче. В связи с этим были выявлены проблемы, на которые Шеннон должен был дать исчерпывающие ответы, например, как проводить количественную оценку информации, как ее эффективно “упаковывать”, как оценивать допустимую скорость при выводе информации из источника, а затем направлять ее в канал связи с определенной, фиксированной пропускной способностью. И, наконец, ученому нужно было решить задачу относительно устранения помех в канале связи. Он, конечно же, смог справиться с поставленными перед ним задачами, причем не только теоретически (в данном вопросе ему помогли коллеги по цеху), а путем созданных им же теорем.

Теория К. Шеннона

Его основополагающая работа была изложена в виде 23 теорем. Правда, не все из них равноценны - некоторые носят вспомогательный характер или же посвящены тем или иным частным случаям теории информации или передачи ее по дискретным и непрерывным связным каналам, но 6 теорем имеют особую ценность и, по сути, являются концептуальными. Это и есть каркас “здания” - теории Клода Шеннона, чем он и знаменит. Кратко об этом изложено в специализированной литературе. Следует также сказать, что на начальном этапе у многих математиков во всем мире эта теория вызвала сомнения. Однако со временем вся научная общественность убедилась в том, что постулаты, приведенные молодым корректны.

Клод Элвуд Шеннон (Shannon) ( - ) - американский инженер и математик. Человек, которого называют отцом современных теорий информации и связи.

Биография

Клод Шеннон родился в 1916 году и вырос в городе Гэйлорде штата Мичиган. Еще в детские годы Клод познакомился как с детальностью технических конструкций, так и с общностью математических принципов. Он постоянно возился с детекторными приемниками и радиоконструкторами, которые приносил ему отец, помощник судьи, и решал математические задачки и головоломки, которыми снабжала его старшая сестра Кэтрин, ставшая впоследствии профессором математики.

Будучи студентом Мичиганского университета, который он окончил в году, Клод специализировался одновременно и в математике, и в электротехнике. Эта двусторонность интересов и образования определила первый крупный успех, которого Клод Шеннон достиг в свои аспирантские годы в Массачусетском технологическом институте. В своей диссертации, защищенной в году, он доказал, что работу переключателей и реле в электрических схемах можно представить посредством алгебры, изобретенной в середине XIX века английским математиком Джорджем Булем. "Просто случилось так, что никто другой не был знаком с этими обеими областями одновременно!" - так скромно Шеннон объяснил причину своего открытия.

Клод Элвуд Шеннон — известный американский инженер и математик. Его работы совмещают связь математических идей с анализом весьма сложного процесса их технической реализации. Клод Шеннон знаменит в первую очередь благодаря разработке теории информации, которая служит основой современных высокотехнологических систем связи. Шеннон внес огромный вклад в ряд наук, которые входят в понятие «кибернетики» — он создал теорию вероятности схем, теорию автоматов и систем управления.

Клод Шеннон — становление инженерного гения

Клод Шеннон родился в 1916 году в городе Гейлорд, штат Мичиган, США. Технические конструкции, как и общность математических процессов, интересовали его с ранних лет. Все свое свободное время он решал математические задачи и возился с радиоконструкторами и детекторными приемниками.

Неудивительно, что будучи студентом Мичиганского университета, Шеннон одновременно специализировался в математике и электротехнике. Благодаря высокой образованности и разнообразию интересов, первый огромный успех к Шеннону пришел уже во время учебы в аспирантуре Массачусетского технологического университета. Тогда ему удалось доказать, что работу электрических схем реле и переключателей можно представить посредством алгебры. За это величайшее открытие Клод Шеннон был удостоен Нобелевской премии. Причину своего ошеломляющего успеха он объяснил достаточно скромно: «Просто до меня никто не изучал математику и электротехнику одновременно.»

Шеннон и криптография

В 1941 году Шеннон стал сотрудником Bell Laboratories, где его основной задачей была разработка сложных криптографических систем. Эта работа позволила ему создать методы кодирования с возможностью коррекции ошибок.

Клод Шеннон стал первым, кто подошел к изучению криптографии с научной точки зрения, опубликовав в 1949 году статью под названием «Теория связи в секретных системах». Эта статья состояла из трех разделов. Первый раздел содержал основные математические структуры секретных систем, второй — раскрывал проблемы «теоретической секретности», третий — освещал понятие «практической секретности». Так, главной заслугой Шеннона в криптографии стало подробное исследование понятия абсолютной секретности систем, в котором он доказал факт существования и необходимые условия для существования абсолютно стойких не раскрываемых шифров.

Клод Шеннон стал первым, кто сформулировал теоретические основы криптографии и раскрыл суть многих понятий, без которых криптография, как наука не существовала бы.

Основоположник информатики

В какой-то момент своей деятельности, Клод Шеннон поставил перед собой задачу улучшить передачу информации по телефонным и телеграфным каналам, которые находятся под воздействием электрических шумов. Тогда ученый выяснил, что наилучшим решением данной проблемы станет более эффективная «упаковка» информации. Однако прежде, чем приступить к исследованиям ему пришлось ответить на вопрос, что же такое информация и чем измерить ее количество. В 1948 году в статье «Математическая теория связи» он описал определение количества информации через энтропию, величину, которая известна в термодинамике как мера разупорядоченности системы, а наименьшую единицу информации назвал «битом».

Позже, основываясь на своих определениях количества информации, Шеннону удалось доказать гениальную теорему о пропускной способности зашумленных каналов связи. В годы ее разработки, теорема не нашла практического применения, зато в современном мире высокоскоростных микросхем она находит применение везде, где хранится, обрабатывается или передается информация.

Почти современник

Вклад Клода Шеннона в науку и его результаты трудно переоценить, ведь без его открытий стало бы невозможным существование компьютерной техники, Интернета и всего цифрового пространства. Кроме теорий, которые положили начало развития информационных технологий, гениальный инженер и математик так же сделал вклад в развитие многих других областей. Он одним из первых доказал то, что машины не только способны выполнять интеллектуальную работу, но и обучаться. В 1950 году, он изобрел механическую радиоуправляемую мышку, которая благодаря сложной электронной схеме могла найти дорогу в лабораторию самостоятельно. Также он стал автором устройства, которое было способно складывать кубик Рубика, а так же изобрел Гекс – электронное устройство для настольных игр, которое всегда побеждало соперников.

Гениальный ученый и изобретатель умер на 84 году жизни в 2001 году от болезни Альцгеймера в массачусетском доме престарелых.

Клод Эльвуд Шеннон родился в Петоски, штат Мичиган (Petoskey, Michigan), 30 апреля 1916 года. Его отец, потомок первых поселенцев Нью-Джерси, был бизнесменом, а мать, дочь эмигрантов из Германии, учителем и в течение ряда лет - директором школы в Гэйлорде (Gaylord).

Первые 16 лет своей жизни Клод провел в Гэйлорде, окончив местную школу в 1932 году и показав при этом склонность к механике. Его любимыми предметами в школе были физика и математика, дома же он занимался конструированием моделей самолетов, радиоуправляемых корабликов и телеграфа для связи с жившим в полумиле другом. Телеграф этот использовал колючую проволоку, огораживающую местное пастбище. Необходимые для этих занятий деньги Клод зарабатывал, разнося газеты и телеграммы, а также ремонтируя радиоаппаратуру. Героем его детства был Эдисон, оказавшийся, как он потом узнал, дальним родственником - они оба были потомками Джона Огдена, одного из руководителей колонизации. Кроме того, список героев Клода включал множество ученых, таких как Ньютон, Дарвин, Эйнштейн и Фон Нейман.

В 1932 он поступил в университет Мичигана, следуя по стопам своей сестры Катерины, только что получившей там степень магистра по математике. В 1936 он стал бакалавром по электротехнике и математике; этот параллельный интерес к математике и инженерным специальностям он сохранил и в дальнейшем.

В 1936 он получил должность лаборанта на отделении электротехники в Массачусетском Технологическом Институте (Massachusetts Institute of Technology, знаменитый M.I.T.). Эта должность давала ему возможность продолжать обучение, работая лишь часть времени. Кроме того, эта работа идеально соответствовала его способностям и интересам - он работал на дифференциальном вычислителе Буша, наиболее совершенной вычислительной машине того времени, способной аналоговым образом решать дифференциальные уравнения вплоть до шестого порядка. Работа его заключалась в переводе уравнений в "механические термины", подготовка и запуск машины для различных начальных условий. Иногда этот процесс требовал совместной работы до пяти человек.

Интересной была также и электрическая цепь, управлявшая этим вычислителем, которая включала в себя более сотни реле. Работая с ней, Шеннон заинтересовался теорией построения таких цепей. Он изучал символическую логику и булеву алгебру на математических курсах в Мичигане и понимал, что это именно то, что требуется для описания таких бинарных систем. Он развил эти идеи в 1937 году, будучи в Нью-Йорке, в Лабораториях Белла (Bell Telephone Laboratories), и затем, вернувшись, в своей дипломной работе в Массачусетсе. Эта работа, первая из опубликованных им, привлекла значительное внимание и была выдвинута в 1940 году на премию имени Альфреда Нобеля, присуждаемую объединением инженерных обществ США.

Летом 1938 года он занимался исследовательской работой в Массачусетсе, и осенью был переведен с отделения электротехники на отделение математики, где начал работу над докторской диссертацией. Его начальник, Ванневэр Буш, стал в это время президентом Института Карнеги в Вашингтоне; одно из подразделений этого института, находящееся в Колд Спринг Харбор (Cold Spring Harbor, N.Y.), занималось тогда генетикой, и он посоветовал Шеннону заняться с точки зрения алгебры проблемой хранения генетической информации. Шеннон провел там лето 1939 года, работая с генетиком Барбарой Баркс (Barbara Burks) над диссертацией, которую он назвал "Алгебра в теоретической генетике" (руководителем диссертации со стороны M.I.T был профессор Фрэнк Л. Хичкок (Frank L. Hitchcock), занимавшийся алгеброй).

Примерно в это же время Шеннон занимался разработкой идей в области вычислительных машин и систем связи. В письме от 16 февраля 1939 г. он писал Бушу о зависимости между временем, пропускной способностью, шумом и искажениями в системах связи, а также о разработке вычислительных систем для выполнения символических математических операций.

Весной 1940 года он наконец защитил диссертации и получил звания магистра электротехники и доктора математики; летом он занимался дальнейшими исследованиями в области коммутирующих электрических цепей в Лабораториях Белла, разработав новый метод их проектирования, позволявший существенно сократить число контактов в них. Результаты этой работы были опубликованы в статье "Разработка двухконечных коммутирующих цепей ("The Synthesis of Two-Terminal Switching Circuits").

Академический год 1940-1941 гг. он провел в Принстоне под руководством Германа Вейла (Hermann Weyl), начав серьезно работать над своими идеями относительно теории информации и эффективных систем связи.

Торнтон С. Фрай (Thornton C. Fry), глава отделения математики в Лабораториях Белла, был в это время членом комитета по разработке систем управления зенитным огнем - страна вооружалась в связи с европейской войной; он предложил Шеннону также поработать на оборону. Вернувшись в Лаборатории, Шеннон присоединился к группе, разрабатывающей устройства для обнаружения самолетов и ракет противника и наведения зенитных орудий; задача эта была актуальной в связи с созданием в Германии ракет Фау-1 и Фау-2. Без этих систем наведения потери Англии в войне были бы существенно большими.

Шеннон провел 15 лет в Лабораториях Белла в достаточно хорошем окружении - в это время там работали многие первоклассные математики, такие как Джон Пирс (John Pierce), известный своей работой в области спутниковой связи, Гарри Найквист (Harry Nyquist), много сделавший в теории обнаружения сигналов, Хендрик Бод (Hendrik Bode), занимавшийся обратной связью, создатели транзистора Браттин, Бардин и Шокли (Brattain, Bardeen и Shockley), Джордж Стибиц (George Stibitz), создавший первый (1938 год) релейный компьютер; Барни Оливер (Barney Oliver), выдающийся инженер, и другие.

Все эти годы Шеннон работал в различных областях, главным образом - в теории информации, началом которой послужила его статья "Математическая теория связи" ("Mathematical Theory of Communication"). В этой статье было показано, что любой источник информации - телеграфный ключ, говорящий человек, телекамера и так далее - имеет "темп производства информации", который можно измерить в битах в секунду. Каналы связи имеют "пропускную способность", измеряемую в тех же единицах; информация может быть передана по каналу тогда и только тогда, когда пропускная способность не меньше темпа поступления информации.

Эта статья по теории связи обычно считается наиболее весомым вкладом Шеннона в науку.

Занятия Шеннона проблемами информации и шума имели множество различных приложений. К примеру, в статье "Теория защищенной связи" ("Communication Theory of Secrecy Systems") он связал криптографию с проблемой передачи информации по зашумленному каналу (роль шума в этом случае играет ключ криптосистемы). Эта работа привела в дальнейшем к тому, что Шеннон был назначен консультантом правительства США по вопросам криптографии.

Другой задачей, которой он занимался совместно с Е.Ф. Муром (E.F. Moore), было повышение надежности релейных цепей путем ведения избыточного числа элементов (каждый из которых ненадежен). Эта задача, опять же, сводится к передаче информации по зашумленному каналу.

Кроме того, Шеннон применил эти идеи также и к задаче оптимальной стратегии инвестиций, в которой "зашумленным сигналом" является рынок ценных бумаг и соответствующие ему временные ряды, и задачей является максимизация выгоды.

В более легком стиле выдержана его статья в области вычислительной техники "Программирование компьютера для игры в шахматы" ("Programming a Computer for Playing Chess") 1950 года. В то время компьютеры были медленными и программирование их было достаточно сложным; с тех пор создано множество шахматных программ, однако большинство из них и сейчас основаны на идеях этой работы.

В 1965 году Шеннон был приглашен в Россию на инженерную конференцию. Там он имел возможность встретиться с многократным чемпионом мира по шахматам Михаилом Ботвинником, также инженером-электротехником, интересующимся проблемой алгоритмизации шахматной игры. После продолжительной дискуссии Шеннон попросил гроссмейстера сыграть с ним в шахматы; нет ничего удивительного в том, что на 42-м ходу он проиграл.

В дальнейшем развитие шахматных программ было продолжено, и в 1980 году Шеннон стал почетным гостем на международном компьютерном шахматном турнире в Линце, Австрия (International Computer Chess Championship, Linz, Austria), в котором принимали участие одиннадцать машин из Швеции, Германии, России, Франции, Англии, Канады и США (большинство машин при этом находилось в своих родных странах, связанные через Интернет с Австрией). Победителем стала "Белле", разработанная в Лабораториях Белла Кеном Томпсоном и Джо Кондоном ("Belle", Ken Thompson, Joe Condon); по уровню игры она практически не уступала мастеру спорта.

Шеннон любил заниматься конструированием забавных - и не обязательно при этом полезных - устройств; в его доме можно было увидеть, к примеру, калькулятор, работающий с числами в римской системе, "черепашек", ползающих по полу и обходящих препятствия, или аппарат с двумя раками, жонглирующий тремя шариками.

В пятидесятых годах он создал "предельную машину" ("Ultimate Machine"), основанную на идее Мервина Минского (Mervin Minsky) и описанную в "Голосе над морем" Артура Кларка; машина эта имела вид шкатулки с единственным выключателем. При включении его крышка открывалась, оттуда появлялась рука, которая возвращала выключатель в исходное положение и вновь скрывалась внутри.

В 1949 году Шеннон, находясь в Лабораториях Белла, женился на Мэри Элизабет (Бетти) Мур (Mary Elizabeth (Betty) Moore), занимавшейся численными расчетами (должность, называвшаяся тогда "вычислитель") в группе Джона Пирса. Они поселились в Мистик Лэйк, Винчестер, Массачусетс.