Claude Shannon- Claude Shannon

Claude Shannon
ClaudeShannon MFO3807.jpg
Geboren ( 1916-04-30 )30. April 1916
Ist gestorben 24. Februar 2001 (2001-02-24)(84 Jahre)
Staatsbürgerschaft Vereinigte Staaten
Alma Mater
Bekannt für
Ehepartner Norma Levor (1940-41)
Betty Shannon (1949)
Auszeichnungen
Wissenschaftlicher Werdegang
Felder Mathematik und Elektrotechnik
Institutionen
Thesen
Doktoratsberater Frank Lauren Hitchcock
Doktoranden

Claude Elwood Shannon (30. April 1916 – 24. Februar 2001) war ein US-amerikanischer Mathematiker , Elektroingenieur und Kryptograf, bekannt als „Vater der Informationstheorie “. Shannon begründete die Informationstheorie mit einer wegweisenden Arbeit, „ A Mathematical Theory of Communication “, die er 1948 veröffentlichte.

Er begründete auch die Theorie des digitalen Schaltungsdesigns im Jahr 1937, als er als 21-jähriger Master- Student am Massachusetts Institute of Technology (MIT) seine Doktorarbeit schrieb, in der er zeigte, dass elektrische Anwendungen der Booleschen Algebra jede logische numerische Beziehung aufbauen können . Shannon trug während des Zweiten Weltkriegs auf dem Gebiet der Kryptoanalyse für die Landesverteidigung bei , einschließlich seiner grundlegenden Arbeiten zu Codeknacken und sicherer Telekommunikation .

Biografie

Kindheit

Die Familie Shannon lebte in Gaylord, Michigan , und Claude wurde in einem Krankenhaus im nahe gelegenen Petoskey geboren . Sein Vater Claude Sr. (1862–1934) war Geschäftsmann und zeitweise Nachlassrichter in Gaylord. Seine Mutter, Mabel Wolf Shannon (1890–1945), war Sprachlehrerin und Direktorin der Gaylord High School . Claude Sr. war ein Nachkomme von Siedlern aus New Jersey , während Mabel ein Kind deutscher Einwanderer war.

Die meisten der ersten 16 Jahre von Shannons Leben verbrachte er in Gaylord, wo er die öffentliche Schule besuchte und 1932 die Gaylord High School abschloss. Shannon zeigte eine Neigung zu mechanischen und elektrischen Dingen. Seine besten Fächer waren Naturwissenschaften und Mathematik. Zu Hause baute er Geräte wie Flugzeugmodelle, ein funkgesteuertes Modellboot und ein Stacheldraht- Telegrafensystem zum Haus eines Freundes, das eine halbe Meile entfernt war. Während seiner Kindheit arbeitete er auch als Bote für die Firma Western Union .

Shannons Kindheitsheld war Thomas Edison , von dem er später erfuhr, dass er ein entfernter Cousin war. Sowohl Shannon als auch Edison waren Nachkommen von John Ogden (1609–1682), einem Kolonialherren und Vorfahren vieler angesehener Persönlichkeiten.

Logikschaltungen

1932 trat Shannon in die University of Michigan ein , wo er in die Arbeit von George Boole eingeführt wurde . Er schloss sein Studium 1936 mit zwei Bachelor-Abschlüssen ab : einen in Elektrotechnik und einen in Mathematik .

Im Jahr 1936 begann Shannon seine Studien in Elektrotechnik am MIT , wo er arbeitete Vannevar Bush ‚s Differentialanalysators , einem frühen Analogrechner . Während er die komplizierten Ad-hoc- Schaltungen dieses Analysators untersuchte, entwarf Shannon Schaltkreise, die auf Booles Konzepten basieren . Im Jahr 1937 schrieb er seinen Master-Abschluss These, eine symbolische Analyse von Relais und Schaltkreisen . Ein Artikel aus dieser Dissertation wurde 1938 veröffentlicht. In dieser Arbeit bewies Shannon, dass seine Schaltkreise verwendet werden können, um die Anordnung der elektromechanischen Relais zu vereinfachen , die damals in Telefonvermittlungsschaltern verwendet wurden . Als nächstes erweiterte er dieses Konzept und bewies, dass diese Schaltkreise alle Probleme lösen können, die die Boolesche Algebra lösen könnte. Im letzten Kapitel präsentierte er Diagramme mehrerer Schaltungen, darunter einen 4-Bit-Volladdierer.

Diese Eigenschaft elektrischer Schalter zu nutzen, um Logik zu implementieren, ist das grundlegende Konzept, das allen elektronischen Digitalcomputern zugrunde liegt . Shannons Arbeit wurde zur Grundlage des digitalen Schaltungsdesigns , wie es während und nach dem Zweiten Weltkrieg in der Elektrotechnik-Community weithin bekannt wurde . Die theoretische Strenge von Shannons Arbeit löste die zuvor vorherrschenden Ad-hoc- Methoden ab. Howard Gardner nannte Shannons Dissertation "die vielleicht wichtigste und auch die bekannteste Masterarbeit des Jahrhunderts".

Shannon promovierte 1940 am MIT. Vannevar Bush hatte vorgeschlagen, dass Shannon an seiner Dissertation am Cold Spring Harbor Laboratory arbeiten sollte , um eine mathematische Formulierung für die Mendelsche Genetik zu entwickeln . Diese Forschung führte zu Shannons Doktorarbeit mit dem Titel An Algebra for Theoretical Genetics .

1940 wurde Shannon National Research Fellow am Institute for Advanced Study in Princeton, New Jersey . In Princeton hatte Shannon Gelegenheit, seine Ideen mit einflussreichen Wissenschaftlern und Mathematikern wie Hermann Weyl und John von Neumann zu diskutieren , und er hatte auch gelegentliche Begegnungen mit Albert Einstein und Kurt Gödel . Shannon arbeitete frei über Disziplinen hinweg, und diese Fähigkeit könnte zu seiner späteren Entwicklung der mathematischen Informationstheorie beigetragen haben .

Kriegsforschung

Shannon kam dann zu Bell Labs , um während des Zweiten Weltkriegs im Rahmen eines Vertrags mit der Sektion D-2 (Sektion Kontrollsysteme) des National Defense Research Committee (NDRC) an Feuerleitsystemen und Kryptographie zu arbeiten .

Shannon wird die Erfindung der Signalflussgraphen im Jahr 1942 zugeschrieben. Er entdeckte die topologische Verstärkungsformel bei der Untersuchung der Funktionsweise eines analogen Computers.

Anfang 1943 kam Shannon für zwei Monate mit dem führenden britischen Mathematiker Alan Turing in Kontakt . Turing war nach Washington geschickt worden, um mit dem kryptanalytischen Dienst der US Navy die Methoden des britischen Government Code und der Cypher School in Bletchley Park zu teilen , um die von den U-Booten der Kriegsmarine im Nordatlantik verwendeten Chiffren zu knacken . Er interessierte sich auch für die Sprachverschlüsselung und verbrachte zu diesem Zweck einige Zeit bei Bell Labs. Shannon und Turing trafen sich zur Teestunde in der Cafeteria. Turing zeigte Shannon seine Arbeit von 1936, die das definierte, was heute als „ Universelle Turing-Maschine “ bekannt ist. Dies beeindruckte Shannon, da viele seiner Ideen seine eigenen ergänzten.

1945, als der Krieg zu Ende ging, gab die NDRC als letzten Schritt vor ihrer endgültigen Schließung eine Zusammenfassung der technischen Berichte heraus. Innerhalb des Bandes über Feuerkontrolle behandelt ein spezieller Aufsatz mit dem Titel Data Smoothing and Prediction in Fire-Control Systems , der von Shannon, Ralph Beebe Blackman und Hendrik Wade Bode gemeinsam verfasst wurde , das Problem der Glättung der Daten in der Feuerkontrolle in Analogie zu " das Problem der Trennung eines Signals von störendem Rauschen in Kommunikationssystemen." Mit anderen Worten, es hat das Problem in Bezug auf die Daten- und Signalverarbeitung modelliert und damit das Kommen des Informationszeitalters eingeläutet .

Shannons Arbeiten zur Kryptographie waren noch enger mit seinen späteren Veröffentlichungen zur Kommunikationstheorie verwandt . Am Ende des Krieges erstellte er ein geheimes Memorandum für Bell Telephone Labs mit dem Titel "A Mathematical Theory of Cryptography" vom September 1945. Eine freigegebene Version dieses Papiers wurde 1949 als " Communication Theory of Secrecy Systems " in der Bell . veröffentlicht Systemtechnisches Journal . Dieses Papier enthält viele der Konzepte und mathematischen Formulierungen, die auch in seiner A Mathematical Theory of Communication erschienen sind . Shannon sagte, dass sich seine Erkenntnisse aus Kriegszeiten in Kommunikationstheorie und Kryptographie gleichzeitig entwickelten und dass "sie so nah beieinander lagen, dass man sie nicht trennen konnte". In einer Fußnote am Anfang des geheimen Berichts kündigte Shannon seine Absicht an, „diese Ergebnisse … in einem bevorstehenden Memorandum über die Übermittlung von Informationen zu entwickeln“.

Während seiner Zeit bei Bell Labs bewies Shannon in seiner später 1949 veröffentlichten geheimen Forschung, dass das kryptografische One-Time-Pad unzerbrechlich ist. Derselbe Artikel bewies auch, dass jedes unzerbrechliche System im Wesentlichen die gleichen Eigenschaften wie das One-Time-Pad aufweisen muss: der Schlüssel muss wirklich zufällig sein, so groß wie der Klartext, darf weder ganz noch teilweise wiederverwendet und geheim gehalten werden.

Informationstheorie

1948 erschien das versprochene Memorandum als "A Mathematical Theory of Communication", ein Artikel in zwei Teilen in den Juli- und Oktober-Ausgaben des Bell System Technical Journal . Diese Arbeit konzentriert sich auf das Problem, wie die Nachricht, die ein Absender übermitteln möchte, am besten zu verschlüsseln ist. In dieser grundlegenden Arbeit nutzte er Werkzeuge der Wahrscheinlichkeitstheorie, die von Norbert Wiener entwickelt wurden , die sich zu dieser Zeit noch im Anfangsstadium der Anwendung auf die Kommunikationstheorie befanden. Shannon entwickelte die Informationsentropie als Maß für den Informationsgehalt in einer Nachricht, die ein Maß für die durch die Nachricht reduzierte Unsicherheit ist. Damit erfand er im Wesentlichen das Gebiet der Informationstheorie .

Das Buch The Mathematical Theory of Communication druckt den Artikel von Shannon aus dem Jahr 1948 und dessen Popularisierung durch Warren Weaver nach, der für Nichtfachleute zugänglich ist. Weaver wies darauf hin, dass sich das Wort „Information“ in der Kommunikationstheorie nicht auf das bezieht, was man sagt, sondern auf das, was man sagen könnte. Das heißt, Informationen sind ein Maß für die eigene Wahlfreiheit, wenn man eine Nachricht auswählt. Shannons Konzepte wurden auch populär, vorbehaltlich seine eigenen Korrekturlesen, in John Robinson Pierce ‚s Symbolen, Signalen und Rauschen .

Der grundlegende Beitrag der Informationstheorie zur Verarbeitung natürlicher Sprache und zur Computerlinguistik wurde 1951 in seinem Artikel "Prediction and Entropy of Printed English" weiter begründet, der obere und untere Entropiegrenzen für die Statistik des Englischen aufzeigt - eine statistische Grundlage für die Sprachanalyse. Darüber hinaus bewies er, dass die Behandlung von Leerzeichen als 27. Buchstabe des Alphabets die Unsicherheit in der Schriftsprache tatsächlich verringert und eine eindeutig quantifizierbare Verbindung zwischen kultureller Praxis und probabilistischer Kognition herstellt.

Ein weiteres bemerkenswertes Papier, das 1949 veröffentlicht wurde, ist „ Communication Theory of Secrecy Systems “, eine freigegebene Version seiner Kriegsarbeit über die mathematische Theorie der Kryptographie, in der er bewies, dass alle theoretisch unzerbrechlichen Chiffren die gleichen Anforderungen wie das One-Time-Pad haben müssen. Ihm wird auch die Einführung der Sampling-Theorie zugeschrieben , die sich mit der Darstellung eines zeitkontinuierlichen Signals aus einem (gleichförmigen) diskreten Satz von Samples befasst. Diese Theorie war wesentlich, um in den 1960er Jahren und später den Übergang der Telekommunikation von analogen zu digitalen Übertragungssystemen zu ermöglichen.

1956 kehrte er an das MIT zurück, um eine Stiftungsprofessur inne zu haben.

Lehre am MIT

1956 trat Shannon der MIT-Fakultät bei, um im Research Laboratory of Electronics (RLE) zu arbeiten. Er war bis 1978 an der MIT-Fakultät tätig.

Späteres Leben

Shannon erkrankte an Alzheimer und verbrachte die letzten Jahre seines Lebens in einem Pflegeheim ; er starb 2001, hinterließ seine Frau, einen Sohn und eine Tochter sowie zwei Enkelinnen.

Hobbys und Erfindungen

Der Minivac 601 , ein von Shannon entwickelter digitaler Computertrainer.

Außerhalb von Shannons akademischen Beschäftigungen interessierte er sich für Jonglieren , Einradfahren und Schach . Er erfand auch viele Geräte, darunter einen römischen Zahlencomputer namens THROBAC, Jongliermaschinen und eine Trompete mit Flammenwurf . Er baute ein Gerät, das das Zauberwürfel- Rätsel lösen konnte .

Shannon hat den Minivac 601 entwickelt , einen digitalen Computertrainer , um Geschäftsleuten die Funktionsweise von Computern beizubringen. Es wurde ab 1961 von der Scientific Development Corp verkauft .

Er gilt zusammen mit Edward O. Thorp auch als Miterfinder des ersten tragbaren Computers . Das Gerät wurde verwendet, um die Gewinnchancen beim Roulette zu verbessern .

Persönliches Leben

Shannon heiratete im Januar 1940 Norma Levor, eine wohlhabende, jüdische, linke Intellektuelle. Die Ehe wurde nach etwa einem Jahr geschieden. Levor heiratete später Ben Barzman .

Shannon lernte seine zweite Frau Betty Shannon (geb. Mary Elizabeth Moore) kennen, als sie numerische Analytikerin bei Bell Labs war. Sie heirateten 1949. Betty half Claude beim Bau einiger seiner berühmtesten Erfindungen. Sie hatten drei Kinder.

Shannon präsentierte sich als unpolitisch und Atheist .

Ehrungen

Es gibt sechs Statuen von Shannon, die von Eugene Daub geschaffen wurden : eine an der University of Michigan; einer am MIT im Labor für Informations- und Entscheidungssysteme ; einer in Gaylord, Michigan; eine an der University of California, San Diego ; einer bei Bell Labs; und ein weiteres bei AT&T Shannon Labs . Nach der Auflösung des Bell-Systems wurde der Teil von Bell Labs, der bei der AT&T Corporation verblieb, zu seinen Ehren Shannon Labs genannt.

Laut Neil Sloane , einem AT&T Fellow, der 1993 Shannons umfangreiche Sammlung von Aufsätzen mitherausgab, ist die von Shannons Kommunikationstheorie eingeführte Perspektive (jetzt Informationstheorie genannt ) die Grundlage der digitalen Revolution , und jedes Gerät, das einen Mikroprozessor oder Mikrocontroller enthält, ist ein konzeptioneller Nachkomme von Shannons Veröffentlichung von 1948: "Er ist einer der großen Männer des Jahrhunderts. Ohne ihn gäbe es nichts von dem, was wir heute kennen. Die ganze digitale Revolution begann mit ihm." Die Kryptowährung Einheit shannon (ein Synonym für GWEI) ist nach ihm benannt.

A Mind at Play , eine von Jimmy Soni und Rob Goodmangeschriebene Biografie über Shannon, wurde 2017 veröffentlicht.

Am 30. April 2016 wurde Shannon mit einem Google Doodle geehrt , um sein Leben an seinem 100. Geburtstag zu feiern.

The Bit Player , ein Spielfilm über Shannon unter der Regie von Mark Levinson, wurde2019auf dem World Science Festival uraufgeführt.Der Film wurde aus Interviews abgeleitet, die Shannon in den 1980er Jahren in seinem Haus geführt hatte, und wurde im August 2020 auf Amazon Prime veröffentlicht.

Andere Arbeit

Shannon und seine elektromechanische Maus Theseus (benannt nach Theseus aus der griechischen Mythologie), die er in einem der ersten Experimente zur künstlichen Intelligenz versuchte, das Labyrinth lösen zu lassen .

Shannons Maus

"Theseus", 1950 entwickelt, war eine mechanische Maus, die von einer elektromechanischen Relaisschaltung gesteuert wurde, die es ihr ermöglichte, sich in einem Labyrinth von 25 Feldern zu bewegen . Die Konfiguration des Labyrinths war flexibel und konnte durch die Neuanordnung beweglicher Trennwände beliebig modifiziert werden. Die Maus wurde entwickelt, um die Korridore zu durchsuchen, bis sie das Ziel gefunden hat. Nachdem sie das Labyrinth durchquert hatte, konnte die Maus dann überall platziert werden, wo sie vorher war, und konnte aufgrund ihrer Vorkenntnisse direkt zum Ziel gehen. Wenn es in einem unbekannten Gebiet platziert wurde, war es so programmiert, dass es suchte, bis es einen bekannten Ort erreichte, und dann zum Ziel vordrang, das neue Wissen seinem Gedächtnis hinzufügte und neues Verhalten lernte. Shannons Maus scheint das erste künstliche Lerngerät seiner Art gewesen zu sein.

Shannons Schätzung der Komplexität von Schach

1949 fertigte Shannon eine Veröffentlichung (veröffentlicht im März 1950) an, die die Spielbaum-Komplexität des Schachs auf ungefähr 10 120 schätzt . Diese Zahl wird heute oft als „ Shannon-Zahl “ bezeichnet und gilt noch heute als genaue Schätzung der Komplexität des Spiels. Die Zahl wird oft als eines der Hindernisse für die Lösung des Schachspiels mit einer erschöpfenden Analyse (dh Brute-Force-Analyse ) genannt.

Shannons Computerschachprogramm

Am 9. März 1949 präsentierte Shannon ein Papier mit dem Titel "Programming a Computer for playing Chess". Das Papier wurde auf der National Institute for Radio Engineers Convention in New York präsentiert. Er beschrieb, wie man einen Computer so programmiert, dass er Schach spielt, basierend auf Positionswertung und Zugauswahl. Er schlug grundlegende Strategien vor, um die Anzahl der zu berücksichtigenden Möglichkeiten bei einer Schachpartie einzuschränken. Im März 1950 wurde es im Philosophical Magazine veröffentlicht und gilt als einer der ersten Artikel zum Thema Programmierung eines Computers zum Schachspielen und Verwendung eines Computers zum Lösen des Spiels .

Sein Verfahren, um den Computer entscheiden zu lassen, welcher Zug zu machen ist, war ein Minimax- Verfahren, basierend auf einer Bewertungsfunktion einer gegebenen Schachposition. Shannon gab ein grobes Beispiel für eine Bewertungsfunktion, bei der der Wert der Schwarzposition von dem der Weißposition subtrahiert wurde. Das Material wurde nach dem üblichen Schachfiguren-Relativwert (1 Punkt für einen Bauern, 3 Punkte für einen Springer oder Läufer, 5 Punkte für einen Turm und 9 Punkte für eine Dame) gezählt. Er berücksichtigte einige Positionsfaktoren und zog ½ Punkt für jeden Doppelbauern , Rückwärtsbauern und isolierten Bauern ab ; Mobilität wurde durch Hinzufügen von 0,1 Punkt für jeden verfügbaren legalen Zug berücksichtigt.

Shannons Maxime

Shannon formulierte eine Version des Kerckhoffs-Prinzips als "Der Feind kennt das System". In dieser Form ist sie als "Shannons Maxime" bekannt.

Gedenken

100 Jahre Shannon

Claude Shannon hundertjähriges Jubiläum

Das 100-jährige Shannon-Jubiläum 2016 markiert das Leben und den Einfluss von Claude Elwood Shannon anlässlich seines hundertsten Geburtstags am 30. April 1916. Es wurde teilweise vom Alan Turing-Jahr inspiriert . Ein Ad-hoc-Komitee der IEEE Information Theory Society mit Christina Fragouli, Rüdiger Urbanke, Michelle Effros , Lav Varshney und Sergio Verdú koordinierte weltweite Veranstaltungen. Die Initiative wurde im History Panel beim IEEE Information Theory Workshop 2015 in Jerusalem und im Newsletter der IEEE Information Theory Society angekündigt .

Eine detaillierte Auflistung der bestätigten Veranstaltungen war auf der Website der IEEE Information Theory Society verfügbar.

Zu den geplanten Aktivitäten gehörten:

  • Bell Labs veranstaltete vom 28. bis 29. April 2016 in Murray Hill, New Jersey, die erste Shannon-Konferenz zur Zukunft des Informationszeitalters, um Claude Shannon und den anhaltenden Einfluss seines Vermächtnisses auf die Gesellschaft zu feiern. Die Veranstaltung umfasst Impulsvorträge von globalen Koryphäen und Visionären des Informationszeitalters, die den Einfluss der Informationstheorie auf die Gesellschaft und unsere digitale Zukunft untersuchen, informelle Erinnerungen und führende technische Präsentationen zu anschließenden verwandten Arbeiten in anderen Bereichen wie Bioinformatik, Wirtschaftssystemen, und soziale Netzwerke. Es gibt auch einen Schülerwettbewerb
  • Bell Labs startete am 30. April 2016 eine Web-Ausstellung , in der Shannons Anstellung bei Bell Labs (im Rahmen eines NDRC-Vertrags mit der US-Regierung), seine anschließende Arbeit dort von 1942 bis 1957 und Einzelheiten der Mathematikabteilung dokumentiert werden. Die Ausstellung zeigte auch Biografien von Kollegen und Managern während seiner Amtszeit sowie Originalversionen einiger der technischen Memoranden, die später in veröffentlichter Form bekannt wurden.
  • Die Republik Mazedonien plant eine Sonderbriefmarke. Eine USPS- Gedenkmarke wird mit einer aktiven Petition vorgeschlagen.
  • Ein Dokumentarfilm über Claude Shannon und den Einfluss der Informationstheorie, The Bit Player , wird von Sergio Verdú und Mark Levinson produziert .
  • Eine transatlantische Feier sowohl zum 200. Geburtstag von George Boole als auch zum 100. Geburtstag von Claude Shannon, die vom University College Cork und dem Massachusetts Institute of Technology geleitet wird. Eine erste Veranstaltung war ein Workshop in Cork, When Boole Meets Shannon, und wird mit Ausstellungen im Boston Museum of Science und im MIT Museum fortgesetzt .
  • Viele Organisationen auf der ganzen Welt veranstalten Beobachtungsveranstaltungen, darunter das Boston Museum of Science, das Heinz-Nixdorf Museum, das Institute for Advanced Study, die Technische Universität Berlin, die University of South Australia (UniSA), das Unicamp (Universidade Estadual de Campinas), die Universität of Toronto, Chinese University of Hong Kong, Cairo University, Telecom ParisTech, National Technical University of Athens, Indian Institute of Science, Indian Institute of Technology Bombay, Indian Institute of Technology Kanpur , Nanyang Technological University of Singapore, University of Maryland, University of Illinois in Chicago, cole Polytechnique Federale de Lausanne, The Pennsylvania State University (Penn State), University of California Los Angeles, Massachusetts Institute of Technology, Chongqing University of Posts and Telecommunications und University of Illinois at Urbana-Champaign.
  • Ein Logo, das auf dieser Seite erscheint, wurde über Crowdspring gesourct.
  • Die Präsentation von Math Encounters vom 4. Mai 2016 im National Museum of Mathematics in New York mit dem Titel Saving Face: Information Tricks for Love and Life konzentrierte sich auf Shannons Arbeit in der Informationstheorie . Eine Videoaufzeichnung und weiteres Material stehen zur Verfügung.

Liste der Auszeichnungen und Ehrungen

Der Claude E. Shannon Auszeichnung wurde ihm zu Ehren errichtet; 1972 war er auch ihr erster Empfänger.

Ausgewählte Werke

  • Claude E. Shannon: A Symbolic Analysis of Relay and Switching Circuits , Masterarbeit , MIT, 1937.
  • Claude E. Shannon: "Eine mathematische Theorie der Kommunikation", Bell System Technical Journal , Vol. 2, No. 27, S. 379–423, 623–656, 1948 ( Zusammenfassung ).
  • Claude E. Shannon und Warren Weaver: Die mathematische Theorie der Kommunikation. Die University of Illinois Press, Urbana, Illinois, 1949. ISBN  0-252-72548-4

Siehe auch

Verweise

Weiterlesen

Externe Links