정보 이론의 연대표
Timeline of information theory정보 이론, 양자 정보 이론 및 통계 물리학, 데이터 압축, 오류 수정 코드 및 관련 주제와 관련된 사건의 연표.
- 1872 – 루드비히 볼츠만은 그의 H-이론을 제시하며, 이를 통해 단일 가스 입자의 엔트로피에 대한 공식 δpi logi p를 제시합니다.
- 1878 – J. Willard Gibbs는 깁스 엔트로피를 정의한다: 엔트로피 공식의 확률은 현재 전체 시스템 상태의 확률로 받아들여진다.
- 1924 – Harry Nyquist는 "지능"의 수치화와 통신 시스템에 의한 전송 속도에 대해 설명합니다.
- 1927 – 존 폰 노이만 엔트로피를 정의하여 깁스 엔트로피를 양자역학으로 확장
- 1928 – 랄프 하틀리(Ralph Hartley)는 수신자가 (관련된 의미에 관계없이) 하나의 기호 시퀀스를 구별할 수 있을 때 정보가 전달되는 가능한 메시지 수의 로그로서 하틀리 정보를 도입한다.
- 1929년 – Leo Szilarrd는 Maxwell's Demon을 분석하여 Szilard 엔진이 유용한 작업의 추출로 정보를 변환하는 방법을 보여줍니다.
- 1940 – Alan Turing은 Banburismus 프로세스에 의해 추측된 독일 Enigma 기계 사이퍼 설정에 대한 정보의 척도로 데시반을 도입합니다.
- 1944년 – 클로드 샤논의 정보 이론은 실질적으로 완성되었습니다.
- 1947년 – Richard W. Hamming이 오류 검출 및 수정을 위한 Hamming 코드를 발명함(특허권 보호를 위해 1950년에야 결과가 발표됨)
- 1948 – Claude E. Shannon, 커뮤니케이션의 수학적 이론 발표
- 1949 – Claude E. Shannon은 Communication in the Presence of Noise – 나이키스트-Shannon 샘플링 정리 및 Shannon-Hartley 법칙을 발표합니다.
- 1949 – Claude E. Shannon의 비밀 시스템 통신 이론은 기밀 해제되었습니다.
- 1949 – Robert M. Fano는 정보 전달을 발행합니다.M.I.T. Press, 매사추세츠, 캠브리지 – Shannon-Fano 코딩
- 1949 – Leon G. Kraft는 프리픽스 코드의 한계를 보여주는 Kraft의 부등식을 발견한다.
- 1949 – Marcel J. E. Golay, 전방 오류 수정용 Golay 코드 도입
- 1951 – Solomon Kullback과 Richard Leibler가 Kullback-Leibler 발산법을 소개
- 1951 – David A. Huffman은 무손실 데이터 압축을 위한 최적의 프리픽스 코드를 찾는 방법인 Huffman 인코딩을 발명했습니다.
- 1953 – August Albert Sardinas와 George W. Patterson은 Sardinas-Patterson 알고리즘을 고안했습니다.이 알고리즘은 주어진 가변 길이 코드가 고유하게 해독 가능한지 여부를 결정하는 절차입니다.
- 1954 – 어빙 S. 리드와 데이비드 E. 멀러 제안 리드-멀러 코드
- 1955 – Peter Elias, 컨볼루션 코드 도입
- 1957년 – Eugene Prange가 최초로 사이클 코드를 논의함
- 1959 – Alexis Hocquenghem, 그리고 다음 해에 독립적으로 Raj Chandra Bose와 Dwijendra Kumar Ray-Chaudhuri가 BCH 코드를 검출합니다.
- 1960 – 어빙 S. Reed와 Gustave Solomon은 Reed-Solomon 코드를 제안합니다.
- 1962 – Robert G. Gallager는 저밀도 패리티 체크 코드를 제안합니다.기술적인 제한으로 인해 30년간 사용되지 않았습니다.
- 1965년 – Dave Forney가 연결된 코드에 대해 설명합니다.
- 1966년 - 이타쿠라 후미타다(나고야대)와 사이토 슈조(일본전신전화)가 음성[1] 부호화의 일종인 LPC(Linear Predictive Coding)를 개발
- 1967 – Andrew Viterbi가 Viterbi 알고리즘을 공개하여 컨볼루션 코드 디코딩을 실행 가능
- 1968 – Elwyn Berlekamp는 Berlekamp-Massey 알고리즘을 발명했다. BCH 및 Reed-Solomon 코드를 디코딩하기 위한 적용은 다음 해에 James L. Massey에 의해 지적되었다.
- 1968년 – Chris Wallace와 David M.Boulton은 최소 메시지 길이(MML) 통계적 및 귀납적 추론에 관한 많은 논문 중 첫 번째 논문을 발표한다.
- 1970 – 발레리 데니소비치 Goppa가 Goppa 코드 도입
- 1972 – Jörn Justesen은 Reed-Solomon 코드를 개량한 Justesen 코드를 제안합니다.
- 1972 – Nasir Ahmed는 1973년 [2]T. Natarajan 및 K. R. Rao와 함께 개발한 이산 코사인 변환(DCT)을 제안합니다. DCT는 나중에 JPEG, MPEG 및 MP3와 같은 멀티미디어 형식의 기초가 되는 가장 널리 사용되는 손실 압축 알고리즘이 되었습니다.
- 1973 – David Slepian과 Jack Wolf는 Slepian을 발견하고 증명합니다.분산 소스[3] 코딩에 대한 Wolf 코딩 한계
- 1976년 – Gottfried Ungerboeck는 트렐리스 변조에 대한 첫 번째 논문을 발표하였습니다. 1982년에 더 자세한 설명을 통해 아날로그 모뎀 POTS 속도가 9.6 kbit/s에서 33.6 kbit/s로 향상되었습니다.
- 1976 – Richard Pasco와 Jorma J. Rissanen은 효과적인 산술 코딩 기술을 개발했습니다.
- 1977년 – Abraham Lempel과 Jacob Ziv가 Lempel-Ziv 압축 개발(LZ77)
- 1989 – Phil Katz는 DEFLATE(LZ77 + Huffman 코딩)를 포함한 포맷을 공개합니다.나중에 가장 널리 사용되는 아카이브 컨테이너가 됩니다.
- 1993 – Claude Berrou, Alain Glavieux 및 Punya Tittimajshima가 터보 코드 도입
- 1994 – Michael Burrows와 David Wheeler가 Burrows를 출판합니다.휠러 변환, 나중에 bzip2에서 사용
- 1995 – Benjamin Schumacher는 큐비트라는 용어를 만들고 양자 노이즈 없는 코딩 정리를 증명한다.
- 2003 – David J. C. 맥케이는 그의 책에서 정보 이론, 추론 그리고 기계 학습 사이의 연관성을 보여준다.
- 2006 – 최초의 비대칭 숫자 시스템 엔트로피 코딩: 2014년 이후 Facebook Zstandard, Apple LZFSE, CRAM 또는 JPEG XL과 같은 압축기에서 Huffman과 산술 코딩이 널리 대체되었습니다.
- 2008 – Erdal Arrkan은 다양한 채널의 용량을 실현하는 최초의 실용적인 코드 구축인 Polar Code를 도입했습니다.
레퍼런스
- ^ Gray, Robert M. (2010). "A History of Realtime Digital Speech on Packet Networks: Part II of Linear Predictive Coding and the Internet Protocol" (PDF). Found. Trends Signal Process. 3 (4): 203–303. doi:10.1561/2000000036. ISSN 1932-8346.
- ^ Nasir Ahmed. "How I Came Up With the Discrete Cosine Transform". Digital Signal Processing, Vol. 1, Iss. 1, 1991, pp. 4-5.
- ^ Slepian, David S.; Wolf, Jack K. (July 1973). "Noiseless coding of correlated information sources". IEEE Transactions on Information Theory. IEEE. 19 (4): 471–480. doi:10.1109/TIT.1973.1055037. ISSN 0018-9448.
