<正>信息论诞生于20世纪40年代,是通信领域的核心理论基础,同时也在众多学科中广泛应用,形成了诸如生物信息学、化学信息学、神经信息学、生态信息学、地球信息学等一系列的交叉学科。信息论中最基本的科学问题是信息的度量,最广泛使用的、最受认可的度量方法是由克劳德·香浓(Claude Shannon)于1948年提出的香浓熵。熵的概念源于热力学,是无序程序(语法信息)的度量标准。香浓熵是一种基于数据成分之比例(即直方图)的指数,因此其测度的结果往往被称为统计信息。
科研之友
微信
新浪微博
Facebook
分享链接
