一、信息的概念  
   
   “信息”是个古老而又现代化的概念。“信息”这个词到现在还没有公认的定义，国内外关于“信息”的定义说法有39种之多，尚处于可领会而不易言传的阶段。
   客观世界的三大要素是物质、能量和信息。人类认识物质和能量要早一些。50年代以来，由于科学技术的进步，特别是微电子学的发展，使得信息与知识的传递、知识与情报的交流，无论在空间和时间上都达到空前的规模。
 
  什么是信息？一般认为信息是客观存在的一切事物通过载体所发生的消息、情报、指令、数据、信号和所包含的一切可传递和交换的知识内容。信息是表现事物特征的一种普遍形式，或者说信息是反映客观世界各种事物的物理状态的事实之组合。不同的物质和事物有不同的特征，不同的特征会通过一定的物质形式，如声波、文字、电磁波、颜色、符号、图像等发出不同的消息、情报、指令、数据、信号。这些消息、情报、指令、数据、信号就是信息。信息是自然界、人类社会和人类思维活动中普遍存在的一切物质和事物的属性。

   人和动物的大脑通过感觉器官（或仪器）接受外界物质和事物发出的种种消息、情报、指令、数据、信号来识别物质和事物的存在、发展和变化。信息交换的范围很大，包括人与人、人与动物、人与植物、植物与植物、细胞与细胞、物质与物质之间发生的信息交换与传递。

   知识是一种特定的人类信息，是整个信息的一部分。在一定的历史条件下，人类通过有区别、有选择的信息，对自然界、人类社会、思维方式和运动规律进行认识与掌握，并通过大脑的思维使信息系统化，形成知识。知识是存在于一个个体中的有用信息。这是人类社会实践经验的总结，是人的主观世界对客观世界的真实反映和理论概括。所以，社会实践是知识的源泉，信息是知识的原料，知识是经过系统化的信息。智能是为了达到某些特定的目的而运用这些信息的能力。

   人类社会的进步，就是人们根据获得的信息去感知世界、认识世界、改造世界。也是创造知识，利用知识、积累知识、发展知识的过程。
  
  二、信息论的产生和发展  
   
   人类利用信息的历史可以追溯到远古时代。结绳记事和2700多年前我国周朝幽王时期用烽火为号等都是存储信息、传递信息和利用信息的原始形式。到19世纪末叶，光通讯被有线电通讯所取代，尔后又出现了无线电通讯。通讯手段的日益革新，意味着传递信息的方法越来越改善，信息的重要性也就越来越突出。与此同时，研究信息的理论也就产生了。 
    
     现代信息论是从本世纪20年代奈奎斯特和哈特莱的研究开始的。他们最早研究了通讯系统传输信息的能力，并试图度量系统的信息容量。但是，信息论真正作为一门新的学科，却是在本世纪40年代后期才形成的。”48年美国贝尔电话研究所的数学家仙农发表了《通讯中的数学问题》，1949年又发表了《噪声中通讯》，从数学上研究了定量描述信息的方法以及如何尽快传递、处理信息的原理，奠定了信息论的基础。从此信息论作为一门科学在自然小学中有了自己的地位，仙农就成为信息论的奠基人。

   信息论是一门用数理统计方法来研究信息的度量、传递和变换规律的科学，它主要是研究通讯和控制系统中普遍存在着的信息传递的共同规律以及研究最佳解决信息的获取、度量、变换、储存、传递等问题的基础理论。