Tìm kiếm mục từ trong bộ từ điển bách khoa (4 tập)
Từ khóa
Chuyên ngành
Địa lý
Giải nghĩa
ENTROPI THÔNG TIN

đại lượng dùng trong lí thuyết thống kê, lí thuyết thông tin cho biết mức độ không xác định của thông tin tương ứng với các phân bố thống kê. Về mặt toán học, ETT được định nghĩa như sau: giả sử p1, p2, ...pnxác suất của các biến cố trong một thí nghiệm, ETT , trong đó k là một hệ số, ln pi là lôga nêpe của pi.

Tính chất của ETT: 1) E = 0 khi một trong các xác suất pi = 1, và tất cả các xác suất khác bằng 0, tức là khi có một biến cố là chắc chắn. 2) Với một giá trị n cho trước, E là cực đại khi tất cả các biến cố có cùng xác suất. 3) ETT của hai biến cố độc lập bằng tổng ETT của hai biến cố đó. ETT giữ một vai trò quan trọng trong nhiều bài toán thống kê và truyền thông tin.