MÔ HÌNH TOÁN HỌC SHANNON CỦA THÔNG TIN VÀ TỶ SỐ THÔNG TIN

Abstract

Trong nửa thế kỷ gần đây, thuật ngữ Thông tin – Information - đã được sử dụng một cách rất phổ biến mọi lúc, mọi nơi trên toàn thế giới. Từ những nhà khoa học kỹ thuật chuyên ngành cho đến những người dân bình thường, hàng ngày đều nói đến thông tin, quan tâm đến thông tin và luôn sử dụng thông tin trong mọi lĩnh vực của cuộc sống của mình. Tuy nhiên, không thể dễ dàng có căn cứ để đưa ra một “định nghĩa” chính xác cho khái niệm đó. Trong bài báo này trước tiên chúng tôi cố gắng trình bày lại một cách tóm tắt và đầy đủ mô hình toán học Shannon và đưa ra những minh hoạ cụ thể, nhằm hỗ trợ những người bước đầu tìm hiểu về Công nghệ thông tin tiếp cận khái niệm quan trọng hàng đầu trong chuyên ngành của mình. Đặc biệt, tiếp đó đã xem xét khái niệm Tỷ số thông tin giữa hai quan sát – the Information Ratio between two observations – có vai trò hết sức quan trọng khi khảo sát sự liên quan giữa các sự kiện ngẫu nhiên không định lượng – một lĩnh vực nghiên cứu còn chưa được khai thác đầy đủ.