Bản gốc sẽ được mã hóa bằng một khóa được xác định trước để tạo ra một bản mã.Bản mã chính là bản được truyền lên kênh.Khi thâm nhập vào kênh, đối phương có thể thu trộm được bản mã nhưng vì không biết khóa mã nên khó tìm ra được bản gốc.
Về mặt toán học có thể mô phỏng mật mã cổ điển như sau:
Một hệ thống mã là một tập có 5 thành phần (P, C, K, E, D) trong đó: P: là tập hợp hữu hạn các bản gốc có thể.
C: là tập hợp hữu hạn các mã gốc có thể.
K: là tập hợp khóa có thể.Đối với mỗi k∈K có một luật mật mã ek : P -> C; ek ∈ E và một luật giải mã tương ứng dk : C -> P, dk ∈ D.Mỗi ek và dk là những ánh xạ sao cho dk ( ek (x)) = x và với mọi x∈P.
Giả sử thông tin cần truyền là một chuỗi x1, x2 ,…, xn với n là một số nguyên lớn hơn hoặc bằng 1.Mỗi ký hiệu xi (1≤ i≤ n) được mật mã bằng luật ek với khóa K đã thống nhất với bên thu.Nơi phát sẽ xác định các y theo y= ek ( xi) và bản mã sẽ phát lên kênh là y = y1, y2 ,…, yn .Ở phía thu hợp lê, sẽ tìm ra bản gốc bằng cách dùng ánh xạ dk (yi )= xi, chú ý ek và dk phải là các ánh xạ 1-1, nghĩa là với x1 ≠ x2 thì y1≠ y2 .
Có nhiều phương pháp mật mã cổ điển sau đây chúng ta xét một phương pháp mã dịch vòng.Phương pháp này có cơ sở là phép toán module.Để minh họa ta xét việc mật mã hóa trên bộ chữ cái tiếng anh gồm 26 chữ cái.Dùng phép module 26 như sau:
ek (x) = x + K module 26. dk (x) = x – K module 26.
Thí dụ:
Giả sử khóa mã dịch vòng này là 9 và bản gốc là: Gonewththewind Tiến hành mật mã như sau:
Trước hết chúng ta biến đổi bản gốc thành chuỗi các số nguyên theo phép lấy tương ứng trên bảng 5.1 ta được:
6 14 13 4 22 19 7
19 7 4 22 8 13 3
Sau đó cộng thêm 9 vào mỗi giá trị rồi module 26 ta được:
15 23 22 13 5 2 16
2 16 13 5 17 22 12
Từ chuỗi giá trị trên lấy các giá trị tương ứng trong bảng 5.1 ta được bảng mã sẽ truyền đi là: pxwnfcqcqnfrwm.Khi thu được bản mã này, máy thu sẽ tiến hành biến đổi thành dãy các giá trị tương ứng trong bảng 5.1.Lấy giá trị trừ bớt đi 9 rồi module 26, đổi giá trị của kết quả thành ký tự cuối cùng sẽ được bản gốc.