Hiện có hai loại mã hóa chính: mã hóa đối xứng và mã hóa công khai. Hệ mã hóa đối xứng có khóa mã hóa và khóa giải mã giống nhau, theo nghĩa biết được khóa này thì dễ tính được khóa kia. Vì vậy phải giữ bí mật cả hai khóa.
Hệ mã hóa công khai có khóa mã hóa khác khóa giải mã , biết khóa này cũng khó tính được khóa kia. Vì vậy chỉ cần bí mật khóa giải mã, còn công khai khóa mã hóa [2].
2.3.3.1. Mã hóa đối xứng
Tức là cả hai quá trình mã hóa và giải mã đều dùng một khóa. Để đảm bảo tính an toàn, khóa này phải được giữ bí mật tức là thuật toán mã hóa dùng khóa riêng (hay bí mật). Các thuật toán loại này lý tưởng cho mục đích mã hóa dữ liệu của cá nhân hay tổ chức đơn lẻ nhưng bộc lộ hạn chế khi thông tin đó phải được chia sẻ với một bên thứ hai [1,2].
Ưu điểm: Hệ mã hóa đối xứng mã hóa và giải mã nhanh hơn hệ mã hóa công khai.
Nhược điểm:
- Mã hóa khóa đối xứng chưa thật an toàn vì người mã hóa và người giải mã phải có chung một khóa phải giữ bí mật tuyệt đối
- Vấn đề thỏa thuận khóa và quản lý khóa chung là khó khăn và phức tạp. Người gửi và người nhận phải luôn thống nhất với nhau về khóa. Việc thay đổi khóa là rất khó và dễ bị lộ. Khóa chung phải được gửi cho nhau trên kênh an toàn.
Hệ mã hóa đối xứng thường được sử dụng trong môi trường mà khóa chung có thể dễ dàng trao chuyển bí mật, chẳng hạn trong cùng một mạng nội
bộ. Hệ mã hóa đối xứng thường dùng để mã hóa những bản tin lớn, vì tốc độ mã hóa và giải mã nhanh hơn hệ mã hóa công khai.
Mã hóa đối xứng có thể phân thành hai nhóm phụ:
- Block ciphers: thuật toán khối, trong đó từng khối dữ liệu trong văn bản ban đầu được thay thế bằng một khối dữ liệu khác có cùng độ dài. Độ dài mỗi khối gọi là block size, thường được tính bằng đơn vị bit. Một số thuật toán khối thông dụng là: AES, 3DES, DES, Blowfish, RC5, RC6, CAST…
- Stream ciphers: thuật toán dòng, trong đó dữ liệu đầu vào được mã hóa từng bit một. Các thuật toán dòng có tốc độ nhanh hơn các thuật toán khối, được dùng khi khối lượng dữ liệu cần mã hóa chưa được biết trước, ví dụ trong kết nối không dây. Có thể coi thuật toán dòng là thuật toán khối với kích thước mỗi khối là 1 bit. Một số thuật toán dòng thông dụng: RC4, A5/1, A5/2, Chameleon [2].
2.3.3.2. Mã hóa công khai
Hệ mã hóa công khai là hệ mã hóa có khóa mã hóa và khóa giải mã khác nhau, biết được khóa này cũng khó tính được khóa kia. Khóa mã hóa được công khai gọi là khóa công khai (Public key). Khóa giải mã được giữ bí mật còn gọi là khóa riêng (Private key) hay khóa bí mật.
Một người bất kỳ có thể dùng khóa công khai để mã hóa bản tin, nhưng chỉ người nào có đúng khóa giải mã thì mới có khả năng đọc được bản rõ. Hệ mã hóa công khai hay hệ mã hóa bất đối xứng do Diffie và Hellman phát minh vào những năm 1970.
Ưu điểm:
- Thuật toán được viết một lần, công khai cho nhiều lần dùng, cho nhiều người dùng, họ chỉ cần giữ bí mật khóa riêng của mình.
- Khi biết các tham số ban đầu của hệ mã hóa, việc tính ra cặp khóa công khai và bí mật phải là dễ dàng, tức là trong thời gian đa thức.
- Người mã hóa dùng khóa công khai, người giải mã giữ khóa bí mật. Khả năng lộ khóa bí mật khó hơn vì chỉ có một người giữ.
- Nếu thám mã biết khóa công khai và bản mã C, thì việc tìm ra bản rõ P cũng là bài toán “khó”, số phép thử là vô cũng lớn và không khả thi.
Nhược điểm: Hệ mã hóa công khai mã hóa và giải mã chậm hơn hệ mã
hóa đối xứng.
Hệ mã hóa công khai thường được sử dụng chủ yếu trên các mạng công khai như Internet, khi mà việc trao chuyển khóa bí mật tương đối khó khăn. Đặc trưng nối bật của hệ mã hóa công khai là khóa công khai (public key) và bản mã (ciphertext) đều có thể gửi đi trên một kênh truyền tin không an toàn. Có biết cả khóa công khai và bản mã thì thám mã cũng không dễ khám phá được bản rõ. Nhưng vì có tốc độ mã hóa và giải mã chậm nên hệ mã hóa công khai chỉ dùng để mã hóa những bản tin ngắn, ví dụ như mã hóa khóa bí mật gửi đi. Hệ mã hóa công khai thường được sử dụng cho cặp người dùng thỏa thuận khóa bí mật của hệ mã hóa khóa riêng.