Trong mật mã hóa khóa công khai có hai khóa được sử dụng, là khóa công khai [1] (hay khóa công cộng) và khóa bí mật(haykhóa cá nhân), trong đó khóa công khai dùng để mật mã hóa còn khóa bí mật dùng để giải mật mã (cũng có thể thực hiện ngược lại). Rất khó để có thể thu được khóa bí mật từ khóa công khai. Điều này có nghĩa là một người nào đó có thể tự do gửi khóa công khai của họ ra bên ngoài theo các kênh không an toàn mà v ẫn chắc chắn rằng chỉ có họ có thể giải mã các thông điệp được mã hóa bằng khóa đó.
Các thuật toán khóa công khai thông thường dựa trên các vấn đề toán học với độ khó NP. Ví dụ RSA, dựa trên độ khó của bài toán phân tích ra thừa số nguyên tố. Vì lý do nào đó, các hệ thống mật mã hóa lai ghép được sử dụng trong thực tế; khóa được trao đổi thông qua mật mã khóa công khai, và phần còn lại của thông tin được mật mã hóa bằng cách sử dụng thuật toán khóa đối xứng (điều này về cơ bản là nhanh hơn). Mật mã hóa đường cong elip là một dạng thuật toán khóa công khai có thể có một số ưu điểm hơn so với các hệ thống khác.
Mật mã khóa công khai cũng cung cấp cơ chế cho chữ ký số, là cách xác thực với độ bảo mật cao (giả thiết cho rằng khóa bí mật được đảm bảo giữ an toàn) rằng thông điệp mà người nhận đã nhận được là chính xác được gửi đi từ phía người gửi mà họ yêu cầu. Các chữ ký như vậy (theo luật định hay được suy diễn mặc định) được coi là chữ ký số tương đương với chữ ký thật trên các tài liệu được in ra giấy. Sử dụng hợp thức các thiết kế có chất l ượng cao và các bổ sung khác tạo ra độ an toàn cao, làm cho chữ ký số vượt qua phần lớn các chữ ký thật về mức độ thực của nó (khó bị giả mạo h ơn). Các
chữ ký số là trung tâm trong các hoạt động của hạ tầng khóa công cộng (PKI) và rất nhiều hệ thống an ninh mạng (ví dụ các mạng riêng ảo VPN,…). Giống như mật mã hóa, các thuật toán lai ghép thông thường được sử dụng trong thực tế, thay vì ký trên toàn bộ chứng từ thì thường ký trên các văn bản đại diện (là văn bản nhận được từ chứng từ ban đầu sau khi sử dụng các thuật toán băm) .
Mật mã khóa công khai cũng cung cấp nền tảng cho các kỹ thuật khóa thỏa thuận xác thực mật khẩu và kỹ năng kiểm chứng mật khẩu. Điều n ày là quan trọng khi xét theo phương diện của các chứng minh rằng việc xác thực chỉ bằng mật khẩu sẽ không đảm bảo an toàn trên mạng chỉ với khóa mật mã đối xứng và các hàm băm.
Trong mật mã hóa khóa công khai, khóa cá nhân ph ải được giữ bí mật trong khi khóa công khai được phổ biến công khai. Trong 2 khóa, một d ùng để mã hóa và khóa còn lại dùng để giải mã. Điều quan trọng đối với hệ thống là không thể tìm ra khóa bí mật nếu chỉ biết khóa công khai.
Hệ thống mật mã khóa công khai có thể sử dụng với các mục đích: - Mã hóa: giữ bí mật thông tin và chỉ có người có khóa bí mật mới giải mã được.
-Tạo chữ ký số:cho phép kiểm tra một văn bản có phải đã được tạo với một khóa bí mật nào đó hay không.
- Thỏa thuận khóa: cho phép thiết lập khóa dùng để gửi/nhận Email và truyền tải văn bản mật giữa 2 bên.
Thông thường, các kỹ thuật mật mã hóa khóa công khai đòi hỏi khối lượng tính toán nhiều hơn các kỹ thuật mã hóa khóa đối xứng nhưng những lợi điểm mà chúng mang lại khiến cho mật mã hóa khóa công khai đựợc áp dụng trong nhiều ứng dụng bảo mật của thực tiễn.
Về khía cạnh an toàn, các thuật toán mật mã khóa bất đối xứng cũng không khác nhiều với các thuật toán mã khóa đối xứng. Có những thuật toán được dùng rộng rãi, có thuật toán chủ yếu trên lý thuyết; có thuật toán vẫn được xem là an toàn, có thuật toán đã bị phá vỡ... Cũng cần lưu ý là những thuật toán được dùng rộng rãi không phải lúc nào cũng đảm bảo an toàn. Một số thuật toán có những chứng minh về độ an to àn với những tiêu chuẩn khác nhau. Nhiều chứng minh gắn việc phá vỡ thuật toán với những b ài toán nổi tiếng vẫn được cho là không có lời giải trong thời gian đa thức. Nhìn chung, chưa có thuật toán nào được chứng minh là an toàn tuyệt đối (như hệ thống mật mã sử dụng một lần). Vì vậy, cũng giống như tất cả các thuật toán mật mã nói chung, các thuật toán mã khóa công khai vẫn cần phải được sử dụng một cách thận trọng tuy cặp khóa bí mật và khóa công khai được tạo ra bởi các tính toán rất phức tạp.
Ứng dụng rõ ràng nhất của mật mã hóa khóa công khai là bảo mật: một văn bản được mã hóa bằng khóa công khai của một người sử dụng thì chỉ có thể giải mã với khóa bí mật của người đó. Các thuật toán tạo chữ ký số khóa công khai còn dùng để nhận thực. Người gửi thông điệp có thể mã hóa văn bản và gửi kèm chữ ký số được tạo ra khóa bí mật của mình. Nếu người nhận thông điệp có thể kiểm tra chữ ký số bằng khóa công khai của người gửi thì giải mã được văn bản gửi kèm có thể tin chắc chắn rằng văn bản thực sự là của người gửi gắn với khóa công khai của người đó.