Tính bảo mật của hệ mã hóa mật mã công khai RSA phần lớn dựa vào việc lấy thừa số các số nguyên lớn. Kẻ xâm nhập có thể lấy thừa số
môđun n trong một khóa công khai thì kẻ xâm nhập đó có thể suy ra khoá bí mật từ khoá công khai này rồi lấy thừa số các số nguyên lớn dễ dàng thì việc bẻ khóa hệ mật mã công khai RSA cũng dễ dàng nhưng nếu lấy thừa số các số nguyên lớn khó khăn thì việc bẻ khóa cũng gặp rất nhiều khó khăn.
Cho đến nay, người ta vẫn chưa tìm ra phương pháp nào dễ dàng hơn trong việc bẻ mật mã khóa công khai RSA hơn là lấy thừa số môđun n. Với một số nguyên n, ta muốn lấy thừa số, có nghĩa là, phân tích thành một tích các số nguyên tố và với phép thử tính nguyên sẽ cho ta biết n là hợp số nhưng thông thường không cho ta biết các thừa số nguyên tố của n. Đối với việc lấy thừa số nguyên tố khó hơn rất nhiều lần so với việc đơn giản xác định n là số nguyên tố hay là hợp số. Bằng cách chọn ngẫu nhiên và nhân hai số nguyên tố 100 chữ số với nhau ta có thể tạo ra một khóa công khai không thể nào phá được trong một thời gian khả thi với những công nghệ hiện hành.
Nhưng để có thể có được tính bảo mật cao bằng hệ mã hoá mật mã công khai RSA ta cần làm việc với các số nguyên tố có chiều dài 100 – 200 chữ số, vì việc lấy thừa số các số nguyên nhỏ hơn là không thực tế. Do đó ta có thể tìm ra các số nguyên tố lớn một cách hiệu quả để tạo ra khóa có chiều dài cần thiết.
Hình 7: Hệ thống mã hoá mật mã dùng khóa công khai.
Giải thuật RSA sử dụng hai khoá khác nhau để mã hoá và giải mã dữ liệu.