OpenVPN được xây dựng trên một nền tảng an ninh vững chắc. SSL/TLS được biết đến như một giao thức bảo mật được ứng dụng rộng rãi. Một số nghiên cứu cho thấy nó là một trong những sự lựa chọn phần mềm an toàn nhất và đáng tin cậy. Không có lỗ hổng bảo mật lớn đã được tìm thấy và nó dựa trên việc sử dụng của OpenSSL cho các giải pháp mã hóa, xác thực. Các giải pháp khác như CIPE, tinc và vTUN có hay đã có một số lỗ hổng bảo mật nghiêm trọng [4].
Đường đi của gói tin trong đường hầm OpenVPN
Điểm đặc biệt của gói tin được chuyển đi từ phía client hay một site nào đó trong OpenVPN là gói tin được mã hóa và giải mã theo giao thức SSL.
Giao thức SSL tạo kênh truyền mã hóa bảo mật kết nối Internet của người dùng. Mọi trao đổi giữa máy tính và hệ thống luôn được gửi đi trên kênh truyền an toàn này.
Đầu tiên, cả hai phía sẽ dùng CA (ca.crt) để chứng nhận khóa công khai của nhau. Chỉ có cơ quan có thẩm quyền Certificate Authority (thường được gọi tắt là CA) mới được phép cấp giấy chứng nhận. Giấy chứng nhận được kí bằng khóa riêng của người cấp (ở đây là VPN Server).
Client cần chắc chắn là sẽ làm việc với Server OpenVPN mà không phải là máy khác. Client sẽ tiến hành xác thực Server. Server có một cặp khóa gồm một khóa công khai và một khóa riêng. Cho Client biết trước khóa công khai của mình, client tạo ra một thông điệp ngẫu nhiên (random message) và gửi đến Server.
Server dùng khóa riêng của mình để mã hóa thông điệp vừa nhận được và gửi trả lại cho Client.
Client nhận được message từ Server, dùng khóa công khai của Server để giải mã message này và sau đó so sánh message vừa giải mã được với random- message đã gửi đi. Nếu giống nhau, Client có thể tin chắc rằng mình đang nói chuyện với Server.
Sau khi Client đã xác thực mình đang nói chuyện với Server, Client sẽ gửi cho Server một message đã bị mã hóa bằng khóa công khai của Server.
Bằng cách này, chỉ có Server mới có thể giải mã message trên và lấy được khóa bí mật bởi vì chỉ có Server mới biết được khóa riêng để giải mã. Trao đổi khóa bí mật bằng công nghệ khóa công khai cực kì an toàn. Không một ai ngoại trừ Client và Server biết được khóa bí mật. Khóa bí mật này còn được biết đến với cái tên là khóa phiên (session key). Kể từ đây Client và Server sẽ dùng khóa phiên để trao đổi dữ liệu cho nhau.
OpenVPN được tích hợp thêm cơ sở hạ tầng khóa công khai (PKI). Ta đi triển khai cụ thể các mô hình VPN với công nghệ OpenVPN là mô hình VPN remote access và mô hình VPN site to site.