Windows Mobile có nguồn gốc từ Windows CE. Windows CE 1.0 được dùng trong Palm-Size PC từ năm 1998, nhưng trước đó nó đã được dùng trong các Handheld PC từ năm 1996. Handheld PC có dạng như một laptop thu nhỏ với đầy đủ bàn phím, chuột,… và chưa có màn hình cảm ứng như trên Pocket PC [22].
Máy Handheld PC Pegasus sản xuất năm 1996 của hãng HP, sử dụng Windows CE 1.0, màn hình đơn sắc Monochrome và bán được hơn nửa triệu thiết bị trong năm đầu tiên. Giao diện Windows CE 1.0 được thiết kế theo giao diện của Windows 95.
Năm 1997, Handheld PC Mercury ra đời với HĐH Windows CE 2.0, màn hình VGA 256 màu tích hợp ứng dụng Office và vẫn giữ giao diện của Windows 95.
Cuối năm 1999 và đầu 2000, Rapier, thiết bị cầm tay với HĐH Windows CE lần đầu tiên được gọi là Pocket PC hay Pocket PC 2000. Một tên gọi khác của thiết bị này lúc đó là Handheld PC – Galileo. Hệ điều hành Windows CE được nâng cấp lên phiên bản 3.0 với màn hình cảm ứng [22].
Năm 2003, Windows CE được nâng cấp lên phiên bản 4.x khá hoàn thiện và đủ sức cạnh tranh với hệ điều hành Symbian nhờ vào các tính năng Bluetooth, công nghệ .NET Compact Framework, không dây và chương trình Windows Media Player 9.0. Windows CE 4.x được đổi tên thành Windows Mobile. Cũng giống như Windows trên PC, Windows Mobile cũng dùng năm ra đời để đánh dấu các phiên bản khác nhau như: Windows Mobile 2003, Windows Mobile 2003 Second Edition (2004), Windows Mobile 5.0 (2005) [22].
Hiện nay, hệ điều hành Windows Mobile 5.0 tích hợp sẵn .NET Compact Framework đã cung cấp môi trường nền tảng và tiện lợi cho việc tích hợp các ứng dụng nhúng trên Pocket PC hoặc các thiết bị cầm tay thông minh.