Thuật toán Shor có thể được coi là một ví dụ của bài toán khái quát hơn, bài toán về nhóm phụ ẩn. Hàm f trong bài toán tìm thời gian qua M là
không đổi trên cả tập hợp x x, a,... đối với mỗi x và khác nhau trên những tập hợp rời rạc như vậy; nếu a chia M , nó không đổi trên những lớp khác nhau như vậy.
Định nghĩa: Bài toán nhóm phụ ẩn (HSP)- với a hàm f : GR trên nhóm G, và một nhóm phụ H G để f không đổi trên lớp trái của H và khác nhau đối với các lớp khác nhau, tìm tập hợp tạo ra H.
HSP là một bài toán quan trọng. Thuật toán hiệu quả cho nhóm M tạo ra một thuật toán phân tích hiệu quả. Nó còn là một bộ phận của một thuật toán hiệu quả cho thuật toán rời rạc qua M. Thuật toán rời rạc là cơ sở mã hóa nữa trong công nghệ mã hóa cổ điển có thể bị tách ra bởi một máy tính lượng tử. Theo nguyên tắc lượng tử, việc khái quát hóa một chút thuật toán Shor sẽ tạo ra một thuật toán hiệu quả cho HSP đối với tất cả các nhóm Abelian. Kitaev [40-42] phát triển một thuật toán lượng tử cho bài toán Abelian Stabilizer, một ví dụ khác của bài toán nhóm phụ ẩn, sử dụng việc ước định pha tương ứng với phép biến đổi lượng tử Fourier và cũng giải quyết HSP qua nhóm Abelian. Sử dụng HSP Abelian, Hallgren [35] đưa ra thuật toán lượng tử đa thức cho phương trình Pell, giải quyết bài toán lý thuyết về số cũng khó như phân tích bài toán đó. Trong số những ứng dụng khác của HSP, Friedl và các đồng sự [30] đã giải bài toán chuyển đổi ẩn: cho hai hàm
f và g được xác định qua nhóm n
p để f x g x t cho phép chuyển đổi ẩn t, tìm t.
Một trong những khó khăn nhất từ Shor là thiết kế thuật toán lượng tử cho HSP phi Abelian. Ví dụ, giải pháp hiệu quả cho nhóm đối xứng Sn( hoán vị của thành phần n) sẽ tạo ra một thuật toán hiệu quả cho bài toán đẳng cấu hình học: để xác định xem hai hình cho trước này có tương đương với nhau để hoán vị các đỉnh cho nhau không. Một bài toán quan trọng nữa là HSP qua
nhóm nhị diện DN ( nhóm đối xứng của N thông thường). Cách giải trong trường hợp này sẽ đưa ra một thuật toán cho bài toán vectơ ngắn nhất trong một mạng; việc rút gọn này được chỉ ra bởi Regev [42]. Bài toán vector ngắn nhất nằm ở phương pháp mã hóa cổ ddiern được thiết kế như một phương pháp thay thế cho những phương pháp dựa trên việc phân tích hoặc thuật toán rời rạc.
Trong trường hợp của HSP qua các nhóm, Ettinger, Hoyer và Knill [23] chỉ ra rằng một số trạng thái gồm các lớp đa thức của dạng
1 h H x h f x H
( so với phương trình (2.12) là đủ để đạt được tất cả các thông tin lý thuyết về nhóm phụ ẩn H. Tuy nhiên, để lấy được những thông tin này, cần phải rất nhiều thời gian; vì vậy nhìn chung thuật toán này không hiệu quả. Đối với HSP qua nhóm nhị diện D2n, Kuperberg [43] đưa ra một thuật toán lượng tử thực hiện trong thời gian 2O n . Cần phải tốn công sức nhiều trong việc phân tích hiệu quả của việc lấy mẫu lượng tử Fourier (Hình 2.4), khi QFT là phép biến đổi Fourier qua nhóm G, khi nhóm phụ ẩn H là nhóm phụ của G. Trong trường hợp nhóm đối xứng, QFT (phi Abelian) thực thi hiệu quả bởi máy tính lượng tử [7]; tuy nhiên rất nhiều bài viết [32,33, 34,34] chỉ ra rằng không thể thực hiện phương pháp này để giải bài toán ( trong trường hợp đo lường một hoặc hai bản sao tại trạng thái ở bước 4, hình 2.4. Đây là một câu hỏi mở: ”Liệu có thuật toán lượng tử hiệu quả nào cho HSP sử dụng công cụ khác mà không nhất thiết phải dựa trên QFT không?”.