Hiện tượng chiết suất phi tuyến cũn gõy ra một hiệu ứng khỏc trong sợi đơn mode, đú là hiệu ứng FWM. Trong hiệu ứng này, nhiều tớn hiệu quang cú cường độ tương đối mạnh sẽ tương tỏc với nhau tạo ra cỏc thành phần tần số mới. Sự tương tỏc này cú thể xảy ra giữa cỏc bước súng của tớn hiệu trong hệ thống WDM, hoặc giữa bước súng tớn hiệu với bức xạ tự phỏt được khuếch đại ASE (Amplifier Spontaneous Emission) của cỏc bộ khuếch đại quang, cũng như giữa mode chớnh và mode bờn của một kờnh tớn hiệu. Giả sử cú 3 bước súng với tần số ωi, ωj, ωk tương tỏc với nhau thỡ tần số mới tạo ra cú bước súng là ωijk.
Theo quan điểm cơ lượng tử thỡ FWM là hiệu ứng mà trong đú cú sự phỏ huỷ photon ở một số bước súng và tạo ra một số photon ỏ cỏc bước súng mới sao cho vẫn bảo toàn về động lượng. Nếu gọi Pijk(L) là cụng suất của bước súng ωijk trong sợi quang, thỡ: ( ) ( ) PP P ( L) S L c n L P i j k eff ijk ijk χ α λ π η − = 1024 6 2 .exp 2 2 3 2 2 0 6 (3.14) trong đú:
η là hiệu suất của quỏ trỡnh FWM c là tốc độ ỏnh sỏng
Seff là diện tịch hiệu dụng vựng lừi
χ(3) là độ cảm phi tuyến bậc 3.
Hiệu suất η của quỏ trỡnh FWM phụ thuộc vào điều kiện phự hợp về pha. Hiệu ứng FWM xảy ra mạnh chỉ khi điều kiện này được thoả món (tức là động lượng của photon được bảo toàn). Vỡ trong sợi quang tồn tại tỏn sắc, nờn điều kiện phự hợp về pha rất khú xảy ra. Tuy nhiờn với mụi truờng là loại sợi cú tỏn sắc rất nhỏ và cỏc kờnh cú khoảng cỏch gần nhau thỡ điều kiện này cú thể coi là xấp xỉ đạt được. Do việc tạo ra cỏc tần số mới là do sự tương tỏc của cỏc tần số tớn hiệu, nờn hiệu ứng FWM sẽ làm giảm cụng suất của cỏc kờnh tớn hiệu trong hệ thống WDM. Nếu khoảng cỏch giữa cỏc kờnh là bằng nhau thỡ những tần số mới được tạo ra cú thể rơi vào cỏc kờnh tớn hiệu, gõy xuyờn nhiễu cho kờnh, làm suy giảm chất lượng của hệ thống.
Sự suy giảm cụng suất làm giảm tỉ số S/N dẫn đến làm tăng BER của hệ thống. Cỏc hệ thống WDM chủ yếu làm việc ở vựng cửa sổ bước súng 1550 nm, tỏn sắc của sợi quang đơn mode thụng thường (sợi G.652) tại cửa sổ này là khoảng 18 ps/nm.km, cũn tỏn sắc của sợi tỏn sắc dịch chuyển (sợi G.653) là nhỏ hơn 3 ps/nm.km. Từ đú ta thấy, hệ thống WDM làm việc với sợi đơn mode chuẩn thụng thường (SSMF) sẽ ớt bị ảnh hưởng bởi hiệu ứng FWM hơn hệ thống WDM sử dụng sợi dịch tỏn sắc DSF (Dispersion Shifted Fiber).
Ảnh hưởng của hiệu ứng FWM càng lớn nếu như khoảng cỏch giữa cỏc kờnh trong hệ thống WDM càng nhỏ, và mức cụng suất của mỗi kờnh càng lớn. Như vậy hiệu ứng FWM sẽ làm hạn chế dung lượng truyền dẫn của hệ thống WDM.