Các ảnh hưởng phi tuyến trong sợi quang có khả năng gây ra ảnh hưởng nghiêm trọng trong việc thực hiện các hệ thống thông tin quang WDM. Ảnh hưởng phi tuyến có thể dẫn đến suy hao, méo dạng và nhiễu xuyên kênh. Trong một hệ thống WDM, hiệu ứng này đặt ra những ràng buộc về khoảng cách giữa các kênh bước sóng liên tiếp nhau, hạn chế công suất cực đại trên bất cứ kênh nào, và vì thế cũng hạn chế tốc độ bit cực đại.
Có hai dạng ảnh hưởng phi tuyến. Dạng thứ nhất xuất hiện do sự tương tác giữa các sóng ánh sáng với sự rung động phân tử trong môi trường silica – một trong nhiều
dạng của hiệu ứng khuếch tán. Có hai dạng khuếch tán chính là khuếch tán tích lũy Brillouin (SBS) và khuếch tán tích lũy Raman (SRS).
Loại ảnh hưởng phi tuyến thứ hai xuất hiện do sự phụ thuộc của chỉ số khúc xạ vào cường độ quang của các tín hiệu quang truyền xuyên qua sợi. Vì vậy, pha của ánh sáng của bộ thu sẽ phụ thuộc vào pha ánh sáng được gởi từ bên phát, chiều dài sợi và cường độ quang. Các hiệu ứng phi tuyến quan trọng nhất loại này gồm có: tự điều chế pha (SPM), và trộn bốn bước sóng (FWM).
a. Tự điều chế pha (SPM):
Tự điều chế pha gây ra bởi sự biến đổi công suất của một tín hiệu quang và kết quả là làm biến đổi pha của tín hiệu. Lượng dịch pha gây ra bởi SPM là:
φNL = n2k0L|E|2
Trong đó n2 là hệ số phi tuyến cho chỉ số khúc xạ, k0 = 2π/λ, L là chiều dài sợi, và |E|2 là cường độ quang. Trong các hệ thống khóa dịch pha (PSK), SPM có thể làm hạ phẩm chất hệ thống, vì đầu thu phụ thuộc vào thông tin pha. SPM cũng dẫn đến giãn độ rộng phổ các xung. Những thay đổi tức thì trong một pha của tín hiệu gây ra bởi sự thay đổi cường độ tín hiệu sẽ dẫn đến những thay đổi tức thời về tần số xung quanh tần số trung tâm của tín hiệu. Đối với những xung rất ngắn, các thành phần tần số thêm vào tạo ra bởi SPM kết hợp với các hiệu ứng tán sắc vật liệu cũng làm cho xung bị trải ra hoặc nén lại trong miền thời gian, ảnh hưởng tốc độ bit cực đại và tỉ lệ lỗi bit.
b. Điều chế xuyên pha (XPM):
XPM là sự dịch pha của tín hiệu gây ra bởi sự thay đổi cường độ của một tín hiệu truyền ở một bước sóng khác. XPM có thể làm phổ mở rộng bất đối xứng, và kết hợp với SPM và tán sắc, cũng có thể ảnh hưởng đến hình dạng xung trong miền thời gian.
Mặc dù XPM có thể làm hạn chế việc thực hiện các hệ thống sợi quang, nó cũng có một số ứng dụng quan trọng. XPM có thể dùng để điều chế tín hiệu “bơm” ở một bước sóng từ một tín hiệu được điều chế trên một bước sóng khác. Các kỹ thuật này có thể được dùng trong các thiết bị chuyển đổi bước sóng.
c. Khuếch tán tích lũy Raman (SRS):
Khuếch tán tích lũy Raman gây ra do sự tương tác ánh sáng với những phân tử. Ánh sáng đi vào gặp những phân tử tạo ra ánh sáng khuếch tán ở một bước sóng dài hơn bước sóng ban đầu. Một phần ánh sáng di chuyển trong sợi tích cực Raman bị dịch xuống vùng tần số thấp hơn. Ánh sáng được tạo ra từ tần số thấp hơn được gọi là
Stokes wave. Phạm vi tần số chiếm bởi Stokes wave được xác định bởi phổ độ lợi Raman thấp hơn tần số ánh sáng đi vào khoảng 40 THz. Trong sợi silica, Stokes wave có một độ lợi cực đại ở tần số thấp hơn tần số tín hiệu ngõ vào khoảng 13.2 THz.
Phần công suất truyền cho sóng Stokes tăng nhanh khi công suất tín hiệu ngõ vào tăng. Khi công suất ngõ vào rất cao, SRS sẽ làm cho hầu hết tất cả các công suất ngõ vào chuyển sang sóng Stokes.
Trong các hệ thống đa bước sóng, các kênh bước sóng ngắn hơn sẽ mất một số công suất cho mỗi kênh bước sóng cao hơn trong phổ độ lợi Raman. Để giảm lượng mất mát, công suất trên mỗi kênh cần phải thấp hơn một mức nào đó. Người ta chứng minh rằng, trong một hệ thống 10 kênh với khoảng cách kênh 10 nm, công suất trên mỗi kênh nên được giữ thấp hơn 3 mW để tối thiểu hóa các ảnh hưởng của SRS.
d. Khuếch tán tích lũy Brillouin (SBS):
SBS tương tự như SRS, ngoại trừ dịch tần số bị gây ra bởi các sóng âm thanh chứ không phải là sự dao động phân tử. Các đặc điểm khác của SBS là các sóng Stokes truyền theo hướng ngược lại với ánh sáng đi vào, và SBS xảy ra ở công suất ngõ vào tương đối thấp cho các xung rộng (lớn hơn 1µs) nhưng lại ảnh hưởng không đáng kể đối với các xung ngắn (ngắn hơn 10 ns). Cường độ ánh sáng khuếch tán trong SBS lớn hơn nhiều trong SRS, nhưng phạm vi tần số của SBS trong tầm 10 GHz thấp hơn nhiều so với SRS. Độ lợi băng thông của SBS cũng chỉ trên 100 MHz.
Để ngăn các ảnh hưởng của SBS, công suất ngõ vào phải dưới một mức ngưỡng nào đó. Trong các hệ thống đa bước sóng, khuếch tán tích lũy Brillouin cũng gây ra xuyên kênh giữa các tín hiệu.
e. Trộn bốn bước sóng (FWM):
Trộn bốn bước sóng xảy ra khi hai bước sóng, hoạt động ở các tần số f1 và f2, trộn với nhau để tạo ra các tín hiệu 2f1 – f2 và 2f2 – f1. Các tín hiệu thêm vào, cũng có thể gây nhiễu nếu chúng trùng với các tần số dùng để truyền dữ liệu. Tương tự, trộn củng có thể xảy ra giữa sự kết hợp của ba bước sóng hoặc nhiều hơn. Ảnh hưởng cùa FWM trong các hệ thống WDM có thể giảm xuống bằng cách sử dụng các kênh được cách nhau không đồng đều.
FWM có thể được dùng để cung cấp chuyển đổi bước sóng.