Với , giải pháp bình phƣơng tối thiểu có thể đƣợc phân tích theo
một cách đặc biệt dựa vào sự phân tích giá trị đơn (SVD). Cho sự phân tích giá trị đơn của A
với các giá trị đơn , giải pháp chuẩn tắc Tikhonov đƣợc biểu diễn bằng:
̂
trong đó D có giá trị chéo
và bên ngoài đƣờng chéo thì các giá trị bằng 0. Điều này chứng minh ảnh hƣởng của tham số Tikhonov vào số điều kiện của bài toán chuẩn tắc. Trong trƣờng hợp tổng quát, một đại diện tƣơng tự có thể đƣợc suy luận bằng cách sử dụng phƣơng pháp phân tích giá trị đơn tổng quát.
27 ̂ ∑ trong đó các trọng số Wiener là và là hạng của . 2.2.4. Xác định hệ số Tikhonov
Tham số chuẩn tắc tối ƣu , luôn chƣa biết và thƣờng xuất hiện trong bài toán thực tế, đƣợc xác định bằng phƣơng pháp ad-hoc. Một giải pháp có thể dựa vào giải thích Bayesian đƣợc trình bày dƣới đây. Các giải pháp khác bao gồm discrepancy principle, cross-validation, L-curve method, restricted maximum likelihood và unbiased predictive risk estimator. Grace Wahba đã chứng minh rằng tham số tối ƣu, theo ý nghĩa của leave-one-out cross- validation tối ƣu:
‖ ̂ ‖
[ ]
Trong đó RSS là tổng thặng dƣ bình phƣơng và là số bậc tự do hiệu quả.
Sử dụng phƣơng pháp SVD trƣớc đó, chúng ta có thể đơn giản hóa các biểu thức trên: ‖ ∑ ‖ ‖∑ ‖ ‖∑ ‖ Và ∑ ∑
28
2.3. Phƣơng pháp L1 regularation
Chúng ta xét một mô hình tuyến tính có dạng
,
Trong đó là vector của các ẩn số, là vector quan sát,
là nhiễu, và là ma trận dữ liệu.
Khi và các cột của A độc lập tuyến tính, chúng ta có thể xác
định x bằng cách giải bài toán bình phƣơng nhỏ nhất, bởi việc tối thiểu ‖ ‖ , trong đó ‖ ‖ (∑ ) là chuẩn của u. Khi số quan sát m không đủ lớn so với n, hồi qui bình phƣơng nhỏ nhất đơn giản dẫn đến hiện tƣợng over-fit.
2.3.1. -Regularized Least squares
Một kỹ thuật chuẩn đƣợc dùng để ngăn chặn hiện tƣợng over-fitting là hoặc chuẩn tắc Tikhonov [2.1], nó đƣợc biểu diễn nhƣ sau:
‖ ‖ ‖ ‖ (2.1)
Trong đó λ> 0 là tham số chuẩn tắc. Bài toán chuẩn tắc Tikhonov hoặc bài toán bình phƣơng nhỏ nhất chuẩn tắc có giải pháp phân tích
(2.2)
Một số tính chất cơ bản của chuẩn tắc Tikhonov đƣợc liệt kê dƣới đây: • Độ tuyến tính. Từ (2.2), chúng ta thấy rằng, giải pháp đối với bài toán chuẩn tắc Tikhonov là một hàm tuyến tính của y.
• Hạn chế hoạt động khi λ → 0. Khi λ → 0, hội tụ đến giải pháp Moore-Penrose , trong đó là pseudoinverse Moore-Penrose của A. Điểm giới hạn có chuẩn tối thiểu trong tất cả các điểm mà nó thỏa mãn
(adsbygoogle = window.adsbygoogle || []).push({});
29
• Hội tụ đến không khi λ → ∞. Giải pháp tối ƣu có xu hƣớng tiến đến không khi λ → ∞.
• Đƣờng chuẩn tắc. Giải pháp tối ƣu là một hàm mƣợt (smooth function) của tham số chuẩn tắc λ, khi nó thay đổi trong khoảng [0, ∞). Khi λ giảm tới không, hội tụ đến giải pháp Moore-Penrose; khi λ tăng, hội tụ đến không.
Giải pháp cho bài toán chuẩn tắc Tikhonov có thể đƣợc tính bằng phƣơng pháp trực tiếp, nó yêu cầu flops (giả sử m cùng bậc với n hoặc nhỏ hơn). Giải pháp cũng có thể đƣợc tính bằng phƣơng pháp lặp (không trực tiếp) (ví dụ, phƣơng pháp gradient liên hợp – conjugate gradient method) đối với hệ phƣơng trình tuyến tính . Phƣơng pháp lặp đặc biệt hiệu quả khi có những thuật toán nhanh cho phép nhân ma trận – vectơ với ma trận dữ liệu và ma trận chuyển vị (tức là, và với và
), đó là trƣờng hợp khi A thƣa hoặc có dạng đặc biệt nhƣ ma trận
Fourier và wavelet.
2.3.2. -Regularized Least Squares
Trong bài toán bình phƣơng nhỏ nhất chuẩn tắc , chúng ta thay thế tổng các giá trị tuyệt đối cho tổng bình phƣơng đƣợc sử dụng trong chuẩn tắc Tikhonov, để có đƣợc:
‖ ‖ ‖ ‖ (2.3)
Trong đó ‖ ‖ ∑ | biểu thị chuẩn của x, và λ là tham số chuẩn tắc. Ta gọi (2.3) là một LSP chuẩn . Bài toán này luôn luôn có một giải pháp, nhƣng nó không cần phải là duy nhất.
Một số tính chất cơ bản của chuẩn tắc đƣợc liệt kê ở đây, chỉ ra điểm tƣơng đồng và khác biệt so với chuẩn tắc .
30
• Tính phi tuyến. Từ (2.2), chúng ta thấy rằng, trong chuẩn tắc Tikhonov, vector x là một hàm tuyến tính của vector quan sát y. Ngƣợc lại, trong chuẩn tắc , vector x không phải là tuyến tính với y.
• Hạn chế hoạt động khi λ → 0. Chuẩn tắc chỉ ra hạn chế hoạt động khác biệt với chuẩn tắc khi λ → 0. Giải pháp cho chuẩn tắc (2.3) hội tụ đến điểm trong tất cả các điểm thỏa mãn khi λ → 0.
• Sự hội tụ hữu hạn đến không khi λ → ∞. Nhƣ trong chuẩn tắc Tikhonov, giải pháp tối ƣu có xu hƣớng tiến đến không khi λ → ∞. Tuy nhiên, với chuẩn tắc , sự hội tụ xảy ra cho một giá trị hữu hạn của λ:
‖ ‖ (2.4)
Trong đó ‖ ‖ | ký hiệu chuẩn của vector . Đối với
, giải pháp tối ƣu là 0. Ngƣợc lại, giải pháp tối ƣu cho bài toán
Tikhonov bằng không chỉ trong giới hạn khi .
• Đƣờng chuẩn tắc. Giải pháp của bài toán Tikhonov thay đổi mƣợt khi tham số chuẩn tắc thay đổi trong khoảng [0, ∞). Ngƣợc lại, đƣờng chuẩn tắc của (2.3), tức là, họ các giải pháp khi thay đổi trên (0, ∞), có tính chất đƣờng giải pháp tuyến tính từng khúc [2.2]: Có các giá trị , với
, đƣờng chuẩn tắc là đƣờng cong tuyến tính từng
khúc trên
Trong đó giải bài toán (2.3) với . (Vì vậy, và
khi ).
Quan trọng hơn, chuẩn tắc đặc biệt thực hiện đƣợc với vector thƣa, tức là có tƣơng đối ít các hệ số khác không. (Khi giảm, nó có xu hƣớng
31
thƣa hơn, nhƣng điều này không cần thiết thiết [2.3], [2.4].) Ngƣợc lại, chuẩn tắc của bài toán Tikhonov có tất cả các hệ số khác không.
Gần đây, ý tƣởng của chuẩn tắc nhận đƣợc rất nhiều sự quan tâm trong lĩnh vực xử lý tín hiệu và thống kê. Trong lĩnh vực xử lí tín hiệu, ý tƣởng của chuẩn tắc xuất hiện trong một vài bối cảnh, bao gồm Basis pursuit denoising [2.5] và phƣơng pháp khôi phục tín hiệu từ các phép đo không hoàn thiện (ví dụ, [2.6], [2.7], [2.8], [2.9], [2.10], [2.11], [2.12]). Trong thống kê, ý tƣởng của chuẩn tắc đƣợc sử dụng trong thuật toán nổi tiếng Lasso [2.4] để lựa chọn tính chất và mở rộng của nó, bao gồm elastic net
[2.13]. (adsbygoogle = window.adsbygoogle || []).push({});
Một trong những bài toán này không có dạng chuẩn (2.3) nhƣng nó có một biểu diễn tổng quát hơn:
‖ ‖ ∑ | |
(2.5) trong đó là tham số chuẩn tắc (biến tƣơng ứng với là không đƣợc chuẩn tắc).
Bây giờ, chúng ta xem xét khía cạnh tính toán của chuẩn tắc . Không có một công thức phân tích hoặc biểu diễn nào cho bài toán tối ƣu đối với chuẩn tắc (2.3), tƣơng tự (2.2); giải pháp của nó phải đƣợc tính số. Hàm mục tiêu trong (2.3) là lồi nhƣng không khả vi, do đó, giải quyết bài toán là một thách thức tính toán hơn là giải quyết bài toán (2.1).
Phƣơng pháp tổng quát cho bài toán lồi không khả vi, chẳng hạn phƣơng pháp ellipsoid hay phƣơng pháp subgradient [2.14], [2.15], có thể đƣợc sử dụng để giải quyết bài toán (2.3). Các giải pháp này thƣờng rất chậm.
Chuẩn tắc (2.3) có thể đƣợc chuyển thành bài toán toàn phƣơng lồi (Convex quadratic problem), với những hạn chế không cân bằng tuyến tính.
32
Bài toán toàn phƣơng (QP) tƣơng ứng có thể đƣợc giải bằng phƣơng pháp tối ƣu lồi chuẩn, nhƣ phƣơng pháp điểm nội (interior-point method) [2.16], [2.17], [2.18], [2.19]. Phƣơng pháp điểm nội chuẩn đƣợc thực hiện theo giải pháp chung phổ quát, bao gồm MOSEK [2.20], nó có thể sẵn sàng thực thi với bài toán có kích thƣớc vừa và nhỏ. Các phƣơng pháp chuẩn không thể thực thi các bài toán lớn, trong đó có thuật toán nhanh cho toán tử ma trận- vector với A và Phƣơng pháp điểm nội chuyên biệt, khai thác các thuật toán nhƣ vậy, có thể mở rộng cho các bài toán lớn, nhƣ đƣợc chứng minh ở [2.5], [2.21]. Việc thực thi chất lƣợng cao của phƣơng pháp điểm nội chuyên biệt, bao gồm ll-magic [2.22] và PDC0 [2.23], chúng sử dụng thuật toán lặp, chẳng hạn nhƣ conjugate gradient (CG) hoặc thuật toán LSQR [2.24], để tính toán các bƣớc tìm kiếm.
Gần đây, một số nhà nghiên cứu đã đề xuất phƣơng pháp homotopy và các biến thể để giải quyết bài toán [2.25], [2.26], [2.2], [2.27], [2.28]. Sử dụng thuộc tính tuyến tính từng khúc của đƣờng chuẩn tắc, phƣơng pháp theo đƣờng (path-following method) có thể tính toán hiệu quả toàn bộ đƣờng giải pháp trong bài toán . Khi giải pháp (13) rất thƣa, giải pháp này có thể rất nhanh, vì số lƣợng các nút mà phƣơng pháp cần để tìm là vừa phải [2.25]. Mặt khác, phƣơng pháp theo đƣờng có thể chậm, nó thƣờng sử dụng trong bài toán quy mô lớn. Các phƣơng pháp tính toán khác đƣợc phát triển gần đây cho bài toán , bao gồm coordinate-wise descent method [2.29], một phƣơng pháp cố định điểm tiếp [2.30], Bregman phƣơng pháp dựa trên quy tắc lặp đi lặp lại [2.31], [2.32], phƣơng pháp tối ƣu không gian con tuần tự (sequential subspace optimization method) [2.33], phƣơng pháp tối ƣu đƣờng bao (bound optimization method) [2.34], phƣơng pháp co lặp (iterated shrinkage method) [2.35], [2.36], phƣơng pháp gradient [2.37], và thuật toán chiếu gradient
33
(gradient projection algorithm) [2.38]. Một số trong các phƣơng pháp này,bao gồm cả thuật toán chiếu gradient [2.38] có thể xử lý hiệu quả bài toán lớn.
34
Chƣơng 3: Mô phỏng và kết quả 3.1. Mô hình phƣơng pháp lặp vi phân Born (DBIM).
3.2. Chi tiết tính toán phƣơng pháp lặp vi phân Born (DBIM).
Đối tƣợng cần khảo sát chính là vật thể hình trụ tròn O(r) có kích thƣớc rất nhỏ (môi trƣờng B1) nằm trong môi trƣờng B2 (tƣơng ứng nhƣ khối u ở trong môi trƣờng nào đó). Mục tiêu của chúng ta là dựng đƣợc ảnh của vật thể trụ tròn, đó chính là vùng cần quan tâm ROI (Region Of Interest). Vùng diện tích quan tâm này đƣợc chia thành N×N ô vuông (mỗi ô vuông gọi là một pixel) có kích thƣớc là h. Số lƣợng máy phát là Nt và máy thu là Nr. Theo lí thuyết về sóng âm, hàm mục tiêu O(r) (vật thể hình trụ tròn) đƣợc tính bởi công thức:
Sử dụng hàm Green tìm phƣơng trình liên tục tính 𝑝𝑠𝑐
Rời rạc phƣơng trình sóng, sử dụng phƣơng pháp moment (MoM) Tính đƣợc áp suất tại các điểm bên trong và bên ngoài (tán xạ)
đối tƣợng là 𝑝, 𝑝𝑠𝑐
Tính ma trận B, C
Sử dụng phƣơng pháp xấp xỉ Born để tìm mối quan hệ tuyến
tính giữa 𝛥𝑝𝑠𝑐 và 𝛥𝑂
Sử dụng phƣơng pháp Tikhonov để tìm 𝛥𝑂
Sử dụng phƣơng pháp lặp để tìm đối tƣợng 𝑂
Phƣơng trình sóng trong môi trƣờng không đồng nhất chứa đối
35 Hình 3.1. Cấu hình hệ đo 1 1 2 ω - if r R 2 2 c c 1 0 Ο r = 0 if r > R (3.1)
Với và là tốc độ truyền sóng trong đối tƣợng và tốc độ truyền trong nƣớc, f là tần số sóng siêu âm, là tần số góc ( là bán kính của đ i tư ng.
Sử dụng sơ đồ cấu hình hệ đo nhƣ trong hình 3.1, bằng cách sử dụng DBIM để tái tạo lại độ tƣơng phản âm thanh tán xạ để xác định khối u trong môi trƣờng. Giả sử có một không gian vô hạn chứa môi trƣờng đồng nhất chẳng hạn là nƣớc, số sóng là . Trong môi trƣờng đó có vật với số sóng là
phụ thuộc vào không gian trong vật. Phƣơng trình truyền sóng của hệ thống có thể đƣợc cho nhƣ phƣơng trình (3.2).
( ) (3.2) (adsbygoogle = window.adsbygoogle || []).push({});
Viết lại dƣới dạng tích phân ta có:
(3.3) ∬ ⃗⃗⃗ ⃗⃗⃗ | ⃗ ⃗⃗⃗| ⃗⃗⃗ (3.4) Ở đó psc r là sóng tán xạ, pinc r là sóng tới và G(.) là hàm Green. h Transmitter Meshing area Receivers
36
Hàm mục tiêu cần đƣợc khôi phục từ dữ liệu tán xạ đƣợc xác định bởi:
⃗ ⃗ (3.5)
Bằng phƣơng pháp moment (MoM) áp suất của các điểm bên trong đối tƣợng có thể đƣợc tính nhƣ sau:
̅ ( ̅ ̅ ) (3.6)
Áp suất của các điểm bên ngoài đối tƣợng (áp suất tán xạ) là:
̅ (3.7)
Hai biến chƣa biết là ̅ và trong công thức (3.6) và (3.7), trong trƣờng hợp này áp dụng xấp xỉ Born loại 1 với phƣơng trình (3.4) và theo (3.6), (3.7) ta có:
̅ ̅ (3.8)
Với ̅ ̅ ; Ở đó B là ma trận ứng với hệ số G0(r,r‟) từ
các pixel tới máy thu, C là ma trận ứng với hệ số G0(r,r‟) giữa các pixel, I là ma trận đơn vị, và D(.) là toán tử chéo hóa.
Với mỗi bộ phát và bộ thu, chúng ta có một ma trận ̅ và một giá trị vô hƣớng . Thấy rằng vector chƣa biết có giá trị bằng với số pixel của RIO. Hàm mục tiêu (Object function) có thể đƣợc tính bằng cách lặp:
(3.9)
Với và là giá trị của hàm mục tiêu ở bƣớc hiện tại và bƣớc trƣớc đó. có thể đƣợc tìm bằng quy tắc Tikhonov:
‖ ̅ ‖ ‖ ‖ (3.10)
Trong đó ̅ là ( vector chứa giá trị sai khác gi a kết quả đo và kết quả tiên đoán tín hiệu siêu m tán ạ là ma trận
37
3.3. Các phƣơng pháp toán học khôi phục ảnh và chƣơng trình mô phỏng. phỏng. Phƣơng pháp Công thức Moo-PenPenrose Psedoinverse ‖ ‖ Tikhonov regularization ‖ ‖ ‖ ‖ L1 regularization ‖ ‖ ‖ ‖ Các vấn đề tính toán: - Moo-PenPenrose Psedoinverse: - Tikhonov regularization: - L1 regularization: ⁄
3.4. Chƣơng trình code của các thuật toán.
3.4.1. Chƣơng trình code của phƣơng pháp Moo-PenPenrose Psedoinverse Psedoinverse
%======Khôi phục dữ liệu sử dụng phƣơng pháp "Moore-Penrose inverse"=========
Code Ý nghĩa
SC1 = pinv(Mt)*p_sc_t;
SC1: Ma trận tán xạ
Mt: Ma trận M trong DBIM p_sc_t: Áp suất tán xạ
SC1 = reshape(SC1,N,N); Chuyển ma trận SC1 thành ma trận vuông
NxN. figure; (adsbygoogle = window.adsbygoogle || []).push({});
38
3.4.2. Chƣơng trình code của phƣơng pháp Tikhonov regularization
1. Chương trình khôi phục chính.
Code Ý nghĩa
RRE = 2^(-5); Lỗi nền, RRE càng nhỏ, chất lƣợng
càng tốt
gama = .5*(5.9303e-008)^2*1e-4; Tham số chuẩn tắc Tikhonov, càng
nhỏ, càng chậm delta_sound = test_NCG(Mt,delta_sc_t,1e3,RRE,g ama); Hàm khôi phục “test_NCG” SC2 =
SC1+reshape(delta_sound,N,N); Cập nhật sự tƣơng phản âm thanh
2. Chương trình con “test_NCG”.
function[delta_sound]=test_NCG(Mt,delta_sc_t,ni,RRE,gama)
3.4.3. Chƣơng trình code của phƣơng pháp L1 regularization
1. Chương trình khôi phục chính.
Code
lambda = 1e-15; rel_tol =RRE;
AA=[real(Mt) – imag(Mt);imag(Mt) real(Mt);]; yy=[real(delta_sc_t);imag(delta_sc_t)];
[xx,status]=l1_ls(AA,yy,lambda,rel_tol);
delta_sound=xx(1:length(xx)/2)+j*xx(1+length(xx)/2:end); SC1=SC1+reshape(delta_sound,N,N);
39 l1_ls(AA,yy,lambda,rel_tol);
3.5. Kết quả mô phỏng.
Tham số mô phỏng: Tần số 1MHz, N = 21, Nsum = 8. Đƣờng kính đối tƣợng 7.3mm, Độ tƣơng phản âm 7%, Nhiễu Gaussian 10%, Khoảng cách máy phát , máy thu đến tâm = 100mm.
Hình 3.2: Hàm mục tiêu lí tư ng
Hình 3.2 là hàm mục tiêu lí tƣởng trong kịch bản mô phỏng (N = 21) (trong thực tế, nó chính là khối u lạ trong môi trƣờng đồng nhất). Mục tiêu của chúng ta là khôi phục đƣợc đối tƣợng trên, sử dụng các mô hình, các kĩ thuật xử lí tín hiệu để khôi phục đƣợc ảnh với chất lƣợng tốt nhất và thời gian khôi phục nhanh nhất.
3.5.1.Mô phỏng sử dụng phƣơng pháp Tikhonov.
Thay đổi số MP,
MT Lỗi chuẩn hóa từ vòng lặp 1 đến vòng lặp 8 Thời gian
NP = NT = 8 0.9490 0.9427 0.9424 0.9424 0.9424 0.9424 0.9424 0.9424 61.846577 NP = NT = 10 0.6207 0.5179 0.4872 0.4707 0.4600 0.4524 0.4470 0.4431 87.693626 NP = NT = 12 0.8259 0.7999 0.7943 0.7925 0.7916 0.7912 0.7911 0.7911 94.968234 NP = NT = 14 0.8000 0.7464 0.7281 0.7195 0.7145 0.7111 0.7087 0.7070 130.845553 -2 -1 0 1 2 -2 -1 0 1 2 0 5 10 15 20 25 30
Ideal object function
p e rc e n t o f th e s o u n d c o n tr a s t
40 NP = NT = 16 0.4290 0.2691 0.2382 0.2320 0.2302 0.2294 0.2291 0.2290 130.258239 NP = NT = 18 0.4017 0.2419 0.2081 0.1960 0.1900 0.1862 0.1834 0.1812 152.313615 NP = NT = 20 0.3548 0.2266 0.1822 0.1584 0.1449 0.1363 0.1302 0.1256 168.393346 NP = NT = 22 0.4038 0.1778 0.0949 0.0755 0.0668 0.0615 0.0576 0.0546 192.820992 NP = NT = 24 0.3179 0.1999 0.1457 0.1253 0.1125 0.1031 0.0959 0.0900 233.365111 NP = NT = 26 0.2677 0.0909 0.0425 0.0286 0.0220 0.0178 0.0150 0.0129 269.807922 NP = NT = 28 0.2545 0.1055 0.0401 0.0230 0.0161 0.0124 0.0101 0.0084 343.149005 NP = NT = 30 0.3551 0.1428 0.0667 0.0438 0.0318 0.0244 0.0194 0.0158 385.055147 Nhận xét: (adsbygoogle = window.adsbygoogle || []).push({});
+ Khi tăng số máy phát, máy thu thì lỗi chuẩn hóa giảm, nhƣng thời gian