Nghiên cứu và xây dựng một số thuật toán quy hoạch thực nghiệm tối ưu

Bởi vì những vấn đề của mô hình trên là tương đương với các vấn đề của mô hình (2.2) (khi mà các tham số phi tuyến là không biết trước và chúng ta chỉ có các đánh giá ước lượng), nó dẫn [r]

ĐẠI HỌC QUỐC GIA HÀ NỘI ĐẠI HỌC KHOA HỌC TỰ NHIÊN

Nguyễn Quang Đạt

NGHIÊN CỨU VÀ XÂY DỰNG MỘT SỐ THUẬT TOÁN QUY HOẠCH THỰC NGHIỆM TỐI ƯU

ĐẠI HỌC QUỐC GIA HÀ NỘI

ĐẠI HỌC KHOA HỌC TỰ NHIÊN

NGUYỄN QUANG ĐẠT

NGHIÊN CỨU VÀ XÂY DỰNG MỘT SỐ THUẬT TOÁN QUY HOẠCH THỰC NGHIỆM TỐI ƯU

Chuyên ngành : Cơ sở toán cho tin học

Mã số : 60460110

LUẬN VĂN THẠC SĨ TOÁN HỌC

TÀI LIỆU THAM KHẢO

I. Tiếng Anh

1.1 Dette, H and Haines, L (1994) “E-optimal designs for linear and nonlinear models with two parameters”, “Biometrika”

1.2 Dette, H and Studden, W J (1993) “Geometry of E-optimality”, “Ann Statist”,

1.3 Elfving, G (1952), “Optimum allocation in linear regression theory” “Ann Math Statist”

1.4 Holger Dett, Viatcheslav B Melas, Andrey Pepelyshev (2004), “Optimal Designs for a class of nonlinear regression models”, St Petersburg State University, Russia

1.5 Imhof, L A and Studden, W J (2001) “E-optimal designs for rational models” “Ann.Statist.”

1.6 Viatcheslav B Melas (2006), “Functional Approach to Optimal Experimental Design”, Springer Science+Business Media, Inc., USA

II. Tiếng Nga

2.1 Ф е д о р о в В В (1971), “Теория оптимального эксперимента (планирование регрессионных экспериментов)”,изд-ва «Наука», Москва

III. Tiếng Việt

3.1 Lưu Lan Hương (1985), “Ứng dụng phép quy hoạch bố trí thí nghiệm”, luận án tốt nghiệp đại học, ĐH Tổng hợp, Hà Nội

Mục lục

Mở đầu Mở đầu

Mở đầu

Chương 1: Chương 1:

Chương 1: Quy hoạch thực nghiệm tối ưu

1.1 Tổng quan

1.2 Các yêu cầu chung đánh giá

1.3 Mô hình tuyến tính

1.3.1 Ví dụ mơ hình tuyến tính: 16

1.4 Tiêu chuẩn tối ưu 18

1.4.1 Chuẩn D: 18

1.4.2 Chuẩn G: 18

1.4.3 Chuẩn MV: 19

1.4.4 Chuẩn c: 19

1.4.5 Chuẩn E: 20

Chương 2:Chương 2:Chương 2: Lớp mơ hình hồi quy phi tuyến 21 2.1 Thuật toán tối ưu cho lớp hàm hồi quy phi tuyến 21

2.2 Lớp mơ hình hồi quy phi tuyến dạng phân thức 25

2.2.1 Đánh giá kết đo đạc 25

2.2.2 Phân tích tiệm cận theo mơ hình tối ưu chuẩn E chuẩn c 30

2.2.3 Mơ hình hồi quy phi tuyến dạng phân thức hữu tỷ 35 2.3 Một số mơ hình hồi quy phi tuyến dạng phân thức 41

2.3.1 Mơ hình 1: 41

2.3.2 Mơ hình 2: 48

2.4 Lưu đồ mơ hình thuật tốn: 50

Chương 3:Chương 3:Chương 3: Bài toán thực tế 51 3.1 Bài tốn 51

3.1.1 Thí nghiệm ban đầu 52

3.1.2 Mô hình hóa tốn 53

3.1.3 Giải toán 54

3.1.4 Tổ chức thêm thí nghiệm lần thứ 2: 56

3.1.5 Mơ hình hóa giải lần thứ 56

3.2 Bài toán 58

3.2.1 Thí nghiệm ban đầu 59

3.2.2 Mơ hình hóa toán 60

3.2.3 Giải toán 61

3.2.4 Tổ chức thêm thí nghiệm lần thứ 2: 63

MỞ ĐẦU

Trước đây, nhà khoa học, nghiên cứu, thường làm nhiều thí nghiệm Họ tiếp tục đùng thống kê để phân tích kết thu Tới thời điểm tại, khoa học kỹ thuật phát triển mạnh Những thí nghiệm cho chuyên ngành trở nên lớn phức tạp Sự phát triển ngày lên khoa học - công nghệ gây gia tăng cao chi phí cho thí nghiệm Chúng ta lấy đơn cử ví dụ việc phát triển vật lý nguyên tử đòi hỏi phải xây dựng loạt máy gia tốc không lồ, trị giá nhiều tỷ đô-la

Các nhà khoa học nhà nghiên cứu buộc phải xoay theo hướng khác khoa học thông kê Quy hoạch thực nghiệm tối ưu đời nhằm đáp ứng yêu cầu họ Quy hoạch thực nghiệm tối ưu tối ưu hóa việc lập kế hoạch tiến hành thí nghiệm, từ thu nhiều kết có giá trị với số thí nghiệm

Đối với vấn đề tối ưu hóa thí nghiệm, nay, quy hoạch thực nghiệm tối ưu có hai xu hướng chính: lập kế hoạch tốt cho thí nghiệm để tối ưu hóa kết đầu ra, hai xây dựng kế hoạch thực nghiệm tối ưu cho thí nghiệm xác định mơ hình nghiên cứu Trong xu hướng thứ nhất, việc cần làm tính tốn điều kiện thí nghiệm, cho tìm điều kiện tốt để làm thí nghiệm ta thu kết tốí ưu nhất, tức kết thu thí nghiệm nhận phải tối ưu Ta lấy ví dụ đơn giản trường hợp Trong ngành hóa học - cơng nghệ đại, đặt yêu cầu phải nhận sản phẩm mức lớn Một phép tính tốn quy hoạch phải tìm nhiệt độ thích hợp, áp xuất thích hợp, tỷ lệ phần trăm thành phần nguyên liệu, v.v

có thể thấy ta cần phải xây dựng mơ sau: cần phải tìm phương trình xác định mối quan hệ đại lượng ban đầu (các chất phản ứng, yếu tố nhiệt độ, áp suất, thời gian, v.v ) với đại lượng kết (ở khối lượng sản phẩm thu được) Và cuối cùng, phải đưa mơ hình tốn học thí nghiệm Trong luận văn thạc sỹ này, toán đặt là: có trước kết số thí nghiệm Nhưng kết thí nghiệm cho trước khơng đủ để tính tốn (chứng thực) lý thuyết mà cần Chúng ta phải làm thêm số thí nghiệm bên cạnh thí nghiệm trước Yêu cầu toán xác định kế hoạch cho việc thực thí nghiệm cách tốt

Mục tiêu học viên nghiên cứu lý thuyết quy hoạch thực nghiệm tối ưu, với áp dụng lý thuyết vào toán thực tế:

1 Tổng quan thực trạng quy hoạch thực nghiệm tối ưu Nghiên cứu, chứng minh lý thuyết Đưa cách xây dựng thuật toán Áp dụng vào toán thực tế

Luận văn bao gồm mục:

Chương 1: Tổng quan quy hoạch thực nghiệm tối ưu 1.1 Lớp mơ hình đơn giản: lớp tuyến tính

Chương 2: Lớp mơ hình quy hoạch thực nghiệm tối ưu phi tuyến: 2.1 Lớp mơ hình hồi quy phi tuyến dạng phân thức 2.2 Một số mơ hình lý thuyết

Chương 3: Nghiên cứu mơ hình thực tế: 3.1 Bài tốn

1

CHƯƠNG I:CHƯƠNG I:CHƯƠNG I: QUY HOẠCH THỰC NGHIỆM TỐI ƯU

1.1 Tổng quan

Bây giờ, xem xét mơ hình tốn học vấn đề, thiết kế thơng số toán học cho tượng làm sáng tỏ chúng Chúng ta đưa cách để tốn học hóa số liệu

Thơng thường, kết thu thí nghiệm thường phụ thuộc vào vài yếu tố, mà đây, ta gọi chúng "biến kiểm soát", hay "biến đầu vào" (ta sau sử dụng tên "biến đầu vào" mơ hình) Các biến thay đổi tùy theo thí nghiệm Ví dụ bên cho thấy ta thay đổi nhiệt độ, áp suất, thời gian, phần trăm hóa chất ban đầu, v.v Mỗi yếu tố này, ta đại diện chúng biến số, ta vector sau:

x=



 

x1 x2 xk



 

Ở đây, biến x1, , xk biến tương ứng với yêu tố đầu vào

(nhiệt độ, áp suất, v.v )

Một không gian k chiều đây, có xác định vector x, ta gọi không gian yếu tố ban đầu Tập hợp điểm không gian này, nơi mà phép đo thực (có thể làm thí nghiệm điểm này) gọi "miền kiểm tra", "miền giá trị đầu vào" Trong tài liệu này, gọi miền XXX Việc xác định giới hạn XXX vấn đề quan trọng kế hoạch tối ưu hóa Một số trường hợp, giá trị giới hạn phụ thuộc vào tính chất biến đầu vào Với ví dụ hóa học trên, ta thấy áp suất khơng thể số âm, hay thành phần phần trăm nguyên liệu ban đầu nằm khoảng 0% tới 100% Trong số trường hợp nhỏ - thường xảy - cịn cần xem xét giá trị biến đầu vào có giới hạn khác nữa, ví dụ nhiệt độ phụ thuộc vào nguồn nhiệt thí nghiệm cung cấp, nên khơng thể cao giá trị đó, v.v Chúng ta chí cịn phải đưa giới hạn nhiều

thực việc tối ưu hóa thí nghiệm ta cần Ta giả sử rằng, mối quan hệ xác định hàm số sau:

E(y/x) =η(x)

trong đó, E(y/x) giá trị mà ta thu sau hoàn thành thí nghiệm Vì giá trị thu phụ thuộc vào biến đầu vào nên ta để x đây, đại diện cho việc y x Còn hàm sốη(x) hàm phụ thuộc vào tham số chưa biết θ1, θ1, , θm Và trường hợp tổng quát, ta

không biết dạng hàm số η(x) này, phụ thuộc tham số θ1, θ1, , θm hàm

Trong trường hợp để tìm hiểu mơ hình toán học tối ưu mà ta cần, cần thếm số thông tin khác Và đây, ta chia tốn tìm mơ hình tối ưu thành ba cấp độ theo độ khó chúng:

Cấp độ 1:Cấp độ 1:Cấp độ 1: hàm số η(x) = η(x, θ) hàm số biết trước Chúng ta cần xác định tham số chưa biết θ:

θ =



 

θ1 θ2 θm



 

Cấp độ 2:Cấp độ 2:Cấp độ 2: hàm số η(x) hàm có dạng sau:

η(x) =

   

  

η1(x, θ1) η2(x, θ2)

ηv(x, θv)

kích thước vector θ1, , θv chí khác Và

cần phải xử lý liệu để xác định hàmη1(x, θ1), η2(x, θ2), ηv(x, θv)

Sau tìm tham số θ1, θ1, , θv chưa biết

Việc thiết kế mơ hình tốn học cho trường hợp thứ giải vào tầm năm 1955 - 1960 Hiện nay, xem xét giải trường hợp đặc biệt gặp phải mà

Với cấp độ thứ hai, phương pháp giải đưa năm 1970, cịn có số vấn đề cần tiếp tục giải Nó cần tới nhà khoa học chuyên ngành, để họ đưa thông số liệu mơ hình nhỏ bên mơ hình lớn Bài tốn đưa u cầu việc thiết lập hàm nhỏ bên cách tối ưu Điều gần giống việc phải làm việc với n toán cấp độ

1.2 Các yêu cầu chung đánh giá

Bây giờ, nêu yêu cầu việc toán học hóa

Kết thu phép đo không giống lần đo Chúng có sai biệt nhỏ đó, dù đo địa điểm điều kiện Ở đây, kết thu sau:

E(y/x) =η(x, θ) (1.1) đó, y kết phép đo thực tế điểm x, η(x, θ) hàm số mà dạng biết trước Các tham số

θ =



 

θ1 θ2 θm



 

là tham số chưa biết

Cịn E tương ứng với giá trị trung bình

Giả sử ta phân tích liệu chưa biết θ, giá trị cần biết η(x, θ) miền xác định XXX0 Từ kết thu - số trường hợp sử dụng phương pháp đơn giản lấy trung bình yist để tránh bị làm trở ngại

trong phép tính Nói chung ta không sử dụng giá trị thực đo cho việc tính tốn (tức không dùng ngayθist)

Ở đây, nói trên, ta dùng số tạm gọi lý tưởng θ, 1˜ số gần với giá trị đo θist Tức phụ thuộc

vào kết ta đo đươc, khơng phải lấy ngẫu nhiên hồn toàn

˜

θ = Ψ(y1/x1, , yn/xn)

với yi giá trị thực tế đo điểm xi Khi giá trị θ˜được gọi

đánh giá xi (đánh giá điểm)

Các thực nghiệm nhằm tìm thơng số (các giá trị) chưa biết ta gọi chúng hồi quy Việc tính tốn xác định gọi phân tích hồi quy

Bắt đầu từ đây, sử dụng khái niệm "Khơng lệch", "Chính xác" "Hiệu quả"

Khơng lệchKhơng lệchKhông lệch: đánh giá θ˜được gọi "không lệch" khi: E[˜θ] = θist

Chính xácChính xácChính xác: đánh giá θ˜ gọi xác giới hạn N tiến tới trùng (hoặc gần) với giá trị xác (hội tụ tới giá trị xác)

lim

N→∞P[(˜θN −θist)

T(˜θ

N −θist) ≥ε] =

trong N có nghĩa số mà sau chừng phép đo, ta thu θ Còn˜ ε số dương Giá trị P[A ≥ ε] xác xuất mà A≥ ε

Hiệu quảHiệu quảHiệu quả: đánh giá θ˜không lệch bên gọi hiệu mà bất đẳng thức sau xảy ra:

D(˜θ) ≤D

≈

θ

trong D(˜θ) ma trận hiệp biến đánh giá θ, còn˜ D(θ˜˜) ma trận hiệp biến đánh giá θ˜˜khác

Đối với hàm số η(x, θ) giá trị kết đo đạc p(y/x), ta có "giá trị tốt nhất" θ.˜

Sự phụ thuộc vào hàm số η(x, θ) vàp(y/x) không phù hợp thực tế (khơng tiện lợi) Thậm chí bất tiện tình đo đạc liệu điểm Do chấp nhận ta sử dụng số chưa xác (tạm hy sinh tính xác số liệu) để xây dựng thuật tốn tối ưu mà ta cần Sau có thuật tốn bản, ta quay lại với số liệu thực tế

Sau phần phân tích thuật tốn lập hàm số, mà dựa vào số khơng có thực tế, hay nói cách khác tạm thời chưa dùng tới giá trị η(x, θ) p(y/x)

1.3 Mơ hình tuyến tính

Giả sử η(x, θ) hàm số tuyến tính biến số Khi đó: E(y/x) = η(x, θ) =θTf(x) (1.2) đó:

f(x) =





f1(x) fm(x)





là hàm số biết

Chúng ta giả định điểm x1, x2, , xn đo độc lập với

nhau, cho giá trị kết y1, , yn với bình phương phương sai

σ12, , σn2

Như ta thấy giá trị thực nghiệm biểu diễn sau:

˜

θ = T y (1.3)

trong đó, y vertor cột chứa giá trị yi đo đạc

y =





y1 yn





Còn T ma trận m×n

Bây ta cần tìm giá trị (ước đốn) tốt θˆcó thể, tức gần với giá trị xác θist, gọi "chính xác nhất", "hợp lý nhất", với

phương sai nhỏ tập giá trị ược lượng unbiasedness mà tính Giá trị θˆđó gọi ước lượng tuyến tính tốt (vì hàm xét hàm tuyến tính)

Nhưng trước làm tính tốn, quay lại chút với định lý biết lý thuyết xác xuất

Định lý 1.3.1Định lý 1.3.1Định lý 1.3.1: Một giá trị uuu gọi giá trị kết hợp vvv nếu: u

uu =LLLvvv (1.4)

Khi đó:

(1) Giá trị trung bình E(uuu) E(vvv) thế:

D

DD(uuu) =E[uuu−E(uuu)]×[uuu−E(uuu)]T

DDD(vvv) = E[vvv −E(vvv)]×[vvv −E(vvv)]T liên hệ với hệ thức:

D

DD(uuu) =LLLDDD(vvv)LLLT (1.6) Chứng minh định lý dễ dàng, ta tự làm cách nhanh chóng

Định lý 1.3.2:Định lý 1.3.2:Định lý 1.3.2: giá trị tối ưu thực nghiệm tối ưu tuyến tính (theo cơng thức (1.2)) biến số θ tính là:

ˆ

θθθ =MMM−1YYY (1.7) ma trận MMM bằng:

M MM=

n X

i=1

ωif(xi)fT(xi) (1.8)

Cịn giá trị YYY tính cơng thức: Y

Y Y =

n X

i=1

ωiyif(xi) (1.9)

và ω nghịch đảo bình phương phương sai ωi = σi−2

Khi đó, ma trận hiệp biến θˆsẽ bằng: D

DD(ˆθ) =MMM−1 (1.10) Trong trình chứng minh ta nhận được:

E(ˆθ) =MMM−1MMMθist = θist

θist gọi bị xê dịchít bị xê dịchít bị xê dịch

Ma trận:

M MM =

n P i=1

ωif(xi)fT(xi) = n P i=1

được gọi ma trận Fisher

Với việc xây dựng cơng thức tính tối ưu hóa giá trị thực nghiệm bên trên, ma trận thu thường hay gặp lý thuyết thực nghiệm thực nghiệm thực tế Ta đánh dấu thành dạng "quan trọng" ma trận mà ta sử dụng

Hệ 1.3.3.1:Hệ 1.3.3.1:Hệ 1.3.3.1: Ma trận thông tin Fisher thỏa mãn tính chất hồn tồn xác định, tìm được:

Quả thực vậy, ta có: MMM =

n X

i=1

ωif(xi)fT(xi) =F FT

Ta dễ thấy rằng, ma trận thỏa mãn hệ thức dạng AAT ma trận tồn (xác định)

Khi đánh giá tham số θ, giá trị dạng vector, nói chung, giá trị thực nghiệm xácθcó thể đặc trưng cho tất phần giá trị ma trận hiệp biến DDD(θ) Vì tất giá trị thực nghiệm đối vớiˆ θ khơng dùng đối chiếu với phần tử đường chéo Dαα(ˆθ),

mà làm với nâng cao phương pháp khác Ở đây, đưa tới hai phương pháp khác phổ biến để đối chiếu với giá trị thực nghiệm

1.1.1 Giá trị thực nghiệm θ˜tốt so với giá trị thực nghiệm θ˜˜nếu như: D

D

D(θ) = D˜˜ DD(θ) +˜ d

ở d ma trận dương xác định đó, viết dạng bất đẳng thức:

D

DD(θ) > D˜˜ DD(θ)˜

Định nghĩa: "ma trận dương" ma trận có tất phần tử khơng âm, đồng thời có phần tử dương

2

2.2 Giá trị thực nghiệmθ˜tốt so với giá trị thực nghiệm θ˜˜nếu như: |DDD(θ˜˜)| > |DDD(˜θ)|

Từ đinh lý (1.3.2)đinh lý (1.3.2)đinh lý (1.3.2), ta trực tiếp suy rằng, giá trị thực nghiệm tuyến tính tối ưu tính với từ "tốt nhất", hai chuẩn E c cho Một cách chặt chẽ thực nghiệm chứng minh hồn tồn

Ở ta nói "hai chuẩn" E c Định nghĩa hai chuẩn ta trình bày phần 1.41.41.4

Hệ 1.3.3.2:Hệ 1.3.3.2:Hệ 1.3.3.2: Giá trị tuyến tính tối ưu ma trận hiệp biến nhỏ giá trị tuyến tính lệch chuẩn θ Hay là:˜

D

DD(ˆθ) 6 DDD(˜θ)

Nói cách khác, giá trị tuyến tính tối ưu hiệu lớp giá trị tuyến tính lệch chuẩn

Hệ 1.3.3.3:Hệ 1.3.3.3:Hệ 1.3.3.3: Định thức ma trận hiệp biến giá trị tuyến tính tối ưu (1.7) nhỏ giá trị tuyến tính lệch chuẩn

|DDD(ˆθ)| < |DDD(˜θ)| (1.11) Kết (1.11) suy trực tiếp từ công thức (??) Điều thêm hai hệ có ích từ định lý (1.3.2)định lý (1.3.2)định lý (1.3.2)

Hệ 1.3.3.4:Hệ 1.3.3.4:Hệ 1.3.3.4: với tổ hợp tuyến tính tùy ý ttt = CCCθ, ta gọiˆttt = CCCθˆ giá trị tuyến tính tối ưu Khi đó, ma trận giá trị thực nghiệm hiệp biếnˆttt tương đương với DDD(ˆttt) =CCDCDD(ˆttt)CCCT

Nếu ta gọi˜ttt giá trị tuyến tính lệch chuẩn tham sốttt, cịnˆtttlà giá trị tuyến tính tối ưu (cũng tham sốttt) thì:

111 DDDαα(ˆθ) 6DDDαα(˜θ)

222 DDD(ˆθ) 6DDD(˜θ) 333 |DDD(ˆθ)| < |DDD(˜θ)|

Trong số trường hợp, giá trị ˆttt tính được, mà ma trận thông tinˆttt =CCCθˆlà đặc biệt, khơng tầm thường khơng thể tính

Tồn số phương pháp để tính giá trị ma trận hiệp biến Trong nhiều toán thực tế, giá trị lớn thích hợp mở rộng công thức bên

Cho MMM ma trận dương xác định Khi đó:e ettt= lim

α→0CCC[MMM+αMMMe]

−1

YYY (1.12a)

D

DD(ˆttt) = lim

α→0CCC[MMM+α e

M

MM]−1CCCT (1.12b) Hồn tồn kiểm tra lại rằng, giới hạn tương ứng không phụ thuộc vào lựa chọn MMM.e

Hệ 1.3.3.5:Hệ 1.3.3.5:Hệ 1.3.3.5: giá trị tuyến tính tối ưu, giá trị đáp án cho η(x, θ) điểm khảo sát (đo đạc) tùy ý x, tính cơng thức:

ˆ

η(x, θ) = θfT(x)

Sự phân tán (phương sai) ηˆ(x, θ) tính cơng thức: d(x) =fT(x)DDD(ˆθ)f(x)

Hệ (1.3.3.5)Hệ (1.3.3.5)Hệ (1.3.3.5), theo thực chất, phần đặc biệt hệ (1.3.3.4)hệ (1.3.3.4)hệ (1.3.3.4) với CCC = fT(x)

Từ trở sau, gọi hàm số d12(x) cácCorridor errors

Thực dễ dàng để thấy, thực nghiệm thực tế điểm xi

nào dẫn tới vài kết không phụ thuộc yi1, yi2, , yiri

với phương sai (thực dùng bình phương phương sai) σi−2 Thực với giá trị đo đạc thực tế, giá trị dùng cho việc xây dựng giá trị tuyến tính tối ưu, khơng cần thiết phải giữ lại toàn giá trị thực nghiệm thu yiri (với i=1 n) Chúng ta

chỉ cần có giá trị trung bình:

yi = r1

i

ri

P r=1

yir

Hệ 1.3.3.6:Hệ 1.3.3.6:Hệ 1.3.3.6: điểm xi (với i=1, ,n) đo đạc

được giá trị yi1, yi2, , yiri cơng thức tính giá trị tối ưu dành

cho θ là:

ˆ

θ =MMM−1YYY ma trận MMM khơng đặc biệt bằng:

M MM=

n X

i=1

ωif(xi)fT(xi) (1.13)

Còn giá trị YYY tính cơng thức: Y Y Y = n P i=1

ωiyif(xi)

và công thức ωi tính theo:

ωi = riσi−2 = ri

σi−2

Quả thực, công thức (1.8) (1.9) trường hợp viết theo cơng thức:

M MM=

n P i=1 ri P r=1

σi−2f(xi)fT(xi)

và ta viết lại thành: M

MM=

n P i=1

riσi−2f(xi)fT(xi) = n P i=1

ωif(xi)fT(xi)

Tương tự, YYY có vậy: Y

YY =

n P i=1 ri P r=1

σi−2yirf(xi) =

n P i=1

riσi−2 ri

P r=1

ri−1yirf(xi) =

n P i=1

ωiyif(xi)

So sánh biểu thức với biểu thức (1.13) ta thu điều cần chứng minh

Định lý 1.3.3.4:Định lý 1.3.3.4:Định lý 1.3.3.4: Giá trị tuyến tính tối ưu θˆlà giá trị nhỏ trọng số phương sai

S

SS(θ) =

n X

i=1 ωi

yi −fT(xi)θ

1.3.1 Ví dụ mơ hình tuyến tính:

Đầu tiên, ta xem xét mơ hình tuyến tính đơn giản sau: E(y/x) =θ1 +θ2x

và tiến hành đo đạc kết đo lường điểm x1 = −1, x2 = x3 = +1 có phương sai σ12 = 8, σ22 = 86 σ

2 = Chúng ta xem xét đánh giá hai tham số θ1 θ2 Khi đó, theo định lý bổ đề bên ta có:

f(x) =

1 x

và ωi =

1

σi2 (với i = 1,2,3) Và ta tính ma trận hiệp biến sau:

D(ˆθ) =

" 3 X

i=1

ωifi(xi)fiT(xi) #−1

=

" 3 X

i=1

1 σ2i

1 xi

(1 xi) #−1

=

"

1

1 −1

−1

+ 0 + 1 1

#−1

=

1 0 14

−1 = 0

Như vậy, ta chọn mơ hình tối ưu θ.ˆ

Chúng ta đánh giá hai giá trị θ1 θ2 để nhận θ˜tại điểm cực tiểu dạng toàn phương theo công thức sau:

S(θ) =

3 X

i=1

yi −(θ1 +θ2x)

Chúng ta tính ước lượng θ˜củaθ1 θ2 dựa theo công thức sau:

˜

với giá trị TTT lấy: T = 1 3 −12 13

Dễ thấy rằng, giá trị θ˜ bên giá trị khơng lệch Thực vậy, ta có:

F = (f(x1) f(x2) f(x3))

=

1 1 −1

và đó, ta có:

TFT =

1 3 −1 ·

1 −1 1

!

=

1 0 0

!

= I3

thỏa mãn điều kiện tính khơng lệch

Khi đó, ta tính ma trận hiệp biến DDD sau:

D(˜θ) =TD(yyy)TT = = 1 3 −1 2 ·

8 0 86 0

! ·   − 3   = 52 27 0

Dễ dàng để thấy được, D(˜θ) > D(ˆθ)

Thay giá trị θˆvà θ˜vào phương trình ban đầu ta ta nhận hai phương trình sau:

d1(x) = + 4x2 ứng với θˆ d2(x) =

52 27 + 4x

2

ứng với θ˜ Với x bất kỳ, ta có:

1.4 Tiêu chuẩn tối ưu

Chúng tơi gọi mơ hình ξ không detM(ξ) = Một mơ tồn giả định (e) Bây giờ, xem xét trường hợp mà ước lượng tồn thông số Θ1, ,

Θm Ở đây, mô hình dạng khơng đặc biệt được xem xét

Các phiên định lý Gauss-Markov có giá trị chúng Thơng thường, khơng có mơ hình ξˆnhư vậy, ma trận:

M−1( ˆξ)−M−1(ξ) (1.15) không xác định cách rõ ràng, ξ mơ hình tùy ý Vì vậy, số hàm số ma trận thơng tin, hàm số có ý nghĩa thống kê tốt, sử dụng làm tiêu chuẩn tối ưu

Bây giờ, xem xét số tiêu chuẩn hay sử dụng

1.4.1 Chuẩn D:

Chuẩn D cho công thức sau: detM(ξ) → sup

ξ∈Ξ

(1.16) (ở đây, cực trị lấy từ tất mơ hình gần đúng)

Nếu sai số phân bố cách bình thường tiêu chí ứng với việc yêu cầu giảm thiểu thể tích "confidence ellipsoid" với confidence level xác định tùy ý ước lượng

Định nghĩa: Confidence ellipsoid có dạng:

{θ˜; (˜θ−θˆ)TM−1(˜θ−θˆ) 6 c} (1.17) c số (chỉ phụ thuộc vào confidence level)

1.4.2 Chuẩn G:

Cho d(x, ξ) = fT(x)M−1(ξ)f(x) Khi tối ưu chuẩn G định nghĩa cơng thức:

max

x∈XXX d(x, ξ) →infξ

d(x, ξ) = σN2V(ˆθTf(x))

với d(x, ξ) (tới độ xác khơng đổi đó) phương sai giá trị, dự đoán mơ hình điểm x Mơ hình tối ưu chuẩn G có nghĩa giá trị nhỏ số lớn (minimax), giảm thiểu mức tối đa dự đoán sai

1.4.3 Chuẩn MV:

Được định nghĩa công thức:

trM−1(ξ) → inf

ξ

(1.19) Chuẩn MV dùng để giảm thiểu tổng phương sai mức tối thiểu ước lượng Θˆ

1.4.4 Chuẩn c:

Chúng ta định nghĩa giá trị sau: Φc(ξ) =

1cTM−(ξ)c if c ∈ M(ξ)

∞ overwise (1.20)

trong c vector cho trước (đã biết), M− nghịch đảo tổng quát ma trận M, ký hiệu c ∈ M có nghĩa c kết hợp tuyến tính hàng ma trận M

Định nghĩa: ma trận nghịch đảo dạng tổng quát (hay suy rộng) ma trận A định nghĩa ma trận thỏa mãn công thức:

A= AA−AA

và hệ phương trình Ax = y có nghiệm xˆ nghiệm có dạng xˆ = A−y

Một mơ hình mà giảm thiểu giá trị Φc(ξ) gọi mơ

hình chuẩn c

1.4.5 Chuẩn E:

Chuẩn E xem xét với công thức: λmin(M(ξ)) →sup

ξ

trong λmin(M) giá trị riêng nhỏ ma trận M = M(ξ)

Tối ưu theo chuẩn E làm giảm thiểu giá trị tối đa (maximum) trục ellipsoid (1.17) Tiêu chí giới thiệu sách Ehrenf eld (năm 1955)

Chú ý vì:

λmin(M) = cTc=1c

TM c

2

CHƯƠNG II:

CHƯƠNG II:CHƯƠNG II: LỚP MÔ HÌNH HỒI QUY PHI TUYẾN

2.1 Thuật tốn tối ưu cho lớp hàm hồi quy phi tuyến

các yếu tố định ma trận thơng tin Fisher cho tham số mơ hình Tuy nhiên có nhiều ý tới mơ hình hồi quy tuyến tính tối ưu chuẩn E lớp mơ hình hồi quy tuyến tính, họ cố gắng nhiều để làm tối thiểu giá trị riêng ma trận thông tin Fisher (xem Dette and Haines (1994) Dette and Wong (1999) với việc xử lý số trường hợp với mơ hình tham số) Bởi mơ hình tối ưu địa phương sở cho tất mơ hình khao học tiên tiến, viết này, nghiên cứu để thiết kế nên mơ hình tối ưu địa phương chuẩn E cho lớp mô hình hồi quy phi tuyến, viết cơng thức sau:

Y =

s X

i=1

aihi(t) + k X

i=1

as+iψ(t, bi) +ε (2.1)

Ở đây, ψ hàm số biết, biến t biến số biến thiên khoảng I ⊂R ε sai số ngẫu nhiên với giá trị trung bình phương sai khơng đổi, cịn giá trị a1, , as+k, b1, , bk ∈ R tham

số chưa biết mơ hình

Việc xem xét loại mơ hình gần thúc đẩy cơng trình nghiên cứu Imhof and Studden (2001), họ quan tâm tới mơ hình hữu tỷ cơng thức:

Y =

s X

i=1

aiti−1 + k X

i=1 as+i

t−bi

+ε (2.2)

trong t ∈ I, bi 6= bj(i 6= j) biến bi ∈/ I cho biết với

i = 1, , k Lưu ý mơ hình mơ hình tuyến tính tác giả (của nghiên cứu trên) giả định giá trị b biết Những mơ hình kiểu phổ biến, nhiều người biết tới chúng có tính xấp xỉ tốt (xem Petrushev and Popov (1987), phần "một số tính chất lý thuyết" vàDudzinski and Mykytowycz (1961), Ratkowsky (1983), trang 120 có cho số ứng dụng mơ hình này) Trong luận văn này, làm ngược lại so với Imhof Studden (năm 2001), ta coi không coi tham số b1, , bk mơ hình (2.1) tham

số biết, mà ta coi chúng tham số chưa biết, mà chúng ước lượng từ liệu có trước Hơn nữa, mơ hình (2.1) mà xem xét bao gồm nhiều hàm hồi quy khác

toxicokinetic Chúng ta xem thí nghiệm tài liệu Becka and Urfer (1996) Becka, Bolt and Urfer (1993) Ở đây, có tương ứng hàm số ϕ(t, x) với hàm số etx cơng thức (2.1) Ngồi lớp phổ biến cơng thức hàm logarith hay sử dụng hàm ϕ(t, x) = log(t−x)

Trong cơng trình Imhof and Studden (2001) nghiên cứu mơ hình tối ưu chuẩn E công thức (2.2) s = Ở đây, tác giả coi tham số phi tuyến b1, , bk tham số biết trước từ

các thí nghiệm cách xác, khơng phải tham số ước lượng cách khơng chuẩn xác hồn tồn Đặc biệt, tác giả chứng minh rằng, mơ hình tối ưu chuẩn E, ước lượng tập tham số a1, , al+1 cho điểm Chebyshev tương ứng với hàm số 1,t−1b

1, ,

1

t−bk mơ hình phân thức (2.2) Những giá

trị ước lượng điểm Chebyshev điểm extremal hàm +

k P i=1

a∗i

x−bi = p

∗(x) trong khoảng I, có sai số nhỏ nhất, gần tới 0:

sup

x∈I

|p∗(x)| =

a2, ,ak+1

sup

x∈I + k P i=1

x−bi

(2.3) Tính phổ qt tốn chỗ giải pháp thực tế rằng, tập hàm hồi quy mơ hình (2.2), thu cách bỏ tính chất, hệ Chebyshev yếu khoảng I Bạn xem tài liệu Karlin and Studden (1966) xem phần sau luận văn

Tuy nhiên, trường hợp khác, mà tham số b1, , bk

tham số chưa biết, mà ta ước lượng từ liệu thực tế biết, đó, vấn đề việc xây dựng mơ hình tối ưu địa phương cho mơ hình (2.2) tương đương với việc xây dụng mơ hình tối ưu mơ hình hồi quy tuyến tính sau:

Y =

s X

i=1

βiti−1 +

2k X

i=1 β

s+2i−1 t−bi

+ βs+2i (t−bi)2

(2.4)

mà hàm hồi quy tương ứng khơng thể đáp ứng tất tính chất hệ Chebyshev yếu đề cập tới Tuy nhiên, chứng minh nội dung tài liệu trường hợp với k ≥ 2, mà đó, giá trị lớn maxi6=j|bi 6= bj| đủ nhỏ, mơ hình tối ưu

ước lượng tuyến tính kết hợp tham số hỗ trợ cấc điểm Chebyshev Việc giúp đơn giản hóa đáng kể việc xây dựng mơ hình tối ưu địa phương chuẩn E Hơn nữa, thấy từ tài liệu rằng, kết thu khơng phụ thuộc vào mơ hình (2.2) (2.4) thiết lập mơ hình tổng qt (2.1) (hoặc mơ hình tuyến tính tương đương với nó) Ngồi ra, kết thể số (các liệu số) rằng, nhiều trường hợp, mô hình chuẩn E tối ưu, hỗ trợ điểm Chebyshev, cho tất giá trị chấp nhận tham số b1, , bk (với bi 6= bj, i 6= j) Cách tiếp cận vấn đề

tài liệu dựa nghiên cứu giới hạn ma trân thông tin mơ hình (2.1) trường hợp tất tham số phi tuyến mơ hình hội tụ tới giới hạn Chúng ta thấy trường hợp này, mô hình tối ưu địa phương chuẩn E nhiều mơ hình tối ưu địa phương ước lượng tuyến tính mơ hình (2.1) có dạng mơ hình giới hạn Điều rằng, mơ hình tối ưu chuẩn E cơng thức (2.1) cho ước tính xác giá trị hệ số, thấy minh họa qua vài ví dụ cụ thể phần sau tài liệu

Chúng ta nên ý rằng, kết liên quan tới mơ hình tối ưu chuẩn E c mơ hình hồi quy (2.1), dựa xấp xỉ Chebyshev, thu giả định đơn giản hóa bi = x+δri (với

i = 1, , k ri 6= rj), δ đủ nhỏ Rõ ràng, vector b = (b1, , bk)

có thể tiêu biểu cho cơng thức này, với giá trị δ đủ nhỏ kết thu phụ thuộc vào hàm ban đầu ϕ với thân vector b Trong tài liệu này, đưa xây dựng thuật tốn đơn giản để tìm mơ hình tối ưu chuẩn E c cho công thức (2.1) Chúng ta xây dựng thuật tốn dựa giả thiết đơn giản hóa bi = x+ δri (với i = 1, , k ri 6= rj) để có

hướng tốt cho mơ hình tối ưu Đồng thời, kiểm tra tính tối ưu mơ hình tìm cách sử dụng định lý tương đương tính chất thay tương đương khác

2.2 Lớp mơ hình hồi quy phi tuyến dạng phân thức

2.2.1 Đánh giá kết đo đạc

Xem xét mơ hình hồi quy khơng tuyến tính (2.1) định nghĩa: f(t, b) = (f1(t, b), , fm(t, b))

T

= (h1(t), , hs(t), ψ(t, b1), ψ0(t, b1), , ψ(t, bk), ψ0(t, bk))

T (2.5)

như vector m = s+ 2k hàm hồi quy, với dẫn xuất từ hàm ϕ lấy từ liên hệ với biến thứ Khá dễ dàng để đưa ma trận thông tin Fisher cho tham số β = (β1, , βm)T mơ hình hồi

quy tuyến tính

Y = βTf(t, b) +ε = X

i=1 s

βihi(t) + X

i=1 k

(βs+2i−1ψ(t, bi) +βs+2iψ0(t, bi)) +ε (2.6)

được cho công thức f(t, b)fT(t, b) Theo Kiefer (1974), đo đạc ξ với lượng giới hạn hỗ trợ khoảng I giống với mơ hình Những điểm support cho vị trí mà lấy số liệu đo đạc (hay đặt trạm đo đạc), số liệu không cân xứng cân đối lại cho phù hợp tất điểm đo đạc vị trí đặc biệt Đối với mơ hình ξ ma trận thơng tin mơ hình (2.6) định nghĩa công thức:

M(ξ, b) =

Z

I

f(t, b)fT(t, b)dξ(t) (2.7)

Một mơ hình tối ưu chuẩn E dạng ξE∗ max giá trị nhỏ hàm số ma trận thông tin (xem Silvey (1970) Pukelsheim (1993)) Sự phụ thuộc vào tham số b thiếu sót ta muốn bỏ tham số khỏi mơ hình Giữa chuẩn tối ưu đưa ra, cân nhắc xem xét chuẩn E chuẩn c Một mơ hình tối ưu chuẩn E dạng ξE∗ lớn giá trị nhỏ giá trị riêng λmin(M(ξ, b)) tập tất mơ hình xấp xỉ Trong đó, đối

với vector cho trước c ∈ Rm, mơ hình tối ưu chuẩn c sẽ tối thiểu

hóa biểu thức cTM−(ξ, b)c, giá trị nhỏ lấy từ tất cơng thức tổ hợp tuyến tính cTβ coi tốt (có ích), c ∈ range(M(ξ, b)),∀b Một trường hợp đặc biệt xuất ta lấy c = ei với ei ∈ Rm (i = 1, , m) vector đơn vị thứ i Trong trường

riêng lẻ hệ số βi

Chú ý ma trận thông tin cho cơng thức hồi quy khơng tuyến tính (2.1) cho công thức Ka−1M(ξ, b)Ka−1, Ka ∈ Rm×m ma trận sau:

Ka = diag 

  

1, ,1

| {z } s

,1, a1

,1, ak

| {z }

2k



  

(2.8)

Cũng vậy, cơng thức mơ hình chuẩn E cơng thức hồi quy khơng tuyến tính (2.1) có giá trị max λmin Ka−1M(ξ, b)Ka−1

, với M(ξ, b) ma trận thông tin công thức tương đương cơng thức hồi quy tuyến tính

Một hàm số f1, , fm : I → R gọi hệ Chebyshev yếu

trong khoảng I tồn số ε∈ {−1; 1} thỏa mãn:

ε·





f1(x1) · · · f1(xm)

fm(x1) · · · fm(xm) 

 ≤0 (2.9)

với giá trị x1 < x2 < < xm ∈ I

Nếu bất đẳng thức f1, f2, , fm gọi hệ

Chebyshev

Dễ thấy bộf1, f2, , fm hệ Chebyshev yếu tồn

hàm đặc biệt:

m X

i=1

c∗ifi(t) =c∗Tf(t) (2.10)

với tính chất sau:

(i) |c∗Tf(t)| ≥1,∀i ∈ I

(ii) Tồn m điểm s1 < < sm thỏa mãn c∗Tf(si) = (−1)i, i = 1, , m

(2.11) Hàm số c∗Tf(t) gọi hàm đa thức Chebyshev m điểm s1, , sm

được gọi điểm Chebyshev (ko cần phải đặc biệt) Chúng đặc biệt mà ∈ span{f1, , fm}, m ≥ 1, cịn I bao đóng (với biên

khoảng đóng liền kề), mà s1 =

x∈I(x), sm = maxx∈I (x)

chuẩn E mơ hình chuẩn c mơ hình hồi quy tuyến tính sau

Y = βTf(t) +ε (2.12) hỗ trợ với điểm Chebyshev

Theo thảo luận hàm số f1, , fm phát sinh hệ

Chebyshev khoảng I với hàm đa thức Chebyshev c∗Tf(t) điểm Chebyshev s1, , sm, ta định nghĩa ma trận m×m sau:

F = (fi(sj)) m i,j=1

và vector trọng số cho công thức: w = (w1, , wm)T =

J F−1c∗

kc∗k2 (2.13)

trong ma trận J định nghĩa bởi:

J = diag{(−1)1,(−1)2, ,(−1)m} Khi dễ dàng thấy rằng:

c∗

kc∗k2 = F J w =

m X

j=1

f(sj)(−1)jwj ∈ ∂R (2.14)

với R = conv(f(I)S

f(−I)) biểu thị Elfving

Vì vậy, tất trọng số công thức (2.13) số khơng âm, theo định lý Elfving, ta có:

ξc∗∗ =

s1 · · · sm

wi · · · wm

(2.15) với chuẩn c∗ lấy mơ hình hồi quy (2.12), c∗ ∈ Rm là vector

hệ số hàm đa thức Chebyshev định nghĩa phần trước Khi đó, kết đưa mơ hình thành dạng mơ hình chuẩn E

Bổ đề 2.1.1:Bổ đề 2.1.1:Bổ đề 2.1.1: theo hàm số f1, , fm ta phát sinh hệ

trong trường hợp này, mơ hình chuẩn E đặc biệt (độc nhất)

Bổ đề 2.1.2:Bổ đề 2.1.2:Bổ đề 2.1.2: Từ hàm số f1, , fm ta phát sinh hệ

Cheby-shev khoảng I với hàm đa thức Chebyshev c∗Tf(t) lấy ξc∗∗ biểu thị mơ hình c∗-optimal mơ hình hồi quy (2.6) định nghĩa (2.15) Khi c∗ vector riêng ma trận thơng tin M(ξc∗∗, b), giá trị tương ứng giá trị riêng λ = kc1∗k2 giá trị nhỏ giá trị

riêng, ξc∗∗ mơ hình hồi quy có dạng (2.12) Bây thảo luận vấn đề mơ hình chuẩn c mơ hình hồi quy (2.12) vector c ∈ R (không thiết phải hệ số c∗ hệ số đa thức Chebyshev) Giả sử hàm f1, , fm tạo hệ Chebyshev khoảng I Là ý tưởng

cho mơ hình tối ưu chuẩn c, xem xét đánh giá sau: ξc = ξc(b) =

s1 · · · sm

wi · · · wm

(2.16) điểm trụ điểm Chebyshev, quan trọng chọn biểu thức:

cTM−1(ξc, b)c

sẽ trở thành nhỏ nhất, bằng: ωi =

|eT

i J F−1c| m

P j=1

|eT

jJ F−1c|

, i = 1, , m (2.17)

trong ej = (0, ,0,1,0, ,0)T ∈ Rm vector đơn vị thứ j

Kết sau đặc điểm mơ hình tối ưu cho việc ước lượng hệ số riêng

Bổ đề 2.1.3:Bổ đề 2.1.3:Bổ đề 2.1.3: giả sử hàm f1, , fm tạo Chebyshev

trên khoảng I Mơ hình ξei xác định công thức (2.16) (2.17)

vectorc = ej chuẩn ej mô hình hồi quy tuyến tính (2.12)

như hệ:

{fi|i = {1, , m}, i 6= j}

là hệ Chebyshev yếu khoảng I

Để thấy rõ điều này, ta cho giá trị k = 3, hàm số ϕ hàm liên tục, vầ khả vi biến thứ 2, đó, hàm số f1(·, b), , fm(·, b) định nghĩa công thức (2.5) sinh hệ

Chebyshev với tham số b

Định nghĩa ma trận (m−1)×(m−1) sau:

Fj(x) := (h1(ti), , hs(ti), ϕ(ti, b1), ϕ0(ti, b1), , ϕ(ti, bj−1), ϕ0(ti, bj−1), ϕ(ti, x), ϕ(ti, bj+1)ϕ0(ti, bj+1), , ϕ(ti, bk), ϕ0(ti, bk))

với c < t1 < < tm−1 < d, bi 6= bj i 6= j x 6= bi

Chúng ta chọn t1, , tm cho g(x) = detFj(x) 6= (ở đây,

bộ hàm số f1(·, b), , fm(·, b) có dạng hệ Chebyshev, vậy,

nó ln ln có thể) quan sát g(bi) = 0, i= 1, , k, i 6= j Bởi với

k ≥3 g hàm liên tục, khả vi, tồn hai điểm, ta gọi x∗ x∗∗, thỏa mãn g0(x∗) < g0(x∗∗) > Do tồn giá trị x¯ để cho:

0 = g0(¯x) =det(fv(ti, bx¯))

trong v = 1, , m; v 6= s+ 2j −1; i = 1, , m−1 Tại đây, vector bx¯ định nghĩa hệ thức:

bx¯ = (b1, , bj−1, bx¯, bj+1, , bm)

Chú ý tính chất Chebyshev hàm sốf1, , fs+2j−2, fs+2j, , fm

ngụ ý tất định thức công thức (2.9) dấu Bởi điều kiện g0(x∗) < g0(x∗∗) cho phép tồn giá trị ˜

x ∈ (x∗,x¯) x˜ ∈ (¯x, x∗∗) thỏa mãn hệ hàm hồi quy: {f1(t, bx¯), , fs+2j−2(t, bx¯), fs+2j(t, bx¯), , fm}

= {(h1(ti), , hs(ti), ϕ(ti, b1), ϕ0(ti, b1), , ϕ(ti, bj−1), ϕ0(ti, bj−1) ϕ(ti, x), ϕ(ti, bj+1)ϕ0(ti, bj+1), , ϕ(ti, bk), ϕ0(ti, bk)}

không phải hệ Chebyshev yếu khoảng I Cuối trường hợp k = 2, lim

|b|→∞ϕ(t, b) → 0,

đó argument giống nhau, argument mà tồn cho hệ thức:

2.2.2 Phân tích tiệm cận theo mơ hình tối ưu chuẩn E chuẩnc

Ta nhắc lại định nghĩa ma trận thông tin cơng thức (2.7) cho mơ hình (2.6) với mơ hình cho đoạn I = [c1, d1] chứa tham số tham số phi tuyến thay đổi (khơng tuyến tính thay đổi) khoảng compact: bi ∈ [c2, d2], i = 1, , k

Ta quan tâm tới tính chất tiệm cận mơ hình tối ưu theo chuẩn E chuẩn c như:

bi = x+δri, i = 1, , k (2.18)

đối với vài giá trị không đổi x ∈ [c2, d2] vài giá trị không đổi r1 < r2 < < rk giá trị δ xác định thỏa mãn δ → Chú ý

điều kiện (2.18) ý nói tồn tham sốbi hội tụ vềxvới tốc độδ

Với xem xét tiệm cân tới, ta rằng, với giá trị cố định ε,∆ > thì:

Ωε,∆ ={b ∈ Rk|bi−bj = δ(ri −rj);

i, j = 1, , k;δ ≤ε;bi ∈ [c2, d2],min

i6=j |ri−rj| ≥ ∆}

(2.19)

trong hàm số: ¯

fi(t, x) = ¯fi(t) =hi(t) i = 1, , s

¯

fs+i(t, x) = ¯fs+i(t) = ϕ(i−1)(t, x) i = 1, ,2k

(2.20) tương ứng với vector hồi quy:

¯

f(t, x) = f¯1(t, x), ,f¯s+2k(t, x)

(2.21) đạo hàm hàm số ϕ(t, x) lấy với mối quan hệ với argument thứ

Hơn phần phụ thuộc hàm số f¯i vào tham số x bị bỏ sót bất

cứ khơng xuất hàm số Chú ý với hàm số ϕ đủ "mượt" khai triển Taylor cho ta thấy tính chất (2.18): (ϕ(t, b1), ϕ0(t, b1), , ϕ(t, bk))

T

= Q ϕ(t, x), ϕ0(t, x), , ϕ2k−1(t, x)T +o(1) = Qf¯(t, x) +o(1)

với định nghĩa thích hợp ma trận Q ∈ R2k×2k

ϕ ∈ C0,2k−1([c1, d1]×[c2, d2])

và với điểm cố định x ∈ [c2, d2], hàm số f¯1, ,f¯s+2k định nghĩa

bởi (2.20) có dạng hệ Chebyshev khoảng [c1, d1] Với ∆> với mơ hình khoảng[c1, d1]với tối thiểu m = s+ 2k điểm trụ (, tồn số ε > thỏa mãn với tất b ∈ Ωε,∆, giá trị lớn giá trị riêng ma trận nghịch đảo M−1(ξ, b) (định nghĩa (2.3))

Định lý 2.2.2:Định lý 2.2.2:Định lý 2.2.2: giả sử hàm số ϕ : [c1, d1] ×[c2, d2] → R mơ

hình (2.1) thỏa mãn:

ϕ ∈ C0,2k−1([c1, d1]×[c2, d2])

và hệ thống hàm số {f1(t, b), , fm(t, b)} {f¯1(t, x), ,f¯m(t, x)}

định nghĩa (2.5) (2.20) (riêng cái), hệ Chebyshev khoảng[c1, d1](cho tùy ý cố định giá trịb1, , bk, x ∈ [c1, d1], bi 6=

bj i 6= j) Nếu ε giá trị đủ nhỏ, với b ∈ Ωε,∆, mơ hình ξc∗∗ định nghĩa (2.13) (2.15) mơ hình tối ưu chuẩn E mơ hình hồi quy

Dễ thấy định lý 2.2.2định lý 2.2.2định lý 2.2.2 kết bổ đề 2.1.2bổ đề 2.1.2bổ đề 2.1.2 bổ đề 2.2.1bổ đề 2.2.1bổ đề 2.2.1, rằng, vô số giá trị riêng lớn ma trận nghịch đảo ma trận thơng tin, có vô hạn giá trị 1, b ∈ Ωε∗,∆ ε đủ nhỏ Chú ý với b ∈ Ωε,∆, mơ hình tối ưu chuẩn E đạt xác (rõ ràng) bổ đề 2.1.1bổ đề 2.1.1bổ đề 2.1.1 2.1.22.1.22.1.2 Những điểm trụ điểm extremal đa thức Chebyshev tương ứng với hàm số cơng thức (2.5), cịn trọng số cho công thức (2.13)

Từ lưu ý 2.1.4lưu ý 2.1.4lưu ý 2.1.4, ta hy vọng trường hợp chung nhất, mơ hình tối ưu chuẩn c mơ hình hồi quy (2.1) không thiết cần để hỗ trợ điểm Chebyshev Tuy nhiên, thứ tương tự bổ đề 2.2.1

bổ đề 2.2.1bổ đề 2.2.1 coi cho trước vector c ∈ Rm

Bổ đề 2.2.3:Bổ đề 2.2.3:Bổ đề 2.2.3: cho ei = (0, ,0,1,0, ,0))T vector đơn vị thứ i

không gian Rm Dựa theo bổ đề 2.2.1bổ đề 2.2.1bổ đề 2.2.1, ta định nghĩa vector γ˜ = (0, ,0, γ −1, , γ2k) ∈ Rm, cho:

γ2i = Y

j6=i

(ri −rj)−2, γ2i−1 = −γ2i X

j6=i

2 ri−rj

(i) Nếu c ∈ Rm thỏa mãn cTγ˜ 6= 0, với ∆ > 0, ε đủ nhỏ, bất kỳb ∈ Ωε,∆, mô hình ξc(b) định nghĩa (2.16) (2.17)

là tối ưu chuẩn c mơ hình hồi quy (2.6)

(ii) Với việccTγ˜ 6= 0, trường hợp đặc biệt, thỏa mãn điều kiện: vector c = es+2j−1 với j = 1, , k vector c = es+2j với j = 1, , k,

thỏa mãn thêm điều kiện:

X

l6=j

1 rj −rl

6

= (2.23)

Chú ý 2.2.4:Chú ý 2.2.4:Chú ý 2.2.4: dẫn chứng, vài giải nghĩa tập Ωε,∆ hữu dụng

Chú ý giá trị ∆ ≤

i6=j |ri − rj| sinh vài hạn chế nhỏ cho ri

trong công thức (2.18) ε xem điểm ngưỡng giới hạn, ta thỏa mãn δ < ε (2.18) Khi định lý 1.3.2định lý 1.3.2định lý 1.3.2 bổ đề 1.3.3.1, 1.3.3.3bổ đề 1.3.3.1, 1.3.3.3bổ đề 1.3.3.1, 1.3.3.3 gắn vào với vector tương ứng b ∈ Ωε,∆ Điểm cắt xác định cách rõ ràng phụ thuộc cách phức tạp vào Delta, vào khoảng [c1, d1], [c2, d2], vào hàm số chọn ϕ(t, x) mơ hình hồi quy (2.1) ban đầu Nói cách đại khái rằng, kết bổ đề 1.3.3.1, 1.3.3.3bổ đề 1.3.3.1, 1.3.3.3bổ đề 1.3.3.1, 1.3.3.3 định lý 1.3.2định lý 1.3.2định lý 1.3.2 giữ vector b khoảng lân cận đủ nhỏ vector (x, , x) ∈ R2k Trong ví dụ phần sau viết này, bộ Ω

ε,∆ trùng khớp với tập giá trị chấp nhận cho tham số b

Cũng lưu ý rằng, giả định tính compactness khoảng [c1, d1] [c2, d2] cần thiết cho tồn tập Ωε,∆ Nói cách khác, điều kiện (2.18) thỏa mãn giá trị δ đủ nhỏ giá trị lớn giá trị riêng ma trận M−1(ξ, b) vô lớn, mà không phụ thuộc vào lựa chọn hàm số ϕ Chú ý áp dụng tương tự định lý 1.3.2định lý 1.3.2định lý 1.3.2 bổ đề 1.3.3.3bổ đề 1.3.3.3bổ đề 1.3.3.3

Kết cuối phần này, giả định công thức (2.18) đúng, với ϕ đủ nhỏ mơ hình địa phương chuẩn E chuẩn c vector c bổ đề 1.3.3.3bổ đề 1.3.3.3bổ đề 1.3.3.3 ý 1.3.4chú ý 1.3.4chú ý 1.3.4, chuẩn xác Để có tính xác tuyệt đối, giả định giả thiết định lý 1.3.2

định lý 1.3.2định lý 1.3.2 xem xét mô hình sau: ¯

ξc = ¯ξc(x) =

¯

s1 s¯m

¯

ω1 ω¯m

1, , m} định nghĩa công thức (2.20) ¯

ωi =

|eT

i F¯−1c| m

P j=1

|eT

jF¯−1c|

i = 1, , m (2.25)

với F¯ = (fi(¯si)) m

i,j=1 c ∈ R

m là vector cố định.

Định lý 2.2.5:Định lý 2.2.5:Định lý 2.2.5: Giả sử điều kiện định lý 2.2.2định lý 2.2.2định lý 2.2.2 thỏa mãn, ta có hệ {f¯1, ,f¯m} hệ Chebyshev đặc biệt Khi đó:

(i) Nếu δ → mơ hình ξc∗∗(b) định nghĩa cơng thức (2.13) (2.15) hội tụ yếu mơ hình ξ¯em định nghĩa công thức

(2.24) (2.25) với c = em

(ii) Nếu c ∈ Rm thỏa mãn cTγ˜ 6= 0 đối với vector ˜γ (các thành phần

của vector thỏa mãn hệ thức (2.22)) δ → 0, đó, ta có mơ hình ξc∗(b) định nghĩa công thức (2.16) (2.17) hội tụ yếu mơ hình ξ¯em

(iii) Nếu điều kiện cTγ˜ 6= 0, trường hợp đặc biệt, thỏa mãn vector c = es+2j−1 (với j = 1, , k) vector c = es+2j

(với j = 1, , k), thỏa mãn điều kiện (2.23)

Chú ý 2.2.6:Chú ý 2.2.6:Chú ý 2.2.6: ý định lý 2.2.2định lý 2.2.2định lý 2.2.2, bổ đề 2.2.3bổ đề 2.2.3bổ đề 2.2.3 2.2.52.2.52.2.5 khẳng định mơ hình tối ưu cục (địa phương) dạng mơ hình hồi quy phi tuyến (2.1) Điều dựa theo cẩn thận đánh giá luận chứng (luận cứ) kết trước

Lấy ví dụ, tồn Ωε,∆ thỏa mãn, với b ∈ Ωε,∆ giá trị riêng lớn ma trận nghịch đảo ma trận thơng tin mơ hình (2.1) (đơn nhất) Cũng thế, ta có, δ → hệ thức (2.18) thỏa mãn mơ hình tối ưu chuẩn ctrong dạng mơ hình hồi quy phi tuyến cho mơ hình ξc¯(b) (2.16) (2.17) với

¯

c = Kac với γ˜Tc¯6= 0, tất mơ hình tụ yếu tới mơ hình

tối ưu chuẩn em mơ hình hồi quy tuyến tính định nghĩa hàm số

(2.21)

Cuối cùng, cần ý định lý 2.2.5định lý 2.2.5định lý 2.2.5 lưu ý 2.2.6lưu ý 2.2.6lưu ý 2.2.6 cho mơ hình tối ưu chuần E có hiệu cao (rất có hiệu quả) việc đánh giá, ước lượng tham số as+1, b1, , as+k, bk

một giá trị nhỏ hiệu |bi −bj| mơ hình tối ưu chuẩn E mơ hình

tối ưu dùng để đánh giá, ước lượng hệ số riêng bi (với i = 1, , k)

chặt chẽ mơ hình tối ưu cho ước lượng tham số bk Chúng ta

2.2.3 Mơ hình hồi quy phi tuyến dạng phân thức hữu tỷ

Trong phần này, thảo luận mơ hình hữu tỷ (dạng (2.2)) cách kỹ cẩn thận hơn, với khơng gian mơ hình tập compact khoảng bán vô hạn I

Trong tương phản với báo Imhof Studden (năm 2001), ta thừa nhận tham số phi tuyến b1, , bk ∈/ I trước

đối với người tiến hành thực nghiệm, ước lượng dựa theo liệu biết Một áp dụng tiêu biểu mơ hình tìm thấy báo Dudzinski Mykytowcz (năm 1961) Khi mơ hình sử dụng để miêu tả quan hệ khối lượng mắt thỏ châu Âu với tuổi chúng

Với ký hiệu từ phần bên trên, ta có:

f(t) = f(t, b) = (f1(t), , fm(t)) T

trong đó:

fi(t) =ti−1, i = 1, , s

fs+2i−1(t) =fs+2i−1(t, b) =

1 t−bi

fs+2i(t) =fs+2i(t, b) =

1 (t−bi)2

, i = 1, , k

(2.26)

và mơ hình hồi quy tuyến tính tương đương cho cơng thức (2.4) Sự tương ứng mơ hình giới hạn xác định rõ hàm số hồi quy

¯

f(t) = ¯f(t, b) = f¯1(t), ,f¯m(t)

, đó: ¯

fi(t) =ti−1

¯

fi+s(t, x) =

1

(t−x)i i = 1, , s

(2.27)

Một vài tính chất hàm số định nghĩa cơng thức (2.26) (2.27) thảo luận bổ đề sau

Bổ đề 2.3.1:Bổ đề 2.3.1:Bổ đề 2.3.1: ta định nghĩa B = {b = (b1, , bk)T ∈ Rm|bi ∈/ I;bi 6= bj}

Khi mệnh đề sau khẳng định đúng:

(i) Nếu I khoảng hữu hạn I ⊂ [0,∞) b ∈ B, hệ {f1(t, b), , fm(t, b)} định nghĩa công thức (2.26) hệ

được định nghĩa công thức (2.27) hệ Chebyshev khoảng I

(ii) Cho b ∈ B điều kiện sau thỏa mãn: (a) I ⊂ [0,∞)

(b) s = s =

Với sốj ∈ {1, , k}, hệ hàm hồi quy{fi(t, b)|i = 1, , m;i 6=

s+ 2j} hệ Chebyshev khoảng I

(iii) Nếu I khoảng hữu hạn I ⊂ [0,∞), k ≥ 2, với j ∈ {1, , k}, tồn tập khơng rỗng Wi ∈ B thỏa mãn:

với b ∈ Wj, hệ hàm số {fi(t, b)|i = 1, , m;i 6= s+ 2j−1} không

phải hệ Chebyshev khoảng I

Trong trường hợp k = chũng ta giải rõ ràng ví dụ phía sau Chú ý phần thứ bổ đề ta thấy rằngk ≥ 2, điều kiện định lý báo Imhof Studden (năm 2001) không thỏa mãn tổng quát mơ hình hồi quy tuyến tính với hàm số cho công thức (2.26) Các tác giả thừa nhận tập {f1, , fm}gồm có m−1 hàm số

là hệ Chebyshev yếu khoảng I Bởi vấn đề mơ hình tương đương với vấn đề mơ hình (2.2) (khi mà tham số phi tuyến khơng biết trước có đánh giá ước lượng), dẫn theo điều rằng, trường hợp thơng thường khơng thể trơng mong việc tìm mơ hình tối ưu địa phương chuẩn E cho mơ hình hàm hữu tỷ hỗ trọ cho diểm Chebyshev Nhưng nói chung dù mơ hình hồi quy tuyến tính (2.4) trường hợp đắc biệt mơ hình chung (2.6) với ϕ(t, b) = (t−b)−1 tất kết mục 1.3 chương 1chương 1chương dùng (thích hợp) Trong trường hợp đặc biệt, thu kết mơ hình tối ưu chuẩn E mơ hình tối ưu cho đánh giá ước lượng hệ số riêng as+1, b1, , as+k, bk

điểm trụ điểm Chebyshev tham số phi tuyến b1, , bk

đủ gần (xem định lý 2.2.2định lý 2.2.2định lý 2.2.2, bổ đề 2.2.3bổ đề 2.2.3bổ đề 2.2.3 ý 2.2.6)chú ý 2.2.6)chú ý 2.2.6)

là để giới thiệu hàm số:

ψ(t, b) =





ψ1(t,˜b) ψm(t,˜b)





với:

ψi(t,˜b) = ti−1, i = 1, , s

ψs+i(t,˜b) =

1

t−˜b, i = 1, ,2k

(2.28)

trong đó, ˜b = (˜b1, ,˜b2k)T vector xác định với ˜bi 6= ˜bj i 6= j

Chúng ta sử dụng ký hiệu sau: L(∆) =

Is

0 Gk(∆)

∈ Rm×m Gk(∆) =

  G(∆) G(∆) 

 ∈ R 2k×2k

G(∆) =

−1 ∆ ∆

∈ R2×2

ở đây, Is ma trận đơn vị Và dễ dàng để có được:

f(t, b) = L(∆)ψm(t,˜b∆) +o(1) (2.29)

˜ b∆ =

     b1 b1 + ∆

bk

bk + ∆     

Với vector T xác định có thứ tự:

T =   t1 tm 

 ∈ R m

t1 < < tm, ti ∈ I

ta định nghĩa ma trận sau:

và ma trận:

ψ(T,˜b) = (ψi(tj,˜b))mi,j=1

Từ (2.29) ta thu được:

detF(T, b) = lim

∆→0

1

∆kψ(T,˜b∆)

=

Q 16i<j6m

(tj −ti) Q 16i<j6k

(bi −bj)4 k Q i=1 m Q j=1

(tj −bi)2

(2.30)

trong đó, đồng thức cuối có ma trận ψi(tj,˜b) ma trận

Cauchy-Vandermonde, bao gồm:

detψ(T,˜b) =

Q 16i<j6m

(ti −tj) Q 16i<j62k

(˜bi −˜bj) k Q i=1 m Q j=1

(tj −˜bi)

Bây giờ, với b ∈ B, vế phải không bị triệt tiêu, vế khơng phụ thuộc vào T Do đó, hệ {fi(t, b)|i = 1, , m} hệ Chebyshev

trên khoảng I

Chúng ta chúng minh hệ {f¯i(t, b)|i = 1, , m} hoàn toàn tương tự

Định lý 2.3.2:Định lý 2.3.2:Định lý 2.3.2:

(i) Nếu s = 1, điểm Chebyshev s1 = s1(b), , sm = sm(b)

hệ hàm hồi quy (2.4) đoạn [-1,1] cho giá trị zero đa thức:

1−t2 4k X

i=0

diU−2k+s+i−2(t)

với Uj(x) đa thức Chebyshev thứ j dạng (xem Szego - 1975),

U−1(x) = 0, U−n(x) = −Un−2(x) thừa số d0, , d4k hệ số đa

thức:

4k X

i=0

diti = k Y

i=1

(t−τi)4

trong

(ii) Cho ΩE ⊂ B tập tất giá trịb cho: mơ hình tối ưu chuẩn

E cơng thức (2.4) cho công thức (2.15) (2.13) Khi ΩE ⊂ B 6= φ

Lưu ý 2.3.3:Lưu ý 2.3.3:Lưu ý 2.3.3:

(a) Điểm Chebyshev cho hệ (2.26) khoảng hữu hạn tùy ý I ⊂ R thu cách rescaling điểm lên khoảng [-1;1] Trong trường hợp s = I = [0,∞) thảo luận nhiều ví dụ phía sau

(b) Theo định lý 2.2.2định lý 2.2.2định lý 2.2.2 tập ΩE định nghĩa phần

của định lý 2.3.2định lý 2.3.2định lý 2.3.2 bao gồm tập Ωε,∆ (định nghĩa công thức (2.19)) giá trị ε đủ nhỏ Nói cách khác, tham số phi tuyến b1, , bk đủ gần nhau, mơ hình tối ưu chuẩn E trụ

điểm Chebyshev với trọng số cho cơng thức (2.13) Hơn nữa, chứng minh ví dụ bên dưới, có nhiều trường hợp tập ΩE trùng khớp với toàn tập B

(c) Trong mẫu có sẵn điểm Chebyshev tính tốn số (bằng giá trị số) với thuật toán Remez (xem Studden and Tsay - 1976, DeVore and Lorentz - 1993) Trong số trường hợp điểm tìm cách xác

Lưu ý 2.3.4:Lưu ý 2.3.4:Lưu ý 2.3.4: Chúng ta ý kết giống (tương tự) chắn mơ hình tối ưu chuẩn c mơ hình hồi quy hữu tỷ (2.4) Lấy ví dụ, giả sử khẳng định định lý 2.3.2định lý 2.3.2định lý 2.3.2 chắn (đúng) hứng thú việc tìm đánh giá ước lượng tổ hợp tuyến tính cTβ tham số mơ hình hữu tỷ (2.4) Ta thu từ bổ đề 2.2.3bổ đề 2.2.3bổ đề 2.2.3 rằng: c ∈ Rm thỏa mãn cT˜γ 6= 0, đối vớiεđủ nhỏ với mọib ∈ Ωε,∆ mơ hìnhξc(b)được

định nghĩa (2.16) (2.17) tối ưu chuẩn c Trong trường hợp đặc biệt, điều c = es+2j−1 (với i = 1, , k) vector c = es+2j số j thỏa mãn điều kiện (2.23) Chú ý điều

này có từ phần bổ đề 2.3.1bổ đề 2.3.1bổ đề 2.3.1 trường hợp k ≥ 2, tồn giá trị b ∈ B thỏa mãn: mơ hình chuẩn es+2j khơng

ξc∗(b) định nghĩa (2.15) (2.16) ξc∗∗(b) = ¯ξem(x), ξ

∗

c(b) = ¯ξem(x)

trong mơ hình ξ¯em(x) định nghĩa (2.24) (2.25) tối

ưu chuẩn em mơ hình bị giới hạn với hàm hồi quy (2.27)

Định lý 2.3.5:Định lý 2.3.5:Định lý 2.3.5: cho ϕ ∈ C0,2k−1 ξ mơ hình tùy ý cho ma trận M(ξ, b) ma trận đặc biệt Khi đó, cơng thức (2.18) thỏa mãn, với giá trị δ đủ nhỏ ma trận M(ξ, b) khả nghịch Và δ →0 ta có:

M−1(ξ, b) = δ−4k+4T(δ) M

(1)

(ξ) M(2)(ξ)F FTM(2)T(ξ) γγTh+o(1)

!

T(δ)+o(1) (2.31)

trong đó, ma trận T(δ) ∈ Rm×m, M(1)(ξ) ∈

Rs×s, cịn M

(2)

(ξ) ∈ Rs×2k.

Và vector γ = (γ1, , γ2k)T đươc cho sau:

γ2i = Y

i6=j

(ri−rj)−2, γ2i−1 = −γ2i X

i6=j

2 ri −rj

, i = 1, , k

Còn h ∈ R số thực cho công thức: h = [(2k−1)!]2emTM−1(ξ, x)em

Ma trận F ∈ R2k×2k được xác định với cơng thức:

F =





0 · · · γ1

0! · · · γ2k

(2k−1)! 



và cuối với định nghĩa ma trận M(3)(ξ) ∈ R2k×2k như sau:

T(δ) =



 δ

2k−2, , δ2k−2

| {z }

s

,

δ,1, , δ,1

| {z }

2k



 

M(1)(ξ) M(2)(ξ) M(2)T(ξ) M(3)(ξ)

!

2.3 Một số mơ hình hồi quy phi tuyến dạng phân thức

2.3.1 Mơ hình 1:

Ta xem xét ví dụ mơ hình phân thức:

Y = a

t−b +ε, t∈ [0,∞) (2.32) với b < (ở đây, có k = 1, s = I = [0,∞) Mơ hình tương ứng lớp hàm hồi quy tuyến tính cho dạng sau:

Y = βTf(t, b) = β1 t−b +

β2

(t−b)2 (2.33) Trong trường hợp theo phần đầu bổ đề 2.3.1bổ đề 2.3.1bổ đề 2.3.1, hệ hàm hồi quy {

t−b,

1

(t−b)2} = {f1(t), f2(t)} hệ Chebyshev khoảng [0,∞)

mà b < Hơn nữa, dễ thấy tập (gồm có phương trình) hệ Chebyshev khoảng [0,∞) Chúng ta tính tốn điểm Chebyshev sau

Xét phương trình sau:

g(t) = β1

t−b + β2

(t−b)2

Để dễ dàng cho tính tốn, ta đặt β1 = ρ, β2 = ρκ Và đó, ρ κ thỏa mãn điều kiện sau đây:

g(t) ≥ ∀t ∈ [0,∞) g(si) = (−1)i, i = 1,2

Theo tính chất có điểm Chebyshev, ta có s1 = Bây giờ, ta tính s2

Bởi g0(t) = nên ta có:

⇔ = ρ

−

1 (s2 −b)2

+ −2κ (s2 −b)3

⇔ = −(s2 −b)−2κ (s2 −b)3

⇔ κ = b−s2

2

(2.34)

Ngồi ra, ta cịn có g(si) = (−1)i nên ta có g(s1) = −g(s2) Từ ta có thêm phương trình sau:

ρ

1 s −b +

κ (s −b)2

= −ρ

1 s −b +

κ (s −b)2

Mà ta có s1 = 0, κ= b−2s2, nên thay vào, ta được:

⇔

−b +

b−s2

2b2 = −

1 s2 −b

− b−s2

2(s2 −b)2 ⇔−2b+b−s2

2b2 =

−2(s2 −b)−b+s2

2(s2 −b)2

⇔ − b+s2

2b2 =

b−s2

2(s2 −b)2

= −1 2(s2 −b) ⇔(b+s2)(s2 −b) =b2

⇔s2 =

√

2|b| = −√2b

Sử dụng lại công thức g(si) = (−1)i ⇒ g(s1) = g(0) = −1, ta thu được:

ρ = √−2

2−1b (2.36)

Ở đây, xác định đa thức Chebyshev

Bây giờ, xem xét xử lý mơ hình ξc∗(b) định nghĩa cơng thức đây:

ξc∗ = ξc∗(b) =

s1 · · · sm

w1 · · · wm

với m=2 (2.37) ví dụ tiêu biểu cho mơ hình tối ưu chuẩn c mơ hình (2.33)

Khi đó, ma trận F tính cơng thức sau: F = (fi(sj))2i,j=1 =

1

|b|

1 (√2+1)|b|

1

b2

1 (√2+1)2b2

!

thay giá trị si vào, ta dễ dàng tính giá trị:

F =

−1

b

−1 (√2+1)b

1

b2

1 (√2+1)2b2

!

Và đó:

detF =−1 b ·

1

(√2 + 1)2b2 −

1 b2 ·

−1 (√2 + 1)b =

Thì ta có:

F−1 =

F11 F12 F21 F22

với giá trị:

F11 =

√ b3(2√2 + 3)

!−1

·

(√2 + 1)2b2 = b √ F21 =

√ b3(2√2 + 3)

!−1

−1

(√2 + 1)2b2 =

−b2(√2 + 2)

2 F12 =

√ b3(2√2 + 3)

!−1

· b2 =

b(3√2 + 4) F22 =

√ b3(2√2 + 3)

!−1

· −1 b =

−b2(3√2 + 4)

2 hay ma trận F−1 bằng:

F−1 =

b

√

2

−b2(√2+2)

2

b(3√2+4)

−b2(3√2+4)

!

Khi đó, với vector c =

c1 c2

thì ta có:

F−1c = 12

b(√2c1 −(2 + √

2)c2b) b(4 + 3√2)(−c1 +c2b)

và

ξc∗(b) =

0 √2|b| w1 w2

Ở ta sử dụng cơng thức wi từ phía bên trên:

w1 =

|eTi J F−1c|

P j=1

|eT

Thay giá trị vào, ta được:

w1 =

(1 0)·

−1

0

· 12

b(√2c1 −(2 + √

2)c2b) b(4 + 3√2)(−c1 +c2b)

(1 0) ·

−1

0

·

b(√2c1 −(2 + √

2)c2b) b(4 + 3√2)(−c1 +c2b)

+

(1 0)·

−1

0

·

b(√2c1 −(2 + √

2)c2b) b(4 + 3√2)(−c1 + c2b)

= |(− √

2c1 + (2 + √

2)c2b)| | − √2c1 + (2 +

√

2)c2b|+ (4 + √

2)| −c1 +c2b| w2 =1−w1

(2.38) Ta thấy mơ hình thiết kế tối ưu chuẩn c mơ hình hồi quy (2.33) mà:

c2

c1 ∈/

h

b,

1 (1+√2)b

i

Trong trường hợp cịn lại mơ hình tối ưu chuẩn clà mơ hình điểm trụ, điểm trụ t= b− c1

c2

Đặc biệt, theo Bổ đề 2.1.3Bổ đề 2.1.3Bổ đề 2.1.3, mơ hình tối ưu chuẩn e1 chuẩn e2 việc ước lượng giá trị hệ số β1 β2 mơ hình (2.33) có trọng số sau (ta thay vector đơn vị e1 e2 vào c =

c1 c2

trong cơng thức (2.38)): Với ξe∗1(b) ta có:

w1 =

|(−√2·1 + (2 +√2)b·0)|

| −√2·1 + (2 +√2)b·0|+ (4 + 3√2)| −1 + 0·b| =1

4(2− √

2) w2 =1−w1

=1 4(2 +

√ 2) hay ta viết:

ξe∗1 =

0 −√2b

4(2− √

2) 14(2 +√2)

Còn với ξe∗2 ta nhận qua cơng thức sau: w1 =

|(−√2·0 + (2 +√2)b·1)|

| −√2·0 + (2 +√2)b·1|+ (4 + 3√2)| −0 +b·1| =1− √1

2 w2 =1−w1

=√1 hay ta viết:

ξe∗2 =

0 −√2b 1− √1

2

√

2

Đây tối ưu chuẩn e1 e2 tương ứng với điểm s1 = s2 = −

√ 2b

Khi đó, ta thu được: mơ hình tối ưu chuẩn E mơ hình hồi quy (2.33) cho mơ hình chuẩn c∗ ứng với vector Chebyshev:

c∗ =

2(1 +√2)b (1 +√2)2b2

Khi đó, thay giá trị c∗ vào công thức (2.38), ta thu được:

w1 =

−

√

2·2(1 +√2)b) + (2 +√2)b·(1 +√2)2b2

−

√

2·2(1 +√2)b) + (2 +√2)b·(1 +√2)2b2

+ (4 +

√

2)−(2(1 +

√

2)b) +b·(1 +√2)2b2

=1

(2−√2)(6 −4√2 +b2) b2 + 12−8√2 w2 =1−w1

=1

√

2(2√2−2 +b2) b2 + 12−8√2 hay viết:

ξE∗ = −

√ 2b

2

(2−√2)(6−4√2+b2)

b2+12−8√2

1

√

2(2√2−2+b2)

b2+12−8√2

Ngoài ra, thu mơ hình tối ưu chuẩn E sử dụng phương pháp đồ thị, thiết kế đặc biệt cho mơ hình hai tham số

Tính đắn mơ hình chuẩn E ξ∗E(b) khoảng [-2,5;-1] Nét liền eff1(ξ∗(b)), nét gạch eff2(ξ∗(b))

Ở đây, với giá trị w1 w2 bên trên, ta tính ma trận thông tin theo công thức:

M(ξ, b) =

Z

f(t, b)fT(t, b)ξ(dt) = Xf(t, b)fT(t, b)wi

Khi đó, ta nhận ma trận thơng tin sau (dù phép tính phức tạp dài dòng):

M(ξE∗(b), b) =



 

(√2−1)(b2+6√2−8)

b2(b2+12−8√2)

2(3−√2)(b2+√2−1)

b3(b2+12−8√2)

2(3−√2)(b2+√2−1)

b3(b2+12−8√2)

(8√2−11)(7b2+16√2−20)

7b4(b2+12−8√2)





 (2.39)

Khi đó, ta nhận giá trị riêng nhỏ ma trận là: λmin(M(ξE∗(b), b)) =

17−2√2

b2(b2 + 12−8√2) =

Bây so sánh kết tìm với ước lượng β1 β2 theo cách sau:

effi(ξ) =

eTi M−1(ξ, b)ei

eTi M−1(ξ∗

ei, b)ei

!−1

với i = 1,2

Ta nhận kết sau: eff1(ξE∗(b)) =28(b

4(5√2−7) +b2(34√2−48) + 396−280√2)

(8√2−11)(b2 −8√2 + 12)(7b2 + 16√2−20) eff2(ξE∗(b)) =

b4(√2−1) + (6√2−8)b2 + 68−48√2 (√2−1)(b2 −8√2 + 12)(b2 + 6√2−8)

(2.40)

Ở đây, ta đưa số trực quan sau: 0,9061 ≈ 4(5

√

2−7)

8√2−11 = blim→∞eff1(ξ ∗

E(b)) eff1(ξE∗(b))

6 eff1(ξE∗(−1)) ≈ 0,9595 0,9805 ≈ 59−41

√ 2)

(√2−11)(13−8√2)(9−6√2) = eff2(ξ

∗

E(−1)) eff2(ξE∗(b)) lim

b→∞eff1(ξ ∗

2.3.2 Mơ hình 2:

Chúng ta tiếp tục xem xét mơ hình tối ưu dạng phân thức đây:

Y = a1 + a2

t−b +ε, với t∈ [−1; 1] (2.41) |b| > Nó tương ứng với mơ hình hồi quy tuyến tính sau đây:

Y = β1 + β2 t−b +

β3

(t−b)2 +ε, với t ∈ [−1; 1] (2.42) Chúng ta dễ dàng tính điểm Chebyshev ví dụ phần mơ hình tuyến tính, để nhận kết sau:

s1 = −1 s2 =

1 b s3 =

Và ta tính kết sau (giống ví dụ phần mơ hình tuyến tính):

ξE∗ =

−1 1b

w1 w2 w3

trong đó, giá trị w1, w2 w3 sau:

w1 = b+

2 ·

2b7 −2b6 + 2b5 + 2b4 −4b3 −2b2 +b+ 4b8 −4b4 −4b2 + 5

w2 =

(b2 −1)(2b6 + 2b4 −3 4b8 −4b4 −4b2 + 5 w3 =

b−1 ·

2b7 + 2b6 + 2b5 −2b4 −4b3 + 2b2 +b−2 4b8 −4b4 −4b2 + 5

Chúng ta tính hệ số đa thức Chebyshev nhận kết quả:

c∗ =





2b2 −1 4b(b2 −1) 2(b2 −1)2





ξe∗1 = −1

1

b

b(1+b) 2(2b2−1)

b2−1 2b2−1

b(b−1) 2(2b2−1)

!

ξe∗2 =

−1 1b

1

8 ·(2 +

b

1

1

8 ·(2−

b

ξe∗3 =

−1 1b −1

4

1

Ta dễ thấy rằng, |b| → ∞ ba ước lượng tiến tới giá trị ξe∗3, ước lượng tương ứng với β3

Để so sánh, ta có giá trị effi(ξE∗, b) với i = 1,2,3 vẽ hình

như sau đây:

Tính đắn ước lượng ξ∗(b) vớib∈[2; 4] Nét liền eff1(ξ∗(b)), nét gạch eff2(ξ∗(b)), nét chấm eff3(ξ∗(b))

2.4 Lưu đồ mô hình thuật tốn:

Các bước tính tốn thực sau (khi mơ hình đưa không thỏa mãn yêu cầu):

-1 Nhập vào vector x σ2

2 Tính ma trận MMM theo cơng thức (1.8)

3 Tính ma trận hiệp biến DDD(θ) theo công thức (1.10).ˆ

3

CHƯƠNG III:CHƯƠNG III:CHƯƠNG III: Bài toán thực tế

3.1 Bài tốn

Cá rơ biển (Pristolepis fasciata) lồi cá ni có giá trị cao

Cá giống thường nuôi trại cá giống Trong trình sinh trưởng cá, cần thay đổi số tác nhân từ môi trường để giúp cá phát triển tốt Trong thí nghiệm sau đây, thay đổi số oxy môi trường nước nhằm giúp cá phát triển tốt nhất, đồng thời giảm tối đa chi phí mua oxy

Ở đây, cần phải tìm hiểu lượng oxy mà cá tiêu hao trình sinh trưởng

3.1.1 Thí nghiệm ban đầu

Dựa kinh nghiệm thực nghiệm khứ, xác định cá rơ biển có lượng tiêu hao oxy theo trình sinh trưởng đường cong dạng hyperbola (bậc mẫu số 1)

Ngoài ra, thêm thông số khác

Vì vậy, làm thí nghiệm ban đầu (chưa có giá trị để ước lượng) cách làm thí nghiệm làm số lượng nhỏ thí nghiệm, dàn thí nghiệm Ở đây, thí nghiệm theo thời gian cách quãng

Ngày tuổi 10 20 30 Oxy tiêu hao 1.42 0.47 0.26

Sai số 0.18 0.07 0.01

3.1.2 Mơ hình hóa tốn

Các giá trị đầu vào số ngày tuổi Khi đó, ta có: x =

x1 x2 x3

!

= 10 20 30

!

và phương sai:

σ2 =





σ12 σ22 σ32



 =

0,0324 0,0049 0,0001

!

Áp dụng công thức cho hàm dạng phân thức hữu tỷ, ta có hàm cần xác định:

y = a

x+b +ε

3.1.3 Giải tốn

Theo cách giải thơng thường với thơng số có, ta tính hàm số phụ thuộc lượng oxy tiêu hoa số ngày tuổi cá

y = f1(x) =

0.845

x−0,432 −0,069 (3.1) Từ kết thu được, ta so sánh với thực nghiệm thực tế

So sánh công thức tính tốn thí nghiệm thực tế

Ta nhận thấy hàm số tìm khơng thực tế khoảng thời gian ngày tuổi tới 10 ngày tuổi

Bây ta tìm phân tích tốn học để biết, ta nên thí nghiệm đâu tốt

Dựa thơng số trên, ta đưa cách tính cho tốn tối ưu sau:

y = a

x−b + ε (3.2)

trong đó, phương sai là:

σ2 =





σ12 σ22 σ32



 =

0,0324 0,0049 0,0001

!

Sử dụng MathCad, ta tính ma trận hiệp biến theo cơng thức, ta được:

D =

0,028 −9,275.10−4 −9,275.10−4 3,119.10−5

3.1.4 Tổ chức thêm thí nghiệm lần thứ 2:

Ta làm thêm thí nghiệm thời điểm ngày tuổi cá

Kết thu bảng sau: Ngày tuổi 10 20 30 Oxy tiêu hao 2.64 1.42 0.47 0.26

Sai số 0.04 0.18 0.07 0.01

-3.1.5 Mơ hình hóa giải lần thứ

Một lần lại mơ hình hóa tốn với thơng số Các giá trị đầu vào vectơ x, tương ứng với số ngày tuổi cá: Các giá trị đầu vào số ngày tuổi Khi đó, ta có:

x =



 

x1 x2 x3 x4



  =



 

1 10 20 30



 

Bằng bảng kết thí nghiệm trên, ta tìm cơng thức thể phụ thuộc lượng oxy tiêu hao theo ngày tuổi cá:

y = f2(x) =

67,115

x+ 16,563 −1,181 (3.3)

So sánh công thức tính tốn thí nghiệm thực tế

So sánh công thức (3.3) với công thức (3.1):

Chúng ta làm thêm thí nghiệm để kiểm chứng kết tính tốn Thí nghiệm làm vào thời điểm cá ngày tuổi

Ngày tuổi 10 20 30

Thực tế 2,64 2,25 1,42 0,47 0,26 Mơ hình (3.1) -2,614 12,357 1,419 0,470 0,260 Mơ hình (3.3) 2,640 1,932 1,346 0,655 0,260

3.2 Bài toán

Cũng với lồi cá rơ biển (pristolepis fasciata) toán

Ở đây, cần phải tìm hiểu ngưỡng oxy mà gây chết cá q trình sinh trưởng Ngưỡng gây chết tính có 50% số cá chết

3.2.1 Thí nghiệm ban đầu

Vẫn dựa kinh nghiệm thực tế, xác định cá rơ biển có ngưỡng oxy theo q trình sinh trưởng đường cong dạng hyperbola (bậc mẫu số 1)

Vì vậy, tốn thứ nhất, làm thí nghiệm ban đầu (chưa có giá trị để ước lượng) cách làm thí nghiệm làm số lượng nhỏ thí nghiệm, dàn thí nghiệm Ở đây, thí nghiệm theo thời gian cách quãng

Ngày tuổi 10 20 30 Ngưỡng oxy 0.69 0.64 0.54

Sai số 0.02 0.02 0.11

3.2.2 Mơ hình hóa tốn

Các giá trị đầu vào số ngày tuổi Khi đó, ta có: x =

x1 x2 x3

!

= 10 20 30

!

Hàm cần xác định có dạng sau: y = a

x+b +ε

3.2.3 Giải tốn

Theo cách giải thơng thường với thơng số có, ta tính hàm số dự phụ thuộc ngưỡng oxy số ngày tuổi cá

y = f3(x) =

0.845

x−0,432 −0,069 (3.4) Từ kết thu được, ta so sánh với thực nghiệm thực tế

So sánh cơng thức tính tốn thí nghiệm thực tế

Bây ta tìm phân tích tốn học để biết, ta nên thí nghiệm đâu tốt

Dựa thơng số trên, ta đưa cách tính cho tốn tối ưu sau:

y = a

x−b + ε (3.5)

trong đó, phương sai là:

σ2 =





σ12 σ22 σ32



 = 

 

0,0004 0,0004 0,0121



 

Ta tính ma trận hiệp biến theo công thức (2.3), ta được: D =

1,888.10−3 −0,023 −0,023 0,306

3.2.4 Tổ chức thêm thí nghiệm lần thứ 2:

Ta làm thêm thí nghiệm thời điểm ngày tuổi cá

Kết thu bảng sau: Ngày tuổi 10 20 30 Oxy tiêu hao 0,80 0,69 0,64 0,54

Sai số 0,02 0,02 0,02 0,11

-3.2.5 Mô hình hóa giải lần thứ

Một lần lại mơ hình hóa tốn với thông số Các giá trị đầu vào vectơ x, tương ứng với số ngày tuổi cá: Các giá trị đầu vào số ngày tuổi Khi đó, ta có:

x =



 

x1 x2 x3 x4



  =



 

1 10 20 30



 

Bằng bảng kết thí nghiệm trên, ta tìm công thức thể phụ thuộc lượng oxy tiêu hao theo ngày tuổi cá:

y = f4(x) =

3,561

x+ 12,154 + 0,529 (3.6)

So sánh cơng thức tính tốn thí nghiệm thực tế

So sánh công thức (3.6) với công thức (3.4):

Chúng ta làm thêm thí nghiệm để kiểm chứng kết tính tốn Thí nghiệm làm vào thời điểm cá ngày tuổi

Ngày tuổi 10 20 30

Thực tế 0,80 0,74 0,69 0,64 0,54 Mơ hình (3.4) 0,806 0,755 0,700 0,610 0,540 Mơ hình (3.6) 0,800 0,737 0,690 0,640 0,613

KẾT LUẬN

Trong luận văn này, học viên đạt kết sau:

1 Nêu tổng quan tính thời quy hoạch thực nghiệm tối ưu Chứng minh lý thuyết Xây dựng thuật toán

3 Áp dụng vào toán thực tế

Hướng phát triển:

Luận văn phát triển tiếp tục với dạng hàm phức tạp (như dạng hàm mũ, v.v )

Trong thí nghiệm độc tố chuột Becka and U rf er (1996), tác giả sử dụng hàm số dạng a1eb1t +a2eb2t