trt t ttst r - - PowerPoint PPT Presentation

■♥tr♦❞✉❝t✐♦♥ t♦ ❙t❛t✐st✐❝❛❧ ▲❡❛r♥✐♥❣

◆✐❝♦❧❛s ❱❛②❛t✐s

▲❡❝t✉r❡ ★ ✺ ✲ ❙t❛t✐st✐❝❛❧ ❛♥❛❧②s✐s ♦❢ ♠❛✐♥str❡❛♠ ▼▲ ❛❧❣♦r✐t❤♠s

P❛rt ■ ✲ ❇♦♦st✐♥❣✱ ❙❱▼

▼❛✐♥ t❤❡♦r❡t✐❝❛❧ ♦❜❥❡❝t✐✈❡s ♦❢ t❤❡ ❝♦✉rs❡

• ❈♦♥s✐st❡♥❝② ♦❢ ❛ ✭r❛♥❞♦♠✮ s❡q✉❡♥❝❡ ♦❢ ❞❡❝✐s✐♦♥ r✉❧❡s

( fn)n≥✶ ✿ L( fn) → L∗ ✐♥ ♣r♦❜❛❜✐❧✐t② ❛s n → ∞ ,

• ❯♣♣❡r ❜♦✉♥❞s ✿ ❈♦♥s✐❞❡r

fn ∈ F✳ ❲✐t❤ ♣r♦❜❛❜✐❧✐t② ❛t ❧❡❛st ✶ − δ✱ t❤❡r❡ ❡①✐sts s♦♠❡ ❝♦♥st❛♥t c s✉❝❤ t❤❛t ✿ L( fn) − inf

F L ≤ C(F, n) + c

• log(✶/δ)

n , ✇❤❡r❡ C(F, n)) = O(✶/√n) ❛❢t❡r ♣r♦❝❡ss✐♥❣ s♦♠❡ ❝♦♠♣❧❡①✐t②✴st❛❜✐❧✐t② ♠❡❛s✉r❡

▼❛❝❤✐♥❡ ▲❡❛r♥✐♥❣ ▼❡t❤♦❞s ❖♣t✐♠✐③❛t✐♦♥ ✐s ❝❡♥tr❛❧

❙♦♠❡ ♣♦♣✉❧❛r ❡①❛♠♣❧❡s ✿

• ✭❙♣❛rs❡✮ ▲✐♥❡❛r ♠♦❞❡❧s −

→ ❣r❛❞✐❡♥t ♠❡t❤♦❞ ✭❛♥❞ ❡①t❡♥s✐♦♥s✮

• ❑❡r♥❡❧ r✐❞❣❡ r❡❣r❡ss✐♦♥ −

→ q✉❛❞r❛t✐❝ ♦♣t✐♠✐③❛t✐♦♥ ✭✇✐t❤ ❑❑❚ ❝♦♥❞✐t✐♦♥s✮

• ❉❡❡♣ ❧❡❛r♥✐♥❣ −

→ ♥♦♥❝♦♥✈❡① ♦♣t✐♠✐③❛t✐♦♥ ✭st♦❝❤❛st✐❝ ❣r❛❞✐❡♥t ❞❡s❝❡♥t✮ ✰ ✐♠♣❧✐❝✐t r❡❣✉❧❛r✐③❛t✐♦♥ ✭tr✐❝❦s✮

❑❡② ♣r✐♥❝✐♣❧❡ ✿ ❘❡❣✉❧❛r✐③❡❞ ♦♣t✐♠✐③❛t✐♦♥

• ❖❜❥❡❝t✐✈❡ ✿ t♦ ✜♥❞ ❛ ❢✉♥❝t✐♦♥ t❤❛t ✜ts t❤❡ ❞❛t❛ ❛♥❞ ❞✐s♣❧❛②s

♣r❡❞✐❝t✐✈❡ ♣♦✇❡r

• ❯♥t✐❧ ♥♦✇ ✿ ▲❡❛r♥✐♥❣ ❛♠♦✉♥ts t♦ t❤❡ ♠✐♥✐♠✐③❛t✐♦♥ ♦❢ tr❛✐♥✐♥❣

❡rr♦r ❢♦r s♦♠❡ ❧♦ss ❢✉♥❝t✐♦♥ ♦✈❡r t❤❡ ❤②♣♦t❤❡s✐s ❝❧❛ss ♦❢ ❢✉♥❝t✐♦♥s h ∈ H ♣❧✉s s♦♠❡ ♣❡♥❛❧t② Cn(h) = ˆ Ln(h)

❚r❛✐♥✐♥❣ ❡rr♦r

+λ ♣❡♥(h, n)

• ❘❡❣✉❧❛r✐③❛t✐♦♥
• ❊①❛♠♣❧❡ ✿ r✐❞❣❡ r❡❣r❡ss✐♦♥ ✇❤❡r❡ h(x) = θTx ✿

ˆ Ln(h) = ✶

n

n

i=✶(Yi − θTXi)✷ ❛♥❞ ♣❡♥(h, n) = ✶ nθ✷ ✷

• ❚❤❡ ♣❡♥❛❧t② ❣r♦✇s ✇✐t❤ t❤❡ ❝♦♠♣❧❡①✐t② ♦❢ h ✭♦r t❤❡ s✐③❡ ♦❢ H✮

❛♥❞ ✈❛♥✐s❤❡s ✇❤❡♥ n → ∞

❖t❤❡r ❢♦r♠s ♦❢ r❡❣✉❧❛r✐③❛t✐♦♥

• ●❡♥❡r❛❧ ✐❞❡❛ ✿ ❘❡❣✉❧❛r✐③❡❞ ❢✉♥❝t✐♦♥ ❡st✐♠❛t✐♦♥ ✇✐t❤♦✉t ❣❧♦❜❛❧

♦♣t✐♠✐③❛t✐♦♥

• ❚✇♦ ❞✐r❡❝t✐♦♥s ✿
• ▲♦❝❛❧ ♠❡t❤♦❞s ✿ ♥❡❛r❡st✲♥❡✐❣❤❜♦rs ❛♥❞ ❞❡❝✐s✐♦♥ tr❡❡s
• ❊♥s❡♠❜❧❡ ♠❡t❤♦❞s ✿ ❜❛❣❣✐♥❣✱ ❜♦♦st✐♥❣✱ r❛♥❞♦♠ ❢♦r❡sts

❘❡❣✉❧❛r✐③❛t✐♦♥ ✇✐t❤♦✉t ♦♣t✐♠✐③❛t✐♦♥ ❚❤❡ ❝❛s❡ ♦❢ ❤✐st♦❣r❛♠s

❉✐str✐❜✉t✐♦♥ ♦❢ t❤❡ ❛❣❡ ♦❢ t❤❡ ♣❛ss❡♥❣❡rs ♦❢ t❤❡ ❚✐t❛♥✐❝ ✇✐t❤ ❜✐♥s ✈❛r②✐♥❣ ❢r♦♠ ✶ ②❡❛r t♦ ✶✺ ②❡❛rs

■♥❣r❡❞✐❡♥ts ❢♦r t❤❛t t②♣❡ ♦❢ r❡❣✉❧❛r✐③❛t✐♦♥

• ❍✐st♦❣r❛♠s ✉s❡ t✇♦ ❣❡♥❡r❛❧ ✐❞❡❛s ♦❢ ❧♦❝❛❧✐t② ✭❜✐♥s✮ ❛♥❞

❛✈❡r❛❣✐♥❣ ✭♣✐❡❝❡✇✐s❡ ❝♦♥st❛♥t ❢✉♥❝t✐♦♥✮

• ❞❡✜♥❡ ❧♦❝❛❧ ✿ ✇❤✐❝❤ tr❛✐♥✐♥❣ ❞❛t❛ ❝❛♥ ❜❡ ❝♦♥s✐❞❡r❡❞ t♦ ❜❡ ❝❧♦s❡

t♦ t❤❡ ♣♦✐♥t ✇❤❡r❡ ❛ ♣r❡❞✐❝t✐♦♥ ❤❛s t♦ ❜❡ ♠❛❞❡ ❄

• ❛✈❡r❛❣✐♥❣ ✭♦r ✈♦t✐♥❣ ✐❢ ❞✐s❝r❡t❡ ♦✉t❝♦♠❡✮ ✿ t❛❦❡ t❤❡ ❛✈❡r❛❣❡ ♦❢

t❤❡ ✈❛❧✉❡s ♦✈❡r ❡❛❝❤ ❜✐♥

• ❘❡❣✉❧❛r✐③❛t✐♦♥ t❤r♦✉❣❤ ❤②♣❡r♣❛r❛♠❡t❡r s❡❧❡❝t✐♦♥ ✿ ✜♥❞ t❤❡

♦♣t✐♠❛❧ ❜✐♥ s✐③❡ ❛♠♦✉♥ts t♦ ✜♥❞✐♥❣ t❤❡ r✐❣❤t ❤②♣♦t❤❡s✐s ❝❧❛ss

❋r♦♠ ❤✐st♦❣r❛♠s t♦ ▼❛❝❤✐♥❡ ▲❡❛r♥✐♥❣

• ■♥ t❤❡ ♣r❡✈✐♦✉s ❡①❛♠♣❧❡✱ t❤❡ ♦❜❥❡❝t✐✈❡ ✇❛s t♦ ❡st✐♠❛t❡ ❛

❞❡♥s✐t② ❢✉♥❝t✐♦♥ ❢r♦♠ ❛ s❛♠♣❧❡ ❞r❛✇♥ ❢r♦♠ t❤✐s ❞✐str✐❜✉t✐♦♥ ✭♣r♦❜❧❡♠ ❦♥♦✇♥ ✐♥ t❤❡ ❧✐t❡r❛t✉r❡ ❛s ♥♦♥♣❛r❛♠❡tr✐❝ ❞❡♥s✐t② ❡st✐♠❛t✐♦♥ ♦r ❦❡r♥❡❧ ❞❡♥s✐t② ❡st✐♠❛t✐♦♥✮

• ❉❡♥s✐t② ❡st✐♠❛t✐♦♥ ❝❛♥ ❜❡ s❡❡♥ ❛s ❛♥ ✉♥s✉♣❡r✈✐s❡❞ ❧❡❛r♥✐♥❣

♣r♦❜❧❡♠

• ■♥ t❤❡ s✉♣❡r✈✐s❡❞ s❡tt✐♥❣✱ ✇❡ ❡st❛❜❧✐s❤ t❤❡ ✈❛❧✉❡s ♦❢ t❤❡

❢✉♥❝t✐♦♥ ♦♥ ❡✈❡r② ❜✐♥ ❡✐t❤❡r ❜② ❛✈❡r❛❣✐♥❣ ✭r❡❣r❡ss✐♦♥ s❡t✉♣✮ ♦r ❜② ✈♦t✐♥❣ ✭❝❧❛ss✐✜❝❛t✐♦♥ s❡t✉♣✮✳ ❚❤❡ ❣❡♥❡r❛❧ t❡r♠✐♥♦❧♦❣② ❢♦r ❛✈❡r❛❣✐♥❣✴✈♦t✐♥❣ ✐s ❛❣❣r❡❣❛t✐♥❣✴❝♦♠❜✐♥✐♥❣✳

❖✈❡r✈✐❡✇ ♦❢ ❈❤❛♣t❡r ✸

✶✳ ❈♦♥s✐st❡♥❝② ♦❢ ❧♦❝❛❧ ♠❡t❤♦❞s ✿

❛✳ ❦✲◆❡❛r❡st ◆❡✐❣❤❜♦rs ❜✳ ❞❡❝✐s✐♦♥ tr❡❡s ❝✳ ✭❧♦❝❛❧ ❛✈❡r❛❣✐♥❣✮

✷✳ ❈♦♥s✐st❡♥❝② ♦❢ ❣❧♦❜❛❧ ♠❡t❤♦❞s

❛✳ ❇♦♦st✐♥❣ ❜✳ ❙✉♣♣♦rt ❱❡❝t♦r ▼❛❝❤✐♥❡s ❝✳ ◆❡✉r❛❧ ♥❡t✇♦r❦s

✸✳ ❈♦♥s✐st❡♥❝② ♦❢ ❡♥s❡♠❜❧❡ ♠❡t❤♦❞s

✰ ❇❛❣❣✐♥❣✱ ❘❛♥❞♦♠ ❋♦r❡sts

✶✳ ❖❧❞❡r ▼❛❝❤✐♥❡ ▲❡❛r♥✐♥❣ ❛♣♣r♦❛❝❤❡s ✿ ▲♦❝❛❧ ♠❡t❤♦❞s ❛✳ ◆❡❛r❡st ♥❡✐❣❤❜♦rs ❜✳ ❉❡❝✐s✐♦♥ tr❡❡s

❚✇♦ ♣♦♣✉❧❛r t②♣❡s ♦❢ ❧♦❝❛❧ ♠❡t❤♦❞s

• ◆❡❛r❡st ♥❡✐❣❤❜♦rs ✿ ❧♦❝❛❧ ❛r❡ t❤❡ ❝❧♦s❡st ♣♦✐♥ts
• P❛rt✐t✐♦♥✲❜❛s❡❞ r✉❧❡s ✭❛❧s♦ ❝❛❧❧❡❞ ❞❡❝✐s✐♦♥ tr❡❡s✮ ✿ ❧♦❝❛❧ ❛r❡ t❤❡

♣♦✐♥ts ✇✐t❤✐♥ ❛ ❝❡❧❧ ❢r♦♠ ❛ ♣❛rt✐t✐♦♥ ♦❢ t❤❡ ✐♥♣✉t s♣❛❝❡ ♦♥❧② ❲♦r❦s ❢♦r ❝❧❛ss✐✜❝❛t✐♦♥✱ r❡❣r❡ss✐♦♥ ❛♥❞ ♦t❤❡r ♣r♦❜❧❡♠s✳✳✳ ❜✉t ❤❡r❡ ✇❡ ✇✐❧❧ ❢♦❝✉s ♦♥ ❝❧❛ss✐✜❝❛t✐♦♥

Pr♦❜❧❡♠ ❝♦♥s✐❞❡r❡❞ ✭▼✉❧t✐❝❧❛ss✮ ❈❧❛ss✐✜❝❛t✐♦♥

• ●✐✈❡♥ ✿
• ❈♦♥s✐❞❡r ❛ s❛♠♣❧❡ ♦❢ ❝❧❛ss✐✜❝❛t✐♦♥ ❞❛t❛

(X✶, Y✶)...(Xn, Yn) ✇❤❡r❡ Xi ∈ Rd ✈❡❝t♦r ♦❢ ✐♥❞❡♣❡♥❞❡♥t ✈❛r✐❛❜❧❡s✱ Yi ∈ {✶, . . . , C} t❤❡ ❧❛❜❡❧

• ❲❛♥t ✿
• t♦ ♣r❡❞✐❝t t❤❡ ❧❛❜❡❧ y ❛t ❛♥② ♣♦s✐t✐♦♥ x

✶✳ ▲♦❝❛❧ ♠❡t❤♦❞s ❛✳ k✲◆❡❛r❡st ♥❡✐❣❤❜♦rs ✭k✲◆◆✮

k✲◆❡❛r❡st ◆❡✐❣❤❜♦r ✭✶✴✹✮ Pr✐♥❝✐♣❧❡ ♦❢ t❤❡ k✲◆◆ ❛❧❣♦r✐t❤♠

✶ ❈♦♠♣✉t❡ ❞✐st❛♥❝❡s

• ❈♦♠♣✉t❡ ♣❛✐r✇✐s❡ ❞✐st❛♥❝❡s d(x, Xi) ❢♦r ❛❧❧ i = ✶, . . . , n

✷ ❙♦rt tr❛✐♥✐♥❣ ❞❛t❛

• ❙♦rt t❤❡ ❞❛t❛ ♣♦✐♥ts ❢r♦♠ t❤❡ ❝❧♦s❡st X(✶) t♦ t❤❡ ❢❛rt❤❡st X(n)

✭✐✳❡✳ d(x, X(✶)) ≤ . . . ≤ d(x, X(n))

✸ Pr❡❞✐❝t✐♦♥ ˆ

h(x, k) ❂ ▼❛❥♦r✐t② ✈♦t❡ ♦❢ t❤❡ k✲◆◆

• ❈♦♥s✐❞❡r t❤❡ ❧❛❜❡❧s Y(✶), . . . , Y(k) ♦❢ t❤❡ k ❝❧♦s❡st ♣♦✐♥ts t♦ x

❛♥❞ t❛❦❡ t❤❡ ♠❛❥♦r✐t② ✈♦t❡ ˆ h(x, k) = ❛r❣ ♠❛①c{k

l=✶ I{Y(l) = c}}

k✲◆❡❛r❡st ◆❡✐❣❤❜♦r ✭✷✴✹✮ Pr✐♥❝✐♣❧❡ ♦❢ t❤❡ k✲◆◆ ❛❧❣♦r✐t❤♠

◆❡❛r❡st ◆❡✐❣❤❜♦rs ✭✸✴✹✮ ❍②♣❡r♣❛r❛♠❡t❡rs

• ❈❤♦✐❝❡ ♦❢ ❛ ❞✐st❛♥❝❡ d ❜❡t✇❡❡♥ ♣♦✐♥ts ♦❢ Rd
• ◆✉♠❜❡r k ♦❢ ◆❡❛r❡st ◆❡✐❣❤❜♦rs✱ ❡st✐♠❛t❡❞ ❜②

❝r♦ss✲✈❛❧✐❞❛t✐♦♥ ✿

k✲◆❡❛r❡st ◆❡✐❣❤❜♦r ✭✹✴✹✮ ❚❤❡♦r②

• ❘❡❝❛❧❧ ✿ ❝❧❛ss✐✜❝❛t✐♦♥ ❡rr♦r L(h) = P(Y = h(X)) ❛♥❞

L∗ = inf L

• ❈♦♥s✐st❡♥❝② r❡s✉❧t ✿

EL(ˆ h(·, kn)) → L∗ ✉♥❞❡r t❤❡ ❝♦♥❞✐t✐♦♥ ✿ kn → ∞ ❛♥❞ kn/n → ✵ ✇❤❡♥ n → ∞

• ◆♦ ❝❧♦s❡❞✲❢♦r♠ s♦❧✉t✐♦♥ ❢♦r ♦♣t✐♠❛❧ kn ✭✐♥ ♣r❛❝t✐❝❡✱ ✇❡ ✉s❡

❝r♦ss✲✈❛❧✐❞❛t✐♦♥✮

• ◆♦ t❤❡♦r❡t✐❝❛❧ ❝❧✉❡ ♦♥ t❤❡ ❝❤♦✐❝❡ ♦❢ t❤❡ ❞✐st❛♥❝❡ ✭r❡❧❛t❡❞ t♦

❞❛t❛ r❡♣r❡s❡♥t❛t✐♦♥ ❛♥❞ t❤❡ ♣❤②s✐❝s ♦❢ t❤❡ ♣r♦❜❧❡♠✮

✶✳ ▲♦❝❛❧ ♠❡t❤♦❞s ❜✳ P❛rt✐t✐♦♥✲❜❛s❡❞ ✭❞❡❝✐s✐♦♥ tr❡❡s✮

P❛rt✐t✐♦♥✲❜❛s❡❞ ❝❧❛ss✐✜❡r ✭✶✴✹✮ ❈♦♠♣✉t✐♥❣ t❤❡ ♣r❡❞✐❝t✐♦♥ ❢♦r ✜①❡❞ ♣❛rt✐t✐♦♥

❉❡♥♦t❡ t❤❡ ♣❛rt✐t✐♦♥ ❜② c =

j γj ✇✐t❤ ❝❡❧❧s γj ✶ ❋✐♥❞ t❤❡ ❝❡❧❧ γ(x) ✇❤❡r❡ x ❢❛❧❧s ✷ ❈♦♥s✐❞❡r t❤❡ tr❛✐♥✐♥❣ ❞❛t❛ ✐♥ t❤❡ ❝❡❧❧ γ(x) ✸ Pr❡❞✐❝t✐♦♥ ˆ

h(x, c) ❂ ▼❛❥♦r✐t② ✈♦t❡ ♦✈❡r t❤❡ tr❛✐♥✐♥❣ ❞❛t❛ ✐♥ ❝❡❧❧ γ(x)

P❛rt✐t✐♦♥✲❜❛s❡❞ ❝❧❛ss✐✜❡r ✭✷✴✹✮ ❇✉✐❧❞✐♥❣ ❞❛t❛✲❞r✐✈❡♥ ♣❛rt✐t✐♦♥s

• ❙t❛rt ✇✐t❤ ❛❧❧ t❤❡ tr❛✐♥✐♥❣ ❞❛t❛ ❛♥❞ ✜♥❞ ❛ ✭s✐♠♣❧❡✮ ❝❧❛ss✐✜❡r

✇❤✐❝❤ ♠✐♥✐♠✐③❡s s♦♠❡ ❝♦st ❢✉♥❝t✐♦♥

• ❘❡♣❡❛t t❤❡ ♣r♦❝❡ss ✇✐t❤ t❤❡ s✉❜s❡t ♦❢ tr❛✐♥✐♥❣ ❞❛t❛ ♦♥ ❡❛❝❤

s✐❞❡ ♦❢ t❤❡ ❢r♦♥t✐❡r ♦❢ t❤❡ ❝❧❛ss✐✜❡r − → t❤✐s ✐s ❝❛❧❧❡❞ r❡❝✉rs✐✈❡ ♣❛rt✐t✐♦♥✐♥❣ tr❡❡ r❡♣r❡s❡♥t❛t✐♦♥ r❡❝✉rs✐✈❡ ♣❛rt✐t✐♦♥✐♥❣ ♦❢ t❤❡ X✲❞♦♠❛✐♥

P❛rt✐t✐♦♥✲❜❛s❡❞ ❝❧❛ss✐✜❡r ✭✸✴✹✮ ❍②♣❡r♣❛r❛♠❡t❡rs

• ❈♦st ❢✉♥❝t✐♦♥ ♦♣t✐♠✐③❡❞ ❧♦❝❛❧❧② ✭❛t t❤❡ ❝❡❧❧ ❧❡✈❡❧ ❢♦r t❤❡ ❞❛t❛

✇✐t❤✐♥ t❤❡ ❝❡❧❧✮

• ◆✉♠❜❡r ♦❢ ♠✐♥✐♠❛❧ ♣♦✐♥ts ✐♥ ❛ ❝❡❧❧
• ▼❛①✐♠❛❧ ❞❡♣t❤ ♦❢ t❤❡ tr❡❡ ♦r t♦t❛❧ ♥✉♠❜❡r ♦❢ ❝❡❧❧s ❡st✐♠❛t❡❞

❜② ♣r✉♥✐♥❣ t❤❡ tr❡❡ ✲ ♣r✉♥✐♥❣ ❛♠♦✉♥ts t♦ ❡①♣❧♦r❡ t❤❡ ❝❧❛ss ♦❢ ❛❧❧ s✉❜♣❛rt✐t✐♦♥s ✭s✉❜tr❡❡s✮ ❛♥❞ ♦♣t✐♠✐③❡ ❛ ♣❡♥❛❧✐③❡❞ ❝r✐t❡r✐♦♥ ♦❢ t❤❡ ❢♦r♠ ❛r❣ ♠✐♥

c

ˆ Ln(hc) + λ|c| ✇❤❡r❡ c ⊂ ˆ c ✐s t❤❡ ❝♦❧❧❡❝t✐♦♥ ♦❢ s✉❜♣❛rt✐t✐♦♥s ♦❜t❛✐♥❡❞ ❢r♦♠ t❤❡ ❧❡❛r♥❡❞ ♣❛rt✐t✐♦♥ ❜② ♣r✉♥✐♥❣ ❢r♦♠ ❜♦tt♦♠ t♦ t♦♣

Pr✉♥✐♥❣ ❡①❛♠♣❧❡

P❛rt✐t✐♦♥✲❜❛s❡❞ ❝❧❛ss✐✜❡r ✭✹✴✹✮ ❚❤❡♦r②

• ❈❛s❡ ♦❢ r❡❣✉❧❛r ♣❛rt✐t✐♦♥s ✇✐t❤ ❝❡❧❧s ✇❤✐❝❤ ❛r❡ ❤②♣❡r❝✉❜❡s ♦❢

Rd ✇✐t❤ ❡❞❣❡s ♦❢ ❧❡♥❣t❤ δn ✿ EL(ˆ h(·, δn)) → L∗ ✉♥❞❡r t❤❡ ❝♦♥❞✐t✐♦♥ ✿ nδd

n → ∞ ❛♥❞ δn → ✵ ✇❤❡♥ n → ∞

✭♥❡❡❞ ❡♥♦✉❣❤ ❞❛t❛ ♣♦✐♥ts ✐♥ ❡✈❡r② ❝❡❧❧ ❛♥❞ ❝❡❧❧ ❞✐❛♠❡t❡r ❣♦ t♦ ③❡r♦ ❛s s❛♠♣❧❡ s✐③❡ ❣r♦✇s✮

• ❈❛s❡ ♦❢ ❞❛t❛✲❞r✐✈❡♥ ♣❛rt✐t✐♦♥s ✿ ❱❈ ❛♥❞ ❘❛❞❡♠❛❝❤❡r t❤❡♦r②

❛♣♣❧✐❡s

❚❛❦❡✲❤♦♠❡ ♠❡ss❛❣❡ ♦♥ ❧♦❝❛❧ ♠❡t❤♦❞s

▼❛❥♦r ❧✐♠✐t❛t✐♦♥s ✿

• ❚❤❡ k✲◆❡❛r❡st ◆❡✐❣❤❜♦r ♠❡t❤♦❞ r❡q✉✐r❡s t♦ st♦r❡ ❛❧❧ t❤❡

tr❛✐♥✐♥❣ ❞❛t❛ ✐♥ ♦r❞❡r t♦ ♣r❡❞✐❝t t❤❡ ❧❛❜❡❧ ♦❢ ♥❡✇ ❡♥tr✐❡s✳

• ❉❡❝✐s✐♦♥ tr❡❡s ❛r❡ ❡①tr❡♠❡❧② ✉♥st❛❜❧❡✳
• ❇♦t❤ ❞✐s♣❧❛② ♣r❡❞✐❝t✐♦♥ ♣❡r❢♦r♠❛♥❝❡ ❜❡❧♦✇ st❛t❡✲♦❢✲t❤❡✲❛rt

♠❡t❤♦❞s ❱✐rt✉❡ ♦❢ ❞❡❝✐s✐♦♥ tr❡❡s ✿

• ❈❛♥ ❤❛♥❞❧❡ ♠✐ss✐♥❣✴❝❛t❡❣♦r✐❝❛❧ ❞❛t❛✱ s❝❛❧❡ ❝❤❛♥❣❡
• ❈❛♥ ❜❡ ❡①♣r❡ss❡❞ ✐♥ t❡r♠s ♦❢ ❧♦❣✐❝❛❧ r✉❧❡ −

→ ❡①♣❧❛✐♥❛❜❧❡ ♠❛❝❤✐♥❡ ❧❡❛r♥✐♥❣

✷✳ ❈♦♥s✐st❡♥❝② ♦❢ ❣❧♦❜❛❧ ♠❡t❤♦❞s

❛✳ ❇♦♦st✐♥❣

❍✐st♦r✐❝❛❧ ♣❡rs♣❡❝t✐✈❡ ♦♥ ❇♦♦st✐♥❣

• ❖r✐❣✐♥❛❧ ♣❛♣❡r ♣r❡s❡♥ts ❜♦♦st✐♥❣ ❛s ❛♥ ❡♥s❡♠❜❧❡ ♠❡t❤♦❞ ✿

❋r❡✉♥❞✱ ❨✳ ❛♥❞ ❙❝❤❛♣✐r❡✱ ❘✳ ❊✳ ✭■❈▼▲✱ ✶✾✾✻✮✳

• ■♥t❡r♣r❡t❛t✐♦♥ ♦❢ ❜♦♦st✐♥❣ ❛s st♦❝❤❛st✐❝ ❣r❛❞✐❡♥t ❞❡s❝❡♥t ♦❢ ❛

❣❧♦❜❛❧ ♦♣t✐♠✐③❛t✐♦♥ ♣r♦❜❧❡♠ ✿ ❋r✐❡❞♠❛♥✱ ❏✳ ❍✳ ✭❈❙❉❆✱ ✷✵✵✷✮✳

• ❲❛❧❞ ▼❡♠♦r✐❛❧ ❧❡❝t✉r❡ ✭■▼❙✱ ✷✵✵✵✮ ✿ ▲❡♦ ❇r❡✐♠❛♥ ❞❡❝❧❛r❡s

t❤❛t ✧✉♥❞❡rst❛♥❞✐♥❣ ❇♦♦st✐♥❣ ✐s t❤❡ ♠♦st ✐♠♣♦rt❛♥t ♣r♦❜❧❡♠ ✐♥ ▼❛❝❤✐♥❡ ▲❡❛r♥✐♥❣✧

• ❋✐rst ♣r♦♦❢s ♦❢ ❜♦♦st✐♥❣ ❝♦♥s✐st❡♥❝② ✿

❏✐❛♥❣✱ ❲✳✴ ❩❤❛♥❣✱ ❚✳ ✴ ▲✉❣♦s✐✱ ●✳ ❛♥❞ ❱❛②❛t✐s✱ ◆✳ ✭❙♣❡❝✐❛❧ ✐ss✉❡ ✇✐t❤ ❞✐s❝✉ss✐♦♥ ✐♥ t❤❡ ❆♥♥❛❧s ♦❢ ❙t❛t✐st✐❝s✱ ✷✵✵✹✮✳

• ❳❣❜♦♦st✱ ❛ s❝❛❧❛❜❧❡ ✐♠♣❧❡♠❡♥t❛t✐♦♥ ✿ ❈❤❡♥✱ ❚✳ ❛♥❞ ●✉❡str✐♥✱

❈✳ ✭❆❈▼ ❙■●❑❉❉✱ ✷✵✶✻✮✳

❙♦♠❡ ♠❛❥♦r ♣❛♣❡rs ♦♥ ❜♦♦st✐♥❣

• ❈♦♥✈❡①✐t②✱ ❈❧❛ss✐✜❝❛t✐♦♥✱ ❛♥❞ ❘✐s❦ ❇♦✉♥❞s✱ P❡t❡r ▲ ❇❛rt❧❡tt✱

▼✐❝❤❛❡❧ ■ ❏♦r❞❛♥✱ ❏♦♥ ❉ ▼❝❆✉❧✐✛❡✱ ❏❆❙❆ ✷✵✵✻

• ❩❤❛♥❣✱ ❚♦♥❣ ❀ ❨✉✱ ❇✐♥✳ ❇♦♦st✐♥❣ ✇✐t❤ ❡❛r❧② st♦♣♣✐♥❣ ✿

❈♦♥✈❡r❣❡♥❝❡ ❛♥❞ ❝♦♥s✐st❡♥❝②✳ ❆♥♥✳ ❙t❛t✐st✳ ✸✸ ✭✷✵✵✺✮✱ ♥♦✳ ✹✱ ✶✺✸✽✕✶✺✼✾✳

• P✳▲✳ ❇❛rt❧❡tt✱ ▼✳ ❚r❛s❦✐♥✱ ❆❞❛❜♦♦st ✐s ❝♦♥s✐st❡♥t✱ ❏▼▲❘ ✷✵✵✻✳

❇♦♦st✐♥❣ t♦❞❛②

• ■♠♣❧✐❝✐t r❡❣✉❧❛r✐③❛t✐♦♥ s❝❤❡♠❡s ✉s❡❞ ✐♥ t❤❡ ❛♥❛❧②s✐s ♦❢ ❜♦♦st✐♥❣

❛r❡ ✐♥✈♦❦❡❞ ❢♦r t❤❡ ❛♥❛❧②s✐s ♦❢ ❞❡❡♣ ❧❡❛r♥✐♥❣✱ ❡✳❣✳ ❡❛r❧② st♦♣♣✐♥❣

• ❇♦♦st✐♥❣ ❤❡✉r✐st✐❝s ❛r❡ t❤❡ st❛rt✐♥❣ ♣♦✐♥t ♦❢ ✧♥♦✈❡❧✧ ✈❛r✐❛t✐♦♥s

♦❢ ❧❡❛r♥✐♥❣ ❢r❛♠❡✇♦r❦s✱ ❡✳❣✳ s❡❧❢✲♣❛❝❡❞ ❧❡❛r♥✐♥❣

• ❖♥❣♦✐♥❣ r❡s❡❛r❝❤ tr❛❝❦ ✿ ❏✉❧❛✐t✐ ❆❧❛❢❛t❡✱ ❨♦❛✈ ❋r❡✉♥❞ ✭✷✵✶✾✮

❋❛st❡r ❇♦♦st✐♥❣ ✇✐t❤ ❙♠❛❧❧❡r ▼❡♠♦r②✱ ◆❡✉r■P❙ ✷✵✶✾

Pr✐♥❝✐♣❧❡ ♦❢ ❧✐♥❡❛r ❛❣❣r❡❣❛t✐♦♥

• ■♥♣✉t
• ❉❛t❛ s❛♠♣❧❡ Dn = {(Xi, Yi) : i = ✶, . . . , n} ✇✐t❤ ❝❧❛ss✐✜❝❛t✐♦♥

❞❛t❛ {−✶, +✶}

• ❇❛s❡ ❤②♣♦t❤❡s✐s ❝❧❛ss H ♦❢ ✇❡❛❦ ❝❧❛ss✐✜❡rs s✉❝❤ ❛s ❞❡❝✐s✐♦♥

tr❡❡s ✭❛ss✉♠❡❞ t♦ ❜❡ s②♠♠❡tr✐❝✱ ✐✳❡✳ h ∈ H ✐✛ −h ∈ H✮

• ■t❡r❛t✐♦♥s t = ✶, . . . , T✳
• ❈♦♠♣✉t❡ ✇❡✐❣❤ts wt > ✵ ❛♥❞ ✇❡❛❦ ❝❧❛ss✐✜❡rs

ht ∈ H

• ❖✉t♣✉t✳
• ❚❤❡ ❇♦♦st✐♥❣ ❝❧❛ss✐✜❡r t❛❦❡s t❤❡ s✐❣♥ ♦❢ t❤❡ ❢♦❧❧♦✇✐♥❣ ❧✐♥❡❛r

❝♦♠❜✐♥❛t✐♦♥ ♦❢ ✇❡❛❦ ❝❧❛ss✐✜❡rs ✿ fn(x) =

T

• t=✶

wt ht(x)

◆♦t❛t✐♦♥s

• ❈♦st ❢✉♥❝t✐♦♥ ✿ ❤❡r❡ ϕ(u) = exp(−u)
• ❇♦♦st✐♥❣ ❞✐str✐❜✉t✐♦♥s ♦♥ t❤❡ ❞❛t❛ ✿ s❡q✉❡♥❝❡ ♦❢ ❞✐s❝r❡t❡

♣r♦❜❛❜✐❧✐t② ❞✐str✐❜✉t✐♦♥s ♦✈❡r {✶, . . . , n} ❞❡♥♦t❡❞ ❜② Πt✱ t ≥ ✶

• ❲❡✐❣❤t❡❞ tr❛✐♥✐♥❣ ❡rr♦r ✿ ❢♦r ❛♥② ✇❡❛❦ ❝❧❛ss✐✜❡r h ∈ H ❛♥❞ ❢♦r

t ≥ ✶

• εt(h) =

n

• i=✶

Πt(i) · I{h(Xi) = Yi}

❖r✐❣✐♥❛❧ ❜♦♦st✐♥❣ ❛❧❣♦r✐t❤♠ ✿ ❆❞❛❇♦♦st

✶ ■♥✐t✐❛❧✐③❛t✐♦♥✳ Π✶ ✐s t❤❡ ✉♥✐❢♦r♠ ❞✐str✐❜✉t✐♦♥ ♦♥ {✶, . . . , n} ✷ ❇♦♦st✐♥❣ ✐t❡r❛t✐♦♥s✳ ❋♦r t = ✶, . . . , T✱ ✜♥❞ t❤❡ ✇❡❛❦

❝❧❛ss✐✜❡r s✉❝❤ t❤❛t ✿

• ht = ❛r❣ ♠✐♥

h∈H

• εt(h)

t❤❡♥ s❡t et = εt( ht) ❛♥❞ t❛❦❡ t❤❡ ✇❡✐❣❤t t♦ ❜❡ wt = ✶ ✷ log ✶ − et et

• ✸ ❇♦♦st✐♥❣ ❞✐str✐❜✉t✐♦♥ ✉♣❞❛t❡✳ ❋♦r ❛♥② i = ✶, . . . , n✱

Πt+✶(i) ∝ Πt(i) exp

• −wtYi ·

ht(Xi)

❊①❛♠♣❧❡ ♦❢ ❆❞❛❜♦♦st r✉♥

❇♦♦st✐♥❣ ❛s ❛ ❈❘▼ ♣r✐♥❝✐♣❧❡

• ❇♦♦st✐♥❣ ❝❛♥ ❜❡ ✐♥t❡r♣r❡t❡❞ ❛s ❛ ❢✉♥❝t✐♦♥❛❧ ❣r❛❞✐❡♥t ❞❡s❝❡♥t

♦♥ t❤❡ ❢♦❧❧♦✇✐♥❣ ❢✉♥❝t✐♦♥❛❧ ✿ ˆ An(f ) = ✶ n

n

• i=✶

exp (−Yif (Xi)) ✇❤❡r❡ f ✐s t❛❦❡♥ ✐♥ ❛ ❤②♣♦t❤❡s✐s s♣❛❝❡ ✇❤✐❝❤ ✐s t❤❡ ❧✐♥❡❛r s♣❛♥ ♦❢ ✬s✐♠♣❧❡✬ s❡t H ♦❢ ❝❧❛ss✐✜❡rs✳

• ❘❡❢❡r t♦ ✿ ❏✳ ❋r✐❡❞♠❛♥✱ ✏●r❡❡❞② ❋✉♥❝t✐♦♥ ❆♣♣r♦①✐♠❛t✐♦♥ ✿ ❆
• r❛❞✐❡♥t ❇♦♦st✐♥❣ ▼❛❝❤✐♥❡✑✱ ❚❤❡ ❆♥♥❛❧s ♦❢ ❙t❛t✐st✐❝s✱ ❱♦❧✳ ✷✾✱

◆♦✳ ✺✱ ✷✵✵✶✳

■♥t❡r♣r❡t❛t✐♦♥ ❛s ❝♦♦r❞✐♥❛t❡ ❞❡s❝❡♥t ✭✶✴✷✮

• ▲❡t t❤❡ ❡♠♣✐r✐❝❛❧ ❝♦♥✈❡① r✐s❦ ✇✐t❤ ❡①♣♦♥❡♥t✐❛❧ ❧♦ss ✿ ❢♦r

✇ ∈ RT

• An(✇) = ✶

n

n

• i=✶

exp

• −Yi

T

• t=✶

wtht(Xi)

• ❧❡t ❡t ❜❡ t❤❡ ✉♥✐t ✈❡❝t♦r ♦♥ t❤❡ t✲t❤ ❝♦♦r❞✐♥❛t❡ ❛♥❞

✇t−✶ = (w✶, . . . , wt−✶, ✵, . . . , ✵)T

■♥t❡r♣r❡t❛t✐♦♥ ❛s ❝♦♦r❞✐♥❛t❡ ❞❡s❝❡♥t ✭✷✴✷✮

• ❲❡ ❤❛✈❡ t❤❛t ✿ ♦♣t✐♠❛❧ ❡❧❡♠❡♥t ❛t ❡❛❝❤ ✐t❡r❛t✐♦♥ ✐s ht

❡t = ❛r❣ ♠✐♥

t

d An(✇t−✶ + η❡t) dη

• η=✵
• ❛♥❞ ❛❧s♦ t❤❛t ✿ ♦♣t✐♠❛❧ ✇❡✐❣❤t ✐s ❛s ✐♥ ❆❞❛❇♦♦st

d An(✇t−✶ + η❡t) dη = ✵ ⇔ η = ✶ ✷ log ✶ − et et

• ✇❤❡r❡ et =

εt(ht)

❍②♣❡r♣❛r❛♠❡t❡rs ❢♦r ●r❛❞✐❡♥t ❇♦♦st✐♥❣

• ❚❤❡ ♥✉♠❜❡r T ♦❢ ✐t❡r❛t✐♦♥s ✿ t❤❡ ❜✐❣❣❡r✱ t❤❡ ❤✐❣❤❡r t❤❡ ❝❤❛♥❝❡

♦❢ ♦✈❡r✜tt✐♥❣✳

• ❚❤❡ st❡♣s✐③❡ η ✐s ✜①❡❞ ✿ ❞❡❝r❡❛s✐♥❣ ❧❡❛r♥✐♥❣ r❛t❡ t❡♥❞s t♦

✐♠♣r♦✈❡ ❣❡♥❡r❛❧✐③❛t✐♦♥ ♣❡r❢♦r♠❛♥❝❡✳

❉②♥❛♠✐❝s ♦❢ ❜♦♦st✐♥❣ ✐t❡r❛t✐♦♥s ❛ ♠②st❡r② ♥♦t ❢✉❧❧② ❡①♣❧❛✐♥❡❞ ②❡t✳✳✳

❚❤❡ t❡st ❡rr♦r ❝♦♥t✐♥✉❡s t♦ ❞r♦♣ ❛❧♦♥❣ t❤❡ ✐t❡r❛t✐♦♥s ❡✈❡♥ t❤♦✉❣❤ t❤❡ tr❛✐♥✐♥❣ ❡rr♦r ✐s ③❡r♦ − → ❘❡❣✉❧❛r✐③❛t✐♦♥ ❡✛❡❝t t❤❛♥❦s t♦ ❛✈❡r❛❣✐♥❣ ❄

❙t❛t✐st✐❝❛❧ ❛♥❛❧②s✐s ♦❢ ❜♦♦st✐♥❣ ♠❡t❤♦❞s

❑❡② ❝♦♠♣❧❡①✐t② ❛r❣✉♠❡♥t ❢♦r ❝♦♥s✐st❡♥❝②

Pr♦♣♦s✐t✐♦♥✳

❚❤❡ ❡♠♣✐r✐❝❛❧ ❘❛❞❡♠❛❝❤❡r ❝♦♠♣❧❡①✐t② ♦❢ ❛ ❝♦♥✈❡① ❤✉❧❧ ♦❢ ❝❧❛ss H ✐s t❤❡ s❛♠❡ ❛s t❤❡ ♦♥❡ ♦❢ t❤❡ ♦r✐❣✐♥❛❧ ❝❧❛ss✳

• Rn
• ❝♦♥✈(H)
• =

Rn(H)

Pr♦♣♦s✐t✐♦♥✳

❯♥❞❡r ❱❈ ❞✐♠❡♥s✐♦♥ ❛ss✉♠♣t✐♦♥ ✭V < +∞✮ ♦♥ H✱ ✇❡ ❤❛✈❡ ✿ Rn(H) = E( Rn(H)) = O

• V

n

❆♥❛❧②s✐s ♦❢ ❜♦♦st✐♥❣

❘❡s✉❧t ★ ✶ ✲ ▼❛r❣✐♥ ❜♦✉♥❞s

▼❛r❣✐♥ ❧♦ss

• ❋✐① ρ > ✵
• ❚❤❡ ♠❛r❣✐♥ ❧♦ss ✐s ❞❡✜♥❡❞✱ ❢♦r ❛♥② u, v ∈ R✱ ❛s ✿

ℓ(u, v) = mρ(uv) ✇❤❡r❡ mρ(t) =                ✵ ✐❢ ρ ≤ t ✶ − t ρ ✐❢ ✵ ≤ t ≤ ρ ✶ ✐❢ t ≤ ✵

• ❊♠♣✐r✐❝❛❧ ♠❛r❣✐♥ ❡rr♦r ♦♥ ❛ s❛♠♣❧❡ Dn ✿
• Ln,ρ(f ) = ✶

n

n

• i=✶

mρ(Yif (Xi))

❈♦♥tr❛❝t✐♦♥ ♣r✐♥❝✐♣❧❡

❚❤❡♦r❡♠✳ ✭▲❡❞♦✉①✱ ❚❛❧❛♥❣r❛♥❞ ✭✶✾✾✶✮✮

❈♦♥s✐❞❡r ψ : R → R ❛ ▲✐♣s❝❤✐t③ ❢✉♥❝t✐♦♥ ✇✐t❤ ❝♦♥st❛♥t κ ❚❤❡♥✱ ❢♦r ❛♥② ❝❧❛ss F ♦❢ r❡❛❧✲✈❛❧✉❡❞ ❢✉♥❝t✐♦♥s✱ ✇❡ ❤❛✈❡ ✿

• Rn(ψ ◦ F) ≤ κ

Rn(F)

▼❛r❣✐♥ ❜♦✉♥❞s ❢♦r ❝♦♥✈❡① ❛❣❣r❡❣❛t✐♦♥

❚❤❡♦r❡♠✳

▲❡t H ❞❡♥♦t❡ ❛ s❡t ♦❢ ❝❧❛ss✐✜❡rs ✇✐t❤ ✜♥✐t❡ ❱❈ ❞✐♠❡♥s✐♦♥ V ✳ ❋✐① ρ > ✵✱ ❛♥❞ δ > ✵✳ ❚❤❡♥✱ ✇✐t❤ ♣r♦❜❛❜✐❧✐t② ❛t ❧❡❛st ✶ − δ✱ ✇❡ ❤❛✈❡✱ ❢♦r ❛♥② ❢✉♥❝t✐♦♥ f ∈ ❝♦♥✈(H) ✿ L(f ) ≤ Ln,ρ(f ) + ✷ ρ

• ✷V log(en/V )

n +

• log(✶/δ)

✷n ❛♥❞ L(f ) ≤ Ln,ρ(f ) + ✷ ρ

• Rn(H) + ✸
• log(✷/δ)

✷n

❆♥❛❧②s✐s ♦❢ ❜♦♦st✐♥❣

❘❡s✉❧t ★ ✷ ✲ ❈♦♥s✐st❡♥❝② ♦❢ r❡❣✉❧❛r✐③❡❞ ❜♦♦st✐♥❣

◆♦t❛t✐♦♥s ❛♥❞ ❛ss✉♠♣t✐♦♥

• ▲❡t F✶ = ❝♦♥✈(H) ❛♥❞ Fλ = λ · F✶
• ❇♦♦st✐♥❣ ❡st✐♠❛t♦r ✿
• f λ = ❛r❣ ♠✐♥

f ∈Fλ

• A(f )

❆ss✉♠♣t✐♦♥✳ ✭❉❡♥s❡♥❡ss ♣r♦♣❡rt②✮

❲❡ ❝♦♥s✐❞❡r t❤❛t t❤❡ ❞✐str✐❜✉t✐♦♥ P ❛♥❞ t❤❡ ❝❧❛ss H ❛r❡ s✉❝❤ t❤❛t ✿ lim

λ→∞ inf f ∈Fλ

A(f ) = A∗

❈♦♥s✐st❡♥❝② ♦❢ r❡❣✉❧❛r✐③❡❞ ❜♦♦st✐♥❣

❚❤❡♦r❡♠✳ ✭▲✉❣♦s✐✱ ❱❛②❛t✐s ✭❆♦❙✱ ✷✵✵✹✮✮

❆ss✉♠❡ ϕ ∈ {exp, ❧♦❣✐t} ❛♥❞ H ❤❛s ✜♥✐t❡ ❱❈ ❞✐♠❡♥s✐♦♥✳ ❈♦♥s✐❞❡r λ✶, λ✷, . . . ❛ ♣♦s✐t✐✈❡ s❡q✉❡♥❝❡ s✉❝❤ t❤❛t ✿ λn → ∞ ❛♥❞ λnϕ′(λn)

• log n

n → ✵ ❚❤❡♥ ✿ L(s❣♥( f λn)) → L∗ , ❛❧♠♦st s✉r❡❧② ◆❇ ✿ ❋❛st r❛t❡s r❡s✉❧t ✇✐t❤ ♠♦❞❡❧ s❡❧❡❝t✐♦♥ ✐♥ ❇❧❛♥❝❤❛r❞✱ ▲✉❣♦s✐ ❛♥❞ ❱❛②❛t✐s ✭❏▼▲❘✱ ✷✵✵✸✮

✷✳ ❈♦♥s✐st❡♥❝② ♦❢ ❣❧♦❜❛❧ ♠❡t❤♦❞s

❜✳ ❙✉♣♣♦rt ❱❡❝t♦r ▼❛❝❤✐♥❡s

❘❑❍❙ t❤❡♦r② ✐♥ ❛ ♥✉ts❤❡❧❧

❚❤❡♦r❡♠✳

▲❡t k : Rd × Rd → R ❛ ❦❡r♥❡❧ t❤❛t ✐s s②♠♠❡tr✐❝ ❛♥❞ ♣♦s✐t✐✈❡✳ ❚❤❡♥✱ t❤❡r❡ ❡①✐sts ✿

• ❛ ❍✐❧❜❡rt s♣❛❝❡ (Hk, ·, ·)✱ ❝❛❧❧❡❞ t❤❡ ❘❡♣r♦❞✉❝✐♥❣ ❑❡r♥❡❧

❍✐❧❜❡rt ❙♣❛❝❡

• ❛ ♠❛♣♣✐♥❣ Φ : Rd → Hk s✉❝❤ t❤❛t ✿

∀u, v ∈ Rd , k(u, v) = Φ(u), Φ(v) P❧✉s✱ ✇❡ ❤❛✈❡ t❤❡ r❡♣r♦❞✉❝✐♥❣ ♣r♦♣❡rt② ✿ ∀h ∈ Hk , ∀u ∈ Rd , h(u) = h, k(u, ·) ❛♥❞ hk =

• h, h

Pr✐♥❝✐♣❧❡ ♦❢ ❙✉♣♣♦rt ❱❡❝t♦r ▼❛❝❤✐♥❡s

• ❖♣t✐♠✐③❛t✐♦♥ ♣r♦❜❧❡♠ ✿ s❡t λ > ✵

ˆ hλ = ❛r❣ ♠✐♥

Hk

n

• i=✶

(✶ − Yih(Xi))+ + λhk

• ❈❧❛ss ♦❢ ❢✉♥❝t✐♦♥s✴❝❧❛ss✐✜❡rs ✿ g = s❣♥(h) ✇❤❡r❡

h ∈ H(X) ⊜

• h =

n

• i=✶

αik(Xi, ·) : α✶, . . . , αn ∈ R

• ⊂ Hk

❑❡② ♣r♦♣❡rt② ♦❢ ❙❱▼

• ❇② t❤❡ r❡♣r❡s❡♥t❡r✬s t❤❡♦r❡♠ ✭❛❞♠✐tt❡❞✮✱ ✐t s✉✣❝❡s t♦

♠✐♥✐♠✐③❡ ♦✈❡r H(X) ✐♥st❡❛❞ ♦❢ Hk

• ◆♦t❡ t❤❛t✱ ✐❢ h ∈ H(X) ✿

h✷

k =

• i,j

αiαjk(Xi, Xj)

• ❧♦❜❛❧ ♠❡t❤♦❞s ✭❡✳❣✳ ❈❘▼✮
• ❇❛s❡❞ ♦♥ ❡♠♣✐r✐❝❛❧ ♠✐♥✐♠✐③❛t✐♦♥ ♦❢ ❡rr♦r ❢✉♥❝t✐♦♥❛❧s
• ❊①❛♠♣❧❡ ✐♥ t❤❡ ❝❛s❡ ♦❢ s♦❢t ❝❧❛ss✐✜❡rs h : Rd → R
• ❈♦♥✈❡① r✐s❦ ♠✐♥✐♠✐③❛t✐♦♥✱ ✇✐t❤ ϕ ♣♦s✐t✐✈❡ ❝♦♥✈❡① ❝♦st

❢✉♥❝t✐♦♥ ✿

• A(h) = ✶

n

n

• i=✶

ϕ(−Yih(Xi))

• ◆♦t❡ t❤❛t ✐❢ h ∈ s♣❛♥(H) ✇✐t❤ H s♦♠❡ ❝❧❛ss ♦❢ ❝❧❛ss✐✜❡rs✱

t❤❡♥ t❤❡ ♠✐♥✐♠✐③❛t✐♦♥ ♣r♦❜❧❡♠ ✐s ❝♦♥✈❡①✳

• ▼❛✐♥ ✐ss✉❡ ✿ ❝♦♠♣❧❡①✐t② ♦❢ t❤❡ ❝❧❛ss H ♦❢ ❝❛♥❞✐❞❛t❡ ❞❡❝✐s✐♦♥

r✉❧❡s

❘❛❞❡♠❛❝❤❡r ❝♦♠♣❧❡①✐t② ♦❢ ❙❱▼

Pr♦♣♦s✐t✐♦♥✳

▲❡t X✶, . . . , Xn ❜❡ ❛♥ n✲s❛♠♣❧❡ ✐♥ Rd✱ ❛♥❞ ❞❡♥♦t❡ ❜② K t❤❡ ●r❛♠ ♠❛tr✐① ✇✐t❤ ❝♦❡✣❝✐❡♥ts k(Xi, Xj)✱ ✶ ≤ i, j ≤ n✳ ■♥tr♦❞✉❝❡ t❤❡ s✉❜s♣❛❝❡ ♦❢ ❢✉♥❝t✐♦♥s ✇✐t❤ ❜♦✉♥❞❡❞ ❘❑❍❙ ♥♦r♠ ✿ FM = {h ∈ Hk : hk ≤ M} ❲❡ t❤❡♥ ❤❛✈❡ ✿

• Rn(FM) ≤ M
• tr❛❝❡ (K)

n ■♥ ❛❞❞✐t✐♦♥✱ ✐❢ ✇❡ ❤❛✈❡ ✿ k(Xi, Xi) ≤ R✷ ❢♦r ✶ ≤ i ≤ n✱ t❤❡♥

• Rn(FM) ≤ MR

√n

❘❡♠✐♥❞❡r ❢r♦♠ ❈❤❛♣t❡r ✷ ✲ ❯♥✐❢♦r♠ ❜♦✉♥❞

Pr♦♣♦s✐t✐♦♥✳

❈♦♥s✐❞❡r F ❛ ❝❧❛ss ♦❢ ❢✉♥❝t✐♦♥s ❢r♦♠ Z t♦ [✵, ✶] ❚❤❡♥✱ ✇✐t❤ ♣r♦❜❛❜✐❧✐t② ❛t ❧❡❛st ✶ − δ ✿ sup

f ∈F

• E
• f (Z✶)
• − ✶

n

n

• i=✶

f (Zi)

• ≤ ✷Rn(F) +
• log(✶/δ)

✷n ❛♥❞ sup

f ∈F

• E
• f (Z✶)
• − ✶

n

n

• i=✶

f (Zi)

• ≤ ✷

Rn(F) + ✸

• log(✷/δ)

✷n

▼❛r❣✐♥ ❜♦✉♥❞s ❢♦r ❙❱▼ ❝❧❛ss✐✜❝❛t✐♦♥

❚❤❡♦r❡♠✳ ✭❋✐①❡❞ ♠❛r❣✐♥✮

▲❡t Hk t❤❡ ❘❑❍❙ ✇✐t❤ ❦❡r♥❡❧ k✳ ❋✐① ρ ∈ (✵, ✶)✱ ❛♥❞ δ > ✵✳ ❚❤❡♥ ✇✐t❤ ♣r♦❜❛❜✐❧✐t② ❛t ❧❡❛st ✶ − δ✱ ✇❡ ❤❛✈❡✱ ❢♦r ❛♥② ❙❱▼ ❝❧❛ss✐✜❡r g ✿ L(g) ≤ Ln,ρ(g) + ✷ MR ρ√n

• +
• log(✶/δ)

✷n ❛♥❞ L(g) ≤ Ln,ρ(g) + ✷

• M
• tr❛❝❡ (K)

ρn

• + ✸
• log(✷/δ)

✷n