電子發(fā)燒友App
創(chuàng)作
發(fā)文章
發(fā)帖 
提問 
發(fā)資料
發(fā)視頻在本節(jié)中，我們將展示如何使用我們在上一節(jié)中介紹的 GP 先驗執(zhí)行后驗推理和進行預(yù)測。我們將從回歸開始，我們可以在其中以封閉形式執(zhí)行推理。這是一個“簡而言之 GP”部分，可在實踐中快速啟動和運行高斯過程。我們將從頭開始編寫所有基本操作的代碼，然后介紹 GPyTorch，這將使使用最先進的高斯過程以及與深度神經(jīng)網(wǎng)絡(luò)的集成更加方便。我們將在下一節(jié)中深入探討這些更高級的主題。在該部分中，我們還將考慮需要近似推理的設(shè)置——分類、點過程或任何非高斯似然。
18.3.1。回歸的后驗推理
觀察模型與我們想要學(xué)習(xí)的功能相關(guān)聯(lián)， f(x), 根據(jù)我們的觀察y(x), 都由一些輸入索引x. 在分類上，x可以是圖像的像素，并且y可能是關(guān)聯(lián)的類標(biāo)簽。在回歸中， y通常表示連續(xù)輸出，例如地表溫度、海平面、CO2濃度等
在回歸中，我們通常假設(shè)輸出是由潛在的無噪聲函數(shù)給出的f(x)加上 iid 高斯噪聲 ?(x):
和?(x)～N(0,σ2). 讓 y=y(X)=(y(x1),…,y(xn))?是我們訓(xùn)練觀察的向量，并且 f=(f(x1),…,f(xn))?是潛在無噪聲函數(shù)值的向量，在訓(xùn)練輸入中查詢 X=x1,…,xn.
我們假設(shè)f(x)～GP(m,k)，這意味著任何函數(shù)值的集合f具有聯(lián)合多元高斯分布，均值向量 μi=m(xi)和協(xié)方差矩陣 Kij=k(xi,xj). RBF核 k(xi,xj)=a2exp?(?12?2||xi?xj||2) 將是協(xié)方差函數(shù)的標(biāo)準選擇。為了符號簡單起見，我們將假設(shè)均值函數(shù)m(x)=0; 我們的推導(dǎo)可以在以后很容易地推廣。
假設(shè)我們想對一組輸入進行預(yù)測
那么我們想要找到x2和 p(f?|y,X). 在回歸設(shè)置中，我們可以在找到聯(lián)合分布后，使用高斯恒等式方便地找到這個分布f?=f(X?) 和y.
如果我們在訓(xùn)練輸入處評估等式(18.3.1)X， 我們有 y=f+?
上傳資料賺積分
工商網(wǎng)監(jiān)
評論