-
當前位置:首頁 > 創(chuàng)意學院 > 營銷推廣 > 專題列表 > 正文
二次回歸模型(二次回歸模型怎么做)
大家好!今天讓創(chuàng)意嶺的小編來大家介紹下關于二次回歸模型的問題,以下是小編對此問題的歸納整理,讓我們一起來看看吧。
開始之前先推薦一個非常厲害的Ai人工智能工具,一鍵生成原創(chuàng)文章、方案、文案、工作計劃、工作報告、論文、代碼、作文、做題和對話答疑等等
只需要輸入關鍵詞,就能返回你想要的內(nèi)容,有小程序、在線網(wǎng)頁版、PC客戶端和批量生成器
問友Ai官網(wǎng):https://ai.de1919.com。
本文目錄:
響應面法二次多項式回歸模型中的e是什么意思
響應面法:通過一系列確定性實驗,用多項式函數(shù)來近似隱式極限狀態(tài)函數(shù)。通過合理地選取試驗點和迭代策略,來保證多項式函數(shù)能夠在失效概率上收斂于真實的隱式極限狀態(tài)函數(shù)的失效概率。基本思想
通過一系列確定性實驗,用多項式函數(shù)來近似隱式極限狀態(tài)函數(shù)。通過合理地選取試驗點和迭代策略,來保證多項式函數(shù)能夠在失效概率上收斂于真實的隱式極限狀態(tài)函數(shù)的失效概率。
適用范圍
當真實的極限狀態(tài)函數(shù)非線性程度不大時,線性響應面具有較高的近似精度。二次不含交叉項的響應面法(quadratic polynomial without cross terms) 基本思想: 與線性響應面法類似,只不過它選取二次不含交叉項的多項式來近似隱式功能函數(shù)。
請教 如何用matlab中的regress來做二次回歸模型
如y=a+bx+c*x2如果x為1:10,函數(shù)值為y;
x1=x';x2=x1.^2;
X = [ones(length(x),x1,x2];
a是置信水平,默認0.05
[b,bint] = regress(y,X,a)
b是系數(shù)的矩陣
bint是回歸的擬合程度的一些指數(shù)
響應面二次多項回歸模型如何求最大值
二次回歸模型及最優(yōu)回歸模型有時多元線性回歸模型(4-12)不能反映實際情況,即在對回歸分析得到的回歸方程進行顯著性檢驗時不能通過統(tǒng)計檢驗。這時意味著原來的假設(即因變量與各自變量呈線性關系的假設不成立),需要在回歸模型中引入其他的項目,二次回歸模型可彌補此不足。若有m個因素x1,…,Xm,則二次回歸模型為

其中β0,{β1},{βii},{βij}為回歸系數(shù)(i,j=1,2,…,m),其個數(shù)為1+m(m+3)/2,ε為隨機誤差?;貧w系數(shù)的求解無法直接寫出計算公式,需要根據(jù)殘差平方和最小的原則采用最優(yōu)化方法或求解非線性方程(組)的方法求得。若使回歸系數(shù)的估計值有可能,必要條件為n>1+m(m+3)/2。當m較大時通常不能滿足這個必要條件。于是有必要從式(4-20)中選擇貢獻顯著的項,刪除不重要的項。遇到實際問題時需要考慮高階項,如XiXjXk,,等,這時如何通過自變量的篩選來提高回歸方程的顯著性以至找到最優(yōu)回歸方程是人們關心的問題。
何謂最優(yōu)回歸方程,在理論上尚無明確的標準。但是,在進行變量篩選以獲得最優(yōu)回歸方程時,以下幾個原則是必須考慮的。
第一,變量完備,回歸方程中盡可能包含對因變量有實際影響的自變量。
第二,模型從簡,回歸方程中所包含的自變量的個數(shù)盡可能少。
第三,充分擬合,回歸方程的剩余方差盡可能小。
但這幾點在實踐中可能很難同時滿足,因此,根據(jù)統(tǒng)計分析和問題的實際背景求得某種平衡才是最優(yōu)回歸方程概念的實質(zhì)。在回歸分析中,有許多有效的篩選變量的技術,如前進法、后退法、逐步回歸法、最優(yōu)子集法等。單從統(tǒng)計分析的角度,人們常用的選擇最優(yōu)回歸方程的方法是逐步回歸法,該方法的操作要點如下。
第一,根據(jù)問題所屬專業(yè)領域的理論和經(jīng)驗提出對因變量可能有影響的所有自變量。
第二,計算每一個自變量對因變量的相關系數(shù),按其絕對值從大到小排列。
第三,取相關系數(shù)絕對值最大的那個自變量來建立一元線性回歸模型,檢驗所得回歸方程的顯著性,若檢驗表明回歸效果顯著則轉(zhuǎn)入第四步,若檢驗表明回歸效果不顯著則停止建模。
第四,進行變量的追加、剔除和回歸方程的更新操作。
若檢驗表明回歸效果顯著,則按相關系數(shù)絕對值由大到小的順序逐一將相應的自變量引入回歸方程;每引入一個新的自變量,對新回歸方程中每一個自變量都要進行顯著性檢驗。
若檢驗表明回歸效果不顯著,則剔除對因變量影響最小的自變量,更新回歸方程;對更新后的回歸方程中的每一個自變量仍要進行顯著性檢驗、剔除、更新,直到回歸方程中的每一個自變量都顯著為止,再引入前面未曾引入的自變量。
以次類推,直到無法剔除已經(jīng)引入的自變量也無法引入新的自變量為止。
需要指出的是,逐步回歸法不能保證得到真正的最優(yōu)回歸方程,但此法是計算量較小、預測效果較好、有工具軟件支持、應用最多的一種方法。另外,逐步回歸法受檢驗的顯著性水平α影響較大,α較大將會有較多的自變量引入回歸方程,α較小將會導致一些重要的自變量被剔除。
設回歸模型中已經(jīng)引入L個自變量,其回歸方程的殘差平方和
,將方程中的某一個自變量Xj刪除,將刪除Xj后的殘差平方和記為Sj。
可以證明,若自變量Xj與因變量Y無關,則

若Xj與因變量Y有關,則

類似地,對于尚未引進回歸方程的自變量Xj,可以假設它已引進回歸方程,然后計算相應統(tǒng)計量Fj,用Fj的大小來判斷這個自變量作用的大小。
具體應用逐步回歸時,需要事先給定一個引入變量的F水平限Fin和一個刪除變量的水平限Fout,從一個不含任何自變量的方程出發(fā),首先在所有尚未引進方程的自變量中,找出Fj值最大的一個,如果Fj>Fin就引入自變量Xj;然后,在所有已引進的方程的自變量中,找出Fj最小的一個,如果Fj≤Fout,就刪除自變量Xj。這樣逐步引入、刪除,直到方程外沒有一個自變量的Fj大于Fin,方程內(nèi)沒有一個自變量的Fj小于Fout為止。
為了避免出現(xiàn)一個自變量反復引入、刪除的現(xiàn)象,事先給定的水平限應滿足Fin≥Fout≥0。另外,為了避免引入自變量后產(chǎn)生復共線性(即自變量之間線性相關),使回歸分析計算誤差增大或溢出,還必須事先給定一個容許值的水平界限0≤Tol≤0.1,在逐步回歸過程中,如果引進一個自變量時,計算公式中分母的絕對值小于Tol,就不引進這個變量。
MATLAB提供了兩個用逐步回歸法建立多元線性回歸模型的函數(shù)stepwisefit和stepwise,這兩個函數(shù)的功能是一樣的。前者是逐步回歸法建模的集成命令,使用者只需給出必要的輸入?yún)?shù),調(diào)用這一函數(shù)將自動完成建模工作,返回所謂最優(yōu)回歸方程的相關信息;后者是逐步回歸法建模的交互式圖形環(huán)境創(chuàng)建指令。
下面簡要介紹stepwisefit函數(shù)的使用方法,stepwise函數(shù)的使用方法可調(diào)用MATLAB中的help查詢。
stepwisefit函數(shù)完整的調(diào)用格式是
[B,SE,PVAL,inmodel,stats,nextstep,history]=stepwisefit(X,y,Param1,value1,Param2,value2,...);
其中,輸入?yún)?shù)
X是p個自變量的n個觀測值構(gòu)成的n×p矩陣。
y是因變量的n個觀測值構(gòu)成的n×1向量。
Paramk是第k個引用參數(shù),valuek是其取值,通常可以缺省。這里只介紹三個可能會用到的引用參數(shù)。
penter設置回歸方程顯著性檢驗的顯著性概率上限(即Fin),缺省設為0.05。
premove設置回歸方程顯著性檢驗的顯著性概率下限(即Fout),缺省設置為0.10。
display用來指明是否強制顯示建模過程信息,取值為‘on’(顯示,缺省設置)和‘off’(不顯示)。
輸出參數(shù)
B是不包含常數(shù)項的模型系數(shù);常數(shù)項在輸出參數(shù)intercept中。
SE是模型系數(shù)的標準誤差。
PVAL是各個自變量的顯著性概率。
inmodel是各個自變量在最終回歸方程中地位的說明(1表示在方程中,0表示不在方程中)。
stats是一個構(gòu)架數(shù)組,包括:source,建模方法的說明,‘stepwisefit’表示逐步回歸法;dfe,最優(yōu)回歸方程的剩余自由度;df0,最優(yōu)回歸方程的回歸自由度;SStotal,最優(yōu)回歸方程的總偏差平方和;SSresid,最優(yōu)回歸方程的剩余平方和;fstat,最優(yōu)回歸方程的F統(tǒng)計量的值;pval,最優(yōu)回歸方程的顯著性概率;rmse,最優(yōu)回歸方程的標準誤差估計;TSTAT,每個自變量顯著性檢驗的T統(tǒng)計量的值;等。
nextstep表示對是否還有需要引入回歸方程的自變量的說明(0表示沒有)。
history是一個構(gòu)架數(shù)組,包括:rmse,每一步的模型標準誤差估計;df0,每一步引入方程的變量個數(shù);in,記錄了按相關系數(shù)絕對值大小逐步引入回歸方程的變量的次序。
需要指出的是,在調(diào)用stepwisefit函數(shù)時,有一些信息重復輸出,有一些信息對于一般使用者并不是很重要的,因此,這里給出關于輸出信息顯示的一點建議:①引用參數(shù)‘display’設置為‘off’;②選擇stepwisefit函數(shù)的所有輸出設置,但用分號“;”禁止顯示;③重新規(guī)劃輸出信息,最重要的信息包括:自變量的篩選和模型參數(shù)估計信息(inmodel,stats,intercept,b)、回歸方程顯著性整體檢驗信息(stats,pval,rmse)、回歸方程顯著性分別檢驗信息(stats,PVAL)。
例4-5 對例4-3中的數(shù)據(jù)采用逐步回歸分析建立水泥凝固時熱釋放量與四種物質(zhì)含量的關系。
解:例4-3中的數(shù)據(jù)來自MATLAB系統(tǒng)幫助,數(shù)據(jù)保存在hald.mat文件中,ingredients為自變量,heat為因變量。
在MATLAB下輸入命令
>>load hald%將原始數(shù)據(jù)文件導入MATLAB的workspace
>>[B,SE,PVAL,inmodel,stats,nextstep,history]=stepwisefit(ingredients,heat,penter,0.10,display,off);%調(diào)用逐步回歸函數(shù)stepwisefit
>>inmodel,P=PVAL%顯示自變量的篩選結(jié)果inmodel和最優(yōu)回歸方程中各模型參數(shù)的顯著性概率P
>>B,B0=stats.intercept%顯示各自變量前的模型參數(shù)B及常數(shù)項B0
>>ALLP=stats.pval%將回歸方程整體顯著性檢驗結(jié)果賦給ALLP并顯示結(jié)果
>>rmse=stats.rmse %將模型標準誤差賦給rmse并顯示結(jié)果
上述指令的運行結(jié)果是


由于P中的前兩個元素為0而后兩個元素均大于0.2,說明變量x1與x2的模型參數(shù)為0的概率=0,而變量x3與x4的模型參數(shù)為0的概率為0.2以上,因此inmodel中前兩個元素為1,說明逐步回歸模型中最終只要了變量x1與x2。根據(jù)B與B0的數(shù)值,最終確定逐步回歸分析得到的最優(yōu)回歸方程為

整體顯著性檢驗的概率ALLP幾乎為0,說明回歸方程(4-21)整體顯著性檢驗為高度顯著,由rmse可知模型標準誤差估計為2.679 4。
根據(jù)回歸方程(4-18)與方程(4-21)可以得到回歸方程對13個樣本估計的Y值。
表4-6 回歸方程(4-18)與方程(4-21)結(jié)果比較

續(xù)表

表4-6中的第1列和第2列的相關系數(shù)r=0.989 2與第1列和第4列的相關系數(shù)r=0.986 7兩者相差甚小,說明逐步回歸分析中雖然去掉了兩個變量,但逐步回歸方程(4-21)給出的模型值與實際值的差異并不比四個變量全部考慮的回歸方程(4-18)大多少。
在MATLAB下鍵入命令
>>corrcoef(ingredients)
可得

這意味著自變量ingredients中的第1與第3、第2與第4個變量的相關系數(shù)分別為-0.824 1、-0.973 0,即變量1與變量3、變量2與變量4有較強的負相關,也就是說第3、第4個自變量的大部分信息可以由第1、2個自變量體現(xiàn)。因此不難理解最終逐步回歸方程中只選取了第1、第2個自變量。
由例4-3中提供的信息可知,變量x1~x4中的化合物分別為3CaO·Al2O3,3CaO·SiO2,4CaO·Al2O3·Fe2O3與2CaO·SiO2。x1與x3在成分上只相差1個CaO與1個Fe2O3,不難理解x1與x3有較強的相關性(r=-0.824);而x2與x4在成分上只相差1個CaO,很自然兩者的含量會高度相關(r=-0.973)。
因此,在進行回歸分析之前,根據(jù)專業(yè)背景知識也可以對變量間的相關性進行簡單和直觀的判斷,進一步通過相關分析可以判斷原始變量間的相關程度,剔除信息重疊的變量后再進行回歸分析,可以使模型更為精簡并提高模型的預測性能。
只選變量x1和x2進行多元線性回歸并進行回歸模型參數(shù)的檢驗,在MATLAB下輸入命令
>>[t,Tcrit,b,R,F(xiàn),F(xiàn)crit]=btest_reg(ingredients(:,1:2),heat,0.05)
可得如下結(jié)果


由b可得到與方程(4-21)相同的回歸方程,該回歸方程的復相關系數(shù)R=0.986 7,統(tǒng)計量F=229.50>F2,10(0.05)=4.10,說明方程(4-21)可以通過統(tǒng)計檢驗。而t的兩個元素的絕對值均大于臨界值Tcrit=2.228,表明回歸方程(4-21)中的兩個變量x1與x2的回歸系數(shù)均有顯著性。
例4-6 表4-7為三個實驗因素x1、x2與x3在7個不同組合條件下獲得的阿魏酸收率(y),試用多元回歸分析的方法建立y與三個實驗因素間的數(shù)學關系并進行統(tǒng)計檢驗,判斷回歸方程是否可信。
表4-7 七個實驗條件下的阿魏酸收率

解:先求y與x1、x2、x3之間的多元線性回歸方程
在MATLAB下輸入命令
>>x=[
1 13 1.5;1.4 19 3;1.8 25 1;2.2 10 2.5;
2.6 16 0.5;3 22 2;3.4 28 3.
什么是純二次,交叉二次和完全二次回歸模型?
n個變量的二次多項式稱為二次型,即在一個多項式中,未知數(shù)的個數(shù)為任意多個,但每一項的次數(shù)都為2的多項式。線性代數(shù)的重要內(nèi)容之一,它起源于幾何學中二次曲線方程和二次曲面方程化為標準形問題的研究。二次型理論與域的特征有關。
以上就是關于二次回歸模型相關問題的回答。希望能幫到你,如有更多相關問題,您也可以聯(lián)系我們的客服進行咨詢,客服也會為您講解更多精彩的知識和內(nèi)容。
推薦閱讀:
什么叫二創(chuàng)作品(怎樣的二次創(chuàng)作不算侵權(quán))