5秒導(dǎo)讀:本文將以最容易理解的方式介紹極限與導(dǎo)數(shù)等理解線性回歸必不可少的數(shù)學(xué)知識。
在《我們一起玩ai 3》中,我們講述了如何利用線性回歸預(yù)測A君的工資,最后我們拋出結(jié)論——只需要求出使得線性函數(shù)取得最小值的一些列θ值,我們即可得到科學(xué)的預(yù)測結(jié)果。
如何求得最小值,涉及到一些列微積分的知識,不過還是讓我們從魯迅先生說起(沒錯我魯迅又回來了),魯迅先生告訴我們:時間就像海綿里的水,只要愿擠,總還是有的!沒錯這真是魯迅說的!就如同
但是,柯西告訴我們:假如海綿只吸了一杯水,不論你怎么擠,你都只能擠出一杯水!這個叫做極限!
說回數(shù)學(xué),以函數(shù)y=1/x為例,當(dāng)x不斷增大,y便會無限接近于0!ok,0就是當(dāng)x趨于無窮大時y的極限!記作:
值得注意的是1/x永遠(yuǎn)取不到0,但是函數(shù)極限是可以取到具體值的,比如說x趨向于2時,y=2x極限為4。ok,關(guān)于極限就說那么多,雖然這個定義并不嚴(yán)謹(jǐn)(嚴(yán)謹(jǐn)?shù)臉O限通過鄰域與不定式定義),還有一堆東西沒說,比如極限的運算,單側(cè)極限,連續(xù),中間值定理........不過就目前而言,這些知識足夠了!
有了極限,我們來說說導(dǎo)數(shù),你在登山珠峰時,有經(jīng)驗的向?qū)嬖V你:往這邊走!這邊的坡最緩!同樣函數(shù)的導(dǎo)數(shù)會告訴你,函數(shù)變化的快慢。函數(shù)在x處導(dǎo)數(shù)值越大,則函數(shù)在x附近變化的越快!
(導(dǎo)數(shù)為正舉步維艱,導(dǎo)數(shù)越大越難爬)
(導(dǎo)數(shù)為負(fù),輕松自如,負(fù)的越多,羊滾的越快)
(導(dǎo)數(shù)為0,榮登巔峰或跌落谷底?。?/span>
事實上函數(shù)在x處導(dǎo)數(shù)值,就是函數(shù)圖像在x處切線的斜率,所謂切線就是指只有一點相連!
導(dǎo)數(shù)怎么求,通過極限就可以了
先過x與x+Δx處對著函數(shù)做割線,然后讓Δx趨向于0,當(dāng)x=x+Δx時,割線與x就只有一個點相連,割線搖身一變升級為切線。
還記得斜率是什么嗎(如果忘了請翻閱 玩ai2向量部部分 )?
割線的斜率等于
切線的斜率么,加個極限就可以了
不過,求斜率我們沒必要那么麻煩,有專門的套路!事實上對函數(shù)求導(dǎo),99.9%的情況,指的是求函數(shù)的導(dǎo)函數(shù),導(dǎo)函數(shù)顧名思義指你把x帶入,他還你原函數(shù)在x處斜率的函數(shù)。
導(dǎo)函數(shù)一般記作:
(F(x)=2x,y=2x,f(x)=2x看著用吧,哪個逼格高用哪個)
說到這類也許你注意到了,導(dǎo)數(shù)表示斜率也即函數(shù)變化的快慢,而線性回歸最終目標(biāo)是找到代價函數(shù)的最小值,沒錯,變化,最小值,這其間一定有著某種不可告人的關(guān)系,我們可不可以認(rèn)為當(dāng)函數(shù)值在某一點變化非常小時,那么該點就是一個很好的點!甚至直接找導(dǎo)數(shù)為0不再變化的點作為解!(事實上線性回歸多半沒法用導(dǎo)數(shù)為0來求解,其中涉及線性代數(shù)的知識,主要因為不是每一個矩陣都可逆,并且逆矩陣很難求?。┮韵聢D二次函數(shù)為例,紅點處,x變化,y的變化很小,而藍(lán)點處其實就是最小值
不過別忘了,代價函數(shù)的自變量有很多個,這就要從偏導(dǎo)數(shù)與梯度講起!
最后附上導(dǎo)數(shù)表一張
以及冷笑話一個:
常函數(shù)和指數(shù)函數(shù)ex走在街上,遠(yuǎn)遠(yuǎn)看到微分算子,常函數(shù)嚇得慌忙躲藏,說:“被它微分一下,我就什么都沒有啦!”指數(shù)函數(shù)不慌不忙道:“它可不能把我怎么樣,我是ex!”指數(shù)函數(shù)與微分算子相遇.指數(shù)函數(shù)自我介紹道:我是ex.”微分算子道:我是d/dy!”
(看不懂沒關(guān)系,下篇將偏導(dǎo)數(shù)就會知道,對y做偏導(dǎo)時只要x當(dāng)作常數(shù)就行)
關(guān)注我們,獲取更多有關(guān) AI與大數(shù)據(jù)的信息。ASRay明日麗科技——科技助力企業(yè)發(fā)展,攜手共創(chuàng)更美明天!





暫無評論,快來評論吧!