5秒導(dǎo)讀：本文將介紹極大似然法與Logistic回歸的極大似然函數(shù)，用Logistic回歸求追女神的概率，都說(shuō)女人心海底針，今天我們就來(lái)大海撈針
這是玩ai的第8期，回頭一看，沒(méi)想到當(dāng)初挖的大坑已經(jīng)填的差不多了(由此可見(jiàn)明日麗科技還是很有效率的)，不過(guò)玩ai系列還會(huì)繼續(xù)。
最后說(shuō)一句廢話，如果您還不了解Logistic回歸，請(qǐng)看公眾號(hào)第一篇文章《大數(shù)據(jù)AI改變生活—Logistic回歸告訴你追到女神的概率（上）》，OK讓我們開(kāi)始今天的主題——極大似然法。
所謂極大似然法，就是基于使樣本出現(xiàn)的機(jī)率最大化的準(zhǔn)則求概率的方法。這話確實(shí)很繞口，而且好像說(shuō)了等于沒(méi)說(shuō)，不過(guò)沒(méi)事，讓我們看例子，從lo服開(kāi)始！
假如你想知道lo服的受歡迎程度，該怎么辦？很簡(jiǎn)單，首先請(qǐng)穿上lo服到街上繞一圈，然后隨機(jī)向10個(gè)路人詢(xún)問(wèn)。
現(xiàn)在假設(shè)有7個(gè)人喜歡，3個(gè)人不喜歡，請(qǐng)問(wèn)人們喜歡lo服的概率多大？想都不用想0.7嘛
沒(méi)錯(cuò)，確實(shí)是0.7，不過(guò)我們還是把事情說(shuō)的嚴(yán)謹(jǐn)些。假設(shè)路人喜歡lo服的概率是P，那么發(fā)生7個(gè)人喜歡，3個(gè)人不喜歡的概率就是(請(qǐng)注意這里是按照順序來(lái)的,如果忽略順序就必須多乘上一個(gè)組合數(shù)):
上面的式子就叫做似然函數(shù)
因?yàn)椴豢赡茏ブ腥藛?wèn)一遍：“你是否喜歡lo服？”， 所以現(xiàn)在我們考慮，P取什么值，可以使似然函數(shù)取最大值。也就是說(shuō)，人們喜歡lo服的概率多大，才最容易發(fā)生7人喜歡3人不喜歡的情況。
Ok，怎么求該函數(shù)的最大值呢，一種辦法是找導(dǎo)數(shù)為0的點(diǎn)，但是對(duì)不起！上述函數(shù)求導(dǎo)后是一個(gè)6次的方程，抽象代數(shù)的東西，我們還是暫時(shí)不碰的好。因?yàn)椴慌?span style="margin: 0px; padding: 0px; max-width: 100%; font-family: Calibri; box-sizing: border-box !important; overflow-wrap: break-word !important;">6次方程我們還有別的辦法。取對(duì)數(shù)！
化簡(jiǎn)一下可得7ln(p)+3ln(1-p),求導(dǎo)后得
當(dāng)P=0.7時(shí)，此導(dǎo)函數(shù)確實(shí)為0,這里求導(dǎo)用了鏈?zhǔn)椒▌t，導(dǎo)數(shù)為0的點(diǎn)也不一定是極值點(diǎn)，但是.......不要在意這些細(xì)節(jié)！
OK，現(xiàn)在說(shuō)回Logistic回歸，我們還記得把自身?xiàng)l件表示的向量，與各個(gè)條件在女神心中的權(quán)重做點(diǎn)乘，再帶入Sigmoid函數(shù)，得到的就是追求女神成功的概率。不過(guò)，女人心海底針，要知道權(quán)重，必須得有點(diǎn)技術(shù)才行！
首先我們可以通過(guò)大數(shù)據(jù)收集大量的信息。令第i君自身?xiàng)l件為：
將追女神是否成功表示為（其中1為成功0為失敗）：
h(x)表示i君的條件與女神心中權(quán)重的點(diǎn)乘帶入Sigmoid函數(shù)。那么把所有h(x)相乘，就代表了樣本出現(xiàn)的概率也就是似然函數(shù)。把似然函數(shù)取對(duì)數(shù)，再整理一下就可以得到：
而使上述函數(shù)取得最大值的θ， 就是各個(gè)條件在女神心中的權(quán)重！這個(gè)推導(dǎo)和上面的lo服是一回事，只是寫(xiě)著復(fù)雜！至于為什么？因?yàn)檫@里的θ是女神對(duì)配偶各個(gè)條件的重視程度！女人心海底針，大海撈針有不難的么？
至于怎么求使函數(shù)取最大值的θ——梯度上升，還記得前面的梯度下降么？倒回去看看就知道了，只是從下山改為爬山而已！
關(guān)注我們，獲取更多有關(guān) AI與大數(shù)據(jù)的信息，ASRay明日麗科技——科技助力企業(yè)發(fā)展，攜手共創(chuàng)更美明天！
暫無(wú)評(píng)論，快來(lái)評(píng)論吧!