判斷元素與集合歸屬關(guān)系可以直接用in，python內(nèi)建的循環(huán)會(huì)幫你處理比較：
成都創(chuàng)新互聯(lián)是專業(yè)的呈貢網(wǎng)站建設(shè)公司，呈貢接單;提供成都網(wǎng)站建設(shè)、網(wǎng)站制作,網(wǎng)頁(yè)設(shè)計(jì),網(wǎng)站設(shè)計(jì),建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進(jìn)行呈貢網(wǎng)站開發(fā)網(wǎng)頁(yè)制作和功能擴(kuò)展;專業(yè)做搜索引擎喜愛(ài)的網(wǎng)站,專業(yè)的做網(wǎng)站團(tuán)隊(duì),希望更多企業(yè)前來(lái)合作!
國(guó)家="中國(guó)"
a = ["美國(guó)","加拿大","澳大利亞"]
b = ["中國(guó)","日本","印度"]
if 國(guó)家 in a:
print("a")
elif 國(guó)家 in b:
print("b")
else:
print("ERROR")
用python做圖形界面，然后還要發(fā)布為應(yīng)用程序的話，有很多框架，比如Qt for Python，也就是常說(shuō)的PyQt。比較推薦這個(gè)，因?yàn)樗闶悄壳氨容^流行的，而且不難入門，具體可以在百度上搜Qt或者PyQt，到官網(wǎng)去下載框架。
PyQt下載：
一些教程：
（這個(gè)是翻譯的）
（這個(gè)是源教程）
當(dāng)然還有很多，網(wǎng)上搜PyQt教程就可以。
模塊
1.定義
計(jì)算機(jī)在開發(fā)過(guò)程中，代碼越寫越多，也就越難以維護(hù)，所以為了編寫可維護(hù)的代碼，我們會(huì)把函數(shù)進(jìn)行分組，放在不同的文件里。在python里，一個(gè).py文件就是一個(gè)模塊。
2.優(yōu)點(diǎn)：
提高代碼的可維護(hù)性。
提高代碼的復(fù)用，當(dāng)模塊完成時(shí)就可以在其他代碼中調(diào)用。
引用其他模塊，包含python內(nèi)置模塊和其他第三方模塊。
避免函數(shù)名和變量名等名稱沖突。
python內(nèi)建模塊：
1.sys模塊
2.random模塊
3.os模塊：
os.path:講解
數(shù)據(jù)可視化
1.matplotlib :
是Python可視化程序庫(kù)的泰斗，它的設(shè)計(jì)和在1980年代被設(shè)計(jì)的商業(yè)化程序語(yǔ)言MATLAB非常接近。比如pandas和Seaborn就是matplotlib的外包，它們讓你能用更少的代碼去調(diào)用 matplotlib的方法。
訪問(wèn)：
顏色：
教程：
2.Seaborn：
它是構(gòu)建在matplotlib的基礎(chǔ)上的，用簡(jiǎn)潔的代碼來(lái)制作好看的圖表。Seaborn跟matplotlib最大的區(qū)別就是它的默認(rèn)繪圖風(fēng)格和色彩搭配都具有現(xiàn)代美感。
訪問(wèn)：
3.ggplot：
gplot 跟 matplotlib 的不同之處是它允許你疊加不同的圖層來(lái)完成一幅圖
訪問(wèn)：
4.Mayavi：
Mayavi2完全用Python編寫，因此它不但是一個(gè)方便實(shí)用的可視化軟件，而且可以方便地用Python編寫擴(kuò)展，嵌入到用戶編寫的Python程序中，或者直接使用其面向腳本的API：mlab快速繪制三維圖
訪問(wèn)：
講解：
5.TVTK：
TVTK庫(kù)對(duì)標(biāo)準(zhǔn)的VTK庫(kù)進(jìn)行包裝，提供了Python風(fēng)格的API、支持Trait屬性和numpy的多維數(shù)組。
VTK () 是一套三維的數(shù)據(jù)可視化工具，它由C++編寫，包涵了近千個(gè)類幫助我們處理和顯示數(shù)據(jù)
講解：
機(jī)器學(xué)習(xí)
1.Scikit-learn
是一個(gè)簡(jiǎn)單且高效的數(shù)據(jù)挖掘和數(shù)據(jù)分析工具，易上手，可以在多個(gè)上下文中重復(fù)使用。它基于NumPy, SciPy 和 matplotlib，開源，可商用（基于 BSD 許可）。
訪問(wèn)：
講解：
2.Tensorflow
最初由谷歌機(jī)器智能科研組織中的谷歌大腦團(tuán)隊(duì)（Google Brain Team）的研究人員和工程師開發(fā)。該系統(tǒng)設(shè)計(jì)的初衷是為了便于機(jī)器學(xué)習(xí)研究，能夠更快更好地將科研原型轉(zhuǎn)化為生產(chǎn)項(xiàng)目。
相關(guān)推薦：《Python視頻教程》
Web框架
1.Tornado
訪問(wèn)：
2.Flask
訪問(wèn)：
3.Web.py
訪問(wèn)：
4.django
5.cherrypy
6.jinjs
GUI 圖形界面
1.Tkinter
2.wxPython
3.PyGTK
4.PyQt
5.PySide
科學(xué)計(jì)算
教程
1.numpy
訪問(wèn)
講解
2.sympy
sympy是一個(gè)Python的科學(xué)計(jì)算庫(kù)，用一套強(qiáng)大的符號(hào)計(jì)算體系完成諸如多項(xiàng)式求值、求極限、解方程、求積分、微分方程、級(jí)數(shù)展開、矩陣運(yùn)算等等計(jì)算問(wèn)題
訪問(wèn)
講解
解方程
3.SciPy
官網(wǎng)
講解
4.pandas
官網(wǎng)
講解
5.blaze
官網(wǎng)
密碼學(xué)
1.cryptography
2.hashids
3.Paramiko
4.Passlib
5.PyCrypto
6.PyNacl
爬蟲相關(guān)
requests
scrapy
pyspider
portia
html2text
BeautifulSoup
lxml
selenium
mechanize
PyQuery
creepy
gevent
一個(gè)高并發(fā)的網(wǎng)絡(luò)性能庫(kù)
圖像處理
bigmoyan
Python Imaging Library(PIL)
pillow：
自然語(yǔ)言處理
1.nltk：
教程
2.snownlp
3.Pattern
4.TextBlob
5.Polyglot
6.jieba：
數(shù)據(jù)庫(kù)驅(qū)動(dòng)
mysql-python
PyMySQL
PyMongo
pymongo
MongoDB庫(kù)
訪問(wèn)：
redis
Redis庫(kù)
訪問(wèn)：
cxOracle
Oracle庫(kù)
訪問(wèn)：
SQLAlchemy
SQL工具包及對(duì)象關(guān)系映射（ORM）工具
訪問(wèn)：
peewee，
SQL工具包及對(duì)象關(guān)系映射（ORM）工具
訪問(wèn)：
torndb
Tornado原裝DB
訪問(wèn)：
Web
pycurl
URL處理工具
smtplib模塊
發(fā)送電子郵件
其他庫(kù)暫未分類
1.PyInstaller：
是一個(gè)十分有用的第三方庫(kù)，它能夠在Windows、Linux、 Mac OS X 等操作系統(tǒng)下將 Python 源文件打包，通過(guò)對(duì)源文件打包， Python 程序可以在沒(méi)有安裝 Python 的環(huán)境中運(yùn)行，也可以作為一個(gè) 獨(dú)立文件方便傳遞和管理。
2.Ipython
一種交互式計(jì)算和開發(fā)環(huán)境
講解
命令
ls、cd 、run、edit、clear、exist
在當(dāng)前計(jì)算機(jī)的世界里，沒(méi)有無(wú)限：
在計(jì)算機(jī)的的世界里，數(shù)字的大小也沒(méi)有無(wú)限。計(jì)算機(jī)器數(shù)是使用有限長(zhǎng)度的的空間存儲(chǔ)的，因此，數(shù)的極限大小與精度與存儲(chǔ)空間的大小相關(guān)，也是有限的。
print（“字符串”），5/2和5//2的結(jié)果是不同的5/2為2.5,5//2為2.
python2需要導(dǎo)入from_future_import division執(zhí)行普通的除法。
1/2和1//2的結(jié)果0.5和0.
%號(hào)為取模運(yùn)算。
乘方運(yùn)算為2**3，-2**3和-（2**3）是等價(jià)的。
from sympy import*導(dǎo)入庫(kù)
x,y,z=symbols('x y z'),定義變量
init_printing(use_unicode=True)設(shè)置打印方式。
python的內(nèi)部常量有pi，
函數(shù)simplify，simplify(sin(x)**2 + cos(x)**2)化簡(jiǎn)結(jié)果為1，
simplify((x**3 + x**2 - x - 1)/(x**2 + 2*x + 1))化簡(jiǎn)結(jié)果為x-1?；?jiǎn)伽馬函數(shù)。simplify(gamma(x)/gamma(x - 2))得（x-2）(x-1)。
expand((x + 1)**2)展開多項(xiàng)式。
expand((x + 1)*(x - 2) - (x - 1)*x)
因式分解。factor(x**2*z + 4*x*y*z + 4*y**2*z)得到z*(x + 2*y)**2
from_future_import division
x,y,z,t=symbols('x y z t')定義變量，
k, m, n = symbols('k m n', integer=True)定義三個(gè)整數(shù)變量。
f, g, h = symbols('f g h', cls=Function)定義的類型為函數(shù)。
factor_list(x**2*z + 4*x*y*z + 4*y**2*z)得到一個(gè)列表，表示因式的冪，(1, [(z, 1), (x + 2*y, 2)])
expand((cos(x) + sin(x))**2)展開多項(xiàng)式。
expr = x*y + x - 3 + 2*x**2 - z*x**2 + x**3，collected_expr = collect(expr, x)將x合并。將x元素按階次整合。
collected_expr.coeff(x, 2)直接取出變量collected_expr的x的二次冪的系數(shù)。
cancel()is more efficient thanfactor().
cancel((x**2 + 2*x + 1)/(x**2 + x))
，expr = (x*y**2 - 2*x*y*z + x*z**2 + y**2 - 2*y*z + z**2)/(x**2 - 1)，cancel(expr)
expr = (4*x**3 + 21*x**2 + 10*x + 12)/(x**4 + 5*x**3 + 5*x**2 + 4*x)，apart(expr)
asin(1)
trigsimp(sin(x)**2 + cos(x)**2)三角函數(shù)表達(dá)式化簡(jiǎn)，
trigsimp(sin(x)**4 - 2*cos(x)**2*sin(x)**2 + cos(x)**4)
trigsimp(sin(x)*tan(x)/sec(x))
trigsimp(cosh(x)**2 + sinh(x)**2)雙曲函數(shù)。
三角函數(shù)展開，expand_trig(sin(x + y))，acos(x)，cos(acos(x))，expand_trig(tan(2*x))
x, y = symbols('x y', positive=True)正數(shù)，a, b = symbols('a b', real=True)實(shí)數(shù)，z, t, c = symbols('z t c')定義變量的方法。
sqrt(x) == x**Rational(1, 2)判斷是否相等。
powsimp(x**a*x**b)冪函數(shù)的乘法，不同冪的乘法，必須先定義a和b。powsimp(x**a*y**a)相同冪的乘法。
powsimp(t**c*z**c)，注意，powsimp()refuses to do the simplification if it is not valid.
powsimp(t**c*z**c, force=True)這樣的話就可以得到化簡(jiǎn)過(guò)的式子。聲明強(qiáng)制進(jìn)行化簡(jiǎn)。
(z*t)**2，sqrt(x*y)
第一個(gè)展開expand_power_exp(x**(a + b))，expand_power_base((x*y)**a)展開，
expand_power_base((z*t)**c, force=True)強(qiáng)制展開。
powdenest((x**a)**b)，powdenest((z**a)**b)，powdenest((z**a)**b, force=True)
ln(x)，x, y ,z= symbols('x y z', positive=True)，n = symbols('n', real=True)，
expand_log(log(x*y))展開為log(x) + log(y)，但是python3沒(méi)有。這是因?yàn)樾枰獙定義為positive。這是必須的，否則不會(huì)被展開。expand_log(log(x/y)),expand_log(log(x**n))
As withpowsimp()andpowdenest(),expand_log()has aforceoption that can be used to ignore assumptions。
expand_log(log(z**2), force=True),強(qiáng)制展開。
logcombine(log(x) + log(y))，logcombine(n*log(x))，logcombine(n*log(z), force=True)。
factorial(n)階乘，binomial(n, k)等于c（n，k），gamma(z)伽馬函數(shù)。
hyper([1, 2], [3], z)，
tan(x).rewrite(sin)得到用正弦表示的正切。factorial(x).rewrite(gamma)用伽馬函數(shù)重寫階乘。
expand_func(gamma(x + 3))得到，x*(x + 1)*(x + 2)*gamma(x)，
hyperexpand(hyper([1, 1], [2], z))，
combsimp(factorial(n)/factorial(n - 3))化簡(jiǎn)，combsimp(binomial(n+1, k+1)/binomial(n, k))化簡(jiǎn)。combsimp(gamma(x)*gamma(1 - x))
自定義函數(shù)
def list_to_frac(l):
expr = Integer(0)
for i in reversed(l[1:]):
expr += i
expr = 1/expr
return l[0] + expr
list_to_frac([x, y, z])結(jié)果為x + 1/z，這個(gè)結(jié)果是錯(cuò)誤的。
syms = symbols('a0:5')，定義syms，得到的結(jié)果為(a0, a1, a2, a3, a4)。
這樣也可以a0, a1, a2, a3, a4 = syms， 可能是我的操作錯(cuò)誤 。發(fā)現(xiàn)python和自動(dòng)縮進(jìn)有關(guān)，所以一定看好自動(dòng)縮進(jìn)的距離。list_to_frac([1, 2, 3, 4])結(jié)果為43/30。
使用cancel可以將生成的分式化簡(jiǎn)，frac = cancel(frac)化簡(jiǎn)為一個(gè)分?jǐn)?shù)線的分式。
(a0*a1*a2*a3*a4 + a0*a1*a2 + a0*a1*a4 + a0*a3*a4 + a0 + a2*a3*a4 + a2 + a4)/(a1*a2*a3*a4 + a1*a2 + a1*a4 + a3*a4 + 1)
a0, a1, a2, a3, a4 = syms定義a0到a4，frac = apart(frac, a0)可將a0提出來(lái)。frac=1/(frac-a0)將a0去掉取倒。frac = apart(frac, a1)提出a1。
help("modules"),模塊的含義，help("modules yourstr")模塊中包含的字符串的意思。，
help("topics")，import os.path + help("os.path")，help("list")，help("open")
# -*- coding: UTF-8 -*-聲明之后就可以在ide中使用中文注釋。
定義
l = list(symbols('a0:5'))定義列表得到[a0, a1, a2, a3, a4]
fromsympyimport*
x,y,z=symbols('x y z')
init_printing(use_unicode=True)
diff(cos(x),x)求導(dǎo)。diff(exp(x**2), x)，diff(x**4, x, x, x)和diff(x**4, x, 3)等價(jià)。
diff(expr, x, y, 2, z, 4)求出表達(dá)式的y的2階，z的4階，x的1階導(dǎo)數(shù)。和diff(expr, x, y, y, z, 4)等價(jià)。expr.diff(x, y, y, z, 4)一步到位。deriv = Derivative(expr, x, y, y, z, 4)求偏導(dǎo)。但是不顯示。之后用deriv.doit()即可顯示
integrate(cos(x), x)積分。定積分integrate(exp(-x), (x, 0, oo))無(wú)窮大用2個(gè)oo表示。integrate(exp(-x**2-y**2),(x,-oo,oo),(y,-oo,oo))二重積分。print(expr)print的使用。
expr = Integral(log(x)**2, x)，expr.doit()積分得到x*log(x)**2 - 2*x*log(x) + 2*x。
integ.doit()和integ = Integral((x**4 + x**2*exp(x) - x**2 - 2*x*exp(x) - 2*x -
exp(x))*exp(x)/((x - 1)**2*(x + 1)**2*(exp(x) + 1)), x)連用。
limit(sin(x)/x,x,0)，not-a-number表示nan算不出來(lái)，limit(expr, x, oo)，，expr = Limit((cos(x) - 1)/x, x, 0)，expr.doit()連用。左右極限limit(1/x, x, 0, '+')，limit(1/x, x, 0, '-')。。
Series Expansion級(jí)數(shù)展開。expr = exp(sin(x))，expr.series(x, 0, 4)得到1 + x + x**2/2 + O(x**4)，，x*O(1)得到O(x)，，expr.series(x, 0, 4).removeO()將無(wú)窮小移除。exp(x-6).series(x,x0=6)，，得到
-5 + (x - 6)**2/2 + (x - 6)**3/6 + (x - 6)**4/24 + (x - 6)**5/120 + x + O((x - 6)**6, (x, 6))最高到5階。
f=Function('f')定義函數(shù)變量和h=Symbol('h')和d2fdx2=f(x).diff(x,2)求2階，，as_finite_diff(dfdx)函數(shù)和as_finite_diff(d2fdx2,[-3*h,-h,2*h])，，x_list=[-3,1,2]和y_list=symbols('a b c')和apply_finite_diff(1,x_list,y_list,0)。
Eq(x, y)，，solveset(Eq(x**2, 1), x)解出來(lái)x，當(dāng)二式相等。和solveset(Eq(x**2 - 1, 0), x)等價(jià)。solveset(x**2 - 1, x)
solveset(x**2 - x, x)解，solveset(x - x, x, domain=S.Reals)解出來(lái)定義域。solveset(exp(x), x)? ? # No solution exists解出EmptySet()表示空集。
等式形式linsolve([x + y + z - 1, x + y + 2*z - 3 ], (x, y, z))和矩陣法linsolve(Matrix(([1, 1, 1, 1], [1, 1, 2, 3])), (x, y, z))得到{(-y - 1, y, 2)}
A*x = b 形式，M=Matrix(((1,1,1,1),(1,1,2,3)))，system=A,b=M[:,:-1],M[:,-1]，linsolve(system,x,y,z)，，solveset(x**3 - 6*x**2 + 9*x, x)解多項(xiàng)式。roots(x**3 - 6*x**2 + 9*x, x)，得出，{3: 2, 0: 1}，有2個(gè)3的重根，1個(gè)0根。solve([x*y - 1, x - 2], x, y)解出坐標(biāo)。
f, g = symbols('f g', cls=Function)函數(shù)的定義，解微分方程diffeq = Eq(f(x).diff(x, x) - 2*f(x).diff(x) + f(x), sin(x))再和dsolve(diffeq,f(x))結(jié)合。得到Eq(f(x), (C1 + C2*x)*exp(x) + cos(x)/2)，dsolve(f(x).diff(x)*(1 - sin(f(x))), f(x))解出來(lái)Eq(f(x) + cos(f(x)), C1)，，
Matrix([[1,-1],[3,4],[0,2]])，，Matrix([1, 2, 3])列表示。M=Matrix([[1,2,3],[3,2,1]])
N=Matrix([0,1,1])
M*N符合矩陣的乘法。M.shape顯示矩陣的行列數(shù)。
M.row(0)獲取M的第0行。M.col(-1)獲取倒數(shù)第一列。
M.col_del(0)刪掉第1列。M.row_del(1)刪除第二行，序列是從0開始的。M = M.row_insert(1, Matrix([[0, 4]]))插入第二行，，M = M.col_insert(0, Matrix([1, -2]))插入第一列。
M+N矩陣相加，M*N，3*M，M**2，M**-1，N**-1表示求逆。M.T求轉(zhuǎn)置。
eye(3)單位。zeros(2, 3)，0矩陣，ones(3, 2)全1，diag(1, 2, 3)對(duì)角矩陣。diag(-1, ones(2, 2), Matrix([5, 7, 5]))生成Matrix([
[-1, 0, 0, 0],
[ 0, 1, 1, 0],
[ 0, 1, 1, 0],
[ 0, 0, 0, 5],
[ 0, 0, 0, 7],
[ 0, 0, 0, 5]])矩陣。
Matrix([[1, 0, 1], [2, -1, 3], [4, 3, 2]])
一行一行顯示，，M.det()求行列式。M.rref()矩陣化簡(jiǎn)。得到結(jié)果為Matrix([
[1, 0,? 1,? 3],
[0, 1, 2/3, 1/3],
[0, 0,? 0,? 0]]), [0, 1])。
M = Matrix([[1, 2, 3, 0, 0], [4, 10, 0, 0, 1]])，M.nullspace()
Columnspace
M.columnspace()和M = Matrix([[1, 2, 3, 0, 0], [4, 10, 0, 0, 1]])
M = Matrix([[3, -2,? 4, -2], [5,? 3, -3, -2], [5, -2,? 2, -2], [5, -2, -3,? 3]])和M.eigenvals()得到{3: 1, -2: 1, 5: 2}，，This means thatMhas eigenvalues -2, 3, and 5, and that the eigenvalues -2 and 3 have algebraic multiplicity 1 and that the eigenvalue 5 has algebraic multiplicity 2.
P, D = M.diagonalize()，P得Matrix([
[0, 1, 1,? 0],
[1, 1, 1, -1],
[1, 1, 1,? 0],
[1, 1, 0,? 1]])，，D為Matrix([
[-2, 0, 0, 0],
[ 0, 3, 0, 0],
[ 0, 0, 5, 0],
[ 0, 0, 0, 5]])
P*D*P**-1 == M返回為True。lamda = symbols('lamda')。
lamda = symbols('lamda')定義變量，p = M.charpoly(lamda)和factor(p)
expr = x**2 + x*y，srepr(expr)可以將表達(dá)式說(shuō)明計(jì)算法則，"Add(Pow(Symbol('x'), Integer(2)), Mul(Symbol('x'), Symbol('y')))"。。
x = symbols('x')和x = Symbol('x')是一樣的。srepr(x**2)得到"Pow(Symbol('x'), Integer(2))"。Pow(x, 2)和Mul(x, y)得到x**2。x*y
type(2)得到class 'int'，type(sympify(2))得到class 'sympy.core.numbers.Integer'..srepr(x*y)得到"Mul(Symbol('x'), Symbol('y'))"。。。
Add(Pow(x, 2), Mul(x, y))得到"Add(Mul(Integer(-1), Pow(Symbol('x'), Integer(2))), Mul(Rational(1, 2), sin(Mul(Symbol('x'), Symbol('y')))), Pow(Symbol('y'), Integer(-1)))"。。Pow函數(shù)為冪次。
expr = Add(x, x)，expr.func。。Integer(2).func，class 'sympy.core.numbers.Integer',,Integer(0).func和Integer(-1).func，，，expr = 3*y**2*x和expr.func得到class 'sympy.core.mul.Mul',,expr.args將表達(dá)式分解為得到(3, x, y**2)，，expr.func(*expr.args)合并。expr == expr.func(*expr.args)返回True。expr.args[2]得到y(tǒng)**2，expr.args[1]得到x，expr.args[0]得到3.。
expr.args[2].args得到(y, 2)。。y.args得到空括號(hào)。Integer(2).args得到空括號(hào)。
from sympy import *
E**(I*pi)+1，可以看出，I和E，pi已將在sympy內(nèi)已定義。
x=Symbol('x')，，expand( E**(I*x) )不能展開，expand(exp(I*x),complex=True)可以展開，得到I*exp(-im(x))*sin(re(x)) + exp(-im(x))*cos(re(x))，，x=Symbol("x",real=True)將x定義為實(shí)數(shù)。再展開expand(exp(I*x),complex=True)得到。I*sin(x) + cos(x)。。
tmp = series(exp(I*x), x, 0, 10)和pprint(tmp)打印出來(lái)可讀性好，print(tmp)可讀性不好。。pprint將公式用更好看的格式打印出來(lái)，，pprint( series( cos(x), x, 0, 10) )
integrate(x*sin(x), x)，，定積分integrate(x*sin(x), (x, 0, 2*pi))。。
用雙重積分求解球的體積。
x, y, r = symbols('x,y,r')和2 * integrate(sqrt(r*r-x**2), (x, -r, r))計(jì)算球的體積。計(jì)算不來(lái)，是因?yàn)閟ympy不知道r是大于0的。r = symbols('r', positive=True)這樣定義r即可。circle_area=2*integrate(sqrt(r**2-x**2),(x,-r,r))得到。circle_area=circle_area.subs(r,sqrt(r**2-x**2))將r替換。
integrate(circle_area,(x,-r,r))再積分即可。
expression.sub([(x,y),(y,x)])又換到原來(lái)的狀況了。
expression.subs(x, y)，，將算式中的x替換成y。。
expression.subs({x:y,u:v}) : 使用字典進(jìn)行多次替換。。
expression.subs([(x,y),(u,v)]) : 使用列表進(jìn)行多次替換。。
是的，明年一月股票價(jià)格屬于邏輯回歸問(wèn)題。邏輯回歸這個(gè)模型很神奇，雖然它的本質(zhì)也是回歸，但是它是一個(gè)分類模型，并且它的名字當(dāng)中又包含”回歸“兩個(gè)字，未免讓人覺(jué)得莫名其妙。
如果是初學(xué)者，覺(jué)得頭暈是正常的，沒(méi)關(guān)系，讓我們一點(diǎn)點(diǎn)捋清楚。
讓我們先回到線性回歸，我們都知道，線性回歸當(dāng)中 y = WX + b。我們通過(guò)W和b可以求出X對(duì)應(yīng)的y，這里的y是一個(gè)連續(xù)值，是回歸模型對(duì)吧。但如果我們希望這個(gè)模型來(lái)做分類呢，應(yīng)該怎么辦？很容易想到，我們可以人為地設(shè)置閾值對(duì)吧，比如我們規(guī)定y 0最后的分類是1，y 0最后的分類是0。從表面上來(lái)看，這當(dāng)然是可以的，但實(shí)際上這樣操作會(huì)有很多問(wèn)題。
最大的問(wèn)題在于如果我們簡(jiǎn)單地設(shè)計(jì)一個(gè)閾值來(lái)做判斷，那么會(huì)導(dǎo)致最后的y是一個(gè)分段函數(shù)，而分段函數(shù)不連續(xù)，使得我們沒(méi)有辦法對(duì)它求梯度，為了解決這個(gè)問(wèn)題，我們得找到一個(gè)平滑的函數(shù)使得既可以用來(lái)做分類，又可以解決梯度的問(wèn)題。
很快，信息學(xué)家們找到了這樣一個(gè)函數(shù)，它就是Sigmoid函數(shù)，它的表達(dá)式是：
357572dfd95e096f6b1db8d0418b7666.png
它的函數(shù)圖像如下：
3c9f8ea71dade02bee91d6837a9ab772.png
可以看到，sigmoid函數(shù)在x=0處取值0.5，在正無(wú)窮處極限是1，在負(fù)無(wú)窮處極限是0，并且函數(shù)連續(xù)，處處可導(dǎo)。sigmoid的函數(shù)值的取值范圍是0-1，非常適合用來(lái)反映一個(gè)事物發(fā)生的概率。我們認(rèn)為
σ(x) 表示x發(fā)生的概率，那么x不發(fā)生的概率就是 1 - σ(x) 。我們把發(fā)生和不發(fā)生看成是兩個(gè)類別，那么sigmoid函數(shù)就轉(zhuǎn)化成了分類函數(shù)，如果 σ(x) 0.5 表示類別1，否則表示類別0.
到這里就很簡(jiǎn)單了，通過(guò)線性回歸我們可以得到
00f6409abfa62fff48ef6345454c1307.png
也就是說(shuō)我們?cè)诰€性回歸模型的外面套了一層sigmoid函數(shù)，我們通過(guò)計(jì)算出不同的y，從而獲得不同的概率，最后得到不同的分類結(jié)果。
損失函數(shù)
下面的推導(dǎo)全程高能，我相信你們看完會(huì)三連的(點(diǎn)贊、轉(zhuǎn)發(fā)、關(guān)注)。
讓我們開始吧，我們先來(lái)確定一下符號(hào)，為了區(qū)分，我們把訓(xùn)練樣本當(dāng)中的真實(shí)分類命名為y，y的矩陣寫成 Y 。同樣，單條樣本寫成 x , x 的矩陣寫成 X。單條預(yù)測(cè)的結(jié)果寫成 y_hat，所有的預(yù)測(cè)結(jié)果寫成Y_hat。
對(duì)于單條樣本來(lái)說(shuō)，y有兩個(gè)取值，可能是1，也可能是0，1和0代表兩個(gè)不同的分類。我們希望 y = 1 的時(shí)候，y_hat 盡量大， y = 0 時(shí)， 1 - y_hat 盡量大，也就是 y_hat 盡量小，因?yàn)樗≈翟?-1之間。我們用一個(gè)式子來(lái)統(tǒng)一這兩種情況：
4e1d139e638f22b1f7c3c34ec7ac1750.png
我們代入一下，y = 0 時(shí)前項(xiàng)為1，表達(dá)式就只剩下后項(xiàng)，同理，y = 1 時(shí)，后項(xiàng)為1，只剩下前項(xiàng)。所以這個(gè)式子就可以表示預(yù)測(cè)準(zhǔn)確的概率，我們希望這個(gè)概率盡量大。顯然，P(y|x) 0，所以我們可以對(duì)它求對(duì)數(shù)，因?yàn)閘og函數(shù)是單調(diào)的。所以 P(y|x) 取最值時(shí)的取值，就是 log P(y|x) 取最值的取值。
b493206f3f6ac1d18987cc2136d43e74.png
我們期望這個(gè)值最大，也就是期望它的相反數(shù)最小，我們令
bd1691f5ed6d3b14ad6678ea7ab4a73e.png
這樣就得到了它的損失函數(shù)：
18ae4824989eb45abea1a568bb8afc0b.png
如果知道交叉熵這個(gè)概念的同學(xué)，會(huì)發(fā)現(xiàn)這個(gè)損失函數(shù)的表達(dá)式其實(shí)就是交叉熵。交叉熵是用來(lái)衡量?jī)蓚€(gè)概率分布之間的”距離“，交叉熵越小說(shuō)明兩個(gè)概率分布越接近，所以經(jīng)常被用來(lái)當(dāng)做分類模型的損失函數(shù)。關(guān)于交叉熵的概念我們這里不多贅述，會(huì)在之后文章當(dāng)中詳細(xì)介紹。我們隨手推導(dǎo)的損失函數(shù)剛好就是交叉熵，這并不是巧合，其實(shí)底層是有一套信息論的數(shù)學(xué)邏輯支撐的，我們不多做延伸，感興趣的同學(xué)可以了解一下。
硬核推導(dǎo)
損失函數(shù)有了，接下來(lái)就是求梯度來(lái)實(shí)現(xiàn)梯度下降了。
這個(gè)函數(shù)看起來(lái)非常復(fù)雜，要對(duì)它直接求偏導(dǎo)算梯度過(guò)于硬核(危)，如果是許久不碰高數(shù)的同學(xué)直接肝不亞于硬抗葦名一心。
ade04cadcb25c9674f76ec1fa217eb85.png
為了簡(jiǎn)化難度，我們先來(lái)做一些準(zhǔn)備工作。首先，我們先來(lái)看下σ 函數(shù)，它本身的形式很復(fù)雜，我們先把它的導(dǎo)數(shù)搞定。
77509348117bf958bd84c57fbbe2c048.png
因?yàn)?y_hat = σ(θX) ，我們將它帶入損失函數(shù)，可以得到，其中σ(θX)簡(jiǎn)寫成σ(θ) ：
7cc17ea96bd209a6a71e30a89827553e.png
接著我們求 J(θ) 對(duì) θ 的偏導(dǎo)，這里要代入上面對(duì) σ(x) 求導(dǎo)的結(jié)論：
363b945b9b4cc57919d3d503c45c0ff6.png
代碼實(shí)戰(zhàn)
梯度的公式都推出來(lái)了，離寫代碼實(shí)現(xiàn)還遠(yuǎn)嗎？
不過(guò)巧婦難為無(wú)米之炊，在我們擼模型之前，我們先試著造一批數(shù)據(jù)。
我們選擇生活中一個(gè)很簡(jiǎn)單的場(chǎng)景——考試。假設(shè)每個(gè)學(xué)生需要參加兩門考試，兩門考試的成績(jī)相加得到最終成績(jī)，我們有一批學(xué)生是否合格的數(shù)據(jù)。希望設(shè)計(jì)一個(gè)邏輯回歸模型，幫助我們直接計(jì)算學(xué)生是否合格。
為了防止sigmoid函數(shù)產(chǎn)生偏差，我們把每門課的成績(jī)縮放到(0, 1)的區(qū)間內(nèi)。兩門課成績(jī)相加超過(guò)140分就認(rèn)為總體及格。
2d25f5bfaa9ec45a3089c4f12c201ccf.png
這樣得到的訓(xùn)練數(shù)據(jù)有兩個(gè)特征，分別是學(xué)生兩門課的成績(jī)，還有一個(gè)偏移量1，用來(lái)記錄常數(shù)的偏移量。
接著，根據(jù)上文當(dāng)中的公式，我們不難(真的不難)實(shí)現(xiàn)sigmoid以及梯度下降的函數(shù)。
2bf9363d9bb6a71a0e0e33a1234d5c7b.png
這段函數(shù)實(shí)現(xiàn)的是批量梯度下降，對(duì)Numpy熟悉的同學(xué)可以看得出來(lái)，這就是在直接套公式。
最后，我們把數(shù)據(jù)集以及邏輯回歸的分割線繪制出來(lái)。
097c155cf08a23efc7d2e3d69b4704e2.png
最后得到的結(jié)果如下：
9db92f8f8681c247a6cba139152c5ca2.png
隨機(jī)梯度下降版本
可以發(fā)現(xiàn)，經(jīng)過(guò)了1萬(wàn)次的迭代，我們得到的模型已經(jīng)可以正確識(shí)別所有的樣本了。
我們剛剛實(shí)現(xiàn)的是全量梯度下降算法，我們還可以利用隨機(jī)梯度下降來(lái)進(jìn)行優(yōu)化。優(yōu)化也非常簡(jiǎn)單，我們計(jì)算梯度的時(shí)候不再是針對(duì)全量的數(shù)據(jù)，而是從數(shù)據(jù)集中選擇一條進(jìn)行梯度計(jì)算。
基本上可以復(fù)用梯度下降的代碼，只需要對(duì)樣本選取的部分加入優(yōu)化。
cfd38e0b28894b1016968075e6a1bc3b.png
我們?cè)O(shè)置迭代次數(shù)為2000，最后得到的分隔圖像結(jié)果如下：
6a1a9d6962bf1b801f0a8801883dec05.png
當(dāng)然上面的代碼并不完美，只是一個(gè)簡(jiǎn)單的demo，還有很多改進(jìn)和優(yōu)化的空間。只是作為一個(gè)例子，讓大家直觀感受一下：其實(shí)自己親手寫模型并不難，公式的推導(dǎo)也很有意思。這也是為什么我會(huì)設(shè)置高數(shù)專題的原因。CS的很多知識(shí)也是想通的，在學(xué)習(xí)的過(guò)程當(dāng)中靈感迸發(fā)旁征博引真的是非常有樂(lè)趣的事情，希望大家也都能找到自己的樂(lè)趣。
今天的文章就是這些，如果覺(jué)得有所收獲，請(qǐng)順手點(diǎn)個(gè)關(guān)注或者轉(zhuǎn)發(fā)吧，你們的舉手之勞對(duì)我來(lái)說(shuō)很重要。
相關(guān)資源：【原創(chuàng)】R語(yǔ)言對(duì)二分連續(xù)變量進(jìn)行邏輯回歸數(shù)據(jù)分析報(bào)告論文(代碼...
文章知識(shí)點(diǎn)與官方知識(shí)檔案匹配
算法技能樹首頁(yè)概覽
33030 人正在系統(tǒng)學(xué)習(xí)中
打開CSDN，閱讀體驗(yàn)更佳
VGG論文筆記及代碼_麻花地的博客_vgg論文
VGG論文筆記及代碼 VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION 牛津大學(xué)視覺(jué)組(VGG)官方網(wǎng)站: Abstract 在這項(xiàng)工作中,我們研究了在大規(guī)模圖像識(shí)別環(huán)境中卷積網(wǎng)絡(luò)深度對(duì)其...
...MNIST研究》論文和Python代碼_通信與逆向那些事的博客_機(jī)器...
1、邏輯回歸算法 邏輯回歸(Logistic Regression),與它的名字恰恰相反,它是一個(gè)分類器而非回歸方法,在一些文獻(xiàn)里它也被稱為logit回歸、最大熵分類器(MaxEnt)、對(duì)數(shù)線性分類器等。 使用sklearn.linear_model中的LogisticRegression方法來(lái)訓(xùn)練...
兩個(gè)重要極限的推導(dǎo)
兩個(gè)重要極限 （1） lim?θ→0sin?θθ=1 （θ為弧度） \underset{\theta \rightarrow 0}{\lim}\frac{\sin \theta}{\theta}=1\ \ \text{（}\theta \text{為弧度）} θ→0limθsinθ=1 （θ為弧度） （2） lim?x→∞(1+1x)x=e \underset{x\rightarrow \infty}{\lim}\left( 1+\frac{1}{x} \ri
繼續(xù)訪問(wèn)
兩個(gè)重要極限及其推導(dǎo)過(guò)程
一、 證明：由上圖可知， 即 二、 證明：首先證明此極限存在 構(gòu)造數(shù)列 而對(duì)于n+1 ...
繼續(xù)訪問(wèn)
...是多項(xiàng)式回歸】Jeff Dean等論文發(fā)現(xiàn)邏輯回歸和深度學(xué)習(xí)一樣好_qq...
其中,基線 aEWS(augmented Early Warning Score)是一個(gè)有 28 個(gè)因子的邏輯回歸模型,在論文作者對(duì)預(yù)測(cè)患者死亡率的傳統(tǒng)方法 EWS 進(jìn)行的擴(kuò)展。而 Full feature simple baseline 則是 Uri Shalit 說(shuō)的標(biāo)準(zhǔn)化邏輯回歸。 注意到基線模型(紅...
數(shù)學(xué)模型——Logistic回歸模型(含Matlab代碼)_蘇三有春的博客...
Logistic回歸模型是一種非常常見(jiàn)的統(tǒng)計(jì)回歸模型,在處理大量數(shù)據(jù),揭示各自變量如何作用于因變量(描述X與Y之間的關(guān)系)時(shí)有著十分重要的作用。筆者在寫Logit回歸模型前參加了一次市場(chǎng)調(diào)研比賽,在這次比賽中學(xué)到了很多東西,同時(shí)發(fā)現(xiàn),許多優(yōu)秀獲...
《神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)》第二章中傳遞函數(shù)
import math #硬極限函數(shù) def hardlim(data): if data 0: a = 0 else: a = 1 print("fun:hardlim,result:%f"%a) #對(duì)稱硬極限函數(shù) def hardlims(data): if data 0: a = -1 e
繼續(xù)訪問(wèn)
兩個(gè)重要極限定理推導(dǎo)
兩個(gè)重要極限定理： lim?x→0sin?xx=1(1) \lim_{x \rightarrow 0} \frac{\sin x}{x} = 1 \tag{1} x→0limxsinx=1(1) 和 lim?x→∞(1+1x)x=e(2) \lim_{x \rightarrow \infty} (1 + \frac{1}{x})^x = e \tag{2} x→∞lim(1+x1)x=e(2) 引理(夾逼定理) 定義一： 如果數(shù)列 {Xn}\lbrace X_n \rbrace{Xn}，{Yn}
繼續(xù)訪問(wèn)
【原創(chuàng)】R語(yǔ)言對(duì)二分連續(xù)變量進(jìn)行邏輯回歸數(shù)據(jù)分析報(bào)告論文(代碼...
【原創(chuàng)】R語(yǔ)言對(duì)二分連續(xù)變量進(jìn)行邏輯回歸數(shù)據(jù)分析報(bào)告論文(代碼數(shù)據(jù)).docx資源推薦 資源評(píng)論 鯨魚算法(WOA)優(yōu)化變分模態(tài)分解(VMD)參數(shù)python 5星 · 資源好評(píng)率100% 1.python程序 2.有數(shù)據(jù)集,可直接運(yùn)行 matlab批量讀取excel表格數(shù)據(jù)...
機(jī)器學(xué)習(xí)--邏輯回歸_科技論文精講的博客
機(jī)器學(xué)習(xí)-邏輯回歸分析(Python) 02-24 回歸和分類方法是機(jī)器學(xué)習(xí)中經(jīng)常用到的方法區(qū)分回歸問(wèn)題和分類問(wèn)題:回歸問(wèn)題:輸入變量和輸出變量均為連續(xù)變量的問(wèn)題;分類問(wèn)題:輸出變量為有限個(gè)離散變量的問(wèn)題。因此分類及回歸分別為研究這兩類問(wèn)題...
常見(jiàn)函數(shù)極限
lim?x→0sin?x=1\lim_{x\to 0}\frac{\sin}{x}=1x→0limxsin=1 lim?x→∞(1+1x)x=e\lim_{x\to \infty}(1+\frac{1}{x})^x=ex→∞lim(1+x1)x=e lim?α→0(1+α)1α=e\lim_{\alpha\to 0}(1+\alpha)^\frac{1}{\alpha}=eα→0lim(...
繼續(xù)訪問(wèn)
邏輯回歸原理及代碼實(shí)現(xiàn)
公式自變量取值為任意實(shí)數(shù)，值域[0,1]解釋將任意的輸入映射到了[0,1]區(qū)間，我們?cè)诰€性回歸中可以得到一個(gè)預(yù)測(cè)值，再將該值映射到Sigmoid函數(shù)中這樣就完成了由值到概率的轉(zhuǎn)換，也就是分類任務(wù)預(yù)測(cè)函數(shù)其中，分類任務(wù)整合解釋對(duì)于二分類任務(wù)（0，1），整合后y取0只保留，y取1只保留似然函數(shù)對(duì)數(shù)似然此時(shí)應(yīng)用梯度上升求最大值，引入轉(zhuǎn)換為梯度下降任務(wù)求導(dǎo)過(guò)程參數(shù)更新多分類的softmax。............
繼續(xù)訪問(wèn)
python手寫數(shù)字識(shí)別論文_Python利用邏輯回歸模型解決MNIST手寫數(shù)字識(shí)別問(wèn)...
本文實(shí)例講述了Python利用邏輯回歸模型解決MNIST手寫數(shù)字識(shí)別問(wèn)題。分享給大家供大家參考,具體如下: 1、MNIST手寫識(shí)別問(wèn)題 MNIST手寫數(shù)字識(shí)別問(wèn)題:輸入黑白的手寫阿拉伯?dāng)?shù)字,通過(guò)機(jī)器學(xué)習(xí)判斷輸入的是幾?？梢酝ㄟ^(guò)TensorFLow下載MNIST手寫數(shù)據(jù)集,...
邏輯回歸問(wèn)題整理_暮雨林鐘的博客
邏輯回歸問(wèn)題整理 之前只是簡(jiǎn)單的接觸過(guò)邏輯回歸,今天針對(duì)于最近看論文的疑惑做一個(gè)整理; 邏輯回歸與極大似然的關(guān)系: 邏輯回歸的提出主要是在線性問(wèn)題下為分類問(wèn)題而提出的; 簡(jiǎn)單來(lái)說(shuō),針對(duì)于一個(gè)二分類問(wèn)題,我們需要將線性函數(shù)映射為一...
機(jī)器學(xué)習(xí)算法-邏輯回歸（一）：基于邏輯回歸的分類預(yù)測(cè)（代碼附詳細(xì)注釋）
1 邏輯回歸的介紹和應(yīng)用 1.1 邏輯回歸的介紹 邏輯回歸（Logistic regression，簡(jiǎn)稱LR）雖然其中帶有"回歸"兩個(gè)字，但邏輯回歸其實(shí)是一個(gè)分類模型，并且廣泛應(yīng)用于各個(gè)領(lǐng)域之中。雖然現(xiàn)在深度學(xué)習(xí)相對(duì)于這些傳統(tǒng)方法更為火熱，但實(shí)則這些傳統(tǒng)方法由于其獨(dú)特的優(yōu)勢(shì)依然廣泛應(yīng)用于各個(gè)領(lǐng)域中。 而對(duì)于邏輯回歸而且，最為突出的兩點(diǎn)就是其模型簡(jiǎn)單和模型的可解釋性強(qiáng)。 邏輯回歸模型的優(yōu)劣勢(shì): 優(yōu)點(diǎn)：實(shí)現(xiàn)簡(jiǎn)單，易于理解和實(shí)現(xiàn)；計(jì)算代價(jià)不高，速度很快，存儲(chǔ)資源低； 缺點(diǎn)：容易欠擬合，分類精度可能不高 1.2
繼續(xù)訪問(wèn)
邏輯回歸：原理+代碼
（作者：陳玓玏） 邏輯回歸算是傳統(tǒng)機(jī)器學(xué)習(xí)中最簡(jiǎn)單的模型了，它的基礎(chǔ)是線性回歸，為了弄明白邏輯回歸，我們先來(lái)看線性回歸。 一、線性回歸 假設(shè)共N個(gè)樣本，每個(gè)樣本有M個(gè)特征，這樣就產(chǎn)生了一個(gè)N*M大小的樣本矩陣。令矩陣為X，第i個(gè)樣本為Xi，第i個(gè)樣本的第j個(gè)特征為Xij。令樣本的觀測(cè)向量為Y，第i個(gè)樣本的觀測(cè)值為Yi，那么就會(huì)有以下公式： （X+[1]N*1）*W = Y 也就是說(shuō)，...
繼續(xù)訪問(wèn)
淺談邏輯回歸_jzhx107的博客
LMSE回歸的回歸平面受左上角兩個(gè)綠色樣本的影響而向上傾斜。 支持向量機(jī)的分離平面只由兩個(gè)支持向量決定。 另外我們看到,在本例中邏輯回歸和支持向量機(jī)得到的分離平面很接近,但是支持向量機(jī)的推導(dǎo)和訓(xùn)練過(guò)程要比邏輯回歸復(fù)雜很多。所以加州...
論文研究-基于HBase的多分類邏輯回歸算法研究.pdf_多分類邏輯回歸...
論文研究-基于HBase的多分類邏輯回歸算法研究.pdf,為解決在大數(shù)據(jù)環(huán)境下,用于訓(xùn)練多分類邏輯回歸模型的數(shù)據(jù)集可能會(huì)超過(guò)執(zhí)行計(jì)算的客戶端內(nèi)存的問(wèn)題,提出了塊批量梯度下降算法,用于計(jì)算回歸模型的系數(shù)。將訓(xùn)練數(shù)據(jù)集存入HBase后,通過(guò)設(shè)置表...
【機(jī)器學(xué)習(xí)】 邏輯回歸原理及代碼
大家好，我是機(jī)器俠~1 Linear Regression（線性回歸）在了解邏輯回歸之前，我們先簡(jiǎn)單介紹一下Linear Regression（線性回歸）。線性回歸是利用連續(xù)性的變量來(lái)預(yù)估實(shí)際數(shù)值（比如房?jī)r(jià)），通過(guò)找出自變量與因變量之間的線性關(guān)系，確定一條最佳直線，稱之為回歸線。并且，我們將這個(gè)回歸關(guān)系表示為2 Logistic Regression（...
繼續(xù)訪問(wèn)
最新發(fā)布 【大道至簡(jiǎn)】機(jī)器學(xué)習(xí)算法之邏輯回歸(Logistic Regression)詳解(附代碼)---非常通俗易懂！
邏輯回歸詳細(xì)推導(dǎo)，附github代碼
繼續(xù)訪問(wèn)
第二重要極限公式推導(dǎo)過(guò)程_機(jī)器學(xué)習(xí)——一文詳解邏輯回歸「附詳細(xì)推導(dǎo)和代碼」...
在之前的文章當(dāng)中，我們推導(dǎo)了線性回歸的公式，線性回歸本質(zhì)是線性函數(shù)，模型的原理不難，核心是求解模型參數(shù)的過(guò)程。通過(guò)對(duì)線性回歸的推導(dǎo)和學(xué)習(xí)，我們基本上了解了機(jī)器學(xué)習(xí)模型學(xué)習(xí)的過(guò)程，這是機(jī)器學(xué)習(xí)的精髓，要比單個(gè)模型的原理重要得多。新關(guān)注和有所遺忘的同學(xué)可以點(diǎn)擊下方的鏈接回顧一下之前的線性回歸和梯度下降的內(nèi)容。講透機(jī)器學(xué)習(xí)中的梯度下降機(jī)器學(xué)習(xí)基礎(chǔ)——線性回歸公式推導(dǎo)(附代碼和演示圖)回歸與分類在機(jī)器學(xué)習(xí)...
繼續(xù)訪問(wèn)
機(jī)器學(xué)習(xí)之邏輯回歸，代碼實(shí)現(xiàn)（附帶sklearn代碼，小白版）
用小白的角度解釋邏輯回歸，并且附帶代碼實(shí)現(xiàn)
繼續(xù)訪問(wèn)
熱門推薦 兩個(gè)重要極限及相關(guān)推導(dǎo)極限
兩個(gè)重要極限： ①limx→0sinxx=1\lim_{x \to 0}\frac{\sin x}{x} = 1 ②limx→∞(1+1x)x=e\lim_{x \to \infty}(1 + \frac{1}{x})^x = e 關(guān)于重要極限①的推導(dǎo)極限可以參考： 無(wú)窮小的等價(jià)代換 由重要極限②可以推導(dǎo)出： limx→∞(1+1x)x?limx→0(1+x)1x=e\lim_{x \t
繼續(xù)訪問(wèn)
（一）機(jī)器學(xué)習(xí)——邏輯回歸（附完整代碼和數(shù)據(jù)集）
什么是邏輯回歸？ 首先邏輯回歸是一種分類算法。邏輯回歸算法和預(yù)測(cè)類算法中的線性回歸算法有一定的類似性。簡(jiǎn)單來(lái)講，邏輯回歸，就是通過(guò)回歸的方法來(lái)進(jìn)行分類，而不是進(jìn)行預(yù)測(cè)，比如預(yù)測(cè)房?jī)r(jià)等。 邏輯回歸解決的問(wèn)題 先看下面的圖，已知平面上分布的紅點(diǎn)和藍(lán)點(diǎn)，邏輯回歸算法就是解決怎么根據(jù)一系列點(diǎn)，計(jì)算出一條直線（或者是平面）將平面上的點(diǎn)分成兩類，一般的解決方法就是建立一個(gè)數(shù)學(xué)模型，然后通過(guò)迭代優(yōu)化得到一個(gè)最優(yōu)...
繼續(xù)訪問(wèn)
機(jī)器學(xué)習(xí)：邏輯回歸及其代碼實(shí)現(xiàn)
一、邏輯回歸（logistic regression）介紹 邏輯回歸，又稱為對(duì)數(shù)幾率回歸，雖然它名字里面有回歸二字，但是它并不像線性回歸一樣用來(lái)預(yù)測(cè)數(shù)值型數(shù)據(jù)，相反，它一般用來(lái)解決分類任務(wù)，特別是二分類任務(wù)。 本質(zhì)上，它是一個(gè)percetron再加上一個(gè)sigmoid激活函數(shù)，如下所示： 然后邏輯回歸采用的損失函數(shù)是交叉熵： ...
繼續(xù)訪問(wèn)
邏輯回歸，原理及代碼實(shí)現(xiàn)
Ⅰ.邏輯回歸概述： 邏輯回歸（LR,Logistic Regression）是傳統(tǒng)機(jī)器學(xué)習(xí)中的一種分類模型，它屬于一種在線學(xué)習(xí)算法，可以利用新的數(shù)據(jù)對(duì)各個(gè)特征的權(quán)重進(jìn)行更新，而不需要重新利用歷史數(shù)據(jù)訓(xùn)練。因此在實(shí)際開發(fā)中，一般針對(duì)該類任務(wù)首先都會(huì)構(gòu)建一個(gè)基于LR的模型作為Baseline Model，實(shí)現(xiàn)快速上線，然后在此基礎(chǔ)上結(jié)合后續(xù)業(yè)務(wù)與數(shù)據(jù)的演進(jìn)，不斷的優(yōu)化改進(jìn)。 由于LR算法具有簡(jiǎn)單、高效、易于并行且在線學(xué)習(xí)（動(dòng)態(tài)擴(kuò)展）的特點(diǎn)，在工業(yè)界具有非常廣泛的應(yīng)用。例如：評(píng)論信息正負(fù)情感分析（二分類）、用戶點(diǎn)
繼續(xù)訪問(wèn)
邏輯(logistic)回歸算法原理及兩種代碼實(shí)現(xiàn)
①簡(jiǎn)單介紹了邏輯回歸的原理 ②介紹了兩種代碼實(shí)現(xiàn)方法
繼續(xù)訪問(wèn)
由兩個(gè)重要極限推導(dǎo)常見(jiàn)等價(jià)無(wú)窮小以及常見(jiàn)導(dǎo)數(shù)公式
兩個(gè)重要極限 第一個(gè)重要極限 lim?x→0xsinx=1 \lim_{x\rightarrow0}\frac{x}{sinx}=1x→0limsinxx=1 第二個(gè)重要極限 lim?x→+∞(1+1x)x=e \lim_{x\rightarrow+\infty}(1+\frac{1}{x})^x=ex→+∞lim(1+x1)x=e 等價(jià)無(wú)窮小 1. ln(1+x)~x lim?x→0ln(1+x)x=lim?x→0ln(1+x)1x=ln(lim?x→+∞(1+1x)x)=lne=1 \lim_{
繼續(xù)訪問(wèn)
機(jī)器學(xué)習(xí)——邏輯回歸算法代碼實(shí)現(xiàn)
機(jī)器學(xué)習(xí)——邏輯回歸算法代碼實(shí)現(xiàn)前言一、邏輯回歸是什么？二、代碼實(shí)現(xiàn)1.數(shù)據(jù)說(shuō)明2.邏輯回歸代碼 前言 最近準(zhǔn)備開始學(xué)習(xí)機(jī)器學(xué)習(xí)，后續(xù)將對(duì)學(xué)習(xí)內(nèi)容進(jìn)行記錄，該文主要針對(duì)邏輯回歸代碼實(shí)現(xiàn)進(jìn)行記錄！同時(shí)也準(zhǔn)備建一個(gè)群，大家可以進(jìn)行交流，微信：ffengjixuchui 一、邏輯回歸是什么？ 邏輯回歸概念篇可看博主之前的文章，傳送門 二、代碼實(shí)現(xiàn) 1.數(shù)據(jù)說(shuō)明 你想根據(jù)兩次考試的結(jié)果來(lái)決定每個(gè)申請(qǐng)人的錄取機(jī)會(huì)。你有以前的申請(qǐng)人的歷史數(shù)據(jù)，你可以用它作為邏輯回歸的訓(xùn)練集。
import numpy as np
a = np.array([1,2,3])
b = np.array([1,2,3])
print((a==b).all())
a = np.array([3,2,1])
b = np.array([1,2,3])
print((a==b).all())
可以用第三方庫(kù)吧？ 抄的。再加上計(jì)數(shù)，隨機(jī)數(shù)列表就行了。$ pythonpython 2.7.3 (default, mar 14 2014, 11:57:14) [gcc 4.7.2] on linux2type "help", "copyright", "credits" or "license" for more information. a = 1 b = 2 c = 2 d = 4 if a b == c d:... print "ok"... ok
重慶分公司
重慶分公司
