數(shù)組允許進(jìn)行批量操作而無(wú)需使用for循環(huán),因此更加簡(jiǎn)便,這種特性也被稱(chēng)為向量化。任何兩個(gè)等尺寸之間的算術(shù)操作都應(yīng)用逐元素操作的方式進(jìn)行。
成都創(chuàng)新互聯(lián)公司專(zhuān)業(yè)成都網(wǎng)站設(shè)計(jì)、成都網(wǎng)站建設(shè),集網(wǎng)站策劃、網(wǎng)站設(shè)計(jì)、網(wǎng)站制作于一體,網(wǎng)站seo、網(wǎng)站優(yōu)化、網(wǎng)站營(yíng)銷(xiāo)、軟文推廣等專(zhuān)業(yè)人才根據(jù)搜索規(guī)律編程設(shè)計(jì),讓網(wǎng)站在運(yùn)行后,在搜索中有好的表現(xiàn),專(zhuān)業(yè)設(shè)計(jì)制作為您帶來(lái)效益的網(wǎng)站!讓網(wǎng)站建設(shè)為您創(chuàng)造效益。
同尺度數(shù)組之間的比較,會(huì)產(chǎn)生一個(gè)布爾型數(shù)組。
上述操作均是在同尺度數(shù)組之間進(jìn)行的,對(duì)于不同尺度數(shù)組間的操作,會(huì)使用到廣播特性。
索引:獲取數(shù)組中特定位置元素的過(guò)程;
切片:獲取數(shù)組元素子集的過(guò)程。
new_a = a.astype(new_type)
astype()方法一定會(huì)創(chuàng)建新的數(shù)組(原始數(shù)據(jù)的一個(gè)拷貝),即使兩個(gè)類(lèi)型一致。
ls = a.tolist()
轉(zhuǎn)置是一種特殊的數(shù)據(jù)重組形式,可以返回底層數(shù)據(jù)的視圖而不需要復(fù)制任何內(nèi)容。
數(shù)組擁有 transpose 方法,也有特殊的 T 屬性。
對(duì)于更高緯度的數(shù)組, transpose 方法可以接受包含軸編號(hào)的元組,用于轉(zhuǎn)置軸。
ndarray的 swapaxes 方法,通過(guò)接受一對(duì)軸編號(hào)作為參數(shù),并對(duì)軸進(jìn)行調(diào)整用于重組數(shù)據(jù)。
swapaxes 方法返回的是數(shù)據(jù)的視圖,而沒(méi)有對(duì)數(shù)據(jù)進(jìn)行復(fù)制。
Reference:
《Python for Data Analysis:Data Wrangling with Pandas,Numpy,and IPython》
是否非常想學(xué)好 Python,一方面被瑣事糾纏,一直沒(méi)能動(dòng)手,另一方面,擔(dān)心學(xué)習(xí)成本太高,心里默默敲著退堂鼓?
幸運(yùn)的是,Python 是一門(mén)初學(xué)者友好的編程語(yǔ)言,想要完全掌握它,你不必花上太多的時(shí)間和精力。
Python 的設(shè)計(jì)哲學(xué)之一就是簡(jiǎn)單易學(xué),體現(xiàn)在兩個(gè)方面:
語(yǔ)法簡(jiǎn)潔明了:相對(duì) Ruby 和 Perl,它的語(yǔ)法特性不多不少,大多數(shù)都很簡(jiǎn)單直接,不玩兒玄學(xué)。
切入點(diǎn)很多:Python 可以讓你可以做很多事情,科學(xué)計(jì)算和數(shù)據(jù)分析、爬蟲(chóng)、Web 網(wǎng)站、游戲、命令行實(shí)用工具等等等等,總有一個(gè)是你感興趣并且愿意投入時(shí)間的。
廢話(huà)不多說(shuō),學(xué)會(huì)一門(mén)語(yǔ)言的捷徑只有一個(gè): Getting Started
? 起步階段
任何一種編程語(yǔ)言都包含兩個(gè)部分:硬知識(shí)和軟知識(shí),起步階段的主要任務(wù)是掌握硬知識(shí)。
硬知識(shí)
“硬知識(shí)”指的是編程語(yǔ)言的語(yǔ)法、算法和數(shù)據(jù)結(jié)構(gòu)、編程范式等,例如:變量和類(lèi)型、循環(huán)語(yǔ)句、分支、函數(shù)、類(lèi)。這部分知識(shí)也是具有普適性的,看上去是掌握了一種語(yǔ)法,實(shí)際是建立了一種思維。例如:讓一個(gè) Java 程序員去學(xué)習(xí) Python,他可以很快的將 Java 中的學(xué)到的面向?qū)ο蟮闹R(shí) map 到 Python 中來(lái),因此能夠快速掌握 Python 中面向?qū)ο蟮奶匦浴?/p>
如果你是剛開(kāi)始學(xué)習(xí)編程的新手,一本可靠的語(yǔ)法書(shū)是非常重要的。它看上去可能非??菰锓ξ叮珜?duì)于建立穩(wěn)固的編程思維是必不可少。
下面列出了一些適合初學(xué)者入門(mén)的教學(xué)材料:
廖雪峰的 Python 教程 ? ?Python 中文教程的翹楚,專(zhuān)為剛剛步入程序世界的小白打造。 ?
笨方法學(xué) Python ? ?這本書(shū)在講解 Python 的語(yǔ)法成分時(shí),還附帶大量可實(shí)踐的例子,非常適合快速起步。 ?
The Hitchhiker’s Guide to Python! ? ?這本指南著重于 Python 的最佳實(shí)踐,不管你是 Python 專(zhuān)家還是新手,都能獲得極大的幫助。 ?
Python 的哲學(xué):
用一種方法,最好是只有一種方法來(lái)做一件事。
學(xué)習(xí)也是一樣,雖然推薦了多種學(xué)習(xí)資料,但實(shí)際學(xué)習(xí)的時(shí)候,最好只選擇其中的一個(gè),堅(jiān)持看完。
必要的時(shí)候,可能需要閱讀講解數(shù)據(jù)結(jié)構(gòu)和算法的書(shū),這些知識(shí)對(duì)于理解和使用 Python 中的對(duì)象模型有著很大的幫助。
軟知識(shí)
“軟知識(shí)”則是特定語(yǔ)言環(huán)境下的語(yǔ)法技巧、類(lèi)庫(kù)的使用、IDE的選擇等等。這一部分,即使完全不了解不會(huì)使用,也不會(huì)妨礙你去編程,只不過(guò)寫(xiě)出的程序,看上去顯得“傻”了些。
對(duì)這些知識(shí)的學(xué)習(xí),取決于你嘗試解決的問(wèn)題的領(lǐng)域和深度。對(duì)初學(xué)者而言,起步階段極易走火,或者在選擇 Python 版本時(shí)徘徊不決,一會(huì)兒看 2.7 一會(huì)兒又轉(zhuǎn)到 3.0,或者徜徉在類(lèi)庫(kù)的大海中無(wú)法自拔,Scrapy,Numpy,Django 什么都要試試,或者參與編輯器圣戰(zhàn)、大括號(hào)縮進(jìn)探究、操作系統(tǒng)辯論賽等無(wú)意義活動(dòng),或者整天跪舔語(yǔ)法糖,老想著怎么一行代碼把所有的事情做完,或者去構(gòu)想圣潔的性能安全通用性健壯性全部滿(mǎn)分的解決方案。
很多“大?!倍紩?huì)告誡初學(xué)者,用這個(gè)用那個(gè),少走彎路,這樣反而把初學(xué)者推向了真正的彎路。
還不如告訴初學(xué)者,學(xué)習(xí)本來(lái)就是個(gè)需要你去走彎路出 Bug,只能腳踏實(shí)地,沒(méi)有奇跡只有狗屎的過(guò)程。
選擇一個(gè)方向先走下去,哪怕臟丑差,走不動(dòng)了再看看有沒(méi)有更好的解決途徑。
自己走了彎路,你才知道這么做的好處,才能理解為什么人們可以手寫(xiě)狀態(tài)機(jī)去匹配卻偏要發(fā)明正則表達(dá)式,為什么面向過(guò)程可以解決卻偏要面向?qū)ο?,為什么我可以操縱每一根指針卻偏要自動(dòng)管理內(nèi)存,為什么我可以嵌套回調(diào)卻偏要用 Promise...
更重要的是,你會(huì)明白,高層次的解決方法都是對(duì)低層次的封裝,并不是任何情況下都是最有效最合適的。
技術(shù)涌進(jìn)就像波浪一樣,那些陳舊的封存已久的技術(shù),消退了遲早還會(huì)涌回的。就像現(xiàn)在移動(dòng)端應(yīng)用、手游和 HTML5 的火熱,某些方面不正在重演過(guò)去 PC 的那些歷史么?
因此,不要擔(dān)心自己走錯(cuò)路誤了終身,堅(jiān)持并保持進(jìn)步才是正道。
起步階段的核心任務(wù)是掌握硬知識(shí),軟知識(shí)做適當(dāng)了解,有了穩(wěn)固的根,粗壯的枝干,才能長(zhǎng)出濃密的葉子,結(jié)出甜美的果實(shí)。
? 發(fā)展階段
完成了基礎(chǔ)知識(shí)的學(xué)習(xí),必定會(huì)感到一陣空虛,懷疑這些語(yǔ)法知識(shí)是不是真的有用。
沒(méi)錯(cuò),你的懷疑是非常正確的。要讓 Python 發(fā)揮出它的價(jià)值,當(dāng)然不能停留在語(yǔ)法層面。
發(fā)展階段的核心任務(wù),就是“跳出 Python,擁抱世界”。
在你面前會(huì)有多個(gè)分支:科學(xué)計(jì)算和數(shù)據(jù)分析、爬蟲(chóng)、Web 網(wǎng)站、游戲、命令行實(shí)用工具等等等等,這些都不是僅僅知道 Python 語(yǔ)法就能解決的問(wèn)題。
拿爬蟲(chóng)舉例,如果你對(duì)計(jì)算機(jī)網(wǎng)絡(luò),HTTP 協(xié)議,HTML,文本編碼,JSON 一無(wú)所知,你能做好這部分的工作么?而你在起步階段的基礎(chǔ)知識(shí)也同樣重要,如果你連循環(huán)遞歸怎么寫(xiě)都還要查文檔,連 BFS 都不知道怎么實(shí)現(xiàn),這就像工匠做石凳每次起錘都要思考錘子怎么使用一樣,非常低效。
在這個(gè)階段,不可避免要接觸大量類(lèi)庫(kù),閱讀大量書(shū)籍的。
類(lèi)庫(kù)方面
「Awesome Python 項(xiàng)目」:vinta/awesome-python · GitHub
這里列出了你在嘗試解決各種實(shí)際問(wèn)題時(shí),Python 社區(qū)已有的工具型類(lèi)庫(kù),如下圖所示:
請(qǐng)點(diǎn)擊輸入圖片描述
vinta/awesome-python
你可以按照實(shí)際需求,尋找你需要的類(lèi)庫(kù)。
至于相關(guān)類(lèi)庫(kù)如何使用,必須掌握的技能便是閱讀文檔。由于開(kāi)源社區(qū)大多數(shù)文檔都是英文寫(xiě)成的,所以,英語(yǔ)不好的同學(xué),需要惡補(bǔ)下。
書(shū)籍方面
這里我只列出一些我覺(jué)得比較有一些幫助的書(shū)籍,詳細(xì)的請(qǐng)看豆瓣的書(shū)評(píng):
科學(xué)和數(shù)據(jù)分析:
?「集體智慧編程」:集體智慧編程 (豆瓣)
?「數(shù)學(xué)之美」:數(shù)學(xué)之美 (豆瓣)
?「統(tǒng)計(jì)學(xué)習(xí)方法」:統(tǒng)計(jì)學(xué)習(xí)方法 (豆瓣)
?「Pattern Recognition And Machine Learning」:Pattern Recognition And Machine Learning (豆瓣)
?「數(shù)據(jù)科學(xué)實(shí)戰(zhàn)」:數(shù)據(jù)科學(xué)實(shí)戰(zhàn) (豆瓣)
?「數(shù)據(jù)檢索導(dǎo)論」:信息檢索導(dǎo)論 (豆瓣)
爬蟲(chóng):
?「HTTP 權(quán)威指南」:HTTP權(quán)威指南 (豆瓣)
Web 網(wǎng)站:
?「HTML CSS 設(shè)計(jì)與構(gòu)建網(wǎng)站」:HTML CSS設(shè)計(jì)與構(gòu)建網(wǎng)站 (豆瓣)
...
列到這里已經(jīng)不需要繼續(xù)了。
聰明的你一定會(huì)發(fā)現(xiàn)上面的大部分書(shū)籍,并不是講 Python 的書(shū),而更多的是專(zhuān)業(yè)知識(shí)。
事實(shí)上,這里所謂“跳出 Python,擁抱世界”,其實(shí)是發(fā)現(xiàn) Python 和專(zhuān)業(yè)知識(shí)相結(jié)合,能夠解決很多實(shí)際問(wèn)題。這個(gè)階段能走到什么程度,更多的取決于自己的專(zhuān)業(yè)知識(shí)。
? 深入階段
這個(gè)階段的你,對(duì) Python 幾乎了如指掌,那么你一定知道 Python 是用 C 語(yǔ)言實(shí)現(xiàn)的。
可是 Python 對(duì)象的“動(dòng)態(tài)特征”是怎么用相對(duì)底層,連自動(dòng)內(nèi)存管理都沒(méi)有的C語(yǔ)言實(shí)現(xiàn)的呢?這時(shí)候就不能停留在表面了,勇敢的拆開(kāi) Python 的黑盒子,深入到語(yǔ)言的內(nèi)部,去看它的歷史,讀它的源碼,才能真正理解它的設(shè)計(jì)思路。
這里推薦一本書(shū):
「Python 源碼剖析」:Python源碼剖析 (豆瓣)
這本書(shū)把 Python 源碼中最核心的部分,給出了詳細(xì)的闡釋?zhuān)贿^(guò)閱讀此書(shū)需要對(duì) C 語(yǔ)言?xún)?nèi)存模型和指針有著很好的理解。
另外,Python 本身是一門(mén)雜糅多種范式的動(dòng)態(tài)語(yǔ)言,也就是說(shuō),相對(duì)于 C 的過(guò)程式、 Haskell 等的函數(shù)式、Java 基于類(lèi)的面向?qū)ο蠖裕疾粔蚣兇狻Q而言之,編程語(yǔ)言的“道學(xué)”,在 Python 中只能有限的體悟。學(xué)習(xí)某種編程范式時(shí),從那些面向這種范式更加純粹的語(yǔ)言出發(fā),才能有更深刻的理解,也能了解到 Python 語(yǔ)言的根源。
這里推薦一門(mén)公開(kāi)課
「編程范式」:斯坦福大學(xué)公開(kāi)課:編程范式
講師高屋建瓴,從各種編程范式的代表語(yǔ)言出發(fā),給出了每種編程范式最核心的思想。
值得一提的是,這門(mén)課程對(duì)C語(yǔ)言有非常深入的講解,例如C語(yǔ)言的范型和內(nèi)存管理。這些知識(shí),對(duì)閱讀 Python 源碼也有大有幫助。
Python 的許多最佳實(shí)踐都隱藏在那些眾所周知的框架和類(lèi)庫(kù)中,例如 Django、Tornado 等等。在它們的源代碼中淘金,也是個(gè)不錯(cuò)的選擇。
? ?最后的話(huà)
每個(gè)人學(xué)編程的道路都是不一樣的,其實(shí)大都殊途同歸,沒(méi)有迷路的人只有不能堅(jiān)持的人!
希望想學(xué) Python 想學(xué)編程的同學(xué),不要猶豫了,看完這篇文章,
Just Getting Started ??。?!
一:學(xué)會(huì)正確使用numpy scipy。 numpy scipy寫(xiě)好的絕不自己寫(xiě),比如矩陣運(yùn)算等操作,pylab的實(shí)現(xiàn)還算不錯(cuò)。各種函數(shù)都有,盡量使用他們可以避免初學(xué)者大部分的速度不足問(wèn)題。因?yàn)檫@些函數(shù)大部分都是預(yù)編譯好的。
根據(jù)我?guī)啄昵暗臏y(cè)試,python的矩陣運(yùn)算速度并不慢,(因?yàn)槟氵\(yùn)行的是動(dòng)態(tài)鏈接庫(kù)里面的函數(shù)而不是腳本)比mathematica快,和matlab持平。
大部分新手不擅長(zhǎng)看文檔啥都自己造輪子是不好的。當(dāng)然老手把效率寫(xiě)的比開(kāi)源庫(kù)高也不算啥新聞,畢竟有對(duì)特定程序的優(yōu)化
二:減少for的使用,多使用向量化函數(shù),np.vectorlize可以把函數(shù)變成對(duì)數(shù)組逐元素的操作,比f(wàn)or效率高幾個(gè)華萊士。
三:對(duì)內(nèi)存友好,操作大矩陣的時(shí)候減少會(huì)引起整矩陣對(duì)此copy的操作
四:系統(tǒng)最慢的大部分時(shí)候是io,包括上面說(shuō)的內(nèi)存操作和頻繁的讀入讀出以及debug輸出。避免他們,在需要實(shí)時(shí)處理的時(shí)候引入類(lèi)似于gpu的pipeline管線(xiàn)機(jī)制或者使用靈活的多線(xiàn)程編程可以起到奇效。
五:matplotlib的繪圖效率并不高明,在使用交互繪圖(plt.ion)的時(shí)候減少不必要的刷新率。
1. Pandas.apply() – 特征工程瑰寶
Pandas 庫(kù)已經(jīng)非常優(yōu)化了,但是大部分人都沒(méi)有發(fā)揮它的最大作用。想想它一般會(huì)用于數(shù)據(jù)科學(xué)項(xiàng)目中的哪些地方。一般首先能想到的就是特征工程,即用已有特征創(chuàng)造新特征。其中最高效的方法之一就是Pandas.apply(),即Pandas中的apply函數(shù)。
在Pandas.apply()中,可以傳遞用戶(hù)定義功能并將其應(yīng)用到Pandas Series的所有數(shù)據(jù)點(diǎn)中。這個(gè)函數(shù)是Pandas庫(kù)最好的擴(kuò)展功能之一,它能根據(jù)所需條件分隔數(shù)據(jù)。之后便能將其有效應(yīng)用到數(shù)據(jù)處理任務(wù)中。
2. Pandas.DataFrame.loc – Python數(shù)據(jù)操作絕妙技巧
所有和數(shù)據(jù)處理打交道的數(shù)據(jù)科學(xué)家(差不多所有人了!)都應(yīng)該學(xué)會(huì)這個(gè)方法。
很多時(shí)候,數(shù)據(jù)科學(xué)家需要根據(jù)一些條件更新數(shù)據(jù)集中某列的某些值。Pandas.DataFrame.loc就是此類(lèi)問(wèn)題最優(yōu)的解決方法。
3. Python函數(shù)向量化
另一種解決緩慢循環(huán)的方法就是將函數(shù)向量化。這意味著新建函數(shù)會(huì)應(yīng)用于輸入列表,并返回結(jié)果數(shù)組。在Python中使用向量化能至少迭代兩次,從而加速計(jì)算。
事實(shí)上,這樣不僅能加速代碼運(yùn)算,還能讓代碼更加簡(jiǎn)潔清晰。
4. Python多重處理
多重處理能使系統(tǒng)同時(shí)支持一個(gè)以上的處理器。
此處將數(shù)據(jù)處理分成多個(gè)任務(wù),讓它們各自獨(dú)立運(yùn)行。處理龐大的數(shù)據(jù)集時(shí),即使是apply函數(shù)也顯得有些遲緩。
關(guān)于優(yōu)化Python編程的4個(gè)妙招,青藤小編就和您分享到這里了。如果您對(duì)python編程有濃厚的興趣,希望這篇文章可以為您提供幫助。如果您還想了解更多關(guān)于python編程的技巧及素材等內(nèi)容,可以點(diǎn)擊本站的其他文章進(jìn)行學(xué)習(xí)。
前言
Python 一直以來(lái)被大家所詬病的一點(diǎn)就是執(zhí)行速度慢,但不可否認(rèn)的是 Python 依然是我們學(xué)習(xí)和工作中的一大利器。本文總結(jié)了15個(gè)tips有助于提升 Python 執(zhí)行速度、優(yōu)化性能。
關(guān)于 Python 如何精確地測(cè)量程序的執(zhí)行時(shí)間,這個(gè)問(wèn)題看起來(lái)簡(jiǎn)單其實(shí)很復(fù)雜,因?yàn)槌绦虻膱?zhí)行時(shí)間受到很多因素的影響,例如操作系統(tǒng)、Python 版本以及相關(guān)硬件(CPU 性能、內(nèi)存讀寫(xiě)速度)等。在同一臺(tái)電腦上運(yùn)行相同版本的語(yǔ)言時(shí),上述因素就是確定的了,但是程序的睡眠時(shí)間依然是變化的,且電腦上正在運(yùn)行的其他程序也會(huì)對(duì)實(shí)驗(yàn)有干擾,因此嚴(yán)格來(lái)說(shuō)這就是實(shí)驗(yàn)不可重復(fù)。
我了解到的關(guān)于計(jì)時(shí)比較有代表性的兩個(gè)庫(kù)就是 time 和 timeit 。
其中, time 庫(kù)中有 time() 、 perf_counter() 以及 process_time() 三個(gè)函數(shù)可用來(lái)計(jì)時(shí)(以秒為單位),加后綴 _ns 表示以納秒計(jì)時(shí)(自 Python3.7 始)。在此之前還有 clock() 函數(shù),但是在 Python3.3 之后被移除了。上述三者的區(qū)別如下:
與 time 庫(kù)相比, timeit 有兩個(gè)優(yōu)點(diǎn):
timeit.timeit(stmt='pass', setup='pass', timer= , number=1000000, globals=None) 參數(shù)說(shuō)明:
本文所有的計(jì)時(shí)均采用 timeit 方法,且采用默認(rèn)的執(zhí)行次數(shù)一百萬(wàn)次。
為什么要執(zhí)行一百萬(wàn)次呢?因?yàn)槲覀兊臏y(cè)試程序很短,如果不執(zhí)行這么多次的話(huà),根本看不出差距。
Exp1:將字符串?dāng)?shù)組中的小寫(xiě)字母轉(zhuǎn)為大寫(xiě)字母。
測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
方法二
方法一耗時(shí) 0.5267724000000005s ,方法二耗時(shí) 0.41462569999999843s ,性能提升 21.29%
Exp2:求兩個(gè) list 的交集。
測(cè)試數(shù)組:a = [1,2,3,4,5],b = [2,4,6,8,10]。
方法一
方法二
方法一耗時(shí) 0.9507264000000006s ,方法二耗時(shí) 0.6148200999999993s ,性能提升 35.33%
關(guān)于 set() 的語(yǔ)法: | 、 、 - 分別表示求并集、交集、差集。
我們可以通過(guò)多種方式對(duì)序列進(jìn)行排序,但其實(shí)自己編寫(xiě)排序算法的方法有些得不償失。因?yàn)閮?nèi)置的 sort() 或 sorted() 方法已經(jīng)足夠優(yōu)秀了,且利用參數(shù) key 可以實(shí)現(xiàn)不同的功能,非常靈活。二者的區(qū)別是 sort() 方法僅被定義在 list 中,而 sorted() 是全局方法對(duì)所有的可迭代序列都有效。
Exp3:分別使用快排和 sort() 方法對(duì)同一列表排序。
測(cè)試數(shù)組:lists = [2,1,4,3,0]。
方法一
方法二
方法一耗時(shí) 2.4796975000000003s ,方法二耗時(shí) 0.05551999999999424s ,性能提升 97.76%
順帶一提, sorted() 方法耗時(shí) 0.1339823999987857s 。
可以看出, sort() 作為 list 專(zhuān)屬的排序方法還是很強(qiáng)的, sorted() 雖然比前者慢一點(diǎn),但是勝在它“不挑食”,它對(duì)所有的可迭代序列都有效。
擴(kuò)展 :如何定義 sort() 或 sorted() 方法的 key
1.通過(guò) lambda 定義
2.通過(guò) operator 定義
operator 的 itemgetter() 適用于普通數(shù)組排序, attrgetter() 適用于對(duì)象數(shù)組排序
3.通過(guò) cmp_to_key() 定義,最為靈活
Exp4:統(tǒng)計(jì)字符串中每個(gè)字符出現(xiàn)的次數(shù)。
測(cè)試數(shù)組:sentence='life is short, i choose python'。
方法一
方法二
方法一耗時(shí) 2.8105250000000055s ,方法二耗時(shí) 1.6317423000000062s ,性能提升 41.94%
列表推導(dǎo)(list comprehension)短小精悍。在小代碼片段中,可能沒(méi)有太大的區(qū)別。但是在大型開(kāi)發(fā)中,它可以節(jié)省一些時(shí)間。
Exp5:對(duì)列表中的奇數(shù)求平方,偶數(shù)不變。
測(cè)試數(shù)組:oldlist = range(10)。
方法一
方法二
方法一耗時(shí) 1.5342976000000021s ,方法二耗時(shí) 1.4181957999999923s ,性能提升 7.57%
大多數(shù)人都習(xí)慣使用 + 來(lái)連接字符串。但其實(shí),這種方法非常低效。因?yàn)椋? + 操作在每一步中都會(huì)創(chuàng)建一個(gè)新字符串并復(fù)制舊字符串。更好的方法是用 join() 來(lái)連接字符串。關(guān)于字符串的其他操作,也盡量使用內(nèi)置函數(shù),如 isalpha() 、 isdigit() 、 startswith() 、 endswith() 等。
Exp6:將字符串列表中的元素連接起來(lái)。
測(cè)試數(shù)組:oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
方法二
方法一耗時(shí) 0.27489080000000854s ,方法二耗時(shí) 0.08166570000000206s ,性能提升 70.29%
join 還有一個(gè)非常舒服的點(diǎn),就是它可以指定連接的分隔符,舉個(gè)例子
life//is//short//i//choose//python
Exp6:交換x,y的值。
測(cè)試數(shù)據(jù):x, y = 100, 200。
方法一
方法二
方法一耗時(shí) 0.027853900000010867s ,方法二耗時(shí) 0.02398730000000171s ,性能提升 13.88%
在不知道確切的循環(huán)次數(shù)時(shí),常規(guī)方法是使用 while True 進(jìn)行無(wú)限循環(huán),在代碼塊中判斷是否滿(mǎn)足循環(huán)終止條件。雖然這樣做沒(méi)有任何問(wèn)題,但 while 1 的執(zhí)行速度比 while True 更快。因?yàn)樗且环N數(shù)值轉(zhuǎn)換,可以更快地生成輸出。
Exp8:分別用 while 1 和 while True 循環(huán) 100 次。
方法一
方法二
方法一耗時(shí) 3.679268300000004s ,方法二耗時(shí) 3.607847499999991s ,性能提升 1.94%
將文件存儲(chǔ)在高速緩存中有助于快速恢復(fù)功能。Python 支持裝飾器緩存,該緩存在內(nèi)存中維護(hù)特定類(lèi)型的緩存,以實(shí)現(xiàn)最佳軟件驅(qū)動(dòng)速度。我們使用 lru_cache 裝飾器來(lái)為斐波那契函數(shù)提供緩存功能,在使用 fibonacci 遞歸函數(shù)時(shí),存在大量的重復(fù)計(jì)算,例如 fibonacci(1) 、 fibonacci(2) 就運(yùn)行了很多次。而在使用了 lru_cache 后,所有的重復(fù)計(jì)算只會(huì)執(zhí)行一次,從而大大提高程序的執(zhí)行效率。
Exp9:求斐波那契數(shù)列。
測(cè)試數(shù)據(jù):fibonacci(7)。
方法一
方法二
方法一耗時(shí) 3.955014900000009s ,方法二耗時(shí) 0.05077979999998661s ,性能提升 98.72%
注意事項(xiàng):
我被執(zhí)行了(執(zhí)行了兩次 demo(1, 2) ,卻只輸出一次)
functools.lru_cache(maxsize=128, typed=False) 的兩個(gè)可選參數(shù):
點(diǎn)運(yùn)算符( . )用來(lái)訪(fǎng)問(wèn)對(duì)象的屬性或方法,這會(huì)引起程序使用 __getattribute__() 和 __getattr__() 進(jìn)行字典查找,從而帶來(lái)不必要的開(kāi)銷(xiāo)。尤其注意,在循環(huán)當(dāng)中,更要減少點(diǎn)運(yùn)算符的使用,應(yīng)該將它移到循環(huán)外處理。
這啟發(fā)我們應(yīng)該盡量使用 from ... import ... 這種方式來(lái)導(dǎo)包,而不是在需要使用某方法時(shí)通過(guò)點(diǎn)運(yùn)算符來(lái)獲取。其實(shí)不光是點(diǎn)運(yùn)算符,其他很多不必要的運(yùn)算我們都盡量移到循環(huán)外處理。
Exp10:將字符串?dāng)?shù)組中的小寫(xiě)字母轉(zhuǎn)為大寫(xiě)字母。
測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。
方法一
方法二
方法一耗時(shí) 0.7235491999999795s ,方法二耗時(shí) 0.5475435999999831s ,性能提升 24.33%
當(dāng)我們知道具體要循環(huán)多少次時(shí),使用 for 循環(huán)比使用 while 循環(huán)更好。
Exp12:使用 for 和 while 分別循環(huán) 100 次。
方法一
方法二
方法一耗時(shí) 3.894683299999997s ,方法二耗時(shí) 1.0198077999999953s ,性能提升 73.82%
Numba 可以將 Python 函數(shù)編譯碼為機(jī)器碼執(zhí)行,大大提高代碼執(zhí)行速度,甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用,在 for 循環(huán)中或存在大量計(jì)算時(shí)能顯著地提高執(zhí)行效率。
Exp12:求從 1 加到 100 的和。
方法一
方法二
方法一耗時(shí) 3.7199997000000167s ,方法二耗時(shí) 0.23769430000001535s ,性能提升 93.61%
矢量化是 NumPy 中的一種強(qiáng)大功能,可以將操作表達(dá)為在整個(gè)數(shù)組上而不是在各個(gè)元素上發(fā)生。這種用數(shù)組表達(dá)式替換顯式循環(huán)的做法通常稱(chēng)為矢量化。
在 Python 中循環(huán)數(shù)組或任何數(shù)據(jù)結(jié)構(gòu)時(shí),會(huì)涉及很多開(kāi)銷(xiāo)。NumPy 中的向量化操作將內(nèi)部循環(huán)委托給高度優(yōu)化的 C 和 Fortran 函數(shù),從而使 Python 代碼更加快速。
Exp13:兩個(gè)長(zhǎng)度相同的序列逐元素相乘。
測(cè)試數(shù)組:a = [1,2,3,4,5], b = [2,4,6,8,10]
方法一
方法二
方法一耗時(shí) 0.6706845000000214s ,方法二耗時(shí) 0.3070132000000001s ,性能提升 54.22%
若要檢查列表中是否包含某成員,通常使用 in 關(guān)鍵字更快。
Exp14:檢查列表中是否包含某成員。
測(cè)試數(shù)組:lists = ['life', 'is', 'short', 'i', 'choose', 'python']
方法一
方法二
方法一耗時(shí) 0.16038449999999216s ,方法二耗時(shí) 0.04139250000000061s ,性能提升 74.19%
itertools 是用來(lái)操作迭代器的一個(gè)模塊,其函數(shù)主要可以分為三類(lèi):無(wú)限迭代器、有限迭代器、組合迭代器。
Exp15:返回列表的全排列。
測(cè)試數(shù)組:["Alice", "Bob", "Carol"]
方法一
方法二
方法一耗時(shí) 3.867292899999484s ,方法二耗時(shí) 0.3875405000007959s ,性能提升 89.98%
根據(jù)上面的測(cè)試數(shù)據(jù),我繪制了下面這張實(shí)驗(yàn)結(jié)果圖,可以更加直觀的看出不同方法帶來(lái)的性能差異。
從圖中可以看出,大部分的技巧所帶來(lái)的性能增幅還是比較可觀的,但也有少部分技巧的增幅較?。ɡ缇幪?hào)5、7、8,其中,第 8 條的兩種方法幾乎沒(méi)有差異)。
總結(jié)下來(lái),我覺(jué)得其實(shí)就是下面這兩條原則:
內(nèi)置庫(kù)函數(shù)由專(zhuān)業(yè)的開(kāi)發(fā)人員編寫(xiě)并經(jīng)過(guò)了多次測(cè)試,很多庫(kù)函數(shù)的底層是用 C 語(yǔ)言開(kāi)發(fā)的。因此,這些函數(shù)總體來(lái)說(shuō)是非常高效的(比如 sort() 、 join() 等),自己編寫(xiě)的方法很難超越它們,還不如省省功夫,不要重復(fù)造輪子了,何況你造的輪子可能更差。所以,如果函數(shù)庫(kù)中已經(jīng)存在該函數(shù),就直接拿來(lái)用。
有很多優(yōu)秀的第三方庫(kù),它們的底層可能是用 C 和 Fortran 來(lái)實(shí)現(xiàn)的,像這樣的庫(kù)用起來(lái)絕對(duì)不會(huì)吃虧,比如前文提到的 Numpy 和 Numba,它們帶來(lái)的提升都是非常驚人的。類(lèi)似這樣的庫(kù)還有很多,比如Cython、PyPy等,這里我只是拋磚引玉。
原文鏈接:
基于以下三個(gè)原因,我們選擇Python作為實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法的編程語(yǔ)言:(1) python的語(yǔ)法清晰;(2) 易于操作純文本文件;(3) 使用廣泛,存在大量的開(kāi)發(fā)文檔。
可執(zhí)行偽代碼
Python具有清晰的語(yǔ)法結(jié)構(gòu),大家也把它稱(chēng)作可執(zhí)行偽代碼(executable pseudo-code)。默認(rèn)安裝的Python開(kāi)發(fā)環(huán)境已經(jīng)附帶了很多高級(jí)數(shù)據(jù)類(lèi)型,如列表、元組、字典、集合、隊(duì)列等,無(wú)需進(jìn)一步編程就可以使用這些數(shù)據(jù)類(lèi)型的操作。使用這些數(shù)據(jù)類(lèi)型使得實(shí)現(xiàn)抽象的數(shù)學(xué)概念非常簡(jiǎn)單。此外,讀者還可以使用自己熟悉的編程風(fēng)格,如面向?qū)ο缶幊?、面向過(guò)程編程、或者函數(shù)式編程。
Python語(yǔ)言處理和操作文本文件非常簡(jiǎn)單,非常易于處理非數(shù)值型數(shù)據(jù)。Python語(yǔ)言提供了豐富的正則表達(dá)式函數(shù)以及很多訪(fǎng)問(wèn)Web頁(yè)面的函數(shù)庫(kù),使得從HTML中提取數(shù)據(jù)變得非常簡(jiǎn)單直觀。
Python比較流行
Python語(yǔ)言使用廣泛,代碼范例也很多,便于讀者快速學(xué)習(xí)和掌握。此外,在開(kāi)發(fā)實(shí)際應(yīng)用程序時(shí),也可以利用豐富的模塊庫(kù)縮短開(kāi)發(fā)周期。
在科學(xué)和金融領(lǐng)域,Python語(yǔ)言得到了廣泛應(yīng)用。SciPy和NumPy等許多科學(xué)函數(shù)庫(kù)都實(shí)現(xiàn)了向量和矩陣操作,這些函數(shù)庫(kù)增加了代碼的可讀性,學(xué)過(guò)線(xiàn)性代數(shù)的人都可以看懂代碼的實(shí)際功能。另外,科學(xué)函數(shù)庫(kù)SciPy和NumPy使用底層語(yǔ)言(C和Fortran)編寫(xiě),提高了相關(guān)應(yīng)用程序的計(jì)算性能。本書(shū)將大量使用Python的NumPy。
Python的科學(xué)工具可以與繪圖工具M(jìn)atplotlib協(xié)同工作。Matplotlib可以繪制2D、3D圖形,也可以處理科學(xué)研究中經(jīng)常使用到的圖形,所以本書(shū)也將大量使用Matplotlib。
Python開(kāi)發(fā)環(huán)境還提供了交互式shell環(huán)境,允許用戶(hù)開(kāi)發(fā)程序時(shí)查看和檢測(cè)程序內(nèi)容。
Python開(kāi)發(fā)環(huán)境將來(lái)還會(huì)集成Pylab模塊,它將NumPy、SciPy和Matplotlib合并為一個(gè)開(kāi)發(fā)環(huán)境。在本書(shū)寫(xiě)作時(shí),Pylab還沒(méi)有并入Python環(huán)境,但是不遠(yuǎn)的將來(lái)我們肯定可以在Python開(kāi)發(fā)環(huán)境找到它。
Python語(yǔ)言的特色
諸如MATLAB和Mathematica等高級(jí)程序語(yǔ)言也允許用戶(hù)執(zhí)行矩陣操作,MATLAB甚至還有許多內(nèi)嵌的特征可以輕松地構(gòu)造機(jī)器學(xué)習(xí)應(yīng)用,而且MATLAB的運(yùn)算速度也很快。然而MATLAB的不足之處是軟件費(fèi)用太高,單個(gè)軟件授權(quán)就要花費(fèi)數(shù)千美元。雖然也有適合MATLAB的第三方插件,但是沒(méi)有一個(gè)有影響力的大型開(kāi)源項(xiàng)目。
Java和C等強(qiáng)類(lèi)型程序設(shè)計(jì)語(yǔ)言也有矩陣數(shù)學(xué)庫(kù),然而對(duì)于這些程序設(shè)計(jì)語(yǔ)言來(lái)說(shuō),最大的問(wèn)題是即使完成簡(jiǎn)單的操作也要編寫(xiě)大量的代碼。程序員首先需要定義變量的類(lèi)型,對(duì)于Java來(lái)說(shuō),每次封裝屬性時(shí)還需要實(shí)現(xiàn)getter和setter方法。另外還要記著實(shí)現(xiàn)子類(lèi),即使并不想使用子類(lèi),也必須實(shí)現(xiàn)子類(lèi)方法。為了完成一個(gè)簡(jiǎn)單的工作,我們必須花費(fèi)大量時(shí)間編寫(xiě)了很多無(wú)用冗長(zhǎng)的代碼。Python語(yǔ)言則與Java和C完全不同,它清晰簡(jiǎn)練,而且易于理解,即使不是編程人員也能夠理解程序的含義,而Java和C對(duì)于非編程人員則像天書(shū)一樣難于理解。
所有人在小學(xué)二年級(jí)已經(jīng)學(xué)會(huì)了寫(xiě)作,然而大多數(shù)人必須從事其他更重要的工作。
——鮑比·奈特
也許某一天,我們可以在這句話(huà)中將“寫(xiě)作”替代為“編寫(xiě)代碼”,雖然有些人對(duì)于編寫(xiě)代碼很感興趣,但是對(duì)于大多數(shù)人來(lái)說(shuō),編程僅是完成其他任務(wù)的工具而已。Python語(yǔ)言是高級(jí)編程語(yǔ)言,我們可以花費(fèi)更多的時(shí)間處理數(shù)據(jù)的內(nèi)在含義,而無(wú)須花費(fèi)太多精力解決計(jì)算機(jī)如何得到數(shù)據(jù)結(jié)果。Python語(yǔ)言使得我們很容易表達(dá)自己的目的。
Python語(yǔ)言的缺點(diǎn)
Python語(yǔ)言唯一的不足是性能問(wèn)題。Python程序運(yùn)行的效率不如Java或者C代碼高,但是我們可以使用Python調(diào)用C編譯的代碼。這樣,我們就可以同時(shí)利用C和Python的優(yōu)點(diǎn),逐步地開(kāi)發(fā)機(jī)器學(xué)習(xí)應(yīng)用程序。我們可以首先使用Python編寫(xiě)實(shí)驗(yàn)程序,如果進(jìn)一步想要在產(chǎn)品中實(shí)現(xiàn)機(jī)器學(xué)習(xí),轉(zhuǎn)換成C代碼也不困難。如果程序是按照模塊化原則組織的,我們可以先構(gòu)造可運(yùn)行的Python程序,然后再逐步使用C代碼替換核心代碼以改進(jìn)程序的性能。C++ Boost庫(kù)就適合完成這個(gè)任務(wù),其他類(lèi)似于Cython和PyPy的工具也可以編寫(xiě)強(qiáng)類(lèi)型的Python代碼,改進(jìn)一般Python程序的性能。
如果程序的算法或者思想有缺陷,則無(wú)論程序的性能如何,都無(wú)法得到正確的結(jié)果。如果解決問(wèn)題的思想存在問(wèn)題,那么單純通過(guò)提高程序的運(yùn)行效率,擴(kuò)展用戶(hù)規(guī)模都無(wú)法解決這個(gè)核心問(wèn)題。從這個(gè)角度來(lái)看,Python快速實(shí)現(xiàn)系統(tǒng)的優(yōu)勢(shì)就更加明顯了,我們可以快速地檢驗(yàn)算法或者思想是否正確,如果需要,再進(jìn)一步優(yōu)化代碼。