一些小提示和小技巧可能是非常有用的，特別是在編程領(lǐng)域。有時候使用一點點黑客技術(shù)，既可以節(jié)省時間，還可能挽救“生命”。
創(chuàng)新互聯(lián)是專業(yè)的昭陽網(wǎng)站建設(shè)公司，昭陽接單;提供成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計,網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進行昭陽網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團隊,希望更多企業(yè)前來合作!
一個小小的快捷方式或附加組件有時真是天賜之物，并且可以成為真正的生產(chǎn)力助推器。所以，這里有一些小提示和小技巧，有些可能是新的，但我相信在下一個數(shù)據(jù)分析項目中會讓你非常方便。
Pandas中數(shù)據(jù)框數(shù)據(jù)的Profiling過程
Profiling（分析器）是一個幫助我們理解數(shù)據(jù)的過程，而Pandas Profiling是一個Python包，它可以簡單快速地對Pandas 的數(shù)據(jù)框數(shù)據(jù)進行 探索 性數(shù)據(jù)分析。
Pandas中df.describe()和df.info()函數(shù)可以實現(xiàn)EDA過程第一步。但是，它們只提供了對數(shù)據(jù)非?；镜母攀觯瑢τ诖笮蛿?shù)據(jù)集沒有太大幫助。 而Pandas中的Profiling功能簡單通過一行代碼就能顯示大量信息，且在交互式HTML報告中也是如此。
對于給定的數(shù)據(jù)集，Pandas中的profiling包計算了以下統(tǒng)計信息：
由Pandas Profiling包計算出的統(tǒng)計信息包括直方圖、眾數(shù)、相關(guān)系數(shù)、分位數(shù)、描述統(tǒng)計量、其他信息——類型、單一變量值、缺失值等。
安裝
用pip安裝或者用conda安裝
pip install pandas-profiling
conda install -c anaconda pandas-profiling
用法
下面代碼是用很久以前的泰坦尼克數(shù)據(jù)集來演示多功能Python分析器的結(jié)果。
#importing the necessary packages
import pandas as pd
import pandas_profiling
df = pd.read_csv('titanic/train.csv')
pandas_profiling.ProfileReport(df)
一行代碼就能實現(xiàn)在Jupyter Notebook中顯示完整的數(shù)據(jù)分析報告，該報告非常詳細，且包含了必要的圖表信息。
還可以使用以下代碼將報告導(dǎo)出到交互式HTML文件中。
profile = pandas_profiling.ProfileReport(df)
profile.to_file(outputfile="Titanic data profiling.html")
Pandas實現(xiàn)交互式作圖
Pandas有一個內(nèi)置的.plot（）函數(shù)作為DataFrame類的一部分。但是，使用此功能呈現(xiàn)的可視化不是交互式的，這使得它沒那么吸引人。同樣，使用pandas.DataFrame.plot（）函數(shù)繪制圖表也不能實現(xiàn)交互。 如果我們需要在不對代碼進行重大修改的情況下用Pandas繪制交互式圖表怎么辦呢？這個時候就可以用Cufflinks庫來實現(xiàn)。
Cufflinks庫可以將有強大功能的plotly和擁有靈活性的pandas結(jié)合在一起，非常便于繪圖。下面就來看在pandas中如何安裝和使用Cufflinks庫。
安裝
pip install plotly
# Plotly is a pre-requisite before installing cufflinks
pip install cufflinks
用法
#importing Pandas
import pandas as pd
#importing plotly and cufflinks in offline mode
import cufflinks as cf
import plotly.offline
cf.go_offline()
cf.set_config_file(offline=False, world_readable=True)
是時候展示泰坦尼克號數(shù)據(jù)集的魔力了。
df.iplot()
df.iplot() vs df.plot()
右側(cè)的可視化顯示了靜態(tài)圖表，而左側(cè)圖表是交互式的，更詳細，并且所有這些在語法上都沒有任何重大更改。
Magic命令
Magic命令是Jupyter notebook中的一組便捷功能，旨在解決標準數(shù)據(jù)分析中的一些常見問題。使用命令％lsmagic可以看到所有的可用命令。
所有可用的Magic命令列表
Magic命令有兩種：行magic命令（line magics），以單個％字符為前綴，在單行輸入操作；單元magic命令（cell magics），以雙%%字符為前綴，可以在多行輸入操作。如果設(shè)置為1，則不用鍵入%即可調(diào)用Magic函數(shù)。
接下來看一些在常見數(shù)據(jù)分析任務(wù)中可能用到的命令：
% pastebin
％pastebin將代碼上傳到Pastebin并返回url。Pastebin是一個在線內(nèi)容托管服務(wù)，可以存儲純文本，如源代碼片段，然后通過url可以與其他人共享。事實上，Github gist也類似于pastebin，只是有版本控制。
在file.py文件中寫一個包含以下內(nèi)容的python腳本，并試著運行看看結(jié)果。
#file.py
def foo(x):
return x
在Jupyter Notebook中使用％pastebin生成一個pastebin url。
%matplotlib notebook
函數(shù)用于在Jupyter notebook中呈現(xiàn)靜態(tài)matplotlib圖。用notebook替換inline，可以輕松獲得可縮放和可調(diào)整大小的繪圖。但記得這個函數(shù)要在導(dǎo)入matplotlib庫之前調(diào)用。
%run
用％run函數(shù)在notebook中運行一個python腳本試試。
%run file.py
%%writefile
%% writefile是將單元格內(nèi)容寫入文件中。以下代碼將腳本寫入名為foo.py的文件并保存在當前目錄中。
%%latex
%%latex函數(shù)將單元格內(nèi)容以LaTeX形式呈現(xiàn)。此函數(shù)對于在單元格中編寫數(shù)學公式和方程很有用。
查找并解決錯誤
交互式調(diào)試器也是一個神奇的功能，我把它單獨定義了一類。如果在運行代碼單元時出現(xiàn)異常，請在新行中鍵入％debug并運行它。 這將打開一個交互式調(diào)試環(huán)境，它能直接定位到發(fā)生異常的位置。還可以檢查程序中分配的變量值，并在此處執(zhí)行操作。退出調(diào)試器單擊q即可。
Printing也有小技巧
如果您想生成美觀的數(shù)據(jù)結(jié)構(gòu)，pprint是首選。它在打印字典數(shù)據(jù)或JSON數(shù)據(jù)時特別有用。接下來看一個使用print和pprint來顯示輸出的示例。
讓你的筆記脫穎而出
我們可以在您的Jupyter notebook中使用警示框/注釋框來突出顯示重要內(nèi)容或其他需要突出的內(nèi)容。注釋的顏色取決于指定的警報類型。只需在需要突出顯示的單元格中添加以下任一代碼或所有代碼即可。
藍色警示框：信息提示
p class="alert alert-block alert-info"
bTip:/b Use blue boxes (alert-info) for tips and notes.
If it’s a note, you don’t have to include the word “Note”.
/p
黃色警示框：警告
p class="alert alert-block alert-warning"
bExample:/b Yellow Boxes are generally used to include additional examples or mathematical formulas.
/p
綠色警示框：成功
p class="alert alert-block alert-success"
Use green box only when necessary like to display links to related content.
/p
紅色警示框：高危
p class="alert alert-block alert-danger"
It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.
/p
打印單元格所有代碼的輸出結(jié)果
假如有一個Jupyter Notebook的單元格，其中包含以下代碼行：
In [1]: 10+5
11+6
Out [1]: 17
單元格的正常屬性是只打印最后一個輸出，而對于其他輸出，我們需要添加print()函數(shù)。然而通過在notebook頂部添加以下代碼段可以一次打印所有輸出。
添加代碼后所有的輸出結(jié)果就會一個接一個地打印出來。
In [1]: 10+5
11+6
12+7
Out [1]: 15
Out [1]: 17
Out [1]: 19
恢復(fù)原始設(shè)置：
InteractiveShell.ast_node_interactivity = "last_expr"
使用'i'選項運行python腳本
從命令行運行python腳本的典型方法是：python hello.py。但是，如果在運行相同的腳本時添加-i，例如python -i hello.py，就能提供更多優(yōu)勢。接下來看看結(jié)果如何。
首先，即使程序結(jié)束，python也不會退出解釋器。因此，我們可以檢查變量的值和程序中定義的函數(shù)的正確性。
其次，我們可以輕松地調(diào)用python調(diào)試器，因為我們?nèi)匀辉诮忉屍髦校?/p>
import pdb
pdb.pm()
這能定位異常發(fā)生的位置，然后我們可以處理異常代碼。
自動評論代碼
Ctrl / Cmd + /自動注釋單元格中的選定行，再次命中組合將取消注釋相同的代碼行。
刪除容易恢復(fù)難
你有沒有意外刪除過Jupyter notebook中的單元格？如果答案是肯定的，那么可以掌握這個撤消刪除操作的快捷方式。
如果您刪除了單元格的內(nèi)容，可以通過按CTRL / CMD + Z輕松恢復(fù)它。
如果需要恢復(fù)整個已刪除的單元格，請按ESC + Z或EDIT撤消刪除單元格。
結(jié)論
在本文中，我列出了使用Python和Jupyter notebook時收集的一些小提示。我相信它們會對你有用，能讓你有所收獲，從而實現(xiàn)輕松編碼！
Python-for-data-移動窗口函數(shù)
本文中介紹的是 ，主要的算子是：
統(tǒng)計和通過其他移動窗口或者指數(shù)衰減而運行的函數(shù)，稱之為 移動窗口函數(shù)
style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style
2292 rows × 3 columns
rolling算子，行為和resample和groupby類似
rolling可以在S或者DF上通過一個window進行調(diào)用
style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style
2292 rows × 3 columns
指定一個常數(shù)衰減因子為觀測值提供更多的權(quán)重。常用指定衰減因子的方法：使用span（跨度）
一些統(tǒng)計算子，例如相關(guān)度和協(xié)方差等需要同時操作兩個時間序列。
例如，金融分析中的股票和基準指數(shù)的關(guān)聯(lián)性問題：計算時間序列的百分比變化pct_change()
style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style
在rolling及其相關(guān)方法上使用apply方法提供了一種在移動窗口中應(yīng)用自己設(shè)計的數(shù)組函數(shù)的方法。
唯一要求：該函數(shù)從每個數(shù)組中產(chǎn)生一個單值(縮聚)，例如使用rolling()...quantile(q)計算樣本的中位數(shù)
伴隨著大數(shù)據(jù)時代的到來，Python的熱度居高不下，已成為職場人士必備的技能，它不僅可以從事網(wǎng)絡(luò)爬蟲、人工智能、Web開發(fā)、游戲開發(fā)等工作，還是數(shù)據(jù)分析的首選語言。那么問題來了，利用Python數(shù)據(jù)分析可以做什么呢?簡單來講，可以做的事情有很多，具體如下。
第一、檢查數(shù)據(jù)表
Python中使用shape函數(shù)來查看數(shù)據(jù)表的維度，也就是行數(shù)和列數(shù)。你可以使用info函數(shù)查看數(shù)據(jù)表的整體信息，使用dtypes函數(shù)來返回數(shù)據(jù)格式。Lsnull是Python中檢查空置的函數(shù)，你可以對整個數(shù)據(jù)進行檢查，也可以單獨對某一列進行空置檢查，返回的結(jié)果是邏輯值，包括空置返回True，不包含則返回False。使用unique函數(shù)查看唯一值，使用Values函數(shù)用來查看數(shù)據(jù)表中的數(shù)值。
第二，數(shù)據(jù)表清洗
Python中處理空值的方法比較靈活，可以使用Dropna函數(shù)用來刪除數(shù)據(jù)表中包括空值的數(shù)據(jù)，也可以使用fillna函數(shù)對空值進行填充。Python中dtype是查看數(shù)據(jù)格式的函數(shù)，與之對應(yīng)的是asstype函數(shù)，用來更改數(shù)據(jù)格式，Rename是更改名稱的函數(shù)，drop_duplicate函數(shù)函數(shù)重復(fù)值，replace函數(shù)實現(xiàn)數(shù)據(jù)轉(zhuǎn)換。
第三，數(shù)據(jù)預(yù)處理
數(shù)據(jù)預(yù)處理是對清洗完的數(shù)據(jù)進行整理以便后期統(tǒng)計和分析工作，主要包括數(shù)據(jù)表的合并、排序、數(shù)值分列、數(shù)據(jù)分組以及標記等工作。在Python中可以使用merge函數(shù)對兩個數(shù)據(jù)表進行合并，合并的方式為inner，此外還有l(wèi)eft、right和outer方式。使用ort_values函數(shù)和sort_index函數(shù)完成排序，使用where函數(shù)完成數(shù)據(jù)分組，使用split函數(shù)實現(xiàn)分列。
第四，數(shù)據(jù)提取
主要是使用三個函數(shù)：loc、iloc和ix，其中l(wèi)oc函數(shù)按標準值進行提取，iloc按位置進行提取，ix可以同時按標簽和位置進行提取。除了按標簽和位置提取數(shù)據(jù)意外，還可以按照具體的條件進行提取。
第五，數(shù)據(jù)篩選匯總
Python中使用loc函數(shù)配合篩選條件來完成篩選功能，配合sum和count函數(shù)還能實現(xiàn)Excel中sumif和countif函數(shù)的功能。Python中使用的主要函數(shù)是groupby和pivot_table。
重慶分公司
重慶分公司
