python 數(shù)組去重的方法

如：arr =['a','d','e','a']

10年積累的網(wǎng)站制作、成都做網(wǎng)站經(jīng)驗，可以快速應對客戶對網(wǎng)站的新想法和需求。提供各種問題對應的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡服務。我雖然不認識你，你也不認識我。但先網(wǎng)站策劃后付款的網(wǎng)站建設流程，更有湘橋免費網(wǎng)站建設讓你可以放心的選擇與我們合作。

用： arr= sorted(set(arr), key=arr.index)

同： arr = list(set(arr))

arr.sort(key=arr.index)

??直接set(arr)也可以去除重復元素，只是新數(shù)組的順序就不是原來的順序了。

如：arr=[{'text':wuyuan,'value':1},{'text':默認,'value':2},{'text':默認,'value':2},

{'text':wyy,'value':4}]

用： f = lambda x,y:x if y in x else x + [y]

arr = reduce(f, [[], ] + arr)

??這里去除的字典里面的鍵值對必須是完全一樣的。

Python 去重，統(tǒng)計，lambda函數(shù)

df.drop_duplicates('item_name')

方法一：

df.drop_duplicates('item_name').count()

方法二：

df['item_name'].nunique()

結果：50

附：nunique()和unique()的區(qū)別：

unique()是以 數(shù)組形式（numpy.ndarray）返回列的所有唯一值（特征的所有唯一值）

nunique()即返回的是唯一值的個數(shù)

比如：df['item_name'].unique()

要求：將下表中經(jīng)驗列將按周統(tǒng)計的轉(zhuǎn)換為經(jīng)驗不限，保留學歷

df1['經(jīng)驗'] = df1['經(jīng)驗'].apply(lambda x: '經(jīng)驗不限'+ x[-2:] if '周' in x else x)

#解釋：將‘5天/周6個月’變成‘經(jīng)驗不限’，然后保留學歷‘本科’

方法二：定義函數(shù)

def dataInterval(ss):

if '周' in ss:

? ? return '經(jīng)驗不限'+ ss[-2:]

return ss

df1['經(jīng)驗'] = df1['經(jīng)驗'].apply(dataInterval)

python中對list去重的多種方法

python中對list去重的多種方法

今天遇到一個問題，在同事隨意的提示下，用了 itertools.groupby 這個函數(shù)。不過這個東西最終還是沒用上。

問題就是對一個list中的新聞id進行去重，去重之后要保證順序不變。

直觀方法

最簡單的思路就是：

這樣也可行，但是看起來不夠爽。

用set

另外一個解決方案就是用set：

代碼如下:

ids = [1,4,3,3,4,2,3,4,5,6,1]

ids = list(set(ids))

這樣的結果是沒有保持原來的順序。

按照索引再次排序

最后通過這種方式解決：

代碼如下:

ids = [1,4,3,3,4,2,3,4,5,6,1]

news_ids = list(set(ids))

news_ids.sort(ids.index)

使用itertools.grouby

文章一開始就提到itertools.grouby, 如果不考慮列表順序的話可用這個：

代碼如下:

ids = [1,4,3,3,4,2,3,4,5,6,1]

ids.sort()

it = itertools.groupby(ids)

for k, g in it:

print k

關于itertools.groupby的原理可以看這里：

網(wǎng)友補充：用reduce

網(wǎng)友reatlk留言給了另外的解決方案。我補充并解釋到這里：

代碼如下:

In [5]: ids = [1,4,3,3,4,2,3,4,5,6,1]

In [6]: func = lambda x,y:x if y in x else x + [y]

In [7]: reduce(func, [[], ] + ids)

Out[7]: [1, 4, 3, 2, 5, 6]

上面是我在ipython中運行的代碼，其中的 lambda x,y:x if y in x else x + [y] 等價于 lambda x,y: y in x and x or x+[y] 。