精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

抽樣的幾種常用方法以及在Python中是如何實現的

上海磐啟微電子有限公司 ? 來源:Python數據科學 ? 作者:Python數據科學 ? 2021-08-10 15:16 ? 次閱讀

大家好,今天來和大家聊聊抽樣的幾種常用方法,以及在Python中是如何實現的。

抽樣是統計學、機器學習中非常重要,也是經常用到的方法,因為大多時候使用全量數據是不現實的,或者根本無法取到。所以我們需要抽樣,比如在推斷性統計中,我們會經常通過采樣的樣本數據來推斷估計總體的樣本。

上面所說的都是以概率為基礎的,實際上還有一類非概率的抽樣方法,因此總體上歸納為兩大種類:

概率抽樣:根據概率理論選擇樣本,每個樣本有相同的概率被選中。

非概率抽樣:根據非隨機的標準選擇樣本,并不是每個樣本都有機會被選中。

概率抽樣技術1.隨機抽樣(Random Sampling)

這也是最簡單暴力的一種抽樣了,就是直接隨機抽取,不考慮任何因素,完全看概率。并且在隨機抽樣下,總體中的每條樣本被選中的概率相等。

比如,現有10000條樣本,且各自有序號對應的,假如抽樣數量為1000,那我就直接從1-10000的數字中隨機抽取1000個,被選中序號所對應的樣本就被選出來了。

在Python中,我們可以用random函數隨機生成數字。下面就是從100個人中隨機選出5個。

import random

population = 100

data = range(population)

print(random.sample(data,5))

》 4, 19, 82, 45, 41

2.分層抽樣(Stratified Sampling)

分層抽樣其實也是隨機抽取,不過要加上一個前提條件了。在分層抽樣下,會根據一些共同屬性將帶抽樣樣本分組,然后從這些分組中單獨再隨機抽樣。

因此,可以說分層抽樣是更精細化的隨機抽樣,它要保持與總體群體中相同的比例。 比如,機器學習分類標簽中的類標簽0和1,比例為3:7,為保持原有比例,那就可以分層抽樣,按照每個分組單獨隨機抽樣。

Python中我們通過train_test_split設置stratify參數即可完成分層操作。

from sklearn.model_selection import train_test_split

stratified_sample, _ = train_test_split(population, test_size=0.9, stratify=population[[‘label’]])

print (stratified_sample)

3.聚類抽樣(Cluster Sampling)

聚類抽樣,也叫整群抽樣。它的意思是,先將整個總體劃分為多個子群體,這些子群體中的每一個都具有與總體相似的特征。也就是說它不對個體進行抽樣,而是隨機選擇整個子群體。

用Python可以先給聚類的群體分配聚類ID,然后隨機抽取兩個子群體,再找到相對應的樣本值即可,如下。

import numpy as np

clusters=5

pop_size = 100

sample_clusters=2# 間隔為 20, 從 1 到 5 依次分配集群100個樣本的聚類 ID,這一步已經假設聚類完成

cluster_ids = np.repeat([range(1,clusters+1)], pop_size/clusters)

# 隨機選出兩個聚類的 ID

cluster_to_select = random.sample(set(cluster_ids), sample_clusters)

# 提取聚類 ID 對應的樣本

indexes = [i for i, x in enumerate(cluster_ids) if x in cluster_to_select]

# 提取樣本序號對應的樣本值

cluster_associated_elements = [el for idx, el in enumerate(range(1, 101)) if idx in indexes]

print (cluster_associated_elements)

4.系統抽樣(Systematic Sampling)

系統抽樣是以預定的規則間隔(基本上是固定的和周期性的間隔)從總體中抽樣。比如,每 9 個元素抽取一下。一般來說,這種抽樣方法往往比普通隨機抽樣方法更有效。

下圖是按順序對每 9 個元素進行一次采樣,然后重復下去。

用Python實現的話可以直接在循環體中設置step即可。

population = 100

step = 5

sample = [element for element in range(1, population, step)]

print (sample)

5.多級采樣(Multistage sampling)

在多階段采樣下,我們將多個采樣方法一個接一個地連接在一起。比如,在第一階段,可以使用聚類抽樣從總體中選擇集群,然后第二階段再進行隨機抽樣,從每個集群中選擇元素以形成最終集合。

Python代碼復用了上面聚類抽樣,只是在最后一步再進行隨機抽樣即可。

import numpy as np

clusters=5

pop_size = 100

sample_clusters=2

sample_size=5# 間隔為 20, 從 1 到 5 依次分配集群100個樣本的聚類 ID,這一步已經假設聚類完成

cluster_ids = np.repeat([range(1,clusters+1)], pop_size/clusters)

# 隨機選出兩個聚類的 ID

cluster_to_select = random.sample(set(cluster_ids), sample_clusters)

# 提取聚類 ID 對應的樣本

indexes = [i for i, x in enumerate(cluster_ids) if x in cluster_to_select]

# 提取樣本序號對應的樣本值

cluster_associated_elements = [el for idx, el in enumerate(range(1, 101)) if idx in indexes]

# 再從聚類樣本里隨機抽取樣本print (random.sample(cluster_associated_elements, sample_size))

非概率抽樣技術非概率抽樣,毫無疑問就是不考慮概率的方式了,很多情況下是有條件的選擇。因此,對于無隨機性我們是無法通過統計概率和編程來實現的。這里也介紹3種方法。

1.簡單采樣(convenience sampling)

簡單采樣,其實就是研究人員只選擇最容易參與和最有機會參與研究的個體。比如下面的圖中,藍點是研究人員,橙色點則是藍色點附近最容易接近的人群。

2.自愿抽樣(Voluntary Sampling)

自愿抽樣下,感興趣的人通常通過填寫某種調查表格形式自行參與的。所以,這種情況中,調查的研究人員是沒有權利選擇任何個體的,全憑群體的自愿報名。比如下圖中藍點是研究人員,橙色的是自愿同意參與研究的個體。

3.雪球抽樣(Snowball Sampling)

雪球抽樣是說,最終集合是通過其他參與者選擇的,即研究人員要求其他已知聯系人尋找愿意參與研究的人。比如下圖中藍點是研究人員,橙色的是已知聯系人,黃色是是橙色點周圍的其它聯系人。

總結以上就是8種常用抽樣方法,平時工作中比較常用的還是概率類抽樣方法,因為沒有隨機性我們是無法通過統計學和編程完成自動化操作的。

比如在信貸的風控樣本設計時,就需要從樣本窗口通過概率進行抽樣。因為采樣的質量基本就決定了你模型的上限了,所以在抽樣時會考慮很多問題,如樣本數量、是否有顯著性、樣本穿越等等。在這時,一個良好的抽樣方法是至關重要的。

參考:

[2] https://towardsdatascience.com/8-types-of-sampling-techniques-b21adcdd2124

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    6898

    瀏覽量

    88832
  • 機器學習
    +關注

    關注

    66

    文章

    8378

    瀏覽量

    132412
  • python
    +關注

    關注

    56

    文章

    4782

    瀏覽量

    84456

原文標題:基于 Python 的 8 種常用抽樣方法

文章出處:【微信號:gh_6a53af9e8109,微信公眾號:上海磐啟微電子有限公司】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    PythonAI的應用實例

    Python人工智能(AI)領域的應用極為廣泛且深入,從基礎的數據處理、模型訓練到高級的應用部署,Python都扮演著至關重要的角色。以下將詳細探討Python
    的頭像 發表于 07-19 17:16 ?928次閱讀

    如何實現Python復制文件操作

    Python 中有許多“開蓋即食”的模塊(比如 os,subprocess 和 shutil)以支持文件 I/O 操作。在這篇文章,你將會看到一些用 Python 實現文件復制的特殊
    的頭像 發表于 07-18 14:53 ?374次閱讀

    深度學習常用Python

    深度學習常用Python庫,包括核心庫、可視化工具、深度學習框架、自然語言處理庫以及數據抓取庫等,并詳細分析它們的功能和優勢。
    的頭像 發表于 07-03 16:04 ?568次閱讀

    消除自激振蕩的常用方法

    消除自激振蕩是指在電路或系統消除自激振蕩的現象,自激振蕩是指電路或系統因為自身的反饋而產生不斷增強的振蕩。為了解決這個問題,工程師們提出了一系列的方法,下面將詳細介紹幾種常用
    的頭像 發表于 01-16 14:43 ?4459次閱讀

    如何解決Python爬蟲中文亂碼問題?Python爬蟲中文亂碼的解決方法

    如何解決Python爬蟲中文亂碼問題?Python爬蟲中文亂碼的解決方法 Python爬蟲過程
    的頭像 發表于 01-12 15:11 ?2192次閱讀

    PWM產生的幾種方法總結

    PWM產生的方法有很多種,小編將常用幾種產生方法作了一個整理以及分類,下面我們來了解一下。
    的頭像 發表于 01-11 09:15 ?2799次閱讀
    PWM產生的<b class='flag-5'>幾種方法</b>總結

    加速Python for循環的12種方法

    Python內建的一個常用功能是timeit模塊。下面幾節我們將使用它來度量循環的當前性能和改進后的性能。
    的頭像 發表于 01-04 17:33 ?1880次閱讀
    加速<b class='flag-5'>Python</b> for循環的12種<b class='flag-5'>方法</b>

    splitpython的用法

    splitpython的用法 split()是Python中一個非常常用的字符串函數,它能夠根據指定的分隔符將一個字符串分割成多個子字符
    的頭像 發表于 12-25 15:12 ?1969次閱讀

    幾種常用的產生負電源的方法

    幾種常用的產生負電源的方法
    的頭像 發表于 12-05 15:54 ?1324次閱讀
    <b class='flag-5'>幾種</b><b class='flag-5'>常用</b>的產生負電源的<b class='flag-5'>方法</b>

    python將abc按大小順序輸出不用函數

    將'abc'按照大小順序輸出是一個常見的編程問題。Python,有多種方法可以實現這個目標。本文將詳盡、詳實、細致地介紹
    的頭像 發表于 11-29 16:25 ?2955次閱讀

    Python運行環境有哪些

    ,也是最常用的解釋器。它是用C語言編寫的,支持C的擴展和嵌入。CPython可以各個操作系統上運行,并提供了Python的核心功能。 JPython: JPython是Python
    的頭像 發表于 11-29 16:14 ?1913次閱讀

    Python程序不自動關閉的方法

    有時候,我們希望Python程序完成了任務后不立即自動關閉,而是保持運行狀態,以便進行進一步的操作或觀察程序的輸出。本文中,我們將探討幾種方法
    的頭像 發表于 11-29 15:10 ?5329次閱讀

    python軟件IDLE怎么打多行代碼

    用于編寫、編輯和運行Python代碼的編輯器窗口。IDLE編寫多行代碼有幾種方法可以實現。 使用括號與換行符:
    的頭像 發表于 11-29 15:00 ?3953次閱讀

    查看python安裝路徑的方法

    Python是一種高級編程語言,常用于開發Web應用、數據分析、人工智能等領域。使用Python進行開發之前,我們需要先安裝Python
    的頭像 發表于 11-29 14:54 ?1.1w次閱讀

    運行Python程序的幾種常見方法

    : 使用Python解釋器 Python解釋器是運行Python程序的基本工具。命令行輸入 pyth
    的頭像 發表于 11-28 15:32 ?2443次閱讀