要瘋了，怎樣用多線程向MYSQL數(shù)據(jù)庫中寫入數(shù)據(jù)

在MySQL 8.0 之前， 我們假設(shè)一下有一條爛SQL，

創(chuàng)新互聯(lián)公司專注于企業(yè)成都營銷網(wǎng)站建設(shè)、網(wǎng)站重做改版、溫嶺網(wǎng)站定制設(shè)計(jì)、自適應(yīng)品牌網(wǎng)站建設(shè)、H5頁面制作、商城網(wǎng)站開發(fā)、集團(tuán)公司官網(wǎng)建設(shè)、外貿(mào)網(wǎng)站建設(shè)、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁設(shè)計(jì)等建站業(yè)務(wù)，價(jià)格優(yōu)惠性價(jià)比高，為溫嶺等各大城市提供網(wǎng)站開發(fā)制作服務(wù)。

mysqlselect * from t1 order by rand() ;

以多個(gè)線程在跑，導(dǎo)致CPU被跑滿了，其他的請求只能被阻塞進(jìn)不來。那這種情況怎么辦？

大概有以下幾種解決辦法：

設(shè)置max_execution_time 來阻止太長的讀SQL。那可能存在的問題是會把所有長SQL都給KILL 掉。有些必須要執(zhí)行很長時(shí)間的也會被誤殺。

自己寫個(gè)腳本檢測這類語句，比如order by rand()， 超過一定時(shí)間用Kill query thread_id 給殺掉。

那能不能不要?dú)⒌舳屗＿\(yùn)行，但是又不影響其他的請求呢？

那mysql 8.0 引入的資源組（resource group，后面簡寫微RG）可以基本上解決這類問題。

比如我可以用 RG 來在SQL層面給他限制在特定的一個(gè)CPU核上，這樣我就不管他，讓他繼續(xù)運(yùn)行，如果有新的此類語句，讓他排隊(duì)好了。

為什么說基本呢？目前只能綁定CPU資源，其他的暫時(shí)不行。

那我來演示下如何使用RG。

創(chuàng)建一個(gè)資源組user_ytt. 這里解釋下各個(gè)參數(shù)的含義，

type = user 表示這是一個(gè)用戶態(tài)線程，也就是前臺的請求線程。如果type=system，表示后臺線程，用來限制mysql自己的線程，比如Innodb purge thread,innodb read thread等等。

vcpu 代表cpu的邏輯核數(shù)，這里0-1代表前兩個(gè)核被綁定到這個(gè)RG?？梢杂胠scpu，top等列出自己的CPU相關(guān)信息。

thread_priority 設(shè)置優(yōu)先級。user 級優(yōu)先級設(shè)置大于0。

mysqlmysql create resource group user_ytt type = user ?vcpu = 0-1 thread_priority=19 enable;Query OK, 0 rows affected (0.03 sec)

RG相關(guān)信息可以從 information_schema.resource_groups 系統(tǒng)表里檢索。

mysqlmysql select * from information_schema.resource_groups;+---------------------+---------------------+------------------------+----------+-----------------+| RESOURCE_GROUP_NAME | RESOURCE_GROUP_TYPE | RESOURCE_GROUP_ENABLED | VCPU_IDS | THREAD_PRIORITY |+---------------------+---------------------+------------------------+----------+-----------------+| USR_default ? ? ? ? | USER ? ? ? ? ? ? ? ?| ? ? ? ? ? ? ? ? ? ? ?1 | 0-3 ? ? ?| ? ? ? ? ? ? ? 0 || SYS_default ? ? ? ? | SYSTEM ? ? ? ? ? ? ?| ? ? ? ? ? ? ? ? ? ? ?1 | 0-3 ? ? ?| ? ? ? ? ? ? ? 0 || user_ytt ? ? ? ? ? ?| USER ? ? ? ? ? ? ? ?| ? ? ? ? ? ? ? ? ? ? ?1 | 0-1 ? ? ?| ? ? ? ? ? ? ?19 |+---------------------+---------------------+------------------------+----------+-----------------+3 rows in set (0.00 sec)

我們來給語句select guid from t1 group by left(guid,8) order by rand() 賦予RG user_ytt。

mysql show processlist;+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+| Id ?| User ? ? ? ? ? ?| Host ? ? ?| db ? | Command | Time ?| State ? ? ? ? ? ? ? ? ?| Info ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+| ? 4 | event_scheduler | localhost | NULL | Daemon ?| 10179 | Waiting on empty queue | NULL ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|| 240 | root ? ? ? ? ? ?| localhost | ytt ?| Query ? | ? 101 | Creating sort index ? ?| select guid from t1 group by left(guid,8) order by rand() || 245 | root ? ? ? ? ? ?| localhost | ytt ?| Query ? | ? ? 0 | starting ? ? ? ? ? ? ? | show processlist ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+3 rows in set (0.00 sec)

找到連接240對應(yīng)的thread_id。

mysqlmysql select thread_id from performance_schema.threads where processlist_id = 240;+-----------+| thread_id |+-----------+| ? ? ? 278 |+-----------+1 row in set (0.00 sec)

給這個(gè)線程278賦予RG user_ytt。沒報(bào)錯(cuò)就算成功了。

mysqlmysql set resource group user_ytt for 278;Query OK, 0 rows affected (0.00 sec)

當(dāng)然這個(gè)是在運(yùn)維層面來做的，我們也可以在開發(fā)層面結(jié)合 MYSQL HINT 來單獨(dú)給這個(gè)語句賦予RG。比如：

mysqlmysql select /*+ resource_group(user_ytt) */guid from t1 group by left(guid,8) order by rand()....8388602 rows in set (4 min 46.09 sec)

RG的限制：

Linux 平臺上需要開啟 CAPSYSNICE 特性。比如我機(jī)器上用systemd 給mysql 服務(wù)加上

systemctl edit mysql@80 [Service]AmbientCapabilities=CAP_SYS_NICE

mysql 線程池開啟后RG失效。

freebsd,solaris 平臺thread_priority 失效。

目前只能綁定CPU，不能綁定其他資源。

Mysql 數(shù)據(jù)量級大的情況下，使用 多線程 查詢

思路：

1.按著自己需要的條件分給不同的線程進(jìn)行查詢，查詢結(jié)束后，將返回的結(jié)果add到全局的List中。例:時(shí)間段查詢，將時(shí)間進(jìn)行分塊，然后拼裝成List集合

mysql調(diào)優(yōu)技巧 增加線程緩存大小

增加線程緩存大小

連接管理器線程處理服務(wù)器監(jiān)聽的網(wǎng)絡(luò)接口上的客戶端連接請求。連接管理器線程將每個(gè)客戶端連接與專用于它的線程關(guān)聯(lián)，該線程負(fù)責(zé)處理該連接的身份驗(yàn)證和所有請求處理。因此，線程和當(dāng)前連接的客戶端之間是一對一的比例。確保線程緩存足夠大以容納所有傳入請求是非常重要的。

MySQL提供了許多與連接線程相關(guān)的服務(wù)器變量：

線程緩存大小由thread_cache_size系統(tǒng)變量決定。默認(rèn)值為0（無緩存），這將導(dǎo)致為每個(gè)新連接設(shè)置一個(gè)線程，并在連接終止時(shí)需要處理該線程。如果希望服務(wù)器每秒接收數(shù)百個(gè)連接請求，那么應(yīng)該將thread_cache_size設(shè)置的足夠高，以便大多數(shù)新連接可以使用緩存線程?？梢栽诜?wù)器啟動或運(yùn)行時(shí)設(shè)置max_connections的值。

還應(yīng)該監(jiān)視緩存中的線程數(shù)（Threads_cached）以及創(chuàng)建了多少個(gè)線程，因?yàn)闊o法從緩存中獲取線程（Threads_created）。關(guān)于后者，如果Threads_created繼續(xù)以每分鐘多于幾個(gè)線程的增加，請考慮增加thread_cache_size的值。

使用MySQL show status命令顯示MySQL的變量和狀態(tài)信息。這里有幾個(gè)例子：

Monyog線程緩存監(jiān)測

Monyog提供了一個(gè)監(jiān)控線程緩存的屏幕，名為“線程”。與MySQL線程相關(guān)的服務(wù)器變量映射到以下Monyog指標(biāo)：

Monyog線程屏幕還包括“線程緩存命中率”指標(biāo)。這是一個(gè)提示線程緩存命中率的指標(biāo)。如果值較低，則應(yīng)該考慮增加線程緩存。在狀態(tài)欄以百分比形式顯示該值；它的值越接近100％越好。

如果這些指標(biāo)的值等于或超過指定值，則可以將每一個(gè)指標(biāo)配置為發(fā)出警告和/或嚴(yán)重警報(bào)