App下載

如何drop掉mysql庫中的1TB表單

猿友 2020-08-24 11:19:21 瀏覽數(shù) (4507)
反饋

如果問你怎么從MySQL數(shù)據(jù)庫空drop一張表,很多人估計會說,很簡單啊,用drop table t_test語句不就行了。這可真是初生牛犢不怕虎,你要真覺得這么簡單的話,去線上業(yè)務(wù)庫中drop掉一張1TB大小的表,造成長時間的業(yè)務(wù)無法訪問數(shù)據(jù)庫,更嚴重,導(dǎo)致數(shù)據(jù)庫崩潰,宕機都是可能的。

下面就先聊聊,drop table語句背后的事情,語句執(zhí)行之后,主要做2兩件事情

1、清除Buffer Pool緩沖

drop table時,innodb引擎會清理該表在每個buffer pool實例中中對應(yīng)的數(shù)據(jù)塊頁面,為了避免對系統(tǒng)的影響,這里的清除操作并不是真正的flush,而是將涉及到的頁面從flush隊列中摘除。但在摘除過程中,刪除進程會持有每個buffer pool的全局鎖,然后搜索這個buffer pool里對應(yīng)的頁面以便從flush list中刪除。如果在buffer pool中需要被搜索并刪除的頁面過多,那么遍歷時間就會增大,這就導(dǎo)致了其他事務(wù)操作被阻塞,嚴重時可導(dǎo)致數(shù)據(jù)庫鎖住。

(推薦課程:MySQL教程)

在這里還需要注意一件事情,如果數(shù)據(jù)庫的buffer pool設(shè)置的很大,就會導(dǎo)致遍歷時間變長 清理buffer pool時,還包含清理AHI包含此表的數(shù)據(jù),AHI的功能在這里就不多說了,主要是當b+tree的層級變高時,為避免b+tree逐層搜索,AHI能根據(jù)某個檢索條件,直接查詢到對應(yīng)的數(shù)據(jù)頁,跳過逐層定位的步驟。其次AHI會占用 1/16 的buffer pool的大小,如果線上表數(shù)據(jù)不是特別大,不是超高并發(fā),不建議將開啟AHI,可以考慮關(guān)閉AHI功能

mysql> SHOW GLOBAL VARIABLES LIKE 'innodb_adaptive_hash_index';
+----------------------------+-------+
| Variable_name                   | Value |
+----------------------------+-------+
| innodb_adaptive_hash_index | ON    |
+----------------------------+-------+
1 row in set (0.01 sec)


mysql> SET GLOBAL innodb_adaptive_hash_index=OFF;
Query OK, 0 rows affected (0.00 sec)


mysql> SHOW GLOBAL VARIABLES LIKE 'innodb_adaptive_hash_index';
+----------------------------+-------+
| Variable_name                   | Value |
+----------------------------+-------+
| innodb_adaptive_hash_index | OFF   |
+----------------------------+-------+
1 row in set (0.01 sec)

2、刪除對應(yīng)的磁盤數(shù)據(jù)文件ibd

在刪除數(shù)據(jù)文件時,如果數(shù)據(jù)文件過大,刪除過程會產(chǎn)生大量的IO并耗費更多的時間,造成磁盤IO開銷飆升,CPU負載過高,影響其他程序運行。我的一個好伙伴,就曾在線上庫刪除了一張 1TB 大小的表,結(jié)果20分鐘,數(shù)據(jù)庫無響應(yīng),最后庫崩潰,重啟了。

既然知道drop table做了2件事情,那就針對以上 2 個事情進行優(yōu)化

在清除Buffer Pool緩沖上,為減少當個buffer pool的大小,可以合理設(shè)置innodb_buffer_pool_instances參數(shù),減少buffer pool數(shù)據(jù)塊列表掃描時間,同時關(guān)閉AHI功能

在步驟2上,可以巧妙的利用linux的硬連接特性,延遲刪除真正的物理文件。

首先看看linux系統(tǒng)的硬鏈接示意圖

硬鏈接示意圖

當多個文件名同時指向同一個INODE時,這個INODE的引用數(shù) N>1, 刪除其中任何一個文件名都會很快.因為其直接的物理文件塊沒有被刪除.只是刪除了一個指針而已;當INODE的引用數(shù) N=1 時, 刪除文件需要去把這個文件相關(guān)的所有數(shù)據(jù)塊清除,所以會比較耗時;

如果給數(shù)據(jù)庫表的.ibd文件創(chuàng)建一個硬鏈接,當刪除表時,刪除物理文件時,其實刪除的就是物理文件的一個指針,所以刪除操作響應(yīng)速度會非??欤蠹s不到1秒左右

下面就來演示一下具體的操作

先創(chuàng)建表文件的硬鏈接
ln t_test.ibd t_test.ibd.bak
刪除表
drop table t_test;

最后就是要真正刪除掉物理文件,釋放文件所占用的磁盤空間,那么問題來了,如果優(yōu)雅的刪除物理文件呢,在這里推薦大家coreutils工具集中的truncate命令

當然需要你先安裝相關(guān)的軟件包

wget http://ftp.gnu.org/gnu/coreutils/coreutils-8.29.tar.xz


使用非root進行解壓
tar -xvJf coreutils-8.29.tar.xz
cd coreutils-8.29
./configure
make
使用root進行make install

安裝好之后,就可以寫一個腳本,非常優(yōu)雅的分布刪除大文件,${i}G 表示,每次刪除 10G

#!/bin/bash


TRUNCATE=/usr/local/bin/truncate
for i in `seq 2194 -10 10 `; 
do 
  sleep 2
  $TRUNCATE -s ${i}G /data/mysql/t_test.ibd.hdlk 
done
rm -rf /data/mysql/t_test.ibd.hdlk ;

最后,給大家一個建議,不要在業(yè)務(wù)高峰期做drop table操作,一定要在業(yè)務(wù)低峰期做。

(推薦微課:MySQL微課)

文章來源:www.toutiao.com/a6863864032139411975/

以上就是W3Cschool編程獅關(guān)于 如何drop掉mysql庫中的1TB表單 的相關(guān)介紹了,希望對大家有所幫助。

0 人點贊