本文目錄一覽:
- 1、python取得mysql資料庫的表。
- 2、python使用mysqlDB出錯的問題, 你解決了嗎,我也是一直出現同樣的錯誤20170819 10:22
- 3、如何安裝python的MySQLdb模塊?
python取得mysql資料庫的表。
MySQL 的 Binlog 記錄著 MySQL 資料庫的所有變更信息,了解 Binlog 的結構可以幫助我們解析Binlog,甚至對 Binlog 進行一些修改,或者說是「篡改」,例如實現類似於 Oracle 的 flashback 的功能,恢復誤刪除的記錄,把 update 的記錄再還原回去等。本文將帶您探討一下這些神奇功能的實現,您會發現比您想像地要簡單得多。本文指的 Binlog 是 ROW 模式的 Binlog,這也是 MySQL 8 里的默認模式,STATEMENT 模式因為使用中有很多限制,現在用得越來越少了。
Binlog 由事件(event)組成,請注意是事件(event)不是事務(transaction),一個事務可以包含多個事件。事件描述對資料庫的修改內容。
現在我們已經了解了 Binlog 的結構,我們可以試著修改 Binlog 里的數據。例如前面舉例的 Binlog 刪除了一條記錄,我們可以試著把這條記錄恢復,Binlog 裡面有個刪除行(DELETE_ROWS_EVENT)的事件,就是這個事件刪除了記錄,這個事件和寫行(WRITE_ROWS_EVENT)的事件的數據結構是完全一樣的,只是刪除行事件的類型是 32,寫行事件的類型是 30,我們把對應的 Binlog 位置的 32 改成 30 即可把已經刪除的記錄再插入回去。從前面的 「show binlog events」 裡面可看到這個 DELETE_ROWS_EVENT 是從位置 378 開始的,這裡的位置就是 Binlog 文件的實際位置(以位元組為單位)。從事件(event)的結構裡面可以看到 type_code 是在 event 的第 5 個位元組,我們寫個 Python 小程序把把第383(378+5=383)位元組改成 30 即可。當然您也可以用二進位編輯工具來改。
找出 Binlog 中的大事務
由於 ROW 模式的 Binlog 是每一個變更都記錄一條日誌,因此一個簡單的 SQL,在 Binlog 里可能會產生一個巨無霸的事務,例如一個不帶 where 的 update 或 delete 語句,修改了全表裡面的所有記錄,每條記錄都在 Binlog 裡面記錄一次,結果是一個巨大的事務記錄。這樣的大事務經常是產生麻煩的根源。我的一個客戶有一次向我抱怨,一個 Binlog 前滾,滾了兩天也沒有動靜,我把那個 Binlog 解析了一下,發現裡面有個事務產生了 1.4G 的記錄,修改了 66 萬條記錄!下面是一個簡單的找出 Binlog 中大事務的 Python 小程序,我們知道用 mysqlbinlog 解析的 Binlog,每個事務都是以 BEGIN 開頭,以 COMMIT 結束。我們找出 BENGIN 前面的 「# at」 的位置,檢查 COMMIT 後面的 「# at」 位置,這兩個位置相減即可計算出這個事務的大小,下面是這個 Python 程序的例子。
切割 Binlog 中的大事務
對於大的事務,MySQL 會把它分解成多個事件(注意一個是事務 TRANSACTION,另一個是事件 EVENT),事件的大小由參數 binlog-row-event-max-size 決定,這個參數默認是 8K。因此我們可以把若干個事件切割成一個單獨的略小的事務
ROW 模式下,即使我們只更新了一條記錄的其中某個欄位,也會記錄每個欄位變更前後的值,這個行為是 binlog_row_image 參數控制的,這個參數有 3 個值,默認為 FULL,也就是記錄列的所有修改,即使欄位沒有發生變更也會記錄。這樣我們就可以實現類似 Oracle 的 flashback 的功能,我個人估計 MySQL 未來的版本從可能會基於 Binlog 推出這樣的功能。
了解了 Binlog 的結構,再加上 Python 這把瑞士軍刀,我們還可以實現很多功能,例如我們可以統計哪個表被修改地最多?我們還可以把 Binlog 切割成一段一段的,然後再重組,可以靈活地進行 MySQL 資料庫的修改和遷移等工作。
python使用mysqlDB出錯的問題, 你解決了嗎,我也是一直出現同樣的錯誤20170819 10:22
1)首先 官網下載MySQL-python-1.2.3.tar.gz。
2)這時你可以直接解壓或是在shell中用tar命令解壓,j進入其解壓目錄下執行python setup.py install.這個時候可能會引發一系列的問題:
A)提示缺失setuptools,這是因為安裝mysql-python時需要用到setuptools提供的組件,
下載與你系統上所裝的python相對應的setuptools,
我這裡下載的是 setuptools-0.6c11-py2.7.egg (md5),到下載目錄下,執行sh setuptools-0.6c11-py2.7.egg,
這樣就將其安裝上了!
B)繼續執行python setup.py install,可能出現以下錯誤:
====== pymemcompat.h:10:20: 致命錯誤:Python.h:沒有那個文件或目錄 編譯中斷。
出現這個問題的原因是,系統中的python是自帶的,而沒有安裝python的開發包並沒有安裝,所以在shell下執行如下命令:
點擊(此處)摺疊或打開
yum install python-devel
C)和B)一樣執行命令後,還可能出現這樣的類似的錯誤:
=======_mysql.c:36:23: 致命錯誤:my_config.h:沒有那個文件或目錄 編譯中斷。
顯而易見,解決的方法和上面的也是一樣的,這是因為mysql開發包未安裝,同樣執行以下命令就可以解決了!
點擊(此處)摺疊或打開
yum install mysql-devel
3)最後,問題就圓滿解決了!(PS:前提是你已經安裝好了mysql,如果沒有也會觸發相應錯誤,這時只要安裝就行了)
4)測試,如下:
點擊(此處)摺疊或打開
db = MySQLdb.connect(user=’root’, db=’test’, passwd=’123456′,host=’127.0.0.1′) //資料庫連接
cursor = db.cursor() // 創建游標
cursor.execute(‘select name from test order by id’) // 執行查詢語句
names = [row[0] for row in cursor.fetchall()] // 列表解析,提取數據
print names
[‘loogn’, ‘qiang’]
db.close() // 關閉資料庫
附:ubuntu下安裝python mysqldb的支持:
sudo apt-get install mysql-server mysql-client libmysqlclient15-dev
wget -c
sudo python ez_setup.py
sudo easy_install MySQL-python
如何安裝python的MySQLdb模塊?
到官方下載MySQL for Python
然後解壓,打開README:
裡面有安裝過程:
$ tar xfz MySQL-python-1.2.1.tar.gz
$ cd MySQL-python-1.2.1
$ # edit site.cfg if necessary
$ python setup.py build
$ sudo python setup.py install # or su first
不過在python setup.py build時報錯:
ImportError: No module named setuptools
ubuntu下安裝:
sudo apt-get install python-setuptools
python-setuptools : Python Distutils Enhancements (setuptools compatibility)
然後再次python setup.py build,又報錯:
EnvironmentError: mysql_config not found
因為mysql_config是屬於MySQL開發用的文件,而使用apt-get安裝的MySQL是沒有這個文件的,於是在包安裝器裡面尋找
sudo apt-get install libmysqld-dev
libmysqld-dev : MySQL embedded database development files
再次運行python setup.py build,報錯:
building 『_mysql』 extension
gcc -pthread -fno-strict-aliasing -DNDEBUG -g -fwrapv -O2 -Wall -Wstrict-prototypes -fPIC -Dversion_info=(1,2,3,』final』,0) -D__version__=1.2.3 -I/usr/include/mysql -I/usr/include/python2.7 -c _mysql.c -o build/temp.linux-i686-2.7/_mysql.o -DBIG_JOINS=1 -fno-strict-aliasing -DUNIV_LINUX -DUNIV_LINUX
In file included from _mysql.c:29:0:
pymemcompat.h:10:20: fatal error: Python.h: No such file or directory
解決方案,
sudo apt-get install python-dev
python-dev : header files and a static library for Python (default)
然後就按照README里的:
$ python setup.py build
$ sudo python setup.py install
測試:
import MySQLdb
沒有報錯即可。
原創文章,作者:YZVRM,如若轉載,請註明出處:https://www.506064.com/zh-tw/n/324642.html