mysql數據庫大量造數據,mysql怎麼批量造數據

本文目錄一覽:

shell 怎麼造mysql 的大量數據

若要將大量的數據值插入到數據庫的一個或多個表中,使用insert into語句來實現將是一項無聊的工作。

1、LOAD DATA通過讀取本地文件系統上的文件,可以將大量數據添加到數據庫中。

mysql LOAD DATA INFILE 『datafile.txt』 INTO TABLE db2.table_name;

mysql LOAD DATA INFILE 『datafile.txt』 INTO TABLE db2.table_name FIELDS TERMINATED BY 『,』 OPTIONALLY ENCLOSED BY 『」『;

mysql load data infile 「file.txt」 into table table_name fields terminated by 『\t』 (sid,name);

2、還有一個mysqlimport命令可以批量增加,mysqlimport直接從文件讀取批量數據。它相當於LOAD DATA語句的一個接口。

mysqlimport可以自動生成一個LOAD DATA語句,該語句把filename.txt文件中的數據裝入table_name表中。

mysqlimport根據文件名導入表名,即將文件名第一個圓點前的所有字符作為表名。例如,文件class.txt被裝入class表中。

例如:

mysqlimport -L -uroot -proot db01 table_name.txt;

mysqlimport -local table_name filename.txt;

3、datafile.txt內容:

「1」,」a string」,」100.20″

「2」,」a string containing a , comma」,」102.20″

「3」,」a string containing a \」 quote」,」102.20″

「4」,」a string containing a \」, quote and comma」,」102.20″

4、假如你有x表,導入了一個y表,將y表數據插入x表:

insert into x select * from y;

如何向mysql數據庫中導入大批量數據?

導入時把生成索引給關掉,應該能快一點.

不要一邊導入一邊建立索引.

8G數據,應該也不那麼慢了.

把sql語句文件讀取出一部分看看,建表語句中,應當有建立索引的部分,刪掉它!

只做建表和插入數據兩件事.

還有,看看數據庫有沒有外鍵?

盡量在插入數據過程中去掉外鍵關聯.

等數據插入完成之後再加索引和外鍵,應該能提高很多讀寫性能.

截取一部分數據,例如100Mb.

插入一下試試,可以預先對整體時間有一個預期.

還有,真的要弄台好點的電腦,或者去借一台,等把數據導入完成之後,把msyql的庫文件直接複製出來放自己機器上跑就好.

emm..

再追加點信息,要先搞明白,sql原文件里,到底都執行了哪幾類操作?

可能需要你用c之類寫點小工具,或者別的什麼語言,分塊讀取並處理文件.

8G..

嗯,還好.

現在內存都夠大,否則你都沒法直接用軟件打開了.

只有8G也可以直接用軟件打開看.

停掉索引真的可以大幅度加快插入數據的速度.

建議試一試!

MySQL數據庫 寫入大量數據如何實現

//最快的方法 10000記錄 23MS

public static void insert() {  

        // 開時時間  

        Long begin = new Date().getTime();  

        // sql前綴  

        String prefix = “INSERT INTO tb_big_data (count, create_time, random) VALUES “;  

        try {  

            // 保存sql後綴  

            StringBuffer suffix = new StringBuffer();  

            // 設置事務為非自動提交  

            conn.setAutoCommit(false);  

            // Statement st = conn.createStatement();  

            // 比起st,pst會更好些  

            PreparedStatement pst = conn.prepareStatement(“”);  

            // 外層循環,總提交事務次數  

            for (int i = 1; i = 100; i++) {  

                // 第次提交步長  

                for (int j = 1; j = 10000; j++) {  

                    // 構建sql後綴  

                    suffix.append(“(” + j * i + “, SYSDATE(), ” + i * j  

                            * Math.random() + “),”);  

                }  

                // 構建完整sql  

                String sql = prefix + suffix.substring(0, suffix.length() – 1);  

                // 添加執行sql  

                pst.addBatch(sql);  

                // 執行操作  

                pst.executeBatch();  

                // 提交事務  

                conn.commit();  

                // 清空上一次添加的數據  

                suffix = new StringBuffer();  

            }  

            // 頭等連接  

            pst.close();  

            conn.close();  

        } catch (SQLException e) {  

            e.printStackTrace();  

        }  

        // 結束時間  

        Long end = new Date().getTime();  

        // 耗時  

        System.out.println(“cast : ” + (end – begin) / 1000 + ” ms”);  

    }

原創文章,作者:ZBIO,如若轉載,請註明出處:https://www.506064.com/zh-hk/n/131119.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
ZBIO的頭像ZBIO
上一篇 2024-10-03 23:43
下一篇 2024-10-03 23:43

相關推薦

  • 如何修改mysql的端口號

    本文將介紹如何修改mysql的端口號,方便開發者根據實際需求配置對應端口號。 一、為什麼需要修改mysql端口號 默認情況下,mysql使用的端口號是3306。在某些情況下,我們需…

    編程 2025-04-29
  • Python讀取CSV數據畫散點圖

    本文將從以下方面詳細闡述Python讀取CSV文件並畫出散點圖的方法: 一、CSV文件介紹 CSV(Comma-Separated Values)即逗號分隔值,是一種存儲表格數據的…

    編程 2025-04-29
  • Python 常用數據庫有哪些?

    在Python編程中,數據庫是不可或缺的一部分。隨着互聯網應用的不斷擴大,處理海量數據已成為一種趨勢。Python有許多成熟的數據庫管理系統,接下來我們將從多個方面介紹Python…

    編程 2025-04-29
  • Python中讀入csv文件數據的方法用法介紹

    csv是一種常見的數據格式,通常用於存儲小型數據集。Python作為一種廣泛流行的編程語言,內置了許多操作csv文件的庫。本文將從多個方面詳細介紹Python讀入csv文件的方法。…

    編程 2025-04-29
  • openeuler安裝數據庫方案

    本文將介紹在openeuler操作系統中安裝數據庫的方案,並提供代碼示例。 一、安裝MariaDB 下面介紹如何在openeuler中安裝MariaDB。 1、更新軟件源 sudo…

    編程 2025-04-29
  • 如何用Python統計列表中各數據的方差和標準差

    本文將從多個方面闡述如何使用Python統計列表中各數據的方差和標準差, 並給出詳細的代碼示例。 一、什麼是方差和標準差 方差是衡量數據變異程度的統計指標,它是每個數據值和該數據值…

    編程 2025-04-29
  • Python多線程讀取數據

    本文將詳細介紹多線程讀取數據在Python中的實現方法以及相關知識點。 一、線程和多線程 線程是操作系統調度的最小單位。單線程程序只有一個線程,按照程序從上到下的順序逐行執行。而多…

    編程 2025-04-29
  • Python爬取公交數據

    本文將從以下幾個方面詳細闡述python爬取公交數據的方法: 一、準備工作 1、安裝相關庫 import requests from bs4 import BeautifulSou…

    編程 2025-04-29
  • Python兩張表數據匹配

    本篇文章將詳細闡述如何使用Python將兩張表格中的數據匹配。以下是具體的解決方法。 一、數據匹配的概念 在生活和工作中,我們常常需要對多組數據進行比對和匹配。在數據量較小的情況下…

    編程 2025-04-29
  • Python數據標準差標準化

    本文將為大家詳細講述Python中的數據標準差標準化,以及涉及到的相關知識。 一、什麼是數據標準差標準化 數據標準差標準化是數據處理中的一種方法,通過對數據進行標準差標準化可以將不…

    編程 2025-04-29

發表回復

登錄後才能評論