本文目錄一覽:
2019數據架構選型必讀:1月數據庫產品技術解析
本期目錄
DB-Engines數據庫排行榜
新聞快訊
一、RDBMS家族
二、NoSQL家族
三、NewSQL家族
四、時間序列
五、大數據生態圈
六、國產數據庫概覽
七、雲數據庫
八、推出dbaplus Newsletter的想法
九、感謝名單
為方便閱讀、重點呈現,本期Newsletter(2019年1月)將對各個板塊的內容進行精簡。需要閱讀全文的同學可點擊文末 【閱讀原文】 或登錄
進行下載。
DB-Engines數據庫排行榜
以下取自2019年1月的數據,具體信息可以參考,數據僅供參考。
DB-Engines排名的數據依據5個不同的因素:
新聞快訊
1、2018年9月24日,微軟公布了SQL Server2019預覽版,SQL Server 2019將結合Spark創建統一數據平台。
2、2018年10月5日,ElasticSearch在美國紐約證券交易所上市。
3、亞馬遜放棄甲骨文數據庫軟件,導致最大倉庫之一在黃金時段宕機。受此消息影響,亞馬遜盤前股價小幅跳水,跌超2%。
4、2018年10月31日,Percona發佈了Percona Server 8.0 RC版本,發佈對MongoDB 4.0的支持,發佈對XtraBackup測試第二個版本。
5、2018年10月31日,Gartner陸續發佈了2018年的數據庫系列報告,包括《數據庫魔力象限》、《數據庫核心能力》以及《數據庫推薦報告》。
今年的總上榜數據庫產品達到了5家,分別來自:阿里雲,華為,巨杉數據庫,騰訊雲,星環 科技 。其中阿里雲和巨杉數據庫已經連續兩年入選。
6、2018年11月初,Neo4j宣布完成E輪8000萬美元融資。11月15日,Neo4j宣布企業版徹底閉源:
7、2019年1月8日,阿里巴巴以1.033億美元(9000萬歐元)的價格收購了Apache Flink商業公司DataArtisans。
8、2019年1月11日早間消息,亞馬遜宣布推出雲數據庫軟件,亞馬遜和MongoDB將會直接競爭。
RDBMS家族
Oracle 發佈18.3版本
2018年7月,Oracle Database 18.3通用版開始提供下載。我們可以將Oracle Database 18c視為採用之前發佈模式的Oracle Database 12c第2版的第一個補丁集。未來,客戶將不再需要等待多年才能用上最新版Oracle數據庫,而是每年都可以期待新數據庫特性和增強。Database 19c將於2019年Q1率先在Oracle cloud上發佈雲版本。
Oracle Database 18c及19c部分關鍵功能:
1、性能
2、多租戶,大量功能增強及改進,大幅節省成本和提高敏捷性
3、高可用
4、數據倉庫和大數據
MySQL發佈8.0.13版本
1、賬戶管理
經過配置,修改密碼時,必須帶上原密碼。在之前的版本,用戶登錄之後,就可以修改自己的密碼。這種方式存在一定安全風險。比如用戶登錄上數據庫後,中途離開一段時間,那麼非法用戶可能會修改密碼。由參數password_require_current控制。
2、配置
Innodb表必須有主鍵。在用戶沒有指定主鍵時,系統會生成一個默認的主鍵。但是在主從複製的場景下,默認的主鍵,會對叢庫應用速度帶來致命的影響。如果設置sql_require_primary_key,那麼數據庫會強制用戶在創建表、修改表時,加上主鍵。
3、字段默認值
BLOB、TEXT、GEOMETRY和JSON字段可以指定默認值了。
4、優化器
1)Skip Scan
非前綴索引也可以用了。
之前的版本,任何沒有帶上f1字段的查詢,都沒法使用索引。在新的版本中,它可以忽略前面的字段,讓這個查詢使用到索引。其實現原理就是把(f1 = 1 AND f2 40) 和(f1 = 2 AND f2 40)的查詢結果合併。
2)函數索引
之前版本只能基於某個列或者多個列加索引,但是不允許在上面做計算,如今這個限制消除了。
5、SQL語法
GROUP BY ASC和GROUP BY DESC語法已經被廢棄,要想達到類似的效果,請使用GROUP BY ORDER BY ASC和GROUP BY ORDER BY DESC。
6、功能變化
1)設置用戶變量,請使用SET語句
如下類型語句將要被廢棄SELECT @var, @var:=@var+1。
2)新增innodb_fsync_threshold
該變量是控制文件刷新到磁盤的速率,防止磁盤在短時間內飽和。
3)新增會話級臨時表空間
在以往的版本中,當執行SQL時,產生的臨時表都在全局表空間ibtmp1中,及時執行結束,臨時表被釋放,空間不會被回收。新版本中,會為session從臨時表空間池中分配一個臨時表空間,當連接斷開時,臨時表空間的磁盤空間被回收。
4)在線切換Group Replication的狀態
5)新增了group_replication_member_expel_timeout
之前,如果某個節點被懷疑有問題,在5秒檢測期結束之後,那麼就直接被驅逐出這個集群。即使該節點恢復正常時,也不會再被加入集群。那麼,瞬時的故障,會把某些節點驅逐出集群。
group_replication_member_expel_timeout讓管理員能更好的依據自身的場景,做出最合適的配置(建議配置時間小於一個小時)。
MariaDB 10.3版本功能展示
1、MariaDB 10.3支持update多表ORDER BY and LIMIT
1)update連表更新,limit語句
update t1 join t2 on t1.id=t2.id set t1.name=’hechunyang’ limit 3;
MySQL 8.0直接報錯
MariaDB 10.3更新成功
2)update連表更新,ORDER BY and LIMIT語句
update t1 join t2 on t1.id=t2.id set t1.name=’HEchunyang’ order by t1.id DESC limit 3;
MySQL 8.0直接報錯
MariaDB 10.3更新成功
參考:
2、MariaDB10.3增補AliSQL補丁——安全執行Online DDL
Online DDL從名字上看很容易誤導新手,以為不論什麼情況,修改表結構都不會鎖表,理想很豐滿,現實很骨感,注意這個坑!
有以下兩種情況執行DDL操作會鎖表的,Waiting for table metadata lock(元數據表鎖):
針對第二種情況,MariaDB10.3增補AliSQL補丁-DDL FAST FAIL,讓其DDL操作快速失敗。
例:
如果線上有某個慢SQL對該表進行操作,可以使用WAIT n(以秒為單位設置等待)或NOWAIT在語句中顯式設置鎖等待超時,在這種情況下,如果無法獲取鎖,語句將立即失敗。 WAIT 0相當於NOWAIT。
參考:
3、MariaDB Window Functions窗口函數分組取TOP N記錄
窗口函數在MariaDB10.2版本里實現,其簡化了複雜SQL的撰寫,提高了可讀性。
參考:
Percona Server發佈8.0 GA版本
2018年12月21日,Percona發佈了Percona Server 8.0 GA版本。
在支持MySQL8.0社區的基礎版上,Percona Server for MySQL 8.0版本中帶來了許多新功能:
1、安全性和合規性
2、性能和可擴展性
3、可觀察性和可用性
Percona Server for MySQL 8.0中將要被廢用功能:
Percona Server for MySQL 8.0中刪除的功能:
RocksDB發佈V5.17.2版本
2018年10月24日,RocksDB發佈V5.17.2版本。
RocksDB是Facebook在LevelDB基礎上用C++寫的高效內嵌式K/V存儲引擎。相比LevelDB,RocksDB提供了Column-Family,TTL,Transaction,Merge等方面的支持。目前MyRocks,TiKV等底層的存儲都是基於RocksDB來構建。
PostgreSQL發佈11版本
2018年10月18日,PostgreSQL 11發佈。
1、PostgreSQL 11的重大增強
2、PostgreSQL 插件動態
1)分佈式插件citus發佈 8.1
citus是PostgreSQL的一款sharding插件,目前國內蘇寧、鐵總、探探有較大量使用案例。
2)地理信息插件postgis發佈2.5.1
PostGIS是專業的時空數據庫插件,在測繪、航天、氣象、地震、國土資源、地圖等時空專業領域應用廣泛。同時在互聯網行業也得到了對GIS有性能、功能深度要求的客戶青睞,比如共享出行、外賣等客戶。
3)時序插件timescale發佈1.1.1
timescale是PostgreSQL的一款時序數據庫插件,在IoT行業中有非常好的應用。github star數目前有5000多,是一個非常火爆的插件。
4)流計算插件 pipelinedb 正式插件化
Pipelinedb是PostgreSQL的一款流計算插件,使用這個創建可以對高速寫入的數據進行實時根據定義的聚合規則進行聚合(支持概率計算),實時根據定義的規則觸發事件(支持事件處理函數的自定義)。可用於IoT,監控,FEED實時計算等場景。
3、PostgreSQL衍生開源產品動態
1)agensgraph發佈 2.0.0版本
agensgraph是兼容PostgreSQL、opencypher的專業圖數據庫,適合圖式關係的管理。
2)gpdb發佈5.15
gpdb是兼容PostgreSQL的mpp數據庫,適合OLAP場景。近兩年,gpdb一直在追趕PostgreSQL的社區版本,預計很快會追上10的PostgreSQL,在TP方面的性能也會得到顯著提升。
3)antdb發佈3.2
antdb是以Postgres-XC為基礎開發的一款PostgreSQL sharding數據庫,亞信主導開發,開源,目前主要服務於亞信自有客戶。
4)遷移工具MTK發佈52版本
MTK是EDB提供的可以將Oracle、PostgreSQL、MySQL、MSSQL、Sybase數據庫遷移到PostgreSQL, PPAS的產品,遷移速度可以達到100萬行/s以上。
DB2發佈 11.1.4.4版本
DB2最新發佈Mod Pack 4 and Fix Pack 4,包含以下幾方面的改動及增強:
1、性能
2、高可用
3、管理視圖
4、應用開發方面
5、聯邦功能
6、pureScale
NoSQL家族
Redis發佈5.0.3版本
MongoDB升級更新MongoDB Mobile和MongoDB Stitch
2018年11月21日,MongoDB升級更新MongoDB Mobile和MongoDB Stitch,助力開發人員提升工作效率。
MongoDB 公司日前發佈了多項新產品功能,旨在更好地幫助開發人員在世界各地管理數據。通過利用存儲在移動設備和後台數據庫的數據之間的實時、自動的同步特性,MongoDB Mobile通用版本助力開發人員構建更快捷、反應更迅速的應用程序。此前,這隻能通過在移動應用內部安裝一個可供選擇或限定功能的數據庫來實現。
MongoDB Mobile在為客戶提供隨處運行的自由度方面更進了一步。用戶在iOS和安卓終端設備上可擁有MongoDB所有功能,將網絡邊界擴展到其物聯網資產範疇。應用系統還可以使用MongoDB Stitch的軟件開發包訪問移動客戶端或後台數據,幫助開發人員通過他們希望的任意方式查詢移動終端數據和物聯網數據,包括本地讀寫、本地JSON存儲、索引和聚合。通過Stitch移動同步功能(現可提供beta版),用戶可以自動對保存在本地的數據以及後台數據庫的數據進行同步。
本期新秀:Cassandra發佈3.11.3版本
2018年8月11日,Cassandra發佈正式版3.11.3。
Apache Cassandra是一款開源分佈式NoSQL數據庫系統,使用了基於Google BigTable的數據模型,與面向行(row)的傳統關係型數據庫或鍵值存儲key-value數據庫不同,Cassandra使用的是寬列存儲模型(Wide Column Stores)。與BigTable和其模仿者HBase不同,數據並不存儲在分佈式文件系統如GFS或HDFS中,而是直接存於本地。
Cassandra的系統架構與Amazon DynamoDB類似,是基於一致性哈希的完全P2P架構,每行數據通過哈希來決定應該存在哪個或哪些節點中。集群沒有master的概念,所有節點都是同樣的角色,徹底避免了整個系統的單點問題導致的不穩定性,集群間的狀態同步通過Gossip協議來進行P2P的通信。
3.11.3版本的一些bug fix和改進:
NewSQL家族
TiDB 發佈2.1.2版本
2018 年 12 月 22 日,TiDB 發佈 2.1.2 版,TiDB-Ansible 相應發佈 2.1.2 版本。該版本在 2.1.1 版的基礎上,對系統兼容性、穩定性做出了改進。
TiDB 是一款定位於在線事務處理/在線分析處理( HTAP: Hybrid Transactional/Analytical Processing)的融合型數據庫產品。除了底層的 RocksDB 存儲引擎之外,分佈式SQL層、分佈式KV存儲引擎(TiKV)完全自主設計和研發。
TiDB 完全開源,兼容MySQL協議和語法,可以簡單理解為一個可以無限水平擴展的MySQL,並且提供分佈式事務、跨節點 JOIN、吞吐和存儲容量水平擴展、故障自恢復、高可用等優異的特性;對業務沒有任何侵入性,簡化開發,利於維護和平滑遷移。
TiDB:
PD:
TiKV:
Tools:
1)TiDB-Lightning
2)TiDB-Binlog
EsgynDB發佈R2.5版本
2018年12月22日,EsgynDB R2.5版本正式發佈。
作為企業級產品,EsgynDB 2.5向前邁進了一大步,它擁有以下功能和改進:
CockroachDB發佈2.1版本
2018年10月30日,CockroachDB正式發佈2.1版本,其新增特性如下:
新增企業級特性:
新增SQL特性:
新增內核特性:
Admin UI增強:
時間序列
本期新秀:TimescaleDB發佈1.0版本
10月底,TimescaleDB 1.0宣布正式推出,官方表示該版本已可用於生產環境,支持完整SQL和擴展。
TimescaleDB是基於PostgreSQL數據庫開發的一款時序數據庫,以插件化的形式打包提供,隨着PostgreSQL的版本升級而升級,不會因為另立分支帶來麻煩。
TimescaleDB架構:
數據自動按時間和空間分片(chunk)
更新亮點:
大數據生態圈
Hadoop發佈2.9.2版本
2018年11月中旬,Hadoop在2.9分支上發佈了新的2.9.2版本,該版本進行了204個大大小小的變更,主要變更如下:
Greenplum 發佈5.15版本
Greenplum最新的5.15版本中發佈了流式數據加載工具。
該版本中的Greenplum Streem Server組件已經集成了Kafka流式加載功能,並通過了Confluent官方的集成認證,其支持的主要功能如下:
國產數據庫概覽
K-DB發佈數據庫一體機版
2018年11月7日,K-DB發佈了數據庫一體機版。該版本更新情況如下:
OceanBase遷移服務發佈1.0版本
1月4日,OceanBase 正式發佈OMS遷移服務1.0版本。
以下內容包含 OceanBase 遷移服務的重要特性和功能:
SequoiaDB發佈3.0.1新版本
1、架構
1)完整計算存儲分離架構,兼容MySQL協議、語法
計算存儲分離體系以松耦合的方式將計算與存儲層分別部署,通過標準接口或插件對各個模塊和組件進行無縫替換,在計算層與存儲層均可實現自由的彈性伸縮。
SequoiaDB巨杉數據庫「計算-存儲分離」架構詳細示意
用戶可以根據自身業務特徵選擇面向交易的SQL解析器(例如MySQL或PGSQL)或面向統計分析的執行引擎(例如SparkSQL)。眾所周知,使用不同的SQL優化與執行方式,數據庫的訪問性能可能會存在上千上萬倍的差距。計算存儲分離的核心思想便是在數據存儲層面進行一體化存儲,在計算層面則利用每種執行引擎的特點針對不同業務場景進行選擇和優化,用戶可以在存儲層進行邏輯與物理的隔離,將面向高頻交易的前端業務與面向高吞吐量的統計分析使用不同的硬件進行存儲,確保在多類型數據訪問時互不干擾,以真正達到生產環境可用的多租戶與HTAP能力。
2、其他更新信息
1)接口變更:
2)主要特性:
雲數據庫
本期新秀:騰訊發佈數據庫CynosDB,開啟公測
1、News
1)騰訊雲數據庫MySQL2018年重大更新:
2)騰訊雲數據庫MongoDB2018年重大更新:
3)騰訊雲數據庫Redis/CKV+2018年重大更新:
4)騰訊雲數據庫CTSDB2018年重大更新:
2、Redis 4.0集群版商業化上線
2018年10月,騰訊雲數據庫Redis 4.0集群版完成邀測、公測、商業化三個迭代,在廣州、上海、北京正式全量商業化上線。
產品特性:
使用場景:
官網文檔:
3、騰訊自研數據庫CynosDB發佈,開啟公測
2018年11月22日,騰訊雲召開新一代自研數據庫CynosDB發佈會,業界第一款全面兼容市面上兩大最主流的開源數據庫MySQL和PostgreSQL的高性能企業級分佈式雲數據庫。
本期新秀:京東雲DRDS發佈1.0版本
12月24日,京東雲分佈式關係型數據庫DRDS正式發佈1.0版本。
DRDS是京東雲精心自研的數據庫中間件產品,獲得了2018年 」可信雲技術創新獎」。DRDS可實現海量數據下的自動分庫分表,具有高性能,分佈式,彈性升級,兼容MySQL等優點,適用於高並發、大規模數據的在線交易, 歷史 數據查詢,自動數據分片等業務場景,歷經多次618,雙十一的考驗,已經在京東集團內大規模使用。
京東雲DRDS產品有以下主要特性
1)自動分庫分表
通過簡單的定義即可自動實現分庫分表,將數據實際存放在多個MySQL實例的數據庫中,但呈現給應用程序的依舊是一張表,對業務透明,應用程序幾乎無需改動,實現了對數據庫存儲和處理能力的水平擴展。
2)分佈式架構
基於分佈式架構的集群方案,多個對等節點同時對外提供服務,不但可有效規避服務的單點故障,而且更加容易擴展。
3)超強性能
具有極高的處理能力,雙節點即可支持數萬QPS,滿足用戶超大規模處理能力的需求。
4)兼容MySQL
兼容絕大部分MySQL語法,包括MySQL語法、數據類型、索引、常用函數、排序、關聯等DDL,DML語句,使用成本低。
參考鏈接:
RadonDB發佈1.0.3版本
2018年12月26日,MyNewSQL領域的RadonDB雲數據庫發佈1.0.3版本。
推出dbaplus Newsletter的想法
dbaplus Newsletter旨在向廣大技術愛好者提供數據庫行業的最新技術發展趨勢,為社區的技術發展提供一個統一的發聲平台。為此,我們策划了RDBMS、NoSQL、NewSQL、時間序列、大數據生態圈、國產數據庫、雲數據庫等幾個版塊。
我們不以商業宣傳為目的,不接受任何商業廣告宣傳,嚴格審查信息源的可信度和準確性,力爭為大家提供一個純凈的技術學習環境,歡迎大家監督指正。
至於Newsletter發佈的周期,目前計劃是每三個月左右會做一次跟進, 下期計劃時間是2019年4月14日~4月25日, 如果有相關的信息提供請發送至郵箱:newsletter@dbaplus.cn
感謝名單
最後要感謝那些提供寶貴信息和建議的專家朋友,排名不分先後。
往期回顧:
↓↓別忘了點這裡下載 2019年1月 完整版Newsletter 哦~
騰訊雲的mysql 2核4G大概能支撐多少並發?
2核cpu,4g內存?這個配置並發量肯定比較低的。但性能測試還和網站本身的架構及功能邏輯有關,不一定的。
mysql數據庫突然變慢 數據庫變慢是什麼原因
MySQL 在崩潰恢復時,會遍歷打開所有 ibd 文件的 header page 驗證數據字典的準確性,如果 MySQL 中包含了大量表,這個校驗過程就會比較耗時。 MySQL 下崩潰恢復確實和表數量有關,表總數越大,崩潰恢復時間越長。另外磁盤 IOPS 也會影響崩潰恢復時間,像這裡開發庫的 HDD IOPS 較低,因此面對大量的表空間,校驗速度就非常緩慢。另外一個發現,MySQL 8 下正常啟用時居然也會進行表空間校驗,而故障恢復時則會額外再進行一次表空間校驗,等於校驗了 2 遍。不過 MySQL 8.0 里多了一個特性,即表數量超過 5W 時,會啟用多線程掃描,加快表空間校驗過程。
如何跳過校驗MySQL 5.7 下有方法可以跳過崩潰恢復時的表空間校驗過程嘛?查閱了資料,方法主要有兩種:
1. 配置 innodb_force_recovery可以使 srv_force_recovery != 0 ,那麼 validate = false,即可以跳過表空間校驗。實際測試的時候設置 innodb_force_recovery =1,也就是強制恢復跳過壞頁,就可以跳過校驗,然後重啟就是正常啟動了。通過這種臨時方式可以避免崩潰恢復後非常耗時的表空間校驗過程,快速啟動 MySQL,個人目前暫時未發現有什麼隱患。2. 使用共享表空間替代獨立表空間這樣就不需要打開 N 個 ibd 文件了,只需要打開一個 ibdata 文件即可,大大節省了校驗時間。自從聽了姜老師講過使用共享表空間替代獨立表空間解決 drop 大表時性能抖動的原理後,感覺共享表空間在很多業務環境下,反而更有優勢。
臨時冒出另外一種解決想法,即用 GDB 調試崩潰恢復,通過臨時修改 validate 變量值讓 MySQL 跳過表空間驗證過程,然後讓 MySQL 正常關閉,重新啟動就可以正常啟動了。但是實際測試發現,如果以 debug 模式運行,確實可以臨時修改 validate 變量,跳過表空間驗證過程,但是 debug 模式下代碼運行效率大打折扣,反而耗時更長。而以非 debug 模式運行,則無法修改 validate 變量,想法破滅。
騰訊qq用什麼樣的數據庫?
騰訊雲數據庫。
騰訊雲有着深厚的基礎架構,並且有着多年對海量互聯網服務的經驗,不管是社交、遊戲還是其他領域,都有多年的成熟產品來提供產品服務。騰訊在雲端完成重要部署,為開發者及企業提供雲服務、雲數據、雲運營等整體一站式服務方案。
具體包括雲服務器、雲存儲、雲數據庫和彈性web引擎等基礎雲服務;騰訊雲分析(MTA)、騰訊雲推送(信鴿)等騰訊整體大數據能力;
以及 QQ互聯、QQ空間、微雲、微社區等雲端鏈接社交體系。這些正是騰訊雲可以提供給這個行業的差異化優勢,造就了可支持各種互聯網使用場景的高品質的騰訊雲技術平台。
擴展資料
國際領先行業研究諮詢機構Forrester發佈《2018年中國全棧公有雲開發平台Wave報告》(以下簡稱「報告」),騰訊雲憑藉優秀的產品服務能力、前瞻性戰略視野,突出的市場表現,以3.76分的綜合評分位列中國廠商第二名,成為本次評估的領導者廠商之一。
在報告中可以看到,騰訊雲在「Stronger Strategy」維度,位列所有廠商的第二位置;並在「本地可用性」、「價格戰略」、「合作夥伴生態」、「雲市場和社區」、「混合雲戰略」、「收入增速」6項細分標準的評估取得了評測內的最高分。
報告評估分為三個維度,即:產品(縱坐標)、戰略(橫坐標)和市場(圓圈體積),並通過33個細分標準,結合客戶訪談反饋,最終得出各廠商的綜合積分和象限位置。
騰訊雲在三個維度的綜合評分為3.76分,位列國內廠商第二名。
Forrester在報告中指出,作為2018年的新晉領導者,騰訊雲業務經過多年努力取得了實質性的穩定發展:業務年增速已超過200%,業務收入規模持續位列中國市場第二名。
參考資料來源:百度百科–騰訊雲
參考資料來源:人民網–騰訊雲進入中國公有雲市場領導廠商陣營
原創文章,作者:小藍,如若轉載,請註明出處:https://www.506064.com/zh-hk/n/276111.html