搜尋
首頁資料庫mysql教程分享使用Mariadb時碰到的兩個問題

MySQL新版選型

公司早期主要用mysql5.5這個版本,今年我們把資料庫配置中心搭建起來,主要推的是mysql5.6這個版本,效能和功能上都有了一定的提升,mysql5.6也能支援gtid,但是無法在線在gtid模式與普通模式之間切換,同時5.6的同步性能還是無法讓人滿意,只能做到在多個db的情況啟動並行複製,業務上很難有這樣的保證,所以一旦寫入操作密集的業務,同步慢就會是個嚴重的問題;

所以,最近一直在考慮升級MySQL,升級MySQL首先面臨的一個問題就是選一個合適的版本,首先我們考慮是的採用mysql5.7,5.7今年已經連續發了多個正式版本了,目前使用範圍也比較廣,可以考慮在正式環境使用了。於是我們進行了線上比較測試,發現mysql5.7與我們線上的mysql5.6版本的效能有較大的差距(也許還是有些參數沒有調好的原因,5.7確實要複雜很多)。

與此同時,最近公司頻繁出現一些日誌性存儲,大多數都是採用innodb引擎,容量非常浪費,另一方面由於我們公司的標準mysql伺服器容量是1.3T左右,對於一些大容量需求的業務來說,容量上也存在瓶頸,如果要保留長時間的資料就難以滿足需求了。所以藉此機會我們打算把這塊一起考慮進去,目前Percona和Mariadb都支援Tokudb,Mariadb 10.2還是10.3也準備支援Myrocks了。

於是決定比較試一下,選擇了Percona 5.7.14、Mariadb 10.1.18與我們線上的MySQL 5.6進行了對比測試,經過壓測。

首先是都使用Innodb引擎的情況:

Mariadb與MySQL5.6測試結果接近

Percona 5.7.14與官方MySQL5.7的效能結果差不多,比起MySQL5.6有一定的差距(去掉performance_schema好一點,但也有落差)。

採用Tokudb引擎測試的結果與官方聲稱的有差距,使用snappy壓縮的情況下,insert比innodb約慢1/4,update只有innodb的一半左右。 Percona性能更差,就不考慮了。

最終選型Mariadb 10.1.18,並且在線上部署了一個業務,透過這個業務慢慢試用以後,逐步推廣開來。

使用Mariadb踩到的一些坑

在使用Mariadb的過程中,碰到了不少問題,這裡主要提一下我碰到的兩個較大的問題,供大家參考:

1、同步效能問題:

我們上的這個業務高峰期達到了9000多寫作業/秒,首先面臨的第一個問題就是同步效能跟不上,slave同步線程數加到了16個線程,勉強能追上,但是一旦資料庫從庫停一會,就有可能面臨永遠最不上的可能。當快絕望的時候,看了一下mariadb的官方文章(https://mariadb.com/kb/en/mariadb/parallel-replication/),Mariadb的並行複製支援好幾種模式,其中有in-order和out-of-order兩種,不過我們這個業務支援in-order,所以沒考慮out-of-order,在in-order模式下,又支援兩種:Conservative 和Optimistic,缺省情況下Conservative ,這種並行模式會嚴格保證事物的順序性,估計和5.7的group commit原理差不多;而Optimistic模式下,複製的時候會盡量啟動更多的會話,直到發現衝突時才會去處理衝突。果斷試了一下Optimistic,非常強勁,最高同步速度達到了14000次/秒。

2、"記憶體外洩"

系統部署結構為:兩個Mariadb做成主主複製,在前面部署了一個自己開發的分散式資料庫,業務方連接到分散式資料庫進程。系統上線了幾天,發現主庫會莫名其妙的掛掉,好在有分散式資料庫,並且會自動切換,Mariadb主庫掛了,會自動切到另外一個主庫上,業務方沒有感知。查看內核日誌,發現是OOM了,內核把MySQL殺掉了。

於是開始了各種嘗試,去掉Tokudb引擎配置,換Mariadb 10.1.19 ,都嘗試過,最後都會發生主函式庫掛掉的事情。一次偶然的機會,我把主庫上的slave停掉了,發現主庫的內存突然下降好多,並且內存不再增加了,但是一旦把主庫上的slave啟動就會發現,內存又逐漸身高。這個現像很像mysql線程內的記憶體分配機製造成的(基於mem_root的記憶體分配,線程停掉會全部釋放),所以初步懷疑是這個原因造成的。發現身為雙主中的另外一個Mariadb,就不會出現記憶體上升的問題。

發現上面的現像以後,就開始程式碼上的偵錯,用gdb啟動一個mariadb,另外一個用普通指令啟動,這兩個函式庫做成雙主:

第一種情況:測試作為從庫的時候,接收到的binlog事件情況

在普通命令啟動的mariadb上插入一行數據,gdb查看接收到的事件的順序如下:

### i ) Gtid_log_event
### ii) Table_map_log_event
### iii) Write_rows_log_event
### iv) Xid_log_event

第第二種情況:測試作為主庫的時候,接收到的binlog事件

在gdb启动的mariadb上插入一行记录,然后gdb观察接收到的事件为:

### 1)Rotate_log_event
### 2)Gtid_list_log_event
### 3)Rotate_log_event

Rotate_log_event事件是虚拟出来的,用于让主库跟上从库的同步位置,这基本上是一个空事件,没有做任何处理,所以初步怀疑是在处理Gtid_list_log_event事件的时候,出现了问题。

反复查看Gtid_list_log_event::do_appy_event函数中的调用情况,发现确实有些方法会调用thd->alloc来分配内存,但是没有回收,所以造成内存不断的增大,我考虑了一下,因为是主库对于同步性能要求也不高,所以在Gtid_list_log_event::do_apply_event函数的最后加了一行代码:free_root(thd->mem_root, MYF(MY_KEEP_PREALLOC));  重新编译后,跑了一天,内存终于稳定了。

由于目前发现只有主库有该事件,主库同步处理性能要求不高,所以暂时先这样用着了。不知道mariadb官方版本什么时候会优化一下。

总体来看,Mariadb还是比较适合我们公司的,它有最新的功能、特性能够给我们提供很多解决方案。Tokudb可以解决日志型存储的问题;连接池可以解决大量连接情况下性能地下的问题;审计插件提供安全方面的审核;slave并发模式能够提供高性能的复制能力。除了这些常见功能以外,Mariadb还提供了Cassandra插件、图数据库插件等等,这些都给我们给业务的服务增加了想象力。

【相关推荐】

1. 免费mysql在线视频教程

2. MySQL最新手册教程

3. 数据库设计那些事

以上是分享使用Mariadb時碰到的兩個問題的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
說明InnoDB重做日誌和撤消日誌的作用。說明InnoDB重做日誌和撤消日誌的作用。Apr 15, 2025 am 12:16 AM

InnoDB使用redologs和undologs確保數據一致性和可靠性。 1.redologs記錄數據頁修改,確保崩潰恢復和事務持久性。 2.undologs記錄數據原始值,支持事務回滾和MVCC。

在解釋輸出(類型,鍵,行,額外)中要查找的關鍵指標是什麼?在解釋輸出(類型,鍵,行,額外)中要查找的關鍵指標是什麼?Apr 15, 2025 am 12:15 AM

EXPLAIN命令的關鍵指標包括type、key、rows和Extra。 1)type反映查詢的訪問類型,值越高效率越高,如const優於ALL。 2)key顯示使用的索引,NULL表示無索引。 3)rows預估掃描行數,影響查詢性能。 4)Extra提供額外信息,如Usingfilesort提示需要優化。

在解釋中使用臨時狀態以及如何避免它是什麼?在解釋中使用臨時狀態以及如何避免它是什麼?Apr 15, 2025 am 12:14 AM

Usingtemporary在MySQL查詢中表示需要創建臨時表,常見於使用DISTINCT、GROUPBY或非索引列的ORDERBY。可以通過優化索引和重寫查詢避免其出現,提升查詢性能。具體來說,Usingtemporary出現在EXPLAIN輸出中時,意味著MySQL需要創建臨時表來處理查詢。這通常發生在以下情況:1)使用DISTINCT或GROUPBY時進行去重或分組;2)ORDERBY包含非索引列時進行排序;3)使用複雜的子查詢或聯接操作。優化方法包括:1)為ORDERBY和GROUPB

描述不同的SQL交易隔離級別(讀取未讀取,讀取,可重複的讀取,可序列化)及其在MySQL/InnoDB中的含義。描述不同的SQL交易隔離級別(讀取未讀取,讀取,可重複的讀取,可序列化)及其在MySQL/InnoDB中的含義。Apr 15, 2025 am 12:11 AM

MySQL/InnoDB支持四種事務隔離級別:ReadUncommitted、ReadCommitted、RepeatableRead和Serializable。 1.ReadUncommitted允許讀取未提交數據,可能導致臟讀。 2.ReadCommitted避免臟讀,但可能發生不可重複讀。 3.RepeatableRead是默認級別,避免臟讀和不可重複讀,但可能發生幻讀。 4.Serializable避免所有並發問題,但降低並發性。選擇合適的隔離級別需平衡數據一致性和性能需求。

MySQL與其他數據庫:比較選項MySQL與其他數據庫:比較選項Apr 15, 2025 am 12:08 AM

MySQL適合Web應用和內容管理系統,因其開源、高性能和易用性而受歡迎。 1)與PostgreSQL相比,MySQL在簡單查詢和高並發讀操作上表現更好。 2)相較Oracle,MySQL因開源和低成本更受中小企業青睞。 3)對比MicrosoftSQLServer,MySQL更適合跨平台應用。 4)與MongoDB不同,MySQL更適用於結構化數據和事務處理。

MySQL索引基數如何影響查詢性能?MySQL索引基數如何影響查詢性能?Apr 14, 2025 am 12:18 AM

MySQL索引基数对查询性能有显著影响:1.高基数索引能更有效地缩小数据范围,提高查询效率;2.低基数索引可能导致全表扫描,降低查询性能;3.在联合索引中,应将高基数列放在前面以优化查询。

MySQL:新用戶的資源和教程MySQL:新用戶的資源和教程Apr 14, 2025 am 12:16 AM

MySQL學習路徑包括基礎知識、核心概念、使用示例和優化技巧。 1)了解表、行、列、SQL查詢等基礎概念。 2)學習MySQL的定義、工作原理和優勢。 3)掌握基本CRUD操作和高級用法,如索引和存儲過程。 4)熟悉常見錯誤調試和性能優化建議,如合理使用索引和優化查詢。通過這些步驟,你將全面掌握MySQL的使用和優化。

現實世界Mysql:示例和用例現實世界Mysql:示例和用例Apr 14, 2025 am 12:15 AM

MySQL在現實世界的應用包括基礎數據庫設計和復雜查詢優化。 1)基本用法:用於存儲和管理用戶數據,如插入、查詢、更新和刪除用戶信息。 2)高級用法:處理複雜業務邏輯,如電子商務平台的訂單和庫存管理。 3)性能優化:通過合理使用索引、分區表和查詢緩存來提升性能。

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
4 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
4 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
4 週前By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解鎖Myrise中的所有內容
1 個月前By尊渡假赌尊渡假赌尊渡假赌

熱工具

SAP NetWeaver Server Adapter for Eclipse

SAP NetWeaver Server Adapter for Eclipse

將Eclipse與SAP NetWeaver應用伺服器整合。

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

Atom編輯器mac版下載

Atom編輯器mac版下載

最受歡迎的的開源編輯器

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

EditPlus 中文破解版

EditPlus 中文破解版

體積小,語法高亮,不支援程式碼提示功能