HiBoy23
V2EX  ›  数据库

大数据量下多线程并发写入 MariaDB 问题

  •  
  •   HiBoy23 · Jul 12, 2018 · 1925 views
    This topic created in 2916 days ago, the information mentioned may be changed or developed.

    在使用 kafka-storm-MariaDB 流程中,storm 计算后的数据量很大,最后需要入库到 MariaDB,有没有大神有什么好的方法可以减轻数据库压力,定时器五分钟执行一次,数据量大概五分钟有三千万左右,目前逻辑是正常 insert into 语句,Batch 数量为十万条 commit 一次。

    2 replies    2019-01-03 14:07:51 +08:00
    abcbuzhiming
        1
    abcbuzhiming  
       Oct 15, 2018
    你这个数据量,1 小时就有 3 6000 0000 条数据,1 小时就 3 亿条了,兄弟别折腾 SQL 了,要么文档存储,要么大数据。这个量级折腾 sql 是不明智的
    dezhou9
        2
    dezhou9  
       Jan 3, 2019 via Android
    考虑一下自己实现 MySQL 引擎
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   958 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 19:45 · PVG 03:45 · LAX 12:45 · JFK 15:45
    ♥ Do have faith in what you're doing.