PHP结合MySQL实现千万级数据处理

mysql分表思路

PHP结合MySQL实现千万级数据处理
一张一亿的订单表,可以分成五张表,这样每张表就只有两千万数据,分担了原来一张表的压力,分表需要根据某个条件进行分,这里可以根据地区来分表,需要一个中间件来控制到底是去哪张表去找到自己想要的数据。
中间件:根据主表的自增id作为中间件(什么样的字段适合做中间件?要具备唯一性)
怎么分发?主表插入之后返回一个id,根据这个id和表的数量进行取模,余数是几就往哪张表中插入数据。
注意:子表中的id要与主表的id保持一致
以后只有插入操作会用到主表,修改,删除,读取,均不需要用到主表

PHP 结合 MySQL 千万级数据处理

redis消息队列

1,什么是消息队列?
消息传播过程中保存消息的容器
2,消息队列产生的历史原因

PHP 结合 MySQL 千万级数据处理

消息队列的特点:先进先出
把要执行的sql语句先保存在消息队列中,然后依次按照顺利异步插入的数据库中
应用:新浪,把瞬间的评论先放入消息队列,然后通过定时任务把消息队列里面的sql语句依次插入到数据库中

修改

操作子表进行修改

PHP 结合 MySQL 千万级数据处理

这样修改有一个问题,主表和子表的数据会出现不一致,如何让主表和字表数据一致?

redis队列保持主表子表数据一致

修改完成后将要修改主表的数据,存入redis队列中

PHP 结合 MySQL 千万级数据处理

然后linux定时任务(contble)循环执行redis队列中的sql语句,同步更新主表的内容

PHP 结合 MySQL 千万级数据处理

mysql分布式之分表(查,删)

查询只需要查询子表,不要查询总表

PHP 结合 MySQL 千万级数据处理

删除,先根据id找到要删除的子表,然后删除,然后往消息队列中压入一条删除总表数据的sql语句
然后执行定时任务删除总表数据

PHP 结合 MySQL 千万级数据处理

定时任务:

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库

分库思路

PHP 结合 MySQL 千万级数据处理

分库原理图:

PHP 结合 MySQL 千万级数据处理

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(增)

PHP 结合 MySQL 千万级数据处理
注意:操作完一个数据库一定要把数据库连接关闭,不然mysql会以为一直连接的同一个数据库

还是取模确定加载哪个配置文件连接哪个数据库

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(改)

原理同新增

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(查,删)

原理类似

PHP 结合 MySQL 千万级数据处理
删除

PHP 结合 MySQL 千万级数据处理
执行队列

mysql分布式之缓存(memcache)的应用

将数据放入缓存中,节省数据库开销,先去缓存中查,如果有直接取出,如果没有,去数据库查,然后存入缓存中

PHP 结合 MySQL 千万级数据处理

在编辑信息之后需要删除缓存,不然一直读取的是缓存的数据而不是修改过的数据

PHP 结合 MySQL 千万级数据处理

关于PHP结合MySQL实现千万级数据处理的文章就分享到这,如果对你有帮助欢迎继续关注我们哦

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/41819.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
php学习php学习订阅用户
上一篇 2022年6月23日 16:30
下一篇 2022年6月23日 16:31

相关推荐

  • PHP与数据库诊断的集成。

    最近几年来,随着数据库使用量的激增,PHP和数据库的配合已成为Web开发中非常重要的一环。PHP是一种开源的编程语言,可以轻松地在任何Web服务器上运行,而数据库则是数据管理系统的核心。但是,数据库在使用过程中…

    2023年5月21日
    02
  • 聊聊PHP中的单例模式与静态变量

    在PHP中,没有普遍意义上的静态变量。与Java、C++不同,PHP中的静态变量的存活周期仅仅是每次PHP的会话周期,所以注定了不会有Java或者C++那种静态变量。静态变量在PHP中在PHP中,静态变量的存在意义仅仅是在某个结…

    2022年6月11日
    0136
  • PHP直播功能开发的技术和工具简介。

    随着互联网和移动互联网的快速发展,直播这一应用越来越受到人们的关注和青睐。而在直播应用中,PHP是一种常用的编程语言,因此,PHP直播功能的开发技术和工具成为了开发者们探索的焦点。本文将介绍PHP直播功能开发…

    2023年5月23日
    09
  • PHP中的数据抓取和爬虫技术。

    随着移动互联网和Web2.0时代的发展,人们越来越需要获取和分析互联网上的数据。而在这个过程中,数据抓取和爬虫技术成为了必不可少的工具。在众多语言中,PHP作为一种脚本语言,也能够实现较为简单和高效的数据抓取…

    2023年5月28日
    06
  • PHP8中的函数:array_key_first()和array_key_last()的高效操作方法。

    随着时代的变迁,PHP也在不断演进和更新。最近发布的PHP8就带来了一些新的函数,其中两个很有意思:array_key_first()和array_key_last()。这两个函数分别用于返回数组的第一个键名和最后一个键名。在本文中,我们…

    2023年5月21日
    00
  • php基本语法形式及变量规则

    基本语法形式 区分大小写 主要是指变量名区分大小写 常量通常也区分,但常量也可以自己设定为不区分(不推荐) 但函数名不区分 而系统中使用的关键字也不区分大小写,比如if, else, for 语句结束符,用分号 一个p…

    2017年11月1日
    0197
  • 掌握php短信接口代码

    本文实例为大家分享了几个常用的php短信接口代码,供大家参考,具体内容如下1. 短信调用class <?php /** * User: Administrator * Date: 2016/5/8 0008 * Time: 下午 2:36 */ class Sms{ //Luosimao api key pri…

    2022年6月17日
    0138
  • PHP $_GET变量(数组)

    get这个词,常常出现在这里:<form  action=”abc.php”  method=”get” >.....</form> 这叫做“表单以get方式提交数据” 则$_GET这个预定义数组变量,就是指以这种方式提交的所有数据的集合(数组) 对应来…

    2017年11月8日
    0220

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息