PHP结合MySQL实现千万级数据处理

mysql分表思路

PHP结合MySQL实现千万级数据处理
一张一亿的订单表,可以分成五张表,这样每张表就只有两千万数据,分担了原来一张表的压力,分表需要根据某个条件进行分,这里可以根据地区来分表,需要一个中间件来控制到底是去哪张表去找到自己想要的数据。
中间件:根据主表的自增id作为中间件(什么样的字段适合做中间件?要具备唯一性)
怎么分发?主表插入之后返回一个id,根据这个id和表的数量进行取模,余数是几就往哪张表中插入数据。
注意:子表中的id要与主表的id保持一致
以后只有插入操作会用到主表,修改,删除,读取,均不需要用到主表

PHP 结合 MySQL 千万级数据处理

redis消息队列

1,什么是消息队列?
消息传播过程中保存消息的容器
2,消息队列产生的历史原因

PHP 结合 MySQL 千万级数据处理

消息队列的特点:先进先出
把要执行的sql语句先保存在消息队列中,然后依次按照顺利异步插入的数据库中
应用:新浪,把瞬间的评论先放入消息队列,然后通过定时任务把消息队列里面的sql语句依次插入到数据库中

修改

操作子表进行修改

PHP 结合 MySQL 千万级数据处理

这样修改有一个问题,主表和子表的数据会出现不一致,如何让主表和字表数据一致?

redis队列保持主表子表数据一致

修改完成后将要修改主表的数据,存入redis队列中

PHP 结合 MySQL 千万级数据处理

然后linux定时任务(contble)循环执行redis队列中的sql语句,同步更新主表的内容

PHP 结合 MySQL 千万级数据处理

mysql分布式之分表(查,删)

查询只需要查询子表,不要查询总表

PHP 结合 MySQL 千万级数据处理

删除,先根据id找到要删除的子表,然后删除,然后往消息队列中压入一条删除总表数据的sql语句
然后执行定时任务删除总表数据

PHP 结合 MySQL 千万级数据处理

定时任务:

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库

分库思路

PHP 结合 MySQL 千万级数据处理

分库原理图:

PHP 结合 MySQL 千万级数据处理

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(增)

PHP 结合 MySQL 千万级数据处理
注意:操作完一个数据库一定要把数据库连接关闭,不然mysql会以为一直连接的同一个数据库

还是取模确定加载哪个配置文件连接哪个数据库

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(改)

原理同新增

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(查,删)

原理类似

PHP 结合 MySQL 千万级数据处理
删除

PHP 结合 MySQL 千万级数据处理
执行队列

mysql分布式之缓存(memcache)的应用

将数据放入缓存中,节省数据库开销,先去缓存中查,如果有直接取出,如果没有,去数据库查,然后存入缓存中

PHP 结合 MySQL 千万级数据处理

在编辑信息之后需要删除缓存,不然一直读取的是缓存的数据而不是修改过的数据

PHP 结合 MySQL 千万级数据处理

关于PHP结合MySQL实现千万级数据处理的文章就分享到这,如果对你有帮助欢迎继续关注我们哦

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/41819.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
php学习php学习订阅用户
上一篇 2022年6月23日 16:30
下一篇 2022年6月23日 16:31

相关推荐

  • 我来分享php 文本是怎么保存的。

    PHP文本的保存主要依赖于文件系统,在PHP中,可以使用内置的文件函数来创建、读取、写入和删除文件,这些函数允许我们与服务器上的文件进行交互,从而实现对文本的保存。 我们需要了解PHP中的文件函数,以下是一些…

    2024年6月30日
    04
  • 关于二进制的原码、补码、反码详解

    说明:在计算机中cpu操作的是补码,原因就是整数分负数和正数 二进制的最大位:0是正数,1是负数 正数的三码:都一样 负数的反码:按位取反,符号位不变。 负数的补码:在反码基础加1 $a & $b: $a | $b: ~ -$…

    2017年12月11日 PHP自学教程
    0295
  • PHP中的Symfony框架指南。

    PHP是一门广为使用的编程语言,它具有广泛的应用领域和强大的功能。而Symfony框架则是PHP中的一种流行的开源框架,可让开发者更轻松地构建Web应用程序。本篇文章将向您介绍Symfony框架的一些基本概念和技术,以帮助…

    2023年5月23日
    06
  • 关于PHP正则匹配中文

    PHP 正则匹配中文正则匹配字符集 [{4e00}-\\x{9fa5}]注意事项:正则表达式结尾要加上 u, 形如:/^...$/u一、匹配全是中文/^[{4e00}-\\x{9fa5}]+$/u二、匹配包含中文/[{4e00}-\\x{9fa5}]+/u三、匹配中英文(包含符号_…

    2022年6月20日
    0112
  • php使用ftp实现文件上传与下载功能(附代码)

    ftp文件上传 php自带有ftp操作的函数包,一个比较简单实现的ftp文件上传操作可以通过以下几个步骤来完成: 1、确认ftp server的ip地址与port端口信息(如果使用的是默认端口则可以不关心); 2、进行ftp_connect操…

    2018年3月22日
    0312
  • php跳出语句-continue

    说明:跳过某次循环 案例:输出1-50,然后在第25次时跳过。 //输出1-50,然后再第25次的时候跳过。 for($i=1;$i<=50;$i++){ if($i==25){ continue; } echo $i .' '; }

    2018年3月8日
    0290
  • 最简洁的PHP生成指定长度随机数的方法

    刚才在写短信验证码模块,需要用到指定位数的随机数,然后网上一找发现太可怕了这么简单的事情竟然用了好几十行多个循环嵌套……看来没有好脑仁儿真的不适合当程序员。自写了一行版本:function generate_code($lengt…

    2022年6月11日
    0202
  • PHP中的自动化部署工具。

    PHP作为一种广泛应用的编程语言,它的应用范围十分广泛。无论是个人网站还是大型企业应用,PHP都有着相应的应用场景。然而,在开发PHP应用过程中,如何进行自动化部署是十分重要的。因为自动化部署可以极大地减少人…

    2023年5月30日
    03

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息