PHP结合MySQL实现千万级数据处理

mysql分表思路

PHP结合MySQL实现千万级数据处理
一张一亿的订单表,可以分成五张表,这样每张表就只有两千万数据,分担了原来一张表的压力,分表需要根据某个条件进行分,这里可以根据地区来分表,需要一个中间件来控制到底是去哪张表去找到自己想要的数据。
中间件:根据主表的自增id作为中间件(什么样的字段适合做中间件?要具备唯一性)
怎么分发?主表插入之后返回一个id,根据这个id和表的数量进行取模,余数是几就往哪张表中插入数据。
注意:子表中的id要与主表的id保持一致
以后只有插入操作会用到主表,修改,删除,读取,均不需要用到主表

PHP 结合 MySQL 千万级数据处理

redis消息队列

1,什么是消息队列?
消息传播过程中保存消息的容器
2,消息队列产生的历史原因

PHP 结合 MySQL 千万级数据处理

消息队列的特点:先进先出
把要执行的sql语句先保存在消息队列中,然后依次按照顺利异步插入的数据库中
应用:新浪,把瞬间的评论先放入消息队列,然后通过定时任务把消息队列里面的sql语句依次插入到数据库中

修改

操作子表进行修改

PHP 结合 MySQL 千万级数据处理

这样修改有一个问题,主表和子表的数据会出现不一致,如何让主表和字表数据一致?

redis队列保持主表子表数据一致

修改完成后将要修改主表的数据,存入redis队列中

PHP 结合 MySQL 千万级数据处理

然后linux定时任务(contble)循环执行redis队列中的sql语句,同步更新主表的内容

PHP 结合 MySQL 千万级数据处理

mysql分布式之分表(查,删)

查询只需要查询子表,不要查询总表

PHP 结合 MySQL 千万级数据处理

删除,先根据id找到要删除的子表,然后删除,然后往消息队列中压入一条删除总表数据的sql语句
然后执行定时任务删除总表数据

PHP 结合 MySQL 千万级数据处理

定时任务:

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库

分库思路

PHP 结合 MySQL 千万级数据处理

分库原理图:

PHP 结合 MySQL 千万级数据处理

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(增)

PHP 结合 MySQL 千万级数据处理
注意:操作完一个数据库一定要把数据库连接关闭,不然mysql会以为一直连接的同一个数据库

还是取模确定加载哪个配置文件连接哪个数据库

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(改)

原理同新增

PHP 结合 MySQL 千万级数据处理

mysql分布式之分库(查,删)

原理类似

PHP 结合 MySQL 千万级数据处理
删除

PHP 结合 MySQL 千万级数据处理
执行队列

mysql分布式之缓存(memcache)的应用

将数据放入缓存中,节省数据库开销,先去缓存中查,如果有直接取出,如果没有,去数据库查,然后存入缓存中

PHP 结合 MySQL 千万级数据处理

在编辑信息之后需要删除缓存,不然一直读取的是缓存的数据而不是修改过的数据

PHP 结合 MySQL 千万级数据处理

关于PHP结合MySQL实现千万级数据处理的文章就分享到这,如果对你有帮助欢迎继续关注我们哦

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/41819.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
php学习php学习订阅用户
上一篇 2022年6月23日 16:30
下一篇 2022年6月23日 16:31

相关推荐

  • PHP中的编辑器和IDE。

    纵观现今互联网开发领域,PHP一度成为最受欢迎的的编程语言之一。许多公司和个人使用PHP开发网站、应用程序和电子商务解决方案。而在PHP开发中,选择一款优秀的编辑器和IDE是非常重要的,因为它们可以提高我们的编…

    2023年5月28日
    02
  • PHP8.0中新的构造函数语法:构造器属性推导

    随着互联网的快速发展,PHP语言也成为了最流行的编程语言之一。而PHP8.0版中提出了一种新的构造函数语法,即构造器属性推导。本文将介绍这种新的语法,以及其对开发者带来的优势和不便之处。什么是构造器属性推导?…

    2023年5月19日
    00
  • 如何在PHP中实现OCR识别功能。

    随着科技的不断发展,光学字符识别(OCR)技术已经成为人工智能领域中一个非常重要的方向。发布在1995年第一版PHP的语言,如今已成为web应用程序开发的重要利器之一。本文将介绍如何在PHP中实现OCR识别功能。一、OC…

    2023年5月23日
    025
  • 重蔚php学习第二十八天——引用文件(载入文件)

    相关函数 l  require()  :载入某个文件 l  include()  :载入某个文件 l  require_once() :载入某个文件,只载入一次 l  include_once() :载入某个文件,只载入一次 主要作用: 1)网站整体布局     (前台) 2…

    2017年10月4日 PHP自学教程
    0410
  • PHP网站布局的方式

    代码实现:准备模板 创建目录   创建配置文件 实现功能--封装函数

    2018年4月7日
    0208
  • 如何使用PHP中的Memcache缓存技术提高网站的大并发性能。

    随着互联网技术的不断发展,网站的用户访问量越来越大,带来的并发访问量也越来越高。为了应对这种高并发访问,常用的手段是使用缓存技术。而在PHP语言中,Memcache缓存技术是一种非常有效的解决方案。Memcache是一…

    2023年5月21日
    03
  • 如何利用PHP对商城平台实现全面的管理

    随着电子商务的迅猛发展,商城平台已成为一个不可或缺的电子商务平台之一。而对于商城平台的管理,不仅涵盖了产品的上架、订单的管理、库存的监控等众多方面,还要考虑到用户的购物体验、数据的统计分析、推广营销…

    2023年5月18日
    013
  • PHP入门指南:PHP和Haskell。

    PHP和Haskell是两种非常不同的编程语言,它们的设计思路和用途都不同。在本文中,我们将会介绍PHP和Haskell,以及它们各自的优缺点。同时,我们还将分别介绍如何入门这两种编程语言,并给出一些学习的建议。PHP是一…

    2023年5月22日
    03

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息