
在需要支持移动/平板电脑应用及普通桌面浏览器访问的时代,网站的普及率和有效性很大程度上取决于其可用性和性能。一个访问缓慢的网站会使得访问者或潜在的客户流失,并导致商业的失败。一个访问速度相当快的网站将会决定访客是否会使用网站提供的产品或服务。
拥有大规模数据库的网站始终需要适当的关注、配置、优化、调整和维护,以确保网站的快速加载。这篇文章将讨论如何优化有海量数据的 MySQL 数据库。
选择 InnoDB 作为存储引擎
大型产品的数据库对于可靠性和并发性的要求较高,InnoDB 作为默认的 MySQL 存储引擎,相对于 MyISAM 来说是个更佳的选择。
优化数据库结构
组织数据库的 schema、表和字段以降低 I/O 的开销,将相关项保存在一起,并提前规划,以便随着数据量的增长,性能可以保持较高的水平。
设计数据表应尽量使其占用的空间最小化,表的主键应尽可能短。
对于 InnoDB 表,主键所在的列在每个辅助索引条目中都是可复制的,因此如果有很多辅助索引,那么一个短的主键可以节省大量空间。
仅创建你需要改进查询性能的索引。索引有助于检索,但是会增加插入和更新操作的执行时间。
InnoDB 的 Change Buffering 特性
InnoDB 提供了 change buffering 的配置,可减少维护辅助索引所需的磁盘 I/O。大规模的数据库可能会遇到大量的表操作和大量的 I/O,以保证辅助索引保持。当相关页面不在缓冲池里面时,InnoDB 的 change buffer 将会更改缓存到辅助索引条目,从而避免因不能立即从磁盘读取页面而导致耗时的 I/O 操作。当页面被加载到缓冲池时,缓冲的更改将被合并,更新的页面之后会刷新到磁盘。这样做可提高性能,适用于 MySQL 5.5 及更高版本。
InnoDB 页面压缩
InnoDB 支持对表进行页面级的压缩。当写入数据页的时候,会有特定的压缩算法对其进行压缩。压缩后的数据会写入磁盘,其打孔机制会释放页面末尾的空块。如果压缩失败,数据会按原样写入。表和索引都会被压缩,因为索引通常是数据库总大小中占比很大的一部分,压缩可以显著节约内存,I/O 或处理时间,这样就达到了提高性能和伸缩性的目的。它还可以减少内存和磁盘之间传输的数据量。MySQL 5.1 及更高版本支持该功能。
注意,页面压缩并不能支持共享表空间中的表。共享表空间包括系统表空间、临时表空间和常规表空间。
使用批量数据导入
在主键上使用已排序的数据源进行批量数据的导入可加快数据插入的过程。否则,可能需要在其他行之间插入行以维护排序,这会导致磁盘 I/O 变高,进而影响性能,增加页的拆分。关闭自动提交的模式也是有好处的,因为它会为每个插入执行日志刷新到磁盘。在批量插入期间临时转移键和外键检查也可显著降低磁盘 I/O。对于新建的表,较好的做法是在批量导入后创建外键/键约束。
SQL 语句优化
为了提升查询的速度,可以为 WHERE 字句中使用的列添加索引。此外,不要将主键索引用于太多或太长的列,因为这些列值在辅助索引进行复制的时候会增加读取所需要的 I/O 资源并占用缓存。
如果索引包含了不必要的数据,通过 I/O 读取这些数据并进行缓存就会减弱服务器的性能和伸缩性。也不要为不必要的列使用键索引,因为它会禁用 change buffering。应该使用常规索引代替。
减少和隔离需要耗费大量时间的函数调用。
尽可能的减少查询中的全表扫描次数。
调整缓存区域的大小和属性,比如 InnoDB 缓冲池,MySQL 查询缓存等,这样会通过从内存而非从硬盘获取数据而让重复的查询变得更快。
优化存储结构
对于大型的表,或者包含大量重复文本或数值数据的表,应该考虑使用 COMPRESSED(压缩的) 行格式。这样只需要较少的 I/O 就可以把数据取到缓冲池,或执行全表扫描。
一旦你的数据达到稳定的大小,或者增长的表增加了几十或几百兆字节,就应该考虑使用 OPTIMIZE TABLE 语句重新组织表并压缩浪费的空间。对重新组织后的表进行全表扫描所需要的 I/O 会更少。
优化 InnoDB 磁盘 I/O
增加 InnoDB 缓冲池大小可以让查询从缓冲池访问而不是通过磁盘 I/O 访问。通过调整系统变量 innodb_flush_method 来调整清除缓冲的指标使其达到较佳水平。
使用其它存储设备配置 RAID。
MySQL 的内存分配
在为 MySQL 分配足够的内存之前,请考虑不同领域对 MySQL 的内存需求。
要考虑的关键领域是:并发连接 —— 对于大量并发连接,排序和临时表将需要大量内存。在撰写本文时,对于处理 3000+ 并发连接的数据库,16GB 到 32GB的 RAM 是足够的。
内存碎片可以消耗大约 10% 或更多的内存。像 innodb_buffer_pool_size、key_buffer_size、query_cache_size 等缓存和缓冲区要消耗大约 80% 的已分配内存。
日常维护
定期检查慢的查询日志并优化查询机制以有效使用缓存来减少磁盘 I/O。优化它们,以扫描最少的行数,而不是进行全表扫描。
其他可以帮助 DBA 检查和分析性能的日志包括:错误日志、常规查询日志、二进制日志、DDL日志(元数据日志)。
定期刷新缓存和缓冲区以降低碎片化。使用 OPTIMIZE TABLE 语句重新组织表并压缩任何可能被浪费的空间。
扫描二维码与小二CMS创始人沟通:
小二CMS专注于高端网站定制、系统开发、商城开发、外贸网站建设、公众号开发、小程序开发、网站优化推广、安全运维等技术领域。是高端定制网站领域著名服务商!
上一篇: 从零到爆款:小二CMS助力打造高效互动社区论坛网站的全方位指南
下一篇: 索引的处理过程是怎么样的呢
本文提供打造高效互动社区论坛网站的全方位指南与实用技巧,涵盖定位规划、功能设计、用户运营、内容管理与技术优化,并结合小二CMS的强大功能,帮助团队快速构建高粘性、高活跃的论坛平台。
本文系统讲解医院网站优化排名的具体流程,涵盖关键词研究、站内优化、内容建设、技术SEO及数据监测,并结合小二CMS的强大功能,助力医疗机构提升搜索引擎可见度与患者访问转化率。
本文深入解析模板网站建设与定制网站设计的核心区别,结合小二CMS的功能优势,帮助企业明确建站需求与投入方向,找到兼顾效率、成本与个性化的最佳方案,提升品牌竞争力。
本文聚焦合肥企业在数字时代的建站需求,解析如何借助小二CMS快速打造高性能官网,融合本地化营销与SEO策略,提升品牌形象与商业转化,开启全新增长篇章。
本文详解网页设计中的字体规范指南,结合“小二CMS”实践案例,解析如何通过科学排版、合理字阶与色彩搭配提升可读性与视觉美感,助力打造卓越用户体验。
针对物流与快递行业对高效获客、透明服务及数字化管理的需求,本文提出基于小二CMS的专业网站建设解决方案。通过在线下单、实时运单跟踪、智能客服等核心功能模块,结合小二CMS的可视化内容管理、多端适配与数据整合能力,助力物流快递企业构建集品牌展示、业务办理与客户运营于一体的数字化门户,实现服务效率提升与客户体验优化。
集团企业门户网站是展示企业综合实力、实现多层级协同与品牌统一的核心数字阵地。本文针对集团企业跨地域、多业务线、多层级的管理特点,提出基于小二CMS的定制化解决方案。通过多站点统一管理、分级权限管控、品牌内容聚合分发等核心能力,小二CMS助力集团企业构建“总部中枢+分支协同”的数字化门户体系,实现品牌形象一致、信息高效流转与内外资源整合,为集团战略落地与业务增长提供强力支撑。
针对初创型中小企业资源有限、数字化能力薄弱等痛点,本文提出基于小二CMS的一站式解决方案。从低成本内容管理到精准营销获客,从私域流量沉淀到高效运营协作,小二CMS凭借可视化操作、智能工具集成与灵活部署能力,助力初创企业以最小成本构建数字化竞争力,实现“从0到1”的快速成长。