帝国论坛帝国网站管理系统交流区帝国CMS使用交流2千万数据、17.3GB数据库下帝国CMS超强生成速度 【本版专题贴子】  
 1/111     1 2 3 4 5 6 7 8 9 10 ›› ›|
主题:2千万数据、17.3GB数据库下帝国CMS超强生成速度 [加入收藏夹]   

wm_chief
用户头衔:管理员

精华贴   :21
发贴数   :48939
经验值   :114095
注册时间:2002-10-30
信息 搜索 好友 发送悄悄话 变形金刚-帝国网站管理系统7.2正式版开源发布】   [第 1 楼]
2千万数据、17.3GB数据库下帝国CMS超强生成速度
数据库总大小:17.3GB、总记录数:4千万零450条、信息数量:2千万条、单表最大信息数:400万条


一、前言:
帝国CMS 6.0版本最重要的升级功能是对系统构架进行升级,构架更加完美、负载容量更大。然而很多人就问,这个全新的构架有多大的魅力、容量是多少?其实我也不能准确的告诉你,因为6.0刚发布不久并且没有空闲时间测试,那时我只能告诉你“总体容量可无限放大,单表存放容量是原来的几十倍、甚至更多,副表数据量达到一定大小后可设置分表,副表支持无限分表,因而副表容量是无限的”。然而理论是需要实践去验证的,所以趁着这两天比较空闲试着测试,并且测试结果令我非常吃惊,
在2000万数据中最大的news单表中从50万导到400万数据无论从生成内容页效率还受理信息列表竟然没有多大差别:
单表无论是50万还是400万生成5000个内容页速度为:19秒
单表无论是50万还是400万后台管理信息列表速度为:0.009秒

二、测试环境
1、硬件配置:使用本人工作使用的机器测试,普通的配置

CPU:2.0 GHz
内存:1GB


2、软件环境:使用无任何优化的帝国CMS6.0一键安装包
WINDOWS 2003
APACHE 2.2.4
PHP 5.2.0
MYSQL 5.0.27
ZEND Optimizer 3.2.6
帝国CMS6.0开源版(GBK)
(注:因为只是测试所以采用效率比较一般的WINDOWS平台,最好的PHP+MYSQL运行环境建议采用LINUX或UNIX平台。)


三、以2000万数据中最大的news表数据量为400万、数据表大小为3.4GB为例:
400万单表情况下生成5000条数据:19秒
1、后台点管理信息列表速度:0.008秒


2、修改信息页读取数据:0.005秒


3、400万单表情况下生成5000条数据:19秒
开始生成:


生成过程截图:


5000条生成时间:19秒


查看成后的栏目目录HTML:


4、测试在使用内容动态页的数据读取速度:0.0025秒


四、由于章节比较多,所以不能在贴子中说明,点击下面链接查看完整的测试过程
《2千万数据、17.3GB数据库用帝国CMS6.0分表合理存放》分成数个篇章对帝国CMS大数据量如何合理存放的进行介绍,整个测试过程都是边运行边截图,采用透明、公开的方式供大家监督!如果有谁对测评过程和测评结果有疑问,可以自行参照我们的测试过程搭建类似的测试环境自己测试和对比测试结果。
点击这里查看完整的测试过程:http://www.phome.net/ecms6/jm/20000000/20000000.html

五、本次2000万数据最终测试数据统计:


本次测试经验总结:
优点:6.0在大数据下的优势非常明显,生成内容页、动态内容页效率非常之快且不受数据量影响,解决了CMS负载最大的问题,并且使用按表管理信息列表速度很快,单表几十万和几百万数据没有明显区别。
不足之处:在于单栏目数据量大于200万时标签调用、栏目列表速度有所下降(指的是增加检索条件的情况),主要由于最耗资源的置顶排序与多重排序,下版会考虑删除置顶功能与优化列表,并且会增加大数据量标签调用优化处理功能,以达到所有页面速度在大数据量都很优秀,不仅是内容页效率优秀。

本次测试2000万只是本人空闲时搞的小测试,主要让大家知道帝国分表如何处理更好,只要分表均匀可以将一个很大的数据分解成无数个相同效率的表,单表无论是50万、400万甚至1000万数据在管理信息列表与生成页面效率基本是相同的,例如:5000万数据中12个栏目可以分成每表存放450万,每个450万数据表效率都是一样的。未来版本帝国将会推出更完美的构架,主表可以像副表一样无限分表,让系统性能再度翻倍提升。做一个完美的安全、稳定高效、强大、灵活的CMS是我们的终极目标,多年来我们一直朝这个方向迈进,不断创新不断完善。帝国软件以为中国网站提供最完善的建站解决方案为已任,打造国内最好的CMS程序。


帝国CMS对大数据情况建议:
数据表结构最好的优化是将所有的自定义字段都存放到副表;主表只存放标题字段;
总体的数据表数据分配均匀,主表下的每个副表存放建议100万数据以内;
内容页减少标签调用或采用JS调用或者采用.shtml包含最新内容页面的方式;
栏目列表设置最大显示数量;
过期信息或不再调用的信息进行归档;
减少使用搜索,搜索是最耗资源的功能;
自行修改文件去除标签和列表的置顶排序(置顶功能下版会默认删除),对性能更高要求的可只采用id排序;
优化运行环境,特别是MYSQL数据库优化;
服务器配置最好2GB以上内存、采用更快的CPU以及硬盘转速缓存更高IO更快。

  
未来帝国CMS版本对大数据方面功能展望:
标签调用与列表性能优化,删除置顶功能并且对标签调用优化处理;主表结构更加优化。
推出更完美的构架,主表可以像副表一样无限分表,让系统无论从维护数据还是生成页面性能将再度翻倍提升。
多服务器结构支持,实现负载均衡。
增加Oracle、postgresql、Mssql等多种数据库支持。
......更多功能我们正在不断的探索与创新,相信会给大家更多的惊喜。


附:帝国CMS6.0系统数据构架图


[该贴被修改 1 次,最后修改时间 2010-06-29 15:20:11 ]


[零基础入门教程] [模板制作教程] [采集使用教程]
2009-12-16 11:06:08 已设置保密 顶部 回复 引用 报告 编辑 删除

mini
用户头衔:进士

精华贴   :0
发贴数   :1069
经验值   :3051
注册时间:2009-07-31
信息 搜索 好友 发送悄悄话 免费开源-EBMA系统:更安全的MYSQL管理和备份系统】   [第 2 楼]

好,沙发




2009-12-16 11:06:35 已设置保密 顶部 回复 引用 报告 编辑 删除

500919
用户头衔:探花

精华贴   :0
发贴数   :9938
经验值   :26916
注册时间:2009-03-02
信息 搜索 好友 发送悄悄话 变形金刚-帝国网站管理系统7.2正式版开源发布】   [第 3 楼]

先占位后看




2009-12-16 11:07:26 已设置保密 顶部 回复 引用 报告 编辑 删除

500919
用户头衔:探花

精华贴   :0
发贴数   :9938
经验值   :26916
注册时间:2009-03-02
信息 搜索 好友 发送悄悄话 免费开源-EBMA系统:更安全的MYSQL管理和备份系统】   [第 4 楼]


这么强大




2009-12-16 11:08:20 已设置保密 顶部 回复 引用 报告 编辑 删除

flashjohn
用户头衔:探花

精华贴   :0
发贴数   :5519
经验值   :14211
注册时间:2007-11-27
信息 搜索 好友 发送悄悄话 变形金刚-帝国网站管理系统7.2正式版开源发布】   [第 5 楼]

牛人!支持一下!




2009-12-16 11:10:16 已设置保密 顶部 回复 引用 报告 编辑 删除

hicode
用户头衔:版主

精华贴   :1
发贴数   :21637
经验值   :47894
注册时间:2007-07-20
信息 搜索 好友 发送悄悄话 免费开源-EBMA系统:更安全的MYSQL管理和备份系统】   [第 6 楼]





2009-12-16 11:11:39 已设置保密 顶部 回复 引用 报告 编辑 删除

ghostfire
用户头衔:秀才

精华贴   :0
发贴数   :195
经验值   :596
注册时间:2008-01-09
信息 搜索 好友 发送悄悄话 变形金刚-帝国网站管理系统7.2正式版开源发布】   [第 7 楼]

很强大的。哈哈。



http://www.dxsol.com
http://www.bitqiche.com
http://www.sxdnw.cn

2009-12-16 11:13:00 已设置保密 顶部 回复 引用 报告 编辑 删除

hlp
用户头衔:探花 *

精华贴   :0
发贴数   :2031
经验值   :6151
注册时间:2008-03-17
信息 搜索 好友 发送悄悄话 免费开源-EBMA系统:更安全的MYSQL管理和备份系统】   [第 8 楼]

不错,新版后台速度确实很快




2009-12-16 11:13:10 已设置保密 顶部 回复 引用 报告 编辑 删除

sxzzz
用户头衔:举人

精华贴   :0
发贴数   :484
经验值   :1767
注册时间:2008-01-19
信息 搜索 好友 发送悄悄话 变形金刚-帝国网站管理系统7.2正式版开源发布】   [第 9 楼]

支持老大。。http://www.tudouclub.com

[该贴被修改 1 次,最后修改时间 2010-02-28 12:31:57 ]


山西站长
山西房地产
山西大学
2009-12-16 11:13:45 已设置保密 顶部 回复 引用 报告 编辑 删除

dxzzx
用户头衔:进士

精华贴   :0
发贴数   :1443
经验值   :3879
注册时间:2007-05-30
信息 搜索 好友 发送悄悄话 免费开源-EBMA系统:更安全的MYSQL管理和备份系统】   [第 10 楼]

用数据说话!




2009-12-16 11:14:32 已设置保密 顶部 回复 引用 报告 编辑 删除
 1/111     1 2 3 4 5 6 7 8 9 10 ›› ›|

快速回复
内容

表情
使用EBB代码 使用smile代码 显示签名 自动分析url 自动分析img
     【进入高级模式】   (按 Ctrl+Enter 直接提交)
    顶部  加入收藏夹
关于帝国 | 广告服务 | 联系我们 | 法律声明 | 隐私条款 | 许可协议
Powered by: EBB Version 2.2.1