SQL Server数据库对上亿表的操作

时间:2008-11-16 18:13:00 

SQL Server对上亿的表进行排序或者上亿的表之间进行join,会导致系统失去响应。

◆1.我确实做了一个很大的查询,涉及的数据表有两亿条记录,而且有一个group by操作,造成CPU、内存和磁盘开销均很大。后来和微软的人重新实验了一下,我的查询确实会造成系统反应变慢。后来我们也实验了一下,在这个2亿的表上统计一下行数,即select count(*) from table1,用了1分钟,内存涨了5G左右,磁盘子系统负荷很大,CPU也突然提高。这说明这种上亿的表的操作会非常严重的降低效率。

◆2.整个服务器的磁盘分配是这样的,网站访问的数据库库位于磁盘阵列中,而我们的统计临时库位于D盘中,C和D好像是一个磁盘组,也就相当于是在C盘。我们的数据库的大量磁盘I/O会导致系统的反应变慢。因此当我的查询很大的时候,就会使服务器整个系统变慢。

◆3.数据库的数据文件的自增长方式为每次1024k,数据文件的空间已经接近用光,而要发生增长,而增长空间要求应该比较大,所以就会不停的申请增长,造成磁盘开销较大。

◆4.操作中涉及到delete操作,会形成大量的日志,而上周扩容后,发现日志文件比以前缩小了,估计是重建了,昨天的操作会导致日志文件也要不断增长,也会造成磁盘的负荷加大。

解决办法:

针对一:

避免大表操作,所有的操作均可以按省或者时间分开,这样无论从时间或者地域维度,基本上可以将大表拆成30张以上的小表操作,甚至更多。然后再对结果进行合并,应该可以避免上述问题。

针对二:

无解决方案,只是建议将我们的数据库也单独分到一组磁盘上去,不要跟系统竞争。

针对三:

及时删除无用的临时数据,保障数据库空间,同时也可以做上空间监控,一旦数据文件空间发生增长时,给DBA一个预警邮件,我们收到邮件后可以立即做相应处理。

针对四:

日志文件目前已经涨得较大,我们执行一下截断日志的动作,将日志文件的空间使用保持在一个较低水平.

标签:表,数据,SQL,Server
0
投稿

猜你喜欢

  • 10个提高网站可用性的实用技巧[译]

    2009-06-12 12:37:00
  • MySQL旧版本升级为新版本

    2009-02-26 15:44:00
  • jQuery实现同一点击,两个不同链接,指向两个不同的iframe

    2010-06-21 10:52:00
  • position两三事

    2009-02-16 15:23:00
  • IE6 iframe 横向滚动条问题

    2009-01-18 13:31:00
  • http状态码一览表以及HTTP响应的返回头信息

    2010-03-31 14:45:00
  • oracle初始化参数设置

    2010-07-31 12:47:00
  • 一些文档中没有介绍的SQL Server DBCC命令

    2008-12-09 14:24:00
  • 恢复master..xp_logattach(log explorer)

    2010-07-01 19:19:00
  • 动态载入树 (ASP+数据库)

    2010-05-27 12:20:00
  • 菜鸟课堂:MySQL权限的详细解答

    2009-09-03 11:43:00
  • MySQL实现SQL Server的sp_executesql

    2008-11-20 15:01:00
  • CSS清除浮动常用方法小结

    2009-07-07 11:59:00
  • CSS Shadow Practice

    2009-04-01 18:37:00
  • 如何正确的解决 MySQL中忽略用户的现象

    2008-11-27 16:00:00
  • 设计表单的标签和输入区

    2009-04-27 16:16:00
  • ASP新闻分页,将一篇过长的文章分页,生成静态页面

    2011-04-10 11:14:00
  • asp 各种进制转换函数

    2008-06-24 12:35:00
  • 编程活动中几个不良现象

    2008-09-01 12:23:00
  • em和strong的区别

    2008-12-23 12:08:00
  • asp之家 网络编程 m.aspxhome.com