柳永法:vbs或asp采集文章时网页编码问题

作者:yongfa365 来源:yongfa365.com 时间:2009-02-04 10:50:00 

研究网页编码很长时间了,因为最近要设计一个友情链接检测的VBS脚本,而与你链接的人的页面很可能是各种编码,以前采取的方法是:如果用GB2312查不到再用UTF-8查,再找不到证明对方没有给你做链接虽然不是100%正确,但也差不多了,这两种编码用的人比较多,偶然间在收藏夹里的一个地址看到的一个思路,终于可以在采集文章时自动判断网页的编码了。因为研究过程中这个问题困扰很久,虽然现在觉得简单了,想必很多人还在找,所以把这三个函数贴出来。

'/*=========================================================================     
' * FileName    GetWebCodePage.vbs  
' * Author      yongfa365  
' * Version     v2.0  
' * WEB         http://www.yongfa365.com  
' * Email       yongfa365[at]qq.com  
' * FirstWrite  http://www.yongfa365.com/Item/GetWebCodePage.vbs.html  
' * MadeTime    2008-01-29 20:55:46  
' * LastModify  2008-01-30 20:55:46  
' *==========================================================================*/  
 
 
Call getHTTPPage("http://www.baidu.com/")  
Call getHTTPPage("https://www.aspxhome.com/")  
Call getHTTPPage("http://www.yongfa365.com/")  
Call getHTTPPage("http://www.cbdcn.com/")  
Call getHTTPPage("http://www.cidianwang.com/")   
  
 
'得到匹配的内容,返回数组  
'getContents(表达式,字符串,是否返回引用值)  
'msgbox getContents("a(.+?)b", "a23234b ab a67896896b sadfasdfb" ,True)(0)  
 
Function getContents(patrn, strng , yinyong)   
 
    On Error Resume Next 
    Set re = New RegExp 
    re.Pattern = patrn  
    re.IgnoreCase = True 
    re.Global = True 
    Set Matches = re.Execute(strng)  
    If yinyong Then 
        For i = 0 To Matches.Count -1  
            If Matches(i).Value<>"" Then RetStr = RetStr & Matches(i).SubMatches(0) & "柳永法" 
        Next 
    Else 
        For Each oMatch in Matches  
            If oMatch.Value<>"" Then RetStr = RetStr & oMatch.Value & "柳永法" 
        Next 
    End If 
    getContents = Split(RetStr, "柳永法")  
End Function 
 
Function getHTTPPage(url)  
    On Error Resume Next 
    Set xmlhttp = CreateObject("MSXML2.XMLHTTP")  
    xmlhttp.Open "Get", url, False 
    xmlhttp.Send  
    If xmlhttp.Status<>200 Then Exit Function 
    GetBody = xmlhttp.ResponseBody  
    '在此的思路是,先根据返回的字符串找,找文件头,如果还没有的话就用GB2312,一般都能直接匹配出编码。  
    '在返回的字符串里看,虽然中文是乱码,但不影响我们取其编码,  
    GetCodePage = getContents("charset=[""']*([^"",']+)", xmlhttp.ResponseText , True)(0)  
    '在头文件里看编码  
     If Len(GetCodePage)<3 Then GetCodePage = getContents("charset=[""']*([^"",']+)", xmlhttp.getResponseHeader("Content-Type") , True)(0)  
    If Len(GetCodePage)<3 Then GetCodePage = "gb2312" 
    Set xmlhttp = Nothing 
    '下边这句在正式使用时要屏蔽掉  
    WScript.Echo url & "-->" & GetCodePage  
    getHTTPPage = BytesToBstr(GetBody, GetCodePage)  
End Function 
 
 
Function BytesToBstr(Body, Cset)  
    On Error Resume Next 
    Dim objstream  
    Set objstream = CreateObject("adodb.stream")  
    objstream.Type = 1  
    objstream.Mode = 3  
    objstream.Open 
    objstream.Write Body  
    objstream.Position = 0  
    objstream.Type = 2  
    objstream.Charset = Cset  
    BytesToBstr = objstream.ReadText  
    objstream.Close 
    Set objstream = Nothing 
End Function 

 

标签:xmlhttp,采集,编码,问题,asp
0
投稿

猜你喜欢

  • 谈谈网页设计中的字体应用 (1) Font Set

    2009-11-24 12:55:00
  • js给静态网页代码加密方法

    2007-08-04 19:48:00
  • asp中格式化HTML函数代码 SDCMS加强版

    2011-02-20 11:18:00
  • 显示/隐藏引出的CSS Bug

    2010-10-20 20:13:00
  • 如何优化下面这段代码?

    2010-01-23 11:30:00
  • javascript彩虹圈效果

    2011-08-05 19:10:45
  • 几个常用的js小函数

    2007-09-19 12:59:00
  • ASP中使用Set ors=oConn.Execute()时获取记录数的方法

    2011-02-20 10:48:00
  • 用CSS实现柱状图(Bar Graph)的方法(三)——复杂柱状图的实现

    2008-05-26 13:36:00
  • html中的sub与sup标签

    2009-03-06 13:12:00
  • 简要介绍SQL Server 2008新的事件处理系统

    2009-12-22 08:15:00
  • 如何解决“cint和clng的溢出出错”问题?

    2009-12-03 20:21:00
  • asp如何做一个检索结果带链接的检索?

    2010-07-11 21:15:00
  • 用asp判断某IP是否属于某网段的另类算法

    2007-09-28 12:33:00
  • 如何对MySQL数据库表进行锁定

    2009-02-10 10:39:00
  • JavaScript学习心得之如何走出初学困境

    2008-12-24 13:30:00
  • 如何恢复/修复SQL Server的MDF文件

    2008-11-24 15:30:00
  • 如何使用FSO搜索硬盘文件

    2007-09-27 12:59:00
  • form的submit方法和submit事件(onsubmit)

    2008-09-28 13:29:00
  • MySQL错误中文参照列表

    2010-09-30 14:41:00
  • asp之家 网络编程 m.aspxhome.com