小偷程序大揭秘

关注

原创最新推荐文章于 2024-06-02 17:07:21 发布 1.1k 阅读 AI 写同款· GEO 优化 ›

vivi万能小偷程序 v6.1：自动化网站内容采集解决方案在数字化时代，网站内容采集系统已经成为一种日益重要的网络技术应用。本章旨在为读者提供一个对这类系统的全面概览。网站内容采集系统通常是指利用特定的软件工具，自动化地从互联网上搜集信息并进行结构化处理的系统。它能够快速有效地采集各类数据，包括文本、图片、视频等，并将这些信息整理后存储于数据库，以便于进一步的分析和利用。在实际操作中，需要针对不同的网站特性制定相应的抓取策略。例如，对于动态内容网站，可能需要使用Selenium等工具模拟浏览器操作。针对大量数据的抓取，通常需要设计分布式爬虫系统。阅读详情

前言：小偷程序其实是懒人的妙法。它可以偷文章，实时新闻资讯，歌曲，甚至歌曲数据的职能寻找和入库等！功能可谓强大，但是还有好多朋友到处求小偷程序，问什么？因为网上没有几篇详细介绍小偷程序的文章供大家参考。其实做小偷程序并不难，我在这儿把我作小偷程序的经验贴出来大家看看，可能也有不对的地方，请大家多多指出来。
一、基本原理及简单实例
原理部分网上太多了，blue1000也没有必要在这里罗嗦了,这里引用一下，嘿嘿
注：此下内容为引用(有部分修改)：原作者：572019 引用自：动易网络

（一）原理
小偷程序实际上是通过了XML中的XMLHTTP组件调用其它网站上的网页。比如新闻小偷程序，很多都是调用了sina的新闻网页，并且对其中的html进行了一些替换，同时对广告也进行了过滤。用小偷程序的优点有：无须维护网站，因为小偷程序中的数据来自其他网站，它将随着该网站的更新而更新；可以节省服务器资源，一般小偷程序就几个文件，所有网页内容都是来自其他网站。缺点有：不稳定，如果目标网站出错，程序也会出错，而且，如果目标网站进行升级维护，那么小偷程序也要进行相应修改；速度，因为是远程调用，速度和在本地服务器上读取数据比起来，肯定要慢一些。
（二）事例
下面就XMLHTTP在ASP中的应用做个简单说明
<%
’常用函数
’1、输入url目标网页地址，返回值getHTTPPage是目标网页的html代码
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate<>4 then
exit function
end if
getHTTPPage=bytesToBstr(Http.responseBody,"GB2312")
set http=nothing
if err.number<>0 then err.Clear
end function
'2、转换乱玛，直接用xmlhttp调用有中文字符的网页得到的将是乱玛，可以通过adodb.stream组件进行转换
Function BytesToBstr(body)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = "GB2312" ’转换原来默认的UTF-8编码转换成GB2312编码，否则直接用XMLHTTP组件调用有中文字符的网页得到的将是乱码
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
’下面试着调用http://www.3doing.com/earticle/的html内容
Dim Url,Html
Url="http://www.3doing.com/earticle/";
Html = getHTTPPage(Url)
Response.write Html
%>

注：此上内容为引用(有部分修改)：原作者：572019 引用自：动易网络

二、几个常用的函数
（一）InStr 函数
描述
返回某字符（string2）串在另一字符串（string1）中第一次出现的位置。
语法
InStr(string1, string2)
例如：
Dim SearchString, SearchChar
SearchString ="http://blue1000.com" ' 要在其中搜索的字符串。
SearchChar = "blue1000" ' 搜索 "blue1000"。
MyBK = Instr(SearchString, SearchChar) ' 返回 8
'如果找不到则返回“0”，例如：
SearchChar = "BK"
MyBK = Instr(SearchString, SearchChar) ' 返回 0
（二）Mid 函数
描述
从字符串中返回指定数目的字符。
语法
Mid(string, start, over)
例如：
Dim MyBK
MyBK = Mid("我们的BK(blue1000.com)设计", 7, 12) '截取字符串"我们的BK(blue1000.com)设计"第7个字符以后的12个字符
'此时MyBK的值就变成了"blue1000.com"
（三）Replace 函数（这个我就不细说了，只举个例子）
Dim SearchString, SearchChar
SearchString ="我们的BK设计是一个网站建设资源网站" ' 要在其中搜索的字符串。
SearchString =Replace(SearchString,"BK设计","Blue1000.Com")
'此时SearchString的值就变成了"我们的Blue1000.Com是一个网站建设资源网站"
上面的内容只说了如何获取整个页面的html的代码和几个常用的函数，那么如何获取指定部分的代码呢？如何删除我不需要的内容呢？如何才能将外站的链接改成我的呢？又如何实现把原来的翻页做成我的呢？

上一篇blue1000给大家讲了些原理和几个常用的函数，这一节说一些技巧类的东西~（对高手来说，这是废话，所以高手可以不看，但也不要骂我哦）
（一）如何截取指定区域的HTML代码?
(对方网站的HTML代码在哪儿看？晕：IE浏览器>>查看>>源文件。不要告诉我你不知道IE是什么！)
例如我只想获取以下HTML代码中"<td>"和"</td>"之间的的文字部分:
<html>
<title>BK(blue1000.com)设计--网页制作资源站点</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="Content">BK(blue1000.com)设计--网页制作资源站点是个资源多多的站点……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(网页的地址)
start=Instr(StrBK,"<td id=""Content"">") ’此处的作用是获取字符串开始地方的定位。Instr函数前面一节说过了哦~
’这里要有人问了:原来的代码是<td id="Content">,怎么你这里调用的是<td id=""Content"">啊?答案:asp中（准确的说是VBscript中是用两个双引号来表示一个双引号的，因为双引号对于程序来说是个敏感字符。）
over=Instr(StrBK,"…</td></tr>")’此处的作用是获取字符串结束地方的定位。
’这里又要有人问了:( :程序调用HTML代码干吗前面多出来3个点点"…"啊？答：提示：上面一行也有一个</td></tr>，如果这里用</td></tr>来定位的话，程序会错误地把上面一行的</td></tr>当成欲获取字符串的结束部分了。
RsBK=mid(StrBK,start,over-start) ’此处的作用是取出StrBK中第start个字符到第over个字符之间的字符串。mid函数前面一节我也讲过了；over-start是为了计算出开始位置和结束位置之间的距离，也就是字符数。
response.write(RsBK) ’最后输出程序获取的内容
%>
不要高兴的太早，当你运行的时候，你会发现页面的html代码有错误，为什么呢？因为你获取的html代码是：
<td id="Content">BK(blue1000.com)设计--网页制作资源站点是个资源多多的站点…
看到了吧？有残缺的HTML代码啊！怎么办呢？start=Instr(StrBK,"<td id=""Content"">")这个语句获取的是"<td id="Content">"在StrBK中的位置数,现在我们可以在程序语句的后面加上17,那么程序就会将位置指向<td id="Content">后面的那个字符.
好的,程序将改成这样:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(网页的地址)
start=Instr(StrBK,"<td id=""Content"">") + 17
over=Instr(StrBK,"…</td></tr>") ’这里你也可以减去七(-7)把3个点去掉
RsBK=mid(StrBK,start,over-start)
response.write(RsBK)
%>
这样就OK了,我们就可以将我们想要的东西偷过来显示在我们自己的页面了,呵呵~
（二）如何将获取的字符中的一部分删掉或者做一些修改?
接着上面的来讲,我们可以将RsBK中的"BK(blue1000.com)"换成"BK":
RsBK=replace(RsBK,"BK(blue1000.com)","BK")
或者直接把"(blue1000.com)"删掉:
RsBK=replace(RsBK,"(blue1000.com)","")
好了,现在RsBK就变成了:"BK设计--网页制作资源站点是个资源多多的站点……"了.
但是事实中,有些情况可能replace函数是不适应的,比如我们想把某个字符串里面的所有连接都去掉.连接可能包括很多种类型,replace只能替代其中特定的一个,我们不可能用一个又一个对应的replace函数来替换吧?
那么现在就用到了程序中的正则表达式,详细请参阅:
正则表达式简介(１):
http://www.blue1000.com/bbs/dispbbs.asp?boardID=3&ID=1558&page=1
正则表达式简介(２):
http://www.blue1000.com/bbs/dispbbs.asp?boardID=3&ID=1559&page=1
如果哪位朋友正好想去掉页面中所有链接的话,请关注Blue1000.com的下一篇教程:<<如何清除网页中的所有链接[正则表达式]>>
（三）如何将对方网站的翻页也处理成我们自己的呢?
答案是：利用replace函数和页面参数的传递。
例如对方页面里含有这样的翻页代码："<a href=2.htm>下一页</a>",我们可以先利用上面讲的内容，获取这个字符串，然后用replace函数：RsBK=replace(RsBK,"<a href=","<a href=page.asp?Url=")
然后再page.asp的程序里获取Url的参数值，最后用小偷技术获取下一页你想要的内容就可以了。
（四）如何将获取的内容入库
由于篇幅有限,这里简单说一下.
其实很简单：
将偷来的内容作一下处理，防止在写入数据库的时候出现sql注入错误，例如：replace(String,"'","''")
然后执行一个插入数据库操作的sql命令就ok了~
以上只是一些关于XMLHTTP组件的初级应用，实际上它还能实现的功能还有很多，比如说保存远程图片到本地服务器上，配合adodb.stream组件可以把获取来的数据保存进数据库。小偷的作用和使用范围都很广。