正文

火車頭小說采集規(guī)則（火車頭采集器小說采集）

發(fā)布時(shí)間：2023-05-24 22:41:32 稿源：創(chuàng)意嶺閱讀： 149

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于火車頭小說采集規(guī)則的問題，以下是小編對(duì)此問題的歸納整理，讓我們一起來看看吧。

開始之前先推薦一個(gè)非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等

只需要輸入關(guān)鍵詞，就能返回你想要的內(nèi)容，有小程序、在線網(wǎng)頁版、PC客戶端和批量生成器

問友Ai官網(wǎng)：https://ai.de1919.com。

本文目錄:

飛飛火車頭采集器怎么寫發(fā)布規(guī)則
如何寫火車頭采集器的采集規(guī)則，采集頁面上圖片內(nèi)的文字？
火車頭如何采集還有縮略圖的文章呢

火車頭小說采集規(guī)則（火車頭采集器小說采集）

飛飛火車頭采集器怎么寫發(fā)布規(guī)則

1
首先講一講網(wǎng)站結(jié)構(gòu)，通常網(wǎng)站結(jié)構(gòu)為樹形結(jié)構(gòu)，一個(gè)網(wǎng)站主要包以下幾種頁面：首頁、欄目頁、文章頁，其結(jié)構(gòu)如下圖。
其次講一講火車頭采集原理，火車頭的運(yùn)行需要一套規(guī)則來指定該如何采集所需數(shù)據(jù)，即需要編寫火車頭采集規(guī)則，編寫采集規(guī)則也是新手最頭痛的問題。
火車頭采集器通常通過網(wǎng)址抓取網(wǎng)站返回的源代碼，然后在源代碼中提取需要的信息。因此，采集數(shù)據(jù)需要先采集網(wǎng)址，然后再采集數(shù)據(jù)。
2
下面開始編寫采集規(guī)則：
運(yùn)行LocoyPlatform.exe
3
在左側(cè)“任務(wù)列表樹”選擇一個(gè)分組點(diǎn)擊右鍵，選擇“新建任務(wù)”彈出新建任務(wù)對(duì)話框。填寫任務(wù)名，網(wǎng)站編碼一般選擇自動(dòng)即可。
添加起始網(wǎng)址
填寫“第一步：采集網(wǎng)址規(guī)則”這里需要按照網(wǎng)站的樹形結(jié)構(gòu)逐級(jí)獲取下一級(jí)結(jié)構(gòu)的網(wǎng)址，直至獲取到內(nèi)容頁的網(wǎng)址。先填寫起始網(wǎng)址，通常為目標(biāo)站首頁地址。點(diǎn)擊“添加”，在單條網(wǎng)址處填上火車頭博客的首頁地址，然后依次點(diǎn)擊“添加” ->“完成”。
編寫“多級(jí)網(wǎng)址獲取”規(guī)則
這里需要先在起始地址頁面找到所有需要采集的欄目頁的代碼區(qū)域，先查看起始頁地址的源碼，找到如圖所示代碼區(qū)域：
點(diǎn)擊右側(cè)“添加”按鈕打開“添加多級(jí)網(wǎng)址采集規(guī)則”，選擇“從頁面自動(dòng)分析得到地址鏈接”單選按鈕，在下面“從該選定區(qū)域中提取網(wǎng)址”，“從”（左側(cè)）文本框填上欄目地址代碼區(qū)域開始之前的標(biāo)志性代碼（要保證其在該頁的唯一性），“到”右側(cè)文本框填上欄目地址代碼區(qū)域結(jié)束之后的標(biāo)志性代碼，在“結(jié)果網(wǎng)址過濾”的“必須包含”和“不得包含”文本框填上相應(yīng)代碼，如果該區(qū)域沒有多余的鏈接不需要過濾，可以不填，這里的欄目頁網(wǎng)址必須包含“category-”。然后點(diǎn)擊“保存”返回。
現(xiàn)在需要獲取內(nèi)容頁的地址。先打開欄目頁查看源碼，查找內(nèi)容頁地址存在的區(qū)域及地址規(guī)律。按照上一步的方法先填寫內(nèi)容頁所在區(qū)域的起始和結(jié)束標(biāo)志性代碼，然后分析這個(gè)區(qū)域中包含的鏈接與我們說需要的內(nèi)容頁地址鏈接規(guī)律，添加過濾代碼。這里起始代碼為“”，結(jié)束代碼為“<div class="page" style="float:right">”過濾代碼為必須包含“read-”不得包含“#”。如圖：
需要注意的是這里文章比較多會(huì)有很多分頁，所以需要填寫“列表分頁獲取”規(guī)則。通常只需要指定分頁代碼的區(qū)域，如有必要可以填寫“組合生成列表頁分頁”規(guī)則。這里的列表分頁規(guī)則其實(shí)代碼為“<li class="pageNumber">”，結(jié)束代碼為“title="下一頁">”。如果勾選“自動(dòng)識(shí)別分頁”的話，會(huì)自動(dòng)提取a標(biāo)簽的href屬性，如果不勾選自動(dòng)識(shí)別的話，需要填寫組合生成列表頁分頁”規(guī)則。
然后保存返回，可以通過“測(cè)試網(wǎng)址采集”來測(cè)試規(guī)則是否正確，不正確可以返回修改規(guī)則，正確的話可以開始編寫“第二步采集內(nèi)容規(guī)則”。
編寫“第二步采集內(nèi)容規(guī)則”
先打開內(nèi)容頁以及內(nèi)容頁的源碼，找到需要提取的信息的前后代碼特征。以提取標(biāo)題和內(nèi)容為例。首先復(fù)制文章標(biāo)題，然后在源碼中查看該標(biāo)題出現(xiàn)的幾處地方，找一處前后代碼在每一篇文章都一樣的地方，該例共出現(xiàn)了3處，第二處的代碼沒有其他干擾代碼。點(diǎn)擊“添加”，標(biāo)簽名填“標(biāo)題”，提取數(shù)據(jù)方式選擇前后截取，前后代碼分別為“<h1 class="ContentTitle"><strong>”和“</strong></h1>”。如果采集的內(nèi)容需要作進(jìn)一步處理（如替換刪除編碼轉(zhuǎn)換過濾html等），在下方“數(shù)據(jù)處理”點(diǎn)擊添加填寫相應(yīng)規(guī)則。
再添加一個(gè)標(biāo)簽，標(biāo)簽名為“內(nèi)容”，按照上述方法填寫內(nèi)容的前后代碼片段，需要注意的是，前后代碼片段最好不要出現(xiàn)不完整的標(biāo)簽（如：“<div class="Content-body"” 應(yīng)該寫作“<div class="Content-body">”，一個(gè)完整的標(biāo)簽應(yīng)該是以“<”開始，以“>”結(jié)束，如果<>之間的內(nèi)容在各個(gè)內(nèi)容頁有一部分不一樣，將不一樣的部分用（*）代替即可），否則提取的內(nèi)容會(huì)包含部分不完整的標(biāo)簽。通常正文包含的HTML會(huì)比較多，可以添加HTML過濾功能，建議僅保留段落（p）、圖片（img）、換行（br）等標(biāo)簽。
測(cè)試內(nèi)容采集規(guī)則
保存規(guī)則后返回采集內(nèi)容規(guī)則頁面，在右側(cè)“規(guī)則測(cè)試”的典型頁面文本框填上一個(gè)內(nèi)容頁的地址，然后點(diǎn)擊測(cè)試，如果下面顯示到的內(nèi)容符合預(yù)期說明可以了，如果未獲取到內(nèi)容或者獲取到內(nèi)容不正確，返回檢查并修改規(guī)則。
開始采集
選擇要采集的任務(wù)規(guī)則，勾選“采網(wǎng)址”和“采內(nèi)容”復(fù)選框，點(diǎn)擊工具欄“開始”按鈕。
后續(xù)工作
采集到的數(shù)據(jù)保存在數(shù)據(jù)庫，可以通過在任務(wù)名上點(diǎn)右鍵，選擇“打開DATA下任務(wù)文件夾”打開數(shù)據(jù)庫所在位置，該數(shù)據(jù)庫可以通過ACCESS打開和編輯。如果想要重新采集，需要通過右鍵選擇“清空該任務(wù)網(wǎng)址庫”和“清空任務(wù)所有采集數(shù)據(jù)”。

如何寫火車頭采集器的采集規(guī)則，采集頁面上圖片內(nèi)的文字？

不得不說火車頭是有一定用處，但是個(gè)人覺得不怎么好用，光是寫那些采集規(guī)則，設(shè)定什么的就一大堆不明不白的東西。拿錢購買嘛，一開始那客服還很熱情的為你解答，一交完錢買下來了，寫規(guī)則，好了，有問題要找客服解決，結(jié)果一拖再拖，弄了一個(gè)多月還沒弄好，整個(gè)網(wǎng)站的工作進(jìn)程全拖慢了，還不如自己辛苦點(diǎn)自己手動(dòng)寫文章，還采集啥啊~
言歸正傳，火車頭使用：新建站點(diǎn)—>新建任務(wù)—>填寫你要采集的網(wǎng)站文章列表—>點(diǎn)下面的開始測(cè)試網(wǎng)址—>如果有采集到很多文章，看各個(gè)地址相同部分（如system/2012/03/07），點(diǎn)返回修改，把system/2012/03/07這部分加到“文章內(nèi)容必須包含”那里，再測(cè)試一下，就可以采集到3月7日的文章地址了—>前面準(zhǔn)備好網(wǎng)址后接下來就是第二步的采集內(nèi)容規(guī)則了，點(diǎn)第二步，設(shè)定標(biāo)簽，一般采集包括標(biāo)題<title></title>、關(guān)鍵字<meta name=keyword...>、內(nèi)容<div>...</div>，這些設(shè)置從你要采集的網(wǎng)站代碼上可以找到相應(yīng)的——>采集頁面上的圖片，在第四步，“文件保存及高級(jí)設(shè)置”，選擇所有文件本地保存文件夾（這里是從頁面下載圖片存放的位置），然后下面有個(gè)FTP同步文件上傳的，填好服務(wù)器、用戶名、密碼什么的，文件上傳根目錄就是你網(wǎng)站服務(wù)器放置圖片的文件夾位置，你可以在服務(wù)器新建一個(gè)文件夾試試看，OK！到此為止，不過有一些網(wǎng)站寫了反采集代碼，有可能會(huì)被封IP，整體來說，個(gè)人不提倡使用火車頭采集器，還不如個(gè)人手動(dòng)來得實(shí)在，就算一天少發(fā)點(diǎn)也行，只要保證每天更新量、偽原創(chuàng)和原創(chuàng)，一樣有很大效果。

火車頭小說采集規(guī)則（火車頭采集器小說采集）