網(wǎng)站在優(yōu)化過程中頁面抓取過程簡述

url，即統(tǒng)一資源定位符，通過對url的分析，我們可以更好地理解頁面抓取過程。今天，SEO學網(wǎng)帶來的是《頁面抓取過程簡述》。希望本次的SEO技術(shù)培訓對大家有所幫助。

一、url是什么意思?

URL，英文全稱為“uniform resource locator”，中文譯為“統(tǒng)一資源定位符”。

在網(wǎng)站優(yōu)化中要求每一個頁面有且僅有一個唯一的統(tǒng)一資源定位符(URL)，但往往很多網(wǎng)站同一頁面對應了很多個URL，如果都被搜索引擎收錄且未做URL轉(zhuǎn)向，就會產(chǎn)生權(quán)重不集中的情況，通常稱為URL不規(guī)范。

二、url的組成

統(tǒng)一資源定位符(URL)，由三部分組成：協(xié)議方案、主機名和資源名。

例如：

https:// www.x**.org /11806

其中https為協(xié)議方案，www.***.org 為主機名 ，11806為資源，不過這個資源不太明顯，一般資源后綴為.html，當然還可以是.pdf、.php、.word等格式。

三、頁面抓取過程簡述

無論是我們平時用的互聯(lián)網(wǎng)瀏覽器，還是網(wǎng)絡爬蟲，雖然是兩種不同的客戶端，但獲取頁面的方式卻是相同的。頁面抓取過程如下：

① 連接DNS域名系統(tǒng)服務器

客戶端都會先連接到DNS域名服務器上，DNS服務器將主機名( www.***.org )轉(zhuǎn)換為IP地址，并反饋給客戶端。

PS：本來我們通過111.152 . 151.45 的地址來訪問某網(wǎng)站，為了方便記憶和使用，才利用DNS域名系統(tǒng)轉(zhuǎn)換為了 www.***.org 。這也就是DNS域名系統(tǒng)的作用。

② 連接IP地址服務器

該IP服務器下可能會有很多程序(網(wǎng)站)，可以通過端口號來做區(qū)分，同時每個程序(網(wǎng)站)都會監(jiān)聽端口是否有新的連接請求，HTTP網(wǎng)站默認為80，HTTPS網(wǎng)站默認為443。

不過通常情況下，端口號80和443是默認不出現(xiàn)的。

舉例來講：

https://www.***.org:443/ = https://www.***.org/

http://www.***.org:80/ = http://www.***.org/

③ 建立連接并發(fā)送頁面請求

客戶端與服務器建立連接后，會發(fā)送頁面請求，通常為get，也可以是post。

get 11806 HTTPS/1.0

獲取HTTPS協(xié)議下的頁面11806 返回給客戶端。之后如需繼續(xù)獲取更多頁面，則發(fā)送其他請求，否則將關(guān)閉該連接。

PS：通常情況下 ，/seo/11806.html 可能會更清晰。也就是發(fā)送 https://www.***.org/ 下的 seo文件夾下的 11806.html 的頁面請求。

當前標題：網(wǎng)站在優(yōu)化過程中頁面抓取過程簡述
鏈接地址：http://www.jbt999.com/news24/61674.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)頁設計公司、營銷型網(wǎng)站建設、App設計、企業(yè)網(wǎng)站制作、網(wǎng)站改版、做網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：[email protected]。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)