亚洲精品国产综合久久一线_亚洲一区二区久久_99久久婷婷国产综合精品_国内精品久久久久久久久蜜桃

央廣網(wǎng)

“爬蟲”如何搶低價票?借助超鏈接信息抓取網(wǎng)頁

2017-12-27 07:39:00來源:科技日報

  你的低價機票 被“蟲子”吃了

  不到兩個月,2018年春節(jié)要來了。

  “今年我得早下手,搶張回家的低價機票!痹诒本┐蚬さ男⊥鯇萍既請笥浾哒f,由于老家在云南,春節(jié)機票太貴,他都選擇坐兩天兩夜的火車回去,長途跋涉,苦不堪言。

  然而,就在小王摩拳擦掌,準(zhǔn)備使出“洪荒之力”搶張便宜機票時,看到網(wǎng)上曝出這樣一則消息:航空公司放出的低價機票,80%以上被票務(wù)公司的“爬蟲”搶走,普通用戶很少能買到。

  小王傻眼了,“爬蟲”究竟是什么鬼?它又是怎么搶機票的?難道就沒有辦法治理嗎?

  借助超鏈接信息抓取網(wǎng)頁

  “‘爬蟲’技術(shù)是實現(xiàn)網(wǎng)頁信息采集的關(guān)鍵技術(shù)之一,通俗來說,‘爬蟲’就是一段用來批量、自動化采集網(wǎng)站數(shù)據(jù)的程序,幾乎不需要人工干預(yù)!北本├砉ご髮W(xué)網(wǎng)絡(luò)科學(xué)與技術(shù)研究院副教授閆懷志告訴科技日報記者。

  閆懷志介紹,“爬蟲”又稱網(wǎng)頁“蜘蛛”、網(wǎng)絡(luò)機器人,它是一種按照一定規(guī)則自動抓取網(wǎng)頁信息的程序或者腳本,通常駐留在服務(wù)器上。在Web網(wǎng)頁中,既包含可供用戶閱讀的文字、圖片等信息,還包含一些超鏈接信息。網(wǎng)絡(luò)“爬蟲”正是借助這些超鏈接信息來不斷抓取網(wǎng)絡(luò)上的其他網(wǎng)頁。

  “這種信息采集過程很像一個爬蟲或蜘蛛在網(wǎng)絡(luò)上漫游,網(wǎng)絡(luò)‘爬蟲’或網(wǎng)頁‘蜘蛛’因此得名!遍Z懷志說,“爬蟲”最早應(yīng)用在搜索引擎領(lǐng)域,比如谷歌、百度、搜狗等搜索引擎工具每天需要抓取互聯(lián)網(wǎng)上數(shù)百億的網(wǎng)頁,它們需要借助龐大的“爬蟲”集群來實現(xiàn)搜索功能。

  當(dāng)前,“爬蟲”已被廣泛用于電子商務(wù)、互聯(lián)網(wǎng)金融等諸多領(lǐng)域。比如,“爬蟲”可以抓取航空公司官網(wǎng)的機票價格,發(fā)現(xiàn)低價或緊俏機票后,“爬蟲”可以利用虛假客源的真實身份信息實現(xiàn)搶先預(yù)訂。再有,很多互聯(lián)網(wǎng)瀏覽器都推出了自己的搶票插件,以高訂票成功率來推廣瀏覽器。

  根據(jù)抓取任務(wù)和目標(biāo)的不同,網(wǎng)絡(luò)“爬蟲”可大致分為批量型、增量型和垂直型。批量型“爬蟲”的抓取范圍和目標(biāo)較為明確,可以是網(wǎng)頁的設(shè)定數(shù)量,也可以是消耗時間的設(shè)定。增量型“爬蟲”主要用于持續(xù)抓取更新的網(wǎng)頁,以適應(yīng)網(wǎng)頁的不斷變化。垂直型“爬蟲”主要是用于特定主題內(nèi)容或特定行業(yè)的網(wǎng)頁。

  “爬蟲”究竟是如何搶票的

  此前,在線票務(wù)服務(wù)公司攜程的“反爬蟲”專家在技術(shù)分享中透露,某網(wǎng)站的一個頁面,每分鐘的瀏覽量是1.2萬,真實用戶只有500個,“爬蟲”流量占比為95.8%。

  采訪中,很多業(yè)內(nèi)人士也表示,即使在“爬蟲”活動的淡季,虛假流量也占到訂票網(wǎng)站總流量的50%,高峰期更是在90%以上。

  那么,“爬蟲”究竟是如何實現(xiàn)搶票的呢?對此,閆懷志解釋,主要是機票代理公司利用“爬蟲”技術(shù),不斷抓取航空公司售票官網(wǎng)網(wǎng)頁信息,如果發(fā)現(xiàn)該航空公司有低價票放出,“爬蟲”即刻利用虛假客源身份進行批量預(yù)定但不實際支付,以達到搶占低價票源的目的。由于“爬蟲”的效率遠遠超過正常的手動操作,導(dǎo)致通過正常操作幾乎無法搶到票。

  隨后,機票代理公司會通過其自身銷售渠道(包括公司網(wǎng)站、在線旅行社、客戶電話訂購等)找到真正的客源,在航空公司允許的賬期內(nèi),退訂此前使用虛假客源身份預(yù)定的低價票,然后使用真實身份信息進行訂購,最后實現(xiàn)該低價票的加價轉(zhuǎn)售。

  如果未在航空公司規(guī)定的賬期內(nèi)找到真正客源,機票代理公司會在訂單失效前再追加虛假身份訂單,繼續(xù)“霸占”該低價票,如此反復(fù),直至找到真正客源售出為止。

  “上面的操作流程就構(gòu)成了完整的機票銷售鏈條。在這個過程中,航空公司售票系統(tǒng)允許在賬期內(nèi)反復(fù)訂、退票的規(guī)定為機票代理公司利用‘爬蟲’搶票并加價獲利提供便利。這種搶票方式,被稱為技術(shù)‘黃!!遍Z懷志強調(diào)。

  的確,有業(yè)內(nèi)人士表示,這些“爬蟲”流量消耗了大量的機器資源,卻不產(chǎn)生任何消費,這是每個公司最痛恨的東西。但是,因為怕誤傷真實用戶,各家公司的“反爬蟲”策略做得非常謹慎。

  采用一定手段 “爬蟲”可防可控

  任何事情都有兩面,“爬蟲”技術(shù)也不例外。

  在閆懷志看來,“爬蟲”既可為正常的數(shù)據(jù)批量獲取提供有效的技術(shù)手段,也可被惡意使用以獲取不當(dāng)利益。如果“爬蟲”技術(shù)被不正當(dāng)利用,就會帶來一定的危害。

  首先,威脅數(shù)據(jù)安全。航空公司售票網(wǎng)站數(shù)據(jù)被惡意爬取,數(shù)據(jù)可能會被機票代理公司惡意利用,而且還存在被同業(yè)競爭對手獲取的風(fēng)險。

  其次,導(dǎo)致系統(tǒng)性能下降,影響用戶體驗!芭老x”大量的抓取請求會導(dǎo)致航空公司售票網(wǎng)站服務(wù)器資源負載上升、性能下降,網(wǎng)站響應(yīng)變慢甚至無法提供服務(wù),對用戶搜索和交易體驗造成負面影響。但由于存在巨大的灰色利益空間,同時“反爬蟲”技術(shù)在與“爬蟲”對抗中作用有限,使得這種顯失公平的“作弊”方式成為擾亂機票市場秩序的技術(shù)“頑疾”。

  “從技術(shù)角度來看,阻擊‘爬蟲’可以通過網(wǎng)站流量統(tǒng)計系統(tǒng)和服務(wù)器訪問日志分析系統(tǒng)。”閆懷志說,通過流量統(tǒng)計和日志分析,如果發(fā)現(xiàn)單個IP訪問、單個session訪問、User-Agent信息超出設(shè)定的正常頻度閾值,則判定該訪問為惡意“爬蟲”所為,將該“爬蟲”的IP列入黑名單以拒絕其后續(xù)訪問。

  再就是設(shè)置各種訪問驗證環(huán)節(jié)。比如,在可疑IP訪問時,返回驗證頁面,要求訪問者通過填寫驗證碼、選取驗證圖片或者字符等方式實現(xiàn)驗證。如果是惡意“爬蟲”爬取,顯然很難完成上述驗證操作,進而可以封鎖該“爬蟲”的訪問,防止其惡意爬取信息。

  互聯(lián)網(wǎng)空間不能有“灰色地帶”

  當(dāng)前,云計算、大數(shù)據(jù)等為代表的新一代信息技術(shù)處在高速發(fā)展階段。

  “上述新技術(shù)如果被非法或者不當(dāng)應(yīng)用,則會產(chǎn)生嚴(yán)重的危害;ヂ(lián)網(wǎng)空間安全需要建立健全完善的保護體系,絕不能‘裸奔’!遍Z懷志說。

  2017年6月1日,我國《網(wǎng)絡(luò)安全法》正式實施,明確了各方在網(wǎng)絡(luò)安全保障中的權(quán)利與責(zé)任。這是中國網(wǎng)絡(luò)空間治理和法制建設(shè)從量變到質(zhì)變的重要里程碑,這部法律作為依法治網(wǎng)、化解網(wǎng)絡(luò)風(fēng)險的法律重器,成為我國互聯(lián)網(wǎng)在法治軌道上健康運行的重要保障。

  然而,目前對于高科技“黃!钡蛊毙袨,尚未有明確規(guī)定,使得惡意爬取信息并不當(dāng)獲利行為處在法律法規(guī)監(jiān)管的“灰色地帶”。

  閆懷志介紹,國際上,針對“爬蟲”應(yīng)用,專門制訂了Robots協(xié)議(即“爬蟲”協(xié)議、網(wǎng)絡(luò)機器人協(xié)議等)。該協(xié)議全稱為“網(wǎng)絡(luò)爬蟲排除標(biāo)準(zhǔn)”,網(wǎng)站可通過該協(xié)議告知“爬蟲”可以爬取哪些頁面及其信息,不能爬取哪些頁面及其信息。該協(xié)議作為網(wǎng)站和“爬蟲”的溝通方式,用來規(guī)范“爬蟲”行為,限制不正當(dāng)競爭。

  作為國際互聯(lián)網(wǎng)界通行的道德規(guī)范,該協(xié)議的原則是:“爬蟲”及搜索技術(shù)應(yīng)服務(wù)于人類,同時尊重信息提供者的意愿,并維護其隱私權(quán);網(wǎng)站有義務(wù)保護其使用者的個人信息和隱私不被侵犯。這就規(guī)定了爬取者和被爬取者雙方的權(quán)利和義務(wù)。

  一位不愿具名的法律專家也表示,“反爬蟲”不僅要依靠技術(shù)防范和業(yè)界自律,還應(yīng)該通過完善管理和法律法規(guī)手段來約束這種行為,尤其是法律手段才能彰顯懲治力和震懾力。航空公司也要完善賬期管理,不給“爬蟲”搶票提供機會。

  本報記者 付麗麗

編輯: 王丹蕾

“爬蟲”如何搶低價票?借助超鏈接信息抓取網(wǎng)頁

在閆懷志看來,“爬蟲”既可為正常的數(shù)據(jù)批量獲取提供有效的技術(shù)手段,也可被惡意使用以獲取不當(dāng)利益。目前對于高科技“黃!钡蛊毙袨,尚未有明確規(guī)定,使得惡意爬取信息并不當(dāng)獲利行為處在法律法規(guī)監(jiān)管的“灰色地帶”。

亚洲精品国产综合久久一线_亚洲一区二区久久_99久久婷婷国产综合精品_国内精品久久久久久久久蜜桃
  • 成人夜色视频网站在线观看| 欧美精品一卡二卡| 国产欧美精品区一区二区三区| 欧美一区二区成人6969| 欧美肥胖老妇做爰| 久久久国产精品不卡| 99re6这里只有精品视频在线观看| 91麻豆精东视频| 国内精品免费**视频| 精品日本一线二线三线不卡| 不卡视频一二三四| 91美女片黄在线观看91美女| 97se亚洲国产综合自在线观| 亚洲一区二区三区在线| 日韩精品在线一区| 国产无遮挡一区二区三区毛片日本| eeuss鲁片一区二区三区| 国产精品国产三级国产aⅴ无密码| 91在线精品一区二区三区| 国产精品白丝av| 欧美在线视频你懂得| 五月综合激情日本mⅴ| 国产99精品在线观看| 91久久国产最好的精华液| 欧美电影在哪看比较好| 91高清在线观看| 久久久久久久久久久久久女国产乱| 一区二区免费在线| 国产精品美女www爽爽爽| 日本欧美久久久久免费播放网| 一区二区三区在线观看视频| 久久午夜色播影院免费高清| 国产夫妻精品视频| 欧美久久一二三四区| 欧美婷婷六月丁香综合色| 在线免费观看日本一区| 久久女同性恋中文字幕| 日韩av电影免费观看高清完整版| 成人免费高清在线观看| 色噜噜狠狠成人网p站| 久久久亚洲综合| 久久精品夜色噜噜亚洲a∨| 日本高清成人免费播放| 日韩一区二区三区视频在线观看| 国产精品久久久久久久浪潮网站| 色妹子一区二区| 国产亚洲欧美在线| 国产乱妇无码大片在线观看| 高清不卡在线观看| 91丨九色porny丨蝌蚪| 日本美女一区二区三区| 久久综合网色—综合色88| 99久久国产综合精品色伊| 99精品视频一区二区三区| 成人性视频免费网站| 91美女蜜桃在线| 亚洲乱码国产乱码精品精可以看| 欧美激情一区三区| 奇米精品一区二区三区在线观看一| 成人福利电影精品一区二区在线观看| 91偷拍与自偷拍精品| 精品乱码亚洲一区二区不卡| 欧美一级二级三级乱码| 免费国产亚洲视频| 日韩精品久久理论片| 亚洲国产精品黑人久久久| 欧美久久久久久久久| 在线视频欧美区| 久久99久国产精品黄毛片色诱| 日本高清无吗v一区| 国产麻豆视频一区二区| 免费在线观看视频一区| 在线播放国产精品二区一二区四区| 亚洲一区欧美一区| 日本麻豆一区二区三区视频| 日产精品久久久久久久性色| 欧美日本一道本在线视频| 国产91丝袜在线播放0| aaa亚洲精品一二三区| 亚洲午夜国产一区99re久久| 亚洲欧美视频在线观看| 欧美mv日韩mv| 日韩一区二区免费高清| 337p日本欧洲亚洲大胆精品| 一区二区三区产品免费精品久久75| 激情五月激情综合网| 亚洲国产精品av| 中文字幕不卡在线观看| 欧美亚洲国产怡红院影院| 欧美撒尿777hd撒尿| 国产永久精品大片wwwapp| 成人av资源在线观看| 91精品久久久久久久久99蜜臂| 婷婷久久综合九色综合伊人色| 亚洲超丰满肉感bbw| 亚洲一区二区不卡免费| 五月婷婷另类国产| 国产精品麻豆欧美日韩ww| 久久久久99精品国产片| 处破女av一区二区| 色欲综合视频天天天| 欧美日韩中文另类| 国产又黄又大久久| 伊人性伊人情综合网| 91视频你懂的| 91视视频在线直接观看在线看网页在线看| 91精品欧美久久久久久动漫| 亚洲精品免费视频| 2022国产精品视频| 欧美精品一二三区| 日韩黄色免费网站| 久久精品国产亚洲aⅴ| 中文字幕一区二区三区精华液| 日韩欧美视频在线| 欧美日韩国产小视频在线观看| 日韩一区二区在线看片| 亚洲国产精品自拍| 久久精品视频一区二区| 国产高清不卡一区| 狠狠色丁香婷婷综合| 韩国一区二区在线观看| 波多野结衣欧美| 91 com成人网| 国产欧美精品国产国产专区| 狠狠色综合日日| 91一区一区三区| 色乱码一区二区三区88| 久久婷婷国产综合精品青草| 国产日产欧产精品推荐色| 日韩免费在线观看| 亚洲免费av高清| 琪琪久久久久日韩精品| 99re热这里只有精品免费视频| 欧美性videosxxxxx| 99精品国产热久久91蜜凸| 韩国一区二区在线观看| 美女视频第一区二区三区免费观看网站| 国产精品久久久久久久久免费樱桃| 国产福利视频一区二区三区| 2020日本不卡一区二区视频| 国产成人在线免费| 综合久久给合久久狠狠狠97色| 一区二区三区四区在线免费观看| 色综合久久综合| 韩国女主播一区| av不卡免费在线观看| 精品一区二区三区的国产在线播放| 国产一区二区免费看| 亚洲国产精品久久久久婷婷884| 中文字幕亚洲精品在线观看| 26uuu精品一区二区在线观看| 日本韩国欧美在线| 丝袜美腿亚洲一区二区图片| 日韩欧美在线观看一区二区三区| 欧美tickling挠脚心丨vk| 在线欧美日韩精品| 成人一区二区三区中文字幕| 色综合久久88色综合天天6| 久久综合狠狠综合久久综合88| 激情久久久久久久久久久久久久久久| 色综合久久六月婷婷中文字幕| 国产精品久久久久永久免费观看| 捆绑调教一区二区三区| 99久久国产综合色|国产精品| 亚洲福利一二三区| 94-欧美-setu| 亚洲成av人影院| 久久丝袜美腿综合| 亚洲国产裸拍裸体视频在线观看乱了| 91麻豆精品国产91| 国产精品三级久久久久三级| 亚洲国产精品久久艾草纯爱| 水蜜桃久久夜色精品一区的特点| 国产精品福利电影一区二区三区四区| 日韩欧美一区二区三区在线| 91精品国产色综合久久久蜜香臀| 欧美大片在线观看一区二区| 亚洲欧洲av另类| 国产欧美日韩在线视频| 久草在线在线精品观看| 奇米影视一区二区三区| 成人一级视频在线观看| 欧美国产激情一区二区三区蜜月| 偷拍自拍另类欧美| 91在线视频在线| 国产99久久久国产精品潘金网站| 亚洲激情男女视频| 麻豆传媒一区二区三区| 亚洲成人综合视频| 久久久国产午夜精品| 91在线观看美女| www.爱久久.com| 久久久精品人体av艺术| 国产91精品久久久久久久网曝门| 欧美日韩精品一区二区三区| 4438亚洲最大| 国产精品人成在线观看免费| 91高清视频免费看| 欧美精品一区二区蜜臀亚洲| 欧美一区二区久久久|