5
新手入门 功能点介绍 实战案例

如何免费采集虎牙直播信息数据

2019-08-27 18:55:00
浏览 482 次

摘要:本文主要介绍如何使用后羿采集器的智能模式,免费采集虎牙直播的直播数据,我们以英雄联盟栏目下的直播数据为例。 免费下载软件

本文主要介绍如何使用后羿采集器的智能模式,免费采集虎牙直播的直播数据,我们以英雄联盟栏目下的直播数据为例。

采集对象简介:

虎牙直播(www.huya.com)是以游戏直播为主营业务的弹幕式直播互动平台,虎牙直播以游戏直播为主,涵盖娱乐、综艺、教育、户外、体育等多种直播内容。

教程为大家介绍如何采集虎牙直播的数据,虎牙直播是属于比较常规的网站,大家直接输入网址就能识别到数据,比较特殊的一点是在深入采集之后,网页加载的比较慢,如果要采集出数据,建议在开始采集-防屏蔽-手动防屏蔽中设置逐行滚动加载。

采集工具简介:

后羿采集器(www.houyicaiji.com)是一款基于人工智能技术的网页采集器,只需要输入网址就能够自动识别网页数据,无需配置即可完成数据采集,是业内首家支持三种操作系统(包括Windows、Mac和Linux)的网络爬虫软件

该软件是一款真正免费的数据采集软件,对采集结果导出没有任何限制,没有编程基础的小白用户也可轻松实现数据采集要求。

采集字段:

标题、标题链接、主播、观看人数、id、订阅数、粉丝榜单第一名、粉丝榜单第二名、粉丝榜单第三名

采集结果预览:

下面我们来详细介绍一下如何免费采集虎牙直播的数据,我们以英雄联盟栏目下的直播数据为例,具体步骤如下:

步骤一:下载安装后羿采集器,并注册登录

1、点此打开后羿采集器官网,下载并安装爬虫软件工具—后羿采集器软件

2、点击注册登录,注册新账号,登录后羿采集器

下载和注册后羿采集器

【温馨提示】您可以直接使用此款爬虫软件,不需要进行注册,但是匿名账户下的任务在切换到注册用户时会丢失,因此建议您注册后使用。

后羿采集器为神箭手云旗下产品,如果您是神箭手用户,可直接登录。

步骤二:新建采集任务

1、复制虎牙直播英雄联盟的网址。

点此了解关于如何正确地输入网址。

2、新建智能模式采集任务

您可以在软件上直接新建采集任务,也可以通过导入规则来创建任务。

点此了解如何导入和导出采集规则。

步骤三:配置采集规则

1、设置数据字段

输入网址后软件会自动对搜索结果页进行识别,我们可以在这个基础上右击字段进行相关设置,包括修改字段名称、增减字段、处理数据等。

点此了解如何对采集字段进行配置。

设置效果如下:

2、使用深入采集功能提取详情页数据

由于我们需要采集详情页的信息,我们需要右击链接使用“深入采集”功能,跳转到详情页进行采集。

点此深入了解如何采集列表+详情页类型网页。

设置效果如下:

步骤四:设置并启动采集任务

1、启动采集任务

点击“开始采集”按钮,可在弹出的启动设置页面中进行一些高级设置,包括“定时启动、防屏蔽、自动导出、文件下载、加速引擎、数据去重、开发者设置”功能,由于详情页的数据加载比较慢,所以大家可以设置一个逐行滚动加载,具体如下图所设,然后点击开始启动运行数据。

点此深入了解什么是定时启动。

点此深入了解什么是自动导出。

点此深入了解如何下载图片。

【温馨提示】免费版本可以使用非周期性定时采集功能,下载图片功能是免费的;专业版及以上用户可使用定时启动功能;旗舰版用户可以使用自动导出功能及加速引擎功能。

2、运行任务提取数据

任务启动之后便开始自动采集数据,我们从界面上可以直观的看到程序运行过程和采集结果,采集结束之后会有提醒。

步骤五:导出并查看数据

数据采集完成后,我们可以查看和导出数据,后羿采集器支持多种导出方式(手动导出到本地、手动导出到数据库、自动发布到数据库、自动发布到网站)和导出文件的格式(EXCEL、CSV、HTML和TXT),同时还支持导出具体条数,可以在数据中选择想导出的条数,然后点击“确认导出”。

点此深入了解如何查看和清空采集数据。

点此深入了解如何导出采集结果。

【温馨提示】:所有手动导出功能都是免费的。个人专业版及以上版本可以使用发布到网站功能。

 

再为您推荐几个相关的采集教程:

如何免费采集西瓜视频信息数据

如何免费采集AcFun弹幕视频网数据

如何免费采集梨视频的数据

分享到: