2024年3月11日发(作者：)

八爪鱼数据采集实验报告总结

一、八爪鱼采集原理

八爪鱼网页数据采集客户端使用的开发语言是C#，运行在

Windows系统。客户端主程序负责任务配置及管理，任务的云采集

控制，云集成数据的管理（导出，清理，发布）。数据导出程序负责

数据的导出Excel，SQL，TXT，MYSQL等，支持一次导出百万级别数

据。本地采集程序负责根据工作流对网页进行打开，抓取，采集数

据，通过正则表达式与Xpath原理，快速获取网页数据。

整个采集流程基于Firefox内核浏览器，通过模拟人的思维操

作方式（如打开网页，点击网页中的某个按钮），对网页内容进行全

自动提取。系统完全可视化流程操作，无需专业知识，轻松实现数

据采集。通过对网页源码中各个数据XPath路径的准确定位，八爪

鱼可以批量化准确采集出用户所需数据。

二、八爪鱼实现的功能

八爪鱼网页数据采集系统以完全自主研发的分布式云计算平台

为核心，可以在很短的时间内，轻松从各种不同的网站或者网页获

取大量的规范化数据，帮助任何需要从网页获取信息的客户实现数

据自动化采集、编辑、规范化，摆脱对人工搜索及收集数据的依

赖，从而降低获取信息的成本、提高效率。涉及到政府、高校、企

业、银行、电商、科研、汽车、房产、媒体等众多行业及领域。

八爪鱼作为一款通用的网页数据采集器，其并不针对于某一网

站某一行业的数据进行采集，而是网页上所能看到或网页源码中有

的文本信息几乎都能采集，市面上98%的网页都可以用八爪鱼进行

采集。

使用本地采集（单机采集），除了可以实现绝大多数网页数据的

爬取，还可以采集过程中对数据进行初步的清洗。如使用程序自带

的正则工具，利用正则表达式将数据格式化。在数据源头即可实现

去除空格、筛选日期等多种操作。其次八爪鱼还有提供分支判断功

能，可对网页中信息进行是与否的逻辑判断，实现用户筛选需求。

云采集除具有本地采集（单机采集）的全部功能之外，还可以

实现定时采集，实时监控，数据自动去重并入库，增量采集，自动

识别验证码，API接口多元化导出数据以及修改参数。同时利用云

端多节点并发运行，采集速度将远超于本地采集（单机采集），多

IP在任务启动时自动切换还可避免网站的IP封锁，实现采集数据

的最大化。