笔趣阁

手机浏览器扫描二维码访问

第318章 肠粉（第3页）

网络爬虫

y就

是一个在网上到处或定向抓取网页数据的程序抓取网页的一般方法是y

定义一个入口页面y然后一般一个页面中会包含指向其他页面的urly于

是从当前页面获取到这些网址加入到爬虫的抓取队列中y然后进入到新页

面后再递归地进行上述的操作爬虫数据采集方法可以将非结构化数据从

网页中抽取出来y将其存储为统一的本地数据文件y并以结构化的方式存

储它支持图片音频视频等文件或附件的采集y附件与正文可以自动

关联。

许多公司的业务平台每天都会产生大量的日志文件日志文件数据一般由数

据源系统产生y用于记录数据源的执行的各种操作活动y比如网络监控的流

量管理金融应用的股票记账和web服务器记录的用户访问行为对于这些

日志信息y我们可以得到出很多有价值的数据通过对这些日志信息进行采

集y然后进行数据分析y就可以从公司业务平台日志数据中挖掘得到具有潜

在价值的信息y为公司决策和公司后台服务器平台性能评估提供可靠的数据

保证系统日志采集系统做的事情就是收集日志数据提供离线和在线的实时

分析使用很多互联网企业都有自己的海量数据采集工具y多用于系统日志

采集y如hadoop的chukwaycloudera的f露meyfacebook的scribe等y

这些工具均采用分布式架构y能满足每秒数百mb的日志数据采集和传输需

求。

一些企业会使用传统的关系型数据库mysql和oracle等来存储业务系统数

据y除此之外yredis和ngodb这样的nosql数据库也常用于数据的

存储企业每时每刻产生的业务数据y以数据库一行记录形式被直接写入

到数据库中企业可以借助于etl?

extract-transform-load?工具y把

分散在企业不同位置的业务系统的数据y抽取转换加载到企业数据仓

库中y以供后续的商务智能分析使用通过采集不同业务系统的数据并统

一保存到一个数据仓库中y就可以为分散在企业不同地方的商务数据提供

一个统一的视图y满足企业的各种商务决策分析需求。

数据采集是数据系统必不可少的关键部分y也是数据

平台的根基根据不同的应用环境及采集对象y有多

种不同的数据采集方法y包括x

?系统日志采集

?分布式消息订阅分发

?etl

?网络数据采集。

f露me是cloudera提供的一个高可用的y高可靠的y分布式的海量日志采集聚合

和传输的系统yf露me支持在日志系统中定制各类数据发送方y用于收集数据]同

时yf露me提供对数据进行简单处理y并写到各种数据接受方?可定制?的能力。

七零大厂美人，改造反派崽暴富  我在无限游戏中永生  我在修仙游戏世界中浑水摸鱼  七零娇美人，甩掉知青当首富  快穿：盘古居然是我哥  沙雕攻以为他虐了白月光  穿成花瓶美人，反派老公破产了  武侠游戏：只有我知道剧情  我手握无限物资，砸出末世安全区  空间通末世，我带飞全家很合理吧  跌落山崖的我，习得神级功法  逼我做妾？真太子为我入赘将军府  都市神医，开局扇醒拜金女  穿越明朝之我救了马皇后  凛冬末日：全民避难所求生  小马宝莉：星空之下  新来的转校生竟比校霸还野  八零守寡小娇娇，冷面糙汉被钓疯  京港月光  医林萧韵