按类别查询搜索结果
关于关键词 的检测结果,共 2
dsy851009 | 2017-11-27 18:30:31 | 阅读(18470) | 评论(0)
最近有个需求,就是对视频日志中的部分URL提取出来,并随机挑选五条。由于线上日志比较大,而且需要每天执行一次,如果单纯的用python即便是多线程性能也会大大折扣。于是考虑到用hadoop的MR去实现。准备工作:1、hadoop集群;2、mapper和reducer划分;初步把提取url的操作划分为mapper中执行,随机挑选5条由reducer去...【阅读全文】
【Python/Ruby】 Hadoop的Python语言封装
yueming | 2011-11-15 00:08:54 | 阅读(2518) | 评论(0)