• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

profile-tags: 用户画像平台构建

原作者: [db:作者] 来自: 网络 收藏 邀请

开源软件名称:

profile-tags

开源软件地址:

https://gitee.com/chbHome/profile-tags

开源软件介绍:

欢迎大家加入

用户画像

持续更新。。。

介绍

软件架构

整个项目大致分为五个Module模块:

  • 1)、数据迁移
    • tags-etl
    • 编写代码将MySQL数据库表的数据迁移到HBase表中
  • 2)、标签模型调度
    • tags-scheduler
    • Oozie Java Client API如何调度执行Workflow和Coordinator
    • Azkaban Java Api 调度
  • 3)、工具类
    • tags-up
    • 实现模型调度,主要HDFS文件系统操作和Oozie Java Client API使用工具类封装
  • 4)、tags-web
    • 用户画像标签系统WEB 平台
    • 原版使用SSM实现,基于SpringBoot实现(结合Vue.js)
  • 5)、tags-model
    • 模型开发,给用户打标签,每个业务标签就开发SparkApplication程序,调度执行

技术架构

项目的总体架构图:

项目的总体架构图

项目功能架构图:

项目功能架构图

标签体系流程图:

标签体系流程图

安装教程

建议安装 scala-2.11.8

  1. tag-etl部署
  • complie后, install一下,其他Module依赖
  1. tag-web部署
  • tag-web中的前端是编译的静态文件,所有后端配置文件端口最好别改

使用说明

参与贡献

有擅长前端的同学,也可以帮忙优化下界面,感谢参与

  1. Fork 本仓库
  2. 新建分支
  3. 提交代码
  4. 新建 Pull Request

问题

hbase

LoadIncrementalHFiles 的包变化

  • hbase1.2.0: hbase-server.jar org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles
  • hbase2.0.2: hbase-server.jar org.apache.hadoop.hbase.tool.LoadIncrementalHFiles

·HFileOutputFormat2· 的包变化

  • hbase1.2.0: hbase-server.jar org.apache.hadoop.hbase.mapreduce.HFileOutputFormat2
  • hbase2.0.2: hbase-mapreduce.jar org.apache.hadoop.hbase.mapreduce.HFileOutputFormat2

Base64

资源

最原始的虚拟机和资源,以及视频

链接:https://pan.baidu.com/s/1j8J316yyyL4-vukdh6L2rg 提取码:dsxu

本项目需要的数据库资源(Mysql tags tbl_model)

也可以在doc/tags.zip下载

用户数据

链接:https://pan.baidu.com/s/1TgwqFqcYcTM8XjdZO9JIvA提取码:731v


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
热门推荐
热门话题
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap