中小型互联网(电子商务)公司研发部门的组织结构
1. 产品部门
产品组:产品设计
设计组:视觉设计
2. 研发部门
前端部门:
手机端: Android、IOS
H5:web页面,微信小程序
服务端部门:
业务部门:
营销域:直播,活动,优惠券,秒杀,推送...
交易域:商品,订单,支付,物流,结算...
其他:管理后台...
架构部门:
基础业务组: 负责下沉业务开发(用户服务,订单服务,商品服务,风控)
基础架构组: 负责基础架构搭建开发(MQ, Cache, RPC, Job...)
大数据部门:
开发组: 大数据环境搭建和维护,埋点,数据ELT,job。 业务开发(推荐,猜你喜欢),模型应用
BI组:数据ELT,报表展示
模型组: 数据分析、模型训练
测试部门:
功能测试组:对产品定义的功能进行测试
自动化测试组:接口自动化测试,性能测试
项目管理部门:项目管理,项目开发节奏制定
3. 运维部
DBA:搭建和维护数据库环境,构建安全,高可用数据库环境,对线上慢SQL提供优化方案。
运维:
服务器运维:服务器机房搭建,维护,线上网络环境设置,软件环境搭建,系统发布等软件开发。
IT运维: 公司局域网、无线网络搭建,打印机,电话,远程会议设置,办公人员机器采购,维护,VPN,域管理
不同公司 ,业务不同,规模不同,研发组织架构也会不同, 即使同一个公司,不同时期,研发组织架构也会不同,并非一成不变,但始终是为公司业务服务。
开发管理工具:
- 源代码: gitlab
- 仓库:Nexus
- 编译发布 jenkins + Sonar
- 知识库:Confluence
- 流程管理:jira
- 项目管理:禅道/自研符合自己实际情况软件
- bug管理: jira
- 线上异常应急处理规范:团队协商
- code review规范:团队协商
- 团队开发文化:
开发规范
- 代码管理规范: gitlab + gitflow + 团队协商
- 代码提交规范 Commitizen + Git Commit Template(idea plugin)
- 编码规范 : 阿里Java开发手册 + alibaba-java-coding-guidelines(idea plugin) + 团队协商 + 代码风格:checkstyle(idea plugin)
- 数据库规则: 阿里Java开发手册 + 58数据库军规 + 团队协商
- 项目结构规范:团队协商,定义好分层规范和分层命名规范,协议好配置文件位置,日志格式,类命名等, 项目warmup, health, status, version接口规范。 项目README.md内容
- 依赖规范:JDK, 日志组件,本地缓存组件,reids驱动,mysql驱动,分布式锁等尽量采用相同的技术组件实现,在相同技术组件基础上尽可能的组件版本统一。
- 打包规范:团队协商
服务端常用组件
- 硬负载:F5/Netscaler
- 软负载:LVS/Nginx
- 服务端容器:Tomcat/jetty
- 数据库:mysql/mongo/hbase/Neo4j/influxdb
- 数据库中间件:shardingsphere/mycat/altas
- 项目开发:spring+mybatis
- 开发框架:spring/spring boot
- 网关:spring cloud gateway/kong
- 服务保护:sentinel/Hystrix
- 微服务框架:dubbo/spring cloud
- 分布式Id:Leaf/tinyid
- 分布式事务:seata
- 消息队列:rocketmq/kafka/rabbitmq
- 定时调度:xxl-job/elastic-job
- 配置系统:apollo/disconf
- 本地缓存:guava/caffeine
- 分布式缓存:Redis
- 缓存框架:spring cache/AutoLoadCache/jetcache
- 数据同步:datax
- 监控报警:cat
- 全链路:skywalking/zipkin/Pinpoint
- 注册中心:nacos/zookeeper/consul
- 分布式锁:zookeeper/redis/consul
- 文件服务:fastdfs
- mysql数据订阅:canal
- 搜索:elasticsearch/solr
大数据规范
- 数据表规范: ODS/DW/DM/ADS分层规范,表命名规范
- 脚本规范:脚本存放地址,脚本命名,资源依赖。
- 上线规范:脚本上线流程规范
大数据常用组件
- 大数据基础平台: CDH/Ambari/HDP
- 日志收集:Flume/Logstash
- 数据传输:kafka
- 数据迁移 canel/sqoop/datax
- 存储系统:HDFS
- 数据库系统:Mongodb/HBase/mysql/redis/ES
- 集群资源管理器:YARN
- 分布式计算框架:
- 批处理框架:MapReduce
- 流处理框架:Spark/Flink
- 查询分析框架:presto/clickhouse/druid/kylin
- 分布式协调服务:zookeeper
- 任务调度框架:Azkaban、Oozie、airflow、DolphinScheduler
- 报表:tableau/superset
- 元数据管理:atlas/自研
- 指标管理:自研
- 数据血缘管理:atlas/自研
- 数据质量:Griffin/自研
- job依赖管理:airflow二次开发/自研
上一篇: 09-公司层次结构:投资组合模式
下一篇: 如何设计企业的组织结构?
推荐阅读
-
中小型互联网公司技术研发部门的组织结构和职责
-
中小型互联网(电子商务)公司研发部门的组织结构
-
小红书大产品部架构 小红书产品概览--经过性能、稳定性、成本等多个维度的详细评估,小红书最终决定选择基于腾讯云星海自研硬件的SA2云服务器作为主力机型使用。结合其秒级的快速扩缩、超强兼容和平滑迁移能力,小红书在抵御上亿次用户访问、保证系统稳定运行的同时,也实现了成本的大幅降低。 星海SA2云服务器是基于腾讯云星海的首款自研服务器。腾讯云星海作为自研硬件品牌,通过创新的高兼容性架构、简洁可靠的自主设计,结合腾讯自身业务以及百万客户上云需求的特点,致力于为云计算时代提供安全、稳定、性能领先的基础架构产品和服务。如今,星海SA2云服务器也正在为越来越多的企业提供低成本、高效率、更安全的弹性计算服务。 以下是与小红书SRE总监陈敖翔的对话实录。 问:请您介绍一下小红书及其主要商业模式? 小红书是一个面向年轻人的生活方式平台,在这里,他们发现了向上、多元的真实世界。小红书日活超过 3500 万,月活跃用户超过 1 亿,日均笔记曝光量达 80 亿。小红书由社交平台和在线购物两大部分组成。与其他线上平台相比,小红书的内容基于真实的口碑分享,播种不止于线上,还为线下实体店赋能。 问:围绕业务发展,小红书的系统架构经历了怎样的变革和演进? 系统架构变化不大,影响最深的是资源开销。过去三年,资源开销大幅增加,同比增长约 10 倍。在此背景下,我们努力进行优化,包括很早就开始使用 K8S 进行资源调度。到 18 年年中,绝大多数服务已经完全实现了容器化。 问:目前小红书系统架构中的计算基础设施建设和布局是怎样的? 我们目前的建设方式可以简单描述为星型结构。腾讯云在上海的一个区是我们的计算中心,承载着我们的核心数据和在线业务。在外围,我们还有两个数据中心进行计算分流,同时承担灾备和线上业务双活的角色。 与其他新兴电子商务互联网公司类似,小红书的大部分计算能力主要用于线下数据分析、模型训练和在线推荐等平台。随着业务的发展,对算力的需求也在加速增长。
-
反传销网8月30日发布:视频区块链里的骗子,币里的韭菜,杜子建骂人了!金融大V周召说区块链!——“一小帮骗子玩一大帮小白,被割韭菜,小白还轮流被割,割的就是你!” 什么区块链,统统是骗子 作者:周召(知乎金融领域大V,毕业于上海财经大学,目前任职上海某股权投资基金合伙人) 有人问我,区块链现在这么火,到底是不是骗局? 我的回答是: 是骗局。而且我并不是说数字货币是骗局,而是说所有搞区块链的都是骗局。 -01- 区块链是一种鸡肋技术 人类社会任何技术的发明应用,本质都是为了提高社会的生产效率。而所谓区块链技术本质不过是几种早已成熟的技术的大杂烩,冗余且十分低效,除了提高了洗钱和诈骗的效率以外,对人类社会的进步毫无贡献。 真正意义上的区块链得包含三个要素:分布式系统(包括记账和存储),无法篡改的数据结构,以及共识算法,三者互为基础和因果,就像三体世界一样。看上去挺让人不明觉厉的,而经过几年的瞎折腾,稍微懂点区块链的碰了几次壁后都已经渐渐明白区块链其实并没有什么卵用,区块链技术已经名存实亡,沦为了营销工具和传销组织的画皮。 因为符合上述定义的、以比特币为代表的原教旨区块链技术,是反效率的,从经济学角度来说,不但不是一种帕累托改进,甚至还可以说是一种帕累托倒退。 原教旨区块链技术的效率十分低下,因为要遍历所有节点,只能做非常轻量级的数据应用,一旦涉及到大量的数据传输与更新,区块链就瞎了。 一方面整条链交易速度会极慢,另一方面数据库容量极速膨胀,考虑到人手一份的存储机制,区块链其实是对存储资源和能源的一种极大的浪费。 这里还没有加上为了取得所谓的共识和挖矿消耗的巨大的能源,如果说区块链技术是屎,那么这波区块链投机浪潮可谓人类历史上最大规模的搅屎运动。 区块链也验证不了任何东西。 所谓的智能合约,即不智能,也非合约。我看有人还说,如果有了智能合约,就可以跟老板签一份放区块链上,如果明年销售业绩提升30%,就加薪10%,由于区块链不能篡改,不能抵赖,所以老板必须得执行,说得有板有眼,不懂行的愣一看,好像还真是那么回事。 但仔细一想,问题就来了。首先,在区块链上如何证明你真的达到了30%业绩提升?即便真的达到老板耍赖如何执行? 也就是说,如果区块链真这么厉害,要法院和仲裁干什么。 人类社会真正的符合成本效益原则的是代理制度。之前有人说要用区块链改造注册会计师行业,我不知道他准备怎么设计,我猜想他思路大概是这样的,首先肯定搞去中心化,让所有会计师到链上来,然后一个新人要成为注册会计师就要所有会计师同意并记录在链上。 那我就请问了,我每天上班累死累活,为什么还要花时间去验证一个跟我无关的的人的专业能力?最优做法当然是组织一个委员会,让专门的人来负责,这不就是现在注册会师协会干的事儿吗?区块链的逻辑相当于什么事情都要拿出来公投,这个绝对是扯淡的。 当然这么说都有点抬举区块链了,区块链技术本身根本没有判断是非能力,如果这么高级的人工智能,靠一个无脑分布式记账就能实现的话,我们早就进入共产主义社会了。 虽然EOS等数字货币采用了超级节点,通过再中心化的方式提高效率,有点行业协会的意思,是对区块链原教旨主义的一种修正,但是依然无法突破区块链技术最本质的局限性。有人说,私有链和联盟链是区块链技术的未来,也是扯淡,因为区块链技术没有未来。如果有,说明他是包装成区块链的伪区块链技术。 区块链所涉及的所有底层技术,不管是分布式数据库技术,加密技术,还是点对点传输技术等,基本都是早已存在没什么秘密可言的技术。 比特币系统最重要的特性是封闭性和自洽性,他验证不了任何系统自身以外产生的信息的真实性。 所谓系统自身产生的信息,就是数据库数据的变动信息,有价值的基本上有且只有交易信息。所以说比特币最初不过是中本聪一种炫技的产物,来证明自己对几种技术的掌握,你看我多牛逼,设计出了一个像三体一样的系统。因此,数字货币很有可能是区块链从始至终唯一的杀手应用。 比特币和区块链概念从诞生到今天已经快10年了,很多人说区块链技术在爆发的前夜,但这个前夜好像是不是有点过长了啊朋友,跟三体里的长夜有一拼啊。都说区块链技术像是90年代初的互联网,可是90年代初的互联网在十年发展后,已经出现了一大批伟大的公司,阿里巴巴在99年都成立了,区块链怎么除了币还是币呢? 正规的数字货币未来发展的形式无外乎几种,要么就是论坛币形式,或者类似股票的权益凭证等。问题是论坛币和股票之前,本来也都电子化了,区块链来了到底改变了什么呢? 所有想把TOKEN和应用场景结合起来的人最后都很痛苦,最后他们会发现区块链技术就是脱裤子放屁,自己辛苦搞半天,干嘛不自己作为中心关心门来收钱?最后这些人都产生了价值的虚无感,最终精神崩溃,只能发币疯狂收割韭菜,一边嘴里还说着我是个好人之类的奇怪的话。 因此,之前币圈链圈还泾渭分明,互相瞧不起,但这两年链圈逐渐坐不住了,想着是不是趁着泡沫没彻底破灭之前赶快收割一波,不然可能什么都捞不着了。 前段时间和一个名校毕业的链圈朋友瞎聊天,他说他们“致力于用区块链技术解决数字版权保护问题”,我就问他一个问题,你们如何保证你链的版权所有权声明是真实的,万一盗版者抢先一步把数据放在链上怎么办。他说他们的解决方案是连入国家数字版权保护中心的数据库进行验证…… 所以说区块链技术就是个鸡肋,研究到最后都会落入效率与真实性的黑洞,很多人一头扎进链圈后才发现,真正意义上的区块链技术,其实什么都干不了。 -02- 不是蠢就是坏的区块链媒体 空气币和区块链的造富神话,让区块链自媒体也开始迎风乱扭。一群群根本不知道区块链为何物的妖魔鬼怪纷纷进驻区块链自媒体战场,开始大放厥词胡编乱造。 任何东西,但凡只要和区块,链,分,分布式,记账,加密,验证,可追溯等等这些个关键词沾到哪怕一点点,这些所谓的区块链媒体人就会像狗闻到了屎了一样疯狂地把区块链概念往上套。 这让我想起曾经一度也是热闹非凡的物联网,我曾经去看过江苏一家号称要改变世界的“物联网”企业,过去一看是生产路由器的,我黑人问号脸,对方解释说没有路由器万物怎么互联,我觉得他说得好有道理,竟无言以对。 好,下面让我们进入奇葩共赏析时间,来看看区城链媒体经常有哪些危言耸听的奇谈怪论 区块链(分布式记账)的典型应用是*?? 正如前面所说,真正意义上的区块链分布式记账,不光包括“记”这个动作,还包括分布式存储和共识机制等。而*诞生远远早于区块链这个词的出现,勉强算是“分布式编辑”吧,就被很多区块链媒体拿来强行充当区块链技术应用的典范。 其实事实恰恰相反,*恰恰是去中心化失败的典范,现在如果没有精英和专业人士的编辑和维护,*早就没法看了。 区块链会促进社会分工?? 罗振宇好像就说过类似的话,虽然罗振宇说过很多没有逻辑的话,但这句话绝对是最没逻辑思维的。很多区块链自媒体也常常用这句话来忽悠老百姓,说分工代表效率提高社会进步,而区块链“无疑”会促进分工,他们的理由仅仅是分工和分布式记账都共用一个“分”字,就强行把他们扯到一起。 实际情况恰恰相反,区块链是逆分工的,区块链精神是号召所有人积极地参与到他不擅长也不想掺合的事情里面去。 区块链不能像上帝一样许诺他的子民死后上天国,只能给他们许诺你们是六度人脉中的第一级,我可以赚后面五级人的钱,你处于金字塔的顶端。