如何在OA办公自动化系统中实现数据整合与应用探索
一、背景:
我是一家上市总公司内部办公自动化系统的负责产品,主要负责系统的日常需求整理、原型整理以及日常功能支持和跟进。在产品这条路上,有3年的时间,同时,这3年,也均是在现任岗位上。今天分享的问题,更偏重实际,没有更多理论,因为,我本人也还没有理解和整理到理论的高度,只是发现了在实际工作中如何更好的解决而已。
二、问题产生背景:
在日常支持,特别是季度末和年末时,就发现一个问题:各部门和领导,都要提供各种数据,分公司总经理要业绩、签约合同等信息,财务要今年的支出情况,商务要今年的开票情况,等等。这时候,就发现一个问题,每次都是要手动在数据库中关联多张表,并且使用的规则还很复杂,最悲催的是,提供的数据还无法保证一定是对的。这个事情就暴露出办公自动化系统的数据集成和运用问题。
三、应对:
1、实际情况的困难:
1.1办公自动化系统的数据无法集成的问题,是其最大的一个难题。首先这个系统的包含功能来自公司各部门:人力、财务、商务、市场、销售和其他业务部门。因为功能的需求方的不同,因此造成各功能在需求提出时,是不考虑其他部门的信息时,同时,功能是以需求提出者的角度来整理和实现的。这就意味着,功能在一开始由使用者提出时,实际本来就是独立存在的。这就造成了功能产生的数据是分布存在的。其次,以商务、财务、销售等部门提出的功能需求,因其包含合同、库存、资产等阶段性变化的功能,因此,产生的数据必然是阶段性,只有环比等对比, 才可体现。以上情况,造成办公系统的数据是分布和阶段存在的。
1.2但是,这些分布和阶段的数据,却均来自一个公司的内部各合作的部门,也就意味着,系统中的这些数据,在一定程度和方面上,是具有联系的。比如,销售提出要由商务、法务、财务等部门在签订前提前审批的合同文件,意味着在各部门确认并正式签订后,商务会进行归档,同时,后期销售、项目团队等按照合同条款等进行付款、采购、实施时,商务需要及时提供合同内容,并核对是否有必要进行付款、采购,以及在增加成本等操作时,需要有原合同。这就是说,由财务提出的付款流程、商务提出的合同归档功能、销售提出的合同预审功能,在实际工作中,数据是进行传递和贯穿的。
1.3综合以上两点,就是办公软件的最大难题之一:分散和阶段性变化的数据,如何在整个系统中进行传递和集成,并在季度末、年末和公司分析内部发展情况,进行展示和运用。
2、优化建议:
2.1我只是拿所在公司的实际优化方法来为大家解释制定原因和解决的根本问题,以及开展工作中,存在的利弊,并不一定适合大家,但是在目前来看,是最为合理的解决方法。
2.2首先,是优化当前系统中已存在的各功能的数据体现。既然功能是各部门提出的,那各部门内部的数据的流通先整理出来。这是采取的第一步。这一步在我来了公司后,实际已经进行的差不多了,已经是收尾阶段,只是在该部门有新的功能提供时,会要求提供新功能的数据与原功能数据的关联和流通问题。比如2017年人力部门新提出的招聘流程,是从各分公司部门团队领导提出的招聘需求开始,到各部领导审批和人力进行招聘,并约见,反馈结果,直到该员工入职。原来我们系统是有人员从入职开始的环节的,但是并没有入职前的信息。本次加入了招聘环节后,就将其入职流程做了关联。因为,在人力部门里,一个人从招聘面试开始,在期间产生的面试情况,背景调查等,均是有记录的,并与之后的在职期间,与合同等信息,均为一份整体的信息。因此,线上将完成的招聘信息,直接传递到原人力的入职里面,可让人力直接进行入职的相关操作。并在员工的保存信息中,与招聘进行关联,完成线上的员工信息与招聘信息的整体化。
2.3第二步,两两合并两个部门的功能数据传递。个体的问题解决后,就是解决两两部门的合作问题。因为各部门不可能是完全独立的工作,必定对外是有联系的。就像我司员工使用的笔记本等固定资产,就是在IT部门和商务部之间流转的。当公司已有的笔记本无法满足员工使用需求时,就会提出要申请新的笔记本,那这时 ,IT部门会先根据实际需求,核对当前库存中的空闲本是否可以在小更改后,满足员工的使用需求,或者与其他分公司进行调用。若无法满足,就需要IT确认需要重新买本,那这时与相关领导报备后,就要商务部根据IT与提出员工确认的型号去与供应商协定,进行采购。既然采购,商务就要向财务进行报备,财务要作账。在笔记本到货后,商务首先要确认是自己订单中的笔记本,然后IT部门会对笔记本进行技术上的检查,然后再做登记给领用人。以上就是固定资产在实际工作中的流转场景。在这其中,有以下数据是各部门关注的:IT关注的已有笔记本的库存情况、商务关注的需要什么型号、以及商务财务关注的作账的价格。在根据实际场景整理出,流转的数据后,就将对接的环节的数据进行串联。
2.4第三步,模块化整合数据。顾名思义,就是按照整个模块中存在的数据进行整理,而不是按照单个功能或者是相关的几个部门。因为一般到这个进程时,其实系统内部数据的流通已经做的满足当前各部门单独的需求了,无法满足的是管理层分析公司业绩或者出年报时的数据,模块化融合数据的使用对象,也是公司内部的高层管理人员。这些领导其实并不关心底下人过于细致的工作流程以及原因,他们关心的是自己所负责业务的预计结果、实际情况、整体业绩、滚存数据、现金流量等信息,所以要提供给他们的,是模块化的数据,并不是具体数据。之所以把模块化融合数据的原因说这么多,是因为模块化融合数据过程中,要求从高层的角度来看待这些数据,你得明白他们是用来做什么,为什么要这么整理数据。就比如我现在系统中的新签合同信息,单是关于这一个新签合同的维度我们就整理出了5个维度:部门新签统计、销售大区新签、分公司新签、预计新签未回归合同、季度新签。这5个维度是从管理层查看的关于新签订合同的多个数据中,整理出来的5个维度,这个的选择并没有一定的规则,就是我当前负责的系统在整理不同功能的报表时,采用的原则都不一样,但有一点是根本:为你的使用对象负责。这是选择采用的整理方式或者是最终展现形式的根本原则。
2.5第四步,定期与各部门核对数据。这个不难理解,既然有了数据,就要定期核对,毕竟其他数据的展现再完美,数据本身就是有问题的,那一切都没有意义。因为,关于基础数据,都会与相关负责部门进行定期核对。核对方法和时间看实际需要就行,当前我采取的是第个季度初来核对。
2.6第五步,整理提供过的数据,为数据展现作参考。这个措施是个补充。前面在第二步和第三步时,是已经整理过展现的数据的,但是时代在与时俱进,也不可能天天去与领导核对,您最近都要什么数据啊,所以,整理领导让提供的数据,发现其规律,然后整合提供。
2.7以上五步,是我根据我当前负责的系统整理出来的一些建议和方法。若有更好的建议,请指出。
推荐阅读
-
windows下进程间通信的(13种方法)-摘 要 本文讨论了进程间通信与应用程序间通信的含义及相应的实现技术,并对这些技术的原理、特性等进行了深入的分析和比较。 ---- 关键词 信号 管道 消息队列 共享存储段 信号灯 远程过程调用 Socket套接字 MQSeries 1 引言 ---- 进程间通信的主要目的是实现同一计算机系统内部的相互协作的进程之间的数据共享与信息交换,由于这些进程处于同一软件和硬件环境下,利用操作系统提供的的编程接口,用户可以方便地在程序中实现这种通信;应用程序间通信的主要目的是实现不同计算机系统中的相互协作的应用程序之间的数据共享与信息交换,由于应用程序分别运行在不同计算机系统中,它们之间要通过网络之间的协议才能实现数据共享与信息交换。进程间通信和应用程序间通信及相应的实现技术有许多相同之处,也各有自己的特色。即使是同一类型的通信也有多种的实现方法,以适应不同情况的需要。 ---- 为了充分认识和掌握这两种通信及相应的实现技术,本文将就以下几个方面对这两种通信进行深入的讨论:问题的由来、解决问题的策略和方法、每种方法的工作原理和实现、每种实现方法的特点和适用的范围等。 2 进程间的通信及其实现技术 ---- 用户提交给计算机的任务最终都是通过一个个的进程来完成的。在一组并发进程中的任何两个进程之间,如果都不存在公共变量,则称该组进程为不相交的。在不相交的进程组中,每个进程都独立于其它进程,它的运行环境与顺序程序一样,而且它的运行环境也不为别的进程所改变。运行的结果是确定的,不会发生与时间相关的错误。 ---- 但是,在实际中,并发进程的各个进程之间并不是完全互相独立的,它们之间往往存在着相互制约的关系。进程之间的相互制约关系表现为两种方式: ---- (1) 间接相互制约:共享CPU ---- (2) 直接相互制约:竞争和协作 ---- 竞争——进程对共享资源的竞争。为保证进程互斥地访问共享资源,各进程必须互斥地进入各自的临界段。 ---- 协作——进程之间交换数据。为完成一个共同任务而同时运行的一组进程称为同组进程,它们之间必须交换数据,以达到协作完成任务的目的,交换数据可以通知对方可以做某事或者委托对方做某事。 ---- 共享CPU问题由操作系统的进程调度来实现,进程间的竞争和协作由进程间的通信来完成。进程间的通信一般由操作系统提供编程接口,由程序员在程序中实现。UNIX在这个方面可以说最具特色,它提供了一整套进程间的数据共享与信息交换的处理方法——进程通信机制(IPC)。因此,我们就以UNIX为例来分析进程间通信的各种实现技术。 ---- 在UNIX中,文件(File)、信号(Signal)、无名管道(Unnamed Pipes)、有名管道(FIFOs)是传统IPC功能;新的IPC功能包括消息队列(Message queues)、共享存储段(Shared memory segment)和信号灯(Semapores)。 ---- (1) 信号 ---- 信号机制是UNIX为进程中断处理而设置的。它只是一组预定义的值,因此不能用于信息交换,仅用于进程中断控制。例如在发生浮点错、非法内存访问、执行无效指令、某些按键(如ctrl-c、del等)等都会产生一个信号,操作系统就会调用有关的系统调用或用户定义的处理过程来处理。 ---- 信号处理的系统调用是signal,调用形式是: ---- signal(signalno,action) ---- 其中,signalno是规定信号编号的值,action指明当特定的信号发生时所执行的动作。 ---- (2) 无名管道和有名管道 ---- 无名管道实际上是内存中的一个临时存储区,它由系统安全控制,并且独立于创建它的进程的内存区。管道对数据采用先进先出方式管理,并严格按顺序操作,例如不能对管道进行搜索,管道中的信息只能读一次。 ---- 无名管道只能用于两个相互协作的进程之间的通信,并且访问无名管道的进程必须有共同的祖先。 ---- 系统提供了许多标准管道库函数,如: pipe——打开一个可以读写的管道; close——关闭相应的管道; read——从管道中读取字符; write——向管道中写入字符; ---- 有名管道的操作和无名管道类似,不同的地方在于使用有名管道的进程不需要具有共同的祖先,其它进程,只要知道该管道的名字,就可以访问它。管道非常适合进程之间快速交换信息。 ---- (3) 消息队列(MQ) ---- 消息队列是内存中独立于生成它的进程的一段存储区,一旦创建消息队列,任何进程,只要具有正确的的访问权限,都可以访问消息队列,消息队列非常适合于在进程间交换短信息。 ---- 消息队列的每条消息由类型编号来分类,这样接收进程可以选择读取特定的消息类型——这一点与管道不同。消息队列在创建后将一直存在,直到使用msgctl系统调用或iqcrm -q命令删除它为止。 ---- 系统提供了许多有关创建、使用和管理消息队列的系统调用,如: ---- int msgget(key,flag)——创建一个具有flag权限的MQ及其相应的结构,并返回一个唯一的正整数msqid(MQ的标识符); ---- int msgsnd(msqid,msgp,msgsz,msgtyp,flag)——向队列中发送信息; ---- int msgrcv(msqid,cmd,buf)——从队列中接收信息; ---- int msgctl(msqid,cmd,buf)——对MQ的控制操作; ---- (4) 共享存储段(SM) ---- 共享存储段是主存的一部分,它由一个或多个独立的进程共享。各进程的数据段与共享存储段相关联,对每个进程来说,共享存储段有不同的虚拟地址。系统提供的有关SM的系统调用有: ---- int shmget(key,size,flag)——创建大小为size的SM段,其相应的数据结构名为key,并返回共享内存区的标识符shmid; ---- char shmat(shmid,address,flag)——将当前进程数据段的地址赋给shmget所返回的名为shmid的SM段; ---- int shmdr(address)——从进程地址空间删除SM段; ---- int shmctl (shmid,cmd,buf)——对SM的控制操作; ---- SM的大小只受主存限制,SM段的访问及进程间的信息交换可以通过同步读写来完成。同步通常由信号灯来实现。SM非常适合进程之间大量数据的共享。 ---- (5) 信号灯 ---- 在UNIX中,信号灯是一组进程共享的数据结构,当几个进程竞争同一资源时(文件、共享内存或消息队列等),它们的操作便由信号灯来同步,以防止互相干扰。 ---- 信号灯保证了某一时刻只有一个进程访问某一临界资源,所有请求该资源的其它进程都将被挂起,一旦该资源得到释放,系统才允许其它进程访问该资源。信号灯通常配对使用,以便实现资源的加锁和解锁。 ---- 进程间通信的实现技术的特点是:操作系统提供实现机制和编程接口,由用户在程序中实现,保证进程间可以进行快速的信息交换和大量数据的共享。但是,上述方式主要适合在同一台计算机系统内部的进程之间的通信。 3 应用程序间的通信及其实现技术 ---- 同进程之间的相互制约一样,不同的应用程序之间也存在竞争和协作的关系。UNIX操作系统也提供一些可用于应用程序之间实现数据共享与信息交换的编程接口,程序员可以通过自己编程来实现。如远程过程调用和基于TCP/IP协议的套接字(Socket)编程。但是,相对普通程序员来说,它们涉及的技术比较深,编程也比较复杂,实现起来困难较大。 ---- 于是,一种新的技术应运而生——通过将有关通信的细节完全掩盖在某个独立软件内部,即底层的通讯工作和相应的维护管理工作由该软件内部来实现,用户只需要将通信任务提交给该软件去完成,而不必理会它的具体工作过程——这就是所谓的中间件技术。 ---- 我们在这里分别讨论这三种常用的应用程序间通信的实现技术——远程过程调用、会话编程技术和MQSeries消息队列技术。其中远程过程调用和会话编程属于比较低级的方式,程序员参与的程度较深,而MQSeries消息队列则属于比较高级的方式,即中间件方式,程序员参与的程度较浅。 ---- 4.1 远程过程调用(RPC)
-
如何在OA办公自动化系统中实现数据整合与应用探索
-
玩转Java底层:JMX详解 - jconsole与自定义MBean监控工具的实际应用与区别" 在日常JVM调优中,我们熟知的jconsole工具通过JMX包装的bean以图形化形式展示管理数据,而像jstat和jmap这类内建监控工具则由JVM直接支持。本文将以jconsole为例,深入讲解其实质——基于JMX的MBean功能,包括可视化界面上的bean属性查看和操作调用。 MBeans在jconsole中的体现是那些可观察的组件属性和方法,如上图所示,通过名为"Verbose"的属性能看到其值为false,同时还能直接操作该bean的方法,例如"closeJerryMBean"。 尽管jconsole给我们提供了直观的可视化界面,但请注意,这里的MBean并非固定不变,开发者可根据JMX提供的接口将自己的自定义bean展示到jconsole。以下步骤展示了如何创建并注册一个名为"StudyJavaMBean"的自定义MBean: 1. 首先定义接口`StudyJavaMBean`,接口需遵循MBean规范,即后缀为"MBean"且包含getter方法代表属性,如`getApplicationName`,和无返回值的setter方法代表操作,如`closeJerryMBean`。 ```java public interface StudyJavaMBean { String getApplicationName(); void closeJerryMBean(); } ``` 2. 编写接口的实现类`StudyJavaMBeanImpl`,实现接口中的方法: ```java public class StudyJavaMBeanImpl implements StudyJavaMBean { @Override public String getApplicationName() { return "每天学Java"; } @Override public void closeJerryMBean() { System.out.println("关闭Jerry应用"); } } ``` 3. 在代码中注册自定义MBean,涉及的关键步骤包括: - 获取平台MBeanServer - 定义ObjectName,指定唯一的MBean标识符 - 注册MBean到服务器 - 启动RMI连接器服务,以便jconsole能够访问 ```java public void registerMBean() throws Exception { // ... 具体实现省略 ... } ``` 实际运行注册后的MBean,您将在jconsole中发现并查看自定义bean的属性和调用相关方法。然而,这种方式相较于传统的属性/日志查看和HTTP接口,实用性相对有限,可能存在潜在的安全风险。但不可否认的是,JMX及其MBean机制对于获取操作系统信息、内存状态等关键性能指标仍然具有重要价值。例如: 1. **获取操作系统信息**:通过JMX MBean,可以直接获取到诸如CPU使用率、操作系统版本等系统级信息,这对于资源管理和优化工作具有显著帮助。