科技前沿 | 面向“交管12123”App的客户端数据采集关键技术研究(上)

原创 胡杰 朱明 殷磊 道路交通管理杂志社 收录于合集 #科技前沿 11个

随着移动互联网的普及和快速发展,越来越多的用户足不出户就可以使用“交管12123”App在线办理各类交管业务,大大提高了交通管理业务全天候服务水平。面对亿级体量的用户,如何主动掌握用户的使用情况,满足产品快速迭代的需求,成为目前急需解决的问题。本文旨在通过研究客户端数据采集技术,更好地了解产品内在性能和用户使用情况,为整个系统优化提供数据支撑,进一步提升“交管12123”App的用户体验,为提高12123平台服务水平和服务质量创造条件。

“交管12123”App2016年上线,截至2023年6月底,已累计注册个人用户5.1亿个,提供各类服务达51.3亿次,社会经济效益显著。在为广大用户提供稳定服务的同时,“交管12123”App自身版本迭代、优化工作也一直在持续进行,且多为被动式的问题“上报-修改”、建议“反馈-优化”,缺乏主动、有效、准确地分析C端用户的真实使用情况的能力,而且对C端产品质量也缺乏量化的分析数据,为此12123需要研究客户端数据采集技术。数据采集作为数字化运营中最重要的一环,通过采集、分析客户端数据,可以实时跟踪C端产品质量,主动发现问题并预警,及时进行修复和优化,提高App的稳定性和可靠性。本文就基于“交管12123”App的客户端数据采集的总体思路、关键技术进行研究探讨,便于通过分析用户行为数据和反馈信息,增强对用户需求和行为的了解,从而更好地进行产品设计和优化,提高用户体验感和满意度。

一、总体思路

以App前端视角观察整个系统,通过埋点方式搜集App用户终端的行为信息,通过海量数据的统计分析,及时发现问题及优化方向。一是在不影响现有业务逻辑的情况下,以旁路监控数据埋点的方式,采集客户端数据,数据采集尽量与业务逻辑解耦。二是由于终端使用场景复杂且不可控,所以需要使用多种策略尽量提高数据的准确性、完整性和及时性。三是采集的数据要尽可能有效、符合数据分析的需求,同时为了降低传输及存储的资源消耗,单条数据内容要尽可能精简。如图1所示,由“交管12123”手机终端记录数据,然后通过访问部平台APM服务提供的接口上传日志数据,最终部平台通过日志采集分析组件Flume将采集的日志数据聚合、分析后存储至大数据平台HBase、MPPDB等数据库中。

图1 总体构架

二、关键技术

原标题:《科技前沿 | 面向“交管12123”App的客户端数据采集关键技术研究(上)》