Skip to content
文档中心
运维指南/上线优化指南/上线优化和运维

上线优化和运维 ​

本章节介绍主数据管理平台7.3.0的上线优化和运维策略。系统的稳定运行离不开规范的运维管理,本章将详细介绍安全配置、日常运维检查清单、性能调优参数配置以及备份恢复策略,帮助运维人员保障主数据平台的稳定运行。

安全配置 ​

为确保系统安全运行,正式上线前,请完成如下步骤:

  1. 安全配置:根据如下配置说明,完成所有必需的安全配置项
  2. 安全测试:至少开展一次全面的Web应用安全扫描,识别并修复潜在的安全漏洞

系统安全配置 ​

开启Redis安全认证 ​

在 Redis 配置文件 redis.conf 中设置一个全局密码,所有连接都需要使用该密码进行身份验证。

配置示例:

properties
requirepass your_redis_password

最佳实践:

  • 密码应使用强密码策略,定期更换
  • 确保应用配置中的Redis密码与配置文件一致

开启Nacos安全认证 ​

默认情况下,Nacos 实例没有开启认证,所有请求都允许访问。您需要在 Nacos 配置文件中进行设置。

最佳实践:

HTTPS配置 ​

开启HTTPS,通过HTTPS协议访问服务器。

最佳实践:

  • 使用有效的SSL证书
  • 定期检查证书有效期
  • 配置HTTP到HTTPS的重定向

Nginx配置禁止使用iframe嵌套 ​

防止Clickjacking攻击。

配置示例:

nginx
server {
    location / {
        # 禁止使用 iframe 嵌入网站
        add_header X-Frame-Options DENY;
    }
}

应用安全配置 ​

生产环境配置 ​

在application.properties文件中添加或修改如下配置:

properties
eos.profiles.active=prod

关闭Swagger ​

在user-config.xml文件中,将Swagger相关接口从白名单中移除:

<!-- 从 Login-Filter > Exclude 中移除 -->
/swagger-ui.html,/v2/api-docs,/webjars/*,/swagger-resources/*

移除SDK白名单接口 ​

在user-config.xml文件中,将SDK接口从白名单中移除:

<!-- 从 Login-Filter > Exclude 中移除 -->
/api/afc/afc-proxy/*

跨域配置 ​

系统上线后,可能会存在跨域攻击的风险,因此要规避这些风险。

在application.properties文件中配置允许的域名:

properties
afc.cros_allowed_origins=demo1.com,demo2.com

最佳实践:

  • 只配置必要的域名
  • 多个域名之间使用逗号分隔

关闭Sentinel ​

如果没有使用Sentinel,则需要在应用的application.properties文件中配置:

properties
spring.cloud.sentinel.enabled=false

上传文件配置 ​

在application-afc.properties文件中配置上传文件类型白名单和黑名单:

properties
# 允许上传的文件类型
afc.attachments.allow-file-types=txt,zip,pdf,md,jpg,jpeg,png,gif,docx,doc,xlsx,pptx,mp3,mp4,wav,mov

# 不允许上传的文件类型(安全风险文件)
afc.attachments.not-allow-file-types=exe,msi,bat,cmd,sh,ps1,jar,py,rb,php,jsp,asp,aspx,cgi,pl,dll,sys,so,class,swf,sql,db,sqlite,mdb,accdb,ini,reg,config,env,htaccess,htpasswd

# 允许上传的最大文件大小(字节)
afc.attachments.file-max-size=52428800

关闭Actuator ​

在user-config.xml文件中,将actuator接口从白名单中移除:

<!-- 从 Login-Filter > Exclude 中移除 -->
/actuator/*

XXL-JOB访问Token配置 ​

应用端(执行器)的application-job.properties文件中配置:

properties
afc.job.executor.accessToken=accessToken-XXXXX

AFCenter(调度中心)的application-job.properties文件中配置:

properties
afc.job.accessToken=accessToken-XXXXX

注意:accessToken-XXXXX需要自定义,保证AFCenter和应用配置一致。

开启接口防篡改 ​

在Nginx配置中开启接口防篡改能力:

nginx
map $uri $enable_vd {
    ~^/api/lowcode/debugs/breakpoints/actions/shutdown$ "";
    ~^/api/bfp/framework/workbench/contexts/handle/process/[0-9]+$ "";
    # ... 其他白名单路径
    default "true";
}

# 开启防篡改的请求头开关
proxy_set_header enableVD $enable_vd;

将map配置中的default "false"改为default "true"即可开启。

业务安全配置 ​

系统管理员密码修改 ​

修改admin/sysadmin内置用户的默认密码。

登录安全设置 ​

在应用中心里,支持对登录进行安全配置:

密码策略:

  • 密码长度设置
  • 密码格式定义
  • 密码强制修改周期
  • 初始密码强制修改

锁定策略:

  • 连续错误次数锁定
  • 锁定时长
  • 长期不登录自动锁定

多端控制:

  • 是否允许同一账号多地登录
  • 是否允许不同类型终端同时登录

最佳实践:

  • 生产环境建议启用密码策略
  • 对特殊账号(如超管)配置白名单

性能调优 ​

为确保系统稳定运行,正式上线前,请完成如下步骤:

  1. 性能调优:根据如下配置说明,完成性能调优配置
  2. 性能测试:根据系统压力情况针对性开展相关测试

系统关键参数配置 ​

设置操作系统的open-files大小 ​

  1. 通过ulimit -a命令查看当前系统的open files大小
  2. 执行vim /etc/security/limits.conf命令配置以下内容:
sh
root soft nofile 65536
root hard nofile 65536

最佳实践:

  • 修改后需要注销用户重新登录才能生效
  • 根据并发量调整该值

JVM关键参数配置 ​

检查启动脚本(bin/startup.sh),根据实际需要情况修改JVM内存和GC策略。以下是启动脚本的示例配置。

shell
# ParNew+CMS配置(适用于堆内存<4G)
export EOS_DAP_MEM_OPTS="-Xms1024m -Xmx4096m -Xmn256m"
export JAVA_OPTS="$JAVA_OPTS -XX:+UseParNewGC -XX:ParallelGCThreads=4 -XX:MaxTenuringThreshold=9 -XX:+UseConcMarkSweepGC"

# G1GC配置(适用于堆内存>=4G)
# export EOS_DAP_MEM_OPTS="-Xms4g -Xmx8g -Xmn2g"
# export JAVA_OPTS="$JAVA_OPTS -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=2"

参数说明:

参数说明
-Xms初始堆大小
-Xmx最大堆大小
-Xmn年轻代大小(建议为堆内存的1/3到1/2)
-XX:+UseParNewGC使用ParNew垃圾收集器(配合CMS使用)
-XX:+UseConcMarkSweepGC使用CMS垃圾收集器
-XX:+UseG1GC使用G1垃圾收集器
-XX:ParallelGCThreads并行GC线程数(建议为CPU核心数)
-XX:ConcGCThreads并发GC线程数(建议为CPU核心数的1/4)
-XX:MaxGCPauseMillisG1GC最大停顿时间目标(毫秒)

不同场景配置建议:

场景用户量并发量堆内存(-Xms/-Xmx)年轻代(-Xmn)GC策略适用环境
小型系统<100<201g-2g512m-1gParNew+CMS开发/测试环境
中型系统100-50020-1002g-4g1g-2gParNew+CMS普通生产环境
大型系统500-2000100-5004g-8g2g-4gG1GC重要生产环境
超大型系统>2000>5008g-16g3g-6gG1GC核心业务系统

注:以上配置为主数据管理平台单实例的推荐值。平台本身有一定的基础内存开销,为保证平台中的各个组件能够正常运行,小型系统建议从2g起步。实际配置还需根据数据量、用户量、并发量等因素调整。

GC策略选择:

GC策略优点缺点适用场景
ParNew+CMS响应时间快,适合Web应用会产生内存碎片堆内存<4G,并发量中等
G1GC吞吐量高,可预测停顿内存占用略高堆内存>=4G,吞吐量优先

最佳实践:

  • -Xms和-Xmx设置相同值,避免动态调整
  • 年轻代大小建议为堆内存的1/3到1/2
  • 堆内存>=4G时建议使用G1GC
  • 建议配置GC日志,便于问题排查:-Xloggc:/path/to/gc.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps

数据库关键参数配置 ​

修改user-config.xml文件:

xml
<group name="default">
    <configValue key="Database-Type">MySql</configValue>
    <configValue key="C3p0-DriverClass">com.mysql.jdbc.Driver</configValue>
    <configValue key="C3p0-Url">jdbc:mysql://127.0.0.1:3306/demo?characterEncoding=utf-8&amp;serverTimezone=Asia/Shanghai&amp;useSSL=false</configValue>
    <configValue key="C3p0-UserName">root</configValue>
    <configValue key="C3p0-Password">root</configValue>

    <!-- 初始连接数 -->
    <configValue key="C3p0-PoolSize">200</configValue>
    <!-- 最小连接数 -->
    <configValue key="C3p0-MinPoolSize">200</configValue>
    <!-- 最大连接数 -->
    <configValue key="C3p0-MaxPoolSize">300</configValue>
    <!-- 最大空闲时间,单位秒 -->
    <configValue key="C3p0-MaxIdleTime">600</configValue>
    <!-- 空闲监测周期,单位秒 -->
    <configValue key="C3p0-IdleConnectionTestPeriod">900</configValue>
    <!-- 辅助线程数 -->
    <configValue key="C3p0-NumHelperThreads">5</configValue>
    <!-- PreparedStatement缓存 -->
    <configValue key="C3p0-MaxStatements">0</configValue>
    <!-- 获取连接超时时间,单位毫秒 -->
    <configValue key="C3p0.checkoutTimeout">3000</configValue>
    <!-- 连接测试SQL -->
    <configValue key="Test-Connect-Sql">SELECT 1</configValue>
</group>

并发量与连接数对照表:

场景并发量PoolSizeMinPoolSizeMaxPoolSize
小型系统<20201030
中型系统20-1005030100
大型系统100-50010050200
超大型系统>500200100300

应用关键参数配置 ​

Web容器线程配置 ​

在application.properties文件中配置:

properties
# 请求队列大小
server.app-server.accept-count=1000
# 最大线程数
server.app-server.max-threads=500
# 最小空闲线程数
server.app-server.min-spare-threads=100
# 最大并发连接数
server.app-server.max-connections=500
# 连接超时时间,单位ms
server.app-server.connection-timeout=10000

日志配置 ​

修改logback-spring.xml文件,调整日志级别:

xml
<property name="EOS_ENGINE_LOG_LEVEL" value="ERROR"/>
<property name="EOS_TRACE_LOG_LEVEL" value="ERROR"/>
<property name="EOS_SQL_LOG_LEVEL" value="ERROR"/>
<property name="EOS_SYS_LOG_LEVEL" value="ERROR"/>
<property name="EOS_DAP_APP_LOG_LEVEL" value="ERROR"/>
<property name="EOS_DAP_TRACE_LOG_LEVEL" value="ERROR"/>

最佳实践:

  • 生产环境建议设置为ERROR级别
  • 调试阶段可设置为INFO或DEBUG

序列号生成器缓冲池大小 ​

当每秒会向数据库中插入大量数据时,需要将序列号生成器的缓冲池大小改大。

修改sys-config.xml文件:

xml
<group name="PoolSize">
    <configValue key="PoolSize">10000</configValue>
</group>

关闭统计监控 ​

修改user-config.xml文件中各group的Status值为close:

xml
<module name="Statistic">
    <group name="Bizflow">
        <configValue key="Status">close</configValue>
    </group>
    <group name="Pageflow">
        <configValue key="Status">close</configValue>
    </group>
    <group name="Sql">
        <configValue key="Status">close</configValue>
    </group>
    <group name="Service">
        <configValue key="Status">close</configValue>
    </group>
    <group name="EOSService">
        <configValue key="Status">close</configValue>
    </group>
</module>

BPS调优配置 ​

如果系统使用了流程引擎(BPS),需要进行以下配置优化。

BPS日志配置:

修改logback-spring.xml文件,在BPS日志级别配置中添加:

xml
<property name="EOS_WF_AUDIT_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_SYS_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_MESSAGE_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_REQUEST_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_SOL_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_MON_TX_LOG_LEVEL" value="ERROR"/>

BPS引擎配置:

将BPS运行参数配置中的实例缓存最大节点数和代理缓存最大节点数改大。

修改/config/BPS-SERVER/config/wfengine-config.xml文件:

xml
<module name="wfcluster">
    <group name="wfcache">
        <!-- 引擎集群通知开关 -->
        <configValue key="enable">false</configValue>
        <!-- 流程实例缓存的实例数上限 -->
        <configValue key="inst_cache_max_nodes">20000</configValue>
        <!-- 代理关系缓存的实例数上限 -->
        <configValue key="agent_cache_max_nodes">20000</configValue>
        <configValue key="auto_delete_processinst">true</configValue>
        <configValue key="always_persistent_processinst">false</configValue>
        <configValue key="always_persistent_activityinst">false</configValue>
    </group>
</module>

参数说明:

参数说明推荐值
inst_cache_max_nodes流程实例缓存的实例数上限10000-50000
agent_cache_max_nodes代理关系缓存的实例数上限10000-50000
auto_delete_processinst是否自动删除流程实例true
always_persistent_processinst是否强制持久化流程实例false
always_persistent_activityinst是否强制持久化活动实例false

注:如果系统流程并发量较大,建议适当增大缓存节点数,避免频繁从数据库加载流程数据。

业务调优建议 ​

  1. 使用数据库索引:在表单设置的多个实体关联处增加数据库索引提高性能

  2. 避免循环中操作数据库:后台代码不要在循环中进行数据库操作,应将数据库操作放在循环外部

  3. 大表查询优化:

    • 超过百万条记录的大表避免使用count、distinct、group by
    • 查询所有数据必须分页
    • 避免SELECT *,只查询必要字段
  4. 避免全表扫描:查询时使用索引字段作为查询条件,避免不带WHERE条件的全表扫描

  5. 批量操作优化:批量插入/更新时使用批量API,减少数据库交互次数

日常运维检查清单 ​

系统健康检查 ​

服务器及进程状态检查 ​

检查项检查方法正常标准建议频率
主数据服务进程`ps -efgrep mdm`进程存在
端口监听`ss -tlnpgrep 28090或lsof -i:28090`端口监听正常
CPU/内存使用`top -bn1head -20`CPU<80%,内存<80%
磁盘空间df -h使用率<85%每日
日志文件大小ls -lh ${MDM_HOME}/logs/*.log无异常增大每日

数据库健康检查 ​

检查项检查方法正常标准建议频率
连接数show status like 'Threads_connected'小于max_connections的80%每日
慢查询show variables like 'slow_query_log%';无长时间运行查询每周
死锁show engine innodb status无死锁每日
表空间SELECT TABLE_NAME, ROUND(DATA_LENGTH/1024/1024,2) AS MB FROM information_schema.TABLES WHERE TABLE_SCHEMA='mdm';无异常增长每周

主数据平台检查 ​

审计日志检查 ​

检查项检查方法正常标准
操作日志在操作日志页面中检查是否有异常的操作行为无异常操作
数据日志在数据日志页面中检查是否有操作失败的记录,查看原因无不合理的失败记录

数据订阅检查 ​

检查项检查方法正常标准
推送任务检查MDM_PUSH_TASK表无异常堆积
推送日志检查推送日志,是否有失败记录失败率<1%
订阅配置检查订阅系统状态全部在线

数据采集检查 ​

检查项检查方法正常标准
作业流调度检查调度任务执行状态,是否有执行失败的情况调度任务执行成功
问题数据检查调度任务执行结果,是否有采集失败的数据无采集失败的数据

数据质量检查 ​

检查项检查方法正常标准
检核任务检查最近执行状态,是否有执行失败的情况检核任务执行成功
问题数据查询检核结果中的问题数据检核结果中无问题数据

备份与恢复策略 ​

备份策略 ​

数据库备份 ​

备份类型频率保留时间备份方式
全量备份每周一次30天mysqldump
增量备份每日一次7天binlog
实时备份持续-主从复制

文件备份 ​

路径说明备份频率
${MDM_HOME}/config/配置文件每次更新补丁
${MDM_HOME}/lib/扩展JAR包每次更新补丁
${MDM_HOME}/baseline/基线包每次更新补丁
${MDM_HOME}/logs/日志文件每月归档

恢复策略 ​

数据库恢复 ​

全量恢复:

bash
# 停止MDM服务

# 恢复全量备份
mysql -u${MYSQL_USER} -p${MYSQL_PASSWORD} mdm < mdm_full_backup.sql
mysql -u${MYSQL_USER} -p${MYSQL_PASSWORD} mdm_pub < mdm_pub_full_backup.sql

# 启动MDM服务

Point-in-Time恢复:

bash
# 基于binlog恢复到指定时间点
mysqlbinlog --stop-datetime="2024-01-15 10:00:00" \
    mysql-bin.000001 | mysql -u${MYSQL_USER} -p${MYSQL_PASSWORD} mdm

文件恢复 ​

使用备份的文件,替换需要恢复的文件目录。

常见问题排查指南 ​

服务启动失败 ​

排查步骤:

  1. 查看启动日志中的具体错误信息
  2. 检查端口是否被占用:netstat -an | grep 28090
  3. 检查数据库连接:mysql -hlocalhost -uuser -ppass -e "SELECT 1"
  4. 检查license文件是否有效

数据查询缓慢 ​

排查步骤:

  1. 检查是否有慢查询:show processlist
  2. 分析对应查询SQL的执行计划:EXPLAIN SELECT ...
  3. 检查索引是否合理,如有需要,为查询条件字段增加索引
  4. 检查数据是否需要归档

推送失败或未推送 ​

排查步骤:

  1. 检查订阅系统配置是否正确
  2. 测试网络连通性:telnet host port
  3. 检查下游系统服务状态
  4. 查看推送日志中的具体错误
  5. 检查推送队列是否有堆积
  6. 验证报文格式是否符合下游要求

内存溢出 ​

排查步骤:

  1. 查看GC日志分析内存使用情况
  2. 使用jmap生成堆转储:jmap -dump:format=b,file=heap.hprof <pid>
  3. 使用MAT分析堆转储文件
  4. 检查是否存在内存泄漏
  5. 调整JVM参数增加堆内存

运维最佳实践总结 ​

  1. 建立运维规范:制定标准化的运维流程和操作手册
  2. 自动化运维:使用脚本和工具实现日常任务自动化
  3. 预防性维护:定期进行健康检查和问题排查
  4. 容量规划:根据业务增长提前规划资源
  5. 应急响应:建立故障应急响应机制和预案
  6. 持续监控:保持7x24小时系统监控
  7. 定期演练:定期进行灾难恢复演练
  8. 知识积累:记录问题处理经验,形成知识库

本章小结 ​

本章介绍了上线优化和运维策略,包括安全配置、性能调优(JVM/数据库/应用参数)、日常运维检查清单(系统/数据库/平台)、备份恢复策略及常见问题排查。遵循最佳实践可保障系统稳定运行。