上线优化和运维
本章节介绍主数据管理平台7.3.0的上线优化和运维策略。系统的稳定运行离不开规范的运维管理,本章将详细介绍安全配置、日常运维检查清单、性能调优参数配置以及备份恢复策略,帮助运维人员保障主数据平台的稳定运行。
安全配置
为确保系统安全运行,正式上线前,请完成如下步骤:
- 安全配置:根据如下配置说明,完成所有必需的安全配置项
- 安全测试:至少开展一次全面的Web应用安全扫描,识别并修复潜在的安全漏洞
系统安全配置
开启Redis安全认证
在 Redis 配置文件 redis.conf 中设置一个全局密码,所有连接都需要使用该密码进行身份验证。
配置示例:
requirepass your_redis_password最佳实践:
- 密码应使用强密码策略,定期更换
- 确保应用配置中的Redis密码与配置文件一致
开启Nacos安全认证
默认情况下,Nacos 实例没有开启认证,所有请求都允许访问。您需要在 Nacos 配置文件中进行设置。
最佳实践:
- 生产环境必须开启Nacos认证
- 配置用户名和密码
- 参考:https://nacos.io/docs/v2/guide/user/auth/
HTTPS配置
开启HTTPS,通过HTTPS协议访问服务器。
最佳实践:
- 使用有效的SSL证书
- 定期检查证书有效期
- 配置HTTP到HTTPS的重定向
Nginx配置禁止使用iframe嵌套
防止Clickjacking攻击。
配置示例:
server {
location / {
# 禁止使用 iframe 嵌入网站
add_header X-Frame-Options DENY;
}
}应用安全配置
生产环境配置
在application.properties文件中添加或修改如下配置:
eos.profiles.active=prod关闭Swagger
在user-config.xml文件中,将Swagger相关接口从白名单中移除:
<!-- 从 Login-Filter > Exclude 中移除 -->
/swagger-ui.html,/v2/api-docs,/webjars/*,/swagger-resources/*移除SDK白名单接口
在user-config.xml文件中,将SDK接口从白名单中移除:
<!-- 从 Login-Filter > Exclude 中移除 -->
/api/afc/afc-proxy/*跨域配置
系统上线后,可能会存在跨域攻击的风险,因此要规避这些风险。
在application.properties文件中配置允许的域名:
afc.cros_allowed_origins=demo1.com,demo2.com最佳实践:
- 只配置必要的域名
- 多个域名之间使用逗号分隔
关闭Sentinel
如果没有使用Sentinel,则需要在应用的application.properties文件中配置:
spring.cloud.sentinel.enabled=false上传文件配置
在application-afc.properties文件中配置上传文件类型白名单和黑名单:
# 允许上传的文件类型
afc.attachments.allow-file-types=txt,zip,pdf,md,jpg,jpeg,png,gif,docx,doc,xlsx,pptx,mp3,mp4,wav,mov
# 不允许上传的文件类型(安全风险文件)
afc.attachments.not-allow-file-types=exe,msi,bat,cmd,sh,ps1,jar,py,rb,php,jsp,asp,aspx,cgi,pl,dll,sys,so,class,swf,sql,db,sqlite,mdb,accdb,ini,reg,config,env,htaccess,htpasswd
# 允许上传的最大文件大小(字节)
afc.attachments.file-max-size=52428800关闭Actuator
在user-config.xml文件中,将actuator接口从白名单中移除:
<!-- 从 Login-Filter > Exclude 中移除 -->
/actuator/*XXL-JOB访问Token配置
应用端(执行器)的application-job.properties文件中配置:
afc.job.executor.accessToken=accessToken-XXXXXAFCenter(调度中心)的application-job.properties文件中配置:
afc.job.accessToken=accessToken-XXXXX注意:accessToken-XXXXX需要自定义,保证AFCenter和应用配置一致。
开启接口防篡改
在Nginx配置中开启接口防篡改能力:
map $uri $enable_vd {
~^/api/lowcode/debugs/breakpoints/actions/shutdown$ "";
~^/api/bfp/framework/workbench/contexts/handle/process/[0-9]+$ "";
# ... 其他白名单路径
default "true";
}
# 开启防篡改的请求头开关
proxy_set_header enableVD $enable_vd;将map配置中的default "false"改为default "true"即可开启。
业务安全配置
系统管理员密码修改
修改admin/sysadmin内置用户的默认密码。
登录安全设置
在应用中心里,支持对登录进行安全配置:
密码策略:
- 密码长度设置
- 密码格式定义
- 密码强制修改周期
- 初始密码强制修改
锁定策略:
- 连续错误次数锁定
- 锁定时长
- 长期不登录自动锁定
多端控制:
- 是否允许同一账号多地登录
- 是否允许不同类型终端同时登录
最佳实践:
- 生产环境建议启用密码策略
- 对特殊账号(如超管)配置白名单
性能调优
为确保系统稳定运行,正式上线前,请完成如下步骤:
- 性能调优:根据如下配置说明,完成性能调优配置
- 性能测试:根据系统压力情况针对性开展相关测试
系统关键参数配置
设置操作系统的open-files大小
- 通过
ulimit -a命令查看当前系统的open files大小 - 执行
vim /etc/security/limits.conf命令配置以下内容:
root soft nofile 65536
root hard nofile 65536最佳实践:
- 修改后需要注销用户重新登录才能生效
- 根据并发量调整该值
JVM关键参数配置
检查启动脚本(bin/startup.sh),根据实际需要情况修改JVM内存和GC策略。以下是启动脚本的示例配置。
# ParNew+CMS配置(适用于堆内存<4G)
export EOS_DAP_MEM_OPTS="-Xms1024m -Xmx4096m -Xmn256m"
export JAVA_OPTS="$JAVA_OPTS -XX:+UseParNewGC -XX:ParallelGCThreads=4 -XX:MaxTenuringThreshold=9 -XX:+UseConcMarkSweepGC"
# G1GC配置(适用于堆内存>=4G)
# export EOS_DAP_MEM_OPTS="-Xms4g -Xmx8g -Xmn2g"
# export JAVA_OPTS="$JAVA_OPTS -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=2"参数说明:
| 参数 | 说明 |
|---|---|
| -Xms | 初始堆大小 |
| -Xmx | 最大堆大小 |
| -Xmn | 年轻代大小(建议为堆内存的1/3到1/2) |
| -XX:+UseParNewGC | 使用ParNew垃圾收集器(配合CMS使用) |
| -XX:+UseConcMarkSweepGC | 使用CMS垃圾收集器 |
| -XX:+UseG1GC | 使用G1垃圾收集器 |
| -XX:ParallelGCThreads | 并行GC线程数(建议为CPU核心数) |
| -XX:ConcGCThreads | 并发GC线程数(建议为CPU核心数的1/4) |
| -XX:MaxGCPauseMillis | G1GC最大停顿时间目标(毫秒) |
不同场景配置建议:
| 场景 | 用户量 | 并发量 | 堆内存(-Xms/-Xmx) | 年轻代(-Xmn) | GC策略 | 适用环境 |
|---|---|---|---|---|---|---|
| 小型系统 | <100 | <20 | 1g-2g | 512m-1g | ParNew+CMS | 开发/测试环境 |
| 中型系统 | 100-500 | 20-100 | 2g-4g | 1g-2g | ParNew+CMS | 普通生产环境 |
| 大型系统 | 500-2000 | 100-500 | 4g-8g | 2g-4g | G1GC | 重要生产环境 |
| 超大型系统 | >2000 | >500 | 8g-16g | 3g-6g | G1GC | 核心业务系统 |
注:以上配置为主数据管理平台单实例的推荐值。平台本身有一定的基础内存开销,为保证平台中的各个组件能够正常运行,小型系统建议从2g起步。实际配置还需根据数据量、用户量、并发量等因素调整。
GC策略选择:
| GC策略 | 优点 | 缺点 | 适用场景 |
|---|---|---|---|
| ParNew+CMS | 响应时间快,适合Web应用 | 会产生内存碎片 | 堆内存<4G,并发量中等 |
| G1GC | 吞吐量高,可预测停顿 | 内存占用略高 | 堆内存>=4G,吞吐量优先 |
最佳实践:
- -Xms和-Xmx设置相同值,避免动态调整
- 年轻代大小建议为堆内存的1/3到1/2
- 堆内存>=4G时建议使用G1GC
- 建议配置GC日志,便于问题排查:
-Xloggc:/path/to/gc.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps
数据库关键参数配置
修改user-config.xml文件:
<group name="default">
<configValue key="Database-Type">MySql</configValue>
<configValue key="C3p0-DriverClass">com.mysql.jdbc.Driver</configValue>
<configValue key="C3p0-Url">jdbc:mysql://127.0.0.1:3306/demo?characterEncoding=utf-8&serverTimezone=Asia/Shanghai&useSSL=false</configValue>
<configValue key="C3p0-UserName">root</configValue>
<configValue key="C3p0-Password">root</configValue>
<!-- 初始连接数 -->
<configValue key="C3p0-PoolSize">200</configValue>
<!-- 最小连接数 -->
<configValue key="C3p0-MinPoolSize">200</configValue>
<!-- 最大连接数 -->
<configValue key="C3p0-MaxPoolSize">300</configValue>
<!-- 最大空闲时间,单位秒 -->
<configValue key="C3p0-MaxIdleTime">600</configValue>
<!-- 空闲监测周期,单位秒 -->
<configValue key="C3p0-IdleConnectionTestPeriod">900</configValue>
<!-- 辅助线程数 -->
<configValue key="C3p0-NumHelperThreads">5</configValue>
<!-- PreparedStatement缓存 -->
<configValue key="C3p0-MaxStatements">0</configValue>
<!-- 获取连接超时时间,单位毫秒 -->
<configValue key="C3p0.checkoutTimeout">3000</configValue>
<!-- 连接测试SQL -->
<configValue key="Test-Connect-Sql">SELECT 1</configValue>
</group>并发量与连接数对照表:
| 场景 | 并发量 | PoolSize | MinPoolSize | MaxPoolSize |
|---|---|---|---|---|
| 小型系统 | <20 | 20 | 10 | 30 |
| 中型系统 | 20-100 | 50 | 30 | 100 |
| 大型系统 | 100-500 | 100 | 50 | 200 |
| 超大型系统 | >500 | 200 | 100 | 300 |
应用关键参数配置
Web容器线程配置
在application.properties文件中配置:
# 请求队列大小
server.app-server.accept-count=1000
# 最大线程数
server.app-server.max-threads=500
# 最小空闲线程数
server.app-server.min-spare-threads=100
# 最大并发连接数
server.app-server.max-connections=500
# 连接超时时间,单位ms
server.app-server.connection-timeout=10000日志配置
修改logback-spring.xml文件,调整日志级别:
<property name="EOS_ENGINE_LOG_LEVEL" value="ERROR"/>
<property name="EOS_TRACE_LOG_LEVEL" value="ERROR"/>
<property name="EOS_SQL_LOG_LEVEL" value="ERROR"/>
<property name="EOS_SYS_LOG_LEVEL" value="ERROR"/>
<property name="EOS_DAP_APP_LOG_LEVEL" value="ERROR"/>
<property name="EOS_DAP_TRACE_LOG_LEVEL" value="ERROR"/>最佳实践:
- 生产环境建议设置为ERROR级别
- 调试阶段可设置为INFO或DEBUG
序列号生成器缓冲池大小
当每秒会向数据库中插入大量数据时,需要将序列号生成器的缓冲池大小改大。
修改sys-config.xml文件:
<group name="PoolSize">
<configValue key="PoolSize">10000</configValue>
</group>关闭统计监控
修改user-config.xml文件中各group的Status值为close:
<module name="Statistic">
<group name="Bizflow">
<configValue key="Status">close</configValue>
</group>
<group name="Pageflow">
<configValue key="Status">close</configValue>
</group>
<group name="Sql">
<configValue key="Status">close</configValue>
</group>
<group name="Service">
<configValue key="Status">close</configValue>
</group>
<group name="EOSService">
<configValue key="Status">close</configValue>
</group>
</module>BPS调优配置
如果系统使用了流程引擎(BPS),需要进行以下配置优化。
BPS日志配置:
修改logback-spring.xml文件,在BPS日志级别配置中添加:
<property name="EOS_WF_AUDIT_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_SYS_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_MESSAGE_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_REQUEST_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_SOL_LOG_LEVEL" value="ERROR"/>
<property name="EOS_WF_MON_TX_LOG_LEVEL" value="ERROR"/>BPS引擎配置:
将BPS运行参数配置中的实例缓存最大节点数和代理缓存最大节点数改大。
修改/config/BPS-SERVER/config/wfengine-config.xml文件:
<module name="wfcluster">
<group name="wfcache">
<!-- 引擎集群通知开关 -->
<configValue key="enable">false</configValue>
<!-- 流程实例缓存的实例数上限 -->
<configValue key="inst_cache_max_nodes">20000</configValue>
<!-- 代理关系缓存的实例数上限 -->
<configValue key="agent_cache_max_nodes">20000</configValue>
<configValue key="auto_delete_processinst">true</configValue>
<configValue key="always_persistent_processinst">false</configValue>
<configValue key="always_persistent_activityinst">false</configValue>
</group>
</module>参数说明:
| 参数 | 说明 | 推荐值 |
|---|---|---|
| inst_cache_max_nodes | 流程实例缓存的实例数上限 | 10000-50000 |
| agent_cache_max_nodes | 代理关系缓存的实例数上限 | 10000-50000 |
| auto_delete_processinst | 是否自动删除流程实例 | true |
| always_persistent_processinst | 是否强制持久化流程实例 | false |
| always_persistent_activityinst | 是否强制持久化活动实例 | false |
注:如果系统流程并发量较大,建议适当增大缓存节点数,避免频繁从数据库加载流程数据。
业务调优建议
使用数据库索引:在表单设置的多个实体关联处增加数据库索引提高性能
避免循环中操作数据库:后台代码不要在循环中进行数据库操作,应将数据库操作放在循环外部
大表查询优化:
- 超过百万条记录的大表避免使用count、distinct、group by
- 查询所有数据必须分页
- 避免SELECT *,只查询必要字段
避免全表扫描:查询时使用索引字段作为查询条件,避免不带WHERE条件的全表扫描
批量操作优化:批量插入/更新时使用批量API,减少数据库交互次数
日常运维检查清单
系统健康检查
服务器及进程状态检查
| 检查项 | 检查方法 | 正常标准 | 建议频率 |
|---|---|---|---|
| 主数据服务进程 | `ps -ef | grep mdm` | 进程存在 |
| 端口监听 | `ss -tlnp | grep 28090或lsof -i:28090` | 端口监听正常 |
| CPU/内存使用 | `top -bn1 | head -20` | CPU<80%,内存<80% |
| 磁盘空间 | df -h | 使用率<85% | 每日 |
| 日志文件大小 | ls -lh ${MDM_HOME}/logs/*.log | 无异常增大 | 每日 |
数据库健康检查
| 检查项 | 检查方法 | 正常标准 | 建议频率 |
|---|---|---|---|
| 连接数 | show status like 'Threads_connected' | 小于max_connections的80% | 每日 |
| 慢查询 | show variables like 'slow_query_log%'; | 无长时间运行查询 | 每周 |
| 死锁 | show engine innodb status | 无死锁 | 每日 |
| 表空间 | SELECT TABLE_NAME, ROUND(DATA_LENGTH/1024/1024,2) AS MB FROM information_schema.TABLES WHERE TABLE_SCHEMA='mdm'; | 无异常增长 | 每周 |
主数据平台检查
审计日志检查
| 检查项 | 检查方法 | 正常标准 |
|---|---|---|
| 操作日志 | 在操作日志页面中检查是否有异常的操作行为 | 无异常操作 |
| 数据日志 | 在数据日志页面中检查是否有操作失败的记录,查看原因 | 无不合理的失败记录 |
数据订阅检查
| 检查项 | 检查方法 | 正常标准 |
|---|---|---|
| 推送任务 | 检查MDM_PUSH_TASK表 | 无异常堆积 |
| 推送日志 | 检查推送日志,是否有失败记录 | 失败率<1% |
| 订阅配置 | 检查订阅系统状态 | 全部在线 |
数据采集检查
| 检查项 | 检查方法 | 正常标准 |
|---|---|---|
| 作业流调度 | 检查调度任务执行状态,是否有执行失败的情况 | 调度任务执行成功 |
| 问题数据 | 检查调度任务执行结果,是否有采集失败的数据 | 无采集失败的数据 |
数据质量检查
| 检查项 | 检查方法 | 正常标准 |
|---|---|---|
| 检核任务 | 检查最近执行状态,是否有执行失败的情况 | 检核任务执行成功 |
| 问题数据 | 查询检核结果中的问题数据 | 检核结果中无问题数据 |
备份与恢复策略
备份策略
数据库备份
| 备份类型 | 频率 | 保留时间 | 备份方式 |
|---|---|---|---|
| 全量备份 | 每周一次 | 30天 | mysqldump |
| 增量备份 | 每日一次 | 7天 | binlog |
| 实时备份 | 持续 | - | 主从复制 |
文件备份
| 路径 | 说明 | 备份频率 |
|---|---|---|
| ${MDM_HOME}/config/ | 配置文件 | 每次更新补丁 |
| ${MDM_HOME}/lib/ | 扩展JAR包 | 每次更新补丁 |
| ${MDM_HOME}/baseline/ | 基线包 | 每次更新补丁 |
| ${MDM_HOME}/logs/ | 日志文件 | 每月归档 |
恢复策略
数据库恢复
全量恢复:
# 停止MDM服务
# 恢复全量备份
mysql -u${MYSQL_USER} -p${MYSQL_PASSWORD} mdm < mdm_full_backup.sql
mysql -u${MYSQL_USER} -p${MYSQL_PASSWORD} mdm_pub < mdm_pub_full_backup.sql
# 启动MDM服务Point-in-Time恢复:
# 基于binlog恢复到指定时间点
mysqlbinlog --stop-datetime="2024-01-15 10:00:00" \
mysql-bin.000001 | mysql -u${MYSQL_USER} -p${MYSQL_PASSWORD} mdm文件恢复
使用备份的文件,替换需要恢复的文件目录。
常见问题排查指南
服务启动失败
排查步骤:
- 查看启动日志中的具体错误信息
- 检查端口是否被占用:
netstat -an | grep 28090 - 检查数据库连接:
mysql -hlocalhost -uuser -ppass -e "SELECT 1" - 检查license文件是否有效
数据查询缓慢
排查步骤:
- 检查是否有慢查询:
show processlist - 分析对应查询SQL的执行计划:
EXPLAIN SELECT ... - 检查索引是否合理,如有需要,为查询条件字段增加索引
- 检查数据是否需要归档
推送失败或未推送
排查步骤:
- 检查订阅系统配置是否正确
- 测试网络连通性:
telnet host port - 检查下游系统服务状态
- 查看推送日志中的具体错误
- 检查推送队列是否有堆积
- 验证报文格式是否符合下游要求
内存溢出
排查步骤:
- 查看GC日志分析内存使用情况
- 使用jmap生成堆转储:
jmap -dump:format=b,file=heap.hprof <pid> - 使用MAT分析堆转储文件
- 检查是否存在内存泄漏
- 调整JVM参数增加堆内存
运维最佳实践总结
- 建立运维规范:制定标准化的运维流程和操作手册
- 自动化运维:使用脚本和工具实现日常任务自动化
- 预防性维护:定期进行健康检查和问题排查
- 容量规划:根据业务增长提前规划资源
- 应急响应:建立故障应急响应机制和预案
- 持续监控:保持7x24小时系统监控
- 定期演练:定期进行灾难恢复演练
- 知识积累:记录问题处理经验,形成知识库
本章小结
本章介绍了上线优化和运维策略,包括安全配置、性能调优(JVM/数据库/应用参数)、日常运维检查清单(系统/数据库/平台)、备份恢复策略及常见问题排查。遵循最佳实践可保障系统稳定运行。