Commit Graph

21 Commits

Author SHA1 Message Date
zhouyonggao b442209bfa refactor(api): 取消字段白名单过滤和去重逻辑
- server/internal/api/exports.go中remove字段白名单过滤和完全重复字段去重步骤
- 直接使用所有字段,无需过滤并简化字段处理流程
- 修正countValidFields函数说明,改为计算不去重、不过滤的有效字段数
- 维护对易码通立减金特殊字段处理逻辑,避免“领取时间”为空问题
2025-12-18 11:32:15 +08:00
zhouyonggao c09e60ba71 refactor(exports, metadata): 更新行数估算逻辑和字段可见性以优化功能
- 修改create函数中的行数估算逻辑,确保在估算为0时使用精确COUNT进行统计
- 添加日志记录以跟踪估算过程,提升调试能力
- 更新metadata中的字段可见性,将绑定类型字段标记为隐藏,以符合新的业务需求
- 提升代码可读性,确保逻辑清晰明了
2025-12-17 20:18:50 +08:00
zhouyonggao 553704c836 fix(exports): 优化导出接口的行数估算逻辑
- 修改估算行数的回退逻辑,使用精确 COUNT 替代原先的快速估算
- 添加日志记录精确统计阶段的相关信息,便于跟踪统计过程
- 修正导出接口的估算准确性,提升导出性能和稳定性

fix(metadata): 隐藏 marketingMetadataTables 中键“绑定类型”字段

- 将绑定类型字段的 Hidden 属性由 false 改为 true
- 避免绑定类型字段在某些场景下被展示
- 保持批次相关字段显示的合理性和安全性
2025-12-17 20:01:51 +08:00
zhouyonggao 83339f42a3 feat(exports): 增强行数估算功能以支持精确统计和日志记录
- 在create函数中添加行数估算逻辑,优先使用分块统计,失败时回退到精确COUNT
- 添加日志记录以跟踪估算过程,确保在估算为0时能够进行精确统计
- 提升代码可读性,确保行数估算和日志记录逻辑清晰明了
2025-12-17 19:58:28 +08:00
zhouyonggao 8e4d2b4790 refactor(exports): 移除冗余字段去重逻辑以简化代码
- 删除与主表和副表字段去重相关的冗余逻辑,提升代码可读性
- 移除易码通客户名称字段的去重逻辑,简化字段管理
- 优化相同列名去重逻辑,确保主表字段优先保留
- 更新日志记录逻辑,确保字段去重事件的清晰记录
2025-12-17 16:53:53 +08:00
zhouyonggao 187e8e37a2 refactor(export): 统一导出模块中状态和字符串转换的工具使用
- 移除内部重复的 toString 函数,替换为统一的 utils.ToString
- 导出作业状态字符串统一使用 constants 包中的状态常量
- 优化导出 SQL 构建中的 CASE WHEN 语句为常量函数调用
- 删除已废弃的代码块和冗余日志打印
- 更新 database 操作中导出作业状态更新逻辑
- 提升代码可维护性与一致性
2025-12-17 10:34:45 +08:00
zhouyonggao e99dc91ee1 refactor(api): 优化模板API处理器结构与逻辑
- 重构TemplatesAPI结构体字段命名,区分元数据库和营销数据库
- 统一并优化HTTP路由处理代码,添加详尽注释说明各接口用途
- 增强createTemplate方法,完善请求体解析与错误处理
- 优化listTemplates,实现字段去重计数逻辑,支持用户过滤
- 详细拆解getTemplate,patchTemplate,deleteTemplate和validateTemplate逻辑
- patchTemplate支持多字段动态更新,添加详细日志追踪
- deleteTemplate新增软删除支持,保护关联数据安全
- validateTemplate增强错误分类和索引建议汇总能力
- 新增辅助函数toJSON/fromJSON及countValidFields,提高代码复用性
- 通过selectDataDB区分源数据库连接,提高数据来源正确性

feat(exporter): 增加导出写入器接口与工厂方法

- 定义RowWriter接口,规范所有导出格式写入器实现
- 实现NewWriter工厂函数,根据文件格式动态创建写入器实例
- 统一导出写入器构建流程,便于后续扩展其他格式写入器

feat(logging): 完善统一结构化日志模块

- 新增日志级别常量,支持Debug/Info/Warn/Error多等级
- 提供Init方法初始化日志文件和控制台输出
- 实现JSON格式日志输出,统一日志字段结构
- 提供多种等级便捷方法,简化日志打印调用
- 增强Error日志,附加调用文件和行号定位
- 封装专用日志方法,支持数据库错误、导出进度与SQL日志等

refactor(repo): 重构导出数据访问层,增强功能清晰度

- 优化ExportQueryRepo结构和构造方法
- 规范Build、Explain、Count等核心方法命名与参数
- 增加分块快速估算行数方法
- 完善游标创建及流式数据导出方法签名与流程
- 封装写入器和回调函数类型,增强模块解耦和扩展性
- 统一日志调用,规范错误处理和日志记录格式
2025-12-17 10:23:43 +08:00
zhouyonggao f541a7a30b feat(api): 增强易码通数据导出逻辑以优化字段去重
在exports.go中新增逻辑,针对易码通数据处理时,保留order_voucher.grant_time字段并移除order_cash.receive_time字段,避免返回空值。此改动提升了字段去重的准确性,确保导出数据符合预期。
2025-12-15 18:21:55 +08:00
zhouyonggao 594de29ba0 feat(api): 增强字段去重逻辑以支持易码通客户名称处理
在exports.go和templates.go中新增逻辑,确保在处理易码通数据时,若同时选择order.merchant_name与merchant.name,仅保留merchant.name。此改动提升了字段去重的准确性,确保返回的数据符合预期。
2025-12-15 17:44:32 +08:00
zhouyonggao c4f674ec5b refactor(api): 优化CSV导出逻辑以减少重复代码
在exports.go中重构CSV导出逻辑,通过引入newBaseWriter函数减少重复代码,提高代码可读性和维护性。同时,确保在导出过程中正确处理文件头信息,提升导出功能的稳定性和准确性。
2025-12-15 16:18:25 +08:00
zhouyonggao 84ab45da8c feat(api): 增强导出数据处理逻辑以支持支付状态和活动渠道字段
在exports.go中添加支付状态检查逻辑,确保仅在订单已支付时展示活动渠道字段。同时,新增辅助函数以处理支付状态的解析,提升导出数据的准确性和可读性。
2025-12-15 15:39:25 +08:00
zhouyonggao 61e8cc04e7 feat(api): 优化字段去重逻辑并添加标签去重处理
在exports.go中增强字段去重逻辑,确保主表字段优先于副表字段,并处理相同列名的去重,提升导出数据的准确性和一致性。同时,添加字段匹配校验以确保最终字段数量与模板一致。
2025-12-15 15:11:01 +08:00
zhouyonggao a84e8a5a66 feat(export): 添加字段去重逻辑以优化导出功能
在exports.go中实现字段去重,移除完全重复的字段,并确保主表字段优先于副表字段。更新toString函数以支持更多数据类型的格式化,确保导出数据的准确性和一致性。
2025-12-15 12:03:59 +08:00
zhouyonggao d17ae70ea9 fix(导出): 修复导出列名冲突问题并更新字段映射文档
调整 order_digit.order_type 的显示名从"订单类型"为"商品类型"以避免歧义
添加列名去重逻辑,当不同表存在相同列名时自动添加表名前缀
新增字段映射文档说明去重策略和兼容性影响
2025-12-15 10:41:59 +08:00
zhouyonggao a2c6f2a08d fix(api): 移除YMT无效字段并隐藏key批次字段
在exports.go中过滤掉YMT数据源的无效字段order.key_batch_id和order.key_batch_name
在metadata.go中将order.key_batch_id字段标记为隐藏
2025-12-12 18:17:21 +08:00
zhouyonggao 50ba8f7780 feat(导出): 实现字段映射规则并优化白名单校验
refactor(api): 重构字段处理逻辑,保留原始顺序并简化校验流程
docs: 添加字段映射规则文档
test: 添加SQL构建字段顺序与数量测试
2025-12-12 18:07:19 +08:00
zhouyonggao 249e62029a fix(api): 修复导出字段重复问题并优化本地开发配置
修复导出字段重复过滤逻辑,添加去重校验和日志记录
将API基础URL切换为本地开发环境配置
2025-12-12 15:52:22 +08:00
zhouyonggao ddec621951 fix(exporter): 修复易码通直充卡密订单导出客户名称重复问题
移除订单中的merchant_name字段以避免与merchant.name重复
更新直充卡密模板示例使用merchant.name
优化SQL构建逻辑跳过立减金批次号过滤
2025-12-12 15:30:38 +08:00
zhouyonggao e45db7fcb1 fix(导出): 修复立减金批次号在不同数据源和订单类型下的显示与过滤逻辑
调整前端条件渲染和后端过滤逻辑,确保立减金批次号字段仅在营销数据源类型2或易码通数据源类型3时显示和生效
修复易码通直充卡密订单不应包含立减金相关字段的问题
2025-12-12 15:24:57 +08:00
zhouyonggao 9b77801b04 feat(导出): 支持商户ID筛选并优化用户ID筛选逻辑
- 在URL参数中添加merchantId支持,并处理多个商户ID的情况
- 在SQL构建器中实现creator_in和merchant_id_in的OR逻辑组合查询
- 优化reseller_id_eq和plan_id_eq的过滤条件处理
- 前端添加merchantId参数拼接功能
- 移除docker部署脚本中的固定镜像ID逻辑
2025-12-09 18:29:14 +08:00
zhouyonggao 113a8ffa0a feat: 初始化营销系统数据工具项目
- 添加基础项目结构,包括后端Go代码和前端静态文件
- 实现核心功能模块:数据导出、模板管理、元数据查询
- 添加多数据源支持(营销系统、易码通、元数据库)
- 实现CSV和Excel导出功能
- 添加配置管理系统,支持YAML和环境变量
- 实现日志记录和请求追踪
- 添加Docker部署支持
- 编写README文档说明项目结构和启动方式
2025-12-02 15:48:17 +08:00