Python 中正确分块写入 JSON 文件:解决多键追加与嵌套结构问题

风晨君_7162

风晨君_7162

2026-03-24

356人浏览

原创

本文详解如何将大规模账户 id 列表按每 99 个一组切分,并以 paccountids1、paccountids2… 形式写入标准 json 文件的 parameters 字段,避免因误切嵌套结构导致数据错位或键重复。

本文详解如何将大规模账户 id 列表按每 99 个一组切分,并以 paccountids1、paccountids2… 形式写入标准 json 文件的 parameters 字段,避免因误切嵌套结构导致数据错位或键重复。

在使用 Python 处理部署参数(如 AWS CloudFormation 或 CDK 所需的 gen_parameter.json)时,常需将数百甚至上千个账户 ID 拆分为固定长度的字符串组,并映射为独立的参数键(如 "pAccountIds1": "id1,id2,...,id99")。但实践中,若对原始嵌套数据结构理解偏差,极易出现「看似分组、实则未真正扁平化」的问题——正如示例中:原始 targets 是三层嵌套列表([ [ [ {...}, {...} ] ], [ [ {...} ] ] ]),直接按外层切片会导致每组仍含多个子列表,extract_ids_from_targets() 被反复调用多次,最终所有 ID 都挤进 pAccountIds1,后续键为空。

✅ 正确处理流程:先扁平提取,再分块构造

核心原则是 分离关注点:

  1. 提取(Extract):遍历完整嵌套结构,一次性收集全部有效 id 字符串;
  2. 分块(Chunk):对扁平 ID 列表按指定大小(如 99)切分;
  3. 组装(Build):为每块生成带序号的键值对,统一塞入 "Parameters" 对象(非数组)。

⚠️ 注意:目标 JSON 格式要求 "Parameters" 是一个 对象(object),而非数组(array)。示例期望输出中:

{"Parameters": {"pAccountIds1": "...", "pAccountIds2": "..."}}

但原代码错误地将其构造成数组:

Python Pep Authoring
Python Pep Authoring

依据官方 python/peps仓库规则起草、审阅、编辑或准备 Python 改进提案(PEP),用于处理 PEP 文本和元数据头部。

下载
{"Parameters": [{"pAccountIds1": "..."}, {"pAccountIds2": "..."}]}

这会导致下游工具(如 AWS CLI 或 CFN StackSet)解析失败。

✅ 修正后的完整可运行脚本

import json

IGNORE_ACCOUNTID = '981813074321'
OUTPUT_FILE = 'params/gen_parameter.json'

def chunk_list(lst, chunk_size):
    """将列表按指定大小切分为子列表生成器"""
    for i in range(0, len(lst), chunk_size):
        yield lst[i:i + chunk_size]

def extract_ids_from_targets(targets):
    """深度遍历 targets 嵌套结构,提取所有合法 id 字符串"""
    extracted_ids = []
    # targets 示例结构: [[[{id: "..."}, ...]], [[{id: "..."}]], ...]
    for target_group in targets:           # 第一层:每个环境(如 prod/dev)
        for target_list in target_group:   # 第二层:每个路径/阶段
            for account in target_list:    # 第三层:每个账户对象
                if isinstance(account, dict) and 'id' in account:
                    account_id = str(account['id']).strip()
                    if account_id and account_id != IGNORE_ACCOUNTID:
                        extracted_ids.append(account_id)
    return extracted_ids

def main():
    with open("display.json", "r", encoding="utf-8") as f:
        data = json.load(f)

    # 安全获取嵌套 targets 数据
    targets = (
        data
        .get("pipeline_input", {})
        .get("environments", {})
        .get("targets", [])
    )
    print(f"原始嵌套 targets 层数量: {len(targets)}")

    # ✅ 关键修正1:先提取全部 ID,得到扁平列表
    all_ids = extract_ids_from_targets(targets)
    print(f"成功提取有效账户 ID 数量: {len(all_ids)}")

    # ✅ 关键修正2:对扁平 ID 列表进行分块
    grouped_ids = list(chunk_list(all_ids, chunk_size=99))
    print(f"生成 {len(grouped_ids)} 个分块(每块 ≤99 个 ID)")

    # ✅ 关键修正3:构建 Parameters 对象(非数组!)
    parameters = {}
    for i, chunk in enumerate(grouped_ids, start=1):
        key = f"pAccountIds{i}"
        parameters[key] = ",".join(chunk)

    final_data = {"Parameters": parameters}

    # 写入文件(带缩进便于调试,生产环境可移除 indent)
    with open(OUTPUT_FILE, "w", encoding="utf-8") as f:
        json.dump(final_data, f, indent=4)

    print(f"✅ 参数文件已生成: {OUTPUT_FILE}")
    print("示例片段:")
    print(json.dumps(final_data, indent=4, ensure_ascii=False)[:500] + "...")

if __name__ == "__main__":
    main()

? 关键改进点说明

问题环节 原代码缺陷 修正方案
数据提取时机 chunk_list(targets, 99) → 切的是嵌套结构 ✅ 先 extract_ids_from_targets(targets) 得到纯 ID 列表
Parameters 类型 构造为 [{"pAccountIds1":...}](数组) ✅ 改为 {"pAccountIds1":..., "pAccountIds2":...}(对象)
键值赋值方式 result.append({...}) → 导致数组嵌套 ✅ parameters[key] = value → 直接写入字典
健壮性增强 无类型检查、空值防护 ✅ 增加 isinstance(account, dict) 和 strip() 防御

? 使用注意事项

  • 编码安全:显式指定 encoding="utf-8" 避免中文或特殊字符写入异常;
  • 路径验证:确保 display.json 存在且 params/ 目录已创建(可添加 os.makedirs("params", exist_ok=True));
  • ID 去重(可选):若业务允许去重,可在 all_ids 后添加 list(dict.fromkeys(all_ids));
  • 超长字符串限制:单个 pAccountIdsN 字符串长度受目标系统限制(如 CloudFormation 参数上限为 4096 字符),建议在 ",".join(...) 后校验长度并告警;
  • 调试技巧:临时启用 print(json.dumps(final_data, indent=2)) 快速验证结构。

通过以上重构,脚本能稳定、准确地将任意规模账户 ID 清单转化为符合基础设施即代码(IaC)规范的参数 JSON,兼顾可读性、健壮性与工程实践标准。

Python免费学习笔记(深入):立即使用
在学习笔记中,你将探索 Python 的核心概念和高级技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

python

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

2023.07.20

1891

4

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

2023.07.25

5224

7

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.07.31

1829

3

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

2023.08.03

31657

23

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3747

5

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.04

3767

5

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1263

5

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.10

616

4

python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

2903

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程