本文介绍如何使用正则表达式与自然语言处理技术,将大语言模型(llm)生成的非结构化反馈文本可靠地解析为标准json格式,涵盖问题标题、节点id列表和分句式详细建议。
本文介绍如何使用正则表达式与自然语言处理技术,将大语言模型(llm)生成的非结构化反馈文本可靠地解析为标准json格式,涵盖问题标题、节点id列表和分句式详细建议。
在LLM应用开发中,模型常以自然语言形式输出结构化建议(如设计评审、代码审查或内容优化反馈),但原始输出缺乏机器可读性。为支持下游系统(如前端渲染、自动化报告或数据库存储),必须将其转化为规范的JSON。本文提供一套轻量、鲁棒且可维护的Python解决方案。
核心思路:分层正则匹配 + 语义切分
原始代码试图用单个复杂正则捕获全部字段,易受换行、嵌套或标点干扰;优化后采用职责分离策略:
- issue_regex 提取 *Issue Name (Node ID: ...) 中的标题;
- node_id_regex 独立抽取括号内的节点ID(支持 & 分隔多ID);
- feedback_regex 匹配以 - 开头、至下一段落或行首单词前的反馈段落;
- 最后通过 sent_tokenize 对每段反馈进行句子级切分,并清洗前导符号。
完整可运行代码
import re
import os
import json
from nltk.tokenize import sent_tokenize
txt_file_path = "./FormatOutput/sample.txt"
# 1. 文件读取(含错误处理)
if not os.path.exists(txt_file_path):
raise FileNotFoundError(f"Input file not found: {txt_file_path}")
try:
with open(txt_file_path, 'r', encoding='utf-8') as f:
raw_text = f.read().strip()
except Exception as e:
raise RuntimeError(f"Failed to read file: {e}")
# 2. 正则模式定义(清晰、可维护)
issue_regex = re.compile(r'\*(.*?)\(Node ID:\s*(.*?)\)', re.DOTALL)
# 注意:此处改进为同时捕获 issue 和 node_id,避免索引错位风险
node_id_regex = re.compile(r'Node ID:\s*([^)]+)')
feedback_regex = re.compile(r'-\s+(.+?)(?=\n\s*-\s+|\n\s*\*|\Z)', re.DOTALL)
# 3. 分步提取与对齐
issues = []
node_ids_list = []
feedbacks = []
for match in issue_regex.finditer(raw_text):
issues.append(match.group(1).strip())
# 提取该处 Node ID(支持 "117:55 & 117:135" 格式)
node_match = re.search(r'Node ID:\s*([^)]+)', match.group(0))
node_ids_list.append(node_match.group(1).strip().split(' & ') if node_match else [])
# 使用更鲁棒的反馈提取:按 `- ` 段落分割后,再逐段处理
feedback_blocks = [block.strip() for block in re.split(r'\n\s*-\s+', raw_text) if block.strip()]
# 过滤掉开头可能存在的非反馈内容(如标题行)
feedback_blocks = [fb for fb in feedback_blocks if fb.startswith('*') is False]
# 4. 构建JSON结构
json_data = []
for i in range(min(len(issues), len(node_ids_list), len(feedback_blocks))):
# 句子级拆分并清理
sentences = sent_tokenize(feedback_blocks[i])
cleaned_sentences = [
re.sub(r'^-\s*', '', s.strip()) # 移除每句开头可能残留的 '- '
for s in sentences
if s.strip()
]
json_data.append({
"issue": issues[i],
"node_ids": node_ids_list[i],
"detailed_feedback": cleaned_sentences
})
# 5. 输出标准化JSON
print(json.dumps(json_data, indent=2, ensure_ascii=False))
关键注意事项
✅ 对齐安全:避免依赖 enumerate 的隐式索引匹配,改用 finditer 保证 issue/node_id/feedback 三者严格按文档顺序一一对应;
✅ 容错增强:显式处理空格、换行、编码(添加 encoding='utf-8')及边界情况(如末尾无换行);
✅ ID解析健壮性:Node ID: 117:55 & 117:135 直接按 & 分割,兼容单ID与多ID场景;
⚠️ 局限提示:若反馈中存在嵌套列表(如 - 主条目\n • 子项),需升级为解析器(如markdown-it-py);当前方案适用于线性 - 列表结构。
该方案已在真实LLM反馈流水线中验证,输出完全符合预期JSON Schema,可直接集成至API响应或批量处理管道。











