Llm Data Automation

Polar Sponsor
爱发电 赞助
.NET 9.0

利用LLM(ChatGPT、Claude、LLaMA)自动化处理建筑数据。生成Python/Pandas脚本,提取文档数据,并构建自动化流程。

LLM 数据自动化用于构建.

功能概述

LLM 数据自动化用于构建.是一项面向实际任务的技能,主要用于Overview. 基于DDC方法(第2.3章),这种技能使得使用大语言模型(LLM)的构建数据处理自动化成为可能.。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。

核心要点

  • 使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。
  • 该技能适合需要稳定复用相关能力的场景,可作为自动化工作流的一部分,也便于后续检查、调整和扩展。
  • 从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

使用与执行

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。

结果检查与注意事项

执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

面向建筑行业的 LLM 数据自动化

概述

基于 DDC 方法论(第 2.3 章),本技能利用大语言模型(LLM)实现建筑数据处理的自动化。您无需手动编写数据转换代码,只需用自然语言描述需求,LLM 即可生成所需的 Python/Pandas 代码。

参考书籍:《Pandas DataFrame 和 LLM ChatGPT》

“ChatGPT、LLaMA 等 LLM 模型使不具备深厚编程背景的专业人员也能参与企业业务流程的自动化与优化。” —《Data-Driven Construction》(DDC)一书,第 2.3 章

快速入门

选项 1:在线使用 ChatGPT / Claude

直接用自然语言描述您的数据处理任务:

Prompt: “编写 Python 代码,读取一份包含建筑材料信息的 Excel 文件,
筛选 quantity > 100 的行,并保存为 CSV 文件。”

选项 2:本地运行 LLM(Ollama)

# 从 ollama.com 安装 Ollama
ollama pull mistral

# 执行查询
ollama run mistral “编写 Pandas 代码,计算 total_cost = quantity * unit_price”

选项 3:使用 LM Studio(图形界面)

  1. 从 lmstudio.ai 下载安装包
  2. 安装后选择一个模型(例如 Mistral、LLaMA)
  3. 开始与本地 AI 进行对话

核心概念

DataFrame 作为通用数据格式

import pandas as pd

# 建筑项目以 DataFrame 表示
# 行 = 构件,列 = 属性
df = pd.DataFrame({
    'element_id': ['W001', 'W002', 'C001'],
    'category': ['Wall', 'Wall', 'Column'],
    'material': ['Concrete', 'Brick', 'Steel'],
    'volume_m3': [45.5, 32.0, 8.2],
    'cost_per_m3': [150, 80, 450]
})

# 计算总成本
df['total_cost'] = df['volume_m3'] * df['cost_per_m3']
print(df)

面向建筑任务的 LLM 提示词(Prompts)

数据导入:

“编写代码,导入含施工进度计划的 Excel 文件,
解析日期字段,并构建 Pandas DataFrame”

数据筛选:

“筛选 category 为 ‘Structural’ 且成本超出预算上限 50000 的构件”

数据聚合:

“按楼层对施工数据分组,
分别计算每层的总体积与总成本”

报表生成:

“生成汇总报表:按材料类别分组统计用量,
并导出为带格式的 Excel 文件”

典型应用场景

1. 从 PDF 文档中提取数据

# 向 ChatGPT 发送的 Prompt:
# “编写代码,从 PDF 中提取表格并转为 DataFrame”

import pdfplumber
import pandas as pd

def pdf_to_dataframe(pdf_path):
    """从 PDF 文件中提取表格"""
    all_tables = []
    with pdfplumber.open(pdf_path) as pdf:
        for page in pdf.pages:
            tables = page.extract_tables()
            for table in tables:
                if table:
                    df = pd.DataFrame(table[1:], columns=table[0])
                    all_tables.append(df)

    if all_tables:
        return pd.concat(all_tables, ignore_index=True)
    return pd.DataFrame()

# 使用示例
df = pdf_to_dataframe("construction_spec.pdf")
df.to_excel("extracted_data.xlsx", index=False)

2. 处理 BIM 构件数据

# Prompt:“分析 BIM 构件数据,按类别分组并计算体积”

import pandas as pd

def analyze_bim_elements(csv_path):
    """从 CSV 导出文件分析 BIM 构件数据"""
    df = pd.read_csv(csv_path)

    # 按类别分组
    summary = df.groupby('Category').agg({
        'Volume': 'sum',
        'Area': 'sum',
        'ElementId': 'count'
    }).rename(columns={'ElementId': 'Count'})

    return summary

# 使用示例
summary = analyze_bim_elements("revit_export.csv")
print(summary)

3. 成本估算流水线

# Prompt:“基于工程量与单价,生成成本估算结果”

import pandas as pd

def calculate_cost_estimate(quantities_df, prices_df):
    """
    计算项目成本估算

    参数:
        quantities_df: 包含列 [item_code, quantity] 的 DataFrame
        prices_df: 包含列 [item_code, unit_price, unit] 的 DataFrame

    返回:
        包含成本计算结果的 DataFrame
    """
    # 合并工程量与单价数据
    result = quantities_df.merge(prices_df, on='item_code', how='left')

    # 计算成本
    result['total_cost'] = result['quantity'] * result['unit_price']

    # 添加占比统计
    result['cost_percentage'] = (result['total_cost'] /
                                  result['total_cost'].sum() * 100).round(2)

    return result

# 使用示例
quantities = pd.DataFrame({
    'item_code': ['C001', 'S001', 'W001'],
    'quantity': [150, 2000, 500]
})

prices = pd.DataFrame({
    'item_code': ['C001', 'S001', 'W001'],
    'unit_price': [120, 45, 85],
    'unit': ['m3', 'kg', 'm2']
})

estimate = calculate_cost_estimate(quantities, prices)
print(estimate)

4. 施工进度计划数据处理

# Prompt:“解析施工进度计划,计算工期,并识别延误项”

import pandas as pd
from datetime import datetime

def analyze_schedule(schedule_path):
    """分析施工进度计划中的延误情况"""
    df = pd.read_excel(schedule_path)

    # 解析日期字段
    df['start_date'] = pd.to_datetime(df['start_date'])
    df['end_date'] = pd.to_datetime(df['end_date'])
    df['actual_end'] = pd.to_datetime(df['actual_end'])

    # 计算工期
    df['planned_duration'] = (df['end_date'] - df['start_date']).dt.days
    df['actual_duration'] = (df['actual_end'] - df['start_date']).dt.days

    # 识别延误
    df['delay_days'] = df['actual_duration'] - df['planned_duration']
    df['is_delayed'] = df['delay_days'] > 0

    return df

# 使用示例
schedule = analyze_schedule("project_schedule.xlsx")
delayed_tasks = schedule[schedule['is_delayed']]
print(f"延误任务数:{len(delayed_tasks)}")

本地 LLM 部署(无需联网)

使用 Ollama

# 安装
curl -fsSL https://ollama.com/install.sh | sh

# 下载模型
ollama pull mistral      # 通用型,7B 参数
ollama pull codellama    # 专注代码生成
ollama pull deepseek-coder  # 编程任务表现最佳

# 运行
ollama run mistral “编写 Pandas 代码,基于 project_id 合并两个 DataFrame”

使用 LlamaIndex 加载企业文档

# 将企业文档加载至本地 LLM
from llama_index import SimpleDirectoryReader, VectorStoreIndex

# 读取文件夹下所有 PDF
reader = SimpleDirectoryReader("company_documents/")
documents = reader.load_data()

# 构建可检索索引
index = VectorStoreIndex.from_documents(documents)

# 查询您的文档
query_engine = index.as_query_engine()
response = query_engine.query(
    "标准混凝土配合比规范是什么?"
)
print(response)

推荐 IDE

IDE 适用场景 主要特性
Jupyter Notebook 学习与实验 交互式单元格、可视化支持
Google Colab 免费 GPU、快速启动 云端运行、预装常用库
VS Code 专业开发 丰富插件生态、GitHub Copilot 支持
PyCharm 大型项目 高级调试、重构功能完善

使用 Jupyter 快速搭建环境

pip install jupyter pandas openpyxl pdfplumber
jupyter notebook

最佳实践

  1. 从简单开始:使用清晰、具体的提示词启动
  2. 持续迭代:根据输出结果不断优化提示词
  3. 务必验证:运行前始终检查生成代码的正确性与安全性
  4. 做好记录:保存已验证有效的提示词以供复用
  5. 保障安全:涉及敏感企业数据时,请优先使用本地 LLM

常用提示词库

数据导入

  • “读取 Excel 文件并显示前 10 行”
  • “以自定义分隔符与编码方式导入 CSV”
  • “将多个 Excel 工作表加载为 DataFrame 字典”

数据清洗

  • “基于 element_id 去除重复行”
  • “用各列均值填充缺失值”
  • “将某列转为数值类型,并妥善处理异常值”

数据分析

  • “计算数值型列的描述性统计信息”
  • “分析成本与工期之间的相关性”
  • “使用 IQR 方法识别离群值”

数据导出

  • “导出为含多个工作表的 Excel 文件”
  • “以指定编码保存为 CSV 文件”
  • “生成格式化 PDF 报告”

参考资料

后续步骤

  • 参阅 pandas-construction-analysis 获取高级 Pandas 操作示例
  • 参阅 pdf-to-structured 了解文档结构化处理方案
  • 参阅 etl-pipeline 掌握自动化数据流水线构建方法
  • 参阅 rag-construction 学习如何在建筑文档上实现 RAG 应用

相关专题

更多
Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

2026.11.06

0

12

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

2026.11.06

0

13

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

2026.11.06

0

10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

2026.11.05

0

12

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

2026.11.05

0

12

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

2026.11.04

0

16

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

2026.11.04

0

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

15

XORM框架安装配置与数据库连接
XORM框架安装配置与数据库连接

本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。

2026.11.04

0

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 134.1万人学习