universal-data-analyst

Polar Sponsor
爱发电 赞助
.NET 9.0

依据数据本体自动识别数据类型,生成分析方案与脚本,输出数据质量报告和多格式智能分析报告,支持多种数据格式。

通用数据分析专家(Universal Data Analyst)

功能概述

通用数据分析专家(Universal Data Analyst)是一项面向实际任务的技能,主要用于一个基于 数据本体论 的智能数据分析技能;不依赖关键词硬编码,每次分析均通过大模型进行推理判断,自动识别数据类型、选择分析方法、生成分析脚本并输出报告;

核心要点

  • 支持经济型数据(零售、订阅、金融等)和非经济型数据(科学测量、社交网络、文本等),可处理 CSV、Excel、Parquet、JSON 等多种格式。
  • 它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
  • 从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

使用与执行

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。

结果检查与注意事项

执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。

通用数据分析专家(Universal Data Analyst)

简介

一个基于数据本体论的智能数据分析技能。不依赖关键词硬编码,每次分析均通过大模型进行推理判断,自动识别数据类型、选择分析方法、生成分析脚本并输出报告。

支持经济型数据(零售、订阅、金融等)和非经济型数据(科学测量、社交网络、文本等),可处理 CSV、Excel、Parquet、JSON 等多种格式。

触发方式

上传数据文件,或发送以下类型的消息即可触发:

  • "帮我分析这份数据"
  • "这份 CSV 里有什么规律?"
  • "探索一下这个数据集"
  • "帮我看看数据质量"
  • 直接上传 .csv / .xlsx / .parquet / .json 文件

核心设计:四层分析框架

第一层:数据本体论(Data Ontology)
        ↓  这是关于什么的存在?实体类型?生成机制?
第二层:问题类型学(Problem Typology)
        ↓  描述型 / 诊断型 / 预测型 / 规范型 / 因果型?
第三层:方法论映射(Methodology Mapping)
        ↓  匹配领域公认分析框架
第四层:验证与输出(Validation & Output)
           数据质量报告 + 分析脚本 + HTML/MD报告

每一层都调用大模型进行推理,不使用任何硬编码规则。

分析流程(7步)

步骤 内容 说明
1 数据加载 自动识别格式,支持多种文件类型
2 本体识别 LLM 判断数据实体类型和生成机制
3 质量校验 自动检测缺失值、异常值、重复行等问题,输出质量评分
4 方案规划 LLM 结合用户诉求选择分析框架和路径
5 脚本生成 LLM 生成可执行的 Python 分析脚本
6 执行分析 运行脚本,生成图表和数值结果
7 综合报告 输出 HTML + Markdown 双格式报告

流程健康监控(新增)

每个步骤都有状态追踪和错误处理:

  • 步骤依赖检查 - 前置步骤失败时自动阻止后续步骤执行
  • 清晰错误提示 - 步骤失败时给出明确的错误原因和修复建议
  • 流程健康报告 - 最终输出完整的执行状态和问题汇总

如果某一步骤失败,您会看到:

⚠️ 流程已中断!
   原因: 关键步骤 '数据加载' 失败: 编码错误

修复建议:
  1. 文件编码可能不是UTF-8,尝试手动指定encoding参数
  2. 常见中文编码: gbk, gb2312, gb18030

支持的数据类型

经济型数据

数据特征 识别为 自动匹配框架
订单 + 价格 + SKU 零售经济 价值链 / ABC-XYZ / RFM
用户 + 订阅周期 + Churn 订阅经济 LTV / Cohort / 留存曲线
点击 / 加购 / 购买事件链 注意力经济 漏斗分析 / AARRR
GMV + 平台撮合 佣金经济 双边网络效应 / 单位经济
职位 + 技能 + 薪资 劳动力市场 技能溢价 / 经验弹性
OHLCV 价格数据 金融时序 技术分析 / 波动率模型

非经济型数据

数据类型 自动匹配框架
传感器 / 时序连续数据 时间序列分解、极值分析
社交 / 网络关系数据 中心性分析、社区发现
地理 / 空间数据 空间自相关、热点分析
文本语料 主题模型、情感分析
生物医学数据 生存分析、差异表达

支持的文件格式

  • CSV / TSV (.csv, .tsv, .txt)- 自动编码检测,支持 utf-8、gbk、latin1 等
  • Excel (.xlsx, .xls)
  • Parquet (.parquet, .pq)
  • JSON (.json)
  • SQL 数据库 (通过连接字符串)

编码容错

CSV 文件加载时自动尝试多种编码:

  • 自动编码检测(如有 chardet 库)
  • 回退编码:utf-8、utf-8-sig、gbk、gb2312、gb18030、latin1 等
  • 引擎回退:C 引擎失败时自动切换 Python 引擎,跳过损坏行

输出内容

每次分析生成以下内容:

session_YYYYMMDD_HHMMSS/
├── step2_ontology_prompt.txt     # 本体识别提示词(可复用)
├── step3_validation_report.json  # 数据质量报告
├── step3_cleaning_report.txt     # 数据清洗建议
├── step4_planning_prompt.txt     # 分析方案提示词(可复用)
├── step5_script_prompt.txt       # 脚本生成提示词(可复用)
├── analysis_report.html          # 综合 HTML 报告(含图表)
├── analysis_report.md            # Markdown 报告
└── charts/                       # 所有分析图表(PNG)

使用示例

示例一:分析电商销售数据

用户:帮我分析一下这份销售数据,想了解哪些商品卖得好、哪些客户价值高

[上传 orders.csv]

Skill 自动完成:

  1. 识别为「零售经济 × 交易/事件型数据」
  2. 选择 RFM 客户价值分析 + ABC 商品分类框架
  3. 生成分析脚本并执行
  4. 输出客户分层分布图、商品销售排名、RFM 热力图及 HTML 报告

示例二:分析用户行为日志

用户:这是我们 App 的用户行为日志,想看看用户转化漏斗

[上传 events.csv]

Skill 自动完成:

  1. 识别为「注意力/转化经济 × 事件序列数据」
  2. 选择漏斗分析 + 会话序列挖掘框架
  3. 输出各步骤转化率、流失节点分析、用户路径桑基图

示例三:分析气象观测数据

用户:帮我分析这份气象站观测记录,了解温度和降水的规律

[上传 weather.csv]

Skill 自动完成:

  1. 识别为「地球科学 × 时序/轨迹型数据 × 仪器测量生成」
  2. 选择时间序列分解 + 季节性分析 + 极值统计框架
  3. 输出趋势图、季节性分解图、异常值报告

依赖

pandas >= 1.3
numpy >= 1.21
matplotlib >= 3.4
seaborn >= 0.11
scipy >= 1.7
openpyxl >= 3.0   # Excel 支持
chardet >= 4.0    # 编码自动检测(可选,但推荐)
pyarrow >= 6.0    # Parquet 支持(可选)
sqlalchemy >= 1.4 # SQL 支持(可选)

版本

v1.1.0 · 作者:Claude · 许可证:CC BY-NC-SA 4.0

v1.1.0 更新内容(2026-03-23)

  1. 流程健康监控 - 新增步骤状态追踪、依赖检查、错误提示
  2. 编码容错增强 - CSV/TSV 加载时自动尝试多种编码(utf-8、gbk、latin1 等)
  3. 引擎回退 - C 引擎失败时自动切换 Python 引擎,跳过损坏行

v1.0.0

  • 初始版本:四层分析框架 + 7步分析流程

相关专题

更多
Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

2026.10.22

0

11

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

2026.10.22

0

10

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

2026.10.22

0

15

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

2026.10.22

0

10

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

2026.10.22

0

25

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

2026.10.22

0

15

Golangci-lint安装与入门教程
Golangci-lint安装与入门教程

本专题讲解Golangci-lint的安装、初始化、基础命令和首次代码检查,覆盖本地环境、Docker及多平台用法,帮助Go开发者快速上手。

2026.10.22

0

15

PHP2Shell高危漏洞修复教程
PHP2Shell高危漏洞修复教程

PHP2Shell漏洞是什么,哪些PHP版本和运行环境会受到影响,服务器应该如何检测与修复?本专题提供版本自查脚本、Linux与Docker升级命令、PHP-FPM和Apache排查步骤,以及修复验证、临时缓解和应急响应方案。

2026.10.22

0

12

剧云人物设定与关系管理教程
剧云人物设定与关系管理教程

本专题介绍剧云人物设定与关系管理,讲解角色小传、性格职业、人物目标、背景资料和关系网络的创建及维护方法。

2026.10.22

0

16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
phpStudy极速入门视频教程
phpStudy极速入门视频教程

共6课时 | 54.7万人学习

独孤九贱(4)_PHP视频教程
独孤九贱(4)_PHP视频教程

共89课时 | 133.9万人学习