c#如何实现数据导入_c#数据导入的最佳实践与常见坑点

风墨吖_4030

风墨吖_4030

2026-04-07

901人浏览

原创

excel导入datatable为空是因ole db默认采样前8行判列类型,遇混合数据丢值;应设imex=1、扩展名与连接字符串一致,并安装匹配位数的access database engine。

c#如何实现数据导入_c#数据导入的最佳实践与常见坑点

Excel 导入时 DataTable 为空但没报错?检查 IMEX=1 和扩展名匹配

常见现象是调用 OleDbDataAdapter.Fill() 后得到空的 DataTable,尤其在 Excel 2007+(.xlsx)文件里混有文本和数字列时。本质是 OLE DB 驱动默认按首 8 行采样列类型,一旦前几行是数字、后面出现“2024-01-01”这类文本,整列会被判为 INT 并丢弃非数字值——且不报错。

解决办法不是换库,而是修正连接字符串:

  • Provider=Microsoft.ACE.OLEDB.12.0;Data Source={path};Extended Properties="Excel 12.0 Xml;HDR=YES;IMEX=1" —— IMEX=1 强制以“导入模式”打开,把疑似混合列当文本处理
  • 路径中文件扩展名必须和 Extended Properties 一致:.xlsx 对应 Excel 12.0 Xml,.xls 对应 Excel 8.0;不一致会导致驱动静默失败
  • 确保目标机器安装了对应版本的 Microsoft Access Database Engine(注意 32/64 位需与你的 C# 进程匹配)

大文件导入卡死或内存爆掉?别用 DataSet 全量加载

读取几十 MB 的 Excel 或 CSV 时,直接 Fill(DataSet) 或 File.ReadAllLines() 会把整个文件拉进内存,GC 压力大,还可能触发 OutOfMemoryException。

换成流式处理:

  • Excel:用 EPPlus(NuGet 包 EPPlus)的 LoadFromCollection() 或逐行读取 worksheet.Cells[row, col].Value,配合 using (var package = new ExcelPackage(fileStream)) 确保资源释放
  • CSV:用 StreamReader + string.Split()(简单格式)或 CsvHelper 的 GetRecordsAsync<t>()</t> 流式反序列化,避免一次性读完
  • 关键点:所有 IO 操作加 try/catch,并在 finally 或 using 中关闭流,否则文件句柄泄漏会导致后续导入失败

数据库批量插入慢如蜗牛?绕过 SqlDataAdapter 改用 SqlBulkCopy

用循环执行 INSERT INTO ... VALUES (...) 或靠 SqlDataAdapter.Update() 批量写入万级数据,耗时往往以分钟计。根本原因是每条语句都走完整 SQL 解析、计划生成、事务日志写入流程。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载

SqlBulkCopy 是唯一能逼近原生 BCP 性能的托管方案:

  • 源数据必须是 DataTable、IDataReader 或实现 IColumnMapping 的对象;推荐先用 DataTable.Load() 从流构建,再设 ColumnMappings 显式绑定列名(避免顺序错位)
  • 务必设置 BatchSize = 10000 和 DestinationTableName,并开启 SqlBulkCopyOptions.TableLock 减少锁竞争
  • 注意:目标表不能有启用的触发器、外键约束或标识列(除非设 SqlBulkCopyOptions.KeepIdentity)——这些都会让 BulkCopy 自动退化为逐行插入

中文乱码、日期解析失败、空值转 0?字段映射前必须做类型预处理

用户上传的 Excel/CSV 几乎必然存在格式混乱:日期列含“-”“/”“.”混用、“N/A”“空格”“NULL”字符串、数字列夹带单位(如“123kg”)。硬塞进强类型模型会抛 InvalidCastException 或存入错误值。

安全做法是在填充实体前清洗字段:

  • 对每一列,先用 Convert.IsDBNull() 或 string.IsNullOrWhiteSpace() 判空,再根据目标类型选择转换逻辑,例如:DateTime.TryParseExact(val, "yyyy-MM-dd", null, DateTimeStyles.None, out dt) ? dt : DateTime.MinValue
  • 数字列用 decimal.TryParse() 替代 (decimal)val,失败时记录日志并跳过或设默认值
  • 中文字段若入库后变问号,确认数据库字段是 NVARCHAR 而非 VARCHAR,且连接字符串含 Charset=utf8(MySQL)或使用 Unicode 参数(SQL Server)

最易被忽略的是时间区域:用户本地 Excel 里的“2024-01-01”默认是本地时区,但 DateTime.Parse() 会按服务器时区解释。统一转成 UTC 存储,展示时再转回用户时区——这个转换点一旦漏掉,凌晨导入的数据第二天就“消失”了。

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c#

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

2023.08.08

992

5

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

2023.08.31

2811

3

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

2024.03.13

865

8

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2024.03.14

2615

11

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

2026.02.03

312

18

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

2026.02.06

389

20

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

2026.03.11

611

24

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

2026.04.13

329

20

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

6139

3

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习