使用bcp进行大数据量导出导入

导读:数据的导入导出,相信很多人都非常熟悉,可是当涉及到大量数据的导入导出时,就会出现很多的问题,下面就为大家讲解一种能够实现大量数据导入导出的方法,就是使用BCP的方案。

SQL Server的导出导入方式有:

1、在SQL Server中提供了导入导出的界面操作。
2、在界面操作中又分【复制一个或多个表或视图的数据】和【编写查询以指定要传输的数据】两种模式,第一种是直接对表、视图进行全部字段、记录进行导出,而第二种就是可以通过SQL语句来控制导出导入的字段和行。
3、使用简单但有用的SQL脚本 中的【表复制】这里面的方法。

4、再一种就是在命令行中使用bcp命令来导入导出数据,需要特别说明的是,这是对大数据量导入导出就好的办法。下面是我实践出来可以使用的脚本,但是我在使用bcp的时候遇到了一些问题,希望大家给于帮助。谢谢。(PS:问题在下面代码中)使用xp_cmdshell的时候可能会有些问题,可以参考:MSsql2005 如何启用xp_cmdshell <!–[endif]–>
还没有解决的问题
1:使用BCP命令时如果导出的字段为空想替换为其它描述(比如替换成NULL)如何办?
2:使用 case when 时就会出现1023字节的问题,那有没其它办法解决呢?
3:使用BCP命令导出大数据量时出现错误:查询提示超过了最大目录缓冲区 1023 字节(2164 字节输入)。
备注
1:已经使用了Coalesce代替case when,但是还是超出字符数了。
2:对以网上说的放到Temp数据库中、中间表,这些?但是数据表几十G了,还能这样?

整个表导出(out)
bcp 数据库名.dbo.表名 out c:\currency.txt -S”数据库实例” -U”用户” -P”密码” -c

使用SQL语句导出(queryout)
bcp “select * from 数据库名.dbo.表名” queryout c:\currency.txt -S 数据库实例 -U”用户” -P”密码” -c

设置字段分隔符和行分隔符(-c -t”,” -r”\n”),不想输入字段类型等请配合-c一起使用
bcp “select * from 数据库名.dbo.表名” queryout c:\currency.txt -S 数据库实例 -U”用户” -P”密码” -c -t”,” -r”\n”

指定每批导入数据的行数、指定服务器发出或接收的每个网络数据包的字节数(-k -b5000 -a65535)
bcp “select * from 数据库名.dbo.表名” queryout c:\currency.txt -S 数据库实例 -U”用户” -P”密码” -c -t”,” -r”\n” -k -b5000 -a65535

在查询分析器上执行(EXEC master..xp_cmdshell)
EXEC master..xp_cmdshell ‘bcp “select * from 数据库名.dbo.表名” queryout c:\currency.txt -S 数据库实例 -U”用户” -P”密码” -c’

把SQL语句生成一个.sql文件,然后调用
注:路径的文件夹名称中间不能有空格
exec master..xp_cmdshell ‘osql -S 数据库实例 -U 用户 -P 密码 -i C:\cmdshellTest.sql’

将数据导入到currency表中
EXEC master..xp_cmdshell ‘bcp 数据库名.dbo.表名 in c:\currency.txt -c -T’
导入数据也同样可以使用-F和-L选项来选择导入数据的记录行。
EXEC master..xp_cmdshell ‘bcp 数据库名.dbo.表名 in c:\currency.txt -c -F 10 -L 13 -T’
在使用命令xp_cmdshell的时候需要设置权限:

/*MSsql2005 如何启用xp_cmdshell
默认情况下,sql server2005安装完后,xp_cmdshell是禁用的(可能是安全考虑),如果要使用它,可按以下步骤
*/
允许配置高级选项
EXEC sp_configure ‘show advanced options’, 1
GO
重新配置
RECONFIGURE
GO
启用xp_cmdshell
EXEC sp_configure ‘xp_cmdshell’, 1
GO
重新配置
RECONFIGURE
GO

执行想要的xp_cmdshell语句
Exec xp_cmdshell ‘query user’
GO

允许配置高级选项
EXEC sp_configure ‘show advanced options’, 1
GO
 重新配置
RECONFIGURE
GO
禁用xp_cmdshell
EXEC sp_configure ‘xp_cmdshell’, 0
GO
重新配置
RECONFIGURE
GO
或者使用图形界面:

 

应用上文中介绍的方法就能够轻松实现使用bcp进行大数据量导出导入,希望大家通过上文的学习,都能够很熟练的掌握这个技巧,相信这在您以后工作中遇到类似问题时会非常有帮助的。

【编辑推荐】

  1. 数据库之间进行数据导入导出
  2. Oracle数据导入导出实例探讨
  3. 靠BCP恢复SQL Server 2000数据库
  4. MySQL数据导入导出方法与工具介绍

文章来源网络,作者:运维,如若转载,请注明出处:https://shuyeidc.com/wp/233107.html<

(0)
运维的头像运维
上一篇2025-04-20 11:38
下一篇 2025-04-20 11:40

相关推荐

  • 个人主题怎么制作?

    制作个人主题是一个将个人风格、兴趣或专业领域转化为视觉化或结构化内容的过程,无论是用于个人博客、作品集、社交媒体账号还是品牌形象,核心都是围绕“个人特色”展开,以下从定位、内容规划、视觉设计、技术实现四个维度,详细拆解制作个人主题的完整流程,明确主题定位:找到个人特色的核心主题定位是所有工作的起点,需要先回答……

    2025-11-20
    0
  • 社群营销管理关键是什么?

    社群营销的核心在于通过建立有温度、有价值、有归属感的社群,实现用户留存、转化和品牌传播,其管理需贯穿“目标定位-内容运营-用户互动-数据驱动-风险控制”全流程,以下从五个维度展开详细说明:明确社群定位与目标社群管理的首要任务是精准定位,需明确社群的核心价值(如行业交流、产品使用指导、兴趣分享等)、目标用户画像……

    2025-11-20
    0
  • 香港公司网站备案需要什么材料?

    香港公司进行网站备案是一个涉及多部门协调、流程相对严谨的过程,尤其需兼顾中国内地与香港两地的监管要求,由于香港公司注册地与中国内地不同,其网站若主要服务内地用户或使用内地服务器,需根据服务器位置、网站内容性质等,选择对应的备案路径(如工信部ICP备案或公安备案),以下从备案主体资格、流程步骤、材料准备、注意事项……

    2025-11-20
    0
  • 如何企业上云推广

    企业上云已成为数字化转型的核心战略,但推广过程中需结合行业特性、企业痛点与市场需求,构建系统性、多维度的推广体系,以下从市场定位、策略设计、执行落地及效果优化四个维度,详细拆解企业上云推广的实践路径,精准定位:明确目标企业与核心价值企业上云并非“一刀切”的方案,需先锁定目标客户群体,提炼差异化价值主张,客户分层……

    2025-11-20
    0
  • PS设计搜索框的实用技巧有哪些?

    在PS中设计一个美观且功能性的搜索框需要结合创意构思、视觉设计和用户体验考量,以下从设计思路、制作步骤、细节优化及交互预览等方面详细说明,帮助打造符合需求的搜索框,设计前的规划明确使用场景:根据网站或APP的整体风格确定搜索框的调性,例如极简风适合细线条和纯色,科技感适合渐变和发光效果,电商类则可能需要突出搜索……

    2025-11-20
    0

发表回复

您的邮箱地址不会被公开。必填项已用 * 标注