V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
PingCAP
V2EX  ›  数据库

Loader 使用文档

  •  
  •   PingCAP · 2017-01-10 19:11:17 +08:00 · 727 次点击
    这是一个创建于 2909 天前的主题,其中的信息可能已经有所发展或是发生改变。

    Loader 是什么

    Loader 是由 PingCAP 开发的数据导入工具,可以用于向 TiDB 中导入数据,也可以用于向 MySQL 中导入数据。本篇文章将详细介绍 Loader 的使用方法。

    为什么我们要做这个东西

    当数据量比较大的时候,如果用 mysqldump 这样的工具迁移数据会比较慢。我们尝试了 Percona 的 mydumper/myloader 套件,能够多线程导出和导入数据。在使用过程中, mydumper 问题不大,但是 myloader 由于缺乏出错重试、断点续传这样的功能,使用起来很不方便。所以我们开发了 loader ,能够读取 mydumper 的输出数据文件,通过 mysql protocol 向 TiDB/MySQL 中导入数据。

    Loader 有哪些优点

    多线程导入 支持 mydumper 数据格式 出错重试 断点续导 通过 system variable 优化 TiDB 导入数据速度

    使用方法

    参数说明

    1.jpg-47.2kB

    配置文件

    除了使用命令行参数外,还可以使用配置文件来配置,配置文件的格式如下: t2.jpg-27.3kB

    使用示例

    通过命令行参数:

    ./bin/loader -d ./test -h 127.0.0.1 -u root -P 4000

    或者使用配置文件 "config.toml":

    ./bin/loader -c=config.toml

    注意事项

    如果使用默认的 checkpoint 文件,在导完一个 database 数据后,请删除 loader.checkpoint 后再开始导入下一个 database 。推荐每个数据库导入的时候,明确指定 checkpoint 文件名。

    3 条回复    2017-01-11 14:01:38 +08:00
    mingyun
        1
    mingyun  
       2017-01-10 23:21:07 +08:00
    也不提供下安装文档
    PingCAP
        2
    PingCAP  
    OP
       2017-01-11 14:01:28 +08:00
    @mingyun 我们是开源在 github 上的,相关内容均可在 github 主页上找~源码地址: https://github.com/pingcap/tidb
    PingCAP
        3
    PingCAP  
    OP
       2017-01-11 14:01:38 +08:00
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2607 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 162ms · UTC 06:12 · PVG 14:12 · LAX 22:12 · JFK 01:12
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.