利用3D-DNA挂载基因组

使用二代数据或三代数据得到contig后,下一步就是将contig提升到染色体水平。对于二倍体物种而言,目前3D-DNA应该是组装效果最好的一个软件。

一:工作流程

使用3D-DNA做基因组组装的整体流程如下图,分别为组装,Juicer分析Hi-C数据,3D-DNA进行scaffolding,使用JBAT对组装结果进行手工纠正,最终得到准染色体水平的基因组。


流程图

二: 软件安装

在安装之前,确保服务器上有了下面这些依赖软件工具

  • LastZ(仅在杂合基因组的二倍体模式下使用)
  • Java >= 1.7
  • GNU Awk >= 4.02
  • GNU coreutils sort > 8.11
  • Python >= 2.7
  • scipy, numpy, matplotlib
  • GNU Parallel >=20150322 (不必要,但是强力推荐)
  • bwa
    我们需要安装两个软件,一个是3D-DNA,另一个是juicer。

CPU版本的juicer安装

mkdir ~/soft
git clone https://github.com/theaidenlab/juicer.git
cd juicer
ln -s CPU scripts
cd scripts/common
wget https://hicfiles.tc4ga.com/public/juicer/juicer_tools.1.9.9_jcuda.0.8.jar
ln -s juicer_tools.1.9.9_jcuda.0.8.jar  juicer_tools.jar

然后用~/soft/juicer/scripts/juicer.sh -h检查是否有帮助信息输出。

3D-DNA安装

cd ~/soft
git clone https://github.com/theaidenlab/3d-dna.git

用sh ~/soft/3d-dna/run-asm-pipeline.sh -h查看是否有帮助文档输出。

参数详解

以CPU版本的为例,juicer.sh的参数如下

Usage: juicer.sh [-g genomeID] [-d topDir] [-s site] [-a about] [-R end]
                 [-S stage] [-p chrom.sizes path] [-y restriction site file]
                 [-z reference genome file] [-D Juicer scripts directory]
                 [-b ligation] [-t threads] [-r] [-h] [-f] [-j] 

参数说明:

  • -g: 定义一个物种名
  • -s: 酶切类型, HindIII(AAGCTAGCTT), MboI(GATCGATC) , DpnII(GATCGATC), NcoI(CCATGCATGG)
  • -z : 参考基因组文件
  • -y: 限制性酶切位点可能出现位置文件
  • -p: 染色体大小文件
  • -C: 将原来的文件进行拆分,必须是4的倍数,默认是90000000, 即22.5M reads
  • -S: 和任务重运行有关,从中途的某一步开始,"merge", "dedup", "final", "postproc" 或 "early"
  • -d: juicer的目录 我们安装在/soft/,所以设置为/soft/juicer
  • -D: juicer scripts的目录,我们安装在/soft/,所以设置为/soft/juicer/CPU
  • -a: 实验的描述说明,可以不用设置
  • -t: 线程数

如果你的基因组不是复杂基因组,比如说高杂合,高重复序列,或者Hi-C数据测太少,那么3d-dna的流程更加简单, run-asm-pipeline.sh -h只有四个参数需要改:

  • -i|--input: 过滤长度低于给定阈值的contig/scaffold, 默认是15000
  • -r|--round: 基因组中misjoin的纠错轮数,默认是2,当基因组比较准确时,设置为0,然后在JABT中调整会更好
  • -m|--mode: 是否调用merge模块,当且仅当在杂合度比较高的情况下使用,也就是组装的单倍型基因组明显偏大
  • -s|--stage: 从polish, split, seal, merge 或finalize 的某一个阶段开始

但是,一旦基因组复杂起来,那么需要调整的参数就非常多了, run-asm-pipeline.sh --help会输出更多的信息,你需要根据当前结果去确定每个阶段的参数应该如何调整。
最终的输出文件最关键的是下面三类:

  • .fasta: 以FINAL标记的是最终结果
  • .hic: 各个阶段都会有输出结果,用于在JABT中展示
  • .assembly: 各个阶段都会有输出,一共两列,存放contig的组装顺序

三:分析流程

准备两个数据:

  • reference:存放一个genome.fa, 为组装的contigs。
  • fastq: 存放HiC二代双端测序结果,read_R1_fastq.gz, read_R2_fastq.gz
    有了这两个数据就可以开始了。

1. 准备一个新的基因组

第一步:为基因组建索引

bwa index genome.fa

第二步: 根据基因组构建创建可能的酶切位点文件

python /data1/spider/ytbiosoft/soft/juicer/misc/generate_site_positions.py DpnII genome genome.fa

第三步: 运行如下命令, 获取每条contig的长度

awk 'BEGIN{OFS="\t"}{print $1, $NF}' genome_DpnII.txt > genome.chrom.sizes

2.运行juicer

保证当前目录下有fastq和reference文件夹,然后运行如下命令,一定要设置-z,-p,-y这三个参数

bash /data1/spider/ytbiosoft/soft/juicer/scripts/juicer.sh -g Arg_aqu -d /data1/spider/ytbiosoft/soft/juicer -D /data1/spider/ytbiosoft/soft/juicer/CPU -z /data1/spider/ytbiosoft/test/hic_aqu/reference/genome.fa -y /data1/spider/ytbiosoft/test/hic_aqu/reference/genome_DpnII.txt -p /data1/spider/ytbiosoft/test/hic_aqu/reference/genome.chrom.size -s DpnII -t 36

输出的结果文件都在aligned目录下,其中"merged_nodups.txt"就是下一步3D-DNA的输入文件之一。

3. 运行3d-dna

3d-dna的运行也没有多少参数可以调整,如果对组装基因组质量的信心高,就用-r 0, 否则用默认的-r 2就行了。

~/soft/3d-dna/run-asm-pipeline.sh -r 2 reference/genome.fa aligned/merged_nodups.txt &> 3d.log &

然后在Juicer-Tools中对结果进行可视化,对可能的错误进行纠正。

最后输出文件中,包含FINAL就是我们需要的结果。

4.使用juicerbox进行手工纠错

关于juicerbox的用法,可以看hoptop的https://www.bilibili.com/video/av65134634
最常见的几种组装错误:

  • misjoin: 切割
  • translocations: 移动
  • inversions: 翻转
  • chromosome boundaries: 确定染色体的边界

这些错误的判断依赖于经验,所以只能靠自己多试试了。
最后输出genome.review.assembly用于下一步的分析

5. 再次运行3d-dna

根据JABT手工纠正的结果, genome.review.assembly, 使用run-asm-pipeline-post-review.sh重新组装基因组。

~/soft/3d-dna/run-asm-pipeline-post-review.sh \
    -r genome.review.assembly genome.fa aligned/merged_nodups.txt &> 3d.log &

最后

假如你不小心设置了错误的-p参数,也不是特别的要紧,因为之后在最后阶段(final) 才会遇到了下面这个报错。

Could not find chromosome sizes file for: reference/genome.chrom.size
***! Can't find inter.hic in aligned/inter_30.hic
***! Error! Either inter.hic or inter_30.hic were not created
Either inter.hic or inter_30.hic were not created. Check aligned for results

即便遇到了这个报错也不要紧,因为inter.hic 和 inter_30.hic在3d-dna流程中用不到,所以不需要解决。

如果需要解决的话,有两个解决方案,一种重新运行命令,只不过多加一个参数-S final, 就会跳过之前的比对,合并和去重步骤,直接到后面STATISTICS环节。但是这样依旧会有一些不必要的计算工作,所以另一种方法就是运行原脚本必要的代码

juiceDir=~/soft/juicer
outputdir=aligned
genomePath=reference/genome.chrom.size
site_file=reference/genome_DpnII.txt
ligation=GATCGATC
# output is inter.hic
${juiceDir}/scripts/common/juicer_tools pre -f $site_file -s $outputdir/inter.txt -g $outputdir/inter_hists.m -q 1 $outputdir/merged_nodups.txt $outputdir/inter.hic $genomePath 
# output is inter_30.txt
${juiceDir}/scripts/common/statistics.pl -s $site_file -l $ligation -o $outputdir/inter_30.txt -q 30 $outputdir/merged_nodups.txt
# output is inter_30.hic
${juiceDir}/scripts/common/juicer_tools pre -f $site_file -s $outputdir/inter_30.txt -g $outputdir/inter_30_hists.m -q 30 $outputdir/merged_nodups.txt $outputdir/inter_30.hic $genomePath

参考

https://www.jianshu.com/p/0969e1001d3b
https://github.com/theaidenlab/3d-dna
https://github.com/aidenlab/juicer
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 193,968评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,682评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,254评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,074评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 60,964评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,055评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,484评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,170评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,433评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,512评论 2 308
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,296评论 1 325
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,184评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,545评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,880评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,150评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,437评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,630评论 2 335

推荐阅读更多精彩内容