title: GDAS004-Bioconductor与基因组级数据分析简介
date: 2019-09-03 12:0:00
type: "tags"
tags:
- Bioconductor
categories: - Genomics Data Analysis Series
前言
在生命科学研究领域的相关人员,经常使用电子表格来记录和管理实验数据。针对这个问题,我们将会提出一个使用R和Bioconductor管理基因组级实验数据的原则。使用基于R的软件来管理数据似乎并不太常见。通常来说,R仅用于编写程序,构建统计模型。但是,针对复杂生物实验数据的多方面需求这种情况,Bioconductor已经非常着手以统一的方式来详细地注释这些数据。Bioconductor的这种做法可以让我们导入初步分析的结果(例如多个微阵列的扫描结果以及多个测序结果的比对信息),将这些初步的结果与有关实验证的元数据,以及检测的样本信息结合起来,从而将所有的信息都保存在一个R变量中。通过周全的设计该变量的数据结构,程序可以对这些数据进行各种操作,最终获得更加有效的管理和分析环境。
在这一节中,我们会通过一些实验数据来演示一下基本的操作方法,从而,逐步过滤到更加全面的表示方法(
我们将通过对Bioconductor中所表示的实验数据的一些非常基本的表示法,逐步走向更先进的综合表示法,从而理解这种数据操作方法所表现出来的高效率。
案例说明 (Youtube上有相应视频)
1.0 Distinct components from an experiment.
library(GSE5859Subset)
library(Biobase)
.oldls = ls()
data(GSE5859Subset)
.newls = ls()
我们导入了一个GSE5859Subset
的实验数据,现在我们使用 setdiff()
函数来比较一下导入前后文件的区别,如下所示:
newstuff = setdiff(.newls, .oldls)
newstuff
## [1] "geneAnnotation" "geneExpression" "sampleInfo"
从结果中我们可以发现,当导入了 GSE5859Subset
实验数据中,这个数据中含有3个文件。它们3个分别属于不同的类,如下所示:
cls = lapply(newstuff, function(x) class(get(x)))
names(cls) = newstuff
cls
## $$geneAnnotation
## [1] "data.frame"
##
## $$geneExpression
## [1] "matrix"
##
## $$sampleInfo
## [1] "data.frame"
我们可以按照种族绘制绘制出它们不同时间的图形,如下所示:
boxplot(date~factor(ethnicity), data=sampleInfo, ylab="chip date")
假如我们想查看一下BRCA2在不同种族中的表达情况,我们可以按以下操作进行:
- 我们需要知道
geneExpression
这个矩阵中哪一行代表BRCA2的数据,并且我们要知道geneAnnotation
哪一列提供了BRCA2的信息(探针名与基因名的对应关系); - 我们需要知道
geneExpression
这个矩阵中的顺序与samkpleInfo
是一致的,要知道sampleInfo
中的信息与geneExpression
中的标签的对应关系。
因此,我为了将基因表达矩阵与样本信息联系起来,我们需要对三个数据进行操作(分别为表达矩阵,样本信息,基因注释信息),从而确保这些信息能够匹配起来,如下所示:
all.equal(colnames(geneExpression), sampleInfo$filename)
## [1] TRUE
all.equal(rownames(geneExpression), geneAnnotation$PROBEID)
## [1] TRUE
ind = which(geneAnnotation$SYMBOL=="BRCA2")
boxplot(geneExpression[ind,]~sampleInfo$ethnicity, ylab="BRCA2 by hgfocus")
虽然我们绘制出了图形,但是这略微复杂,为了降低操作难度,Bioconductor定义了一个名为ExpressionSet
数据结构。
ExpressionSet数据结构
我们使用简单的命令就能构建起ExpressionSet这种数据结构,如下所示:
es1 = ExpressionSet(geneExpression)
pData(es1) = sampleInfo
fData(es1) = geneAnnotation
es1
## ExpressionSet (storageMode: lockedEnvironment)
## assayData: 8793 features, 24 samples
## element names: exprs
## protocolData: none
## phenoData
## sampleNames: 107 122 ... 159 (24 total)
## varLabels: ethnicity date filename group
## varMetadata: labelDescription
## featureData
## featureNames: 1 30 ... 12919 (8793 total)
## fvarLabels: PROBEID CHR CHRLOC SYMBOL
## fvarMetadata: labelDescription
## experimentData: use 'experimentData(object)'
## Annotation:
上面的es
这个单一变量就浓缩了整个实验的数据,将原来的三个数据变为了一个。现在我们使用es1
就能直接绘图,如下所示:
boxplot(es1$date~es1$ethnicity)
现在我们已经了解了ExpressionSet
容器的设计,你自己也能构建一个ExpressionSet实例。我们将会在下面的实验中,使用一个更加广泛的数据表示方法,如下所示:
library(GSE5859)
data(GSE5859)
e
## ExpressionSet (storageMode: lockedEnvironment)
## assayData: 8793 features, 208 samples
## element names: exprs, se.exprs
## protocolData
## sampleNames: GSM25349.CEL.gz GSM25350.CEL.gz ...
## GSM136729.CEL.gz (208 total)
## varLabels: ScanDate
## varMetadata: labelDescription
## phenoData
## sampleNames: 1 2 ... 208 (208 total)
## varLabels: ethnicity date filename
## varMetadata: labelDescription
## featureData: none
## experimentData: use 'experimentData(object)'
## Annotation: hgfocus
元数据管理(Metadata management)
及时地了解关于实验意图和方法的信息非常有用。GSE5859中使用的一些微阵列数据就是类来源于一篇发表于2004年(PubmedID为15269782)的论文。在联网的情况下,我们可以将论文的信息导入R,如下所示:
library(annotate)
p = pmid2MIAME("15269782")
p
## Experiment data
## Experimenter name: Morley M
## Laboratory: NA
## Contact information:
## Title: Genetic analysis of genome-wide variation in human gene expression.
## URL:
## PMIDs: 15269782
##
## Abstract: A 167 word abstract is available. Use 'abstract' method.
现在查看你R环境中的e
变量,使用experimentData(e) <- p
后,就能够将PubmedID信息添加到e
中。使用experimentData(e)
也能发现e
中的信息改变了,也含有Pubmed ID信息。
关于ExpressionSet的Why与How
现在我们通过创建以及使用ExpressionSet
实例已经快速了解了这种数据结构的特点。我们现在将要了解一下,为什么要这样设计这种数据结构,以及如何使用这些数据结构。
设计ExpressionSet
这种数据结构的初衷有很多,以下几点最为关键:
- 降低复杂分析,注释以及样本信息编程的难度;
- 支持特征值(其实就是表达值)和样本信息的简单的过滤;
- 在将分析数据传递给分析函数时控制内存占用。
以上就是为什么要设计ExpressionSet这种数据结构。关于如何使用这种结构,这些内容就要涉及一些设计模式问题,在R中,与面向对象编程相关类被称为S4类。
面向对象编程与S4类
面向对象编程(OOP, Object-oriented programming)是计算机编程一个学科,它有助于降低程序的复杂性和维护要求,并能增强程度的互动性。OOP有着各种解决方式,即使在R中,也可以进行OOP,这就是所谓的S4方法。在R中,OOP的基本思想就是一个对象有些特征:
- 将不同类型的数据集中放到一个统一的结构中,
- 它被标记为某个正式指定类的成员,并且可以正式地位于相关对象的系统中,
- 以类特异性方式对泛型方法进行响应。
我们可以使用getClass
函数查看一个ExpresionSet
的类结构,如下所示:
getClass("ExpressionSet")
## Class "ExpressionSet" [package "Biobase"]
##
## Slots:
##
## Name: experimentData assayData phenoData
## Class: MIAME AssayData AnnotatedDataFrame
##
## Name: featureData annotation protocolData
## Class: AnnotatedDataFrame character AnnotatedDataFrame
##
## Name: .__classVersion__
## Class: Versions
##
## Extends:
## Class "eSet", directly
## Class "VersionedBiobase", by class "eSet", distance 2
## Class "Versioned", by class "eSet", distance 3
从上面我们可以看到,一共有7个组件定义了该类。只有annoataion
这个组件占据了一个单独的R类型,也就是character
类型。至于其它的组件,都是S4类的一个实例(或者说是更多的R数据类型)。
举例说明一下,MIAME
类的定义如下所示:
getClass("MIAME")
## Class "MIAME" [package "Biobase"]
##
## Slots:
##
## Name: name lab contact
## Class: character character character
##
## Name: title abstract url
## Class: character character character
##
## Name: pubMedIds samples hybridizations
## Class: character list list
##
## Name: normControls preprocessing other
## Class: list list list
##
## Name: .__classVersion__
## Class: Versions
##
## Extends:
## Class "MIAxE", directly
## Class "characterORMIAME", directly
## Class "Versioned", by class "MIAxE", distance 2
因此,我们可以发现,S4可以让我们定义包含各种信息的新数据结。我们虽然可以使用R中非常通用的列表结构来实现这一目的(就是说实现封装不同信息),但是S4允许我们能保证有新结构的属性,以便为这些结构定义的程序不必“检查”它们正在操作什么。这些检查过程内置在了类系统中。
数据框(DataFrame): 表格数据的增强型结构
数据框是R中非常基础的数据结构。Bioconductor中引入了DataFrame
类,它可以实现其它一些额外的功能,后面我们会提到。
library(S4Vectors)
sa2 = DataFrame(sampleInfo)
sa2
## DataFrame with 24 rows and 4 columns
## ethnicity date filename group
## <factor> <Date> <character> <numeric>
## 1 ASN 2005-06-23 GSM136508.CEL.gz 1
## 2 ASN 2005-06-27 GSM136530.CEL.gz 1
## 3 ASN 2005-06-27 GSM136517.CEL.gz 1
## 4 ASN 2005-10-28 GSM136576.CEL.gz 1
## 5 ASN 2005-10-07 GSM136566.CEL.gz 1
## ... ... ... ... ...
## 20 ASN 2005-06-27 GSM136524.CEL.gz 0
## 21 ASN 2005-06-23 GSM136514.CEL.gz 0
## 22 ASN 2005-10-07 GSM136563.CEL.gz 0
## 23 ASN 2005-10-07 GSM136564.CEL.gz 0
## 24 ASN 2005-10-07 GSM136572.CEL.gz 0
show
方法描述顶部和底部的行数据,提供有关列数据类型的信息,并且能够比data.frame
数据结构更有效地管理列中的复杂数据类所,下面是类定义:
getClass("DataFrame")
## Class "DataFrame" [package "S4Vectors"]
##
## Slots:
##
## Name: rownames nrows listData
## Class: character_OR_NULL integer list
##
## Name: elementType elementMetadata metadata
## Class: character DataTable_OR_NULL list
##
## Extends:
## Class "DataTable", directly
## Class "SimpleList", directly
## Class "DataTable_OR_NULL", by class "DataTable", distance 2
## Class "List", by class "SimpleList", distance 2
## Class "Vector", by class "SimpleList", distance 3
## Class "Annotated", by class "SimpleList", distance 4
源于多样本NGS数据的成熟数据表示方法
短读长测序产生了远比微阵列多得多的数据。测序实验也可以通过更加多样化的手段进行分析,因此测序实验能够在不同粒度级别(at various levels of granularity)提供有效的输入。
处理RNA-seq数据的典型流程包括:
- 展示每个周期中碱基所调用的色谱(2008年后就不再提供了);
- 碱基的读取质量值,它们通常以FASTQ格式进行储存;
- 通过基因组或转录本比对后,对各个基因统计的结果;
- 基因组极的多个样本的数据储存,用于推断感兴趣的生物学问题。通常一个样本对应两个FASTQ文件。
Bioconductor中的BAM文件
RNAseqData.HNRNPC.bam.chr14
中含有一些BAM文件,这些BAM文件是8个Hela细胞系样本的双端测序数据,其中4个样本通过RNAi的方式敲低了异质核核糖核蛋白C1和C2(hnRNPC,heterogeneous nuclear ribonucleoproteins C1 and C2)。这个家庭的核蛋白参与pre-mRNA的加工。现在我们演示一下,如何从BAM文件中来统计与HNRNPC有关的读长数目(reads count)。
BAM文件储存在RNAseqData.HNRNPC.bam.chr14
包中,如下所示:
library(RNAseqData.HNRNPC.bam.chr14)
bfp = RNAseqData.HNRNPC.bam.chr14_BAMFILES
length(bfp)
## [1] 8
bfp[1]
## ERR127306
## "/Library/Frameworks/R.framework/Versions/3.4/Resources/library/RNAseqData.HNRNPC.bam.chr14/extdata/ERR127306_chr14.bam"
我们使用Rsamtools
包以一个变量的形式管理这些信息,如下所示:
library(Rsamtools)
bfl = BamFileList(file=bfp)
bfl
## BamFileList of length 8
## names(8): ERR127306 ERR127307 ERR127308 ... ERR127303 ERR127304 ERR127305
BAM文件包括关于读长(reads)与基因组比对后的有限数量的元数据。这里我们以BamFileList
实例来说明一下:
seqinfo(bfl)
## Seqinfo object with 93 sequences from an unspecified genome:
## seqnames seqlengths isCircular genome
## chr1 249250621 <NA> <NA>
## chr10 135534747 <NA> <NA>
## chr11 135006516 <NA> <NA>
## chr11_gl000202_random 40103 <NA> <NA>
## chr12 133851895 <NA> <NA>
## ... ... ... ...
## chrUn_gl000247 36422 <NA> <NA>
## chrUn_gl000248 39786 <NA> <NA>
## chrUn_gl000249 38502 <NA> <NA>
## chrX 155270560 <NA> <NA>
## chrY 59373566 <NA> <NA>
我们看到基因”没有指定“,但是我们碰巧知道参考基因组hg19
用于进入基因序列的比对。使用[genome(bfl) <- “hg19”
可以纠正这点,但是还存在着一个bug。这个bug应该修正一下,以便可以标记使用不同的参考基因组来进行比对或纠正错误,注:这段不太理解,原文如下:
We see that the genome is “unspecified”, but we happen to know that the reference build ‘hg19’ was used to define the genomic sequence for alignment. [genome(bfl) <- “hg19” should rectify this but at present there is a bug. This should be fixed so that attempts to compare alignments using different
references can be flagged or throw errors.]
为了验证是否成功敲除,我们将检查编码HNRNPC的基因组附近的序列的比对情况。稍后,我们将展示如何使用Bioconductor注释工具获取基因地址;不过这个地址仅用于hg19基因组,如下所示:
hnrnpcLoc = GRanges("chr14", IRanges(21677296, 21737638))
hnrnpcLoc
## GRanges object with 1 range and 0 metadata columns:
## seqnames ranges strand
## <Rle> <IRanges> <Rle>
## [1] chr14 [21677296, 21737638] *
## -------
## seqinfo: 1 sequence from an unspecified genome; no seqlengths
这标识了HNRNPC编码基因为hg19注释的染色体14的区域。评估表达式量化的一种简单方法是使用GenomicAlignmentspackage中的summary izeOverlaps。此计数方法将隐式使用多核计算。
上面的代码标识了14号染色体中编码HNRNPC附近的序列。评估基因表达量化的一种简单方法就是使用GenomicAlignmentspackage
包中的summarizeOverlaps
函数,这个计算方法隐式地使用了多核计算,如下所示:
library(GenomicAlignments)
library(BiocParallel)
register(SerialParam())
hnse = summarizeOverlaps(hnrnpcLoc,bfl)
练习
- 检查
hnse
中的count
组件内容。与HNRNPC敲除相对应的有关量化的指标是什么? - 向
hnse
的colData
组件中添加一个变量condition
,用于指示敲除株与野生株。 - 具有后缀306和307的样本是单个对照的技术重复;308和309同样如此。因此使用了6个不同的生物学样本。现在向
colData
中添加一个变量,用于区别这6个样本。
ExpressionSet设计的一些复杂性(进阶)
生物信息学家是在一个不断变化的环境中工作。自Bioconductor建立以来,计算机的容量和通量已经大幅度增加。R语言也性现了很大的变量。在早期的时候,大家都比较注意内存的使用,因为当时在R中,向一个函数传递参数时,会复制内存中的对象, 这种操作比较低效。而“环境”类中的R对象则不会发生复制,这就导致了使用环境来储存大量的数据用于分析。
class(slot(es1, "assayData"))
## [1] "environment"
ae = slot(es1, "assayData")
ae
## <environment: 0x7f813b4dc698>
“环境”是R中一种非常特殊的对象类型,可以将它视为对表达值矩阵引用的容器。
ls(ae)
## [1] "exprs"
dim(ae$exprs)
## [1] 8793 24
dim(exprs(es1))
## [1] 8793 24
object.size(ae)
## 56 bytes
object.size(ae$exprs)
## 2253824 bytes
练习(可选)
请解释以下运行结果:
e1 = new.env()
l1 = list()
e1$x = 5
l1$x = 5
all.equal(e1$x, l1$x)
## [1] TRUE
f = function(z) {z$x = 4; z$x}
all.equal(f(e1), f(l1))
## [1] TRUE
all.equal(e1$x, l1$x) # different from before
## [1] "Mean relative difference: 0.25"
运行结果如下所示:
> e1 = new.env()
> l1 = list()
> e1$x = 5
> l1$x = 5
> all.equal(e1$x, l1$x)
[1] TRUE
> ## [1] TRUE
> f = function(z) {z$x = 4; z$x}
> all.equal(f(e1), f(l1))
[1] TRUE
> ## [1] TRUE
> all.equal(e1$x, l1$x) # different from before
[1] "Mean relative difference: 0.25"
> ## [1] "Mean relative difference: 0.25"