R语言批量读取某路径下文件内容的方法
时间：2023-02-16 09:34:04|栏目：|点击： 次
R刚入门的时候，能够正确读取单个文件就觉得小有成就，随着时间的积累，单一文件地读取已经不能满足需求了，此时，批量地做就是解放双手地过程。
使用for循环把下载地TCGA数据读入R语言并转换成数据框
使用三个for循环来完成，这是第一个for循环。
1. 把所有数据读入在一个文件夹中
dir.create("data_in_one") #创建目标文件夹，也可右键创建
dir("rawdata/") #查看原路径的内容
for (dirname in dir("rawdata/")){
## 1.要查看的单个文件夹的绝对路径
mydir <- paste0(getwd(),"/rawdata/",dirname)
## 2.找到对应文件夹中的文件并提取名称，pattern表示模式，可以是正则表达式
file <- list.files(mydir,pattern = "*.counts")
## 3.当前文件的绝对路径是
myfile <- paste0(mydir,"/",file)
## 4.复制这个文件到目的文件夹
file.copy(myfile,"data_in_one")
}
2. 寻找TCGA ID并让文件名称和TCGA ID保持一致。
第二个for循环。文件名称和TCGA ID的对应关系，藏在了metadata中。
metadata <- jsonlite::fromJSON("data/metadata.cart.2021-05-28.json")
metadata_id <- metadata[,c("file_name","associated_entities")]
## 1.准备容器,已经存在，我们把新数据添加在第三列
metadata_id
## 2.循环操作
for (i in 1:nrow(metadata_id)){
print(i)
metadata_id[i,3] <- metadata_id$associated_entities[i][[1]]$entity_submitter_id
}
## 重新命名
colnames(metadata_id)[3] <- "TCGA_id"
行排序，为了把文件名称和TCGA_id对应起来。读入的顺序和复制到新路径的顺序不一致，这一步的目的是让其保持一致。
rownames(metadata_id) <- metadata_id[,1] metadata_id <- metadata_id[files,]
3. 输入文件名并提取文件的第二列(counts列)
#install.packages("data.table")
#构建函数
myfread <- function(files){
data.table::fread(paste0("data_in_one/",files))$V2
}
## 测试文件
test <- myfread(files[1])
4.1 使用for循环来批量读入并整合到一个数据框。
## 1.创建容器
gene_id <- data.table::fread(paste0("data_in_one/",files[1]))$V1
expr_df <- data.frame(gene_id=gene_id)
## 2.按照列读入
for (i in 1:length(files)){
print(i)
expr_df[,i+1] = myfread(files[i])
}
## 增加列名
colnames(expr_df) <- c("gene_id",metadata_id$TCGA_id)
### 意外发现
tail(expr_df$gene_id,10)
### 去掉最后5行
(nrow(expr_df)-5)
expr_df <- expr_df[1:(nrow(expr_df)-5),]
save(expr_df,file = "output/BRCA_RNASEQ_exprdf.Rdata")
4.2 使用lapply + function 模式
1.函数
myfread <- function(files){
data.table::fread(paste0("data_in_one/",files))$V2
}
### 2.lapply
dd = lapply(files,myfread)
### 3.do.call
expr_df = as.data.frame(do.call(cbind,dd))
### 4.添加名称
colnames(expr_df) = metadata_id$TCGA_id
rownames(expr_df) = data.table::fread(paste0("data_in_one/",files[1]))$V1
