上传文件实现数据采集以及批量导入数据库实例

因为项目要求,需要读取本地文件,实现数据采集,然后批量导入数据库。

友情提示:下面代码中关于数据库的操作的代码有的是封装好的,比如save()方法,findBatchNum()方法并没有在本篇博客中贴出来,但是方法的作用会以注释形式声明。

数据采集(bean)

import java.io.BufferedReader;  
import java.io.File;  
import java.io.FileInputStream;  
import java.io.IOException;  
import java.io.InputStreamReader;  
  
public class User {  
      
    private String name;  
    private String address;  
    private String phone;  
    private String company;  
    private Integer idCard;  
    private Integer blood;  
    private Long id;  
      
      
    public static User parse(String str){  
        User u = new User();  
        String[] s = str.split("\\|");  
        u.setName(s[0].equals("未采集")?"":s[0]);  
        u.setAddress(s[1].equals("未采集")?"":s[1]);  
        u.setPhone(s[2].equals("未采集")?"":s[2]);  
        u.setCompany(s[3].equals("未采集")?"":s[3]);  
        u.setIdCard(s[4].equals("未采集")?0:Integer.parseInt(s[4]));  
        u.setBlood(s[5].equals("未采集")?0:Integer.parseInt(s[5]));  
        return u ;  
    }  
      
    public Long getId() {  
        return id;  
    }  
    public void setId(Long id) {  
        this.id = id;  
    }  
    public String getName() {  
        return name;  
    }  
    public void setName(String name) {  
        this.name = name;  
    }  
    public String getAddress() {  
        return address;  
    }  
    public void setAddress(String address) {  
        this.address = address;  
    }  
    public String getPhone() {  
        return phone;  
    }  
    public void setPhone(String phone) {  
        this.phone = phone;  
    }  
    public String getCompany() {  
        return company;  
    }  
    public void setCompany(String company) {  
        this.company = company;  
    }  
    public Integer getIdCard() {  
        return idCard;  
    }  
    public void setIdCard(Integer idCard) {  
        this.idCard = idCard;  
    }  
    public Integer getBlood() {  
        return blood;  
    }  
    public void setBlood(Integer blood) {  
        this.blood = blood;  
    }  
    @Override  
    public String toString() {  
        // TODO Auto-generated method stub  
        return "name"+name+"address"+address+"phone"+phone+"company"+company+"idCard"+idCard+"blood"+blood;  
    }  
//测试  
    public static void main(String[] args) throws IOException {
        File file = new File("C:/test/23333.txt");  
        FileInputStream fis = new FileInputStream(file);  
        InputStreamReader isr = new InputStreamReader(fis,"utf-8");  
        BufferedReader br = new BufferedReader(isr);  
        String b=null;  
        while((b=br.readLine())!=null){  
            System.out.println(User.parse(b).toString());  
        }  
br.close();
    }  
}

记录数据导入相关信息(bean)

import java.util.Date;  
public class ImportRecord {  
    /** 
     * 批次号(无后缀文件名称) 
     */  
    private String batchNum;  
      
    /** 
     * 每次导入的总记录数 
     */  
    private int totalRecord;  
      
    /** 
     * 导入失败为0 ,导入成功为1 
     */  
    private int status;  
  
    /** 
     * 导入时间 
     */  
    private Date createTime;  
      
    /** 
     * 导入完成时间 
     */  
    private Date finishTime;  
      
      
    private Long id;  
      
    public Long getId() {  
        return id;  
    }  
      
    public void setId(Long id) {  
        this.id = id;  
    }  
    public String getBatchNum() {  
        return batchNum;  
    }  
  
    public void setBatchNum(String batchNum) {  
        this.batchNum = batchNum;  
    }  
    public int getTotalRecord() {  
        return totalRecord;  
    }  
  
    public void setTotalRecord(int totalRecord) {  
        this.totalRecord = totalRecord;  
    }  
    public int getStatus() {  
        return status;  
    }  
  
    public void setStatus(int status) {  
        this.status = status;  
    }  
    public Date getCreateTime() {  
        return createTime;  
    }  
  
    public void setCreateTime(Date createTime) {  
        this.createTime = createTime;  
    }  
    public Date getFinishTime() {  
        return finishTime;  
    }  
  
    public void setFinishTime(Date finishTime) {  
        this.finishTime = finishTime;  
    }  
}

文件上传以及数据的导入(UserService.java)

public void batchSave(MultipartFile dataFile,HttpServletRequest  request){  
      
        BufferedReader br=null;  
        InputStreamReader isr=null;  
        FileInputStream fis=null;  
        try {  
            CommonsMultipartFile cf = (CommonsMultipartFile) dataFile;  
            MultipartHttpServletRequest multiRequest=(MultipartHttpServletRequest) request;  
            DiskFileItem fi = (DiskFileItem) cf.getFileItem();  
            File file = fi.getStoreLocation();  
            fis = new FileInputStream(file);  
  
            isr = new InputStreamReader(fis, "UTF-8");  
  
            br = new BufferedReader(isr);  
            String b= null;  
            List<User> u=new ArrayList<User>();//把每一天记录保存到集合中,以便批量保存到数据库中  
            while ((b= br.readLine()) != null) {  
                User user = User.parse(b);  
                u.add(user);  
            }  
            //logger.info("读取条数:"+u.size());  
              
            Iterator<String> iter = multiRequest.getFileNames();   
            MultipartFile f = multiRequest.getFile(iter.next());  
            String fileName = f.getOriginalFilename();  
            String userName= fileName.substring(0,fileName.lastIndexOf(".")); //获取无后缀文件名称  
                        //以文件名作为条件从数据库查询  
                        ImportRecord importRecord = importRecordService.findBatchNum(userName);  
                        if (importRecord != null) {//如果结果不为空,则不能导入,防止重复导入  
                            throw new RuntimeException();  
                        }else{  
                            ImportRecord record=new ImportRecord();  
                            record.setBatchNum(batchNum);  
                            record.setTotalRecord(customers.size());  
                            record.setStatus(0);//没导入之前的状态为0  
                            record.setCreateTime(new Date()); //导入开始时间  
                            //批量导入</span><pre name="code" class="java"><span style="font-size:14px;">                            dao.batchSaveCustomer(customers);  
                            record.setFinishTime(new Date()); //导入结束时间  
                            record.setStatue(1);//导入成功的状态为1  
                            importRecordService.save(record);//保存到数据库中  
                         }  
        } catch (IOException e) {  
            e.printStackTrace();  
        } finally{  
            try{  
                if(br!=null)br.close();       
                if(isr!=null)isr.close();  
                if(fis!=null)fis.close();             
            }catch(Exception ex){  
                ex.printStackTrace();  
            }  
             
        }  
          
    }

把数据批量导入到数据库中(UserDao.java)

public void batchSaveUser(List<User> list) {  
        Session session = getSession().getSessionFactory().openSession();  
        session.beginTransaction().begin();  
        for (int i = 0; i < list.size(); i++) {    
            getSession().save(list.get(i));   
            // 批插入的对象立即写入数据库并释放内存     
            if (i % 50 == 0 || i == list.size()-1) {    
                session.flush();    
                session.clear();    
            }    
        }  
        session.getTransaction().commit(); // 提交事物    
        session.close();  
    }

controller层

@RequestMapping  
    public String add(@RequestParam("dataFile")MultipartFile dataFile,HttpServletRequest  request,Model model){   
        try{  
            customerService.batchSave(dataFile,request);              
        }catch(RuntimeException e){  
            model.addAttribute("remind", "批次已存在");  
            e.printStackTrace();  
        }catch(Exception ex){  
            ex.printStackTrace();  
        }  
        return "user/user-list";  
    }

页面(jsp)

<script type="text/javascript">a  
  function handler1(tp){  
   if(tp=='ok'){  
    $("#form1").submit();  
   }  
  }  
</script>  
  
</head>  
<body id="content">  
<form action="add.htm" id="form1" enctype="multipart/form-data" method="post">  
<div id="breadnav">  
  
          <ul>  
             <li>测试管理</li>  
             <li> > </li>  
             <li class="current">导入</li>  
          </ul>  
     </div>  
     <div class="space"></div>  
     <div class="tablearea1">  
  
         <table class="table_info">  
            <tr>  
        <td><label for="dataFile">文件:</label></td>  
        <td class="tdspace"></td>  
        <td><input type="file" id="dataFile" name="dataFile"  size="14" maxlength="10"/></td>  
        <td style="color:red;">${remind}</td>  
  
    </tr>  
               
          </table>  
    </div>  
  
    <div class="space"></div>  
    <div class="table_btn">  
     <div class="btn">  
        
      <div class="btn">  
      <div class="btn_left"></div>  
      <div class="btn_bar"><a href='#' onclick="ymPrompt.confirmInfo({title:'新增操作',message:'您将增加一条新记录,请确保您输入信息的正确性。',handler:handler1})">导入</a></div>  
      <div class="btn_right"></div>  
  
      </div>  
      </div>  
   </div>  
  
    <div class="clearall"></div>   
    </form>  
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,293评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,604评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,958评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,729评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,719评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,630评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,000评论 3 397
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,665评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,909评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,646评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,726评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,400评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,986评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,959评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,996评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,481评论 2 342

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,594评论 18 139
  • Spring Boot 参考指南 介绍 转载自:https://www.gitbook.com/book/qbgb...
    毛宇鹏阅读 46,732评论 6 342
  • 1. Java基础部分 基础部分的顺序:基本语法,类相关的语法,内部类的语法,继承相关的语法,异常的语法,线程的语...
    子非鱼_t_阅读 31,567评论 18 399
  • 五绝 梦见终南山 意马当空坠,心猿锁铁寒, 红尘劫百炼,只影向终南 。
    阿西莫多阅读 613评论 0 1
  • 有时候很熟悉 有时候很陌生 有时候能闻到味道 有时候能触到肌肤 望见眼底的深邃 直到梦醒 隔着通明玻璃的世界 细雨...
    _九歌阅读 147评论 2 2