mysql从一张表查询批量数据并插入到另一表中的完整实例
说在前面
nodejs 读取数据库是一个异步操作,所以在数据库还未读取到数据之前,就会继续往下执行代码。
最近写东西时,需要对数据库进行批量数据的查询后,insert到另一表中。
说到批量操作,让人最容易想到的是for循环。
错误的 for 循环版本
先放出代码,提前说明一下,在这里封装了sql操作:sql.sever(数据库连接池,sql语句拼接函数,回调函数)
for(let i=0;i<views.xuehao.length;i++){ sql.sever(pool,sql.select(["name"],"registryinformation",["xuehao="+sql.escape(views.xuehao[i])]),function(data){ sql.sever(pool,sql.insert("personnelqueue",["xuehao","name","selfgroup","time"],[sql.escape(views.xuehao[i]),data[0].name,selfgroup,'NOW()'],true),function(){ let allGroup = ['Android', 'ios', 'Web', '后台','产品']; //这里是邮件相关代码 let group = allGroup[selfgroup - 1]; let mailmsg = "您好," + group + "组通过人员表已提交,请您尽快审核!"; mail.mailepass(mailmsg); res.write(JSON.stringify({ style:1, msg:"已将名单提交,待管理员审核!" })); res.end(); }) }) }
上面代码中,是先进行数据查询再进行数据的插入,(在这里假定有2条数据)按照常理,我们想的执行顺序是:查询 插入 查询 插入。然而,并非我们所想那么简单,虽然插入操作也确实在数据库查询的回调中写的,但是实际的顺序是:查询 查询,一旦直接进行了两次查询,想当然后面的代码直接报错了。没来得及回调时,已经执行了第二次循环。
改进的 for 循环版本
mysql 用一条语句可以完成查询并插入,格式为:INSERT IGNORE INTO 插入表表名 (item1,item2) SELECT item1,item2 FROM 查询表表名 WHERE,于是乎,便想到了下面的解决方案。
for (let i = 0; i < views.xuehao.length; i++) { sql.sever(pool, 'INSERT IGNORE INTO personnelqueue (xuehao,name,selfgroup,time) SELECT xuehao,name,selfgroup,NOW() FROM registryinformation WHERE xuehao=' + sql.escape(views.xuehao[i]) + ' and pass=' + state, function () { if (i == views.xuehao.length - 1) { let allGroup = ['Android', 'ios', 'Web', '后台', '产品']; let group = allGroup[selfgroup - 1]; let mailmsg = "您好," + group + "组通过人员表已提交,请您尽快审核!"; mail.mailepass(mailmsg); res.write(JSON.stringify({ style: 1, msg: "已将名单提交,待管理员审核!" })); res.end(); } }) }
这样,数据库操作正确,目的达到了。但是仔细想来,这样做还是有缺陷的。如果数据量小还好说,但若数据量大时,这样导致程序和数据库建立多次连接,会增加服务器负荷。
改进版
结合上一次的缺陷,顾名思义,这次我们要减少程序与数据库连接次数。于是,我们不再将插入和查询写到一起,而是将其分开,进行批量的插询,从而利用所查数据批量插入。代码如下:
let sqlString = 'SELECT xuehao,name,selfgroup FROM registryinformation WHERE pass=' + state + ' AND (xuehao=' + sql.escape(views.xuehao[0]); for (let i = 1; i < views.xuehao.length; i++) { sqlString += ' OR xuehao=' + sql.escape(views.xuehao[i]); } sqlString = sqlString + ')'; sql.sever(pool, sqlString, function (data) { //拼接插入sql语句 let istSqlStr = 'INSERT IGNORE INTO personnelqueue (xuehao,name,selfgroup,time) VALUES (' + data[0].xuehao + ',' + sql.escape(data[0].name) + ',' + data[0].selfgroup + ',NOW())'; for (let j = 1; j < data.length; j++) { istSqlStr += ',(' + data[j].xuehao + ',' + sql.escape(data[j].name) + ',' + data[j].selfgroup + ',' + 'NOW())'; } sql.sever(pool, istSqlStr, function () { let allGroup = ['Android', 'ios', 'Web', '后台', '产品']; let group = allGroup[selfgroup - 1]; let mailmsg = "您好," + group + "组通过人员表已提交,请您尽快审核!"; mail.mailepass(mailmsg); res.write(JSON.stringify({ style: 1, msg: "已将名单提交,待管理员审核!" })); res.end(); }) })
补充
批量查询语法(在这里and与or进行了混用) SELECT 列名,列名 FROM 表名 WHERE 条件 AND (item1=‘xxx' OR item1=‘yyy');
一条语句进行批量插入语法 INSERT INTO [ 表名 ]([ 列名] ,[ 列名 ]) VALUES([列值],[列值])),([列值],[列值])),([列值],[列值]));
总结
下一篇:sqoop export导出 map100% reduce0% 卡住的多种原因及解决