首页  >  问答  >  正文

python-mysqldb - 这样结构的mysql表,如何快速update

碰到一个类似这样的问题,请各位朋友帮助一下。
比如我的mysql数据表如下:

id key1 value1 key2 value2 key3 value3 key4 value4
1 0.138 0.513 西 0.961 0.756
2 0.962 0.258 0.625 0.533
3 西 0.628 0.268 0.156 0.697
4 0.628 0.894 0.625 西 0.268
... ... ... ... ... ... ... ... ...

还有一个黑名单list:
list = ['冬', '难', '喜', '杯']
通过SQL update更新数据,若表中某一条记录的key*字段的值在黑名单list中,则将其和其对应的value变为Null(注意只是该key和对应的value,不是整个记录)。
比如上述的例子处理后得到:

id key1 value1 key2 value2 key3 value3 key4 value4
1 Null Null 0.513 西 0.961 0.756
2 0.962 Null Null 0.625 0.533
3 西 0.628 0.268 0.156 Null Null
4 Null Null 0.894 0.625 西 0.268
... ... ... ... ... ... ... ... ...

那么问题来了:
假如
1.有一百万条记录(id:1 ~ 1,000,000)
2.有十个key-value对(key1,value1 ~ key10,value10)
3.黑名单list有十万个词汇
如何可以快速的更新整个数据表?

我的笨方法是:

...
for key in list:
    for i in range(1,11):
        sql = "UPDATE table_name SET key1=Null, value1=Null WHERE key%d='%s'" % (i, key)
        cursor.execute(sql)
... 

但是这个速度很慢,想请问如何能更快速的更新整个数据表?

PHP中文网PHP中文网2741 天前604

全部回复(3)我来回复

  • 黄舟

    黄舟2017-04-17 16:22:31

    给个我之前提的类似问题链接给你,希望能给你点帮助
    https://segmentfault.com/q/10...

    回复
    0
  • 大家讲道理

    大家讲道理2017-04-17 16:22:31

    黑名单的数据存到数据库表中,如:表名black_list, 字段名称为name, 并在name上创建索引

    分为十个sql语句执行:
    update t
    set key1 = null, value1 = null
    where exists (select 1 from black_list where name = key1);
    update t
    set key2 = null, value2 = null
    where exists (select 1 from black_list where name = key2);
    以此类推更新到key10, value10字段。

    回复
    0
  • ringa_lee

    ringa_lee2017-04-17 16:22:31

    雷雷

    1. *

    雷雷

    在 key_value_table(key1,key2,key3,key4) 上创建索引 idx_key_value_table_key;

    2. *

    雷雷

    3.*

    雷雷

    4.*

    雷雷

    5.*

    回复
    0
  • 取消回复