Heim >Backend-Entwicklung >Python-Tutorial >Die inkrementelle Python-Schleife löscht MySQL-Tabellendaten
Bedarfsszenario:
Es gibt eine Geschäftsdatenbank, die MySQL Version 5.5 verwendet. Jeden Tag werden große Datenmengen geschrieben, und die Daten müssen aktualisiert werden Das Löschen von Daten in mehreren Tabellen ist in SQL SERVER einfach zu implementieren. Obwohl es in MySQL keine ähnlichen Funktionen gibt, verwende ich dafür Python implementieren.
Nicht viel zu sagen, obere Schrift:
# coding: utf-8 import MySQLdb import time # delete config DELETE_DATETIME = '2016-08-31 23:59:59' DELETE_ROWS = 10000 EXEC_DETAIL_FILE = 'exec_detail.txt' SLEEP_SECOND_PER_BATCH = 0.5 DATETIME_FORMAT = '%Y-%m-%d %X' # MySQL Connection Config Default_MySQL_Host = 'localhost' Default_MySQL_Port = 3358 Default_MySQL_User = "root" Default_MySQL_Password = 'roo@01239876' Default_MySQL_Charset = "utf8" Default_MySQL_Connect_TimeOut = 120 Default_Database_Name = 'testdb001' def get_time_string(dt_time): """ 获取指定格式的时间字符串 :param dt_time: 要转换成字符串的时间 :return: 返回指定格式的字符串 """ global DATETIME_FORMAT return time.strftime(DATETIME_FORMAT, dt_time) def print_info(message): """ 将message输出到控制台,并将message写入到日志文件 :param message: 要输出的字符串 :return: 无返回 """ print(message) global EXEC_DETAIL_FILE new_message = get_time_string(time.localtime()) + chr(13) + str(message) write_file(EXEC_DETAIL_FILE, new_message) def write_file(file_path, message): """ 将传入的message追加写入到file_path指定的文件中 请先创建文件所在的目录 :param file_path: 要写入的文件路径 :param message: 要写入的信息 :return: """ file_handle = open(file_path, 'a') file_handle.writelines(message) # 追加一个换行以方便浏览 file_handle.writelines(chr(13)) file_handle.close() def get_mysql_connection(): """ 根据默认配置返回数据库连接 :return: 数据库连接 """ conn = MySQLdb.connect( host=Default_MySQL_Host, port=Default_MySQL_Port, user=Default_MySQL_User, passwd=Default_MySQL_Password, connect_timeout=Default_MySQL_Connect_TimeOut, charset=Default_MySQL_Charset, db=Default_Database_Name ) return conn def mysql_exec(sql_script, sql_param=None): """ 执行传入的脚本,返回影响行数 :param sql_script: :param sql_param: :return: 脚本最后一条语句执行影响行数 """ try: conn = get_mysql_connection() print_info("在服务器{0}上执行脚本:{1}".format( conn.get_host_info(), sql_script)) cursor = conn.cursor() if sql_param is not None: cursor.execute(sql_script, sql_param) row_count = cursor.rowcount else: cursor.execute(sql_script) row_count = cursor.rowcount conn.commit() cursor.close() conn.close() except Exception, e: print_info("execute exception:" + str(e)) row_count = 0 return row_count def mysql_query(sql_script, sql_param=None): """ 执行传入的SQL脚本,并返回查询结果 :param sql_script: :param sql_param: :return: 返回SQL查询结果 """ try: conn = get_mysql_connection() print_info("在服务器{0}上执行脚本:{1}".format( conn.get_host_info(), sql_script)) cursor = conn.cursor() if sql_param != '': cursor.execute(sql_script, sql_param) else: cursor.execute(sql_script) exec_result = cursor.fetchall() cursor.close() conn.close() return exec_result except Exception, e: print_info("execute exception:" + str(e)) def get_id_range(table_name): """ 按照传入的表获取要删除数据最大ID、最小ID、删除总行数 :param table_name: 要删除的表 :return: 返回要删除数据最大ID、最小ID、删除总行数 """ global DELETE_DATETIME sql_script = """ SELECT MAX(ID) AS MAX_ID, MIN(ID) AS MIN_ID, COUNT(1) AS Total_Count FROM {0} WHERE create_time <='{1}'; """.format(table_name, DELETE_DATETIME) query_result = mysql_query(sql_script=sql_script, sql_param=None) max_id, min_id, total_count = query_result[0] # 此处有一坑,可能出现total_count不为0 但是max_id 和min_id 为None的情况 # 因此判断max_id和min_id 是否为NULL if (max_id is None) or (min_id is None): max_id, min_id, total_count = 0, 0, 0 return max_id, min_id, total_count def delete_data(table_name): max_id, min_id, total_count = get_id_range(table_name) temp_id = min_id while temp_id <= max_id: sql_script = """ DELETE FROM {0} WHERE id <= {1} and id >= {2} AND create_time <='{3}'; """.format(table_name, temp_id + DELETE_ROWS, temp_id, DELETE_DATETIME) temp_id += DELETE_ROWS print(sql_script) row_count = mysql_exec(sql_script) print_info("影响行数:{0}".format(row_count)) current_percent = (temp_id - min_id) * 1.0 / (max_id - min_id) print_info("当前进度{0}/{1},剩余{2},进度为{3}%".format(temp_id, max_id, max_id - temp_id, "%.2f" % current_percent)) time.sleep(SLEEP_SECOND_PER_BATCH) print_info("当前表{0}已无需要删除的数据".format(table_name)) delete_data('TB001') delete_data('TB002') delete_data('TB003')
Ausführungseffekt:
Implementierungsprinzip:
Da die Tabelle eine automatisch inkrementierende ID hat, gibt sie uns die Möglichkeit, die Schleife schrittweise zu löschen und die maximale ID und minimale ID zu finden, die die Löschbedingungen erfüllen, und dann nacheinander um die ID zu erhöhen und jedes Mal einen kleinen Bereich (z. B. 10.000 Elemente) zu löschen.
Vorteile der Implementierung:
Erzielen Sie den Effekt von „Eine kleine Axt hackt ein großes Brennholz“, die Transaktion ist klein, die Auswirkung auf Das Online ist klein, drucken Sie die aktuelle verarbeitete „ID“ aus. Sie können von dieser ID aus beginnen, indem Sie den Code leicht ändern, was praktisch ist.
Implementierungsmängel:
Um zu verhindern, dass die Master-Slave-Verzögerung zu hoch wird, wird SLEEP jeweils für 1 Sekunde gelöscht Die Zeit ist relativ grob, aber die beste Methode sollte darin bestehen, diesen Replikationslink regelmäßig zu scannen und den SLEEP-Zyklus entsprechend der Verzögerung anzupassen. Wie auch immer, es ist alles ein Skript, also warum es nicht intelligenter machen?
Das Obige ist die vom Herausgeber eingeführte inkrementelle Schleife zum Löschen von MySQL-Tabellen. Wenn Sie Fragen haben, hinterlassen Sie mir bitte eine Nachricht Antworten Sie rechtzeitig. Ich möchte mich auch bei Ihnen allen für Ihre Unterstützung der chinesischen PHP-Website bedanken!
Weitere Artikel zum Löschen von MySQL-Tabellendaten in einer inkrementellen Python-Schleife finden Sie auf der chinesischen PHP-Website!