锐客网

python十行代码实现文件去重,去除重复文件的脚本

导入依赖

'''导入依赖'''from pathlib import Pathimport filecmp

函数说明
''' filecmp.cmp(path1, path2, shallow=True)path1/path2:待比较的两个文件路径。shallow :默认为True,即只比较os.stat()获取的元数据(创建时间,大小等信息)是否相同, 设置为False的话,在对比文件的时候还要比较文件内容。 '''

提取待去重文件路径
# 初始化文件路径列表path_files_list = []# 遍历for path in Path(r'/usr/load/data').iterdir():# 校验是否为文件if path.is_file():# 加入到待去重文件列表path_files_list.append(path)# 遍历待去重文件for file_index in range(len(path_files_list) - 1):# 遍历,两辆比对for later in range(file_index + 1, len(path_files_list)):# 校验内容是否相同if filecmp.cmp(path_files_list[file_index], path_files_list[later], shallow=False):# 内容相同、则删除path_files_list[file_index].unlink()break

【粉丝福利】关注公众号,获取全套视频资料,喜欢小编点个 '关注' 吧!

python十行代码实现文件去重,去除重复文件的脚本
文章图片
【往期精选】
● python的GUI框架tkinter,实现程序员的流氓式表白逻辑
● 探究python函数的不定长参数args与*kwargs
● 没有深思过的python冷知识你知道几个?
● python图片处理,自动生成gif动态图片
● python-redis 的操作手法,相当简单的redis数据存储方式!
● python 日期、时间处理,各种日期时间格式/字符串之间的相互转换究竟是怎样的?
● python 内置的数据计数器Counter相当nice
● 几十行代码实现python发送邮件与接收邮件
● 梳理python路线知识盲区,最全面、最详细的python知识体系框架思维导图终于出炉了!
● 没有开发工具,在服务器控制台如何进行python代码调试,高级编程pdb代码调试!
● python中的set集合,元素的CRUD处理,交集/差集/并集计算,不只是能去重!
● python编程:yaml文件应用支持,轻松读取可配置参数!
● VsCode再出神器-Pylance,终于为python开发者也带来福利了!
【python十行代码实现文件去重,去除重复文件的脚本】● 灵魂发问:每个程序员心中都有自己的一套编码规范,你的代码别人能看懂吗?
本文由微信公众号【python 集中营】发布,更多精彩文章、视频资料即可领取!



    Python