Python运维开发之路《模块》
阅读原文时间:2023年08月16日阅读:1

1. 模块初识

模块定义:模块(module),通常也被称为库(lib,library),是一个包含所有你定义的函数和变量的文件,其后缀名是.py。模块可以被别的程序引入,以使用该模块中的函数等功能。

如:os 是系统相关的模块;file是文件操作相关的模块

模块类别:

    • 自定义模块

    • 内置模块

    • 开源模块

常见Python内置模块解释

名称

功能介绍

详细解释

os

操作系统相关

os.path — Common pathname manipulations

sys

系统相关

sys — System-specific parameters and functions

urlib

网络相关

urllib — Open arbitrary resources by URL

re

正则表达式

re — Regular expression operations

json

处理JSON字符串

json — JSON encoder and decoder

2.模块导入

Python之所以应用越来越广泛,在一定程度上也依赖于其为程序员提供了大量的模块以供使用,如果想要使用模块,则需要导入。导入模块有一下几种方法:

1 import module
2 from module.xx.xx import xx
3 from module.xx.xx import xx as rename
4 from module.xx.xx import *

导入模块其实就是告诉Python解释器去解释那个py文件:

  • 导入一个py文件,解释器解释该py文件
  • 导入一个包,解释器解释该包下的 __init__.py 文件

import sys

for i in sys.path:
print(i)

==============================================
E:\s15\day6 #程序所在目录路径
E:\s15 #程序所在目录上级目录路径
D:\Python\python35.zip #python解释器zip
D:\Python\DLLs #pythonDLLs文件路径
D:\Python\lib #python自带lib库路径
D:\Python #python安装目录路径
D:\Python\lib\site-packages #python第三方库路径

sys.path路径列表没有你想要的路径,可以通过os.patch.abspatch()添加:

import sys
import os

pre_path = os.path.abspath('C:\windows')
sys.path.append(pre_path)

3.Json和Pickle

把一个内存对象转换成字符串形式,就叫做序列化;把一个字符串转换成对应的内存对象,就叫做反序列化。序列化的作用就是持久化内存对象。

用于序列化的两个模块:

  • json,用于字符串 和 python数据类型间进行转换
  • pickle,用于python特有的类型 和 python的数据类型间进行转换

Json模块提供了四个功能:dumps、dump、loads、load

1 import json,os,sys
2
3 data = {'name':'lain',
4 'age':22,
5 'career':'ops'}
6 '''序列化'''
7 f = open('data.txt','w',encoding='UTF-8')
8 #json.dump(data,f)
9 f.write(json.dumps(data))
10
11
12 '''反序列化'''
13 f = open('data.txt',encoding='utf-8')
14 data = json.loads(f.read())
15 #data = json.load(f)
16 print(data['name'])

pickle模块提供了四个功能:dumps、dump、loads、load

1 import pickle
2
3 data = {'name':'lain',
4 'age':'24',
5 'jobs':'CA',
6 }
7
8 '''序列化'''
9 f = open('data.pkl','wb')
10 f.write(pickle.dumps(data))
11
12 '''反序列化'''
13 f = open('data.pkl','rb')
14 data = pickle.loads(f.read())
15 print(data)

Json无法序列化函数,pickle可以序列化函数(反序列化时需要定义调用函数),Json只能序列化和反序列化普通数据类型,pickle只属于python,所以支持一切python数据类型。

4.Time&Datetime

import time
print(time.altzone/3600) #时区差
print(time.asctime()) #打印时间
print(time.localtime((time.time()+3600*8))) #本地时间对象,可以修改时间
print(time.time()) #1970年到现在,时间戳
print(time.gmtime(time.time()+3600*8)) #UTC时间对象,可以修改时间
print(time.ctime()) #返回当前时间
###########字符串转时间戳###########
print(time.strptime("2016-11-30 19:46","%Y-%m-%d %H:%M")) #字符串转时间对象,只读
print(time.mktime(time.strptime("2016-11-30 19:46","%Y-%m-%d %H:%M"))) #时间对象转成时间戳
###########时间戳转字符串###########
print(time.strftime("%Y-%m-%d %H-%M",time.strptime("2016-11-30 19:46","%Y-%m-%d %H:%M")))

print(time.asctime()) #返回当前时间格式

import datetime
###############时间运算###############
print(datetime.datetime.now()) #打印当前本地时间
print(datetime.timedelta(days=3)) #设置要加减的时间
print(datetime.datetime.now() + datetime.timedelta(3)) #当前时间+3天
print(datetime.datetime.now() + datetime.timedelta(-3)) #当前时间-3天
print(datetime.datetime.now() + datetime.timedelta(hours=3)) #当前时间+3小时
print(datetime.datetime.now() + datetime.timedelta(minutes=30)) #当前时间+30分
datetime.timedelta('后面添加days=0, seconds=0, microseconds=0,milliseconds=0, minutes=0, hours=0, weeks=0')

###############时间替换###############
t = datetime.datetime.now()
print(t.replace(month=1,day=2))

5.Random随机数

import random,string

print(random.random()) #随机打印小数
print(random.randint(1,10)) #包含起始数
print(random.randint(1,10)) #不包含末尾
print(random.sample(range(10),5)) #从1~10中,随机取5个数

###############随机生成验证码###############
print(string.ascii_letters) #assic码表字母大小写
print(string.digits) #只有数字
print(string.hexdigits) #数字加字母大小写

#简单方式
str_source = string.ascii_letters + string.digits + string.hexdigits
print(random.sample(str_source,12))
print(''.join(random.sample(str_source,12)))

#复杂方式
import random
checkcode = ''
for i in range(12):
current = random.randrange(0,12)
if current != i:
temp = chr(random.randint(65,90))
else:
temp = random.randint(0,9)
checkcode += str(temp)
print(checkcode)

6.OS模块

os.getcwd() 获取当前工作目录,即当前python脚本工作的目录路径
os.chdir("dirname") 改变当前脚本工作目录;相当于shell下cd
os.curdir 返回当前目录: ('.')
os.pardir 获取当前目录的父目录字符串名:('..')
os.makedirs('dirname1/dirname2') 可生成多层递归目录
os.removedirs('dirname1') 若目录为空,则删除,并递归到上一级目录,如若也为空,则删除,依此类推
os.mkdir('dirname') 生成单级目录;相当于shell中mkdir dirname
os.rmdir('dirname') 删除单级空目录,若目录不为空则无法删除,报错;相当于shell中rmdir dirname
os.listdir('dirname') 列出指定目录下的所有文件和子目录,包括隐藏文件,并以列表方式打印
os.remove() 删除一个文件
os.rename("oldname","newname") 重命名文件/目录
os.stat('path/filename') 获取文件/目录信息
os.sep 输出操作系统特定的路径分隔符,win下为"\\",Linux下为"/"
os.linesep 输出当前平台使用的行终止符,win下为"\t\n",Linux下为"\n"
os.pathsep 输出用于分割文件路径的字符串
os.name 输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
os.system("bash command") 运行shell命令,直接显示
os.environ 获取系统环境变量
os.path.abspath(path) 返回path规范化的绝对路径
os.path.split(path) 将path分割成目录和文件名二元组返回
os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素
os.path.basename(path) 返回path最后的文件名。如何path以/或\结尾,那么就会返回空值。即os.path.split(path)的第二个元素
os.path.exists(path) 如果path存在,返回True;如果path不存在,返回False
os.path.isabs(path) 如果path是绝对路径,返回True
os.path.isfile(path) 如果path是一个存在的文件,返回True。否则返回False
os.path.isdir(path) 如果path是一个存在的目录,则返回True。否则返回False
os.path.join(path1[, path2[, …]]) 将多个路径组合后返回,第一个绝对路径之前的参数将被忽略
os.path.getatime(path) 返回path所指向的文件或者目录的最后存取时间
os.path.getmtime(path) 返回path所指向的文件或者目录的最后修改时间

7.Sys模块

sys.argv 命令行参数List,第一个元素是程序本身路径
sys.exit(n) 退出程序,正常退出时exit(0)
sys.version 获取Python解释程序的版本信息
sys.maxint 最大的Int值
sys.path 返回模块的搜索路径,初始化时使用PYTHONPATH环境变量的值
sys.platform 返回操作系统平台名称
sys.stdout.write('please:')
val = sys.stdin.readline()[:-1]

8.Shutil模块

对高级的文件、文件夹、压缩包处理模块

import shutil

#################copyfileobj#################
f1 = open('time.py',encoding='utf-8')
f2 = open('time_new.py','w',encoding='UTF-8')
shutil.copyfileobj(f1,f2)

#################copy#################
shutil.copy('time.py','time_bak.py') #改变文件属性
shutil.copyfile('time.py','time_bak.py') #不改变文件属性
shutil.copy2('time.py','time_bak.py') #及拷贝权限,又拷贝状态
shutil.copytree('time.py','time_bak.py') #递归拷贝目录
shutil.rmtree('time.py') #递归删除
shutil.make_archive('time.py','time_bak.py') #存档
shutil.make_archive('day6','gztar',root_dir='time_new.py') #压缩存档
##################################
shutil.make_archive(base_name, format,…)

创建压缩包并返回文件路径,例如:zip、tar

base_name: 压缩包的文件名,也可以是压缩包的路径。只是文件名时,则保存至当前目录,否则保存至指定路径,
如:www =>保存至当前路径
如:/Users/wupeiqi/www =>保存至/Users/wupeiqi/
format: 压缩包种类,“zip”, “tar”, “bztar”,“gztar”
root_dir: 要压缩的文件夹路径(默认当前目录)
owner: 用户,默认当前用户
group: 组,默认当前组
logger: 用于记录日志,通常是logging.Logger对象
###################################

import zipfile,tarfile

#################zip压缩#################
z = zipfile.ZipFile('laxi.zip', 'w')
z.write('a.log')
z.write('data.data')
z.close()

#################zip解压#################
z = zipfile.ZipFile('laxi.zip', 'r')
z.extractall()
z.close()

#################tar压缩#################
tar = tarfile.open('your.tar','w')
tar.add('/Users/wupeiqi/PycharmProjects/bbs2.zip', arcname='bbs2.zip')
tar.add('/Users/wupeiqi/PycharmProjects/cmdb.zip', arcname='cmdb.zip')
tar.close()

#################tar解压#################
tar = tarfile.open('your.tar','r')
tar.extractall() # 可设置解压地址
tar.close()

9.Shelve模块

shelve模块是一个简单的k,v将内存数据通过文件持久化的模块,可以持久化任何pickle可支持的python数据格式

#################存入#################
import shelve

d = shelve.open('shelve_list')

def stu_data(name,age):
print('register stu',name,age)

name = ['alex','rain','lain']
info = {'name':'alex','age':33}

d['test'] = name
d['info'] = info
d['func'] = stu_data

#################取出#################
import shelve

f = shelve.open('shelve_list')
def stu_data(name,age):
print('stu',name,age)

print(f['test'])
print(f['info'])
print(f['func']('test',30))

10.XML处理模块

1
2 3 4 12 5 2008 6 141100 7 8 9 10 11 52 12 2011 13 59900 14 15 16 17 32 18 2011 19 13600 20 21 22 23

1 #查询test.xml内容
2 import xml.etree.ElementTree as ET
3
4 tree = ET.parse('test.xml')
5 root = tree.getroot()
6 #print(root.tag) #最外层根节点
7
8 for child in root:
9 #print(child) #打印country节点
10 for i in child:
11 print(i) #打印country节点下内容
12
13 for node in root.iter('year'):
14 print(node) #打印所有year节点
15
16 #删除test.xml内容
17 for country in root.findall('country'):
18 #print(country)
19 rank = int(country.find('rank').text)
20 if rank > 50:
21 root.remove(country)
22 tree.write('test_back.xml')
23
24 #修改test.xml内容
25 for node in root.iter('gdppc'):
26 new_year = int(node.text)+10 #获取gdppc值
27 node.text = str(new_year)
28 tree.write('test_update.xml')
29
30 #创建xml
31 new_xml = ET.Element("NameList")
32 name = ET.SubElement(new_xml, "name", attrib={"enrolled": "yes"})
33 age = ET.SubElement(name, "age", attrib={"checked": "no"})
34 sex = ET.SubElement(name, "sex")
35 sex.text = '33'
36 name2 = ET.SubElement(new_xml, "name", attrib={"enrolled": "no"})
37 age = ET.SubElement(name2, "age")
38 age.text = '19'
39
40 et = ET.ElementTree(new_xml) # 生成文档对象
41 et.write("test_grant.xml", encoding="utf-8", xml_declaration=True)
42
43 ET.dump(new_xml) # 打印生成的格式

11.ConfigParser模块

import configparser

#生成配置文件
config = configparser.ConfigParser()
config['DEFAULT'] = {'ServerAliveInterval':'33',
'Compression':'yes',
'CompressionLevel':'8',
'ForwardX11':'yes',
}

config['bitbucket.org'] = {}
config['bitbucket.org']['User'] = 'shanpao'

config['lain.com.cn'] = {}
topsecret = config['lain.com.cn']
topsecret['Host Port'] = '11111'
topsecret['ForwardX11'] = 'no'
topsecret['Log Dir'] = '/usr/local/opt/lain.log'

with open('examplie.ini','w',encoding='utf-8') as i :
config.write(i)

#查询配置文件
print(config.sections())
config.read('examplie.ini')
print(config.sections())

12.Hashlib

import hashlib

#md5校验
m = hashlib.md5()
m.update(b"hvFbbl5uddUHgnE")
print(m.hexdigest())

#sha1
h1 = hashlib.sha1()
h1.update(b'zouliang')
print(h1.hexdigest())

#sha224
h2 = hashlib.sha224()
h2.update(b'zouliang')
print(h2.hexdigest())

#sha256
h25 = hashlib.sha256()
h25.update(b'zouliang')
print(h25.hexdigest())

#sha384
h3 = hashlib.sha256()
h3.update(b'zouliang')
print(h3.hexdigest())

#sha512
h5 = hashlib.sha512()
h5.update(b'zouliang')
print(h5.hexdigest())

#hmac加盐,网络上消息速度传输
import hmac
h = hmac.new(b'zouliang',b'lain') #key,msg
print(h.hexdigest())

13.Logging

import logging

#默认级别输出warning以上
logging.debug('test debug!!!')
logging.info('test info!!!')
logging.warning('test warning!!!')
logging.error('test error!!!')
logging.critical('test critical!!!')

#指定日志级别,输出到文件
logging.basicConfig(filename='loging.log',level=logging.DEBUG)
logging.debug('test debug!!!')
logging.info('test info!!!')
logging.warning('test warning!!!')
logging.error('test error!!!')
logging.critical('test critical!!!')

#打印时间戳,输出日志
logging.basicConfig(format='%(asctime)s %(message)s',datefmt='%m %d %Y %I:%M:%S %p')
logging.basicConfig(filename='loging.log',level=logging.DEBUG,format='%(asctime)s %(message)s',datefmt='%m %d %Y %I:%M:%S %p')
logging.warning('this event was logged.')

#Logger
log = logging.getLogger('TEST-LOG-Logging')
log.setLevel(logging.DEBUG)

sh = logging.StreamHandler()
sh.setLevel(logging.WARNING)

fh = logging.FileHandler('loging_test.log',encoding='utf-8')
fh.setLevel(logging.ERROR)

fh_fortmatter = logging.Formatter('%(asctime)s:%(message)s:%(name)s')
sh_fortmatter = logging.Formatter('%(asctime)s:%(funcName)s')

%(name)s

Logger的名字

%(levelno)s

数字形式的日志级别

%(levelname)s

文本形式的日志级别

%(pathname)s

调用日志输出函数的模块的完整路径名,可能没有

%(filename)s

调用日志输出函数的模块的文件名

%(module)s

调用日志输出函数的模块名

%(funcName)s

调用日志输出函数的函数名

%(lineno)d

调用日志输出函数的语句所在的代码行

%(created)f

当前时间,用UNIX标准的表示时间的浮 点数表示

%(relativeCreated)d

输出日志信息时的,自Logger创建以 来的毫秒数

%(asctime)s

字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒

%(thread)d

线程ID。可能没有

%(threadName)s

线程名。可能没有

%(process)d

进程ID。可能没有

%(message)s

用户输出的消息

14.Re模块(python正则表达式)

'.' 默认匹配除\n之外的任意一个字符,若指定flag DOTALL,则匹配任意字符,包括换行
'^' 匹配字符开头,若指定flags MULTILINE,这种也可以匹配上(r"^a","\nabc\neee",flags=re.MULTILINE)
'$' 匹配字符结尾,或e.search("foo$","bfoo\nsdfsf",flags=re.MULTILINE).group()也可以
'*' 匹配*号前的字符0次或多次,re.findall("ab*","cabb3abcbbac") 结果为['abb', 'ab', 'a']
'+' 匹配前一个字符1次或多次,re.findall("ab+","ab+cd+abb+bba") 结果['ab', 'abb']
'?' 匹配前一个字符1次或0次
'{m}' 匹配前一个字符m次
'{n,m}' 匹配前一个字符n到m次,re.findall("ab{1,3}","abb abc abbcbbb") 结果'abb', 'ab', 'abb']
'|' 匹配|左或|右的字符,re.search("abc|ABC","ABCBabcCD").group() 结果'ABC'
'(…)' 分组匹配,re.search("(abc){2}a(123|456)c", "abcabca456c").group() 结果 abcabca456c

'\A' 只从字符开头匹配,re.search("\Aabc","alexabc") 是匹配不到的
'\Z' 匹配字符结尾,同$
'\d' 匹配数字0-9
'\D' 匹配非数字
'\w' 匹配[A-Za-z0-9]
'\W' 匹配非[A-Za-z0-9]
's' 匹配空白字符、\t、\n、\r , re.search("\s+","ab\tc1\n3").group() 结果 '\t'

'(?P…)' 分组匹配 re.search("(?P[0-9]{4})(?P[0-9]{2})(?P[0-9]{4})","371481199306143242").groupdict("city") 结果{'province': '3714', 'city': '81', 'birthday': '1993'}

常用匹配语法

1 re.match 从头开始匹配
2 re.search 匹配包含
3 re.findall 把所有匹配到的字符放到以列表中的元素返回
4 re.splitall 以匹配到的字符当做列表分隔符
5 re.sub 匹配字符并替换

特殊用法

re.I(re.IGNORECASE): 忽略大小写(括号内是完整写法,下同)
M(MULTILINE): 多行模式,改变'^'和'$'的行为(参见上图)
S(DOTALL): 点任意匹配模式,改变'.'的行为