1.1shelve模块

shelve 模块比pickle模块简单,只有一个open函数,返回类似字典对象,可读可写:key必须为字符串,

而值可以是python所支持的数据类型。

shelve模块主要用来存储一个简单的数据,

shelve最重要的函数是open,在调用它的时候,使用文件名作为参数,它会返回一个架子(shelf)对象,可以用它来存储类容。

 f = shelve.open(r"shelve_test.txt")
 # aa = {"stu1":{"name":"yj","age":19},
 #     "stu2":{"name": "lq", "age": 20}
 #       }  类似这种方式写入到文件

 # f["stu1"] = {"name":"yj","age":19}
 # f["stu2"] = {"name":"yj","age":19}
 print(f.get("stu1")["age"])
 print(f.get("stu2"))

shelve测试

1.2xml模块

xml是实现不同语言程序之间进行数据交换的协议,xml文件格式如下:

 <data>
     <country name="Liechtenstein">
         <rank updated="yes">2</rank>
         <year>2023</year>
         <gdppc>141100</gdppc>
         <neighbor direction="E" name="Austria" />
         <neighbor direction="W" name="Switzerland" />
     </country>
     <country name="Singapore">
         <rank updated="yes">5</rank>
         <year>2026</year>
         <gdppc>59900</gdppc>
         <neighbor direction="N" name="Malaysia" />
     </country>
     <country name="Panama">
         <rank updated="yes">69</rank>
         <year>2026</year>
         <gdppc>13600</gdppc>
         <neighbor direction="W" name="Costa Rica" />
         <neighbor direction="E" name="Colombia" />
     </country>
 </data>

1.解析XML

 from xml.etree import ElementTree as ET

 # 打开文件,读取XML内容
 str_xml = open('xo.xml', 'r').read()

 # 将字符串解析成xml特殊对象,root代指xml文件的根节点
 root = ET.XML(str_xml)

利用ElementTree.XML将字符串解析成xml对象

 from xml.etree import ElementTree as ET

 # 直接解析xml文件
 tree = ET.parse("xo.xml")

 # 获取xml文件的根节点
 root = tree.getroot()

利用ElementTree.parse将文件直接解析成xml对象

2.操作xml

XML格式类型是节点嵌套节点,对于每一个节点均有以下功能,以便对当前节点进行操作

 class Element:
     """An XML element.

     This class is the reference implementation of the Element interface.

     An element's length is its number of subelements.  That means if you
     want to check if an element is truly empty, you should check BOTH
     its length AND its text attribute.

     The element tag, attribute names, and attribute values can be either
     bytes or strings.

     *tag* is the element name.  *attrib* is an optional dictionary containing
     element attributes. *extra* are additional element attributes given as
     keyword arguments.

     Example form:
         <tag attrib>text<child/>...</tag>tail

     """

     当前节点的标签名
     tag = None
     """The element's name."""

     当前节点的属性

     attrib = None
     """Dictionary of the element's attributes."""

     当前节点的内容
     text = None
     """
     Text before first subelement. This is either a string or the value None.
     Note that if there is no text, this attribute may be either
     None or the empty string, depending on the parser.

     """

     tail = None
     """
     Text after this element's end tag, but before the next sibling element's
     start tag.  This is either a string or the value None.  Note that if there
     was no text, this attribute may be either None or an empty string,
     depending on the parser.

     """

     def __init__(self, tag, attrib={}, **extra):
         if not isinstance(attrib, dict):
             raise TypeError("attrib must be dict, not %s" % (
                 attrib.__class__.__name__,))
         attrib = attrib.copy()
         attrib.update(extra)
         self.tag = tag
         self.attrib = attrib
         self._children = []

     def __repr__(self):
         return "<%s %r at %#x>" % (self.__class__.__name__, self.tag, id(self))

     def makeelement(self, tag, attrib):
         创建一个新节点
         """Create a new element with the same type.

         *tag* is a string containing the element name.
         *attrib* is a dictionary containing the element attributes.

         Do not call this method, use the SubElement factory function instead.

         """
         return self.__class__(tag, attrib)

     def copy(self):
         """Return copy of current element.

         This creates a shallow copy. Subelements will be shared with the
         original tree.

         """
         elem = self.makeelement(self.tag, self.attrib)
         elem.text = self.text
         elem.tail = self.tail
         elem[:] = self
         return elem

     def __len__(self):
         return len(self._children)

     def __bool__(self):
         warnings.warn(
             "The behavior of this method will change in future versions.  "
             "Use specific 'len(elem)' or 'elem is not None' test instead.",
             FutureWarning, stacklevel=2
             )
         return len(self._children) != 0 # emulate old behaviour, for now

     def __getitem__(self, index):
         return self._children[index]

     def __setitem__(self, index, element):
         # if isinstance(index, slice):
         #     for elt in element:
         #         assert iselement(elt)
         # else:
         #     assert iselement(element)
         self._children[index] = element

     def __delitem__(self, index):
         del self._children[index]

     def append(self, subelement):
         为当前节点追加一个子节点
         """Add *subelement* to the end of this element.

         The new element will appear in document order after the last existing
         subelement (or directly after the text, if it's the first subelement),
         but before the end tag for this element.

         """
         self._assert_is_element(subelement)
         self._children.append(subelement)

     def extend(self, elements):
         为当前节点扩展 n 个子节点
         """Append subelements from a sequence.

         *elements* is a sequence with zero or more elements.

         """
         for element in elements:
             self._assert_is_element(element)
         self._children.extend(elements)

     def insert(self, index, subelement):
         在当前节点的子节点中插入某个节点,即:为当前节点创建子节点,然后插入指定位置
         """Insert *subelement* at position *index*."""
         self._assert_is_element(subelement)
         self._children.insert(index, subelement)

     def _assert_is_element(self, e):
         # Need to refer to the actual Python implementation, not the
         # shadowing C implementation.
         if not isinstance(e, _Element_Py):
             raise TypeError('expected an Element, not %s' % type(e).__name__)

     def remove(self, subelement):
         在当前节点在子节点中删除某个节点
         """Remove matching subelement.

         Unlike the find methods, this method compares elements based on
         identity, NOT ON tag value or contents.  To remove subelements by
         other means, the easiest way is to use a list comprehension to
         select what elements to keep, and then use slice assignment to update
         the parent element.

         ValueError is raised if a matching element could not be found.

         """
         # assert iselement(element)
         self._children.remove(subelement)

     def getchildren(self):
         获取所有的子节点(废弃)
         """(Deprecated) Return all subelements.

         Elements are returned in document order.

         """
         warnings.warn(
             "This method will be removed in future versions.  "
             "Use 'list(elem)' or iteration over elem instead.",
             DeprecationWarning, stacklevel=2
             )
         return self._children

     def find(self, path, namespaces=None):
         获取第一个寻找到的子节点
         """Find first matching element by tag name or path.

         *path* is a string having either an element tag or an XPath,
         *namespaces* is an optional mapping from namespace prefix to full name.

         Return the first matching element, or None if no element was found.

         """
         return ElementPath.find(self, path, namespaces)

     def findtext(self, path, default=None, namespaces=None):
         获取第一个寻找到的子节点的内容
         """Find text for first matching element by tag name or path.

         *path* is a string having either an element tag or an XPath,
         *default* is the value to return if the element was not found,
         *namespaces* is an optional mapping from namespace prefix to full name.

         Return text content of first matching element, or default value if
         none was found.  Note that if an element is found having no text
         content, the empty string is returned.

         """
         return ElementPath.findtext(self, path, default, namespaces)

     def findall(self, path, namespaces=None):
         获取所有的子节点
         """Find all matching subelements by tag name or path.

         *path* is a string having either an element tag or an XPath,
         *namespaces* is an optional mapping from namespace prefix to full name.

         Returns list containing all matching elements in document order.

         """
         return ElementPath.findall(self, path, namespaces)

     def iterfind(self, path, namespaces=None):
         获取所有指定的节点,并创建一个迭代器(可以被for循环)
         """Find all matching subelements by tag name or path.

         *path* is a string having either an element tag or an XPath,
         *namespaces* is an optional mapping from namespace prefix to full name.

         Return an iterable yielding all matching elements in document order.

         """
         return ElementPath.iterfind(self, path, namespaces)

     def clear(self):
         清空节点
         """Reset element.

         This function removes all subelements, clears all attributes, and sets
         the text and tail attributes to None.

         """
         self.attrib.clear()
         self._children = []
         self.text = self.tail = None

     def get(self, key, default=None):
         获取当前节点的属性值
         """Get element attribute.

         Equivalent to attrib.get, but some implementations may handle this a
         bit more efficiently.  *key* is what attribute to look for, and
         *default* is what to return if the attribute was not found.

         Returns a string containing the attribute value, or the default if
         attribute was not found.

         """
         return self.attrib.get(key, default)

     def set(self, key, value):
         为当前节点设置属性值
         """Set element attribute.

         Equivalent to attrib[key] = value, but some implementations may handle
         this a bit more efficiently.  *key* is what attribute to set, and
         *value* is the attribute value to set it to.

         """
         self.attrib[key] = value

     def keys(self):
         获取当前节点的所有属性的 key

         """Get list of attribute names.

         Names are returned in an arbitrary order, just like an ordinary
         Python dict.  Equivalent to attrib.keys()

         """
         return self.attrib.keys()

     def items(self):
         获取当前节点的所有属性值,每个属性都是一个键值对
         """Get element attributes as a sequence.

         The attributes are returned in arbitrary order.  Equivalent to
         attrib.items().

         Return a list of (name, value) tuples.

         """
         return self.attrib.items()

     def iter(self, tag=None):
         在当前节点的子孙中根据节点名称寻找所有指定的节点,并返回一个迭代器(可以被for循环)。
         """Create tree iterator.

         The iterator loops over the element and all subelements in document
         order, returning all elements with a matching tag.

         If the tree structure is modified during iteration, new or removed
         elements may or may not be included.  To get a stable set, use the
         list() function on the iterator, and loop over the resulting list.

         *tag* is what tags to look for (default is to return all elements)

         Return an iterator containing all the matching elements.

         """
         if tag == "*":
             tag = None
         if tag is None or self.tag == tag:
             yield self
         for e in self._children:
             yield from e.iter(tag)

     # compatibility
     def getiterator(self, tag=None):
         # Change for a DeprecationWarning in 1.4
         warnings.warn(
             "This method will be removed in future versions.  "
             "Use 'elem.iter()' or 'list(elem.iter())' instead.",
             PendingDeprecationWarning, stacklevel=2
         )
         return list(self.iter(tag))

     def itertext(self):
         在当前节点的子孙中根据节点名称寻找所有指定的节点的内容,并返回一个迭代器(可以被for循环)。
         """Create text iterator.

         The iterator loops over the element and all subelements in document
         order, returning all inner text.

         """
         tag = self.tag
         if not isinstance(tag, str) and tag is not None:
             return
         if self.text:
             yield self.text
         for e in self:
             yield from e.itertext()
             if e.tail:
                 yield e.tail

xml的语法功能

由于每个节点都具有以上的方法,并且在上一步骤中解析时均得到了root(xml文件的根节点),so   可以利用以上方法进行操作xml文件。

a.遍历xml文档的所有内容

 from xml.etree import ElementTree as ET

 ############ 解析方式一 ############
 """
 # 打开文件,读取XML内容
 str_xml = open('xo.xml', 'r').read()

 # 将字符串解析成xml特殊对象,root代指xml文件的根节点
 root = ET.XML(str_xml)
 """
 ############ 解析方式二 ############

 # 直接解析xml文件
 tree = ET.parse("xo.xml")

 # 获取xml文件的根节点
 root = tree.getroot()

 ### 操作

 # 顶层标签
 print(root.tag)

 # 遍历XML文档的第二层
 for child in root:
     # 第二层节点的标签名称和标签属性
     print(child.tag, child.attrib)
     # 遍历XML文档的第三层
     for i in child:
         # 第二层节点的标签名称和内容
         print(i.tag,i.text)

b.遍历XML中指定的节点

 from xml.etree import ElementTree as ET

 ############ 解析方式一 ############
 """
 # 打开文件,读取XML内容
 str_xml = open('xo.xml', 'r').read()

 # 将字符串解析成xml特殊对象,root代指xml文件的根节点
 root = ET.XML(str_xml)
 """
 ############ 解析方式二 ############

 # 直接解析xml文件
 tree = ET.parse("xo.xml")

 # 获取xml文件的根节点
 root = tree.getroot()

 ### 操作

 # 顶层标签
 print(root.tag)

 # 遍历XML中所有的year节点
 for node in root.iter('year'):
     # 节点的标签名称和内容
     print(node.tag, node.text)

c.修改节点内容

由于修改的节点时,均是在内存中进行,其不会影响文件中的内容。所以,如果想要修改,则需要重新将内存中的内容写到文件。

 from xml.etree import ElementTree as ET

 ############ 解析方式一 ############

 # 打开文件,读取XML内容
 str_xml = open('xo.xml', 'r').read()

 # 将字符串解析成xml特殊对象,root代指xml文件的根节点
 root = ET.XML(str_xml)

 ############ 操作 ############

 # 顶层标签
 print(root.tag)

 # 循环所有的year节点
 for node in root.iter('year'):
     # 将year节点中的内容自增一
     new_year = int(node.text) + 1
     node.text = str(new_year)

     # 设置属性
     node.set('name', 'alex')
     node.set(')
     # 删除属性
     del node.attrib['name']

 ############ 保存文件 ############
 tree = ET.ElementTree(root)
 tree.write("newnew.xml", encoding='utf-8')

解析字符串方式,修改,保存

 from xml.etree import ElementTree as ET

 ############ 解析方式二 ############

 # 直接解析xml文件
 tree = ET.parse("xo.xml")

 # 获取xml文件的根节点
 root = tree.getroot()

 ############ 操作 ############

 # 顶层标签
 print(root.tag)

 # 循环所有的year节点
 for node in root.iter('year'):
     # 将year节点中的内容自增一
     new_year = int(node.text) + 1
     node.text = str(new_year)

     # 设置属性
     node.set('name', 'alex')
     node.set(')
     # 删除属性
     del node.attrib['name']

 ############ 保存文件 ############
 tree.write("newnew.xml", encoding='utf-8')

解析2

d.删除节点

 from xml.etree import ElementTree as ET

 ############ 解析字符串方式打开 ############

 # 打开文件,读取XML内容
 str_xml = open('xo.xml', 'r').read()

 # 将字符串解析成xml特殊对象,root代指xml文件的根节点
 root = ET.XML(str_xml)

 ############ 操作 ############

 # 顶层标签
 print(root.tag)

 # 遍历data下的所有country节点
 for country in root.findall('country'):
     # 获取每一个country节点下rank节点的内容
     rank = int(country.find('rank').text)

     if rank > 50:
         # 删除指定country节点
         root.remove(country)

 ############ 保存文件 ############
 tree = ET.ElementTree(root)
 tree.write("newnew.xml", encoding='utf-8')

解析字符串方式打开,删除,保存

 from xml.etree import ElementTree as ET

 ############ 解析字符串方式打开 ############

 # 打开文件,读取XML内容
 str_xml = open('xo.xml', 'r').read()

 # 将字符串解析成xml特殊对象,root代指xml文件的根节点
 root = ET.XML(str_xml)

 ############ 操作 ############

 # 顶层标签
 print(root.tag)

 # 遍历data下的所有country节点
 for country in root.findall('country'):
     # 获取每一个country节点下rank节点的内容
     rank = int(country.find('rank').text)

     if rank > 50:
         # 删除指定country节点
         root.remove(country)

 ############ 保存文件 ############
 tree = ET.ElementTree(root)
 tree.write("newnew.xml", encoding='utf-8')

解析2

3.创建xml

 from xml.etree import ElementTree as ET

 # 创建根节点
 root = ET.Element("famliy")

 # 创建节点大儿子
 son1 = ET.Element('son', {'name': '儿1'})
 # 创建小儿子
 son2 = ET.Element('son', {"name": '儿2'})

 # 在大儿子中创建两个孙子
 grandson1 = ET.Element('grandson', {'name': '儿11'})
 grandson2 = ET.Element('grandson', {'name': '儿12'})
 son1.append(grandson1)
 son1.append(grandson2)

 # 把儿子添加到根节点中
 root.append(son1)
 root.append(son1)

 tree = ET.ElementTree(root)
 tree.write('oooo.xml',encoding='utf-8', short_empty_elements=False)

方式一

 from xml.etree import ElementTree as ET

 # 创建根节点
 root = ET.Element("famliy")

 # 创建大儿子
 # son1 = ET.Element('son', {'name': '儿1'})
 son1 = root.makeelement('son', {'name': '儿1'})
 # 创建小儿子
 # son2 = ET.Element('son', {"name": '儿2'})
 son2 = root.makeelement('son', {"name": '儿2'})

 # 在大儿子中创建两个孙子
 # grandson1 = ET.Element('grandson', {'name': '儿11'})
 grandson1 = son1.makeelement('grandson', {'name': '儿11'})
 # grandson2 = ET.Element('grandson', {'name': '儿12'})
 grandson2 = son1.makeelement('grandson', {'name': '儿12'})

 son1.append(grandson1)
 son1.append(grandson2)

 # 把儿子添加到根节点中
 root.append(son1)
 root.append(son1)

 tree = ET.ElementTree(root)
 tree.write('oooo.xml',encoding='utf-8', short_empty_elements=False)

方式二

 from xml.etree import ElementTree as ET

 # 创建根节点
 root = ET.Element("famliy")

 # 创建节点大儿子
 son1 = ET.SubElement(root, "son", attrib={'name': '儿1'})
 # 创建小儿子
 son2 = ET.SubElement(root, "son", attrib={"name": "儿2"})

 # 在大儿子中创建一个孙子
 grandson1 = ET.SubElement(son1, "age", attrib={'name': '儿11'})
 grandson1.text = '孙子'

 et = ET.ElementTree(root)  #生成文档对象
 et.write("test.xml", encoding="utf-8", xml_declaration=True, short_empty_elements=False)

方式三

原生保存的xml是默认无缩进,如果要设置缩进的话,需要修改保存方式:

 from xml.etree import ElementTree as ET
 from xml.dom import minidom

 def prettify(elem):
     """将节点转换成字符串,并添加缩进。
     """
     rough_string = ET.tostring(elem, 'utf-8')
     reparsed = minidom.parseString(rough_string)
     return reparsed.toprettyxml(indent="\t")

 # 创建根节点
 root = ET.Element("famliy")

 # 创建大儿子
 # son1 = ET.Element('son', {'name': '儿1'})
 son1 = root.makeelement('son', {'name': '儿1'})
 # 创建小儿子
 # son2 = ET.Element('son', {"name": '儿2'})
 son2 = root.makeelement('son', {"name": '儿2'})

 # 在大儿子中创建两个孙子
 # grandson1 = ET.Element('grandson', {'name': '儿11'})
 grandson1 = son1.makeelement('grandson', {'name': '儿11'})
 # grandson2 = ET.Element('grandson', {'name': '儿12'})
 grandson2 = son1.makeelement('grandson', {'name': '儿12'})

 son1.append(grandson1)
 son1.append(grandson2)

 # 把儿子添加到根节点中
 root.append(son1)
 root.append(son1)

 raw_str = prettify(root)

 f = open("xxxoo.xml",'w',encoding='utf-8')
 f.write(raw_str)
 f.close()

xml教程的:点击

1.3configparser模块

configparser主要用于配置文件分析用的

configparser用于处理特定格式的文件,本质上是利用open来操作文件

 # 注释1
 ;  注释2

 [section1] # 节点
 k1 = v1    # 值
 k2:v2       # 值

 [section2] # 节点
 k1 = v1    # 值

 #注释

文件格式

我用linux的yum.conf做测试

 [main]
 cachedir=/var/cache/yum/$basearch/$releasever
 keepcache=0
 debuglevel=2
 logfile=/var/log/yum.log
 exactarch=1
 obsoletes=1
 gpgcheck=1
 plugins=1
 installonly_limit=5
 bugtracker_url=http://bugs.centos.org/set_project.php?project_id=23&ref=http://bugs.centos.org/bug_report_page.php?category=yum
 distroverpkg=centos-release

 #  This is the default, if you make this bigger yum won't see if the metadata
 # is newer on the remote and so you'll "gain" the bandwidth of not having to
 # download the new metadata and "pay" for it by yum not having correct
 # information.
 #  It is esp. important, to have correct metadata, for distributions like
 # Fedora which don't keep old packages around. If you don't like this checking
 # interupting your command line usage, it's much better to have something
 # manually check the metadata once an hour (yum-updatesd will do this).
 # metadata_expire=90m

 # PUT YOUR REPOS HERE OR IN separate files named file.repo
 # in /etc/yum.repos.d

yum.conf

1.获取所有节点

 import configparser
 config = configparser.ConfigParser()
 config.read('yum.conf', encoding='utf-8')
 ret = config.sections()
 print(ret)

获取子节点

2.获取指定节点下所有的键值对

 config = configparser.ConfigParser()
 config.read('yum.conf', encoding='utf-8')
 ret = config.items('main')
 for i in ret:
     print(i)

键值对

3.获取指定节点下所有的键

 config = configparser.ConfigParser()
 config.read('yum.conf', encoding='utf-8')
 ret = config.options('main')#获取节点下的所有键
 for i in ret:
     print(i)

获取键

4。获取指定键的值

 config = configparser.ConfigParser()
 config.read('yum.conf', encoding='utf-8')

 v = config.get('main', 'cachedir')  #/var/cache/yum/$basearch/$releasever
 v1 = config.getint(

 print(v)
 print(v1)

获取指定key的值

5.检查,删除,添加节点

 config = configparser.ConfigParser()
 config.read('yum.conf', encoding='utf-8')

 # 检查
 has_sec = config.has_section('main') #检查文件中是否有[main]节点,返回True or False
 print(has_sec)

 # 添加节点
 config.add_section("node1")
 config.write(open('yum.conf', 'w')) #往文件中添加一个节点[node]

 #删除节点 节点下的内容都会被删除
 config.remove_section("node1")
 config.write(open('yum.conf', 'w'))

节点的查询,添加,删除

6.检查,删除,设置指定组内的键值对

 config = configparser.ConfigParser()
 config.read('yum.conf', encoding='utf-8')

 # 检查
 has_opt = config.has_option('main', 'keepcache')
 print(has_opt)

 # 删除
 config.remove_option('main', 'keepcache')
 config.write(open('yum.conf', 'w'))

 # 设置
 config.set(") #最后添加到了该节点的末尾
 config.write(open('yum.conf','w'))

键值

用configparser生成一个文档

 import configparser

 config = configparser.ConfigParser()
 config[',
                       'Compression': 'yes',
                      '}

 config['bitbucket.org'] = {}
 config['bitbucket.org']['User'] = 'hg'
 config['topsecret.server.com'] = {}
 topsecret = config['topsecret.server.com']
 topsecret['     # mutates the parser
 topsecret['ForwardX11'] = 'no'  # same here
 config['DEFAULT']['ForwardX11'] = 'yes'<br>
 with open('example.ini', 'w') as configfile:
    config.write(configfile)

demo

1.4hashlib模块

用于加密模块的操作,3.x代替了md5模块和sha模块,主要提供了SHA1,SHA224,SHA256,SHA384,SHA512,MD5的算法,

 import hashlib

 hash = hashlib.md5()
 # ######## md5 ########  32
 hash.update(bytes('admin', encoding='utf-8'))
 print(hash.hexdigest())
 print(hash.digest())
 # ######## sha512 #######  512
 hash = hashlib.sha512()
 hash.update(bytes('admin', encoding='utf-8'))
 print(hash.hexdigest()) 

以上的加密算法虽然非常厉害,但有时候依然存在缺陷,即:通过撞库可以反解。所以,有必要对加密算法中添加自定义key再来做加密。

 import hashlib

 # ######## sha256 ########一般都采用256算法

 hash = hashlib.sha256(bytes('898oaFs09f', encoding="utf-8"))
 hash.update(bytes('admin', encoding="utf-8"))
 print(hash.hexdigest()) 

python内置还有一个 hmac 模块,它内部对我们创建 key 和 内容 进行进一步的处理然后再加密

 import hmac

 h = hmac.new(bytes('898oaFs09f', encoding="utf-8"))
 h.update(bytes('admin', encoding="utf-8"))
 print(h.hexdigest())

1.5logging模块

对于logging模块介绍网上很多

下面对于比较需要用的部分的一些摘录

logging模块的:官方文档

python的logging模块提供了记录程序的运行情况的日志功能。似于Apache的log4j。

Python的logging模块提供了通用的日志系统,可以方便第三方模块或者是应用使用。这个模块提供不同的日志级别,并可以采用不同的方式记录日志,比如文件,HTTP GET/POST,SMTP,Socket等,甚至可以自己实现具体的日志记录方式。

logging模块与log4j的机制是一样的,只是具体的实现细节不同。模块提供logger,handler,filter,formatter。

  • logger:提供日志接口,供应用代码使用。logger最长用的操作有两类:配置和发送日志消息。可以通过logging.getLogger(name)获取logger对象,如果不指定name则返回root对象,多次使用相同的name调用getLogger方法返回同一个logger对象。
  • handler:将日志记录(log record)发送到合适的目的地(destination),比如文件,socket等。一个logger对象可以通过addHandler方法添加0到多个handler,每个handler又可以定义不同日志级别,以实现日志分级过滤显示。
  • filter:提供一种优雅的方式决定一个日志记录是否发送到handler。
  • formatter:指定日志记录输出的具体格式。formatter的构造方法需要两个参数:消息的格式字符串和日期字符串,这两个参数都是可选的。

与log4j类似,logger,handler和日志消息的调用可以有具体的日志级别(Level),只有在日志消息的级别大于logger和handler的级别。

注:用的是centos7.2测试

测试列子

 import logging
 import sys

 logging.basicConfig(level=logging.DEBUG,
                     format='%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s',
                     datefmt='%a, %d %b %Y %H:%M:%S',
                     filename='/tmp/test.log',
                     filemode='w')

 logging.debug('debug message')
 logging.info('info message')
 logging.warning('warning message')
 logging.error('error message')
 logging.critical('critical message')

简单测试1

 import logging
 import sys
 logger = logging.getLogger("endlesscode")
 formatter = logging.Formatter('%(name)-12s %(asctime)s %(levelname)-8s %(message)s', '%a, %d %b %Y %H:%M:%S',)
 file_handler = logging.FileHandler("test.log")
 file_handler.setFormatter(formatter)
 stream_handler = logging.StreamHandler(sys.stderr)
 logger.addHandler(file_handler)
 logger.addHandler(stream_handler)
 #logger.setLevel(logging.ERROR)
 logger.error("fuckgfw")
 logger.removeHandler(stream_handler)
 logger.error("fuckgov")

日志的格式列子2

上面的日志格式列子包含了logging的所有feature

可见在logging.basicConfig()函数中可通过具体参数来更改logging模块默认行为,可用参数有

filename:用指定的文件名创建FiledHandler,这样日志会被存储在指定的文件中。
filemode:文件打开方式,在指定了filename时使用这个参数,默认值为“a”还可指定为“w”。
format:指定handler使用的日志显示格式。 
datefmt:指定日期时间格式。 
level:设置rootlogger(后边会讲解具体概念)的日志级别 
stream:用指定的stream创建StreamHandler。可以指定输出到sys.stderr,sys.stdout或者文件(f=open('test.log','w')),默认为sys.stderr。若同时列出了filename和stream两个参数,则stream参数会被忽略。

logger

logger.setLevel(lel):指定最低的日志级别,低于lel的级别将被忽略。debug是最低的内置级别,critical为最高
logger.addFilter(filt)、Logger.removeFilter(filt):添加或删除指定的filter
logger.addHandler(hdlr)、Logger.removeHandler(hdlr):增加或删除指定的handler
logger.debug()、Logger.info()、Logger.warning()、Logger.error()、Logger.critical():可以设置的日志级别

设置logger的level, level有以下几个级别:

DEBUG < INFO < WARNING < ERROR < CRITICAL

把loger的级别设置为INFO, 那么小于INFO级别的日志都不输出, 大于等于INFO级别的日志都输出

handlers

handler对象负责发送相关的信息到指定目的地。Python的日志系统有多种Handler可以使用。有些Handler可以把信息输出到控制台,有些Logger可以把信息输出到文件,还有些 Handler可以把信息发送到网络上。如果觉得不够用,还可以编写自己的Handler。可以通过addHandler()方法添加多个多handler
handler.setLevel(lel):指定被处理的信息级别,低于lel级别的信息将被忽略
handler.setFormatter():给这个handler选择一个格式
handler.addFilter(filt)、Handler.removeFilter(filt):新增或删除一个filter对象

Formatters

Formatter对象设置日志信息最后的规则、结构和内容,默认的时间格式为%Y-%m-%d %H:%M:%S,下面是Formatter常用的一些信息

%(name)s

Logger的名字

%(levelno)s

数字形式的日志级别

%(levelname)s

文本形式的日志级别

%(pathname)s

调用日志输出函数的模块的完整路径名,可能没有

%(filename)s

调用日志输出函数的模块的文件名

%(module)s

调用日志输出函数的模块名

%(funcName)s

调用日志输出函数的函数名

%(lineno)d

调用日志输出函数的语句所在的代码行

%(created)f

当前时间,用UNIX标准的表示时间的浮 点数表示

%(relativeCreated)d

输出日志信息时的,自Logger创建以 来的毫秒数

%(asctime)s

字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒

%(thread)d

线程ID。可能没有

%(threadName)s

线程名。可能没有

%(process)d

进程ID。可能没有

%(message)s

用户输出的消息

设置过滤器

细心的朋友一定会发现前文调用logging.getLogger()时参数的格式类似于“A.B.C”。采取这样的格式其实就是为了可以配置过滤器。看一下这段代码:
LOG=logging.getLogger(”chat.gui.statistic”)
console = logging.StreamHandler()
console.setLevel(logging.INFO)
formatter = logging.Formatter(’%(asctime)s %(levelname)s %(message)s’)
console.setFormatter(formatter)
filter=logging.Filter(”chat.gui”)
console.addFilter(filter)
LOG.addHandler(console)
和前面不同的是我们在Handler上添加了一个过滤器。现在我们输出日志信息的时候就会经过过滤器的处理。名为“A.B”的过滤器只让名字带有 “A.B”前缀的Logger输出信息。可以添加多个过滤器,只要有一个过滤器拒绝,日志信息就不会被输出。另外,在Logger中也可以添加过滤器。

每个Logger可以附加多个Handler。接下来我们就来介绍一些常用的Handler:

1)    logging.StreamHandler
使用这个Handler可以向类似与sys.stdout或者sys.stderr的任何文件对象(file object)输出信息。它的构造函数是:
StreamHandler([strm])
其中strm参数是一个文件对象。默认是sys.stderr

2)   logging.FileHandler
和StreamHandler类似,用于向一个文件输出日志信息。不过FileHandler会帮你打开这个文件。它的构造函数是:
FileHandler(filename[,mode])
filename是文件名,必须指定一个文件名。
mode是文件的打开方式。参见Python内置函数open()的用法。默认是’a',即添加到文件末尾。

3)   logging.handlers.RotatingFileHandler
这个Handler类似于上面的FileHandler,但是它可以管理文件大小。当文件达到一定大小之后,它会自动将当前日志文件改名,然后创建 一个新的同名日志文件继续输出。比如日志文件是chat.log。当chat.log达到指定的大小之后,RotatingFileHandler自动把 文件改名为chat.log.1。不过,如果chat.log.1已经存在,会先把chat.log.1重命名为chat.log.2。。。最后重新创建 chat.log,继续输出日志信息。它的构造函数是:
RotatingFileHandler( filename[, mode[, maxBytes[, backupCount]]])
其中filename和mode两个参数和FileHandler一样。
maxBytes用于指定日志文件的最大文件大小。如果maxBytes为0,意味着日志文件可以无限大,这时上面描述的重命名过程就不会发生。
backupCount用于指定保留的备份文件的个数。比如,如果指定为2,当上面描述的重命名过程发生时,原有的chat.log.2并不会被更名,而是被删除。

4)   logging.handlers.TimedRotatingFileHandler
这个Handler和RotatingFileHandler类似,不过,它没有通过判断文件大小来决定何时重新创建日志文件,而是间隔一定时间就 自动创建新的日志文件。重命名的过程与RotatingFileHandler类似,不过新的文件不是附加数字,而是当前时间。它的构造函数是:
TimedRotatingFileHandler( filename [,when [,interval [,backupCount]]])
其中filename参数和backupCount参数和RotatingFileHandler具有相同的意义。
interval是时间间隔。
when参数是一个字符串。表示时间间隔的单位,不区分大小写。它有以下取值:
S 秒
M 分
H 小时
D 天
W 每星期(interval==0时代表星期一)
midnight 每天凌晨
5)   logging.handlers.SocketHandler
6)   logging.handlers.DatagramHandler
以上两个Handler类似,都是将日志信息发送到网络。不同的是前者使用TCP协议,后者使用UDP协议。它们的构造函数是:
Handler(host, port)
其中host是主机名,port是端口名

7)  logging.handlers.SysLogHandler
8)  logging.handlers.NTEventLogHandler
9)  logging.handlers.SMTPHandler
10) logging.handlers.MemoryHandler
11) logging.handlers.HTTPHandler

python模块(shelve,xml,configparser,hashlib,logging)的更多相关文章

  1. json/pickle/shelve/xml/configparser/hashlib/subprocess - 总结

    序列化:序列化指把内存里的数据类型转成字符串,以使其能存储到硬盘或通过网络传输到远程,因为硬盘或网络传输时只能接受bytes为什么要序列化:可以直接把内存数据(eg:10个列表,3个嵌套字典)存到硬盘 ...

  2. python笔记-7(shutil/json/pickle/shelve/xml/configparser/hashlib模块)

    一.shutil模块--高级的文件.文件夹.压缩包处理模块 1.通过句柄复制内容 shutil.copyfileobj(f1,f2)对文件的复制(通过句柄fdst/fsrc复制文件内容) 源码: Le ...

  3. python学习道路(day6note)(time &amp;datetime,random,shutil,shelve,xml处理,configparser,hashlib,logging模块,re正则表达式)

    1.tiim模块,因为方法较多我就写在code里面了,后面有注释 #!/usr/bin/env python #_*_coding:utf-8_*_ print("time".ce ...

  4. python3之xml&amp;ConfigParser&amp;hashlib&amp;Subprocess&amp;logging模块

    1.xml模块 XML 指可扩展标记语言(eXtensible Markup Language),标准通用标记语言的子集,是一种用于标记电子文件使其具有结构性的标记语言. XML 被设计用来传输和存储 ...

  5. 8.2、常用模块介绍2:xml,configparser,hashlib

    xml: 介绍:包含关于可扩展标记语言xml的函数 使用: python有三种方法解析XML--SAX,DOM,以及ElementTree,由于xml技术落后,所以这里不对sax,dom介绍: xml ...

  6. 模块 - json/pickle/shelve/xml/configparser

    序列化: 序列化是指把内存里的数据类型转变成字符串,以使其能存储到硬盘或通过网络传输到远程,因为硬盘或网络传输时只能接受bytes. 为什么要序列化: 有种办法可以直接把内存数据(eg:10个列表,3 ...

  7. python模块:xml

    """Core XML support for Python. This package contains four sub-packages: dom -- The W ...

  8. python开发模块基础:异常处理&amp;hashlib&amp;logging&amp;configparser

    一,异常处理 # 异常处理代码 try: f = open('file', 'w') except ValueError: print('请输入一个数字') except Exception as e ...

  9. python模块 os&amp;sys&amp;subprocess&amp;hashlib模块

    os模块 # os模块可根据带不带path分为两类 # 不带path print(os.getcwd()) # 得到当前工作目录 print(os.name) # 指定你正在使用的操作系统,windo ...

随机推荐

  1. openoffice从word转pdf问题

    http://www.oschina.net/question/227511_87517

  2. Java-基础练习1

    1.      Java为什么能跨平台运行?请简述原理. 因为Java程序编译之后的代码不是能被硬件系统直接运行的代码,而是一种“中间码”——字节码.然后不同的硬件平台上安装有不同的Java虚拟机(J ...

  3. swift项目中引入OC框架

  4. 用Intellij IDEA 创建第一个maven项目!

    1. 一直想如何复用以前项目的maven的jar包! 其实只要拿到pom.xml即可!!! 1.1 创建一个maven项目 2. 3. 创建项目名和项目路径,我给项目起的名字是mavenV1.0 4. ...

  5. iOS教程

    iOS绘图教程: http://www.cocoachina.com/industry/20140115/7703.html iOS基础教程:--包含脚本 swift http://bbs.zxope ...

  6. 创建、显示和删除保存的用户名和密码(cmdkey)

    创建,显示和删除保存的用户名和密码: cmdkey.exe /add:targetname /user:username /pass:password

  7. Binary Tree Zigzag Level Order Traversal (LeetCode) 层序遍历二叉树

    题目描述: Binary Tree Zigzag Level Order Traversal AC Rate: 399/1474 My Submissions Given a binary tree, ...

  8. npm 和 bower的区别

    npm和bower在功能上有一定的重合,但不是互斥关系,可以在项目中同时运用.区别在于npm在设计之初就采用了的是嵌套的依赖关系树.一个普通的前端包的依赖树比较长,npm 会将开发环境一起下载下来,  ...

  9. 关于mysql 5.6.24 的my.ini配置问题

  10. Linux块设备IO子系统(二) _页高速缓存

    磁盘驱动就是实现磁盘空间和内存空间数据上的交互,在上一篇中我们讨论了内存端的Page Segment Block Sector相关的概念,本文以3.14内核为例,讨论这部分内存是如何被组织管理的.我们 ...