python开发总结

openkk 12年前

不知觉python总结都有四十页了,虽然可能很多都是基础性的,仍然有成就感。
和之前一样,仍然全部贴出来,而不是把新的贴出来,请谅解。
这次新增的部分包括c扩展,排序,ftp,源码安全,性能,代码检查等。
后面在python上努力的几个方向:
1、继续在开发中多使用,积累开发经验。
2、针对我们公司完善基础库,在我们公司推广。
3、抽时间,系统学习一下python。
4、学习一下高手在怎么使用python。毕竟我是自学。
5、参与开源。
如果你想下载这个文档,请点击这里:http://download.csdn.net/detail/chgaowei/4324981

两本不错的书:

Python参考手册》:对Python各个标准模块,特性介绍的比较详细。

Python核心编程》:介绍的比较深入,关键是,对Python很多高级特性都有介绍。

一个开源代码:openstack,关于云计算的,用Python写的,可以重点学习一下。

套接字编程:

1、 函数的功能基本和c类似,唯一不同的地方在于当发生错误时,它不是通过返回值来告知的,而是通过触发异常,所以udp中的bind, recvfrom, sendto必须要进行捕捉异常。

2、 套接字在垃圾收集的时候也会关闭。

3、 获取网卡的IP    

s = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)

return socket.inet_ntoa(fcntl.ioctl(s.fileno(), 0X8915, struct.pack('256s', ethname[:15]))[20:24])

 

 

 

字符串的使用:

1、 Python的字符串是不可以改变的。但是你可以操作字符串以形成新的字符串。

2、 字符串中删除一个字串。没有直接提供这个方法,但是replace可以实现:

"abc def".replace(" ", "")

同样的功能还有一个方法:translate。它的原有作用是将字符串中的某个字符替换为另外一个字符,注意,不是字符串。它的第一个参数是一个转换表。第二个参数是要删除的字符串。我们可以利用第二个参数del,实现这个功能。同时,第一个参数设置为None

translate可能更高效一点。另外,它的第二个参数可以使一个字符串,含有多个字符,这样就会删除多个。

注意:translate方法不会对这个字符串操作,而是返回一个新的字符串。

3、 strip方法:去除字符串两侧的空格,返回新的字符串。这个功能非常有用。

4、 str中有一个函数,format,非常强大,有时间一定要看一下。

5、 endswitch:检查字符串是否已某字符串结尾。startswith:检查是否已某字符串开头。

6、 partition:它将字符串按指定的字符串分为三个部分,返回一个元组。第一个是指定字符串前面内容,第二个是指定字符串,第三个是指定字符串后面的内容。用于字符串解析非常好用。

7、 split:将字符串按照某指定字符串分割成多个子字符串,返回一个分割后的列表。

8、 join:将一个字符串列表中的各个字符串连接起来,中间插入指定的字符串。

9、 find的返回值不是falsetrue,所以不可以直接用于if判断。需要判断if s.find(‘’) >= 0:

10、 基于字典的格式化:

a) sh = '''

b) python -m compileall -fl ../src;

c) python -m compileall -fl ../src/micbase;

d) mkdir %(packname)s;

e) mdkir %(packname)s;

f) ''' % {'packname':sys.argv[1], }

g) print(sh)

h) 

内建函数:

string.capitalize()

 把字符串的第一个字符大写 

string.center(width)

 返回一个原字符串居中,并使用空格填充至长度 width 的新串 

string.count(str, beg=0, end=len(string))

 返回 str 在 string 里面出现的次数,如果 beg 或者 end 指返回指定范围内 str 出现的次数 

string.decode(encoding='UTF-8', errors='strict')

   以 encoding 指定的编码格式解码 string,如果出错默认报ValueError 的异常,除非 errors 指定的是'ignore''replace' 

string.encode(encoding='UTF-8', errors='strict')

  以 encoding 指定的编码格式编码 string,如果出错默认报ValueError的异常, 除非errors指定的是'ignore'或者'repl

string.endswith(obj, beg=0, end=len(string))

检查字符串是否以 obj 结束,如果 beg 或者 end 指定则检定的范围内是否以 obj 结束, 如果是, 返回True,否则返回Fa

string.expandtabs(tabsize=8)

把字符串 string 中的 tab 符号转为空格, 默认格数 tabsize 是 8. 

string.find(str, beg=0, end=len(string))

   检测 str 是否包含在 string 中,如果 beg 和 end 指定范则检查是否包含在指定范围内,如果是返回开始的索引值,返回-1 

string.index(str, beg=0, end=len(string))

    跟find()方法一样, 只不过如果str不在string中会报一个异

string.isalnum()

a, b, c  R如果string至少有一个字符并且所有字符都是字母或数字回 True,否则返回 False 

string.isalpha()

a, b, c  如果string至少有一个字符并且所有字符都是字母则返回T否则返回 False 

string.isdecimal()

b, c, d 如果 string 只包含十进制数字则返回 True 否则返回 False.

string.isdigit()

b, c 如果 string 只包含数字则返回 True 否则返回 False. 

string.islower()

b, c 如果 string 中包含至少一个区分大小写的字符,并且所有这些(大小写的)字符都是小写,则返回 True,否则返回 False 

string.isnumeric()

b, c, d 如果 string 中只包含数字字符,则返回 True,否则返回 False 

string.isspace()

b, c 如果 string 中只包含空格,则返回 True,否则返回 False. 

string.istitle()

b, c 如果 string 是标题化的(见 title())则返回 True,否则返回 False 

string.isupper()

b, c 如果 string 中包含至少一个区分大小写的字符, 并且所有这些(区分大小写的)字符都是大写,则返回 True,否则返回 False 

string.join(seq)

 Merges (concatenates)以 string 作为分隔符,将 seq 中所有的元素(的字符串表示)合并为一个新的字符串 

string.ljust(width)

返回一个原字符串左对齐,并使用空格填充至长度 width 的新字符串 

string.lower()

 转换 string 中所有大写字符为小写.    

string.lstrip()

  截掉 string 左边的空格 

string.partition(str)

有点像 find()和 split()的结合体,从 str 出现的第一个位置起,把 字 符 串 string 分 成 一 个 元 素 的 元 组 (string_pre_str,str,string_post_str),如果 string 中不包含str 则 string_pre_str == string. 

string.replace(str1, str2,  num=string.count(str1))

把 string 中的 str1 替换成 str2,如果 num 指定,        则替换不超过 num 

string.rfind(str, beg=0,end=len(string))

类似于 find()函数,不过是从右边开始查找

string.rindex( str, beg=0,end=len(string))

    类似于 index(), 不过是从右边开始

string.rjust(width)

返回一个原字符串右对齐,并使用空格填充至长度 width 的新字符串 

string.rpartition(str)

e  类似于 partition()函数,不过是从右边开始查找

string.rstrip()

  删除 string 字符串末尾的空格

string.split(str="", num=string.count(str))

  以 str 为分隔符切片 string,如果 num有指定值,则仅分隔 num 个子字符串 

string.splitlines(num=string.count('\n'))

b, c按照行分隔, 返回一个包含各行作为元素的列表, 如果 num 指定则仅切片 num 个行

string.startswith(obj, beg=0,end=len(string))

b, e检查字符串是否是以 obj 开头,是则返回 True,否则返回 False。如果beg 和 end 指定值,则在指定范围内检查

string.strip([obj])

  在 string 上执行 lstrip()和 rstrip()

string.swapcase()

  翻转 string 中的大小写 

string.title()

b, c   返回"标题化"的 string,就是说所有单词都是以大写开始,其余字母均为小写(见 istitle())

string.translate(str, del="")

  根据str给出的表(包含256个字符)转换string的字符,要过滤掉的字符放到 del 参数中 

string.upper()

 转换 string 中的小写字母为大写 

string.zfill(width)

  返回长度为 width 的字符串,原字符串 string 右对齐,前面填充

正则表达式

1、 为什么要学习正则:主要是为了处理字符串更加方便,特别是为后面进行代码生成做储备。

2、 match是匹配字符串的开头是否匹配,而search是查看字符串任意起始位置是否满足。

3、 sub可以对字符串中模式匹配的部分进行替换

4、 split:可以对字符串进行分割,这里是根据模式分割。

函数的使用:

1、 函数的作用域:函数中定义一个变量,如果和全局变量重名,则全局变量名称就会被覆盖,也就是,这里对这个变量的更改,不会更改全局变量。但是,如果直接使用的话,是会使用全局变量的。同时,如果想要修改全局变量,需要制定是全局变量:global a

2、 xrange用法和range一样,不过更为高效,因为他不会在内存中创建列表。所以,它只能用于循环。

3、 如果函数没有return语句,则他的返回值为None

4、 关于函数的入参判断:如果如此为空,可能会发生异常。当异常发生后,可能会出现一种情况,一个事情做到了一半,就没有在进行下去,可能会造成内存泄露。这个问题如何解决?按照C的方式,每个入参都做判断是可以解决的,但是这样太麻烦了。而且看很多开源代码页没有这样来做。是不是有更好的方法?换一种思路,在调用之前确保不为空。在看看开源的代码是怎么做的。特别是openstack

5、 可变入参:*args, **kwargs表示可变入参。

def funtest(a, b, c):

    print(a, b, c)

def fun2(*args, **kwargs):

funtest(*args, **kwargs)

fun2(1,2,3)

也可以这样定义:

fun2(a, *args, **kwargs)

如何从可变参数中解析出参数的值?

fun2中添加打印:可以发现,其实args是一个元组,kwargs是一个字典。

分析:调用fun2(1,2,3),会把a赋值给a2赋值给元组args{c=3}赋值给kwargs.

argskwargs的顺序不可颠倒。

argskwargs可能同时都有值。这样,要获取指定的入参,首先根据看args中有没有,然后根据字符串看kwargs中是否存在。

如何建一个元组或者字典通过参数传递给一个函数?

def funtest(a, b, c):

    print(a, b, c)

d = {'a':1'b':2,'c':3}

l = (1,2,3)

funtest(*l)

funtest(**d)

***Python中可以实现这个功能。这样会很灵活的。

***也可以单独出现。但是,如果同时出现,*必须在**之前。

6、 默认参数或者可选参数,参数顺序:调用时,可以指定默认参数中填充那个。

def funtest(a, b=1, c=2):

    print(a, b, c)

funtest(1, c=5, b=6)

其实,即便定义为:def funtest(a, b, c),也可以通过funtest(1, c=5, b=6)的形式调用。

7、 参数组:*args, **kwargs就是参数组,通过元组和字典将产生携带进来。这个特性有助于更为动态的代码生成。

8、 可变长度参数:

9、 函数的参数中如果有一个是元组,可以这样:

def fun(a, (b, c)):

    print(a, b, c)

fun(1, (1,2))

10、 关于回调,可以使用闭包,生成器,以及对象的__call__属性。都可以封装状态。

闭包的使用:

1、 将组成函数的语句和语句的执行环境打包在一起形成的对象,成为闭包。

2、 2.7之前的闭包不支持关键字nonlocal3.0之后才支持。所以2.7前的闭包不可以使用nonlocal

3、 这样他就不可以对执行环境中的变量进行更改。

 

字典的使用:

1、 字典的删除:直接使用del dict[k]可能会引发异常;首先判断k是否存在则效率有些低;使用异常使程序结构看起来不好。一个好的方法是pop(k, default v)。这个删除一个k项,并且返回。如果不存在返回默认的v。如果不加默认值,则会引发异常。

2、 直接使用字典下标获取字典的值可能会引发一场。使用get方法则不会,如果不存在会返回none。另外,还可以设置不存在的默认值。

3、 通过字典格式化字符串:print “value is %(key)s” % kvdict

4、 items方法返回一个列表,列表中的元素是一个元组,第一个是key,第二个是value。比较好用的方法。

5、 iteritems:返回的是一个迭代器。如果想要迭代这个字典,iteritems会比items更高效一点。

6、 iterkeys则返回的是key的迭代器。keys返回的是keylist

7、 values返回值的列表,itervalues返回的是vlaue的迭代器

8、 popitem会随机弹出(同时删除)一个项,则对于想要处理所有的元素,并且删除所有的元素是有帮助的。但是,如果没用元素的话,会抛出异常。

9、 viewitems,viewkeys,viewvalues:这三个函数返回的是一个view对象。这个类似于视图。分别表示(key, valuepair的列表,key的列表,value的列表。一个优点是,如果字典发生变化,view会同步发生变化。在迭代过程中,字典不允许改变,否则会报异常。

10、 字典的键值比较规则:如果是内置类型(intstrtuple,则是以他们的值作为键值;如果是自定义对象,则是以对象的地址作为键值。——这一点没有完全证实。——最新的发现:对象的比较,内置类型,是因为他们都重写了默认的object__eq__等方法,所以可以比较内容。自定义对象,没有重写,所以,他们的比较可能会不一样。object默认的比较是什么?目前还不明确,后面再补充吧。可能就是地址(或者对象的唯一标识),而不是对象的内容。涉及到字典,它不是使用的单纯的比较,而是使用的__hash__,它返回的是一个hash值,字典就是根据这个hash只来散布对象的。

 

 

列表的使用:

1、 列表的删除:不可以在遍历的过程中删除链表,这样会得到不可预知的后果。可以使用列表的过滤,来获得新的列表。

2、 列表的过滤:

        def filterFun(node):#这个函数做了两个事情哎。

            node.cycleCount = node.cycleCount - 1

            return node.cycleCount < 0

        timeoutList = filter(filterFun, timerList)

timerList中的每个节点执行函数filterFun,根据filterFun返回的结果,为真的项组成一个新的列表。

 

3、 map: kvlist = map(lambda x:x.strip(), kvlist)。同时,map可以接受多个列表,这个时候,函数也会接受多个参数,分别表示列表的每一个元素:
kvlist = map(lambda x,y:x+y, [1,2,3], [4,5,6])

如果函数为None,则相当于函数zip

zip([1,2,3], [4,5,6])

[(1,4),(2,5),(3,6)]

4、 生成器表达式:l = [node for node in xrange(5) if node - 3 < 0]:这个的这个方法一定程度上可以替代过滤器和map

生成器表达式定义:

[expr for iter_var in iterable if cond_expr]

l = [2 for x in xrange(5)]#结果是生成一个含有52的列表

5、 print(reduce(lambda x,y: x*y, [2 for x in xrange(38)]))

上面的这个语句是计算238次方的值。它用到的是二元函数reduce。它第一次调用是将第一个和第二个元素做入参,后面用他们的结果做x,新的元素做y,最后返回值。

另外,在获取一个382的列表也可以使用:[2] * 38。这可能更可读一点。

6、 enumerate:对列表处理,返回的是列表的索引以及节点。

        for index, node in enumerate(timerList):

            if timerId == node.timerId and timerEvent == node.timerEvent:

                del timerList[index]

7、 列表的分片:[1,2,3,4]l[1:-1]表示从索引从1到倒数第一个,不包含倒数第一个。如果要从某位置到最后,则应该:[1:]

8、 l[i:j:k]:表示切片,从ij,步长为k

9、 l[i:j]:表示从ij,不包括索引j

 

排序

1、 list自己提供了排序的函数:sort

2、 sort的参数:

a) cmp是一个比较函数,输入两个元素,比较大小,返回值为-101.

b) key也是一个函数,入参为一个元素,返回这个元素的关键字。

c) reverse是一个标志位,表示升序还是降序。默认False是升序,True表示降序。

3、使用keyreverse的性能,优于cmp函数。时间是cmp函数的一半。

迭代的使用:

1、 迭代比直接使用列表遍历效率根据高。比如字典的keys函数返回的列表,以及iterkeys返回的迭代器。

2、 reversed() 内建函数将返回一个反序访问的迭代器.参数必须为序列。

3、 enumerate:返回一个迭代器:有索引值。

4、 for  eachLine  in  myFile  替 换   for  eachLine  in myFile.readlines() :

5、 注意:在迭代的过程中不可以更改序列,否则会引发问题,导致迭代出错。

6、 可以自己定义一个类,可以迭代使用。不过需要定义方法:__iter__,next。

7、 filter(function, iterable):可以对迭代使用过滤器。

 

生成器的使用:

1、 yield关键字可以阻塞住函数的执行,并且保存当前的执行环境,整个包被称为生成器。

2、 生成器可以通过调用生成器函数来创建。生成器函数是指包含关键字yield的函数。

3、 生成器可以通过.next()来执行。每调用一次,就执行代码,直到遇到yield关键字停止,并且返回yield关键字后面的表达式的值。

4、 可以通过调用send()函数来发送消息到生成器中。a = yield l:表示将send的入参赋值给a

5、 throw:允许客户端传入要抛出的任何异常。

6、 和throw相同,只不过是要抛出一个特定的异常:GeneratorExit

7、 send只接受一个参数,但是可以通过传递元组的方式传递多个参数。

8、 类的方法也可以返回生成器,因为他本质上就是一个函数。

9、 在生成器使用的时候,如何获取它自身的sendnex函数?通过send二次传入是有些风险的,非常可能造成交叉引用,无法垃圾回收造成内存泄露。

10、 第一次,必须调用next来启动生成器。

 

装饰器的使用:

1、 装饰器本质上来说就是函数(或者是可调用对象),他们接受函数对象。装饰器仅仅用来装饰或者修饰函数的包装,返回一个修改后的函数对象,并将其赋值原来的标示符,并永久失去对原有函数的访问。

2、 什么是带参数的装饰器?其实就是一个函数,这个函数可以返回一个装饰器,同时这个函数可以接受参数。

3、 不带参数的装饰器要返回一个函数,这个函数就是用来替换原有的标示符的。

def decofun(fun):

    def _mydeco(*args, **kwargs):

        print('before fun!')

        ret = fun(*args, **kwargs)

        print('after fun', ret)

        return ret

    return _mydeco#新的函数,用于替换原有标示符

@decofun

def funtest():#funtest被替换为decofun

    print('now in funtest!')

    return 1

funtest()

4、 装饰器是可以重叠的,那么他们的顺序怎么样:

a) @decofun2

b) @decofun

c) def funtest():

d)     print('now in funtest!')

e)     return 1

f) 原理是,funtest首先被decofun包装,然后再被decofun2包装。也就是,调用的时候,首先调用的是最上面的装饰器(也就是decofun2)的函数前面部分,然后再调用decofun的函数前面部分,之后再调用funtestfuntest返回后,首先调用的是decofun的函数后面部分,再调用decofun2后面部分。类似于一个栈的结构。

5、 装饰器不要滥用。如果一个装饰器只用了一次,要考虑他存在的必要了。

6、 携带参数的装饰器:

7、 def decoarg(arg):

a)     def decofun3(fun):

b)         def _mydeco(*args, **kwargs):

c)             print('decoarg before fun!', arg)

d)             ret = fun(*args, **kwargs)

e)             print('decoarg after fun', ret)

f)             return ret

g)         return _mydeco

h)     return decofun3

8、 装饰器用到的一个最重要的技术,就是闭包。装饰器函数返回的其实就是一个闭包。

9、 装饰器也可以修饰类的__方法:

class testc:

    def __init__(self):

        self.i = 1

    

    @decoarg(1)

    @decofun2

    @decofun

    def __call__(self):

        print('i is %d' % self.i)

注意:装饰器修饰类方法是无法被子类继承的(或者说子类的方法是没有被修饰的)。因为他本质上就是一个函数。

10、 装饰器也可以使对象,比如:

a) class obj:

b)     def __init__(self, fun):

c)         self.fun = fun

d)         

e)     def __call__(self, *args, **kwargs):

f)         print('decofun before fun!', args, kwargs)

g)         ret = self.fun(*args, **kwargs)

h)         print('decofun after fun', ret)

i)         return ret

j) @objdeco

k) def funtest(a, b=2):

l)     print('funtest1 a , b =', a, b)

a) 这种方法看起来复杂了,但是可能会在有时候会比较有用。

 

11、 装饰器可以修饰类。这个时候装饰器接收的是一个类名,而返回的也是这个类名。它可以为这个类添加一些属性或者进行一些操作。

 

 

 

 

协程的使用:

1、 协程(coroutine)是一个可以挂起,回复,并且有多个进入点的函数。

2、 

 

 

XML的使用:

1、 处理xml消息包比较好用的模块是xml.etree.ElementTree。

2、 Element执行xml的根节点。

3、 elem.find(path):查找根节点下面路径为path的子节点。

4、 elem.findall(path):同样的子节点可能有多个,这里会返回一个列表。

5、 elem.findtext(path):获取指定路径子节点的内容,这个我们会经常使用。

6、 elem.get(key);获取属性的值。

7、 上面如果没用,则返回none

8、 elem.append:添加自节点。

9、 elem.tag:返回tag值,也就是name

10、 elem.text:返回内容。

11、 elem.attrib:返回属性的字典。

12、 SubElement:生成一个节点,自动添加为父节点的子节点。

13、 tostring:转化为xml文本字符串。但是不包括xml头。如果编码方式为UTF-8或者GB2312,gb2312都会产生xml头;如果是utf-8,则不会产生xml

14、 fromstring:从字符串转化为ElementTree对象。和XML同样的功能。

15、 elem.set();设置属性值

time的使用:

1、 time.sleep()函数函数具有csleep函数功能,单位为秒,但是可以接受浮点数。这样可以表示毫秒。

2、 ti = datetime.datetime.now()可以显示当前的时间,包括当前的微秒也可以显示出来。两个的差值可以表示时间 的间隔:microsecondLong = timeLong.seconds * 1000000 + timeLong.microseconds。差值的成员是seconds和microseconds

3、 

 

OO的使用:

1、 如果不想让成员变量或者方法被外部使用(也就是private特性),可以以__双下划线开通。

2、 属性不但可以定义在init中,也可以定义在任意的方法中通过self定义。不过最好在init中定义。

3、 Python也可以实现抽象基类,也就是接口

5、 __call__(魔法方法)可以将对象作为函数来调用。给它一个入参就可以。:4、 __str__属性可以将对象转换为字符串,也就是调用print(object)是会打印的字符串。

    def __call__(self, protoVer):

        return api.protoModules[protoVer].TimeTicks(

            (time.time()-self.birthday)*100

            )

它的作用:比较常用的是作为回调,因为他可以保存状态信息。它和闭包类似,可能比闭包的可读性要好一点。

6、 对象实例是否可以删除?

7、 Python参考手册要好好看一下。

8、 pythonstatic方法使用的是装饰器语法:@staticmethod.

9、 对类的调用还有一个方法:CALSS.method(object)

10、 子类中,如果想调用父类的方法,可以通过:

parent.method(self).

不过还有更好的方法:

super(child, self).foo()//注意:这里是根据子类的类型获取父类的方法。它的好处是不用明显给出基类的类型。

11、 cls:类方法的第一个参数。通常表示类的类型,可以通过cls()来生成实例。

a)    @classmethod

b)     def spawn(cls, *args, **kwargs):

c)         """Return a new :class:`Greenlet` object, scheduled to start.

d) 

e)         The arguments are passed to :meth:`Greenlet.__init__`.

f)         """

g)         g = cls(*args, **kwargs)

h)         g.start()

i)         return g

 

12、 继承,如果子类定义了__init__函数,子类的init函数不会默认调用父类的init函数,需要手动调用:parent.__init__。这一点是和c++有区别的。如果子类没有定义__init__,则子类会调用父类的__init__。这里可以发现,其实,子类如果定义了init函数,是对父类的init的一个覆盖。

13、 super注意:!!!它只能用在新式的类定义中。什么是新式的?原来只是基类定义时继承object!!!。

14、 继承如何继承方法:只要继承一个类,就会继承这个类所有的方法,包括__init__,__del__。但是如果子类重写某方法,就会覆盖父类的方法,不会再调用父类的方法了。如果想调用父类的方法,可以通过super的方式调用。

15、 继承如何继承属性:只要不覆盖父类__init__方法,或者调用了父类的__init__方法,就会继承父类__init__属性的方法。继承后也可以更改这些属性。

16、 父类如何防止被继承:方法或者属性以__开头,则可以防止被继承。

17、 根据我的经验,其实可以以一种本质的方式理解Python的继承:Python的类就是一些方法的集合,继承一个类就是继承这个类的所有的方法。如果在子类中定义一个方法,其实是更改了这个类的符号。而属性,则可以在所有的方法中定义,只要调用了定义属性的方法,调用父类,则是继承父类的属性,调用子类定义属性的方法,则是定义子类的方法。

18、 property

a) class c(object):

b)     def __init__(self):

c)         self._num = 1

d)     @property

e)     def num(self):

f)         return self._num * 10

g)     @num.setter

h)     def num(self, v):

i)         self._num = v

j)     @num.deleter

k)     def num(self):

l)         pass

m) o = c()

n) print(o.num)

o) o.num = 20

p) print(o.num)

q) 这样的好处是,可以在操作属性时,不用显示为方法调用,更加可读。同时又可以统一入口。:注意,它也必须继承object才可以。

19、 OO中的垃圾回收:Python的垃圾回收使用的是符号引用计数。那么,如果在一个函数中申请一个对象,然后返回它的一个属性或者方法,这个时候对象的符号引用已经去掉,对象是否会释放?

a) class child(parent):

b)     def __init__(self):

c)         self.i = 8888

d)         

e)     def foo(self):

f)         print('-----------------------')

g)         

h)     def __del__(self):

i)         print('now in del child')

j)         super(child, self).__del__()

第一种情况,返回的是属性

k) def refun():

l)     o = child()

m)     return o.i

n) I = refun()

o) 这个时候,对象o会马上释放。因为o.i其实就是一个对象的引用,和o没有关系

第二种情况,返回的是方法

a) def refun():

b)     o = child()

c)     return o.foo

d) foo = refun()

e) 这个时候,对象o要等到foo释放的时候再释放,因为foo中包含了o的引用(foo的入参self

20、 对于对象的属性,如果属性是可读写的,则第一步没有必要用@property修饰。可以直接使用。后面如果有需要,在进行修饰。这样既减少了工作,修改时,也不会对原有代码进行改动。

模块的使用:

1、 如果不想将模块的某些函数和变量被别的模块使用,可以以单下划线开头。这样import *是没有的,但是使用import mode,然后mode._fun仍然可以调用。在class中是以双下划线开头的。

2、 使用from。。。import导入的符号,应该是本地符号,更改的话,无法更改模块中的值。可以通过mode.name=来修改。

3、 __init__.py的作用:可以这样理解:包也是一个对象,这个py就是这个包的构造函数。导入这个包,就会自动的执行__init__.py。如果在这个py中导入其他符号,import 这个包并且加*也会导入这个符号。

4、 import *无法导入模块中以_开头的符号。但是,不用*是可以的。

5、 import的本质也是创建一个符号,指向一个对象的引用。这个符号和被import的模块的符号是没有关系的。和cextern不一样。extern可以更改变量的值,但是,这在Python中是不可以的。

from srctest import itest, outitest, setitest

import srctest

# itest = 9#这个地方其实改变的是本模块中符号的引用,无法更改srctest中对应符号。

#srctest.itest = 9#这个可以更改srctest中的itest

setitest(9)#这个可以更改srctest中的itest,但是改变不了当前模块的itest,也就是,这种设置是无法同步的。

print(itest)#打印当前模块的itest

printitest()#打印srctest中的itest

Python的设计哲学:看似不方便的背后,其实有Python的设计哲学。便捷性很多时候都是模块性的大敌。在软件开发中,模块间的最短路径未必是最合理路径,而且往往是最不合理路径。它会破坏软件原有的交互原则。

Python这样设计的理由应该是,尽量将数据和对数据的操作放在一起。如果数据会扩散,那么,就将数据设计为只读的。这样有助于提高程序模块的内聚性(全局变量是内聚性的大敌),降低耦合性。降低程序的复杂性(数据只读,调试根据方便)。

 

srctest.itest是可以改变itest的值的,说明我们可以通过改变这个对象的属性来改变对象(模块也是对象)。

可能有一点小题大做。

6、 两个模块不可以双向import。那万一两个模块都要互相调用对方怎么办?Python的设计哲学告诉你,这不是一个好的实践,所以这样不行。应该怎么弄?一个模块调用另外一个模块,如果被调用模块想调用调用模块的方法,通过回调的形式。这样可以保证,模块间的连接都是单向的。

 

日志的使用:

1、 日志的标准模块logging基本可以满足我的工作。

2、 设置log的初始化工作:

logging.basicConfig(

    filename = "test.log",

    format = "[%(asctime)s-%(levelname)s] %(message)s [%(filename)s,%(lineno)d]",

    level = logging.INFO,

    datefmt = "%F %T")

3、 除此之外,一个比较强大的功能就是过滤功能:可以针对级别,文件,行号等等很多的东西进行过滤。

4、 

 

自省的使用:

1、 type()可以查看对象的类型。这就是自省。也就是可以看看自己是什么类型。这个功能在动态语言中非常有用。

2、 getattr函数:这是个非常有用的函数,它可以根据字符串,从模块,类,对象实例中获取属性和方法的应用并且调用。这个功能非常类似于c语言的函数指针,以及c++中的成员函数的指针。

1)从模块中获取函数和成员

import testfun

tf = getattr(testfun, 'test')

tstr = getattr(testfun, 'str')

2)从类中获取属性和方法

class test():

tst = 2

        def __init__(self):

        self.abc = 1

      def method(self):

        print('in test.method'self)

      def __test(self):

        print('in test')

tm = getattr(test, 'method’)#获取类方法method函数指针。因为没有实例,所以调用必须用下面的方法:

t = test()

tm(t)#申请一个实例,并且作为第一个参数传进去。

tm = getattr(test, '__test’)#这里会报错,也就是无法获取私有方法。

tabc = getattr(test, 'abc)#这是错误的。无法获取。

ttst = getattr(test, 'tst)#这是可以的。。

 

3)从对象实例中获取属性和方法

t = test()

tm = getattr(t, 'method')

 tm()#可以这样调用,而不用传入t实例。

tabc = getattr(test, 'abc)#可以获取实例的属性。

3、 callable:函数表示某个对象是否可以调用。它和getattr结合起来,可以获取一个对象中的所有的method列表:

methods = [method for method in dir[object] if callable(getattr(object, method))]

4、 自省也叫放射。

5、 exec(‘print “test”‘):可以执行字符串代码。这个特性有助于动态执行代码,可以用于机器学习,自动生成代码。

exec的参数可以使一个打开的文件对象,stringcode object

code object可以通过函数

类似的方法:execfile(filename[, globals[, locals]])。

6、 可以更改类的方法,将它指向一个新的方法。如下:

a) class ctest():

b)     def test(self):

c)         print('c test test')

d) def testfun():

e)     print('test fun !')

f) c = ctest()

g) c.test = testfun

h) c.test()

对象c的方法test被替换为新的方法:testfun。这个特性有助于根据动态的代码实现,但是往往会增加代码的透明性。

类似的,setattr也可以实现这样的功能。delattr可以删除属性。

setattr(c, 'test', testfun)

delattr(c, 'test')

c.test()#这里调用的其实就是ctesttest方法。也就是说,delattr会首先删除setattr设置的属性,如果在调用一次delattr,才会删除ctest方法。但是如果多调用几次setattr,也只要调用一次delattr即可删除。所以,要删除一个方法,最多调用两次delattr

这个特性可以用于动态更改代码。也可用于补丁。

setattr无法对Pythonc扩展模块进行操作。

7、 如何判断一个变量是否存在:

‘v’ in dir()

‘v’ in locals.key()

配置文件读取的使用:

1、 使用模块ConfigParser。实例如下:

conf = ConfigParser()

conf.read("snmp_agent.ini")

 

print(conf.get("main""log_level"))

print(conf.getint("main""ne_agent_port"))

print(conf.get("main", "ne_agent_qip"))

 

异常的使用:

1、 尽量少用。它会使程序难以理解,而且还会发生不可预知的情况,比如异常的发生使程序的状态变为一个未知状态。

2、 可以寻找替代方案。

3、 程序非常重要,不可以停止,可以在主循环包装在异常处理中运行。

4、 打印出异常的信息,供后面的定位:log.error(traceback.format_exc())

5、 raise在引发异常的时候,可以传递引发一场的额外数据。形式如下:

raise Exception, 1

捕获方法:

except CallExit, e:

e就是那个额外数据1。(但是奇怪的是它的类型不是1

6、 如何捕获一个异常,进行处理,然后在把它抛出:

    except :

        for flet in fletList:

            flet.throw()

        info = sys.exc_info()

        raise info[0], info[1], info[2]

7、 如何使用异常才是Pythonic的做法?这个要看一下。

类型系统

1、 类型也是对象。比如:inttype = int,然后,n = inttype(‘256’),这样可以把字符串转化为int值。

2、 另外,是否可以把字符串转化为关键字,或者对象?比如,一个变量,abc,是否可以通过’abc’来引用?

OS的使用

os中有很多可以直接利用的东西,比如,判断文件是否存在,删除文件等。这样可以不用再执行shell命令。

os.rremove(path):删除文件

os.system(‘ls’);执行shell命令

文件的使用

1、 打开使用函数open,模式和linux c类似。有一个不同的地方时,可以选择,直接操作磁盘还是操作内存。

2、 readline可以读取一个文件的一行。

3、 readlines:返回每一个列的列表。对应writelines

4、 文件迭代器:

f = open(‘fliename’)

for line in f:

    process(line)

f.close()

或者更简洁的:

for line in open(filename):

process(line)

5、 文件迭代器的使用:

如果文件很大,readlines可能会占用过多的内存。所以,Python提出一种类似于惰性求值的惰性迭代。

有两种方案:fileinput和文件迭代器:

import fileinput

for line in fileinput.input(filename)

process(line)

文件迭代器:

f = open(filename)

for line in f:

process(line)

6、 如何判断文件是否存在:

import os

os.path.isfile('/home/keepshell')

os.path.exists('/home/keepshell')

7、 如何判断目录是否存在:

import os

os.path.isdir('/home')

os.path.exists('/home')

 

数据库的使用

1、 数据库中的字段使用的utf8格式编码,但是读取出来却是问号。这个问题的解决可以通过在查询的时候指定编码方式来解决,只要执行sql语句:Query_Execsql(pdb, "SET NAMES 'utf8'");

注意,这个需要在连接后马上进行。并且,在其他的操作中,会一直使用这种编码。除非再次更改。

2、 fetchone():返回一条记录。fetchall():返回所有的记录。

3、 可以使用一个简单的方法获取所有的记录:

cur.execute(sql)

for tel, name, pwd in cur:

    print tel, name, pwd

FTP的使用

Python的标准模块ftplib就可以支持FTP

几个函数:

FTP(host='', user=''passwd='', acct='',               timeout=_GLOBAL_DEFAULT_TIMEOUT):如果参数中有user,则Connect();如果同时也有user,则login()。如果没用这些参数,后要自己调用connectlogin

connect(self, host='', port=0, timeout=-999):如果端口不是标准端口,则要手动调用connect

login(user = '', passwd = '', acct = ''):登陆。

pwd():获得当前的工作路径。

cwd(path):更改当前的工作路径。

dir(path,cb):显示目录中的内容。cb为文件的处理函数。会传递给retrlines。这个函数可以获取一个目录下的所有的内容。

retrlines(self, cmd, callback = None):下载文本文件。cmd的形式为“RETR FILENAME”,callback是一个函数,要处理文本文件的每一个行。这里一个问题,如果直接用filewrite方法,则会丢失换行符。而又没有writeline函数。

retrbinary(self, cmd, callback, blocksize=8192, rest=None):下载二进制文件,cmd的形式为“RETR FILENAME”,callback是一个函数,要处理文本文件的每一个块。默认大小事8k,但是可以更改。

storlines(self, cmd, fp, callback=None):上传文本文件。cmd的形式为“STOR FILENAME”。fp是一个文件对象,必须有readline方法。callback:每传送一行,就会调用这个函数。

storbinary(self, cmd, fp, blocksize=8192, callback=None, rest=None): 上传二进制文件。cmd的形式为“STOR FILENAME”。fp是一个文件对象,必须有read(num_bytes)方法。默认大小事8k,但是可以更改。

quit():退出。

字节的使用

1、 ord:可以见字符转化为int类型的值。

2、 chrord的方向操作。可以见int类型值转换为字符。

 

 

字符编码的使用

1、 encode是将Unicode转化为strdecode是将字符串转化为Unicode。所以,一个字符串要转化为另一种格式可以:

s = ‘中文’

s.decode(fromcodec).encode(tocodec)

也可以直接使用:s.encode(tocodec)。这个时候,相当于默认调用了decode,并且使用的是默认的编码方式。

 

 

源码安全

1、 Python代码如果直接发布,可能会暴露源码。

2、 一个方法是利用c扩展Python,来代替核心模块。

3、 另一个折中的方法就是对源码进行编译,生成pyc或者pyo文件。这些事字节码文件。可能会被反编译。所以,可能需要研究一下Pythonpyo生成和加载方式,来生成更安全的Python字节码。网上说可以修改Python源码的opcode。没有研究过。

4、 命令:python -m compileall。

5、 也可以在Python中使用:

a) import compileall

b) 

c) compileall._dir('Lib/', force=True)

d) 

e) # Perform same compilation, excluding files in .svn directories.

f) import re

g) compileall._dir('Lib/', rx=re.compile('/[.]svn'), force=True)

h) 

 

GC

1、 OO中的垃圾回收:Python的垃圾回收使用的是符号引用计数。那么,如果在一个函数中申请一个对象,然后返回它的一个属性或者方法,这个时候对象的符号引用已经去掉,对象是否会释放?

a) class child(parent):

b)     def __init__(self):

c)         self.i = 8888

d)         

e)     def foo(self):

f)         print('-----------------------')

g)         

h)     def __del__(self):

i)         print('now in del child')

j)         super(child, self).__del__()

第一种情况,返回的是属性

k) def refun():

l)     o = child()

m)     return o.i

n) I = refun()

o) 这个时候,对象o会马上释放。因为o.i其实就是一个对象的引用,和o没有关系

第二种情况,返回的是方法

f) def refun():

g)     o = child()

h)     return o.foo

i) foo = refun()

j) 这个时候,对象o要等到foo释放的时候再释放,因为foo中包含了o的引用(foo的入参self

k) 

2、 如果两个对象交叉引用,是否会自动回收?不会。同样,如果一个对象把生成的对象赋值给它自身的一个属性,那么它也不会自动回收。

3、 

 

c扩展

1、 可以使用swig来创建的扩展程序,非常方便。目前没有时间研究内部机制,先暂时使用,后面在研究吧。

2、 swig使用步骤:为库的头文件建立.i文件:

%{

/* Includes the header in the wrapper code */

#include "code.h"

#include "sip.h"

%}

 

/* Parse the header file to generate wrappers */

%include "code.h"

%include "sip.h"

3、 使用swig命令生成py脚本及对应的C文件:swig –python sip.i

4、 将生成的c源文件放到c扩展库中进行编译。

5、 这里有一个要注意:生成的动态链接库,必须是_sip.so,否则无法调用。swig是写死的。_sip.so需要拷贝到: /usr/local/lib/python2.7/site-packages/路径下。

6、 Makefile文件中,对于库引用的其他的库,必须显示的指出,否则Python无法找到对应的库。

7、 如何在c的扩展库中调用Python的函数:

swig是不支持直接在c的扩展库中调用Python函数的。它只支持将C的接口作为回调函数设置给c的库。

实现这个功能需要利用Pythonc APIctypes来实现。

Python c api包含一系列的函数:

PyCallable_Check:检查对象是否可调用;

PyArg_ParseTuple:解析参数列表,将Python参数解析为c

PyEval_CallObject:调用对象;

Py_BuildValue:将c变量打包为Python的参数对象。

好了,有这些就足够了。

假设c库中有一个设置回调函数接口:

void set_callback_fun(void (*fun)(int, int , int))

{

}

下面是c扩展库中要添加的代码:

//全局变量,保存Python中要回调的可调用对象。

static PyObject *gCallbackFun = NULL;

 

//调用上面函数设置的python脚本函数

//Python可调用对象的转换函数,转化为C的调用方式

static void callbacfun(int type,int chn,int dataType)

{

    PyObject* pArgs = NULL;

    PyObject* pRetVal = NULL;

    int    nRetVal = 0;

    

    pArgs = Py_BuildValue("(i, i, i)", type, chn, dataType);//c的参数转化为Python的参数对象

    pRetVal = PyEval_CallObject(gCallbackFun, pArgs);//调用Python的可调用对象。

    Py_DECREF(pArgs);

    Py_DECREF(pRetVal);

}

 

/// set_callback_fun函数的包装函数

static PyObject *wrap_set_callback_fun(PyObject *dummy, PyObject *args)

{

    PyObject *temp = NULL;

 

    if (PyArg_ParseTuple(args, "O:set_callback_fun", &temp)) {//获取Python对象

        if (!PyCallable_Check(temp)) {//检查对象是否可以调用

            PyErr_SetString(PyExc_TypeError, "parameter must be callable");

        }

    Py_XINCREF(temp);         /* Add a reference to new callback */

    Py_XDECREF(gCallbackFun); /* Dispose of previous callback */

    gCallbackFun = temp;       /* 保存回调对象 */

    }

    

    set_callback_fun(callbacfun);//注意,这里掉一下包,用一个C的函数注册到c库中。

    

    return Py_BuildValue("i", (gCallbackFun == NULL) ? 0 : 1);

}

 

注意:如果对象不可调用,会段错误。后面要解决一下。

 

Python代码:

CBFUNC  = CFUNCTYPE(c_int, c_int, c_int, c_int)//创建一个c函数类型的对象工厂,该函数返回值为int,有三个入参,都为int

callbakFunc = CBFUNC(pyFun)//根据Python可调用对象生成函数。

set_callback_fun(callbakFunc)//设置回调函数

注意:pyFun必须要有返回值。否则会报异常。

另外,我发现,不用CFUNCTYPE来生产c回调函数,直接用pyFun,也是可以的。至于区别,后面在研究一下吧,要写代码了。

   几个异常问题:1、一个可以使用CFUNCTYPE,但是一个一使用它就段错误。2、回调函数可以不返回值,也是可以的。但是一个不返回就不可以。

Python中使用c扩展时向C传递数组:

 

8、 如果一个函数的参数是一个数组(指针),Python如何传递?下面的方法是可以直接传递列表。把这个加到.i文件中。

%{

static int convert_darray(PyObject *input, int *ptr, int size) {

  int i;

  if (!PySequence_Check(input)) {

      PyErr_SetString(PyExc_TypeError,"Expecting a sequence");

      return 0;

  }

  if (PyObject_Length(input) != size) {

      PyErr_SetString(PyExc_ValueError,"Sequence size mismatch");

      return 0;

  }

  for (i =0; i < size; i++) {

      PyObject *o = PySequence_GetItem(input,i);

      if (!PyFloat_Check(o)) {

         Py_XDECREF(o);

         PyErr_SetString(PyExc_ValueError,"Expecting a sequence of floats");

         return 0;

      }

      ptr[i] = PyFloat_AsDouble(o);

      Py_DECREF(o);

  }

  return 1;

}

%}

%typemap(in) int [ANY](int temp[$1_dim0]) {

   if (!convert_darray($input,temp,$1_dim0)) {

      return NULL;

   }

   $1 = &temp[0];

}

9、 如果一个结构体中有一个int类型数组,应该如何赋值?

.i中增加下面代码:

%include "carrays.i"

%array_class(int, intArray);

Python中申请数组:

a = intArray(10),将A复制给数组成员即可。

 

代码错误检查

1、 今天遇到两个问题:

a) 类中方法:class _registerEvent(notifyEvent): def _sendRegRsp(self, voiceres, reqId, result, reason,status):,调用时参数个数少一个:self._sendRegRsp(voiceres, reqId, 'success', 'normal')   。结果是没有任何提示,并且,不知道调用了什么函数。这个问题有点匪夷所思。后面好好查看一下。

b) 抽取函数后,有时忘了返回值,当时却用到了返回值:

i. def createWirelessSdp(voiceRtpPort, voiceTbcpPort):

ii.     voicesdp = SIP_SDP()

iii.     voicesdp.a_use = 1

iv. sdp = createWirelessSdp(1000,2000)

v. 结果也是没有任何提示,sdpNone

 

2、 总结:写Python代码,需要使用代码检查工具,比如,pylint等。后面引进一下。

程序运行

1、 如何获取命令行参数:

a) import sys 

b) 

c) print(sys.argv[1])

d) sys.argv[1]就是第一个参数。0是脚本的名称。

2、 

关于性能

1、 timeit:可以统计程序的运行时间。目前没有时间,抽时间好好看看。

timeit(cut1, number=10000):cut1是函数名,number是执行次数。

2、 pypy可以将Python代码翻译为可执行程序,它的效率可以提高4倍左右。但是,内存的占用可能会很大。(没有试过。)

3、 

 

其他:

1、 脚本语言的进程名称显示为:python ,如果一个服务器上有多个进程,那么将不易发现那个进程是哪个程序。可以使用第三方开源的库来解决这个问题:setproctitle.

from setproctitle import setproctitle,getproctitle

print('当前的进程名:%s' % getproctitle())

setproctitle('proctitle')

print('设置后的的进程名:%s' % getproctitle())

2、 with语法:with open(‘file’, ‘r’) as f:

code

可以是try的另一种形式。

可以执行with操作的类型:

file 

decimal.Context 

thread.LockType 

threading.Lock 

threading.RLock 

threading.Condition 

threading.Semaphore 

threading.BoundedSemaphore

3、 产生随机数:random.randint(100000, 999999)

4、 回调函数的使用:设置回调函数的时候,很多时候要使用闭包。避免闭包的一个方法是:

a) def setCancelFun(cancelFun, *args, **kwargs):

b)     '''如果为None表示删除取消函数后面跟的是cancel函数的参数。这样可以避免上面创建闭包。'''

c)     global _cancelFun,_cancelArgs,_cancelKwargs

d)     _cancelFun = cancelFun

e)     _cancelArgs = args 

f)     _cancelKwargs = kwargs 

g) 

h) def __execCancelFun():

i)     '执行取消操作。因为在throwkill的时候会执行此函数,所以,暂时没有看到会在外面调用此函数。屏蔽后,接口的简单性会提高'

j)     global _cancelFun,_cancelArgs,_cancelKwargs

k)     if callable(_cancelFun):

l)         _cancelFun(*_cancelArgs, **_cancelKwargs)

m)         _cancelFun = None#防止重复调用

n) 

o) def test(a, b, c):

p)     print('--------test:', a,b,c)

q) 

r) setCancelFun(test123)

s) __execCancelFun()

也就是增加可变参数。

 

 

Python:一切皆符号?

转自:http://www.cnblogs.com/chgaowei/archive/2012/06/05/2537442.html