有哪些python代码分享的网站?
7 个回答
全宇宙最大的代码分享网站是github。
来分享20个实用的Python使用小技巧,建议收藏
1、易混淆操作
本节对一些 Python 易混淆的操作进行对比。
1.1 有放回随机采样和无放回随机采样
import random
random.choices(seq, k=1) # 长度为k的list,有放回采样
random.sample(seq, k) # 长度为k的list,无放回采样
1.2 lambda 函数的参数
func = lambda y: x + y # x的值在函数运行时被绑定
func = lambda y, x=x: x + y # x的值在函数定义时被绑定
1.3 copy 和 deepcopy
import copy
y = copy.copy(x) # 只复制最顶层
y = copy.deepcopy(x) # 复制所有嵌套部分
复制和变量别名结合在一起时,容易混淆:
a = [1, 2, [3, 4]]
# Alias.
b_alias = a
assert b_alias == a and b_alias is a
# Shallow copy.
b_shallow_copy = a[:]
assert b_shallow_copy == a and b_shallow_copy is not a and b_shallow_copy[2] is a[2]
# Deep copy.
import copy
b_deep_copy = copy.deepcopy(a)
assert b_deep_copy == a and b_deep_copy is not a and b_deep_copy[2] is not a[2]
对别名的修改会影响原变量,(浅)复制中的元素是原列表中元素的别名,而深层复制是递归的进行复制,对深层复制的修改不影响原变量。
2、常用工具
2.1 读写 CSV 文件
import csv
# 无header的读写
with open(name, 'rt', encoding='utf-8', newline='') as f: # newline=''让Python不将换行统一处理
for row in csv.reader(f):
print(row[0], row[1]) # CSV读到的数据都是str类型
with open(name, mode='wt') as f:
f_csv = csv.writer(f)
f_csv.writerow(['symbol', 'change'])
# 有header的读写
with open(name, mode='rt', newline='') as f:
for row in csv.DictReader(f):
print(row['symbol'], row['change'])
with open(name, mode='wt') as f:
header = ['symbol', 'change']
f_csv = csv.DictWriter(f, header)
f_csv.writeheader()
f_csv.writerow({'symbol': xx, 'change': xx})
注意,当 CSV 文件过大时会报错:_csv.Error: field larger than field limit (131072),通过修改上限解决
import sys
csv.field_size_limit(sys.maxsize)
csv 还可以读以 \t 分割的数据
f = csv.reader(f, delimiter='\t')
2.2 迭代器工具
itertools 中定义了很多迭代器工具,例如子序列工具:
import itertools
itertools.islice(iterable, start=None, stop, step=None)
# islice('ABCDEF', 2, None) -> C, D, E, F
itertools.filterfalse(predicate, iterable) # 过滤掉predicate为False的元素
# filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6
itertools.takewhile(predicate, iterable) # 当predicate为False时停止迭代
# takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4
itertools.dropwhile(predicate, iterable) # 当predicate为False时开始迭代
# dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1
itertools.compress(iterable, selectors) # 根据selectors每个元素是True或False进行选择
# compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F
序列排序:
sorted(iterable, key=None, reverse=False)
itertools.groupby(iterable, key=None) # 按值分组,iterable需要先被排序
# groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6)
itertools.permutations(iterable, r=None) # 排列,返回值是Tuple
# permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC
itertools.combinations(iterable, r=None) # 组合,返回值是Tuple
itertools.combinations_with_replacement(...)
# combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD
多个序列合并:
itertools.chain(*iterables) # 多个序列直接拼接
# chain('ABC', 'DEF') -> A, B, C, D, E, F
import heapq
heapq.merge(*iterables, key=None, reverse=False) # 多个序列按顺序拼接
# merge('ABF', 'CDE') -> A, B, C, D, E, F
zip(*iterables) # 当最短的序列耗尽时停止,结果只能被消耗一次
itertools.zip_longest(*iterables, fillvalue=None) # 当最长的序列耗尽时停止,结果只能被消耗一次
2.3 计数器
计数器可以统计一个可迭代对象中每个元素出现的次数。
import collections
# 创建
collections.Counter(iterable)
# 频次
collections.Counter[key] # key出现频次
# 返回n个出现频次最高的元素和其对应出现频次,如果n为None,返回所有元素
collections.Counter.most_common(n=None)
# 插入/更新
collections.Counter.update(iterable)
counter1 + counter2; counter1 - counter2 # counter加减
# 检查两个字符串的组成元素是否相同
collections.Counter(list1) == collections.Counter(list2)
2.4 带默认值的 Dict
当访问不存在的 Key 时,defaultdict 会将其设置为某个默认值。
import collections
collections.defaultdict(type) # 当第一次访问dict[key]时,会无参数调用type,给dict[key]提供一个初始值
2.5 有序 Dict
import collections
collections.OrderedDict(items=None) # 迭代时保留原始插入顺序
3、高性能编程和调试
3.1 输出错误和警告信息
向标准错误输出信息
import sys
sys.stderr.write('')
输出警告信息
import warnings
warnings.warn(message, category=UserWarning)
# category的取值有DeprecationWarning, SyntaxWarning, RuntimeWarning, ResourceWarning, FutureWarning
控制警告消息的输出
$ python -W all # 输出所有警告,等同于设置warnings.simplefilter('always')
$ python -W ignore # 忽略所有警告,等同于设置warnings.simplefilter('ignore')
$ python -W error # 将所有警告转换为异常,等同于设置warnings.simplefilter('error')
3.2 代码中测试
有时为了调试,我们想在代码中加一些代码,通常是一些 print 语句,可以写为:
# 在代码中的debug部分
if __debug__:
pass
一旦调试结束,通过在命令行执行 -O 选项,会忽略这部分代码:
$ python -0 main.py
3.3 代码风格检查
使用 pylint 可以进行不少的代码风格和语法检查,能在运行之前发现一些错误
pylint main.py
3.4 代码耗时
耗时测试
$ python -m cProfile main.py
测试某代码块耗时
# 代码块耗时定义
from contextlib import contextmanager
from time import perf_counter
@contextmanager
def timeblock(label):
tic = perf_counter()
try:
yield
finally:
toc = perf_counter()
print('%s : %s' % (label, toc - tic))
# 代码块耗时测试
with timeblock('counting'):
pass
代码耗时优化的一些原则
- 专注于优化产生性能瓶颈的地方,而不是全部代码。
- 避免使用全局变量。局部变量的查找比全局变量更快,将全局变量的代码定义在函数中运行通常会快 15%-30%。
- 避免使用.访问属性。使用 from module import name 会更快,将频繁访问的类的成员变量 self.member 放入到一个局部变量中。
- 尽量使用内置数据结构。str, list, set, dict 等使用 C 实现,运行起来很快。
- 避免创建没有必要的中间变量,和 copy.deepcopy()。
- 字符串拼接,例如 a + ':' + b + ':' + c 会创造大量无用的中间变量,':',join([a, b, c]) 效率会高不少。另外需要考虑字符串拼接是否必要,例如 print(':'.join([a, b, c])) 效率比 print(a, b, c, sep=':') 低。
关于Python使用的小技巧就分享到这里了,如果你有其他好用的Python技巧欢迎分享出来哟!
自荐一下: https://github.com/kgepachong/crawler,仓库中有很多逆向案例文章及其源码,关于爬虫方向的学习我可以给到以下推荐:
你在网上看到的,95%以上的都是爬虫基础,特别是各种营销号,有很多视频,没有更“高级”的东西,包括知乎上你看到的回答,95%以上都是回答一些基础(可能回答的人自己都没进阶搞过爬虫,只是道听途说),基础你随便找资料学就行了,B站视频也很多,大同小异。
进阶主要是逆向,你会发现基本上没有教程,也很少有人讲这方面的东西,爬虫入门简单,深入很难,我推荐你看以下书籍(我认为是必看的):
- 爬虫工具推荐:spidertools
- 爬虫代理推荐: 快代理(国内HTTP代理)、 bright data(海外HTTP代理)
- 小白未入门阶段 :《Python 编程从入门到实践》第二版,作者埃里克·马瑟斯(Eric Matthes)
- 爬虫入门阶段:《Python3 网络爬虫开发实战》第二版,作者崔庆才
- 反爬套路总结:《Python3 反爬虫原理与绕过实战》,作者韦世东
- 数据产品+数据产品思维:《爬虫实战:从数据到产品》,作者贺思聪
- 爬虫逆向进阶:《反爬虫AST原理与还原混淆实战》,作者李岳阳,卓斌;《安卓Frida逆向与抓包实战》作者陈佳林,《爬虫逆向进阶实战》作者李玺
视频方面,我只推荐进阶,也就是逆向相关的视频:
免费:
- JS 逆向: 《K 哥爬虫》 K 哥的小助理带你由易到难学习逆向
- JS 逆向: 《志远2021全新js逆向教程,学完这套就够了!(全套开源)》
- APP 逆向: 《小肩膀 app逆向百集(105集)》
收费:
- 夜幕出品 JS 逆向: 《JavaScript 逆向系列课》 《JavaScript 逆向高阶课》
- 猿人学: 《爬虫高阶课程》
- 志远和小肩膀 2022 最新的 JS 逆向和 APP 逆向课程,自己在 B 站找购买方式
推荐多逛一下各大论坛:
- 看雪安全论坛
- 精易逆向安全
- 夜幕爬虫论坛
- 穿甲兵技术社区
PS:很多搞易语言的对于逆向很拿手,可以逛逛易语言的一些论坛,重要的是思路,实现的语言无所谓,也可以关注 K 哥公众号,我会分享一些 JS 逆向知识,比较适合新手。
爬虫工程师的尽头是逆向安全工程师!
Github的gist和gitlab点snippet都能很方便的分享代码
github
太多了,从简单的到全面的。