Python其实自带了小型数据库
dbm
DBM(DataBase Manager)是一种文件系统,专门用于键值对的存储,最初是在 Unix 平台实现,现在其它平台也可以用。对于 KV 模型,DBM 提供了一个轻量级、高效的存储解决方案。
总的来说,DBM 具有如下特点:
简单快速:非常简单易用,读取和写入操作都很快,适合存储少量数据。 键值对存储:数据是以键值对形式存储的,你可以像操作 Python 字典一样。 文件存储:数据存在具体的文件中,可以轻松地备份和转移。 不支持复杂查询:如果需要执行复杂查询或需要关系型数据库的功能,DBM 可能不是一个好选择。
而 Python 标准库提供了一个 dbm 模块,它实现了 DBM 文件系统的功能,来看一下它的用法。
| importdbm
#第一个参数是文件名
#第二个参数是模式,有以下几种
# r:只读,要求文件必须存在,默认就是这个模式
# w:可读可写,要求文件必须存在
# c:可读可写,文件不存在会创建,存在则追加
# n:可读可写,文件不存在会创建,存在则清空
#第三个参数是权限,用八进制数字表示,默认0o666,即可读可写不可执行
db=dbm.open("store","c")
#打开文件就可以存储值了,key和value必须是字符串或bytes对象
db["name"]="Sせんせい"
db["age"]="18"
db[b"corporation"]="小摩".encode("utf-8")
#关闭文件,将内容写到磁盘上
db.close()
|
非常简单,就像操作字典一样,并且 key 是唯一的,如果存在则替换。执行完后,当前目录会多出一个 store.db 文件。
我们打开它,然后读取刚才写入的键值对。
| importdbm
db=dbm.open("store","c")
#获取所有的key,直接返回一个列表
print(db.keys())
"""
[b'corporation',b'name',b'age']
"""
#判断一个key是否存在,key可以是字符串或bytes对象
print("name"indb,"NAME"indb)
"""
TrueFalse
"""
#获取一个key对应的value,得到的是bytes对象
print(db["name"].decode("utf-8"))
print(db[b"corporation"].decode("utf-8"))
"""
Sせんせい
小摩
"""
#key如果不存在,会抛出KeyError,我们可以使用get方法
print(db.get("NAME",b"unknown"))
"""
b'unknown'
"""
#当然也可以使用setdefault方法,key不存在时,自动写进去
print(db.setdefault("gender",b"female"))
"""
b'female'
"""
print(db["gender"])
"""
b'female'
"""
|
非常简单,当你需要存储的数据量不适合放在内存中,但又没必要引入数据库,那么不妨试试使用 dbm 模块吧。
当然啦,dbm 虽然很方便,但它只能持久化 bytes 对象,字符串也是转成 bytes 对象之后再存储的。所以除了 dbm 之外,还有一个标准库模块shelve,它可以持久化任意对象。
shelve
shelve 的使用方式和 dbm 几乎是一致的,区别就是 shelve 的序列化能力要更强,当然速度自然也就慢一些。
| importshelve
#第二个参数表示模式,默认是c
#因此文件不存在会创建,存在则追加
sh=shelve.open("shelve")
sh["name"]=["S老师","高老师","电烤🐔架"]
sh["age"]={18}
sh["job"]={"tutu":"大学生","xueer":"医生"}
#关闭文件,刷到磁盘中
sh.close()
|
执行完之后,本地会多出一个 shelve.db 文件,下面来读取它。
| importshelve
sh=shelve.open("shelve")
print(sh["name"])
print(sh["name"][2]=="电烤🐔架")
"""
['S老师','高老师','电烤🐔架']
True
"""
print(sh["age"])
"""
{18}
"""
print(sh["job"])
"""
{'tutu':'大学生','xueer':'医生'}
"""
sh.close()
|
读取出来的就是原始的对象,我们可以直接操作它。
然后自定义类的实例对象也是可以的。
| importshelve
classPeople:
def__init__(self,name,age):
self.name=name
self.age=age
@property
defprint_info(self):
returnf"nameis{self.name},ageis{self.age}"
sh=shelve.open("shelve")
p=People("群主",58)
#将类、和该类的实例对象存储进去
sh["People"]=People
sh["p"]=p
sh.close()
|
执行完之后,我们打开它。
| importshelve
sh=shelve.open("shelve")
#需要注意的是,People是我们自己定义的类
#如果你想要将其还原出来,那么该类必须要出现在当前的命名空间中
try:
sh["People"]
exceptAttributeErrorase:
print(e)
"""
Can'tgetattribute'People'on<module...>
"""
classPeople:
def__init__(self,name,age):
self.name=name
self.age=age
@property
defprint_info(self):
returnf"nameis{self.name},ageis{self.age}"
print(sh["People"]isPeople)
"""
True
"""
print(sh["p"].print_info)
"""
nameis群主,ageis58
"""
print(sh["People"]("群主",38).print_info)
"""
nameis群主,ageis38
"""
|
这就是 shelve 模块,非常强大,当然它底层也是基于 pickle 实现的。如果你不需要存储复杂的 Python 对象,只需要存储字符串的话,那么还是推荐 dbm。
然后在使用 shelve 的时候,需要注意里面的一个坑。
| importshelve
#打开文件,设置键值对
sh=shelve.open("shelve")
sh["name"]="古明地觉"
sh["score"]=[80,80,80]
sh.close()
#重新打开文件,修改键值对
sh=shelve.open("shelve")
sh["name"]="芙兰朵露"
sh["score"].append(90)
sh.close()
#再次重新打开文件,查看键值对
sh=shelve.open("shelve")
print(sh["name"])
print(sh["score"])
"""
芙兰朵露
[80,80,80]
"""
sh.close()
|
第一次打开文件创建两个键值对,第二次打开文件将键值对修改,第三次打开文件查看键值对。但是我们发现 sh[“name”] 变了,而 sh[“score”] 却没变,这是什么原因?
当我们修改 name时,采用的是直接赋值的方式,会将原本内存里的值给替换掉。而修改 score 时,是在原有值的基础上做 append 操作,它的内存地址并没有变。
所以可变对象在本地进行修改,shelve 默认是不会记录的,除非创建新的对象,并把原有的对象给替换掉。所以 sh[“score”].append(90) 之后,sh[“score”] 仍是 [80, 80, 80],而不是 [80, 80, 80, 90]。
因为 shelve 没有记录对象自身的修改,如果想得到期望的结果,一种方法是把对象整体换掉。也就是让 sh[“score”] = [80, 80, 80, 90],这样等于是创建了一个新的对象并重新赋值,是可行的。
或者你在打开文件的时候,多指定一个参数 writeback。
| importshelve
#打开文件,设置键值对
sh=shelve.open("shelve")
sh["name"]="古明地觉"
sh["score"]=[80,80,80]
sh.close()
#重新打开文件,修改键值对
sh=shelve.open("shelve",writeback=True)
sh["name"]="芙兰朵露"
sh["score"].append(90)
sh.close()
#再次重新打开文件,查看键值对
sh=shelve.open("shelve")
print(sh["name"])
print(sh["score"])
"""
芙兰朵露
[80,80,80,90]
"""
sh.close()
|
可以看到都发生改变了,但这个参数会导致额外的内存消耗。当指定 writeback=True 的时候,shelve 会将读取的对象都放到一个内存缓存当中。比如我们操作了 20 个持久化的对象,但只修改了一个,剩余的 19 个只是查看并没有做修改,但当 sh.close() 的时候,会将这 20 个对象都写回去。
因为 shelve 不知道你会对哪个对象做修改,所以不管你是查看还是修改,都会放到缓存当中,然后再一次性都写回去。这样就会造成两点影响:
shelve 会把我们使用的对象放到内存的另一片空间中,等于是额外拷贝了一份。 虽然操作了 N 个对象,但只修改了 1 个,而 shelve 会把 N 个对象都重新写回去,从而造成性能上的问题,导致效率降低。
因此加不加这个参数,由具体情况决定。
综上所述,Python 算是自带了小型数据库,看看能不能在合适的场景中把它用上。