Hier ist ein vollständiges Beispiel für die Verwendung von Pyarrow für die Serialisierung eines Pandas-Datenrahmens zum Speichern in Redis
apt-get install python3 python3-pip redis-server
pip3 install pandas pyarrow redis
und dann in Python
import pandas as pd
import pyarrow as pa
import redis
df=pd.DataFrame({'A':[1,2,3]})
r = redis.Redis(host='localhost', port=6379, db=0)
context = pa.default_serialization_context()
r.set("key", context.serialize(df).to_buffer().to_pybytes())
context.deserialize(r.get("key"))
A
0 1
1 2
2 3
Ich habe gerade PR 28494 an Pandas gesendet, um dieses Pyarrow-Beispiel in die Dokumentation aufzunehmen.
Referenzdokumente:
- https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.to_msgpack.html
- https://arrow.apache.org/docs/python/ipc.html#arbitrary-object-serialization
- https://arrow.apache.org/docs/python/memory.html#pyarrow-buffer
- https://stackoverflow.com/a/37957490/4126114
