XzFileLoader¶
- class torchdata.datapipes.iter.XzFileLoader(datapipe: Iterable[Tuple[str, BufferedIOBase]], length: int = - 1)¶
从包含路径名称和 xy 二进制流的元组的可迭代 DataPipe 中解压缩 xz (lzma) 二进制流,并生成路径名称和提取的二进制流的元组(功能名称:
load_from_xz
)。- 参数:
datapipe – 提供路径名称和 xy 二进制流的元组的可迭代 DataPipe
length – DataPipe 的标称长度
注意
如果附加了默认的
DecoderDataPipe
,则将自动关闭打开的文件句柄。否则,用户应负责显式关闭文件句柄或让 Python 的 GC 定期关闭它们。示例
>>> from torchdata.datapipes.iter import FileLister, FileOpener >>> datapipe1 = FileLister(".", "*.xz") >>> datapipe2 = FileOpener(datapipe1, mode="b") >>> xz_loader_dp = datapipe2.load_from_xz() >>> for _, stream in xz_loader_dp: >>> print(stream.read()) b'0123456789abcdef'