GdsFile

class torch.cuda.gds.GdsFile(filename, flags)

cuFile 的包装器。

cuFile 是 GPUDirect Storage (GDS) API 的文件类接口。

有关更多详细信息，请参阅 cufile 文档。

参数

• filename (str) – 要打开的文件名。

• flags (int) – 打开文件时传递给 os.open 的标志。os.O_DIRECT 将自动添加。

示例

>>> src1 = torch.randn(1024, device="cuda")
>>> src2 = torch.randn(2, 1024, device="cuda")
>>> file = torch.cuda.gds.GdsFile(f, os.O_CREAT | os.O_RDWR)
>>> file.save_storage(src1.untyped_storage(), offset=0)
>>> file.save_storage(src2.untyped_storage(), offset=src1.nbytes)
>>> dest1 = torch.empty(1024, device="cuda")
>>> dest2 = torch.empty(2, 1024, device="cuda")
>>> file.load_storage(dest1.untyped_storage(), offset=0)
>>> file.load_storage(dest2.untyped_storage(), offset=src1.nbytes)
>>> torch.equal(src1, dest1)
True
>>> torch.equal(src2, dest2)
True

deregister_handle()

从 cuFile 驱动程序注销文件描述符。

这是 cuFileHandleDeregister 的包装器。

load_storage(storage, offset=0)

将数据从文件加载到 storage 中。

这是 cuFileRead 的包装器。文件中的 storage.nbytes() 字节数据将从 offset 处加载到 storage 中。

参数

• storage (Storage) – 要加载数据的 storage。

• offset (int, optional) – 文件中开始加载的偏移量。(默认值: 0)

register_handle()

向 cuFile 驱动程序注册文件描述符。

这是 cuFileHandleRegister 的包装器。

save_storage(storage, offset=0)

将数据从 storage 保存到文件中。

这是 cuFileWrite 的包装器。storage 中的所有字节都将写入文件中 offset 处。

参数

• storage (Storage) – 要从中保存数据的 storage。

• offset (int, optional) – 文件中开始保存的偏移量。(默认值: 0)