2024年4月10日发(作者：)

.cuda()用法

.cuda()是PyTorch中的一个方法，用于将Tensor（张量）放到GPU中进行计算，是

PyTorch进行深度学习时的重要方法之一。本文将着重介绍.cuda()的用法和相关注意点。

在PyTorch中，我们可以使用.cuda()方法将Tensor转移到GPU中，如下所示：

```

import torch

# 定义两个Tensor

x = (3, 3)

y = (3, 3)

# 将x和y放在GPU上

x = ()

y = ()

# 在GPU上进行计算

z = x + y

```

在这个例子中，我们首先定义了两个Tensor x和y，然后将它们放在GPU上进行计算，

得到一个新的Tensor z。注意，当我们调用.cuda()时，原有的Tensor将被删除，因此我

们需要将结果赋给一个新的Tensor。

```python

# 将原有的Tensor x移动到GPU上

()

# 无法通过下面的语句获取之前的Tensor x

x = ([1, 2, 3])

```

当我们没有指定CUDA设备时，PyTorch使用默认的设备。如果我们有多个GPU可用，

我们可以指定特定的设备，如下所示：

# 指定第二个GPU

device = ("cuda:1")

如果我们想将Tensor从GPU移回CPU，可以执行以下操作：

2.注意事项

- 当使用GPU时，我们需要确保显存不会超限。在使用PyTorch进行深度学习时，通

常需要处理大型Tensor，因此显存管理可能是个问题。我们可以使用

`_cache()`方法释放显存，避免出现错误。

# 计算结果并释放显存

y = x + x

_cache()

```

- 我们可以使用`.type()`方法将Tensor转换为其他类型。然而，当Tensor存储在

GPU上时，这种类型转换并没有直接转移Tensor的地方，因此我们需要使用.cpu()方法将

Tensor移回CPU，然后再次使用.cuda()将其放回GPU。

# 将其转换为IntTensor

x = (sor)

# 使用.cpu()将Tensor移回CPU

x = ()

在这个例子中，我们首先定义了一个CPU上的FloatTensor，然后将它放在GPU上，最

后将它转换为IntTensor。然而，我们无法将IntTensor直接存储在GPU上，因此我们需要

将它移回CPU，然后再次将它放回GPU。