使用 A3 High 或 A3 Mega 建立 AI 最佳化執行個體

本文說明如何建立獨立虛擬機器 (VM) 執行個體，並使用 A3 High 或 A3 Mega 加速器最佳化機型。如要進一步瞭解機器類型，請參閱 Compute Engine 說明文件中的「A3 High」和「A3 Mega」。

如要瞭解其他建立 VM 或叢集的方式，請參閱「總覽」頁面。

事前準備

建立 VM 前，請先完成下列步驟 (如尚未完成)：

  1. 選擇計費方案：您選擇的計費方案會決定取得及使用 GPU 資源的方式。詳情請參閱「選擇消耗量選項」。
  2. 取得容量：取得容量的程序會因消費選項而異。如要瞭解如何為所選用量方案取得容量，請參閱「容量總覽」。

選取這個頁面上您打算如何使用範例的分頁：

控制台

使用 Google Cloud 控制台存取 Google Cloud 服務和 API 時，無須設定驗證。

gcloud

安裝 Google Cloud CLI，然後 使用聯合身分登入 gcloud CLI。登入後，執行下列指令來初始化 Google Cloud CLI：

gcloud init

REST

如要在本機開發環境中使用本頁的 REST API 範例，請使用您提供給 gcloud CLI 的憑證。

    安裝 Google Cloud CLI，然後 使用聯合身分登入 gcloud CLI。

詳情請參閱 Google Cloud 驗證說明文件中的「使用 REST 進行驗證」。

必要的角色

如要取得建立 VM 的權限，請要求管理員授予您專案的 Compute 執行個體管理員 (v1) (roles/compute.instanceAdmin.v1) IAM 角色。如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和組織的存取權」。

這個預先定義的角色具備建立 VM 所需的權限。如要查看確切的必要權限，請展開「Required permissions」(必要權限) 部分：

所需權限

如要建立 VM，您必須具備下列權限：

  • compute.instances.create 專案
  • 如要使用自訂映像檔建立 VM： compute.images.useReadOnly 在映像檔上
  • 如要使用快照建立 VM： compute.snapshots.useReadOnly 在快照上
  • 如要使用執行個體範本建立 VM，請按照下列步驟操作： compute.instanceTemplates.useReadOnly 在執行個體範本上
  • 如要為 VM 指定子網路： compute.subnetworks.use 專案或所選子網路的
  • 如要為 VM 指定靜態 IP 位址： compute.addresses.use 專案的權限
  • 使用虛擬私有雲網路時，如要將外部 IP 位址指派給 VM： compute.subnetworks.useExternalIp 專案或所選子網路的權限
  • 如要將舊版網路指派給 VM，請按照下列步驟操作： compute.networks.use 專案的
  • 使用舊版網路時，如要將外部 IP 位址指派給 VM，請在專案中設定 compute.networks.useExternalIp。
  • 如要為 VM 設定 VM 執行個體中繼資料，請按照下列步驟操作： compute.instances.setMetadata 在專案中
  • 如要為 VM 設定標記，請按照下列步驟操作： compute.instances.setTags 在 VM 上
  • 如要為 VM 設定標籤，請按照下列步驟操作： compute.instances.setLabels 在 VM 上
  • 如要設定 VM 使用的服務帳戶，請在 VM 上執行下列操作： compute.instances.setServiceAccount 在 VM 上
  • 為 VM 建立新磁碟： compute.disks.create 專案的
  • 如要以唯讀或讀寫模式附加現有磁碟： compute.disks.use 磁碟
  • 如要以唯讀模式連接現有磁碟： compute.disks.useReadOnly 磁碟

您或許還可透過自訂角色或其他預先定義的角色取得這些權限。

總覽

使用 a3h 或 a3m 機器類型建立執行個體的步驟如下：

  1. 建立虛擬私有雲網路
  2. 選用： 建立密集配置政策
  3. 建立執行個體

建立虛擬私有雲網路

如要為 GPU VM 啟用有效率的通訊功能，您需要建立管理網路和一或多個資料網路。管理網路用於外部存取 (例如 SSH) 和大多數一般網路通訊。資料網路用於不同 VM 上的 GPU 之間的高效能通訊，例如遠端直接記憶體存取 (RDMA) 流量。

對於這些虛擬私有雲網路，建議您將最大傳輸單元 (MTU) 設為較大的值。MTU 值越高，封包大小就越大，封包標頭的負擔也越小，因此有效負載資料的總處理量會增加。如要進一步瞭解如何建立虛擬私有雲網路，請參閱「建立及驗證巨型封包 MTU 網路」。

建立管理網路、子網路和防火牆規則

請按照下列步驟設定管理網路：

  1. 使用 networks create 指令建立管理網路：

    gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

  2. 使用 networks subnets create 指令建立管理子網路：

    gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --region=REGION \
    --range=192.168.0.0/24

  3. 使用 firewall-rules create 指令建立防火牆規則。

    1. 為管理網路建立防火牆規則。

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16

    2. 建立 tcp:22 防火牆規則，限制哪些來源 IP 位址可透過 SSH 連線至 VM。

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:22 \
    --source-ranges=SSH_SOURCE_IP_RANGE

    3. 建立 icmp 防火牆規則，可用於檢查網路中的資料傳輸問題。

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=icmp \
    --source-ranges=0.0.0.0/0

更改下列內容：

  • NETWORK_NAME_PREFIX：用於虛擬私有雲網路和子網路的名稱前置字串。
  • PROJECT_ID：您的專案 ID。
  • REGION：要建立網路的區域。
  • SSH_SOURCE_IP_RANGE：CIDR 格式的 IP 範圍。這會指定哪些來源 IP 位址可使用 SSH 連線至 VM。

建立資料網路、子網路和防火牆規則

資料網路數量取決於您建立的 GPU 機型類型。

A3 Mega

A3 Mega 需要八個資料網路。如要建立八個資料網路，每個網路都有子網路和防火牆規則，請使用下列指令。

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 High

A3 High 需要四個資料網路。使用下列指令建立四個資料網路，每個網路都有子網路和防火牆規則。

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

選用：建立密集配置政策

您可以建立密集配置政策來指定 VM 配置。將密集配置政策套用至 VM 時，Compute Engine 會盡力建立彼此距離最近的 VM。如果您的應用程式對延遲時間很敏感，且需要盡可能精簡，請在建立精簡版刊登位置政策時，指定 maxDistance 欄位 (預覽版)。maxDistance 值越低，VM 彼此會越靠近，但也會增加無法建立部分 VM 的可能性。

如要建立精簡配置政策，請選取下列任一選項：

gcloud

如要建立精簡的放置位置政策，請使用 gcloud beta compute resource-policies create group-placement 指令：

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

更改下列內容：

  • POLICY_NAME：密集配置政策的名稱。
  • MAX_DISTANCE：VM 的最大距離設定。值必須為 3，才能將 VM 放置在相鄰區塊中；值必須為 2，才能將 VM 放置在相同區塊中。如要瞭解每個maxDistance機器系列支援的 VM 數量上限，請參閱 Compute Engine 說明文件中的「關於密集配置政策」。
  • REGION：要建立密集配置政策的區域。指定您要使用的機器類型可用的區域。如要瞭解地區，請參閱「各區域和可用區的 GPU 供應情形」。

REST

如要建立密集配置政策，請對 beta resourcePolicies.insert 方法發出 POST 要求。在要求主體中，加入設為 COLLOCATED 的 collocation 欄位，以及 maxDistance 欄位。

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

更改下列內容：

  • PROJECT_ID：您的專案 ID。
  • POLICY_NAME：密集配置政策的名稱。
  • MAX_DISTANCE：VM 的最大距離設定。值必須為 3，才能將 VM 放置在相鄰區塊中；值必須為 2，才能將 VM 放置在相同區塊中。如要瞭解每個maxDistance機器系列支援的 VM 數量上限，請參閱 Compute Engine 說明文件中的「關於密集配置政策」。
  • REGION：要建立密集配置政策的區域。指定您要使用的機器類型可用的區域。如要瞭解地區，請參閱「各區域和可用區的 GPU 供應情形」。

建立 A3 High 或 A3 Mega

如要建立 A3 High 或 A3 Mega VM，請使用下列其中一種方法。如果您選擇使用緊密放置政策，則必須使用 Google Cloud CLI 或 REST 建立 VM。

下列指令也會設定執行個體的存取範圍。為簡化權限管理，Google 建議您將執行個體的存取權範圍設為 cloud-platform 存取權，然後使用 IAM 角色定義執行個體可存取的服務。詳情請參閱「範圍最佳做法」。

控制台

  1. 前往 Google Cloud 控制台的「Create an instance」(建立執行個體) 頁面。

    前往「建立執行個體」

  2. 指定 VM 的「Name」(名稱)。請參閱「資源命名慣例」。

  3. 選取要預留容量的「Region」(區域) 和「Zone」(可用區)。請參閱提供 GPU 的區域和可用區清單。

  4. 按一下「GPU」分頁標籤，然後完成下列步驟：

    1. 在「GPU type」(GPU 類型) 清單中，選取 GPU 類型。
      • 如果是 A3 High VM，請選取 NVIDIA H100 80GB
      • 如果是 A3 Mega VM，請選取 NVIDIA H100 MEGA 80GB
    2. 在「Number of GPUs」(GPU 數量) 清單中選取「8」。

  5. 請根據要使用的佈建模式完成下列步驟。

    彈性啟動

    1. 在「佈建模型」部分，從「VM 佈建模型」清單中選取「彈性啟動」。

    2. 在「Enter number of hours」(輸入時數) 欄位中，輸入 VM 的執行時間上限。這個值必須介於 46 秒 (0.01) 和七天 (168，或 168 小時) 之間。

    3. 選取「設定建立 VM 的等待時間」。

      根據工作負載的區域需求，指定下列其中一個時間長度，有助於提高 VM 建立要求成功的機率：

      • 有嚴格區域需求的工作負載：如果工作負載要求您在特定區域中建立 VM，請指定 90 秒到 2 小時之間的時間長度。 時間越長，獲得資源的機率就越高。
      • 沒有嚴格區域限制的工作負載：如果 VM 可以在區域內的任何區域執行，請指定 0 秒的持續時間，或取消勾選「設定 VM 建立等待時間」核取方塊。這項動作會指定 Compute Engine 僅在資源可立即使用時才分配資源。如果資源無法使用，導致 VM 建立要求失敗，請在不同可用區重試要求。

    4. 在「On VM termination」(在 VM 終止時) 欄位中，選取在 VM 執行時間結束時要停止還是刪除 VM：

      • 如要刪除 VM，請選取「刪除」。
      • 如要停止 VM，請選取「停止」。

    取決於預留項目

    1. 在「佈建模型」部分，從「VM 佈建模型」清單中選取「與預訂項目綁定」。

    2. 在導覽選單中，按一下「進階」。然後在「Reservations」(預留項目) 部分，按一下「Choose a reservation」(選取預留項目)。畫面上會隨即開啟窗格，列出所選區域內可用的預訂項目。在預訂清單中，完成下列步驟：

      1. 選取要用於 VM 的預訂項目。您也可以選取預訂中的特定時段。
      2. 按一下「選擇」。

    Spot

    1. 在「佈建模型」部分，從「VM 佈建模型」清單中選取「Spot」。

    2. 選用：如要選取 Compute Engine 搶占 VM 時執行的終止動作，請完成下列步驟：

      1. 展開「VM 佈建模式進階設定」部分。
      2. 在「On VM termination」(在 VM 終止時) 清單中，選取下列其中一個選項：
        • 如要在先占期間停止 VM，請選取「停止」 (預設)。
        • 如要在 VM 遭到先占時刪除，請選取「刪除」。

  6. 在導覽選單中，按一下「OS and storage」(OS 和儲存空間)，然後完成下列步驟：

    1. 按一下「變更」。 「開機磁碟設定」窗格隨即開啟。
    2. 在「Public images」(公開映像檔) 分頁中，選取建議的映像檔。如需建議的映像檔清單，請參閱「作業系統」。
    3. 如要確認開機磁碟選項，請按一下「Select」(選取)。

  7. 請按照下列方式設定服務帳戶和存取權範圍。執行個體上執行的工作負載會使用附加的服務帳戶，授權對其他 Google Cloud 服務的要求。

    1. 按一下導覽選單中的「Security」(安全性)。
    2. 在「Service account」(服務帳戶) 清單中，選取要使用的服務帳戶。
    3. 在「存取權範圍」部分，選取「允許所有 Cloud API 的完整存取權」選項。建議您採用這項最佳做法，因為您可以透過新增或移除服務帳戶的身分與存取權管理角色，管理存取權。詳情請參閱將服務帳戶附加至執行個體。

  8. 如要建立多重 NIC VM，請完成下列步驟。如要建立單一 NIC VM，請略過這些步驟。

    1. 在導覽選單中，按一下「網路」。

    2. 在「Network interfaces」(網路介面) 專區中，完成下列步驟：

      1. 刪除預設網路介面。如要刪除介面，請按一下 「刪除」。
      2. 按一下「新增網路介面」。使用這個選項新增網路介面，並附加至您在前一節中建立的虛擬私有雲網路。新增網路介面時，請注意下列事項：
        • 如要用於主機對主機通訊的網路介面，請從「網路」和「子網路」清單中選取一般虛擬私有雲網路和子網路，並將「網路介面卡」清單設為「gVNIC」。
        • 如要使用 GPUDirect-TCPXO (A3 Mega) 或 GPUDirect-TCPX (A3 High) 進行 GPU 對 GPU 通訊的網路介面，請為每個介面選取對應的專業化 VPC 網路和子網路，並將這些網路介面的「網路介面卡」清單設為「gVNIC」。

  9. 如要建立並啟動 VM，請按一下 [Create] (建立)。

gcloud

如要建立 A3 High 或 A3 Mega VM，請使用 gcloud compute instances create 指令。

A3 Mega

如要建立 VM，請使用 gcloud compute instances create 指令。

您需要指定的參數取決於此部署作業使用的消耗選項。選取與用量選項的佈建模式對應的分頁。

彈性啟動

執行指令前，您可以選擇新增精簡刊登位置政策的旗標。

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=none \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

操作步驟如下：

  1. 更改下列內容：

    • INSTANCE_NAME：VM 的名稱。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 Mega 系列機器，我們強烈建議您使用 cos-121-lts 以上的 Container-Optimized OS 映像檔，並停用自動更新，或是使用 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，您可以為 cos-121-lts 以上的 Container-Optimized OS 映像檔使用 cos-cloud，或是為 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔使用 rocky-linux-accelerator-cloud。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，請使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。

    • REQUEST_VALID_FOR_DURATION：建立 VM 的要求有效時間長度。您必須將值格式化為天數、時數、分鐘數或秒數，並分別加上 d、h、m 和 s。舉例來說，指定 30m 代表 30 分鐘，指定 1h2m3s 則代表 1 小時 2 分 3 秒。

      根據工作負載的區域需求，指定下列其中一個時間長度，有助於提高 VM 建立要求成功的機率：

      • 有嚴格區域需求的工作負載：如果工作負載要求您在特定區域中建立 VM，請指定 90 秒 (90s) 到兩小時 (2h) 的時間長度。時間越長，取得資源的機率就越高。
      • 沒有嚴格可用區需求的工作負載：如果 VM 可以在區域內的任何可用區執行，請指定零秒的持續時間 (0s)。這項動作會指定 Compute Engine 僅在資源可立即使用時分配資源。如果資源無法使用，導致 VM 建立要求失敗，請在其他可用區重試要求。

    • MAX_RUN_DURATION：您希望要求的 VM 執行多久。您必須將值格式化為天數、時數、分鐘數或秒數，並分別加上 d、h、m 和 s。值必須介於 10 分鐘至 7 天之間。

    • TERMINATION_ACTION：Compute Engine 是否會在 VM 執行時間結束時停止 (STOP) 或刪除 (DELETE) VM。

  2. 選用：如要使用密集配置政策，請新增下列旗標：

      --resource-policies=POLICY_NAME

    更改下列內容：

    • POLICY_NAME：密集配置政策的名稱。
  3. 執行更改後的指令。

取決於預留項目

執行指令前，您可以選擇新增精簡刊登位置政策的旗標。

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

操作步驟如下：

  1. 更改下列內容：

    • INSTANCE_NAME：VM 的名稱。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 Mega 系列機器，我們強烈建議您使用 cos-121-lts 以上的 Container-Optimized OS 映像檔，並停用自動更新，或是使用 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，您可以為 cos-121-lts 以上的 Container-Optimized OS 映像檔使用 cos-cloud，或是為 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔使用 rocky-linux-accelerator-cloud。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，請使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • RESERVATION：預留項目名稱，或預留項目中的特定區塊。如要取得預留名稱或可用區塊，請參閱「查看預留容量」。根據執行個體放置位置的需求，選擇下列其中一個選項：

      • 如要在任何區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        此外，如要在同一個區塊中建立多個執行個體，請在建立每個執行個體時，套用指定區塊並置 (maxDistance=2) 的相同精簡刊登位置政策。Compute Engine 隨後會將政策套用至預訂項目，並在同一個區塊中建立執行個體。

      • 如要在特定區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

    • TERMINATION_ACTION：Compute Engine 在預訂期間結束時，是停止 (STOP) 還是刪除 (DELETE) VM。

  2. 選用：如要使用密集配置政策，請新增下列旗標：

      --resource-policies=POLICY_NAME

    更改下列內容：

    • POLICY_NAME：密集配置政策的名稱。
  3. 執行更改後的指令。

Spot

執行指令前，您可以選擇新增精簡刊登位置政策的旗標。

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

操作步驟如下：

  1. 更改下列內容：

    • INSTANCE_NAME：VM 的名稱。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 Mega 系列機器，我們強烈建議您使用 cos-121-lts 以上的 Container-Optimized OS 映像檔，並停用自動更新，或是使用 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，您可以為 cos-121-lts 以上的 Container-Optimized OS 映像檔使用 cos-cloud，或是為 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔使用 rocky-linux-accelerator-cloud。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，請使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。

    • TERMINATION_ACTION：Compute Engine 預先終止執行個體時採取的動作，可以是 STOP (預設) 或 DELETE。

  2. 選用：如要使用密集配置政策，請新增下列旗標：

      --resource-policies=POLICY_NAME

    更改下列內容：

    • POLICY_NAME：密集配置政策的名稱。
  3. 執行更改後的指令。

A3 High

如要建立 VM，請使用 gcloud compute instances create 指令。

您需要指定的參數取決於此部署作業使用的消耗選項。選取與用量選項的佈建模式對應的分頁。

彈性啟動

執行指令前，您可以選擇新增精簡刊登位置政策的旗標。

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=none \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

操作步驟如下：

  1. 更改下列內容：

    • INSTANCE_NAME：VM 的名稱。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 High 系列機器，我們強烈建議您使用 cos-121-lts 以上版本的 Container-Optimized OS 映像檔，並停用自動更新。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，使用 cos-cloud 適用於 cos-121-lts 以上的 Container-Optimized OS 映像檔。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，請使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。

    • REQUEST_VALID_FOR_DURATION：建立 VM 的要求有效時間長度。您必須將值格式化為天數、時數、分鐘數或秒數，並分別加上 d、h、m 和 s。舉例來說，指定 30m 代表 30 分鐘，指定 1h2m3s 則代表 1 小時 2 分 3 秒。

      根據工作負載的區域需求，指定下列其中一個時間長度，有助於提高 VM 建立要求成功的機率：

      • 有嚴格區域需求的工作負載：如果工作負載要求您在特定區域中建立 VM，請指定 90 秒 (90s) 到兩小時 (2h) 的時間長度。時間越長，取得資源的機率就越高。
      • 沒有嚴格可用區需求的工作負載：如果 VM 可以在區域內的任何可用區執行，請指定零秒的持續時間 (0s)。這項動作會指定 Compute Engine 僅在資源可立即使用時分配資源。如果資源無法使用，導致 VM 建立要求失敗，請在其他可用區重試要求。

    • MAX_RUN_DURATION：您希望要求的 VM 執行多久。您必須將值格式化為天數、時數、分鐘數或秒數，並分別加上 d、h、m 和 s。值必須介於 10 分鐘至 7 天之間。

    • TERMINATION_ACTION：Compute Engine 是否會在 VM 執行時間結束時停止 (STOP) 或刪除 (DELETE) VM。

  2. 選用：如要使用密集配置政策，請新增下列旗標：

      --resource-policies=POLICY_NAME

    更改下列內容：

    • POLICY_NAME：密集配置政策的名稱。
  3. 執行更改後的指令。

取決於預留項目

執行指令前，您可以選擇新增精簡刊登位置政策的旗標。

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

操作步驟如下：

  1. 更改下列內容：

    • INSTANCE_NAME：VM 的名稱。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 High 系列機器，我們強烈建議您使用 cos-121-lts 以上版本的 Container-Optimized OS 映像檔，並停用自動更新。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，使用 cos-cloud 適用於 cos-121-lts 以上的 Container-Optimized OS 映像檔。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，請使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • RESERVATION：預留項目名稱，或是預留項目中的特定區塊。如要取得預留名稱或可用區塊，請參閱「查看預留容量」。根據執行個體放置位置的需求，選擇下列其中一個選項：

      • 如要在任何區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        此外，如要在同一個區塊中建立多個執行個體，請在建立每個執行個體時，套用指定區塊並置 (maxDistance=2) 的相同精簡刊登位置政策。Compute Engine 隨後會將政策套用至預訂項目，並在同一個區塊中建立執行個體。

      • 如要在特定區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

    • TERMINATION_ACTION：Compute Engine 在預訂期間結束時，是停止 (STOP) 還是刪除 (DELETE) VM。

  2. 選用：如要使用密集配置政策，請新增下列旗標：

      --resource-policies=POLICY_NAME

    更改下列內容：

    • POLICY_NAME：密集配置政策的名稱。
  3. 執行更改後的指令。

Spot

執行指令前，您可以選擇新增精簡刊登位置政策的旗標。

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

操作步驟如下：

  1. 更改下列內容：

    • INSTANCE_NAME：VM 的名稱。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 High 系列機器，我們強烈建議您使用 cos-121-lts 以上版本的 Container-Optimized OS 映像檔，並停用自動更新。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，使用 cos-cloud 適用於 cos-121-lts 以上的 Container-Optimized OS 映像檔。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，請使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。

    • TERMINATION_ACTION：Compute Engine 預先終止執行個體時採取的動作，可以是 STOP (預設) 或 DELETE。

  2. 選用：如要使用密集配置政策，請新增下列旗標：

      --resource-policies=POLICY_NAME

    更改下列內容：

    • POLICY_NAME：密集配置政策的名稱。
  3. 執行更改後的指令。

REST

如要建立 A3 High 或 A3 Mega VM，請向 instances.insert 方法發出 POST 要求。

A3 Mega

如要建立 VM，請對 instances.insert 方法發出 POST 要求。

您需要指定的參數取決於此部署作業使用的消耗選項。選取與用量選項的佈建模式對應的分頁。

彈性啟動

提交要求前，請視需要將精簡刊登位置政策的欄位新增至要求內文。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
  "reservationAffinity":{
    "consumeReservationType": "NO_RESERVATION",
  },
  "scheduling":{
    "provisioningModel": "FLEX_START",
    "requestValidForDuration": {
      "seconds": REQUEST_VALID_FOR_DURATION
    },
    "maxRunDuration": {
      "seconds": MAX_RUN_DURATION
    },
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
  }
}

操作步驟如下：

  1. 更改下列內容：

    • PROJECT_ID：您要在當中建立 VM 的專案 ID。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，您必須使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • INSTANCE_NAME：VM 的名稱。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，您可以為 cos-121-lts 以上的 Container-Optimized OS 映像檔使用 cos-cloud，或是為 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔使用 rocky-linux-accelerator-cloud。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 Mega 系列機器，我們強烈建議您使用 cos-121-lts 以上的 Container-Optimized OS 映像檔，並停用自動更新，或是使用 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • NETWORK_PROJECT_ID：網路的專案 ID。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • REGION：子網路的區域。

    • REQUEST_VALID_FOR_DURATION：建立 VM 的要求保持有效的時間長度 (以秒為單位)。

      根據工作負載的區域需求，指定下列其中一個時間長度，有助於提高 VM 建立要求成功的機率：

      • 有嚴格區域需求的工作負載：如果工作負載要求您在特定區域中建立 VM，請指定 90 秒 (90) 到兩小時 (7200) 的時間長度。時間越長，取得資源的機率就越高。
      • 沒有嚴格可用區需求的工作負載：如果 VM 可以在區域內的任何可用區執行，請指定零秒的持續時間 (0)。這項動作會指定 Compute Engine 僅在資源可立即使用時分配資源。如果資源無法使用，導致 VM 建立要求失敗，請在其他可用區重試要求。

    • MAX_RUN_DURATION：要求的 VM 執行時間長度。您必須將值格式化為秒數。舉例來說，如要指定 86,400 秒 (24 小時)，請輸入 86400。值必須介於 10 分鐘至 7 天之間。

    • TERMINATION_ACTION：Compute Engine 是否會在 VM 執行時間結束時停止 (STOP) 或刪除 (DELETE) VM。

  2. 選用：如果您選擇使用精簡刊登位置政策，請在要求主體中加入下列欄位：

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    更改下列內容：

    • PROJECT_ID：精簡放置政策的專案 ID。
    • REGION：密集配置政策的區域。
    • POLICY_NAME：密集配置政策的名稱。
  3. 提交要求。

取決於預留項目

提交要求前，請視需要將精簡刊登位置政策的欄位新增至要求內文。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
  "reservationAffinity":{
    "consumeReservationType": "SPECIFIC_RESERVATION",
    "key": "compute.googleapis.com/reservation-name",
    "values":[
      "RESERVATION"
    ]
  },
  "scheduling":{
    "provisioningModel": "RESERVATION_BOUND",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": true
  }
}

操作步驟如下：

  1. 更改下列內容：

    • PROJECT_ID：您要在當中建立 VM 的專案 ID。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，您必須使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • INSTANCE_NAME：VM 的名稱。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，您可以為 cos-121-lts 以上的 Container-Optimized OS 映像檔使用 cos-cloud，或是為 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔使用 rocky-linux-accelerator-cloud。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 Mega 系列機器，我們強烈建議您使用 cos-121-lts 以上的 Container-Optimized OS 映像檔，並停用自動更新，或是使用 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • NETWORK_PROJECT_ID：網路的專案 ID。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • REGION：子網路的區域。
    • RESERVATION：預留項目名稱，或預留項目中的特定區塊。如要取得預留名稱或可用區塊，請參閱「查看預留容量」。根據執行個體放置位置的需求，選擇下列其中一個選項：

      • 如要在任何區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        此外，如要在同一個區塊中建立多個執行個體，請在建立每個執行個體時，套用指定區塊並置 (maxDistance=2) 的相同精簡刊登位置政策。Compute Engine 隨後會將政策套用至預訂項目，並在同一個區塊中建立執行個體。

      • 如要在特定區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

    • TERMINATION_ACTION：Compute Engine 在預訂期間結束時，是停止 (STOP) 還是刪除 (DELETE) VM。

  2. 選用：如果您選擇使用精簡刊登位置政策，請在要求主體中加入下列欄位：

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    更改下列內容：

    • PROJECT_ID：精簡放置政策的專案 ID。
    • REGION：密集配置政策的區域。
    • POLICY_NAME：密集配置政策的名稱。
  3. 提交要求。

Spot

提交要求前，請視需要將精簡刊登位置政策的欄位新增至要求內文。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": false
  }
}

操作步驟如下：

  1. 更改下列內容：

    • PROJECT_ID：您要在當中建立 VM 的專案 ID。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，您必須使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • INSTANCE_NAME：VM 的名稱。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，您可以為 cos-121-lts 以上的 Container-Optimized OS 映像檔使用 cos-cloud，或是為 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔使用 rocky-linux-accelerator-cloud。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 Mega 系列機器，我們強烈建議您使用 cos-121-lts 以上的 Container-Optimized OS 映像檔，並停用自動更新，或是使用 rocky-linux-8-optimized-gcp-nvidia-580 Rocky Linux 映像檔。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • NETWORK_PROJECT_ID：網路的專案 ID。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • REGION：子網路的區域。

    • TERMINATION_ACTION：Compute Engine 預先終止執行個體時採取的動作，可以是 STOP (預設) 或 DELETE。

  2. 選用：如果您選擇使用精簡刊登位置政策，請在要求主體中加入下列欄位：

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    更改下列內容：

    • PROJECT_ID：精簡放置政策的專案 ID。
    • REGION：密集配置政策的區域。
    • POLICY_NAME：密集配置政策的名稱。
  3. 提交要求。

A3 High

如要建立 VM，請對 instances.insert 方法發出 POST 要求。

您需要指定的參數取決於用於這項部署作業的消耗選項。選取與用量選項的佈建模式對應的分頁。

彈性啟動

提交要求前，請視需要將精簡刊登位置政策的欄位新增至要求內文。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
  "reservationAffinity":{
    "consumeReservationType": "NO_RESERVATION",
  },
  "scheduling":{
    "provisioningModel": "FLEX_START",
    "requestValidForDuration": {
      "seconds": REQUEST_VALID_FOR_DURATION
    },
    "maxRunDuration": {
      "seconds": MAX_RUN_DURATION
    },
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
  }
}

操作步驟如下：

  1. 更改下列內容：

    • PROJECT_ID：您要在當中建立 VM 的專案 ID。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，您必須使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • INSTANCE_NAME：VM 的名稱。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，使用 cos-cloud 適用於 cos-121-lts 以上的 Container-Optimized OS 映像檔。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 High 系列機器，我們強烈建議您使用 cos-121-lts 以上版本的 Container-Optimized OS 映像檔，並停用自動更新。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • NETWORK_PROJECT_ID：網路的專案 ID。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • REGION：子網路的區域。

    • REQUEST_VALID_FOR_DURATION：建立 VM 的要求保持有效的時間長度 (以秒為單位)。

      根據工作負載的區域需求，指定下列其中一個時間長度，有助於提高 VM 建立要求成功的機率：

      • 有嚴格區域需求的工作負載：如果工作負載要求您在特定區域中建立 VM，請指定 90 秒 (90) 到兩小時 (7200) 的時間長度。時間越長，取得資源的機率就越高。
      • 沒有嚴格可用區需求的工作負載：如果 VM 可以在區域內的任何可用區執行，請指定零秒的持續時間 (0)。這項動作會指定 Compute Engine 僅在資源可立即使用時分配資源。如果資源無法使用，導致 VM 建立要求失敗，請在其他可用區重試要求。

    • MAX_RUN_DURATION：要求的 VM 執行時間長度。您必須將值格式化為秒數。舉例來說，如要指定 86,400 秒 (24 小時)，請輸入 86400。值必須介於 10 分鐘至 7 天之間。

    • TERMINATION_ACTION：Compute Engine 是否會在 VM 執行時間結束時停止 (STOP) 或刪除 (DELETE) VM。

  2. 選用：如果您選擇使用精簡刊登位置政策，請在要求主體中加入下列欄位：

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    更改下列內容：

    • PROJECT_ID：精簡放置政策的專案 ID。
    • REGION：密集配置政策的區域。
    • POLICY_NAME：密集配置政策的名稱。
  3. 提交要求。

取決於預留項目

提交要求前，請視需要將精簡刊登位置政策的欄位新增至要求內文。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
  "reservationAffinity":{
    "consumeReservationType": "SPECIFIC_RESERVATION",
    "key": "compute.googleapis.com/reservation-name",
    "values":[
      "RESERVATION"
    ]
  },
  "scheduling":{
    "provisioningModel": "RESERVATION_BOUND",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": true
  }
}

操作步驟如下：

  1. 更改下列內容：

    • PROJECT_ID：您要在當中建立 VM 的專案 ID。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，您必須使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • INSTANCE_NAME：VM 的名稱。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，使用 cos-cloud 適用於 cos-121-lts 以上的 Container-Optimized OS 映像檔。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 High 系列機器，我們強烈建議您使用 cos-121-lts 以上版本的 Container-Optimized OS 映像檔，並停用自動更新。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • NETWORK_PROJECT_ID：網路的專案 ID。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • REGION：子網路的區域。
    • RESERVATION：預留項目名稱，或預留項目中的特定區塊。如要取得預留名稱或可用區塊，請參閱「查看預留容量」。根據執行個體放置位置的需求，選擇下列其中一個選項：

      • 如要在任何區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        此外，如要在同一個區塊中建立多個執行個體，請在建立每個執行個體時，套用指定區塊並置 (maxDistance=2) 的相同精簡刊登位置政策。Compute Engine 隨後會將政策套用至預訂項目，並在同一個區塊中建立執行個體。

      • 如要在特定區塊建立執行個體，請按照下列步驟操作：

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

    • TERMINATION_ACTION：Compute Engine 在預訂期間結束時，是停止 (STOP) 還是刪除 (DELETE) VM。

  2. 選用：如果您選擇使用精簡刊登位置政策，請在要求主體中加入下列欄位：

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    更改下列內容：

    • PROJECT_ID：精簡放置政策的專案 ID。
    • REGION：密集配置政策的區域。
    • POLICY_NAME：密集配置政策的名稱。
  3. 提交要求。

Spot

提交要求前，請視需要將精簡刊登位置政策的欄位新增至要求內文。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": false
  }
}

操作步驟如下：

  1. 更改下列內容：

    • PROJECT_ID：您要在當中建立 VM 的專案 ID。
    • ZONE：您要使用的機器類型所在的可用區。如要指定密集配置政策，您必須使用與密集配置政策位於相同區域的可用區。 如需區域相關資訊，請參閱「各區域和可用區的 GPU 供應情形」。
    • MACHINE_TYPE：VM 要使用的機器類型。詳情請參閱「GPU 機器類型」。
    • INSTANCE_NAME：VM 的名稱。
    • DISK_SIZE：開機磁碟的大小，單位為 GB。
    • DISK_TYPE：開機磁碟類型。建議您使用 hyperdisk-balanced。
    • IMAGE_PROJECT：OS 映像檔的專案 ID。 舉例來說，使用 cos-cloud 適用於 cos-121-lts 以上的 Container-Optimized OS 映像檔。
    • IMAGE_FAMILY：您要使用的 OS 映像檔映像檔系列。 對於 A3 High 系列機器，我們強烈建議您使用 cos-121-lts 以上版本的 Container-Optimized OS 映像檔，並停用自動更新。 如需支援的作業系統清單，請參閱「作業系統詳細資料」。
    • NETWORK_PROJECT_ID：網路的專案 ID。
    • GVNIC_NAME_PREFIX：建立使用 gVNIC 的標準 VPC 網路和子網路時指定的名稱前置字元。
    • REGION：子網路的區域。

    • TERMINATION_ACTION：Compute Engine 預先終止執行個體時採取的動作，可以是 STOP (預設) 或 DELETE。

  2. 選用：如果您選擇使用精簡刊登位置政策，請在要求主體中加入下列欄位：

      "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]

    更改下列內容：

    • PROJECT_ID：精簡放置政策的專案 ID。
    • REGION：密集配置政策的區域。
    • POLICY_NAME：密集配置政策的名稱。
  3. 提交要求。

後續步驟