Google Cloud расширила Confidential Computing для приватных ИИ-нагрузок

Google Cloud объявила о расширении Confidential Computing для задач ИИ: в предварительном режиме доступны Confidential VM и Confidential GKE Nodes на G4 с GPU NVIDIA RTX PRO 6000 Blackwell, а Prompt Encryption SDK опубликован как open source. Обновления нацелены на инференс, fine-tuning и совместную обработку чувствительных данных с аппаратной изоляцией, шифрованием и удалённой аттестацией.

Google Cloud представила набор обновлений Confidential Computing для ИИ-нагрузок. Речь идёт о защите данных «в использовании» в доверенных средах исполнения (Trusted Execution Environments, TEE), где среда запуска может быть криптографически проверена перед обработкой чувствительных данных.

Главное инфраструктурное изменение — Confidential VMs и Confidential GKE Nodes на ускоренной серии G4 стали доступны в preview. Эти конфигурации используют процессоры AMD EPYC Turin с AMD SEV и GPU NVIDIA RTX PRO 6000 Blackwell Server Edition; Google заявляет защиту данных внутри TEE и шифрование передачи данных между CPU и GPU. Confidential G4 доступна во всех регионах Google Cloud, где доступна стандартная G4, включая модели On Demand, Reservations, DWS Flex Start и Spot/Preemptible.

Для разработчиков Google выпустила Prompt Encryption SDK. Клиентская и серверная части SDK устанавливают аттестованный TLS-сеанс с сервером инференса, запущенным в TEE, чтобы промпты и ответы оставались зашифрованными от приложения клиента до проверенной среды исполнения и обратно.

В пакет обновлений также вошли несколько изменений для базовой облачной инфраструктуры. Confidential VMs на серии C4 с Intel Trusted Domain Extensions (Intel TDX) должны перейти в preview; Live Migration для Confidential VMs на C3D стала общедоступной; в Confidential Space добавлена общедоступная интеграция с Intel Trust Authority как независимым сервисом проверки аттестации, а поддержка GPU NVIDIA H100 для защищённых многосторонних ИИ- и ML-нагрузок также получила статус GA.

Google отдельно связывает эти возможности с размещением Apple Private Cloud Compute (PCC) на Google Cloud. Для PCC компания указывает сочетание Confidential Computing, Intel TDX, NVIDIA Confidential Computing на Blackwell GPU, собственной архитектуры Titanium с чипом Titan и открытого host stack для проверяемой прозрачности.