---
title: "PyTorch 2.15, tek arızalı GPU sorununa yeni NCCL backend ile çözüm arıyor"
description: "PyTorch 2.15, NCCL backend'ini baştan yazdı. Process group başına tek communicator, straggler GPU'yu çıkarma ve flight recorder geliyor."
url: "https://sezer.in/haberler/pytorch-2-15-nccl-backend/"
date: "2026-11-07T10:46:05+03:00"
updated: "2026-11-07T10:46:05+03:00"
author: "Sezer Şanlıkan"
lang: "tr"
source: "https://sezer.in/haberler/pytorch-2-15-nccl-backend/"
---

# PyTorch 2.15, tek arızalı GPU sorununa yeni NCCL backend ile çözüm arıyor

PyTorch 2.15, Nvidia'nın NCCL (Nvidia Collective Communications Library) kütüphanesi için baştan yazılmış bir backend ile yayımlandı. Yeni ProcessGroupNCCL, process group başına tek communicator kuralı getiriyor, çöken veya yavaşlayan GPU'nun job'dan çıkarılmasını kolaylaştırıyor ve hata sonrası incelenebilen bir flight recorder ekliyor. Eski backend 2.15'te rollback seçeneği olarak duruyor; 2.16 sürümünde kaldırılması planlanıyor.

## Kısaca NCCL nedir

NCCL (Nvidia Collective Communications Library), Nvidia GPU'ları arasında veri taşıyan bir iletişim kütüphanesidir. All-reduce, broadcast gibi collective işlemleri tek node içinde veya node'lar arasında yürütür. PyTorch gibi framework'ler dağıtık eğitimde gradient ve ağırlık paylaşımı için onu backend olarak kullanır. AMD tarafındaki karşılığı RCCL'dir.

## PyTorch nedir ve nerede kullanılır?

PyTorch, Python tabanlı açık kaynak bir makine öğrenmesi framework'üdür. Tensor hesaplama ve sinir ağı eğitimi için kullanılır; CPU ve GPU üzerinde çalışır. Araştırma ekiplerinden production LLM eğitimine kadar geniş bir kullanıcı kitlesi var. Bilinen alternatifleri TensorFlow ve JAX'tir.

## PyTorch 2.15 ile tek GPU tüm job'u düşürmeyebilir

Çok node'lu bir training job'unda tek GPU'nun takılması çoğu zaman bütün işi durduruyordu. PyTorch 2.15'teki yeni NCCL backend'i tam bu senaryoyu hedefliyor. Çöken veya geride kalan GPU'yu üçüncü taraf bir orchestrator dışarıda bırakabiliyor, yerine yeni bir worker atayabiliyor.

Kurtarma akışı orchestrator'a bağlı. Kullandığınız scheduler'ın bu akışı yeni backend'le destekleyip desteklemediği netleşmeden checkpoint aralığınızı seyreltmeyin.

## Process group başına tek communicator

Eski ProcessGroupNCCL tek bir process group için onlarca communicator açabiliyordu. Sonucu aralıklı deadlock'lar ve öngörülemeyen performanstı. Yeni kural katı: initialization sırasında her process group yalnızca bir communicator alıyor. Paralellik gerekiyorsa daha fazla process group açmanız gerekiyor.

Davranışın değişeceği yer, aynı process group üzerinde eşzamanlı collective işlemler kurgulayan özel kodunuz. Kendi yazdığınız dağıtık eğitim kodunu ve üzerine kurduğunuz framework katmanlarını bu gözle tarayın. Paralelliği process group sayısıyla ifade eden kod yeni modele doğrudan oturur.

## Flight recorder ile deadlock sonrası iz

Eskiden timeout veya deadlock olduğunda genel bir hata mesajından fazlasını alamıyordunuz. Flight recorder işlemleri bir dizi snapshot olarak kaydediyor ve bunlar hata sonrası incelenebiliyor. Takılmanın hangi işlemde başladığını görmek için artık elinizde bir kayıt olacak.

Bu kayıt ancak saklanırsa işe yarar. Job'larınız Kubernetes üzerinde pod olarak çalışıyorsa snapshot'ların pod silindiğinde kaybolmayacağı bir volume'a yazıldığından emin olun. Etkinleştirme ve çıktı konumu ayrıntıları PyTorch 2.15 sürüm notlarında; on-call runbook'unuza bu adımı ekleyin.

## 2.16 öncesi test penceresi

Legacy backend 2.15 paketinde rollback olarak duruyor. 2.16 sürümü 2027 başı için planlanıyor ve yeni backend beklendiği gibi çalışırsa eski sürüm orada kaldırılacak. Yeni backend'i kendi iş yüklerinizde sınamak için birkaç aylık süreniz var.

Önerilen sıra:

- Staging'de küçük, çok node'lu bir job'u PyTorch 2.15 ile çalıştırın; süreyi ve hata davranışını önceki sürümle karşılaştırın.
- Deadlock veya performans farkı görürseniz legacy backend'e dönün ve sorunu upstream'e bildirin. Geçiş yöntemini sürüm notlarından alıp runbook'a yazın.
- Production'a ancak bu karşılaştırmadan sonra geçin. 2.16'da geri dönüş yolu kalmayabilir.

Node'larda hangi PyTorch ve NCCL sürümünün yüklü olduğunu hızlıca görmek için:

```
python -c "import torch; print(torch.__version__, torch.cuda.nccl.version())"
```

## Transport API, Apple ve Blackwell

Sürümde asenkron, tek yönlü veri taşıma için yeni bir Python transport API'si var. Trainer'lar ile generator'lar arasında ağırlık senkronize eden iş akışlarında bu API, iletişim kodunu sadeleştirmeye aday. Apple donanımında paralel işleme iyileştirmeleri ve Nvidia'nın Blackwell GPU'ları için destek de pakette.

Release 583 katkıcıdan gelen 3.117 commit içeriyor. Blackwell node'larına geçiş planlıyorsanız NCCL backend değişikliğini aynı test turunda sınayın; iki değişkeni ayrı ayrı production'a taşımak sorun ayıklamayı uzatır.