NVIDIA Auto Ontology, agent’ların SQL’ini onaylı tanımlara bağlıyor

NVIDIA Auto Ontology, NVIDIA’nın Apache 2.0 lisansıyla açtığı ve kurumsal metadata’dan semantic layer üreten bir kütüphane. Agent’lar bu katman üzerinden onaylı iş tanımlarına dayanan SQL yazıyor; varsayılan model nvidia/nemotron-3-nano-30b-a3b, kurulum Docker Compose ya da Helm ile Kubernetes üzerinde. NVIDIA kendi testlerinde ontology oluşturma süresinin yüzde 90 kısaldığını söylüyor, ama yayımlanmış bir text-to-SQL doğruluk skoru yok.

Semantic layer nedir, ne işe yarar?

Semantic layer, data warehouse’taki tablo ve kolonlar ile gelir, müşteri gibi iş kavramları arasında duran tanım katmanıdır. Metriklerin nasıl hesaplanacağını tek yerde tutar, böylece raporlama araçları ve agent’lar aynı sayıyı aynı formülle üretir. Veri ve analitik ekipleri kullanır. Bilinen örnekleri arasında dbt MetricFlow ve Cube var.

NVIDIA Auto Ontology neyi çözmeye çalışıyor

Bir agent’a geçen çeyreğin gelirini sorduğunuzda asıl sorun hız değil. Agent hangi tabloyu, hangi kolonu seçecek? Ham şemaya bakan bir LLM, adı revenue olan ama iadeleri düşmeyen bir kolonu rahatlıkla seçebilir. Proje deposu da durumu açık yazıyor: “a fast revenue answer is worthless if the number is wrong.”

NVIDIA Auto Ontology bu boşluğa bir context katmanı koyuyor. Metadata’dan başlangıç ontology’si çıkıyor, iş uzmanları bunu test edip onaylıyor, agent da SQL’i onaylı tanımlara göre yazıyor. Onaylanan düzeltmeler tekrar ontology’ye dönüyor. Yani elinize hazır bir doğruluk kaynağı değil, üzerinde çalışılacak bir taslak geçiyor.

Bileşenler ve kurulum

Stack dört servisten oluşuyor:

• Next.js 16 frontend: web arayüzü ve authentication, port 3000
• FastAPI ve LangChain backend: chat, NL-to-SQL ve katalog API’leri, port 3001
• Embedding (vektör temsili) yazan ingestion worker, port 3002
• Katalog, ontology ve vektörleri tutan pgvector’lü Postgres

Kaynak veritabanı olarak Databricks, Postgres, Snowflake ve DuckDB destekleniyor. Modeller endpoint, anahtar ve model adından oluşan ortam değişkeni üçlüleriyle tanımlanıyor. Reasoning, non-reasoning, embedding ve reranking için ayrı roller var. OpenAI uyumlu her endpoint kabul edildiği için varsayılan Nemotron modelleri yerine kendi inference (çıkarım) servisinizi bağlayabilirsiniz.

Yerel deneme için .env dosyasını doldurduktan sonra stack’i ayağa kaldırın:

docker compose up -d --build
docker compose ps

Kubernetes için bir Helm chart ve DEPLOYMENT.md rehberi var. Backend ayrıca NGC container olarak yayımlanıyor. Varsayılan modelleri barındırılan NIM endpoint’lerinde çalıştıracaksanız build.nvidia.com’dan alınmış bir API anahtarı gerekiyor. Burada karar noktası veri akışı: hosted NIM seçerseniz model çağrıları NVIDIA’nın endpoint’lerine gidiyor. Bu çağrılara hangi metadata’nın girdiğini kurulumdan önce inceleyin; hassas ortamlarda self-hosted NIM daha temkinli bir başlangıç.

MCP server neden yalnızca read-only

MCP (Model Context Protocol) server dokuz read-only araç açıyor. ask_question cevabı, üretilen SQL’i ve satırları ayrı alanlarda döndürüyor; sonuç en fazla 100 satır. check_readiness derlenmiş bir semantic layer ile canlı veritabanı bağlantısının varlığını doğruluyor.

Ham şemayı gezmek için araç yok ve bu bilinçli bir tercih. Agent veriye yalnızca semantic layer üzerinden ulaşıyor. Oturum OAuth ile açılıyor, her çağrı oturum açan kullanıcının yetkileriyle çalışıyor. Platform ekibi için anlamı şu: agent’a geniş yetkili tek bir servis hesabı vermek zorunda kalmıyorsunuz.

Ama OpenAPI tanımında 87 operasyon var. MCP araçları read-only olsa da REST API’nin yüzeyi çok daha geniş. Backend’i ingress arkasına koyarken hangi yolların dışarıya açılacağını ayrıca belirleyin.

NVIDIA Auto Ontology için doğruluğu kendiniz ölçün

En zayıf halka kanıt. Yüzde 90 hızlanma NVIDIA’nın kendi beyanı. Yayımlanmış text-to-SQL doğruluk skoru ise sıfır; auto-ontology-eval deposunda sonuç değil, bir harness var.

Harness NeMo Gym üzerinde iki kolu karşılaştırıyor: yalnızca şema gören bir LLM kontrol grubu ve ontology’ye dayanan agent. Puanlama deterministik execution match ile yapılıyor, LLM hakem yok. Pakette BIRD Dev (1.534 soru, 11 veritabanı), Mini-Dev (500 soru), FDABench-Lite (169 soru) ve varsayılan 100 soruluk örnekle BEAVER geliyor.

İki tuzak var. Opsiyonel few-shot örnekler ve value anchor’lar yalnızca ontology koluna veriliyor; bunlarla ölçülen fark grounding’in tek başına etkisi değil. Test edilen yapılandırma da iki kolu NVIDIA’nın inference gateway’indeki bir Claude modelinden geçiriyor, yani varsayılan Nemotron ile sonuç farklı çıkabilir. Bir turu few-shot girdileri kapalı, bir turu açık koşun ve iki farkı ayrı raporlayın.

Nereden başlamalı

Herkese açık benchmark’lar sizin şemanızı temsil etmez. Şu sırayla ilerlemek riski düşük tutar:

1. Gelir raporlaması gibi tek bir domain seçin, stack’i Docker Compose ile yerelde kurun.
2. Finans ekibinin doğru cevabını bildiği küçük bir soru seti hazırlayın.
3. Üretilen ontology’yi iş uzmanına onaylatın, ardından harness’i schema-only kolla karşılaştırarak çalıştırın.
4. Fark tutarlıysa Helm ile cluster’a taşıyın ve MCP endpoint’ini kullandığınız agent harness’ine bağlayın.

Karşılaştırmada Wren AI, Cube Core ve dbt MetricFlow da var. Cube ve MetricFlow’da katman kodda tanımlanıyor; Auto Ontology ise onu metadata’dan üretip onaya sunuyor. Discover adımı var olan semantic model’leri bağlamayı da destekliyor, bu yüzden sıfırdan üretmeden önce elinizdeki tanımların içeri alınıp alınamayacağına bakın.