OpenAI ve NVIDIA yeni açık yapay zeka model ailesini duyurdu

OpenAI ve NVIDIA, RTX GPU’lar üzerinde yerel çıkarım yapabilen yeni yapay zeka modeli GPT-OSS'yi duyurdu. Bu model ailesi, yüksek performans için farklı görevlerde optimize edildi. İki varyant içeriyor: GPT-OSS-20B, NVIDIA RTX AI PC'lerde çalışıyor ve saniyede 250 token üretebiliyor. GPT-OSS-120B ise RTX PRO GPU'lu iş istasyonlarına yönelik. Her iki model de NVIDIA H100 GPU'larda eğitildi ve MXFP4 hassasiyetini destekliyor. Bu özellikler, doğruluk oranını artırırken performans kaybını önlüyor. Modeller, 131.072 token'lık bağlam uzunluğu ve "mixture-of-experts" mimarisine sahip. Kullanıcılar ve geliştiriciler, Ollama uygulaması, Llama.cpp ve Microsoft AI Foundry Local platformları aracılığıyla modelle çalışabiliyor. Bu platformlar, yapılandırma gerektirmeden veya terminal komutlarıyla kullanım kolaylığı sağlıyor.