Açık ağırlıklı veri çıkarım modellerinde yeni dönem
Açık ağırlıklı veri çıkarım modelleri, yapay zekânın en hızlı ticarileşen alt alanlarından biri hâline geldi. Workers AI ekibi, Clairic ailesinin güncellenmiş sürümünü ve daha hafif Clairic-flash modelini açık ağırlıklarla yayımladığını duyurdu. Yeni sürümler; görsel, PDF, tablo, liste ve tarih içeren karmaşık belgelerden bilgi çıkarma doğruluğunu belirgin biçimde artırırken cevapların kaynak malzemeye daha sıkı bağlanmasını sağlıyor. Modeller hem barındırılan bir çıkarım API’si üzerinden hem de kendi donanımınızda çalıştırılabilecek ağırlıklarla sunuluyor; bu da veri egemenliği konusunda hassas davranan kurumlar için önemli bir esneklik anlamına geliyor.
Duyurunun satır aralarında daha az konuşulan ama uzun vadede daha etkili olabilecek bir mesaj da var: ekip, kendisini frontier model araştırması yürüten bir birim olarak yeniden konumlandırıyor ve çıkarım odaklı modellerin yanı sıra karar modelleri üzerinde de çalıştığını açıklıyor. Yani ortada tek seferlik bir model güncellemesi değil, belge anlama ve yapılandırılmış veri üretimi etrafında şekillenen bir ürün hattı var.
Table of Contents
Veri çıkarımı neden ayrı bir model sınıfı gerektiriyor
Genel amaçlı büyük dil modelleri uzun metinleri özetlemede, soruları yanıtlamada ve içerik üretmede oldukça başarılı. Ancak iş, “şu faturadaki toplam tutarı, tarihi ve vergi numarasını alanlara ayrılmış biçimde döndür” noktasına geldiğinde tablo değişiyor. Çünkü burada beklenen çıktı serbest bir metin değil; şeması önceden tanımlanmış, eksiksiz, tutarlı ve denetlenebilir bir veri yapısı.
Çıkarım görevinin kendine özgü zorlukları var:
- Kaynağa bağlılık: Modelin tahmin üretmesi değil, belgede gerçekten yazan değeri bulması gerekir. Olmayan bir alanı “uydurmak” çıkarımda en tehlikeli hata türüdür.
- Konum bilgisi: Kurumsal süreçlerde yalnızca değer değil, o değerin belgenin neresinden alındığı da önemlidir. Denetim ve itiraz süreçleri bu bilgiye dayanır.
- Belirsizlik yönetimi: Bulanık taranmış bir fişte okunamayan karakterler olabilir. Modelin “emin değilim” diyebilmesi, yanlış ama kendinden emin bir cevaptan daha değerlidir.
- Gecikme ve maliyet: Binlerce belge işleyen bir boru hattında alan başına saniyeler süren çıkarım ekonomik olarak sürdürülemez.
Clairic ailesi tam olarak bu dört kısıt etrafında tasarlanmış durumda: yüksek doğruluk, karakter düzeyinde konum bilgisi, olasılık skorları ve düşük gecikme.
Yeni Clairic sürümünde neler değişti
İlk önizleme sürümünün ardından ekip, kullanıcı geri bildirimlerini toplayıp mimariyi baştan ele almış. Kullanım senaryolarının fiş ve makbuz gibi görsellerden veri okumaktan destek taleplerindeki alan değerlerini çözmeye kadar genişlediği görülünce, modelin odağı netleşmiş: yapılandırılmamış veriden yapılandırılmış bilgi üretmek.
Paralel slot otoregresif üretim
Önizleme sürümünde çıkarım büyük ölçüde tek yönlü bir ileri geçişle yapılıyordu. Yeni sürümde ise alanlar tek tek değil, kendi kendini besleyen bir döngüyle üretiliyor: her alan, o ana kadar yazdığı token’lara bakarak bir sonraki token’ı seçiyor ve kendi bitiş işaretine ulaştığında duruyor. Tüm alanlar sunucu tarafında aynı partide birlikte ilerlediği için istek başına gecikme hâlâ çok düşük kalıyor. Bu değişim, özellikle birbirine bağımlı alanların (örneğin “ürün adı” ile “birim fiyat”) tutarlı üretilmesine katkı sağlıyor.
Hesaplama ve tarih mantığı için özel başlıklar
Belge çıkarımında sık karşılaşılan bir durum, değerin belgede açıkça yazmamasıdır. Vade tarihi “düzenleme tarihinden 30 gün sonra” şeklinde ifade edilmiş olabilir; toplam tutar kalemlerin çarpımıyla bulunabilir; iki tarih arasındaki gün sayısı istenebilir. Model bu tür durumlar için ayrı çıktı başlıklarıyla eğitilmiş: tahmin, süre, hesaplanmış tarih ve açık aritmetik işlemleri. Böylece basit hesaplar için ayrı bir kural motoru yazma ihtiyacı azalıyor.
Tip tanımlı API ve güven skorları
Mimari değişse de geliştiricinin işine yarayan arayüz korunmuş. Her yanıtta alanın kendisi, belgedeki karakter aralığı, modelin güven skoru ve token olasılıkları birlikte dönüyor. Bu, üretim ortamında kritik bir avantaj: düşük güven skorlu alanları otomatik olarak insan kontrolüne yönlendiren bir kuyruk kurabilir, yüksek skorlu olanları doğrudan veritabanına yazabilirsiniz. Otomasyon oranını düşürmeden hata payını yönetmenin en pratik yolu bu yaklaşımdır.
Clairic ve Clairic-flash karşılaştırması
Aynı ailenin iki üyesi farklı ihtiyaçlara hitap ediyor. Aşağıdaki tablo, seçim yaparken bakılması gereken temel başlıkları özetliyor.
| Ölçüt | Clairic | Clairic-flash |
|---|---|---|
| Konumlandırma | En yüksek doğruluğu hedefleyen tam sürüm | Hız ve maliyet dengesine odaklı hafif sürüm |
| Model boyutu | Daha büyük, ağır çıkarım için | Yaklaşık 9 milyar parametre |
| Karmaşık belge başarısı | Çoklu tablo, iç içe liste ve bulanık taramalarda daha güçlü | Standart form ve fişlerde tam sürüme çok yakın |
| Gecikme profili | Düşük | Çok düşük |
| Kendi sunucunuzda çalıştırma | Daha fazla bellek gerektirir | Nicelleştirilmiş hâlde tek bir GPU’ya sığabilir |
| Tipik kullanım | Sözleşme, poliçe, karmaşık fatura | Yüksek hacimli fiş, talep ve form akışları |
Pratik bir strateji, iki modeli birlikte kullanmaktır: yüksek hacimli ve görece basit belgeler hafif sürümle işlenir, düşük güven skoru dönen veya yapısal olarak karmaşık olan belgeler tam sürüme yönlendirilir. Bu yaklaşım, ortalama doğruluğu korurken işlem maliyetini ciddi biçimde düşürür.
Görsel ve PDF belgelerinden çıkarım
Önizleme sürümünün en çok eleştirilen noktası, taranmış görsellerden ve PDF dosyalarından veri okuma başarısıydı. Yeni sürümde bu alan öncelikli hâle getirilmiş. Uygulamada bu şu anlama geliyor: ayrı bir optik karakter tanıma adımı kurmadan, doğrudan belge görüntüsünü modele verip alanları yapılandırılmış biçimde alabiliyorsunuz. Tablo satırlarının hizalanması, virgüllü ve noktalı sayı biçimleri, farklı tarih formatları ve birden fazla sayfaya yayılan listeler bu kapsamda ele alınıyor.
Yine de tamamen görsel bir boru hattına geçmeden önce kısa bir değerlendirme yapmakta fayda var. Metin katmanı bulunan dijital PDF’lerde doğrudan metin çıkarımı hâlâ daha hızlı ve daha ucuz. Görsel tabanlı çıkarım, metin katmanı olmayan taramalarda, fotoğraflanmış fişlerde ve el yazısı karışık formlarda asıl farkı yaratıyor.
Doğruluk değerlendirmeleri nasıl okunmalı
Çıkarım modelleri için henüz herkesin üzerinde anlaştığı kamuya açık bir kıyaslama seti yok. Bu nedenle üreticiler kendi iç değerlendirmelerini paylaşıyor ve bu sonuçlar yön gösterici olarak okunmalı. Yayımlanan değerlendirmeler dört başlıkta toplanıyor: daha önce görülmemiş metin alanları, metin ve görüntünün karışık geldiği alanlar, gerçek müşteri taleplerinden türetilen doğrulama setleri ve yapay olarak üretilmiş fiş alanları.
| Değerlendirme alanı | Gözlenen tablo |
|---|---|
| Yeni metin alanları | Tam sürüm neredeyse hatasız; hafif sürüm birkaç alan geride |
| Karışık girdi (metin + görsel) | Her iki yeni sürüm de önizlemeye kıyasla belirgin iyileşme gösteriyor |
| Müşteri doğrulama seti | Yüzlerce istek şeklinin tamamına yakını doğru çıkarılıyor |
| Fiş ve makbuz alanları | Görsel kaynaklarda bile tam doğruluk bildiriliyor |
Bu sonuçları değerlendirirken iki noktayı akılda tutmak gerekiyor. Birincisi, kendi kendine bildirilen ölçümler her zaman sizin belge dağılımınızı yansıtmaz; kendi örnek setinizle küçük bir pilot çalışma yapmadan üretime geçmemek en sağlıklısı. İkincisi, doğruluk tek başına yeterli değil; güven skoru kalibrasyonu, yani “model eminim dediğinde gerçekten haklı mı” sorusu operasyonel olarak daha belirleyici.
Açık ağırlıklar pratikte ne sağlıyor
Açık ağırlık, modelin yalnızca bir API üzerinden kiralanması yerine kendi altyapınıza indirilebilmesi anlamına gelir. Bunun üç somut faydası var. Birincisi veri egemenliği: hassas belgeler üçüncü taraf bir servise hiç gönderilmeden işlenebilir. İkincisi özelleştirme: kendi alanlarınız ve belge tiplerinizle ince ayar yapabilir, modelin çıktı şemasını iş süreçlerinize göre daraltabilirsiniz. Üçüncüsü öngörülebilirlik: sabit hacimlerde çalışan ekipler için kendi donanımınızda çalıştırmak, kullanım başına ücretlendirmeye kıyasla daha kolay planlanabilir bir maliyet yapısı sunar.
Kendi sunucunuzda çalıştırma kararı, donanım planlamasını da beraberinde getiriyor. Yaklaşık 9 milyar parametreli bir modeli tam hassasiyetle yüklemek 18 GB civarı belleğe işaret ederken, 8 bit nicelleştirme bunu yaklaşık 9 GB’a, 4 bit nicelleştirme ise 5-6 GB bandına indirebiliyor. Bu hesapların ayrıntısı ve bağlam penceresinin bellek üzerindeki etkisi için LLM çalıştırmak için ne kadar VRAM gerekir rehberi iyi bir başlangıç noktası. Üretim ortamında deneme yanılma yerine VPS hosting veya ayrılmış kaynaklarla ölçeklenebilir bir kurulum tercih etmek, model güncellemelerinde esneklik sağlar.
Barındırılan API ile kendi altyapınız arasındaki seçim genellikle iki soruya indirgeniyor: belge hacminiz ne kadar ve veri yerleşimi konusunda bir kısıtınız var mı? Hacim düşükken yönetilen servis neredeyse her zaman daha mantıklı; hacim büyüdükçe ve hassasiyet arttıkça kendi donanımınızda çalıştırma seçeneği ağır basıyor.
Gerçek dünya kullanım senaryoları
Yapılandırılmış çıkarım modellerinin değeri, en çok tekrarlayan ve kural tanımlanması zor işlerde ortaya çıkıyor:
- Muhasebe ve ön muhasebe: Fiş ve faturalardan satıcı, tarih, vergi tutarı ve toplamın otomatik alınması; kalem bazlı tabloların satır satır çözülmesi.
- Sigorta ve finans: Poliçe, teklif ve ek belgelerden teminat tutarı, muafiyet, vade ve taraf bilgilerinin şemaya bağlı olarak çıkarılması.
- İnsan kaynakları: Özgeçmiş, referans mektubu ve başvuru formlarından eğitim, deneyim ve sertifika alanlarının standart bir aday profiline dönüştürülmesi.
- Lojistik ve tedarik: İrsaliye, gümrük beyannamesi ve konşimentolardan ürün kodu, miktar, ağırlık ve varış limanı bilgisinin alınması.
- Müşteri destek: Serbest metinle yazılmış taleplerden ürün, sorun tipi, öncelik ve ilgili sipariş numarasının yapılandırılmış biçimde çıkarılıp doğru kuyruğa yönlendirilmesi.
- Sağlık ve kamu: Matbu formların ve taranmış başvuruların dijital kayıtlara dönüştürülmesi, düşük güvenli alanların insan operatöre aktarılması.
Bu senaryoların ortak noktası, çıkarılan verinin doğrudan bir iş akışını tetiklemesi. Yanlış okunan bir vergi numarası yalnızca bir hata değil; yanlış kişiye kesilmiş bir fatura, gecikmiş bir ödeme ya da reddedilmiş bir talep anlamına gelebiliyor. Bu nedenle güven skorları ve insan denetimi mekanizmaları, modelin kendisi kadar önemli.
Uygulamaya geçerken dikkat edilmesi gerekenler
Yeni bir çıkarım modelini üretime almak, bir demo çalıştırmaktan çok daha fazlasını gerektiriyor. Aşağıdaki adımlar, geçiş sürecini daha öngörülebilir kılar:
- Kendi doğrulama setinizi oluşturun: En az birkaç yüz, ideali birkaç bin belgeden oluşan ve gerçek dağılımınızı yansıtan bir set hazırlayın. Üreticinin rakamları yerine bu setteki sonuçlara göre karar verin.
- Çıktı şemasını daraltın: Modele her şeyi sormak yerine yalnızca ihtiyaç duyduğunuz alanları tanımlayın. Şema küçüldükçe doğruluk artar, gecikme ve maliyet düşer.
- Güven eşiği belirleyin: Hangi skorun altındaki alanların insan kontrolüne düşeceğine karar verin. Bu eşiği ilk günden çok yüksek tutmak otomasyonu anlamsızlaştırır, çok düşük tutmak ise hataları müşteriye taşır.
- İzleme kurun: Haftalık doğruluk, düşük güven oranı ve ortalama gecikme gibi birkaç temel metriği takip edin. Belge dağılımı zamanla değiştiği için model performansı da kayabilir.
- Kademeli geçiş yapın: Önce tek bir belge tipiyle başlayın, sonuçlar oturdukça kapsamı genişletin. Tam sürüm ve hafif sürüm arasındaki yönlendirme mantığını bu süreçte netleştirin.
Son olarak, açık ağırlıklı modellerin getirdiği esneklik beraberinde bir sorumluluk da getiriyor. Modeli indirip çalıştırmak teknik olarak mümkün olsa da, onu güncel tutmak, güvenlik yamalarını izlemek ve kendi altyapınızın bakımını üstlenmek size kalıyor. Yönetilen servisler bu yükü ortadan kaldırır; kendi altyapınız ise kontrolü verir. Doğru seçim, kurumun veri hassasiyeti, teknik kapasitesi ve belge hacmine göre şekilleniyor.
Sonuç
Clairic ailesinin yeni sürümü, veri çıkarımını genel amaçlı dil modellerinin bir yan görevi olmaktan çıkarıp kendi başına olgunlaşan bir model sınıfına taşıyor. Paralel slot üretimi, hesaplama ve tarih mantığı için özel başlıklar, karakter düzeyinde konum bilgisi ve kalibre edilmiş güven skorları; hepsi aynı hedefe hizmet ediyor: belgeden çıkarılan bilginin denetlenebilir, güvenilir ve iş akışına doğrudan bağlanabilir olması. Açık ağırlıkların eklenmesi ise bu yeteneği, veri egemenliği konusunda taviz vermek istemeyen kurumlar için de erişilebilir kılıyor. Önümüzdeki dönemde rekabetin yalnızca doğruluk üzerinden değil, güven kalibrasyonu ve maliyet verimliliği üzerinden şekillenmesi bekleniyor.
