Dizi Düzeyinde Bilgi Damıtımında Ezberleme Kalıtımı: Öğretmenin Hataları Öğrenciye Nasıl Geçer?

Giriş

Neural Machine Translation (NMT) modellerini gerçek dünya uygulamalarına hazırlarken karşılaşılan temel ikilem, model performansı ile hesaplama verimliliği arasındaki dengeyi kurmaktır. Bu bağlamda sequence-level knowledge distillation (SeqKD), büyük öğretmen modellerin ürettiği sentetik hedef cümleler üzerinde daha küçük öğrenci modelleri eğiterek yaygın olarak kullanılan bir tekniktir. Özellikle WMT20 gibi büyük ölçekli paralel korpuslar üzerinde Transformer mimarileri ile uygulandığında, öğrenci modeller öğretmenlerine yakın performans gösterirken çok daha hızlı çıkarım yapabilmektedir.

Ancak Dankers ve Raunak'ın "Memorization Inheritance in Sequence-Level Knowledge Distillation for Neural Machine Translation" başlıklı çalışması, bu yaklaşımın görünürdeki verimliliğinin altında yatan ciddi bir güvenilirlik sorununu ortaya koymaktadır. Araştırmacılar, öğrenci modellerin öğretmenlerinden sadece çeviri kalitesini değil, aynı zamanda memorization (ezberleme) davranışlarını ve hallucination (uydurma) eğilimlerini de devraldığını göstermektedir. Bu bulgu, SeqKD'nin sadece bilgiyi sıkıştırmadığını, aynı zamanda hata modlarını da nesilden nesile aktardığı anlamına gelmektedir.

Ezberleme Kalıtımının Mekanizması

SeqKD sürecinde öğretmen model, orijinal paralel korpustaki kaynak cümleleri (source sequences) çevirerek sentetik hedefler üretir. Öğrenci model ise bu sentetik veriler üzerinde eğitilir ve teorik olarak orijinal eğitim verisine hiç maruz kalmaz. Beklenti, öğrencinin öğretmenin genelleme yeteneğini öğrenmesi, ancak spesifik eğitim örneklerini ezberlememesi yönündedir.

Ancak çalışmanın bulguları bu varsayımı temelden sarsmaktadır. Dankers ve Raunak, WMT20 veri setindeki Almanca-İngilizce, Lehçe-İngilizce ve Fransızca-Almanca gibi dil çiftlerinde öğrenci modellerin, aynı boyutta ancak orijinal veri üzerinde doğrudan eğitilmiş temel modellere (baseline) kıyasla %3.4 daha fazla tam eşleşme (exact match) ve %57 daha yüksek extractive memorization (ExMem) gösterdiğini tespit etmiştir. ExMem metriği, modelin kaynak cümleden bağımsız olarak hedef çeviriyi üretebilme yeteneğini ölçer. Örneğin, köşeli parantezlerle belirtilen [w piłce nożnej] gibi ek bağlamlar çıkarıldığında bile model "Trinidad and Tobago national football team" çevirisini üretebiliyorsa, bu cümleyi ezberlemiş demektir.

Bu bulgunun mekanizması şudur: Öğretmen model, orijinal eğitim verisini kısmen ezberlemiş durumdadır ve bu ezberleme örüntüleri sentetik hedeflere yansır. Öğrenci, öğretmenin ürettiği bu sentetik çeviriler aracılığıyla dolaylı olarak orijinal korpusu ezberlemektedir. Öğrenci hiçbir zaman orijinal (SC, TC) çiftlerini görmemesine rağmen, öğretmenin (TT) ürettikleri üzerinden bu veriye dair sekonder ezberleme geliştirmektedir. Bu durum, bilgi damıtımının bir bilgi kaybı olmadan sıkıştırma değil, belirli hata modlarının kalıtsal olarak aktarıldığı bir süreç olduğunu göstermektedir.

Hata Modlarının Aktarımı ve Kapasite Yeniden Tahsisi

Çalışmanın ikinci kritik bulgusu, öğrenci modellerin %31 daha fazla salınımlı halüsinasyon (oscillatory hallucination) üretme eğiliminde olmasıdır. Salınımlı halüsinasyonlar, modelin tekrarlayan ve anlamsız döngülere girmesiyle karakterize edilen uydurma çevirilerdir. Örneğin Alman cümle "Die Heiligen sind in der Regel in der Regel in der Regel" gibi tekrarlayan yapılar, modelin öğretmenin hatalı örüntülerini amplifiye ettiğini göstermektedir.

İlginç bir şekilde, araştırmacılar öğrencilerin düşük kaliteli kaynak-hedef çiftlerinde öğretmen ve temel modellere göre daha etkili denoising (gürültü giderme) gerçekleştirdiğini de gözlemlemiştir. Öğrenciler, kötü çevirileri daha yüksek Comet-QE-22 skorlarıyla düzeltme eğilimindedir. Bu bulgu, SeqKD'nin çift yönlü bir etki yarattığını ortaya koymaktadır: Öğrenci hem gürültülü veriyi filtreleme kapasitesini artırırken, hem de öğretmene özgü artefaktları ezberlemek için bu kapasiteyi kullanmaktadır.

Bu durum, hatayı azaltmak yerine hataları yeniden dağıtan bir sistem oluşturmaktadır. Modelin sınırlı kapasitesi, düşük kaliteli girdi gürültüsünü filtrelemek için kullanılan kısımla, öğretmenin ezberleme örüntülerini internalize etmek için kullanılan kısım arasında bölünmektedir. Öğrenci, öğretmenin hatalarını bir tür lossy encoding (kayboluşlu kodlama) olarak sıkıştırmakta ve iteratif damıtım süreçlerinde bu hatalar giderek belirginleşmektedir.

Özgün Çıkarımlar ve Pratik İmalar

Bu bulgular ışığında SeqKD'nin doğasına dair daha derin bir analiz mümkündür. Öncelikle, öğretmen modelin sentetik hedefleri, saf bir bilgi aktarım aracı değil, öğretmenin eğitim verisine dair önyargılarını ve ezberleme kalıplarını taşıyan hipotezlerdir. Öğrenci, bu hipotezler üzerinden öğrendiğinde, aslında öğretmenin gördüğü verinin bir projeksiyonunu ezberlemektedir.

Adaptive-SeqKD olarak önerilen çözüm, öğretmen modeli yüksek kaliteli veriler üzerinde kısa bir fine-tuning (ince ayar) ile uyarlayarak bu sorunu hafifletmeyi amaçlar. Ancak bu yaklaşım bile temel sorunu çözmemektedir: Bilgi damıtımı, modelin kapasitesini verimli kullanmak yerine, belirli hata türlerini optimize etmek için yeniden tahsis etmektedir. Öğrenci, öğretmenin halüsinasyonlarını ayırt edilemez kalıplar halinde sıkıştıran bir kodlayıcıya dönüşmektedir.

Uygulama açısından bakıldığında, bu bulgular SeqKD kullanan sistemlerde aktif izleme zorunluluğunu ortaya koymaktadır. Özellikle hassas alanlarda (tıbbi çeviri, hukuki metinler) iteratif damıtım kullanılıyorsa, her damıtım turunda halüsinasyon oranlarının ve ezberleme metriklerinin takip edilmesi gerekmektedir. Ayrıca, öğretmen modellerin eğitim verisindeki gürültü düzeyi, öğrencinin kalıtsal olarak alacağı hata miktarını doğrudan etkilemektedir.

Sonuç

Dankers ve Raunak'ın çalışması, sequence-level knowledge distillation'ın sadece bir model sıkıştırma tekniği olmadığını, aynı zamanda öğretmenin bilişsel önyargılarını ve ezberleme davranışlarını aktaran bir kalıtım mekanizması olduğunu göstermektedir. Öğrenci modeller, performans avantajlarının yanı sıra, daha yüksek halüsinasyon oranları ve artmış extractive memorization gibi bela faydalarını da devralmaktadır.

Bu bulgular ışığında, SeqKD uygulamalarında dikkatli olunması ve öğretmen modellerin ezberleme eğilimlerinin önceden değerlendirilmesi önerilmektedir. Adaptive-SeqKD gibi müdahaleler geçici çözümler sunsa da, temel mesele bilgi damıtımının doğasında yatmaktadır: Öğrenci, öğretmenin hem güçlü yönlerini hem de kırılganlıklarını miras almakta, bu da daha küçük modellerin güvenilirliği konusunda ciddi soru işaretleri doğurmaktadır. Gelecek araştırmalar, bu kalıtım zincirini kıracak ve öğrencinin sadece genelleşmiş bilgiyi, ezberlenmiş kalıpları değil öğrenmesini sağlayacak yöntemlere odaklanmalıdır.