Otomatik Patent Sınıflandırma: Yapay Zeka ve IPC Kodları

Makine öğrenmesinin patent başvurularını IPC alt sınıflarına nasıl otomatik sınıflandırdığını keşfedin, ardından ücretsiz yenilik araştırmasını deneyin.

Otomatik Patent Sınıflandırma: Yapay Zeka ve IPC Kodları

Otomatik patent sınıflandırma, bir patent başvurusunun hangi teknoloji kategorisine ait olduğunun makine öğrenmesiyle tahmin edilmesidir; bu iş bugün her başvuru için patent uzmanları tarafından elle yapılmaktadır. Birleşik Krallık Fikri Mülkiyet Ofisi'nin yapay zeka destekli önceki teknik araştırması üzerine yürüttüğü fizibilite çalışmasında araştırmacılar, uzmanların daha önce etiketlediği patentlerle sınıflandırıcılar eğitmiş ve farklı algoritmaların hiç görmediği belgelere Uluslararası Patent Sınıflandırması (IPC) alt sınıflarını ne kadar doğru atayabildiğini ölçmüştür. Bu bölüm, sınıflandırmanın makine öğrenmesine neden bu kadar uygun olduğunu, deneyin nasıl tasarlandığını ve patent sorgulama yapan herkes için ne anlama geldiğini açıklıyor.

Önceki bölümlerde yapay zekanın arama sorgusunu oluşturmaya ve genişletmeye nasıl yardımcı olduğu ele alınmıştı. Belge sınıflandırma ise aynı iş akışının farklı bir adımını hedefler: ayrıntılı araştırma başlamadan önce başvurunun teknoloji haritasında nereye düştüğünü belirlemek.

Patent Sınıflandırma Neden Makine Öğrenmesine Uygun?

Bu görevin makine öğrenmesine neden bu kadar uygun olduğunu anlamak için patentlerin halihazırda kullandığı sisteme bakmak gerekir. WIPO tarafından yönetilen Uluslararası Patent Sınıflandırması, çalışmada yaklaşık 650 alt sınıftan oluştuğu belirtilen hiyerarşik bir sistemdir (Makarov, 2004). Amacı, patentleri dünyadaki tüm patent ofislerinde tutarlı ve standart bir biçimde sınıflandırmaktır.

Her patente, buluşun ana teknik konusunu gösteren en az bir sınıflandırma kodu verilir. Belgeyi daha hassas biçimde konumlandırmak için bunlara ek kodlar da eklenebilir. Bölüm, sınıf, alt sınıf ve grup yapısını ayrıntılı olarak görmek isterseniz Uluslararası Patent Sınıflandırması (IPC) rehberimiz bu yapıyı adım adım anlatıyor; bu nedenle burada tekrar edilmiyor.

Çalışma açısından asıl önemli nokta, bu işin elle yapılmasıdır. Gelen her başvuruda bir patent uzmanı belgeyi okur ve yerleşik sınıflandırma kılavuzlarını izleyerek uygun kodu atar. Bu hem zaman hem de uzmanlık gerektirir ve her başvuru için yeniden yapılmak zorundadır.

Türkiye de IPC'yi kullanan ülkeler arasındadır ve Türk patent belgeleri IPC kodlarıyla yayımlanır. Türkiye'deki başvuru ve sorgulama işlemleri için TÜRKPATENT'in resmi sistemi EPATS kullanılır.

Hazır Bir Eğitim Seti: Etiketli Patentler

Bu elle yürütülen süreç, araştırma ekibi için büyük bir avantaja dönüşmüştür. Daha önce yapılmış her patent başvurusu, bir uzmanın verdiği kodu zaten taşıdığı için patent arşivi fiilen çok büyük bir etiketli örnek koleksiyonudur.

Etiketli veri, denetimli makine öğrenmesinin tam olarak ihtiyaç duyduğu şeydir ve çoğu alanda üretilmesi yavaş ve maliyetlidir. Patent dünyasında ise bu veri, ofislerin gündelik çalışmasının doğal bir yan ürünü olarak zaten mevcuttur. Araştırmacıların hiçbir belgeyi kendilerinin etiketlemesi gerekmemiş, onlarca yıllık uzman kararlarını doğrudan kullanabilmişlerdir.

Denetimli Öğrenme Bir Patentin Sınıfını Nasıl Tahmin Eder?

Denetimli öğrenme, her belgenin sınıf etiketinin bilindiği bir eğitim verisiyle başlar. Algoritma, metnin özellikleri ile bu etiketler arasındaki ilişkiyi inceler ve bu ilişkileri genelleyerek bir sınıflandırma modeli oluşturur. Kullanılan yönteme göre bu model matematiksel bir fonksiyon, bir karar ağacı veya olasılıksal bir model biçiminde olabilir.

Eğitim tamamlandıktan sonra modele yeni bir belge verilebilir ve bu belgenin en büyük olasılıkla hangi sınıfa ait olduğu sorulabilir. Bu senaryoda yeni belge, ofise yeni ulaşan bir patent başvurusudur. Başvuru, mevcut patentlerin oluşturduğu büyük birikimle dolaylı olarak karşılaştırılır, çünkü o patentlerdeki örüntüler modelin içine zaten işlenmiştir.

Algoritma Seçimi: "Bedava Öğle Yemeği Yok" Teoremi

Genel yaklaşım belirlendikten sonra araştırmacıların hangi denetimli öğrenme algoritmasını kullanacaklarına karar vermesi gerekiyordu. Bu noktada makine öğrenmesi kuramının iyi bilinen bir sonucuna, "bedava öğle yemeği yok" (no free lunch) teoremine başvurdular (Wolpert, 1996). Teorem, başarım olası tüm problemler üzerinden ortalandığında herhangi iki öğrenme algoritmasının birbirine denk olduğunu söyler.

Daha yalın bir ifadeyle, her konuda en iyi olan tek bir algoritma yoktur. Doğru seçim, yöntemin ünü veya yaygınlığına değil, eldeki probleme ve verinin özelliklerine göre gösterdiği başarıma bağlıdır. Bu nedenle ekip önceden bir favori belirlememiş, geniş bir aday kümesini karşılaştırmıştır:

  • Radyal tabanlı fonksiyon (RBF) çekirdekli destek vektör makineleri
  • Karar ağacı öğrenmesi
  • Rastgele orman
  • AdaBoost
  • En yakın komşular
  • Çok katmanlı algılayıcı (bir yapay sinir ağı türü)
  • Gauss naive Bayes
  • Bernoulli naive Bayes

On Katlı Çapraz Doğrulama ile Adil Test

Algoritmaları adil biçimde karşılaştırmak özen ister. Bir model, öğrendiği belgelerin aynısıyla test edilirse sonuç gerçekte olduğundan daha iyi görünür. Araştırmacılar bu nedenle çapraz doğrulama kullanmıştır. Bu yerleşik teknik, bir algoritmanın daha önce görmediği verideki başarımını tahmin eder ve söz konusu iyimser yanlılığı önler.

Bu ayrım en çok karmaşık ve veriye aç yöntemlerde önem taşır. Derin öğrenme, aşırı öğrenmeye (overfitting) yatkın yaklaşımların klasik örneğidir. Aşırı öğrenme, modelin yeni örneklere genellenebilen örüntüleri öğrenmek yerine eğitim verisinin kendine özgü ayrıntılarını ezberlemesi anlamına gelir.

On katlı çapraz doğrulamada veri on parçaya bölünür. Model bunların dokuzuyla eğitilir ve kalan parçayla test edilir; bu işlem her parça bir kez test kümesi olana kadar tekrarlanır. Ortalama sonuç, algoritmanın gerçek başvurular karşısında nasıl davranacağına dair çok daha dürüst bir tablo sunar.

Sınıflandırma, bir arama sisteminin milyonlarca belgeyi ilgili birkaç belgeye indirmesine yardımcı olan sinyallerden biridir. Bunun kendi fikriniz için nasıl sonuç verdiğini görmek isterseniz ücretsiz yapay zeka destekli yenilik araştırmasını deneyebilir ve buluşunuza en yakın önceki tekniği inceleyebilirsiniz.

Her IPC Alt Sınıfı İçin Bir İkili Sınıflandırıcı

Önerilen tasarım, yüzlerce kategori arasından tek seferde seçim yapan tek bir modele dayanmıyordu. Bunun yerine her IPC alt sınıfı için ayrı bir ikili sınıflandırıcı eğitildi. Her sınıflandırıcı basit bir evet veya hayır sorusunu yanıtlar: bu patent bu alt sınıfa ait mi?

Belirli bir alt sınıf için o alt sınıfa gerçekten ait olan patentler olumlu eğitim örnekleri, diğer tüm alt sınıflardan alınan patentler ise olumsuz örnekler olarak kullanılır. Büyük bir problemi çok sayıda küçük probleme bölmek, her sınıflandırıcının eğitilmesini ve değerlendirilmesini kolaylaştırır. Bu yapı IPC'nin işleyişine de uygundur, çünkü tek bir patent birden fazla kod taşıyabilir.

Üç Teknoloji Alanı, Üç Farklı Veri Boyutu

Testi zorlaştırmak için araştırmacılar, çalışmanın üç doğrulama alanının her birinde birbirine görece benzeyen iki alt sınıf seçmiştir. Birbirine yakın kategorileri ayırt etmek, açıkça farklı olanları ayırmaktan çok daha zordur; bu nedenle sonuçlar gerçek dünyadaki başarım hakkında daha fazla şey söyler.

IPC alt sınıflarının büyüklükleri de birbirinden çok farklıdır. Bu yüzden çiftler küçük, orta ve büyük birer koleksiyonu kapsayacak şekilde seçilmiştir. Böylece ekip, eğitim verisinin miktarının sınıflandırma başarımını nasıl etkilediğini gözlemleyebilmiştir.

AlanKarşılaştırılan IPC alt sınıflarıYaklaşık büyüklük
İnşaat mühendisliğiE03D (sifonlu klozetler ve pisuvarlar, sifon vanaları) ve E03F (kanalizasyonlar, foseptikler)Yaklaşık 900 patent (küçük)
UlaşımB62J (bisiklet seleleri, oturakları ve aksesuarları) ve B62K (bisikletler, kadrolar, yönlendirme düzenekleri, sürücü kumandaları, aks süspansiyonları, yan sepetler)Yaklaşık 3.000 patent (orta)
Bilgisayar teknolojisiG06K (verilerin tanınması ve sunumu, kayıt taşıyıcıları) ve G06T (görüntü verisi işleme veya üretme)Yaklaşık 20.000 patent (büyük)

Bilgisayar teknolojisi çifti, benzer alt sınıfların neden gerçek bir zorluk olduğunu iyi gösterir. Hem G06K hem de G06T veri ve görüntülerle ilgilidir; dolayısıyla iki grubun söz dağarcığı büyük ölçüde örtüşür ve bir sınıflandırıcı birkaç belirgin anahtar kelimeye güvenemez.

Kelime Torbası ve Kelime Gömmeleri Karşılaştırması

Her alan çifti için belgeleri temsil etmenin iki yolu denenmiştir. İlki, belgeyi içerdiği kelimelerin bir koleksiyonu olarak ele alan basit kelime torbası (bag-of-words) modelidir. İkincisi ise word2vec ile oluşturulan, daha zengin ve alana özgü kelime gömmeleri modelidir; bu model anlamca ilişkili kelimeleri bir vektör uzayında birbirine yakın konumlandırır. Her iki yöntem de patent metninden özellik çıkarımı bölümünde açıklanmaktadır.

Sekiz algoritma, farklı büyüklükteki üç alan ve iki temsil modeli bir araya geldiğinde ayrıntılı bir sonuç tablosu ortaya çıkar. Raporun tamamı bu karşılaştırmayı ayrı bir ekte sunar ve hangi algoritmanın hangi sınıflandırma zorluğunun üstesinden en iyi şekilde geldiğini yan yana gösterir.

Otomatik Sınıflandırma Patent Araştırması Yapanlar İçin Ne Anlama Geliyor?

Sınıflandırma yalnızca idari bir adım değildir. Kodlar, bir başvuruyu hangi uzmanın veya teknik birimin ele alacağının belirlenmesine yardımcı olur ve önceki teknik araştırmasını daraltmanın en güvenilir yollarından biridir, çünkü buluşları yazarın seçtiği kelimelere göre değil teknolojiye göre gruplar. Doğru alt sınıfı hızla önerebilen bir sistem üç açıdan fayda sağlar:

  • Hız. Önerilen sınıflandırma, patent uzmanına veya araştırmacıya saniyeler içinde bir başlangıç noktası verir.
  • Tutarlılık. Aynı metin, kim tarafından ve ne zaman gönderilirse gönderilsin aynı öneriyi alır.
  • Daha isabetli araştırma kapsamı. Olası alt sınıfları erkenden bilmek, araştırmayı patent ortamının doğru bölümüne odaklamaya yardımcı olur.

Bu fikir artık araştırma aşamasının ötesine geçmiştir. WIPO, IPCCAT adlı herkese açık bir araç sunmaktadır. Araç, özet gibi kısa bir metni alır ve en olası IPC sembollerini bir güven düzeyiyle birlikte önerir. Bu tür araçlar birer yardımcıdır. Bir başvurunun resmi sınıflandırması patent uzmanının kararı olmaya devam eder; çalışmadaki kavram kanıtı da uzmanların yerini almak için değil, onlara sınıflandırma önermek için tasarlanmıştır.

Buluş sahipleri ve başvuru sahipleri için pratik ders, sınıflandırma ile anahtar kelime aramasının birlikte en iyi sonucu verdiğidir. Anahtar kelime araması beklenmedik bir ifade kullanan belgeyi kaçırabilir, sınıf araması ise komşu bir kod altında dosyalanmış belgeyi kaçırabilir. İkisini birlikte kullanmak bu boşluğun büyük bölümünü kapatır. Farklı araştırma türleri ve hangisinin ne zaman kullanılacağı hakkında daha fazla bilgiyi patent bilgisi araştırması rehberimizde bulabilirsiniz.

Her WOIPS Aramasında Sınıflandırma

WOIPS Feature

Bu bölüm basit bir dersle sona eriyor: sınıflandırma ve anahtar kelime araması birlikte kullanıldığında en iyi sonucu verir. WOIPS bu dersi otomatik olarak uygular.

WOIPS'in iş akışı tabanlı yapay zeka arama süreci buluş tanımınızı okur ve buluşunuzun büyük olasılıkla ait olduğu IPC ve CPC sınıflarını belirler. Bu sınıflar, hiyerarşinin üçüncü düzeyi olan alt sınıf düzeyinde (örneğin C12P) kaydedilir ve aranır; böylece altındaki tüm gruplar ve alt gruplar kapsanır ve ilgili hiçbir alt grup kaçırılmaz.

Ardından WOIPS bu sınıfları arama sorgularında anahtar kelimelerinizle birleştirir; böylece doğru sınıfta dosyalanmış belgeler, beklenmedik kelimeler kullansa bile bulunur. Sınıflandırma sistemini kendiniz öğrenmeniz gerekmez. WOIPS'in sınıflandırma ile anahtar kelimeleri tek bir aramada nasıl birleştirdiğini görün.

Birleşik sistemin gerçek patent uzmanlarıyla nasıl bir performans gösterdiği dahil olmak üzere çalışmanın genel sonuçları için yapay zeka önceki teknik araştırmasına yardımcı olabilir mi? yazısına göz atabilirsiniz.

Sıkça Sorulan Sorular

Otomatik patent sınıflandırma nedir?
Otomatik patent sınıflandırma, bir patent belgesinin teknoloji kategorisini, örneğin IPC alt sınıfını, makine öğrenmesiyle tahmin eder. Model, patent uzmanlarının daha önce sınıflandırdığı patentlerden öğrenir ve bu örüntüleri yeni başvurulara uygular.

"Bedava öğle yemeği yok" teoremi patent sınıflandırma için ne anlama gelir?
Teorem, hiçbir öğrenme algoritmasının olası tüm problemlerde en iyi olmadığını söyler. Patent sınıflandırma açısından bu, algoritmanın ününe güvenilerek değil, adayların gerçek patent verisi üzerinde test edilmesiyle seçilmesi gerektiği anlamına gelir.

Aşırı öğrenme nedir ve çapraz doğrulama nasıl yardımcı olur?
Aşırı öğrenme, modelin eğitim verisini ezberleyip yeni belgelerde zayıf sonuç vermesidir. On katlı çapraz doğrulama, modeli verinin bir bölümüyle eğitip kalanıyla test etme işlemini tekrarlar ve görülmemiş patentlerdeki başarım için gerçekçi bir tahmin sunar.

Yapay zeka, başvuruların sınıflandırılmasında patent uzmanlarının yerini alabilir mi?
Hayır. Hem çalışmada hem de herkese açık araçlarda yapay zeka olası sınıflandırmaları önerir, son kararı ise bir uzman verir. Teknoloji işi hızlandırır ve standartlaştırır, ancak mesleki değerlendirme sürecin içinde kalır.

Patent sorgulama yapmak için IPC kodlarını bilmem gerekir mi?
Şart değil. Sınıflandırma kodları araştırmanın kalitesini artırır, ancak yapay zeka destekli patent sorgulama araçları buluşun düz bir dille yazılmış açıklamasını analiz ederek ilgili belgeleri sizin için bulabilir. Kodları anlamak, sonuçları daraltmak veya yeniden kontrol etmek istediğinizde yine de işe yarar.


This article is adapted from: UK Intellectual Property Office, AI-assisted patent prior art searching – feasibility study, April 2020, ISBN 978-1-910790-80-9, © Crown Copyright 2020, licensed under the Open Government Licence v3.0.