Gözlemci Uyumu · Cohen Kappa, aynı birimleri aynı nominal kategorilerle değerlendiren iki gözlemcinin sonuçlarını özetler. Girdi, her iki değerlendirmenin birlikte sayıldığı kare bir tablodur. Araç bu tablodan gözlenen uyumu Po, kategori toplamlarından beklenen uyumu Pe ve ağırlıksız Cohen kappa katsayısını hesaplar. Hesaplamak.Net üzerindeki çıktı, iki gözlemcinin ne ölçüde aynı sınıflamayı yaptığını anlatmaya yardımcı olur. Gözlemcilerin doğru cevabı bulduğunu, ölçümün geçerli olduğunu veya belirli bir kullanım için yeterli kaliteye ulaştığını tek başına kanıtlamaz.

İlk hazırlık, iki gözlemcinin gerçekten aynı birimleri değerlendirdiğini kontrol etmektir. Birimler kişi, belge, ürün veya başka bir nesne olabilir; her birim için iki gözlemciden birer kategori bulunmalıdır. Bir gözlemcinin değerlendirdiği yüz farklı kişiyle diğerinin değerlendirdiği başka yüz kişiyi yalnız kategori toplamlarından eşleştiremezsiniz. Ortak sayım tablosu gerçek eşleşmiş kayıtları gerektirir. Araç yalnız hücre adetlerini gördüğünden, birim kimliklerini veya değerlendirmelerin doğru eşleştirildiğini kendi başına denetleyemez. Bu kontrol, tablo oluşturulmadan önce veriniz üzerinde yapılmalıdır.

Aynı kategorileri aynı sıraya yerleştirme

Satırlar gözlemci 1'in, sütunlar gözlemci 2'nin kategorileridir. Her iki eksende aynı kategori listesi aynı sırada bulunmalıdır. Örneğin ilk konum bir kategoriye karşılık geliyorsa hem ilk satır hem ilk sütun aynı gerçek anlamı taşımalıdır. Sonuçta kullanılan K1, K2 gibi adlar bu ortak konumları belirtir. K1 bir puan veya daha düşük derece anlamına gelmez. Kategori adlarını kendi çalışma notunuzda koruyun ve tabloyu aktarırken her konumun hangi anlama geldiğini açıkça kontrol edin.

Her hücre, satırdaki gözlemci 1 kategorisiyle sütundaki gözlemci 2 kategorisinin aynı birimde kaç kez birlikte görüldüğünü sayar. Ana köşegen, yani aynı konumdaki satır ve sütunun kesişimi, iki gözlemcinin aynı kategoriyi seçtiği birimleri içerir. Köşegen dışındaki hücreler farklı kategori seçilen birimleri gösterir. Bu yorum ancak iki eksenin kategori eşlemesi doğruysa geçerlidir. Bir gözlemcinin kullandığı kodların diğerindeki anlamını kontrol etmeden yalnız sayısal kodları aynı kabul etmek, uyumu olduğundan farklı gösterebilir.

Kategori sırasını değiştirmek isterseniz aynı değişimi hem satırlara hem sütunlara uygulayın. Aynı kategorilerin iki eksende birlikte yeniden sıralanması Po, Pe ve kappayı değiştirmez; yalnız tablodaki konumları değiştirir. Buna karşılık yalnız satırları veya yalnız sütunları yeniden sıralamak, hangi hücrelerin aynı kategori sayıldığı eşlemesini bozabilir. Böyle bir işlem gözlemcilerin gerçek yanıtlarını iyileştirmez veya kötüleştirmez; tablonun anlamını değiştirir. Sonucu yükseltmek amacıyla tek ekseni sıralamak yerine önce kategori sözlüğünü ve kayıt eşleşmesini doğrulayın.

Sayım tablosunu girme

Her dolu satır tablonun bir satırıdır; hücreler noktalı virgülle ayrılır. Bir sonraki satıra geçmek için yeni satır kullanın. Her satırda aynı sayıda hücre bulunmalı ve satır sayısı sütun sayısına eşit olmalıdır. Başlık, kategori adı veya toplam satırı eklemeyin. Araç satır ve sütun toplamlarını kendisi hesaplar. Sayıların çevresindeki boşluklar ile tamamen boş satırlar yok sayılır. Eksik hücreler sıfırla doldurulmaz; her kategori kesişimi için gerekli sayımı açıkça yazmanız gerekir.

Bir ile on kategori arasında kare tablo kabul edilir. Her hücre sıfır ile 1.000.000.000 arasında negatif olmayan tam sayı olmalıdır. Girdi uzunluğu 20.000 karakteri geçemez. Alana yalnız rakamları yazın; binlik ayırıcı, yüzde, ondalık sayı, artı veya eksi işareti ve bilimsel gösterim kullanmayın. Baştaki sıfırlar sayının değerini değiştirmez. Genel toplam pozitif olmalıdır; bütün hücrelerin sıfır olduğu tablo kabul edilmez. Tek kategorili bir tablo ise kabul edilebilir, ancak kappa açısından tanımsız özel durumu oluşturur.

Bir gözlemcinin kullanmadığı kategori için satır veya sütun toplamı sıfır olabilir. Bu, tablonun reddedilmesini gerektirmez. Aynı kategori diğer gözlemci tarafından kullanılmış veya iki gözlemci tarafından da hiç kullanılmamış olabilir. Araç bu konumları korur ve kullanılmayan kategori sayılarını ayrıca gösterir. Gözlemlenmemiş bir kategoriye yapay sayım eklemeyin. İki gözlemcinin farklı kategori kümelerini bağımsız biçimde küçültmek de ortak eşlemeyi bozabilir. Kategoriler çalışma başında tanımlanmışsa sıfır konumları doğru yerde tutarak tabloyu bu ortak listeye göre kurun.

Gözlenen uyum Po

Gözlenen uyum Po, ana köşegendeki sayımların toplamının bütün eşleşmiş birim sayısına bölünmesidir. İki gözlemci her birimde aynı kategoriyi seçtiğinde Po bir, hiç aynı kategoriyi seçmediklerinde sıfır olur. Araç bunu oran, yüzde ve kesin kesir olarak gösterir. Aynı kategori sayımı ile farklı kategori sayımının toplamı bütün birim sayısına eşittir. Bu temel sayılar, tablonun doğru aktarıldığını kontrol etmek ve gözlenen uyumun nasıl oluştuğunu görmek için birlikte okunmalıdır.

Yüksek Po, iki gözlemcinin sıkça aynı yanıtı verdiğini gösterir; yanıtlarının doğru olduğunu göstermez. İki kişi aynı kurala göre aynı hatayı yapabilir veya bütün birimleri tek bir kategoriye yerleştirebilir. Gerçek doğruluk hakkında konuşmak için ayrıca güvenilir bir referans ve uygun değerlendirme tasarımı gerekir; bu araç böyle bir referans istemez. Benzer biçimde gözlemcilerin farklı yanıt vermesi, hangisinin doğru olduğunu söylemez. Uyum ve doğruluk farklı sorulardır; sonucu kullanırken bu ayrımı açık tutun.

Kategori toplamlarından beklenen uyum Pe

Her kategori için gözlemci 1'in o kategoriyi kaç kez seçtiği satır toplamından, gözlemci 2'nin seçimi sütun toplamından bulunur. Bu iki toplam çarpılır; bütün kategorilerin çarpımları toplanıp genel toplamın karesine bölünür. Böylece Pe = Σ(Rᵢ × Cᵢ) / N² elde edilir. Pe, iki gözlemcinin kategori kullanım oranlarını temel alan beklenen uyumdur. Bu hesap, gözlemcilerin gerçekten rastgele yanıt verdiğini veya karar verirken nasıl düşündüğünü gözlemlemiş değildir; marjinlere dayalı karşılaştırma düzeyini tanımlar.

Kategori toplamlarına marjin de denir. Bir kategorinin çok sık seçilmesi veya gözlemcilerin kullanım oranlarının birbirinden farklı olması Pe'yi etkileyebilir. Bu yüzden aynı Po yüzdesine sahip iki tablo aynı kappayı vermek zorunda değildir. Uyum tablosundaki yaygınlık ve kategori dağılımı, katsayının bağlamının bir parçasıdır. Sonucu aktarırken yalnız kappa değerini bırakmak yerine Po, Pe ve kategori toplamlarını da saklayın. Böylece farklı çalışmaların veya farklı dönemlerin neden aynı gözlenen uyuma rağmen başka katsayılar verdiğini değerlendirmek daha kolay olur.

Cohen kappa ve işareti

Ağırlıksız Cohen kappa κ = (Po − Pe) / (1 − Pe) ile hesaplanır. Pe birden küçükken gözlenen uyum beklenen uyuma eşitse kappa sıfırdır. Po, Pe'den büyükse kappa pozitif; küçükse negatif olur. Negatif sonuç sıfıra çevrilmez veya gizlenmez. Bu işaret, gözlenen eşleşmenin marjinlerden beklenen düzeyin altında kaldığını anlatır. Gözlemcilerden birinin kötü, başarısız veya klinik olarak güvenilmez olduğu şeklinde otomatik bir kişisel değerlendirme üretmez.

Araç bütün kategori farklılıklarını ağırlıksız ele alır. K1 yerine K2 seçilmesi ile K1 yerine K3 seçilmesine ayrı bir uzaklık puanı verilmez; ikisi de farklı kategoridir. Kategorilerin gerçek bir sırası veya aralarında anlamlı dereceler bulunsa bile bu araç o bilgiyi ağırlığa dönüştürmez. Nominal kategori numaralarını puan gibi yorumlamayın. Ağırlıklı veya sıralı kategori yöntemleri, güven aralığı ve p değeri bu hesabın kapsamı dışındadır. Sonuç bunlardan biri hesaplanmış gibi raporlanmamalıdır.

Kappa için evrensel iyi, kötü, zayıf, güçlü veya klinik yeterli etiketleri verilmez. Değerin kullanımını değerlendirirken birimlerin nasıl seçildiği, kategori tanımları, gözlem koşulları ve kullanım amacı önem taşır. Küçük veya seçilmiş bir örneklemde bulunan tek bir katsayı, gelecekteki bütün değerlendirmeler için güvence oluşturmaz. Ayrıca bu araç katsayıya ilişkin belirsizlik aralığı üretmez. Ondalık gösterimde çok basamak bulunması, çalışmanın kesinliği veya örneklemin temsil gücü hakkında ek bilgi sağlamaz; bu konular sayıdan ayrı değerlendirilmelidir.

Pe bir olduğunda neden tanımsız?

Pe bir olduğunda formüldeki 1 − Pe paydası sıfırdır ve kappa tanımsız kalır. Bu durumda araç sıfır veya bir atamak yerine açıkça “Tanımsız · Pe = 1” gösterir. Gözlenen uyum yüzde yüz olsa bile bu değişmez. Örneğin iki gözlemci bütün birimleri tek bir ortak kategoriye yerleştirmişse Po da Pe de bir olabilir. Tam gözlenen uyum vardır, fakat bu formülle hesaplanacak bir kappa değeri yoktur. Tanımsızlık ile uyumsuzluk aynı anlamda değildir.

Pozitif sayımlı bir kategoriden oluşan 1×1 tablo da bu özel duruma girer. Tablo biçim olarak geçerli olduğu için kabul edilir; yapay ikinci kategori veya sahte gözlem eklenmez. Daha büyük bir tabloda yalnız tek ortak kategori kullanılmışsa diğer sıfır kategoriler korunur ve yine Pe bir çıkabilir. Tanımsız sonuç, bir yazım hatası veya eksik sayım olduğu anlamına gelmeyebilir. Önce kategori dağılımına bakın; yalnız bir katsayı elde etmek için gerçek veriyi veya kategori anlamlarını değiştirmeyin.

Eşleşmiş değerlendirmeleri inceleme

İki gözlemcinin aynı birimleri değerlendirdiğini kontrol edin. Her iki eksende aynı kategori adlarını aynı sırayla eşleyin. Satır gözlemci 1 ve sütun gözlemci 2 olacak biçimde sayım matrisini girin. Po, Pe ve kappayı kategori toplamlarıyla birlikte okuyun; evrensel kalite kararı çıkarmayın.

İlk kontrolde genel toplamı, aynı kategori sayımını ve iki gözlemcinin kategori toplamlarını kendi eşleşmiş kayıtlarınızla karşılaştırın. Bir gözlemcide eksik değerlendirme varsa onu otomatik olarak başka bir kategoriye yerleştirmeyin. Bu araca girilen her sayım iki değerlendirmesi de tanımlı aynı birimi temsil etmelidir. Eksik kayıtlarla nasıl çalıştığınızı kendi çalışma planınızda açıkça belirleyin ve sonucu aktarırken kullanılan birim sayısını koruyun. Araç eksik eşleşmeleri tahmin etmez veya katılımcıları kategori toplamlarından yeniden üretmez.

Kategori düzenini kontrol etme

Kategori listesini ve iki gözlemcinin kodlarının anlamını yan yana karşılaştırın. Kullanılmayan kategorileri sıfır sayımlarıyla aynı konumda koruyun. Sıra değişecekse aynı kategori değişimini hem satırlara hem sütunlara uygulayın. Tekrar hesaplayıp toplam sayımı, Po, Pe ve kappayı önceki düzenle karşılaştırın.

İki gözlemcinin kodları farklı biçimde yazılmış olabilir; önemli olan aynı konuma aynı gerçek kategorinin yerleştirilmesidir. Eşleme yaparken yalnız harf veya sayı benzerliğine güvenmeyin. Ortak kategori sözlüğünü oluşturun ve dönüşümün gerçek değerlendirme anlamını değiştirmediğini kontrol edin. İki eksende aynı kategori değişimi uygulandığında katsayı değişiyorsa aktarılan sayımları ve konumları yeniden inceleyin. Bu karşılaştırma bir veri düzenleme kontrolüdür; gözlemcilerin uyumunun zaman içinde iyileştiğine dair yeni bir gözlem oluşturmaz.

Sonuçları saklama ve veri kullanımı

Hesaplayıcı kullanıcı girdilerini veya sonuçlarını ağ üzerinden göndermez. Her hesap yalnız o anda verilen tabloyu kullanır; önceki tablodaki sayımlar yeni hesaba eklenmez. Sonucu kendi çalışma notunuzda saklayacaksanız kategori listesini, iki eksenin anlamını, eşleşmiş birim sayısını ve asıl sayım tablosunu birlikte koruyun. Yalnız kappa değerini paylaşmak, özellikle kullanılmayan kategorilerin veya çok baskın tek bir kategorinin bulunduğu durumlarda, sonucun nasıl oluştuğunu anlamak için yeterli bilgi vermeyebilir.

Po, Pe ve tanımlı kappa için kesin kesirler verilir; ondalık gösterimler okunabilirlik için yaklaşık olabilir. Kesir biçiminin bulunması örnekleme belirsizliğinin ortadan kalktığını söylemez. Hücrelerin rakamlarla doğru yazılması, kategori eşlemesinin veya birim eşlemesinin doğru olduğu garantisini de vermez. Hesap öncesinde sayımın doğruluğunu, sonrasında ise sonucun bağlamını inceleyin. Yanlış bir konuma taşınmış tek bir sayım hem köşegen toplamını hem kategori toplamlarını değiştirebilir; böyle bir düzeltmeden sonra bütün tablo yeniden hesaplanmalıdır.

Kaynaklar, erişim ve kullanım hakları

Formül için [NIST CCU Phase 1 Evaluation Plan, C.4.6 Cohen’s Kappa, sayfa 27](https://www.nist.gov/system/files/documents/2023/02/21/CCU_Eval_Plan_20220221.pdf) ile [Sophie Vanbelle, Agreement between raters and groups of raters, §2.3.1–2.3.2](https://orbi.uliege.be/bitstream/2268/39575/1/vanbelle-thesis-5-5-2009.pdf) esas alınmıştır. İlk belgede yalnız ilgili bölüm ile kapak ve açıklama; tezde ise ilgili bölümler ile kapak incelenmiştir. Belgelerin tamamının okunduğu iddia edilmez. Buradaki yöntem anlatımı ve örnekler özgün hazırlanmıştır; kaynakların örnekleri, kodları, tabloları, şekilleri veya program protokolü kopyalanmamıştır.

Kategori eşlemesi ve kullanılmayan kategorilere ilişkin açıklama için [UCLA OARC · kappa.htm](https://stats.oarc.ucla.edu/other/mult-pkg/faq/kappa-htm/) kaynak alınmıştır. Bu kaynak başvurusu, kullanılmayan kategorilere sahte gözlem ekleme veya yapay ağırlık oluşturma işlemi yapıldığı anlamına gelmez. Araç doğrudan gerçek sayımları ve ortak kategori konumlarını kullanır. UCLA sayfasındaki hak bildirimi © 2026 Regents of the University of California olarak korunur. Bir kaynağın erişilebilir olması bütün içeriğinin sınırsız biçimde yeniden yayımlanmasına izin veren bir lisans olarak ele alınmamıştır.

Kaynaklara 18 Ekim 2026 tarihinde 12:06:18–12:06:40 UTC aralığında erişilmiştir. Erişim zamanı yayın tarihi değildir. NIST belgesinde açıkça belirtilen son güncelleme 21 Şubat 2023'tür; dosya adındaki başka tarih yayın tarihi yerine kullanılmaz. Vanbelle tezinin kapakta belirtilen tarihi Haziran 2009'dur; dosya adından gün düzeyinde yayın tarihi çıkarılmaz. UCLA sayfası için doğrulanmış yayın tarihi verilmez. Bu tarihler yöntem kaynaklarını tanımlar; kullanıcıların değerlendirmelerine ilişkin veri toplama tarihlerini veya çalışma onayını göstermez.

NIST belgesinin açıklama ve kullanım sınırları gözetilir; burada belirli bir kurumun değerlendirme protokolü yeniden uygulanmış veya onayı alınmış gibi sunulmaz. Vanbelle tezi için doğrulanmış bir açık lisans varsayılmaz. Bu rehber, özgün bir matematiksel açıklama ve dar kapsamlı hesap sunar. Kaynak gösterilmesi, gözlemcilerinizin performansının kurumsal veya klinik açıdan onaylandığı anlamına gelmez. Kappa, Po ve Pe'nin nasıl raporlanacağı çalışmanızın amacı ve tasarımıyla birlikte değerlendirilmelidir; araç evrensel kabul eşiği veya yeterlilik kararı vermez.

Örnek 1: İki kategoride eşleşmiş değerlendirmeler

Sayım tablosu alanına aşağıdaki satırları sırayla girin. Her tablo satırındaki metin ayrı bir girdi satırıdır; satırlar gözlemci 1, sütunlar gözlemci 2 için aynı kategori sırasını kullanır.

SatırSayım tablosu alanındaki metin
130;10
25;55

Sonuç kartı: Cohen kappa: 0,68085106383.

Sonuç satırıGörünen değer
YöntemCohen kappa · nominal ve ağırlıksız
Kategori sayısı2 kategori
Eşleşmiş birim sayısı100 birim
Aynı kategori sayımı85 birim
Farklı kategori sayımı15 birim
Gözlemci 1 kategori toplamlarıK1: 40; K2: 60
Gözlemci 2 kategori toplamlarıK1: 35; K2: 65
Gözlenen uyum Po0,85
Gözlenen uyum yüzdesi85%
Marjinlerden beklenen uyum Pe0,53
Beklenen uyum yüzdesi53%
Po kesin kesri17/20
Pe kesin kesri53/100
Cohen kappa0,68085106383
Kappanın kesin kesri32/47
Gözlemci 1 için kullanılmayan kategori0 kategori
Gözlemci 2 için kullanılmayan kategori0 kategori
İki gözlemcide de kullanılmayan kategori0 kategori
Kategori eşlemesiHer iki eksende aynı kategori sırası
Evrensel kalite ve klinik yorumÜretilmez

Aşağıdaki hücre tablosu sıfır sayımlar dahil bütün kategori kesişimlerini gösterir.

Gözlemci 1Gözlemci 2SayımAynı kategori mi?
K1K130Evet
K1K210Hayır
K2K15Hayır
K2K255Evet

Ana köşegendeki 30 ve 55 sayımları toplam 85 eşleşmiş birimde aynı kategori seçildiğini gösterir. Genel toplam 100 olduğundan Po yüzde 85'tir. Kategori toplamları Pe değerini yüzde 53 verir. Bu iki değerin kappa formülündeki karşılığı 32/47, yaklaşık 0,68085106383 olur. On beş birimde farklı kategori seçilmiştir. Sonuç iki gözlemcinin uyumunu betimler; hangi gözlemcinin doğru sınıflama yaptığını veya bu katsayının belirli bir kullanım için yeterli olduğunu tek başına söylemez.

Örnek 2: Negatif kappa ve karşıt sınıflamalar

Sayım tablosu alanına aşağıdaki satırları sırayla girin. Her tablo satırındaki metin ayrı bir girdi satırıdır; satırlar gözlemci 1, sütunlar gözlemci 2 için aynı kategori sırasını kullanır.

SatırSayım tablosu alanındaki metin
10;4
24;0

Sonuç kartı: Cohen kappa: -1.

Sonuç satırıGörünen değer
YöntemCohen kappa · nominal ve ağırlıksız
Kategori sayısı2 kategori
Eşleşmiş birim sayısı8 birim
Aynı kategori sayımı0 birim
Farklı kategori sayımı8 birim
Gözlemci 1 kategori toplamlarıK1: 4; K2: 4
Gözlemci 2 kategori toplamlarıK1: 4; K2: 4
Gözlenen uyum Po0
Gözlenen uyum yüzdesi0%
Marjinlerden beklenen uyum Pe0,5
Beklenen uyum yüzdesi50%
Po kesin kesri0
Pe kesin kesri1/2
Cohen kappa-1
Kappanın kesin kesri-1
Gözlemci 1 için kullanılmayan kategori0 kategori
Gözlemci 2 için kullanılmayan kategori0 kategori
İki gözlemcide de kullanılmayan kategori0 kategori
Kategori eşlemesiHer iki eksende aynı kategori sırası
Evrensel kalite ve klinik yorumÜretilmez

Aşağıdaki hücre tablosu sıfır sayımlar dahil bütün kategori kesişimlerini gösterir.

Gözlemci 1Gözlemci 2SayımAynı kategori mi?
K1K10Evet
K1K24Hayır
K2K14Hayır
K2K20Evet

Sekiz birimin hiçbirinde iki gözlemci aynı kategoriyi seçmemiştir; Po sıfırdır. Buna karşılık iki gözlemci de her kategoriyi dört kez kullandığından marjinlerden beklenen uyum 0,5 olur. Po beklenen düzeyin altında kaldığı için kappa -1'dir ve eksi işareti korunur. Böyle bir tablo önce kategori kodları ve gerçek eşleşmeler açısından dikkatle incelenebilir. Katsayı bir gözlemcinin kişisel niteliğini veya klinik yeterliliğini otomatik etiketlemez; verilen sayımların matematiksel karşılığını gösterir.

Örnek 3: Kullanılmayan kategoriler ve tanımsız kappa

Sayım tablosu alanına aşağıdaki satırları sırayla girin. Her tablo satırındaki metin ayrı bir girdi satırıdır; satırlar gözlemci 1, sütunlar gözlemci 2 için aynı kategori sırasını kullanır.

SatırSayım tablosu alanındaki metin
110;0;0
20;0;0
30;0;0

Sonuç kartı: Cohen kappa: Tanımsız · Pe = 1.

Sonuç satırıGörünen değer
YöntemCohen kappa · nominal ve ağırlıksız
Kategori sayısı3 kategori
Eşleşmiş birim sayısı10 birim
Aynı kategori sayımı10 birim
Farklı kategori sayımı0 birim
Gözlemci 1 kategori toplamlarıK1: 10; K2: 0; K3: 0
Gözlemci 2 kategori toplamlarıK1: 10; K2: 0; K3: 0
Gözlenen uyum Po1
Gözlenen uyum yüzdesi100%
Marjinlerden beklenen uyum Pe1
Beklenen uyum yüzdesi100%
Po kesin kesri1
Pe kesin kesri1
Cohen kappaTanımsız · Pe = 1
Kappanın kesin kesriTanımsız · Pe = 1
Gözlemci 1 için kullanılmayan kategori2 kategori
Gözlemci 2 için kullanılmayan kategori2 kategori
İki gözlemcide de kullanılmayan kategori2 kategori
Kategori eşlemesiHer iki eksende aynı kategori sırası
Evrensel kalite ve klinik yorumÜretilmez

Aşağıdaki hücre tablosu sıfır sayımlar dahil bütün kategori kesişimlerini gösterir.

Gözlemci 1Gözlemci 2SayımAynı kategori mi?
K1K110Evet
K1K20Hayır
K1K30Hayır
K2K10Hayır
K2K20Evet
K2K30Hayır
K3K10Hayır
K3K20Hayır
K3K30Evet

İki gözlemci bütün on birimde K1'i seçmiştir; K2 ve K3 iki gözlemcide de kullanılmamıştır. Bu sıfır konumlar silinmez. Po yüzde yüz, Pe de yüzde yüzdür. Kappa formülünün paydası sıfır olduğundan sonuç tanımsız gösterilir; yüzde yüz gözlenen uyuma rağmen kappa bir olarak atanmaz. Kullanılmayan kategori sayılarının her gözlemcide iki olması tablodaki boş konumlarla tutarlıdır. Bu durum, gerçek sayımları değiştirmeden Po, Pe ve tanımsızlık açıklamasıyla birlikte raporlanabilir.