Nasıl çalışır

Dört motor, aynı sorular,
tekrarlı ölçüm

Dil modelleri olasılıksal çalışır: aynı soruya her seferinde aynı cevabı vermez. Bu yüzden tek ölçüm anlamsızdır. Her soru her motora birden çok kez sorulur ve tekrarlar arasındaki kararlılık ayrıca raporlanır.

Tur #07 · ölçüm ızgarası ölçülüyor
ChatGPT Claude Gemini Grok
20 soru × 4 motor × 3 tekrar 0 / 240 ölçüm
01

Soru seti kurulur

Sektörünüzde alıcının gerçekten sorduğu 20 soru birlikte belirlenir. Set iki tür soru içerir: kategori soruları markanızın adını içermez ve keşfedilme şansınızı ölçer; marka soruları adınızı içerir ve motorun sizi nasıl anlattığını ölçer.

kategoriBu alanda hangi kurumu önerirsin?
kategoriEn güvenilir seçenek hangisi?
marka… kurumu güvenilir mi?
02

Dört motora sorulur

ChatGPT, Claude, Gemini ve Grok. Her motor kendi arayüzünde, gerçek kullanıcının gördüğü koşullarda çalıştırılır.

ChatGPT87 sn Claude126 sn Gemini28 sn Grok58 sn
03

Üç kez tekrarlanır

Aynı soru aynı motora üç kez sorulur. Üçünde de aynı sonuç çıkmazsa bu rapora yazılır; tek ölçüm kesin sonuç sayılmaz.

1. tekraranıldı3.
2. tekraranıldı5.
3. tekraranılmadı

Üçü tutmadı → rapora “kararsız” yazılır

04

Cevap çözümlenir

Marka geçti mi, kaçıncı sırada, hangi tonda, doğrudan önerildi mi, hangi rakipler anıldı, motor cevabında hangi kaynaklara atıf gösterdi. Çözümleme kendi sunucumuzda yapılır.

“… bu alanda öne çıkan kurumlardan biri olarak sayılabilir; ayrıca iki rakip daha listelenebilir.”
anıldısıra 2ton: nötrönerilmedi
05

Rapor üretilir

Yönetici özeti üstte, ham kanıt altta. Her oranın altında motorun gerçek cümlesi durur.

%81
ham kanıt
Ölçüm tasarımı

Bir turda ne oluyor?

20 soruSektöre göre hazırlanır, marka adı geçmez
4 motorChatGPT · Claude · Gemini · Grok
3 tekrarHer soru her motora üç kez
240 ölçümTek turda toplam kayıt

Neden tekrar şart

Aynı soruyu bir motora arka arkaya sorduğunuzda farklı cevaplar alabilirsiniz. Ölçtüğümüz turlarda soru-motor çiftlerinin bir bölümünde tekrarlar arasında sonuç değişti. Bu yüzden rapor tek bir fotoğraf değil, kararlılık bilgisiyle birlikte verilir.

20soru
×
4motor
×
3tekrar
=
240ölçüm

Yöntem ve sınırlar →