Korelasyon ve regresyon: EKK tahmini, R², katsayı testleri, varsayım ihlalleri

İki ya da daha çok değişken arasındaki doğrusal ilişkiyi ölçmek ve modellemek: korelasyon, EKK tahmini, uyum iyiliği, katsayı testleri ve varsayım ihlalleri.

6 durakKPSS A
12 etkinlikeşleştir · sırala · doldur · çöz
0 / 12tamamlanan etkinlik
Sorularuygulamaya ekleniyor
KORELASYON · KAVRAM

Pearson korelasyon katsayısı: doğrusal ilişkinin yönü ve gücü

İstatistik · Regresyon Analizi · Okuma 6 dk · 2 etkinlik

Önce hatırlaSpearman sıra korelasyon katsayısı nasıl hesaplanır, Kolmogorov–Smirnov ve dizi testi neyi sınar?Bağlantılı konudan (Parametrik olmayan testler). Önce kendin cevapla, sonra aç.

Spearman sıra korelasyonu iki değişkenin sıraları arasındaki ilişkiyi ölçer: rs = 1 − 6Σd²/[n(n² − 1)], −1 ile 1 arasındadır. Kolmogorov–Smirnov testi, örneklemin birikimli dağılımı ile tam belirtilmiş sürekli bir dağılım arasındaki en büyük farkı (D) kullanır. Dizi (run) testi, bir dizideki ardışık aynı sembol öbeklerinin sayısıyla rastgeleliği sınar.

Spearman, Kolmogorov–Smirnov, dizi testi

Hatırladın mı?

✎Konu anlatımı

Pearson korelasyon katsayısı nasıl hesaplanır, hangi değerleri alır ve nasıl test edilir?

Kısa cevap: Kovaryans iki değişkenin birlikte değişme yönünü gösterir ama ölçü birimine bağlıdır. Pearson korelasyon katsayısı kovaryansı iki standart sapmanın çarpımına bölerek birimsiz yapar: r = Sxy/√(SxxSyy), −1 ≤ r ≤ 1. r yalnız doğrusal ilişkinin gücünü ölçer. H₀: ρ = 0, n − 2 serbestlik dereceli t istatistiğiyle sınanır; korelasyon nedensellik kanıtı değildir.

Bir vergi dairesinin beş servisinde haftalık eğitim saati arttıkça günde sonuçlandırılan dosya sayısı da artıyor görünüyor. Bu birliktelik ne kadar güçlü, ve eğitimin dosya sayısını artırdığını kanıtlar mı?

Olasılık temelleri sayfasında gördüğümüz kovaryans ilk ipucunu verir: ortalamanın üstündeki x'ler ortalamanın üstündeki y'lerle birlikte geliyorsa çarpımlar artı, toplamları da artı olur. Ama kovaryansın büyüklüğü birime bağlıdır: eğitim saat yerine dakikayla ölçülse kovaryans 60 katına çıkar, ilişki değişmediği hâlde. Çare, kovaryansı iki değişkenin standart sapmasına bölmektir; sonuç birimsiz bir sayı olan Pearson korelasyon katsayısı r'dir (anakütlede ρ).

Sxy = Σ(x − x̄)(y − ȳ) = Σxy − nx̄ȳ sxy = Sxy/(n − 1) r = Sxy√(SxxSyy) = sxysxsySxx = Σ(x − x̄)², Syy = Σ(y − ȳ)²; n − 1'ler pay ve paydada sadeleşir.
Çözümlü örnek

Beş serviste haftalık eğitim saati x: 1, 2, 3, 4, 5; günlük dosya sayısı y: 3, 5, 4, 7, 6. Kovaryans ve r nedir?

  1. x̄ = 3, ȳ = 5. Sapmalar x için −2, −1, 0, 1, 2; y için −2, 0, −1, 2, 1.
  2. Sxy = 4 + 0 + 0 + 2 + 2 = 8, Sxx = 10, Syy = 10.
  3. sxy = 8/4 = 2; r = 8/√(10 · 10) = 0,8.

Cevap: kovaryans 2, r = 0,8: güçlü, pozitif doğrusal ilişki.

r yalnız doğru boyunca sıralanmayı ölçer. Ortadaki U biçiminde y tamamen x'e bağlıdır, ama artı ve eksi sapmalar birbirini götürdüğü için r sıfırdır.Görsel: Sınav Defteri
r'nin özellikleri
ÖzellikAnlamı
Birimsiz, −1 ≤ r ≤ 1farklı birimlerle ölçülen çiftler karşılaştırılabilir
r = ±1bütün noktalar tek bir doğrunun üstünde
Doğrusal dönüşümaX + b ile cY + d arasındaki korelasyon r'dir; a · c < 0 ise işaret döner, büyüklük değişmez
r = 0doğrusal ilişki yok; eğrisel ilişki olabilir (bağımsızlık ancak ortak normal dağılımda çıkar)

r'nin anlamlılık testi

Örneklemde bulunan r = 0,8, anakütlede ρ = 0 iken şans eseri çıkmış olabilir mi? Hipotez testleri sayfasında gördüğümüz t testi burada şu biçimi alır: t = r√(n − 2)/√(1 − r²), H₀ altında n − 2 serbestlik dereceli. İki derece kaybedilir, çünkü arkasında iki parametreli bir doğru tahmin edilmektedir.

Çözümlü örnek · anlamlılık

Servis verisinde (n = 5, r = 0,8) α = 0,05'te iki yönlü olarak ρ = 0 reddedilir mi? (t0,025; 3 = 3,182)

  1. t = 0,8 · √3/√0,36 = 0,8 · 1,732/0,6 ≈ 2,31.
  2. 2,31 < 3,182 ⇒ H₀ reddedilmez.

Cevap: r büyük görünse de beş gözlemle anlamlı değildir. Tersine, n = 100'de r = 0,2 bile anlamlı çıkar (t ≈ 2,02 > 1,98).

Parametrik olmayan testler sayfasında gördüğümüz Spearman sıra korelasyonu, aynı r'nin sıralara uygulanmış hâlidir; sıralama ölçeğinde ya da aykırı değer varken seçilir. Hangisi olursa olsun, yüksek korelasyon "X, Y'ye yol açar" demez: ilçe nüfusu hem itfaiye aracı sayısını hem yangın sayısını artırır.

Akılda kalsın: r = kovaryans ÷ (sx · sy): birimsiz, −1 ile 1 arası, yalnız doğrusal. r = 0, "ilişki yok" değil "doğrusal ilişki yok" demektir. Testin sd'si n − 2.
Sınavda

Nasıl sorulurÖzet toplamlar (Σx, Σy, Σxy, Σx², Σy²) verilip r hesaplatılır; değişkenlere doğrusal dönüşüm uygulanınca r'nin ne olacağı sorulur; r için t istatistiği istenir.

TuzakKovaryansı birimsiz sanmak, X'i negatif bir sayıyla çarpınca işaretin döndüğünü unutmak, r = 0'ı bağımsızlık saymak ve testin sd'sini n − 1 almaktır.

⇄Bilgi eşleştirme ölçü ↔ özellik

?Soru çöz

X ile Y arasındaki Pearson korelasyon katsayısı 0,6'dır. Buna göre aşağıdaki ifadelerden hangileri kesinlikle doğrudur?
I. X ile Y arasındaki kovaryans 0,6'dır.
II. U = 3X + 2 ile Y arasındaki korelasyon katsayısı 0,6'dır.
III. V = −2Y ile X arasındaki korelasyon katsayısı −0,6'dır.

✓ C. II: pozitif katsayıyla çarpmak ve sabit eklemek r'yi değiştirmez. III: Y negatif sayıyla çarpılınca büyüklük kalır, işaret döner. I yanlıştır: kovaryans r · sx · sy'dir; standart sapmalar bilinmeden 0,6 denemez. A, B ve D kovaryansı korelasyonla aynı sanır; B ayrıca işaret dönüşünü (III) atlar.
REGRESYON · MODEL

Basit doğrusal regresyon: en küçük kareler doğrusu

İstatistik · Regresyon Analizi · Okuma 6 dk · 2 etkinlik

Önce hatırlaPearson korelasyon katsayısı nasıl hesaplanır, hangi değerleri alır ve nasıl test edilir?Bu sayfanın başından. Önce kendin cevapla, sonra aç.

Kovaryans iki değişkenin birlikte değişme yönünü gösterir ama ölçü birimine bağlıdır. Pearson korelasyon katsayısı kovaryansı iki standart sapmanın çarpımına bölerek birimsiz yapar: r = Sxy/√(SxxSyy), −1 ≤ r ≤ 1. r yalnız doğrusal ilişkinin gücünü ölçer. H₀: ρ = 0, n − 2 serbestlik dereceli t istatistiğiyle sınanır; korelasyon nedensellik kanıtı değildir.

Kovaryans ve Pearson korelasyonu

Hatırladın mı?

✎Konu anlatımı

Basit doğrusal regresyonda en küçük kareler yöntemiyle eğim ve sabit terim nasıl hesaplanır?

Kısa cevap: Basit doğrusal regresyon modeli Y = β₀ + β₁X + ε'dir. En küçük kareler (EKK) yöntemi, artıkların kareleri toplamını en küçük yapan doğruyu seçer: b₁ = Sxy/Sxx, b₀ = ȳ − b₁x̄. Bu doğru her zaman (x̄, ȳ) noktasından geçer ve artıkların toplamı sıfırdır. Eğim korelasyona bağlıdır: b₁ = r · sy/sx.

Aynı vergi dairesi, bir servisin haftalık eğitimini 3,5 saate çıkarırsa günde kaç dosya beklemeli? Korelasyon "birlikte artıyor" der; sayı vermek için bir doğru gerekir.

Korelasyon simetriktir; regresyon ise yönlüdür: X açıklayıcı (bağımsız), Y bağımlı değişkendir. Modeldeki β₁ eğimdir (Hipotez testlerindeki Tip II hata olasılığı β ile karıştırma); β₀ sabit terim, ε ise X'in açıklamadığı her şeyi taşıyan hata terimidir. Örneklemden bulunan tahminler β̂₀ = b₀ ve β̂₁ = b₁ diye yazılır. Her gözlem için artık ei = yi − ŷi, gözlenen değer ile doğrunun verdiği değer arasındaki dikey uzaklıktır.

Neden kareler? Artıların ve eksilerin birbirini götürmemesi için. Σei² ifadesinin b₀ ve b₁'e göre türevleri sıfıra eşitlenince iki normal denklem çıkar: Σy = nb₀ + b₁Σx ve Σxy = b₀Σx + b₁Σx². Birincisi n'e bölününce ȳ = b₀ + b₁x̄ olur: doğru ortalamalar noktasından geçer.

b1 = SxySxx = r · sysx b0 = ȳ − b1x̄ ŷ = b0 + b1xΣei = 0 ve Σxiei = 0: artıklar açıklayıcıyla ilişkisizdir.
EKK doğrusu, kesikli dikey çizgilerin (artıkların) kareleri toplamını en küçük yapan doğrudur. Artıkların toplamı sıfırdır ve doğru ortalamalar noktasından geçer.Görsel: Sınav Defteri
Çözümlü örnek · temel

Servis verisinde (Sxy = 8, Sxx = 10, x̄ = 3, ȳ = 5) EKK doğrusunu kurun; 3,5 saat eğitim alan bir servis için tahmin nedir?

  1. b1 = 8/10 = 0,8: bir saat fazla eğitim, günde ortalama 0,8 dosya fazlasıyla birlikte gidiyor.
  2. b0 = 5 − 0,8 · 3 = 2,6 ⇒ ŷ = 2,6 + 0,8x.
  3. ŷ(3,5) = 2,6 + 2,8 = 5,4. Artıklar −0,4; 0,8; −1; 1,2; −0,6, toplamları 0.

Cevap: ŷ = 2,6 + 0,8x; tahmin 5,4 dosya.

Veri 1–5 saat arasındadır; 20 saatlik bir tahmin (dış kestirim) doğrusal örüntünün orada da sürdüğünü varsayar ve güvenilmez. b₀ de x = 0'daki değerdir; sıfır veri aralığında değilse yorumu sınırlıdır.

Çözümlü örnek · sınav düzeyi

Bir ilde x̄ = 20, ȳ = 50, sx = 4, sy = 10, r = 0,6'dır. Y'nin X'e regresyon doğrusu nedir; X'in Y'ye regresyonunun eğimi kaçtır?

  1. b1 = 0,6 · 10/4 = 1,5, b0 = 50 − 1,5 · 20 = 20 ⇒ ŷ = 20 + 1,5x.
  2. X'in Y'ye regresyonunda roller değişir: eğim 0,6 · 4/10 = 0,24.
  3. İki eğimin çarpımı 1,5 · 0,24 = 0,36 = r².

Cevap: ŷ = 20 + 1,5x; ters regresyonun eğimi 0,24 (1/1,5 değil).

Korelasyon

  • Simetrik: rxy = ryx.
  • Birimsiz, −1 ile 1 arası.
  • Soru: ilişki ne kadar güçlü?

Regresyon

  • Yönlü: Y'nin X'e ve X'in Y'ye doğruları farklı.
  • b₁'in birimi var (Y birimi / X birimi).
  • Soru: X değişince Y ne kadar değişir, tahmin ne?
Akılda kalsın: Eğim = Sxy/Sxx = r · sy/sx; sabit = ȳ − b₁x̄. Doğru (x̄, ȳ)'den geçer, artıklar toplamı 0. İki regresyon eğiminin çarpımı r².
Sınavda

Nasıl sorulurÖzet toplamlar ya da r, sx, sy verilip doğru ve bir tahmin istenir; iki regresyon eğiminden r bulunur; artıkların ve doğrunun özellikleri öncüllerle yoklanır.

TuzakB₁'i Sxy/Syy ile kurmak, sy/sx oranını ters almak, ters regresyonun eğimini 1/b₁ sanmak ve r'yi işaretsiz almaktır.

▭Boşluk doldurma EKK katsayıları

10 gözlemde x̄ = 5, ȳ = 20, Sxy = 24 ve Sxx = 12 bulunmuştur. Y'nin X'e EKK doğrusunda eğim b₁ = ve sabit terim b₀ = olur.

2100,530

?Soru çöz

Bir veri setinde Y'nin X'e göre EKK regresyon doğrusunun eğimi 0,8; X'in Y'ye göre EKK regresyon doğrusunun eğimi 0,45'tir. Buna göre X ile Y arasındaki Pearson korelasyon katsayısı kaçtır?

✓ D. İki eğimin çarpımı r²'dir: 0,8 · 0,45 = 0,36; eğimler pozitif olduğu için r = +0,6. A karekök almayı unutup r²'de kalmış; B eğimleri bölmüş (0,45/0,8); C eğimlerin aritmetik ortalamasını almış.
REGRESYON · FORMÜL

Belirlilik katsayısı R²: modelin açıkladığı pay

İstatistik · Regresyon Analizi · Okuma 5 dk · 2 etkinlik

Önce hatırlaTek yönlü varyans analizinde kareler toplamı nasıl ayrışır ve F istatistiği nasıl hesaplanır?Bağlantılı konudan (Varyans analizi ve deney tasarımı). Önce kendin cevapla, sonra aç.

Tek yönlü varyans analizi k grup ortalamasının eşitliğini (H₀: μ₁ = … = μk) sınar. Genel kareler toplamı, gruplar arası (işlem, KTİ) ve grup içi (hata, KTH) kareler toplamına ayrışır: GKT = KTİ + KTH. Serbestlik dereceleri k − 1 ve N − k'dir. Kareler ortalamaları KO = KT/sd; F = KOİ/KOH, H₀ altında F(k − 1, N − k) dağılır ve test sağ kuyrukludur.

Tek yönlü ANOVA: kareler toplamı ve F

Hatırladın mı?

✎Konu anlatımı

Regresyonda belirlilik katsayısı R² nedir, nasıl hesaplanır ve korelasyon katsayısıyla ilişkisi nedir?

Kısa cevap: Regresyonda genel kareler toplamı ikiye ayrışır: GKT = RKT + HKT. RKT doğrunun açıkladığı, HKT açıklanmayan (artık) değişkenliktir. Belirlilik katsayısı R² = RKT/GKT = 1 − HKT/GKT, 0 ile 1 arasındadır ve basit regresyonda r²'ye eşittir. Tahminin standart hatası s = √[HKT/(n − 2)]'dir; model F = RKO/HKO ile sınanır.

Eğitim saati, servisler arasındaki dosya farkının ne kadarını açıklıyor: r = 0,8 olduğuna göre yüzde 80 mi, yoksa başka bir sayı mı?

Varyans analizi ve deney tasarımı sayfasında gördüğümüz ayrışma burada da geçerlidir. Her gözlemin ortalamadan sapması iki parçaya bölünür: doğrunun ortalamadan sapması (açıklanan) ve gözlemin doğrudan sapması (artık). Kareleri toplanınca çapraz terim sıfırlanır ve Σ(y − ȳ)² = Σ(ŷ − ȳ)² + Σ(y − ŷ)² olur. O sayfadaki η² = KTİ/GKT ile buradaki R² aynı fikirdir: toplam değişkenliğin modelce açıklanan payı.

RKT = b1Sxy = b1²Sxx HKT = GKT − RKT R² = RKTGKT s = √[HKT/(n − 2)]GKT = Syy. Payda n − 2, çünkü iki parametre (b₀, b₁) tahmin edildi.
Çözümlü örnek

Servis verisinde (Syy = 10, Sxy = 8, b₁ = 0,8, n = 5) R², s ve F nedir? α = 0,05'te H₀: β₁ = 0 reddedilir mi? (F0,05; 1, 3 = 10,13)

  1. RKT = 0,8 · 8 = 6,4, HKT = 10 − 6,4 = 3,6 (artık kareleri 0,16 + 0,64 + 1 + 1,44 + 0,36).
  2. R² = 6,4/10 = 0,64 = 0,8²; s² = 3,6/3 = 1,2, s ≈ 1,10 dosya.
  3. F = 6,4/1,2 ≈ 5,33 < 10,13 ⇒ H₀ reddedilmez.

Cevap: değişkenliğin %64'ü açıklanıyor (r'nin söylediği %80 değil); model bu beş gözlemle anlamlı değil.

Regresyonun ANOVA tablosu (örneğin değerleri)
KaynakKTsdKOF
RegresyonRKT = 6,41 (çoklu modelde k)6,45,33
Hata (artık)HKT = 3,6n − 2 = 31,2
GenelGKT = 10n − 1 = 4

F değeri, Korelasyon testinde bulduğumuz t = 2,31'in karesidir: basit regresyonda F = t² ve iki test aynı kararı verir. Varyans analizindeki iki grup durumunun karşılığı budur. Ayrıca R² = F/(F + n − 2) bağı, F'den R²'ye geçmeyi sağlar: 5,33/8,33 = 0,64.

Akılda kalsın: GKT = RKT + HKT; R² = açıklanan ÷ toplam. Basitte R² = r², ama r = ±√R² ve işaret eğimden gelir. Standart hatada payda n − 2. Basitte F = t².
Sınavda

Nasıl sorulurR² ile GKT verilip HKT, s ya da F istenir; r verilip "değişkenliğin yüzde kaçı açıklanır?" sorulur; eksik hücreli bir regresyon ANOVA tablosu tamamlatılır.

TuzakR'yi açıklanan oran sanmak, s'de n − 1 kullanmak, R²'yi F'nin yerine koymak ve yüksek R²'yi nedenselliğin kanıtı saymaktır.

?Soru çöz

22 gözlemle kurulan basit doğrusal regresyon modelinde genel kareler toplamı 400, belirlilik katsayısı 0,60 bulunmuştur. Modelin anlamlılığını sınayan F istatistiği kaçtır?

✓ A. RKT = 0,6 · 400 = 240, HKT = 160, hata sd'si 22 − 2 = 20, HKO = 8; F = 240/8 = 30. B KT'leri sd'ye bölmeden oranlamış (240/160); C hata sd'sini n − 1 = 21 almış; D RKT'yi hata sd'sine bölmüş (240/20).

↕Sırala özet verilerden F'ye

  1. RKT = b₁ · Sxy hesapla
  2. F = RKT ÷ [HKT/(n − 2)] bul ve kritik değerle karşılaştır
  3. x̄, ȳ, Sxx, Sxy ve Syy'yi hesapla
  4. HKT = Syy − RKT bul
  5. Eğimi b₁ = Sxy/Sxx ile bul
REGRESYON · HESAP

Katsayı testleri ve kesim noktasız model: hangi tahmin edici yansız?

İstatistik · Regresyon Analizi · Okuma 6 dk · 2 etkinlik

Önce hatırlaYansız tahmin edici nedir, hata kareler ortalaması nasıl hesaplanır?Bağlantılı konudan (Örnekleme dağılımları ve tahmin). Önce kendin cevapla, sonra aç.

θ̂ tahmin edicisi için E(θ̂) = θ ise θ̂ yansızdır; aradaki fark yan(θ̂) = E(θ̂) − θ'dır. Hata kareler ortalaması HKO = E(θ̂ − θ)² = Var(θ̂) + yan²'dir. İki yansız tahmin ediciden varyansı küçük olan daha etkindir. x̄, p̂ ve s² yansızdır; paydası n olan varyans tahmin edicisi yanlıdır.

Yansızlık, yan ve HKO

Hatırladın mı?

✎Konu anlatımı

Regresyon katsayısının anlamlılığı nasıl test edilir, kesim noktasız modelde hangi tahmin ediciler yansızdır?

Kısa cevap: Model varsayımları altında b₁ yansızdır ve Var(b₁) = σ²/Sxx'tir. H₀: β₁ = 0, t = b₁/se(b₁) ile n − 2 serbestlik derecesinde sınanır; se(b₁) = s/√Sxx. Kesim noktasız modelde (Y = βX + ε) EKK tahmin edicisi β̂ = Σxy/Σx²'dir. Σy/Σx gibi başka doğrusal tahmin ediciler de yansız olabilir; aralarında varyansı en küçük olan EKK'dir.

Sabit ücret almayan bir su idaresi, faturayı yalnız tüketimle açıklamak istiyor: tüketim sıfırsa fatura da sıfır. Doğruyu orijinden geçirmek gerekir; peki o zaman hangi eğim tahmini, ortalamada gerçek birim fiyatı verir?

Örnekleme dağılımları ve tahmin sayfasında gördüğümüz yansızlık tanımı, E(θ̂) = θ, regresyonda da ölçüttür. b₁ = Σ(xi − x̄)yi/Sxx, y'lerin doğrusal bir birleşimidir. E(yi) = β₀ + β₁xi yerine konunca β₀'lı terim sıfırlanır ve E(b₁) = β₁ kalır. Varyansı σ²/Sxx'tir: x'ler ne kadar yayılırsa eğim o kadar kesin tahmin edilir.

se(b1) = s√Sxx t = b1 − β10se(b1) ~ tn−2 GA: b1 ± tα/2; n−2 · se(b1)Sabit terim için Var(b₀) = σ²(1/n + x̄²/Sxx).
Çözümlü örnek · eğim testi

Servis verisinde (b₁ = 0,8, s² = 1,2, Sxx = 10, n = 5) eğim için t istatistiği ve %95 güven aralığı nedir? (t0,025; 3 = 3,182)

  1. se(b1) = √(1,2/10) ≈ 0,346; t = 0,8/0,346 ≈ 2,31 < 3,182.
  2. GA: 0,8 ± 3,182 · 0,346 = 0,8 ± 1,10 ⇒ (−0,30; 1,90).

Cevap: t ≈ 2,31, aralık sıfırı içeriyor; H₀: β₁ = 0 reddedilmez. Korelasyon testiyle aynı t çıktı: basit regresyonda iki test aynıdır.

Kesim noktasız model

Model Yi = βxi + εi, E(εi) = 0, Var(εi) = σ², x'ler sabit ve pozitif olsun. Σ(y − bx)²'yi en küçük yapan değer β̂ = Σxy/Σx²'dir. Bu modelde artıkların toplamı sıfır olmak zorunda değildir, doğru (x̄, ȳ)'den geçmez ve yalnız bir parametre tahmin edildiği için s² = Σe²/(n − 1) olur. Yansızlığı sınamanın tek kuralı: tahmin ediciye E(yi) = βxi koy; sonuç β ise yansızdır.

Kesim noktasız modelde üç doğrusal tahmin edici
Tahmin ediciBeklenen değerVaryans
EKK: Σxy/Σx²βΣx²/Σx² = β, yansızσ²/Σx² (en küçük)
Ortalamalar oranı: Σy/Σx = ȳ/x̄βΣx/Σx = β, yansıznσ²/(Σx)²
Oranların ortalaması: (1/n)Σ(y/x)(1/n)Σβ = β, yansız(σ²/n²)Σ(1/x²)
Yalnız ȳβx̄; x̄ = 1 değilse yanlıσ²/n
Çözümlü örnek · üç yansız tahmin

Tüketim x: 1, 2, 3 (ton); fatura y: 2, 3, 7 (yüz TL). Üç tahmin edicinin değeri nedir?

  1. EKK: Σxy = 2 + 6 + 21 = 29, Σx² = 14 ⇒ β̂ ≈ 2,07.
  2. Ortalamalar oranı: 12/6 = 2. Oranların ortalaması: (2 + 1,5 + 2,33)/3 ≈ 1,94.

Cevap: üçü de yansızdır ama değerleri farklıdır; tekrarlı örneklemede en az oynayan EKK'dir. Seçimi yansızlık değil varyans belirler.

Akılda kalsın: Yansızlık sınavı: E(yi) = βxi (ya da β₀ + β₁xi) yerine koy, β çıkıyor mu? Doğrusal yansızlar arasında en küçük varyans EKK'nin. Sabitli modelde hata sd'si n − 2, kesim noktasızda n − 1.
Sınavda

Nasıl sorulurKesim noktasız ya da sabitli modelde önerilen birkaç tahmin edicinin hangilerinin yansız olduğu öncüllerle sorulur; b₁ ile standart hatası verilip t ya da güven aralığı istenir.

TuzakYansız tahmin edici tek olur sanmak, yansızlıkla en küçük varyansı karıştırmak ve kesim noktasız modelde artıkların toplamının sıfır olduğunu varsaymaktır.

?Soru çöz

Yi = βxi + εi (i = 1, …, n) kesim noktasız modelinde xi'ler sabit ve pozitif, E(εi) = 0'dır. β için önerilen aşağıdaki tahmin edicilerden hangileri yansızdır?
I. Σxiyi / (Σxi)²
II. Σyi / Σxi
III. (1/n) Σyi

✓ B. E(yi) = βxi konunca II'de βΣxi/Σxi = β çıkar. I'de βΣxi²/(Σxi)² kalır; bu oran genelde 1 değildir, tahmin edici yanlıdır. III'te E(ȳ) = βx̄ çıkar; x̄ = 1 olmadıkça β'ya eşit değildir. A ve C I'in paydasını EKK'nin paydası Σxi² sanar; D ȳ'nin β'yı değil βx̄'i tahmin ettiğini görmez.

▭Boşluk doldurma eğim testi

20 gözlemli basit doğrusal regresyonda b₁ = 1,2 ve se(b₁) = 0,4 bulunmuştur. H₀: β₁ = 0 için t istatistiği olur ve bu istatistik serbestlik dereceli t dağılımıyla karşılaştırılır.

318190,3320
REGRESYON · MODEL

Çoklu regresyon: düzeltilmiş R², F testleri ve kukla değişken

İstatistik · Regresyon Analizi · Okuma 6 dk · 2 etkinlik

Önce hatırlaRegresyonda belirlilik katsayısı R² nedir, nasıl hesaplanır ve korelasyon katsayısıyla ilişkisi nedir?Bu sayfanın başından. Önce kendin cevapla, sonra aç.

Regresyonda genel kareler toplamı ikiye ayrışır: GKT = RKT + HKT. RKT doğrunun açıkladığı, HKT açıklanmayan (artık) değişkenliktir. Belirlilik katsayısı R² = RKT/GKT = 1 − HKT/GKT, 0 ile 1 arasındadır ve basit regresyonda r²'ye eşittir. Tahminin standart hatası s = √[HKT/(n − 2)]'dir; model F = RKO/HKO ile sınanır.

KT ayrışması, R² ve standart hata

Hatırladın mı?

✎Konu anlatımı

Çoklu doğrusal regresyonda düzeltilmiş R², F testi, kısmi F testi ve kukla değişken nasıl kullanılır?

Kısa cevap: Çoklu regresyonda model y = Xβ + ε biçiminde yazılır; EKK tahmini β̂ = (X′X)⁻¹X′y'dir. Her βⱼ, öteki açıklayıcılar sabitken Xⱼ'nin etkisidir. Değişken eklendikçe R² düşmez; bu yüzden modeller düzeltilmiş R² = 1 − (1 − R²)(n − 1)/(n − k − 1) ile karşılaştırılır. Model bütün olarak F = [R²/k]/[(1 − R²)/(n − k − 1)] ile sınanır.

Bir il müdürlüğü, ilçelerdeki ortalama işlem süresini personel sayısı, nüfus ve dört bölgeyle açıklamak istiyor. Her bölge için ayrı bir değişken eklemek doğru mu?

k açıklayıcı varsa X matrisi n × (k + 1) boyutludur: ilk sütun sabit terim için 1'lerden oluşur. Tahmin edilen parametre sayısı k + 1 olduğu için hata serbestlik derecesi n − k − 1'dir. Katsayı yorumu basit regresyondan farklıdır: b₁, "nüfus ve bölge sabitken bir personel fazlası süreyi ne kadar değiştirir?" sorusunun cevabıdır.

β̂ = (X′X)⁻¹X′y Var(β̂) = σ²(X′X)⁻¹ R̄² = 1 − (1 − R²)n − 1n − k − 1 F = R²/k(1 − R²)/(n − k − 1)F'nin sd'leri (k, n − k − 1); tek katsayının t testi n − k − 1 sd'lidir.
Çözümlü örnek · model testi

25 ilçe, 3 açıklayıcı, R² = 0,60. Düzeltilmiş R² ve F nedir; α = 0,05'te model anlamlı mı? (F0,05; 3, 21 = 3,07)

  1. R̄² = 1 − 0,40 · 24/21 ≈ 0,543.
  2. F = (0,60/3)/(0,40/21) = 10,5 > 3,07 ⇒ en az bir katsayı sıfırdan farklı.

Cevap: R̄² ≈ 0,54, model anlamlı.

Ek bilgi: kısmi F, bir değişken grubu katkı yapıyor mu?

Modele bir grup değişken (q tane) eklenince R² artar; soru, artışın şanstan büyük olup olmadığıdır. F = [(R²tam − R²kısıtlı)/q] ÷ [(1 − R²tam)/(n − k − 1)]; k tam modeldeki açıklayıcı sayısıdır. Aynı örnekte iki değişken eklenince R² 0,60'tan 0,70'e çıksın (k = 5): F = (0,10/2)/(0,30/19) ≈ 3,17 < F0,05; 2, 19 = 3,52. Eklenen iki değişken birlikte anlamlı katkı yapmıyor.

Kukla değişken

Nitel bir açıklayıcı (bölge) m kategoriliyse m − 1 kukla (0-1) değişken eklenir; dışarıda kalan kategori referanstır ve her kukla katsayısı o kategorinin referansa göre farkıdır. Dört bölge için dört kukla ve sabit terim birlikte konursa kuklaların toplamı her gözlemde 1'e, yani sabit sütununa eşit olur: kukla değişken tuzağı. X′X'in tersi alınamaz, EKK hesaplanamaz.

Ek bilgi: logaritmik modellerde eğimin yorumu

Logaritma alınan taraf yüzde değişimle okunur. Sık tuzak, log-doğrusal modelin katsayısını esneklik sanmaktır; esneklik yalnız log-log modelde doğrudan katsayıdır.

Logaritmik modellerde eğimin yorumu
Modelβ₁'in anlamı
ln Y = β₀ + β₁ ln X (log-log)esneklik: X %1 artınca Y yaklaşık %β₁ değişir
ln Y = β₀ + β₁X (log-doğrusal)X 1 birim artınca Y yaklaşık %100·β₁ değişir
Y = β₀ + β₁ ln X (doğrusal-log)X %1 artınca Y yaklaşık β₁/100 birim değişir
Y = β₀ + β₁X (doğrusal)X 1 birim artınca Y β₁ birim değişir
Durum → ölçü ya da test
DurumSeçim
İki nicel değişken, doğrusal ilişkinin gücüPearson r, t (sd n − 2)
Sıralama ölçeği ya da aykırı değerSpearman rs
Tek katsayı sıfır mı?t, sd n − k − 1
Bütün katsayılar birden sıfır mı?F (k, n − k − 1)
Bir değişken grubu katkı yapıyor mu?kısmi F (q, n − k − 1)
Açıklayıcı sayısı farklı modelleri karşılaştırmakdüzeltilmiş R²
Nitel açıklayıcı (m kategori)m − 1 kukla
Akılda kalsın: R² değişken ekledikçe artar ya da aynı kalır; R̄² düşebilir (eksi bile olabilir). Hata sd'si n − k − 1. m kategori → m − 1 kukla.
Sınavda

Nasıl sorulurn, k ve R² verilip düzeltilmiş R² ya da F istenir; kategori sayısından kukla sayısı sorulur. Kısmi F ve log modelde katsayı yorumu (ikisi de ek bilgide) daha seyrek gelir.

TuzakPaydada n − k − 1 yerine n − k almak, m kategori için m kukla koymak ve R²'si yüksek olan modeli her zaman daha iyi saymaktır.

?Soru çöz

21 gözlem ve 4 açıklayıcı değişkenle kurulan çoklu doğrusal regresyon modelinde R² = 0,80 bulunmuştur. Modelin düzeltilmiş R² değeri kaçtır?

✓ C. 1 − 0,20 · (21 − 1)/(21 − 4 − 1) = 1 − 0,20 · 20/16 = 0,75. A düzeltmeyi hiç yapmamış; B paydayı n − k = 17 almış (≈ 0,765); D R²'nin karesini almış, düzeltilmiş R² bir kare değildir.

⇄Bilgi eşleştirme soru ↔ ölçü ya da test

REGRESYON · VARSAYIM

Gauss–Markov varsayımları: EKK ne zaman en iyisidir?

İstatistik · Regresyon Analizi · Okuma 6 dk · 2 etkinlik

Önce hatırlaCramér–Rao alt sınırı nedir, tutarlı ve yeterli tahmin edici ne demektir?Bağlantılı konudan (Örnekleme dağılımları ve tahmin). Önce kendin cevapla, sonra aç.

Yansız bir tahmin edicinin varyansı Cramér–Rao alt sınırı 1/[n · I(θ)]'dan küçük olamaz; I(θ) tek gözlemin Fisher bilgisidir. Varyansı bu sınıra eşit yansız tahmin edici etkindir. Tutarlı tahmin edici n büyüdükçe θ'ya olasılıkta yakınsar. Yeterli istatistik, örneklemin θ hakkındaki bilgisinin tamamını taşır ve çarpanlara ayırma ölçütüyle bulunur.

Cramér–Rao, tutarlılık, yeterlilik

Hatırladın mı?

✎Konu anlatımı

Gauss–Markov varsayımları nelerdir; çoklu doğrusal bağlantı, değişen varyans ve otokorelasyon nasıl anlaşılır?

Kısa cevap: Gauss–Markov teoremine göre model parametrelerde doğrusalsa, hataların beklenen değeri sıfır ve varyansı sabitse, hatalar birbiriyle ilişkisizse ve açıklayıcılar arasında tam doğrusal bağlantı yoksa EKK tahmin edicisi en iyi doğrusal yansız tahmin edicidir (EDYT; İngilizce BLUE). Normallik bu teorem için gerekmez; küçük örneklemde t ve F testleri için gerekir.

Bir bankanın şube kârlılığı modelinde R² = 0,92 çıktı, F çok anlamlı, ama hiçbir katsayı tek başına anlamlı değil. Model mi bozuk, veri mi?

"En iyi" sözcüğünün ölçüsü varyanstır: y'lerin doğrusal fonksiyonu olan bütün yansız tahmin ediciler arasında EKK'nin varyansı en küçüktür. Kesim noktasız modeldeki üç yansız tahmin ediciden EKK'nin kazanması bunun bir örneğiydi. Teoremin varsayımları şunlardır:

  • Model parametrelerde doğrusaldır (X'in karesi ya da logaritması olabilir).
  • E(ε | X) = 0: hatalar açıklayıcılarla ilişkisizdir, önemli bir değişken dışarıda bırakılmamıştır.
  • Eş varyans: her gözlemde Var(εᵢ) = σ².
  • Otokorelasyon yok: i ≠ j için Cov(εᵢ, εⱼ) = 0.
  • Tam doğrusal bağlantı yok: X′X tersinirdir.

Bu varsayımlardan biri bozulunca sonuç aynı değildir. İkinci varsayım bozulursa (dışlanan değişken) tahminler yanlı olur. Eş varyans ya da otokorelasyon bozulursa tahminler yansız kalır ama en küçük varyanslı değildir ve alışılmış standart hata formülü yanlış sonuç verir: t ve F testleri güvenilmez.

Varsayım ihlalleri
SorunBelirti / testEKK'ye etkisiÇare
Çoklu doğrusal bağlantıyüksek R², anlamsız t'ler; VIFj = 1/(1 − Rj²), genelde > 10 sorunyansız; varyanslar şişer, işaretler oynakdeğişken çıkarma ya da birleştirme, daha çok veri
Değişen varyansartıkların yelpaze biçimi; White, Breusch–Paganyansız ama etkin değil; standart hatalar yanlışağırlıklı EKK, dayanıklı standart hata
OtokorelasyonDurbin–Watsonyansız ama etkin değil; pozitifte standart hata küçük görünür, t şişergenelleştirilmiş EKK, fark alma
Tam bağlantı (kukla tuzağı)X′X tersinmeztahmin hesaplanamazbir değişkeni çıkarmak

Girişteki banka tablosu çoklu doğrusal bağlantının klasik belirtisidir: açıklayıcılar birbirini taşıdığı için birlikte çok şey açıklarlar ama her birinin ayrı katkısı ayrıştırılamaz. Rj², Xj'nin öteki açıklayıcılara regresyonundan gelir; Rj² = 0,90 ise VIF = 10, yani o katsayının varyansı ilişkisiz duruma göre 10 kat büyüktür.

Durbin–Watson istatistiği

Zamana göre sıralı artıklarda d = Σ(et − et−1)²/Σet² ≈ 2(1 − r̂); r̂ ardışık artıklar arasındaki korelasyondur. d, 0 ile 4 arasındadır: r̂ = 0,6 ise d ≈ 0,8 (pozitif otokorelasyon), r̂ = 0 ise d ≈ 2. Tablodaki alt ve üst sınırlar (dL, dU) arasında karar verilemez. Otokorelasyonun zaman serisi modellerindeki yerini Zaman serileri ve indeksler sayfasında göreceğiz.

d sıfıra yaklaştıkça ardışık artıklar aynı yöne gider (pozitif otokorelasyon), dörde yaklaştıkça işaret değiştirir (negatif). dL ve dU tablodan, n ve açıklayıcı sayısına göre okunur.Görsel: Sınav Defteri
Ek bilgi: içsellik ve araç değişken

Açıklayıcı hata terimiyle ilişkiliyse (dışlanan değişken, ölçme hatası, eş anlı belirlenme) EKK yanlı ve tutarsızdır; örneklem büyüse de düzelmez. Çözüm, açıklayıcıyla ilişkili ama hatayla ilişkisiz bir araç değişken kullanmaktır (iki aşamalı EKK). Gecikmeli bağımlı değişkenli modellerde Durbin–Watson testi geçerli değildir.

Akılda kalsın: EDYT için: doğrusal model, E(ε) = 0, sabit varyans, otokorelasyon yok, tam bağlantı yok. Normallik yalnız küçük örneklem testleri için. Bağlantı, değişen varyans ve otokorelasyonda EKK yansız kalır; bozulan etkinlik ve standart hatalardır. DW ≈ 2(1 − r̂); VIF = 1/(1 − Rj²).
Sınavda

Nasıl sorulurBir ihlal belirtisi verilip sorunun adı, hangi testle anlaşılacağı ve EKK'nin hangi özelliğini kaybettiği sorulur; DW değerinden otokorelasyonun yönü, Rj²'den VIF hesaplatılır.

TuzakDeğişen varyansta tahminlerin yanlı olduğunu sanmak, normalliği Gauss–Markov varsayımı saymak ve d = 2'yi pozitif otokorelasyon diye okumaktır.

?Soru çöz

Aylık verilerle kurulan bir regresyon modelinde açıklayıcıların VIF değerleri 1,2 ile 1,8 arasında, Breusch–Pagan testi anlamsız, Durbin–Watson istatistiği 0,6 bulunmuştur. Buna göre aşağıdakilerden hangisi söylenebilir?

✓ A. d = 0,6 sıfıra yakın: r̂ ≈ 1 − 0,3 = 0,7, pozitif otokorelasyon. EKK yansız kalır, standart hatalar yanıltır. B VIF'lerin 10'un çok altında olduğunu atlar; C d'nin yönünü ters okur ve otokorelasyonun yanlılık yarattığını sanır; D anlamsız Breusch–Pagan sonucunu yok sayar.

⇄Bilgi eşleştirme sorun ↔ ölçüt

Karma tekrar

Önceki 3 sayfadan karışık 10 soru. Sınavdaki gibi konular karışık gelir; hangi konudan olduğunu çözümde görürsün. Birkaç gün sonra yeniden çöz.

?Soru 1

Bir çapraz tabloya uygulanan χ² bağımsızlık testine ilişkin aşağıdaki ifadelerden hangileri doğrudur?
I. 3 × 4'lük bir tabloda serbestlik derecesi 6'dır.
II. Bir hücrenin beklenen frekansı, satır toplamı ile sütun toplamının çarpımının genel toplama bölümüdür.
III. Beklenen frekansı 5'ten küçük hücre sayısı fazlaysa komşu kategoriler birleştirilir.

✓ D. I: (3 − 1)(4 − 1) = 6. II: bağımsızlık altında B = RK/n. III: küçük beklenen frekans χ² yaklaşımını bozar; birleştirme sd'yi de azaltır. A ve B III'teki birleştirme kuralını, A ayrıca II'deki formülü atlar; C sd'yi rc − 1 = 11 sanıp I'i eler.Kaynak: Parametrik olmayan testler · χ² bağımsızlık ve homojenlik

?Soru 2

Normal dağılımlı bir anakütleden alınan 16 birimlik örneklemin varyansı 18'dir. H₀: σ² = 9'a karşı H₁: σ² ≠ 9 hipotezleri α = 0,05 düzeyinde sınanıyor (χ²0,975; 15 = 6,26; χ²0,025; 15 = 27,49; χ²0,005; 15 = 32,80). Buna göre aşağıdakilerden hangisi doğrudur?

✓ A. χ² = 15 · 18 / 9 = 30, sd = 15; iki yönlü testte üst kritik değer χ²0,025 = 27,49 aşılmıştır. B (n − 1) yerine n = 16 kullanmış; C s²/σ₀² oranını istatistik sanmış; D α/2 = 0,005 kritik değerini almış, bu α = 0,01'lik testtir.Kaynak: Hipotez testleri · Varyans testleri: χ² ve F

?Soru 3

Bir il müdürlüğüne gelen günlük başvuru sayılarının Poisson dağılımına uyup uymadığı χ² uyum iyiliği testiyle sınanacaktır. Beklenen frekansı 5'ten küçük sınıflar birleştirildikten sonra 6 sınıf kalmış, λ parametresi örneklem ortalamasından tahmin edilmiştir. Buna göre test istatistiğinin serbestlik derecesi kaçtır?

✓ A. sd = 6 − 1 − 1 = 4: bir sd toplam kısıtı, bir sd tahmin edilen λ için düşer. B λ'nın tahmin edildiğini hesaba katmamış; C sınıf sayısını sd sanmış; D Poisson'u iki parametreli saymış (normal dağılım için doğru olurdu).Kaynak: Parametrik olmayan testler · χ² uyum iyiliği testi

?Soru 4

Dört ayrı ildeki kurumlardan bağımsız olarak seçilen küçük örneklemlerde işlem süreleri ölçülmüştür. Sürelerin dağılımı belirgin biçimde sağa çarpıktır ve normallik testleri reddedilmiştir. İllerin işlem sürelerinin farklı olup olmadığını sınamak için aşağıdakilerden hangisi kullanılmalıdır?

✓ A. Bağımsız dört grup ve bozulmuş normallik: tek yönlü ANOVA'nın sıra temelli karşılığı Kruskal–Wallis'tir. B aynı blokların tekrarlı ölçümü içindir, burada iller bağımsızdır; C hem normallik ister hem toplam Tip I hatayı şişirir; D tek bir değişkenin dağılım uyumunu sınar, grupları karşılaştırmaz.Kaynak: Varyans analizi ve deney tasarımı · Varsayımlar ve çoklu karşılaştırma

?Soru 5

Beş personel iki yöneticiye ayrı ayrı sıralatılmıştır. Birinci yöneticinin sıralaması 1, 2, 3, 4, 5; ikincinin aynı personel için sıralaması 3, 2, 1, 5, 4'tür. Buna göre Spearman sıra korelasyon katsayısı kaçtır?

✓ C. d: 2, 0, −2, 1, −1 ⇒ Σd² = 10; rs = 1 − 60/(5 · 24) = 0,5. A 6 katsayısını unutmuş (1 − 10/120); B d'lerin karesi yerine mutlak değerlerini toplamış (Σ|d| = 6); D paydayı n(n² − 1) yerine n³ = 125 almış.Kaynak: Parametrik olmayan testler · Spearman, Kolmogorov–Smirnov, dizi testi

?Soru 6

Her birinde 6 gözlem bulunan 5 grubun karşılaştırıldığı tek yönlü varyans analizinde gruplar arası kareler toplamı 48, hata kareler ortalaması 4 bulunmuştur. Buna göre F değeri ve genel kareler toplamı aşağıdakilerden hangisidir?

✓ D. sd: işlem 4, hata 30 − 5 = 25. KOİ = 48/4 = 12, F = 12/4 = 3; KTH = 4 · 25 = 100, GKT = 148. A F'yi KT'lerin oranı (48/100) diye kurmuş; B KOH'u KTH sanmış (48 + 4); C KOİ'yi k = 5'e bölmüş (9,6/4).Kaynak: Varyans analizi ve deney tasarımı · ANOVA tablosunda eksik hücre

?Soru 7

Dört grubun ortalamaları, her biri α = 0,05 düzeyinde yapılan ikili t testleriyle karşılaştırılıyor. Testler bağımsız kabul edilirse en az bir testte Tip I hata yapılması olasılığı yaklaşık kaçtır?

✓ C. Dört grupta 4 · 3/2 = 6 ikili test vardır: 1 − 0,95⁶ ≈ 0,265. A tek bir testin α'sını almış; B test sayısını grup sayısı (4) sanmış: 1 − 0,95⁴; D olasılıkları toplamış (6 · 0,05), bu yalnız Bonferroni üst sınırıdır.Kaynak: Varyans analizi ve deney tasarımı · Deney tasarımının ilkeleri

?Soru 8

Bir hipotez testine ilişkin aşağıdaki ifadelerden hangileri doğrudur?
I. α, H₀ reddedildiğinde H₀'ın doğru olma olasılığıdır.
II. Testin gücü 1 − β'dır.
III. H₀ reddedilemezse H₀'ın doğru olduğu kanıtlanmış olur.

✓ A. II: güç, yanlış H₀'ı reddetme olasılığıdır, 1 − β. I yanlıştır: α = P(red | H₀ doğru); verilen ifade P(H₀ doğru | red)'dir, koşulun yönü ters. III yanlıştır: reddedememek yalnız yeterli kanıt bulunmadığını gösterir; doğru söz "H₀ reddedilemez"dir, "H₀ kanıtlandı" değil. B ve D I'deki koşul tuzağına, C ve D III'teki "reddedilemedi = kanıtlandı" tuzağına düşer.Kaynak: Hipotez testleri · Hipotezler ve hata türleri

?Soru 9

H₀: μ = 100'e karşı H₁: μ ≠ 100 hipotezleri için hesaplanan test istatistiği z = 2,1'dir (Φ(2,1) ≈ 0,982). Buna göre aşağıdakilerden hangisi doğrudur?

✓ C. İki yönlü testte p = 2(1 − 0,982) ≈ 0,036; 0,05'ten küçük, 0,01'den büyük. A tek kuyruk alanını p sanmış, üstelik 0,018 de 0,01'den büyüktür; B Φ değerini p sanmış, alanın yönü ters; D p'yi doğru bulup α ile karşılaştırmayı ters yapmış.Kaynak: Hipotez testleri · Ret bölgesi ve p-değeri

?Soru 10

Dört işlemin altı blokta denendiği rastgele bloklar tasarımında hata kareler toplamının serbestlik derecesi kaçtır?

✓ C. (k − 1)(b − 1) = 3 · 5 = 15; kontrol 23 = 3 + 5 + 15. A blokları yok sayıp tek yönlü ANOVA'nın N − k = 24 − 4'ünü almış; B N'den blok sayısını çıkarmış (24 − 6); D genel sd'yi hata sd'si sanmış.Kaynak: Varyans analizi ve deney tasarımı · Rastgele bloklar ve Latin kare
+
Daha fazla soru çözmek ister misin?Korelasyon ve regresyon soruları uygulamaya ekleniyor; şimdilik diğer derslerin sorularını çözebilirsin. Yanlışların Hata Defteri'ne kaydedilir.
Soru çöz →