קריאת קשר ליניארי

השיעור עוסק בפירוש קשר ליניארי בין שני משתנים כמותיים באמצעות מתאם פירסון. הרעיון המרכזי הוא שהמתאם מתאר כיוון ועוצמה, אינו מוכיח סיבתיות, ומשמש בסיס לניבוי ולהבנת השונות המוסברת רק כאשר הוא מתאים לנתונים.

קריאת כיוון ועוצמה של קשר ליניארי

כאשר בודקים קשר בין שני משתנים כמותיים, נהוג להתחיל בדיאגרמת פיזור. דיאגרמת פיזור היא גרף שבו כל תצפית מוצגת כנקודה לפי זוג ערכים: ערך של המשתנה המסביר, או המשתנה הבלתי תלוי, על ציר X, וערך של המשתנה המוסבר, או המשתנה התלוי, על ציר Y.

קשר ליניארי הוא קשר שבו הנקודות נוטות להסתדר סביב קו ישר. עלייה בערכי משתנה אחד עם נטייה לעלייה במשתנה השני מציינת קשר חיובי; עלייה עם נטייה לירידה מציינת קשר שלילי.

מתאם פירסון, או מקדם המתאם הליניארי, מכמת את הקשר. באוכלוסייה הוא מסומן ב־ρ, ובמדגם ב־r. ערכיו נעים בין ‎-1 ל־1. הערך המוחלט קובע את העוצמה: ככל ש־r קרוב יותר ל־1 או ל־‎-1 הקשר חזק יותר, וככל שהוא קרוב יותר ל־0 הקשר חלש יותר. הסימן קובע את הכיוון.

מתאם השווה ל־1 או ל־‎-1 מתאר קשר ליניארי מלא שבו כל הנקודות על קו ישר אחד. מתאם השווה ל־0 מתאר היעדר קשר ליניארי, אך אינו שולל קשר שאינו ליניארי. מתאם אינו מוכיח סיבתיות: קשר בין משתנים אינו אומר בהכרח שאחד מהם גורם לשני.

חישוב מתאם פירסון מנתונים מזווגים

מתאם פירסון מחושב מתוך נתונים מזווגים: זוגות ערכים שבהם לכל תצפית יש ערך אחד במשתנה X וערך אחד במשתנה Y. תחילה מחשבים את ממוצע X ואת ממוצע Y, ולאחר מכן לכל תצפית את הסטייה מן הממוצע: ההפרש בין ערך X לממוצע X, וכן ההפרש בין ערך Y לממוצע Y.

השלב המרכזי הוא חישוב הקו־שונות, הנקראת גם קו־וריאנס. קו־שונות היא ממוצע מכפלות הסטיות של X ו־Y. אם תצפיות רבות נמצאות בו־זמנית מעל שני הממוצעים או מתחת לשניהם, הקו־שונות חיובית. אם תצפיות רבות נמצאות מעל ממוצע אחד ומתחת לממוצע השני, הקו־שונות שלילית.

כדי לקבל מדד השוואתי שאינו תלוי ביחידות המדידה, מחלקים את הקו־שונות במכפלת סטיות התקן של X ושל Y:

r = Cov(x,y) / (Sx · Sy)

כאשר Cov(x,y) היא הקו־שונות, Sx היא סטיית התקן של X, ו־Sy היא סטיית התקן של Y. סטיית התקן היא מדד לפיזור הערכים סביב הממוצע. החלוקה מבטיחה ש־r יישאר בין ‎-1 ל־1, ללא תלות ביחידות המדידה.

יציבות המתאם בהמרות וקידוד

מתאם פירסון יציב בפני שינויי יחידות וקידוד ליניארי. מכיוון שהוא מדד חסר יחידות, המרת מדידה אינה משנה את עוצמת הקשר. לדוגמה, מעבר ממחיר בדולרים למחיר בשקלים אינו משנה את r, כל עוד ההמרה נעשית באופן עקבי.

אם מבצעים המרה ליניארית, כלומר עוברים למשתנים חדשים מהצורה X' = aX + b ו־Y' = cY + d, הערך המוחלט של המתאם נשאר. הכיוון עשוי להשתנות רק אם מכפלת המקדמים a·c שלילית; אם היא חיובית, r נשאר ללא שינוי. לכן הוספת קבוע או הכפלה בקבוע חיובי אינן משנות את המתאם, אך קידוד שהופך את כיוון הערכים עלול להפוך את סימן המתאם.

קו ניבוי ורגרסיה ליניארית

כאשר הקשר בין שני משתנים כמותיים חזק מספיק ויש כיוון ברור, אפשר לעבור מתיאור הקשר לניבוי. קו ניבוי, הנקרא גם קו רגרסיה ליניארית, מתאר את הערך הצפוי של המשתנה המוסבר Y עבור ערך נתון של המשתנה המסביר X.

השיטה המקובלת למציאת הקו היא שיטת הריבועים הפחותים. היא בוחרת את הקו שממזער את סכום ריבועי המרחקים האנכיים בין הנקודות לבין הקו. משוואת הקו היא:

Ŷ = a + bX

הפרמטר b הוא שיפוע הקו: בכמה צפוי להשתנות הערך של Y, בממוצע, כאשר X גדל ביחידה אחת. שיפוע חיובי מתאים לקשר חיובי, ושיפוע שלילי מתאים לקשר שלילי. הפרמטר a הוא החותך של הקו, כלומר הערך הצפוי של Y כאשר X שווה ל־0.

ככל שהערך המוחלט של r קרוב יותר ל־1, הנקודות מפוזרות פחות סביב הקו והניבוי מדויק יותר. כאשר r שווה ל־1 או ל־‎-1, כל הנקודות נמצאות על הקו. יחד עם זאת, יש להקפיד על תחום החיזוי: ניבוי צריך להיעשות בתוך טווח הערכים שבו יש נתונים או שבו הקשר סביר, ולא הרחק מחוץ לטווח שנצפה.

שונות מוסברת ושונות לא מוסברת

רגרסיה ליניארית אינה רק כלי לניבוי נקודתי; היא גם כלי להבנת חלק מהשונות של המשתנה התלוי. שונות היא מדד לפיזור הערכים של משתנה סביב הממוצע שלו. כאשר משתמשים ב־X כדי להסביר את Y, חלק מהשונות של Y עשוי להיות מוסבר על ידי הקשר הליניארי עם X.

המדד שמבטא חלק זה הוא r בריבוע, כלומר r². אם מכפילים את r² ב־100, מקבלים את אחוז השונות של Y המוסבר על ידי X. לדוגמה, אם r = 0.7, אז r² = 0.49, ולכן 49% מהשונות של המשתנה המוסבר מוסברים על ידי המשתנה המסביר.

החלק שנותר נקרא שונות לא מוסברת, או שונות טעויות. הוא מחושב על ידי 1 - r², או באחוזים: 100 פחות אחוז השונות המוסברת. בדוגמה שבה r = 0.7, נותרים 51% של שונות לא מוסברת. שונות זו נובעת מגורמים נוספים שאינם נכללים בקשר הליניארי הפשוט בין שני המשתנים.

כאשר r = 0, אין שונות מוסברת על ידי הקשר הליניארי. כאשר הערך המוחלט של r שווה ל־1, כל השונות של המשתנה המוסבר מוסברת על ידי הקו, והשונות הלא מוסברת היא 0.

התאמת מדד הקשר לנתונים

מתאם פירסון אינו המדד היחיד לקשר בין משתנים. הבחירה תלויה בסולמות המדידה של המשתנים: סולם שמי, סולם סדר, וסולם כמותי הכולל רווח ומנה. מדדי קשר הם סימטריים, ולכן לצורך בחירת המדד לא משנה איזה משתנה ייקרא X ואיזה Y; זאת בשונה מקו ניבוי, שבו יש כיוון ברור מ־X ל־Y. אם הקשר אינו ליניארי או שהנתונים אינם מתאימים לסולם הנדרש, אין להשתמש בפירסון.

אם שני המשתנים כמותיים והקשר הנבדק ליניארי, המדד המתאים הוא פירסון. אם המשתנים סדריים או שהבדיקה עוסקת בדירוגים, המדד המתאים הוא ספירמן. מתאם ספירמן בודק קשר דירוגי: האם כאשר ערך של משתנה אחד עולה, גם הדירוג של המשתנה השני נוטה לעלות או לרדת.

אם המשתנים שמיים, כלומר קטגוריאליים ללא סדר פנימי, נהוג להשתמש במדד קרמר. כאשר שני המשתנים דיכוטומיים, כלומר כל אחד מהם כולל בדיוק שתי קטגוריות, אפשר להשתמש במדד פי. מדד פי הוא דרך מקוצרת לחשב קשר בטבלת 2×2, והוא מקרה פרטי של מדד קרמר.

סולם של משתנה אחד	שמי	סדר	כמותי
שמי	קרמר	קרמר	קרמר
סדר	קרמר	ספירמן	ספירמן
כמותי	קרמר	ספירמן	פירסון