יציבות המתאם בהמרות, קו ניבוי והתאמת מדד קשר

השיעור עוסק בארבעה כלים משלימים לניתוח קשר בין שני משתנים: יציבות מקדם המתאם של פירסון תחת המרות ליניאריות, בניית קו ניבוי, מדידת חלק השונות המוסברת באמצעות r², ובחירת מדד הקשר המתאים לפי סולם המדידה. הרעיון המרכזי הוא שמדד הקשר מתאר את מבנה הקשר בין המשתנים, ולכן שינוי יחידות מדידה שאינו משנה את סדר הנתונים או את פיזורם היחסי אינו אמור לשנות את עוצמת הקשר; עם זאת, קידוד שמשנה כיוון עלול להפוך את סימן המתאם.

השפעת המרה ליניארית וקידוד על מקדם המתאם של פירסון

מקדם המתאם של פירסון, המסומן r, הוא מדד לכיוון ולעוצמה של קשר ליניארי בין שני משתנים כמותיים. ערכיו נעים בין ‎-1 ל-‎1. ערך חיובי מציין נטייה לעלייה משותפת של שני המשתנים, ערך שלילי מציין שכאשר אחד המשתנים עולה לשני יש נטייה לרדת, וערך קרוב לאפס מציין קשר ליניארי חלש.

המרה ליניארית היא יצירת משתנה חדש מהמשתנה המקורי לפי כלל מהצורה X חדש = aX + b. לדוגמה, מעבר ממחיר בדולרים למחיר בשקלים הוא כפל בקבוע חיובי, מעבר ממטרים לסנטימטרים הוא כפל ב-‎100, והוספת מספר קבוע לכל ציון היא הוספת קבוע. גם קידוד של משתנה, כלומר החלפת הערכים המקוריים בערכים מספריים חדשים, יכול להיות המרה ליניארית אם הוא נעשה באמצעות כפל בקבוע והוספת קבוע.

מקדם המתאם של פירסון אינו מושפע מיחידות המדידה. הוספת קבוע מזיזה את כל הערכים באותו שיעור, אך אינה משנה את המרחקים היחסיים בין הערכים ואת סטיות התקן. כפל בקבוע חיובי משנה את סטיות התקן, אך השינוי מצטמצם בחישוב המתאם. לכן העוצמה המוחלטת של המתאם, |r|, נשמרת.

הסימן של המתאם תלוי בכיוון הקידוד בשני המשתנים. אם שני המשתנים עוברים המרות ליניאריות עם כיוון חיובי, כלומר מכפלת הקבועים a ו-‎c חיובית, המתאם נשאר ללא שינוי. אם אחד המשתנים מקודד בכיוון הפוך, כלומר מכפלת הקבועים שלילית, סימן המתאם מתהפך. לכן, אם מסמנים את המתאם המקורי ב-‎r(X,Y), מתקיים:

• אם a·c > 0, אז r(aX+b, cY+d) = r(X,Y).
• אם a·c < 0, אז r(aX+b, cY+d) = ‎-r(X,Y).

לדוגמה, אם נמצא מתאם חיובי בין מחיר דירה בדולרים למחיר דירה בשקלים, מעבר מדולרים לשקלים לא ישנה את המתאם. לעומת זאת, אם מגדירים משתנה חדש שהוא 100 פחות הציון המקורי, כך שציון גבוה נעשה נמוך וציון נמוך נעשה גבוה, מתאם חיובי עם משתנה אחר יהפוך לשלילי.

קו ניבוי: רגרסיה ליניארית, שיפוע, חותך ותחום חיזוי

כאשר שני משתנים כמותיים קשורים בקשר ליניארי, אפשר לבנות קו ניבוי. קו זה נקרא גם קו רגרסיה או קו הריבועים הפחותים. הקו משמש לניבוי ערכי המשתנה התלוי Y על סמך המשתנה הבלתי תלוי X.

משוואת הקו היא: הערך המנובא של Y = a + bX. האות b מציינת את השיפוע של הקו: בכמה צפוי להשתנות הערך המנובא של Y כאשר X גדל ביחידה אחת. האות a מציינת את החותך של הקו: הערך המנובא של Y כאשר X שווה לאפס. אם X = 0 אינו בתחום הנתונים, לחותך עשויה שלא להיות משמעות מעשית, אף שהוא חלק מהמשוואה.

הפרמטרים של הקו מחושבים לפי מקדם המתאם, סטיות התקן והממוצעים:

• b = r · S_y / S_x
• a = ȳ − b·x̄

כאן S_x ו-‎S_y הן סטיות התקן של X ושל Y, ו-‎x̄ ו-‎ȳ הם הממוצעים של X ושל Y.

תחום החיזוי הוא תחום ערכי X שבו נאספו הנתונים. ניבוי בתוך תחום זה נשען על הקשר שנצפה במדגם. ניבוי מחוץ לתחום, כלומר עבור ערכי X קטנים או גדולים מאלה שנדגמו, עלול להיות לא אמין, משום שאין ידיעה אם הקשר הליניארי נשמר גם מחוץ לתחום הנתונים.

תרשים 16:9 על רקע לבן: ציר אופקי שכותרתו X, ציר אנכי שכותרתו Y, שבע נקודות נתונים המפוזרות סביב קו ישר עולה, קו רגרסיה ישר עולה העובר ביניהן, ושני קווים אנכיים מקווקווים המסמנים את גבולות תחום הנתונים של X; בין הקווים המקווקווים כתוב “תחום חיזוי”.

שונות מוסברת ושונות לא מוסברת: r²

רגרסיה אינה רק ניבוי נקודתי; היא גם חלוקת השונות של Y לשני חלקים. שונות מוסברת היא החלק מהשונות של המשתנה התלוי שמוסבר על ידי הקשר הליניארי עם המשתנה המסביר. שונות לא מוסברת, הנקראת גם שונות טעויות או שונות שאריות, היא החלק שנותר לאחר השימוש בקו הניבוי.

המדד המקשר בין מקדם המתאם לחלק המוסבר הוא r². ערכו נע בין 0 ל-‎1, והוא מתפרש כאחוז השונות של Y שמוסבר על ידי הקשר הליניארי עם X. לדוגמה, אם r = 0.7, אז r² = 0.49, ולכן 49% מהשונות ב-Y מוסברים על ידי הקשר עם X, ו-‎51% אינם מוסברים. אם r = ‎-0.8, אז r² = 0.64; הסימן השלילי של r מציין כיוון ירידה, אך r² עצמו אינו מציין כיוון.

כאשר r = 0, אין הסבר ליניארי של Y מתוך X, וכל השונות נותרת לא מוסברת בהקשר הליניארי. כאשר |r| = 1, כל התצפיות נמצאות על קו ישר, ולכן כל השונות מוסברת ואין שונות טעויות. r² גבוה מתאר קשר ליניארי חזק בנתונים, אך אינו מעיד בהכרח על סיבתיות בין המשתנים.

עץ בחירה בין קרמר, פי, ספירמן ופירסון

בחירת מדד קשר תלויה בסולמות המדידה של שני המשתנים. סולם שמי מתאר קטגוריות ללא סדר, כגון מגדר או סוג טיפול. סולם סדר מתאר דירוג, כגון רמת חרדה או דירוג איכות. סולם כמותי מתאר ערכים מספריים שבהם אפשר למדוד מרחקים, כגון גובה, הכנסה או ציון. מדדי הקשר הם סימטריים: מבחינת עוצמת הקשר אין חשיבות לכך איזה משתנה ייקרא X ואיזה Y.

עץ הבחירה בין המדדים:

• אם שני המשתנים שמיים, מתאים מדד קרמר. הוא בודק קשר בטבלת שכיחות בין קטגוריות.
• אם שני המשתנים שמיים ודיכוטומיים, כלומר לכל אחד יש שתי קטגוריות בלבד, מתאים מדד פי. מדד פי הוא מקרה פרטי של קרמר לטבלת 2×2.
• אם שני המשתנים סדריים, מתאים מדד ספירמן. הוא בודק קשר דירוגי: האם ככל שהדירוג במשתנה אחד עולה, גם הדירוג במשתנה השני עולה או יורד.
• אם משתנה אחד סדרי והשני כמותי, אך את המשתנה הכמותי אפשר להמיר לדירוג, ספירמן מתאים לבדיקת הקשר הדירוגי.
• אם שני המשתנים כמותיים והקשר הנבדק הוא קשר ליניארי, מתאים מקדם המתאם של פירסון.

לפיכך, לפני חישוב המדד יש להגדיר תחילה את סולם המדידה של כל משתנה ואת סוג הקשר שרוצים לבדוק: קשר בין קטגוריות, קשר דירוגי או קשר ליניארי בין ערכים מספריים.