האמת שמאחורי המילים שלנו: הטיה בתרבויות על פני ההיסטוריה

חוקרים מצאו כי גישות גלובליות מתאימות לשפה, וחושפים שהטיות מרומזות משתקפות לעתים קרובות במודלים של AI כמו ChatGPT. המחקר מציע שכדי להתמודד עם הטיות אלו, יש צורך להתמקד בהעברה תרבותית של שפה.

במחקר חדש, שפורסם היום (14 ביוני) בכתב העת פסיכולוגיה חברתית ומדעי האישיותחוקרים חולקים ראיות לכך שעמדותיהם של אנשים שזורות עמוק בשפה ובתרבות ברחבי העולם ובמאות השנים.

חקר אסוציאציות לשוניות

החוקרים בחנו קשרים בין עמדות ושפה של אנשים מ-55 נושאים שונים כמו עשירים מול עניים, כלבים מול חתולים, או אהבה מול כסף. הם השתמשו בארבעה מקורות טקסט: כתיבה וטקסט באנגלית עדכניים, ספרים באנגלית שחזרו 200 שנה אחורה, וטקסטים ב-53 שפות שאינן אנגלית. כמדד לעמדות של אנשים, הם השתמשו בנתונים של למעלה מ-100,000 אמריקאים; ראשית, דיווחים עצמיים ישירים, ושנית, מדד עקיף המבוסס על זמני תגובה של אנשים, המכונה לעתים קרובות עמדות שנמדדו במרומז.

הם גילו שהאסוציאציות שנקלטו על ידי מודלים גדולים של שפות בינה מלאכותית כמו ChatGPT תואמות יותר את המדד העקיף השני ולא את העמדות שהם מציינים במפורש.

AI וייצוג חברתי

"עם עלייתם של יישומי בינה מלאכותית ומודלים גדולים של שפה, אנחנו כצרכנים, מנהיגים, חוקרים או קובעי מדיניות צריכים להבין מה המודלים הללו מייצגים בעולם החברתי", אומרת הסופרת הראשית, ד"ר טסה צ'רלסוורת', מ- האוניברסיטה הצפון מערביתבית הספר לניהול של קלוג. "האם יש להם העדפות ברורות ומפורשות? או שמא יש להם דפוסים נסתרים יותר של אסוציאציות הדומות יותר לגישות שנמדדו במרומז?"

הפחתת ההטיות העדינות הללו ב-AI ידרוש גישות שונות מאשר חיפוש הטיות מפורשות. "במקום לבדוק את המודלים בסוף כדי לראות אם הם מראים הטיה ברורה ומפורשת, סביר להניח שנצטרך לחפור עמוק יותר לתוך הדפוסים בנתוני ההדרכה עצמם ולספק דוגמאות חלופיות של אסוציאציות", אומר ד"ר צ'רלסוורת.

השפעה תרבותית על הטיה מרומזת

באופן רחב יותר, "הנתונים מראים שעמדות שנמדדו בצורה מרומזת מתגלות ואולי מתחזקת על ידי השפה, שהיא כלי מרכזי להעברת תרבות", מציין ד"ר צ'רלסוורת. ככזה, "אם נרצה לטפל באופן מתמשך ולהפחית הטיה מרומזת בחברה, סביר להניח שנצטרך התערבויות המאמצות מיקוד תרבותי (או ברמת מאקרו) יותר."

תוך שימת דגש על האופי המתאם, החוקרים שואפים להמשיך ולחקור השפעות חברתיות-תרבותיות. "בהתחשב בעובדה שראינו שונות באיזו מהשפות הלא-אנגלית הראו את המתאם, חשוב להבין איזה סוג של גורמים חברתיים ותרבותיים יכולים לעזור להסביר העברה גדולה יותר בין הטיה לשפה", אומר ד"ר צ'רלסוורת.

כיווני מחקר חברתיים-תרבותיים

המחקר מניח את התשתית להבנה טובה יותר של הדרכים העדינות שבהן עמדות מסתבכות עם מערכות השפה והתקשורת, עוטפות אותנו – הן היום והן מהדהדות לאורך מאות שנים עברו.