בינה מלאכותית והטיה אלגוריתמית

מתעניינים בהטיות אלגוריתמיות בבינה מלאכותית? הצטרפו ל-INVIAI כדי ללמוד עוד על בינה מלאכותית והטיה אלגוריתמית במאמר זה!

בינה מלאכותית (AI) משתלבת יותר ויותר בחיי היומיום שלנו – מהחלטות גיוס ועד בריאות ואכיפת חוק – אך השימוש בה מעורר חששות לגבי הטיה אלגוריתמית. הטיה אלגוריתמית מתייחסת להטיות שיטתיות ולא הוגנות בתוצאות מערכות הבינה המלאכותית, שלרוב משקפות סטריאוטיפים ואי-שוויונות חברתיים.

בעיקרון, אלגוריתם בינה מלאכותית יכול בשוגג לשכפל הטיות אנושיות הקיימות בנתוני האימון או בעיצובו, מה שמוביל לתוצאות מפלות.

להלן נבחן מה גורם להטיה אלגוריתמית, דוגמאות מהעולם האמיתי להשפעתה, וכיצד העולם שואף להפוך את הבינה המלאכותית להוגנת יותר.

הבנת ההטיה האלגוריתמית וסיבותיה

הטיה אלגוריתמית בדרך כלל נובעת לא כי הבינה המלאכותית "רוצה" להפלות, אלא בגלל גורמים אנושיים. מערכות בינה מלאכותית לומדות מנתונים ופועלות לפי כללים שנוצרו על ידי אנשים – ואנשים נושאים הטיות (לעיתים לא מודעות). אם נתוני האימון מוטים או משקפים דעות קדומות היסטוריות, הבינה המלאכותית תסיק את אותם דפוסים.

אלגוריתמים של בינה מלאכותית יורשים את ההטיות של יוצריהם ונתוניהם אלא אם ננקטים צעדים מכוונים לזיהוי ותיקון ההטיות הללו.

— ממצא מחקרי מרכזי

חשוב לציין שההטיה האלגוריתמית היא בדרך כלל לא מכוונת. ארגונים מאמצים לעיתים בינה מלאכותית כדי לקבל החלטות אובייקטיביות יותר, אך אם הם "מזינים" את המערכת במידע מוטה או לא מתחשבים בשוויון בעיצוב, התוצאה עלולה להיות לא הוגנת. הטיית בינה מלאכותית עלולה להקצות הזדמנויות באופן לא הוגן וליצור תוצאות שגויות, המשפיעות לרעה על רווחת אנשים ומערערות את האמון בבינה מלאכותית.

הבנת הסיבות להטיה היא הצעד הראשון לפתרונות – וצעד זה נלקח ברצינות על ידי האקדמיה, התעשייה והממשלות ברחבי העולם.

הבנת שורשי ההטיה האלגוריתמית והאפליה

דוגמאות מהעולם האמיתי להטיית בינה מלאכותית

הטיה בבינה מלאכותית אינה רק חשש תיאורטי; מקרים רבים מהעולם האמיתי חשפו כיצד הטיה אלגוריתמית יכולה להוביל לאפליה. מקרים בולטים של הטיית בינה מלאכותית במגזרים שונים כוללים:

הטיה בטכנולוגיית זיהוי פנים

טכנולוגיית זיהוי פנים הראתה הטיה משמעותית בדיוק בין קבוצות דמוגרפיות. מחקר מקיף משנת 2019 של המכון הלאומי לתקנים וטכנולוגיה בארה"ב (NIST) חשף פערים מדאיגים:

• זיהויים חיוביים שגויים לפנים אסיאתיות ואפרו-אמריקאיות היו 10 עד 100 פעמים סבירים יותר מאשר לפנים קווקזיות
• שיעורי זיהוי שגוי הגבוהים ביותר היו לנשים שחורות בחיפושים מסוג אחד-לרבים
• הטיה מסוכנת זו כבר הובילה למעצר שווא של אנשים חפים מפשע

הטיה בבינה מלאכותית גנרטיבית ותוכן

גם מערכות הבינה המלאכותית החדישות ביותר אינן חסינות. מחקר של אונסק"ו משנת 2024 חשף שמודלים לשוניים גדולים מייצרים לעיתים סטריאוטיפים מגדריים וגזעיים רגרסיביים:

הסיכונים של בינה מלאכותית מצטברים על אי-השוויונות הקיימים, וגורמים נזק נוסף לקבוצות שוליות.

— אזהרת אונסק"ו

דוגמאות אלו מדגישות שההטיה האלגוריתמית אינה בעיה רחוקה או נדירה – היא מתרחשת במגוון תחומים כיום. מהזדמנויות תעסוקה ועד משפט, בריאות ומידע מקוון, מערכות בינה מלאכותית מוטות יכולות לשכפל ואף להחריף אפליה קיימת.

הנזק נופל לעיתים קרובות על קבוצות שהיו במצב נחיתות היסטורית, ומעלה חששות אתיים וזכויות אדם חמורים. בהתחשב בכך שמיליונים משתמשים כיום בבינה מלאכותית גנרטיבית בחיי היומיום, אפילו הטיות עדינות בתוכן יכולות להגביר אי-שוויונות בעולם האמיתי, ולחזק סטריאוטיפים בקנה מידה רחב.

מקרים מהעולם האמיתי המדגימים הטיית בינה מלאכותית במגזרים שונים

למה ההטיה בבינה מלאכותית חשובה?

הסיכונים בהתמודדות עם הטיית בינה מלאכותית גבוהים. אם לא ייבדק, אלגוריתמים מוטים עלולים להעמיק אפליה מערכתית תחת מסווה של נייטרליות טכנולוגית. החלטות שמתקבלות (או מונחות) על ידי בינה מלאכותית – מי מתקבל לעבודה, מי מקבל הלוואה או שחרור מוקדם, כיצד המשטרה מפעילה מעקב – נושאות השלכות ממשיות על חיי אנשים.

אם החלטות אלו מוטות באופן לא הוגן נגד מגדרים, גזעים או קהילות מסוימות, אי-השוויון החברתי מתרחב. זה עלול להוביל להזדמנויות שנשללות, פערים כלכליים ואפילו איומים על חופש וביטחון אישי של קבוצות מושפעות.

בתמונה הרחבה יותר, ההטיה האלגוריתמית מפחיתה זכויות אדם וצדק חברתי, ומתנגשת עם עקרונות השוויון ואי-הפליה שמקודמים בחברות דמוקרטיות.

יתרה מזאת, ההטיה האלגוריתמית עלולה להפחית את התועלות הפוטנציאליות של בינה מלאכותית. לבינה מלאכותית יש הבטחה לשפר יעילות וקבלת החלטות, אך אם התוצאות שלה מפלות או לא מדויקות עבור חלקים מהאוכלוסייה, היא לא תוכל לממש את מלוא הפוטנציאל החיובי שלה.

לדוגמה, כלי בריאות מבוסס בינה מלאכותית שעובד היטב עבור דמוגרפיה אחת אך גרוע עבור אחרות אינו יעיל או מקובל באמת. כפי שציין ה-OECD, הטיה בבינה מלאכותית מגבילה הזדמנויות באופן לא הוגן ועלולה לעלות לעסקים במוניטין ובאמון המשתמשים.

בקיצור, התמודדות עם הטיה היא לא רק חובה מוסרית אלא גם קריטית למימוש תועלות הבינה המלאכותית עבור כל הפרטים בצורה הוגנת.

החשיבות הקריטית של התמודדות עם הטיית בינה מלאכותית לחברה

אסטרטגיות להפחתת הטיית בינה מלאכותית

מכיוון שההטיה האלגוריתמית מוכרת כיום באופן נרחב, התפתחו מגוון אסטרטגיות ונהלים מומלצים להפחתתה. הבטחת מערכות בינה מלאכותית הוגנות ומכלילות דורשת פעולה בשלבים שונים של פיתוח ויישום:

אסטרטגיות מקיפות להפחתת הטיית בינה מלאכותית והבטחת הוגנות

הדרך קדימה: בניית בינה מלאכותית אתית

הטיה אלגוריתמית בבינה מלאכותית היא אתגר עולמי שאנו רק מתחילים להתמודד איתו ביעילות. הדוגמאות והמאמצים שהוצגו מבהירים שההטיה בבינה מלאכותית אינה נושא שוליים – היא משפיעה על הזדמנויות כלכליות, משפט, בריאות ומרקם חברתי ברחבי העולם.

השגת זאת תדרוש ערנות מתמשכת: בדיקות שוטפות של מערכות בינה מלאכותית להטיה, שיפור נתונים ואלגוריתמים, מעורבות בעלי עניין מגוונים, ועדכון רגולציות ככל שהטכנולוגיה מתפתחת.

בלב העניין, המאבק בהטיה האלגוריתמית הוא על התאמת הבינה המלאכותית לערכי השוויון וההוגנות שלנו. כפי שציינה מנהלת אונסק"ו אודרי אזולאי, אפילו "הטיות קטנות בתוכן [של בינה מלאכותית] יכולות להגביר משמעותית אי-שוויונות בעולם האמיתי".

הטיות קטנות בתוכן בינה מלאכותית יכולות להגביר משמעותית אי-שוויונות בעולם האמיתי.

— אודרי אזולאי, מנהלת אונסק"ו

לכן, השאיפה לבינה מלאכותית נטולת הטיות היא קריטית כדי להבטיח שהטכנולוגיה תרים את כל מגזרי החברה במקום לחזק דעות קדומות ישנות.

על ידי מתן עדיפות לעקרונות אתיים בעיצוב הבינה המלאכותית – ותמיכה בהם בפעולות ומדיניות קונקרטיות – נוכל למנף את כוח החדשנות של הבינה המלאכותית תוך שמירה על כבוד האדם.