בינה מלאכותית (AI) משולבת כיום בכל דבר, החל מעוזרי סמארטפון ופידים ברשתות החברתיות ועד לבריאות ותחבורה. טכנולוגיות אלו מביאות יתרונות חסרי תקדים, אך גם מציבות סיכונים ואתגרים משמעותיים.

מומחים ומוסדות בינלאומיים מזהירים כי ללא מסגרות אתיות מתאימות, בינה מלאכותית עלולה לשכפל דעות קדומות ואפליה מהעולם האמיתי, לתרום לנזק סביבתי, לאיים על זכויות אדם ולהעצים אי שוויונות קיימים.

במאמר זה, נבחן יחד עם INVIAI את הסיכונים בשימוש בבינה מלאכותית בכל התחומים והסוגים – מצ׳אטבוטים ואלגוריתמים ועד רובוטים – בהתבסס על תובנות ממקורות רשמיים ובינלאומיים.

דעות קדומות ואפליה במערכות בינה מלאכותית

אחד הסיכונים המרכזיים בבינה מלאכותית הוא העמקת דעות קדומות ואפליה לא הוגנת. מודלים של AI לומדים מנתונים שעשויים לשקף הטיות היסטוריות או אי שוויונות; כתוצאה מכך, מערכת AI עלולה להתייחס לאנשים באופן שונה על בסיס גזע, מין או תכונות אחרות, בדרכים שממשיכות את העוול.

לדוגמה, “בינה מלאכותית כללית תקולה עלולה לגרום נזק באמצעות החלטות מוטות ביחס לתכונות מוגנות כמו גזע, מין, תרבות, גיל ונכות,” כך לפי דוח בינלאומי על בטיחות בינה מלאכותית.

אלגוריתמים מוטים המשמשים בגיוס עובדים, מתן הלוואות או אכיפת חוק כבר הובילו לתוצאות לא שוויוניות המפילות לרעה קבוצות מסוימות. גופים גלובליים כמו אונסק"ו מזהירים כי ללא אמצעי הגינות, הבינה המלאכותית עלולה “לשכפל דעות קדומות ואפליה מהעולם האמיתי, להחריף פילוגים ולאיים על זכויות וחירויות יסוד של האדם.” חשוב להבטיח שמערכות AI יאומנו על נתונים מגוונים ומייצגים וייבדקו לאיתור הטיות כדי למנוע אפליה אוטומטית.

סכנות מידע שגוי ודיפייק

יכולת הבינה המלאכותית ליצור טקסטים, תמונות וסרטונים היפר-ריאליסטיים עוררה חששות מהצפה של מידע שגוי. בינה מלאכותית גנרטיבית יכולה לייצר כתבות חדשות מזויפות משכנעות, תמונות מזויפות או סרטוני דיפייק שקשה להבחין בינם לבין המציאות.

דוח הסיכונים הגלובליים 2024 של פורום הכלכלה העולמי מזהה “מידע מניפולטיבי ומזויף” כסיכון הגלובלי החמור ביותר בטווח הקצר, וציין כי AI “מגביר את המידע המניפולטיבי והמוטה שעשוי לייצבח את החברה.”

למעשה, מידע שגוי ומידע מטעה המונעים על ידי AI מהווים אחד מהאתגרים הגדולים ביותר לתהליך הדמוקרטי – במיוחד כאשר מיליארדי אנשים עומדים להצביע בבחירות הקרובות. מדיה סינתטית כמו סרטוני דיפייק וקולות משוכפלים בינה מלאכותית עלולה לשמש ככלי להפצת תעמולה, התחזות לדמויות ציבוריות או ביצוע הונאות.

רשויות מזהירות כי שחקנים זדוניים יכולים לנצל את הבינה המלאכותית לקמפיינים רחבי היקף של דיסאינפורמציה, מה שמקל להציף רשתות חברתיות בתוכן מזויף ולזרוע כאוס. הסיכון הוא לסביבה מידע צינית שבה האזרחים אינם יכולים לסמוך על מה שהם רואים או שומעים, מה שמערער את השיח הציבורי והדמוקרטיה.

איומים על פרטיות ופיקוח המוני

השימוש הנרחב בבינה מלאכותית מעלה חששות רציניים לגבי הפרטיות. מערכות AI דורשות לעיתים כמויות עצומות של מידע אישי – מפנינו וקולותינו ועד להרגלי הקנייה והמיקום שלנו – כדי לפעול ביעילות. ללא הגנות חזקות, מידע זה עלול להיות מנוצל לרעה.

לדוגמה, זיהוי פנים ואלגוריתמים חיזויים עלולים לאפשר פיקוח נרחב, לעקוב אחר כל תנועות הפרט או לדרג את התנהגותו ללא הסכמה. המלצת האתיקה של אונסק"ו לבינה מלאכותית מזהירה במפורש כי “אסור להשתמש במערכות AI לצורכי דירוג חברתי או פיקוח המוני.” שימושים כאלה נחשבים לסיכונים בלתי מקובלים.

יתרה מזאת, ניתוח נתונים אישי מונע בינה מלאכותית יכול לחשוף פרטים אינטימיים על חיינו, ממצב בריאותי ועד לאמונות פוליטיות, ומאיים על זכות הפרטיות. רשויות הגנת המידע מדגישות כי פרטיות היא “זכות חיונית להגנה על כבוד האדם, אוטונומיה וסמכות” שיש לכבד לאורך כל מחזור חיי מערכת ה-AI.

אם פיתוח הבינה המלאכותית יעקוף את הרגולציה לפרטיות, אנשים עלולים לאבד שליטה על המידע האישי שלהם. החברה חייבת להבטיח ממשל נתונים חזק, מנגנוני הסכמה וטכניקות לשמירת פרטיות כדי שמערכות AI לא יהפכו לכלי פיקוח בלתי מבוקר.

כשלי בטיחות ונזקים בלתי מכוונים

בעוד שבינה מלאכותית יכולה לאוטומט החלטות ומשימות פיזיות ביעילות על-אנושית, היא גם עלולה להיכשל בדרכים בלתי צפויות, ולגרום לנזקים במציאות. אנו סומכים על AI במשימות קריטיות לבטיחות – כמו נהיגה, אבחון רפואי או ניהול רשתות חשמל – אך מערכות אלו אינן חסינות לטעויות.

תקלות, נתוני אימון לקויים או מצבים בלתי צפויים עלולים לגרום ל-AI לקבל החלטות מסוכנות. למשל, AI ברכב אוטונומי עלול לטעות בזיהוי הולך רגל, או AI רפואי להמליץ על טיפול שגוי, עם השלכות שעלולות להיות קטלניות.

בהכרה בכך, קווים מנחים בינלאומיים מדגישים כי יש לצפות ולמנוע נזקים וסיכוני בטיחות בלתי רצויים: “יש להימנע ולטפל בנזקים בלתי רצויים (סיכוני בטיחות), כמו גם בפגיעות להתקפות (סיכוני אבטחה) לאורך כל מחזור חיי מערכות AI כדי להבטיח בטיחות וביטחון לאדם, לסביבה ולמערכות האקולוגיות.”

במילים אחרות, יש לבדוק, לפקח ולבנות מערכות AI עם אמצעי בטיחות כדי למזער תקלות. הסתמכות יתר על AI עלולה להיות מסוכנת – אם בני אדם יבטחו בהחלטות אוטומטיות בעיוורון, הם עלולים לא להתערב בזמן כשמשהו משתבש.

לכן, הבטחת פיקוח אנושי היא קריטית. בשימושים בעלי סיכון גבוה (כמו בריאות או תחבורה), ההחלטות הסופיות צריכות להישאר בידי שיקול דעת אנושי, וכפי שאונסק"ו מציינת, “החלטות חיים ומוות אינן צריכות להיות מועברות למערכות AI.” שמירה על בטיחות ואמינות ב-AI היא אתגר מתמשך, הדורש תכנון קפדני ותרבות של אחריות מצד מפתחי הבינה המלאכותית.

החלפת עובדים והפרעות כלכליות

השפעת הבינה המלאכותית על הכלכלה היא חרב פיפיות. מצד אחד, AI יכול להעלות את הפרודוקטיביות וליצור תעשיות חדשות לחלוטין; מצד שני, הוא מציב סיכון להחלפת מיליוני עובדים באמצעות אוטומציה.

רבים מהמקצועות – במיוחד אלה הכוללים משימות שגרתיות, חוזרות או נתונים שקל לנתח – חשופים להחלפה על ידי אלגוריתמים ורובוטים מבוססי AI. תחזיות גלובליות מדאיגות: למשל, פורום הכלכלה העולמי מעריך כי “תשעים ושתיים מיליון משרות צפויות להיות מוחלפות עד 2030” בעקבות AI וטכנולוגיות קשורות.

למרות שהכלכלה עשויה ליצור תפקידים חדשים (אולי אף יותר מאלה שאבדו בטווח הארוך), המעבר יהיה כואב עבור רבים. המשרות החדשות דורשות לעיתים מיומנויות שונות ומתקדמות יותר או מרוכזות במרכזי טכנולוגיה מסוימים, מה שעלול להקשות על עובדים מוחלפים למצוא מקום חדש.

הפער בין המיומנויות הקיימות של העובדים לבין הדרישות של תפקידים חדשים מונעי AI עלול להוביל לעלייה באבטלה ואי שוויון אם לא יטופל. למעשה, מקבלי החלטות וחוקרים מזהירים כי התקדמות מהירה של AI עלולה להביא ל“הפרעות בשוק העבודה ואי שוויון בכוח הכלכלי” בקנה מידה מערכתית.

קבוצות מסוימות עלולות להיפגע יותר – למשל, מחקרים מסוימים מצביעים על סיכון גבוה יותר לאוטומציה במשרות המוחזקות על ידי נשים או עובדים במדינות מתפתחות. ללא צעדים יזומים (כגון תוכניות הכשרה מחדש, חינוך במיומנויות AI ורשתות ביטחון סוציאליות), AI עלול להרחיב פערים חברתיים-כלכליים, וליצור כלכלה מונעת AI שבה בעלי הטכנולוגיה נהנים מרוב היתרונות.

הכנת כוח העבודה להשפעת הבינה המלאכותית היא חיונית כדי להבטיח שהיתרונות של האוטומציה יחולקו באופן רחב ולמנוע מהפכות חברתיות בעקבות אובדן משרות נרחב.

שימוש פלילי, הונאה ואיומי אבטחה

בינה מלאכותית היא כלי רב עוצמה שיכול לשמש גם למטרות זדוניות כמו למטרות טובות. פושעי סייבר ושחקנים זדוניים אחרים כבר מנצלים את ה-AI כדי לשפר את התקפותיהם.

לדוגמה, AI יכול ליצור מיילים או הודעות קוליות פישינג מותאמות אישית (על ידי שכפול קול של מישהו) כדי להונות אנשים ולגרום להם לחשוף מידע רגיש או לשלוח כסף. הוא יכול גם לשמש לאוטומציה של פריצות על ידי איתור פרצות תוכנה בקנה מידה או לפתח תוכנות זדוניות שמתאימות את עצמן כדי להתחמק מזיהוי.

המרכז לבטיחות בינה מלאכותית מזהה שימוש זדוני ב-AI כדאגה מרכזית, ומציין תרחישים שבהם מערכות AI מנוצלות על ידי פושעים לביצוע הונאות והתקפות סייבר רחבות היקף. למעשה, דוח שהוזמן על ידי ממשלת בריטניה הזהיר במפורש כי “שחקנים זדוניים יכולים להשתמש ב-AI לקמפיינים רחבי היקף של דיסאינפורמציה, השפעה, הונאות ותרמיות.”

המהירות, ההיקף והמומחיות שה-AI מאפשר עלולים להכריע את ההגנות המסורתיות – דמיינו אלפי שיחות הונאה או סרטוני דיפייק שנוצרים על ידי AI הפונים לביטחון של חברה ביום אחד.

מעבר לפשעים פיננסיים, קיים גם סיכון לשימוש ב-AI לגניבת זהות, הטרדה או יצירת תוכן מזיק (כגון פורנוגרפיית דיפייק ללא הסכמה או תעמולה לקבוצות קיצוניות). ככל שהכלים הופכים לנגישים יותר, המחסום לביצוע פעילויות זדוניות אלו יורד, מה שעלול להוביל לעלייה בפשיעה המוגברת על ידי AI.

זה מחייב גישות חדשות לאבטחת סייבר ואכיפת חוק, כגון מערכות AI שיכולות לזהות דיפייקים או התנהגות חריגה ומסגרות חוקיות מעודכנות להעמדת עבריינים לדין. במילים אחרות, עלינו לצפות שכל יכולת שה-AI מספק לטובים, עשויה להינתן גם לפושעים – ולהתכונן בהתאם.

מיליטריזציה ונשק אוטונומי

אולי הסיכון המפחיד ביותר של הבינה המלאכותית מתגלה בהקשר של מלחמה וביטחון לאומי. AI משתלב במהירות במערכות צבאיות, ומעלה את האפשרות של נשק אוטונומי (“רובוטים רוצחים”) וקבלת החלטות מבוססת AI בקרב.

טכנולוגיות אלו יכולות להגיב מהר יותר מכל אדם, אך הסרת השליטה האנושית משימוש בכוח קטלני טומנת בחובה סכנות. קיים סיכון שנשק מבוקר AI יבחר מטרה שגויה או יחריף סכסוכים בדרכים בלתי צפויות. צופים בינלאומיים מזהירים כי “הנשקיות של AI לשימוש צבאי” היא איום מתגבר.

אם מדינות יתחרו בצבירת נשק חכם, הדבר עלול לעורר מירוץ חימוש בלתי יציב. בנוסף, AI עלול לשמש במלחמת סייבר לתקיפות אוטונומיות על תשתיות קריטיות או להפצת תעמולה, מטשטש את הגבול בין שלום לסכסוך.

האומות המאוחדות הביעו דאגה כי פיתוח AI למלחמה, אם יוגבל לידיים מעטים, “עלול להיות מוטל על אנשים ללא יכולת להשפיע על אופן השימוש בו,” ומערער את הביטחון והאתיקה הגלובליים.

מערכות נשק אוטונומיות מציבות גם דילמות משפטיות ומוסריות – מי אחראי אם רחפן AI טועה וגורם למות אזרחים? כיצד מערכות אלו עומדות בדיני המלחמה הבינלאומיים?

שאלות אלו ללא מענה הובילו לקריאות לאיסורים או רגולציה מחמירה על נשק מבוסס AI. שמירה על פיקוח אנושי על כל AI שיכול לקבל החלטות חיים ומוות נחשבת לקריטית. בלעדיה, הסיכון הוא לא רק טעויות טרגיות בשדה הקרב אלא גם שחיקת האחריות האנושית במלחמה.

חוסר שקיפות ואחריות

רוב מערכות ה-AI המתקדמות כיום פועלות כ”קופסאות שחורות” – הלוגיקה הפנימית שלהן לעיתים קרובות אינה ברורה אפילו ליוצריהן. חוסר השקיפות הזה יוצר סיכון שהחלטות AI לא יוכלו להיות מוסברות או מוטלות בספק, בעיה חמורה בתחומים כמו משפט, פיננסים או בריאות שבהם יש דרישה להסבריות חוקית או אתית.

אם AI מסרב לאשר הלוואה, מאבחן מחלה או מחליט מי ישוחרר מהכלא, ברור שנרצה לדעת מדוע. עם חלק מהמודלים (במיוחד רשתות עצביות מורכבות), מתן הסבר ברור הוא אתגר.

“חוסר שקיפות” עלול לפגוע באמון ו“לערער את האפשרות לערער ביעילות על החלטות המבוססות על תוצאות של מערכות AI,” מציינת אונסק"ו, “ולפגוע בזכות למשפט הוגן ולסעד אפקטיבי.”

במילים אחרות, אם לא משתמשים ולא רגולטורים אינם מבינים כיצד AI מקבל החלטות, כמעט בלתי אפשרי להטיל אחריות על טעויות או הטיות.

פער האחריות הזה הוא סיכון משמעותי: חברות עלולות להתחמק מאחריות על ידי הטלת האשמה על “האלגוריתם,” ואנשים מושפעים עלולים להישאר ללא מענה. כדי להתמודד עם זאת, מומחים תומכים בטכניקות AI מוסברות, ביקורת קפדנית ודרישות רגולטוריות שהחלטות AI יהיו ניתנות למעקב לאוטוריטה אנושית.

קווים מנחים אתיים גלובליים מדגישים כי תמיד “יש להיות אפשרות לייחס אחריות אתית וחוקית” להתנהגות מערכות AI לאדם או לארגון. בני אדם חייבים להישאר אחראים בסופו של דבר, ו-AI צריך לסייע ולא להחליף שיקול דעת אנושי בנושאים רגישים. אחרת, אנו מסתכנים ביצירת עולם שבו החלטות חשובות מתקבלות על ידי מכונות בלתי מובנות – מתכון לעוול.

ריכוז כוח ואי שוויון

מהפכת הבינה המלאכותית אינה מתרחשת באופן שווה ברחבי העולם – מספר קטן של תאגידים ומדינות שולט בפיתוח AI מתקדם, מה שמביא עמו סיכונים משלו.

מודלים מתקדמים דורשים כמויות עצומות של נתונים, כישרון ומשאבי מחשוב שרק ענקי הטכנולוגיה (וממשלות ממומנות היטב) מחזיקים כיום. הדבר יצר “שרשרת אספקה עולמית מרוכזת, ייחודית ומשולבת המעדיפה מספר מועט של חברות ומדינות,” לפי פורום הכלכלה העולמי.

ריכוז כזה של כוח בינה מלאכותית עלול להתבטא בשליטה מונופוליסטית בטכנולוגיות AI, להגביל תחרות ובחירת צרכנים. הוא גם מעלה את הסכנה שהעדיפויות של אותם חברות או מדינות מעצבות את ה-AI בדרכים שאינן מתחשבות ב< strong>אינטרס הציבור הרחב.

האומות המאוחדות ציינו את “הסכנה שטכנולוגיית AI תוטל על אנשים ללא יכולת להשפיע על אופן השימוש בה,” כאשר הפיתוח מרוכז בידי מעטים.

אי שוויון זה עלול להחריף פערים גלובליים: מדינות וחברות עשירות מקדימות על ידי ניצול AI, בעוד קהילות עניות חסרות גישה לכלים החדישים וסובלות מאובדן משרות ללא תועלת מהטכנולוגיה. בנוסף, תעשיית AI מרוכזת עלולה לחנוק חדשנות (אם מתחרים חדשים אינם יכולים להתמודד עם משאבי החברות הגדולות) ולהוות סיכון ביטחוני (אם תשתיות AI קריטיות נשלטות על ידי מספר מצומצם של גופים, הן הופכות לנקודת כשל או מניפולציה).

התמודדות עם סיכון זה דורשת שיתוף פעולה בינלאומי ואולי רגולציה חדשה לדמוקרטיזציה של פיתוח AI – למשל, תמיכה במחקר פתוח, הבטחת גישה הוגנת לנתונים ולמשאבי מחשוב, ועיצוב מדיניות (כמו חוק ה-AI המוצע של האיחוד האירופי) למניעת התנהגויות פוגעניות של “שומרי סף של AI.”” נוף AI כוללני יותר יסייע להבטיח שהיתרונות יחולקו באופן גלובלי, במקום להרחיב את הפער בין בעלי הטכנולוגיה לאלו שאין להם.

השפעה סביבתית של בינה מלאכותית

לעיתים קרובות מתעלמים בדיונים על סיכוני AI מה< strong>טביעת הרגל הסביבתית שלה. פיתוח בינה מלאכותית, במיוחד אימון מודלים גדולים של למידת מכונה, צורך כמויות עצומות של חשמל וכוח מחשוב.

מרכזי נתונים עמוסים באלפי שרתים צורכי אנרגיה גבוהים נדרשים לעיבוד כמויות המידע שהמערכות לומדות מהן. משמעות הדבר היא ש-AI תורמת בעקיפין ל< strong>פליטות פחמן ושינויי אקלים.

דוח סוכנות האו"ם האחרון מצא כי פליטות הפחמן העקיפות של ארבע חברות טכנולוגיה מובילות בתחום AI זינקו בממוצע ב-150% בין 2020 ל-2023, בעיקר בשל דרישות האנרגיה של מרכזי הנתונים.

עם גידול ההשקעה ב-AI, צפויות הפליטות מהפעלת מודלים לעלות בצורה חדה – הדוח חזה כי מערכות AI המובילות עשויות לפלוט יחד מעל 100 מיליון טון CO₂ בשנה, מה שמעמיס משמעותית על תשתיות האנרגיה.

לשם השוואה, מרכזי הנתונים המפעילים AI מגדילים את צריכת החשמל “ארבעה פעמים מהר יותר מהעלייה הכוללת בצריכת החשמל.”

מלבד פליטות פחמן, AI צורכת גם מים לקירור ומייצרת פסולת אלקטרונית עקב שדרוגים מהירים בחומרה. אם לא יטופל, ההשפעה הסביבתית של AI עלולה לערער את מאמצי הקיימות העולמיים.

סיכון זה מחייב להפוך את ה-AI ל< strong>יעילה יותר אנרגטית ולהשתמש במקורות אנרגיה נקיים יותר. חוקרים מפתחים טכניקות AI ירוקות להפחתת צריכת החשמל, וחברות מסוימות התחייבו לפצות על עלויות הפחמן של AI. עם זאת, מדובר באתגר דחוף שכן המרוץ ל-AI עלול לשאת תג מחיר סביבתי כבד. איזון בין התקדמות טכנולוגית לאחריות אקולוגית הוא אתגר נוסף שעל החברה להתמודד איתו ככל שה-AI משתלבת בכל תחום.

סיכונים קיומיים וארוכי טווח

מעבר לסיכונים המיידיים, יש מומחים שמזהירים מסיכונים ספקולטיביים וארוכי טווח של AI – כולל האפשרות של בינה מלאכותית מתקדמת שתגדל מעבר לשליטת האדם. בעוד שמערכות AI כיום הן צרות ביכולותיהן, חוקרים פועלים לפיתוח בינה מלאכותית כללית שעשויה להצטיין על בני אדם בתחומים רבים.

זה מעלה שאלות מורכבות: אם AI יהפוך לחכם או אוטונומי בהרבה, האם הוא עלול לפעול בדרכים המאיימות על קיומו של המין האנושי? אף שזה נשמע כמו מדע בדיוני, דמויות בולטות בקהילת הטכנולוגיה הביעו דאגה מתרחישי “AI מתריס”, וממשלות מתייחסות לנושא ברצינות.

בשנת 2023 אירחה בריטניה פסגת בטיחות AI עולמית לטיפול בסיכוני AI מתקדמים. הקונצנזוס המדעי אינו אחיד – חלק סבורים כי AI על-אנושי רחוק עשורים או שניתן לשמור עליו מותאם לערכי האדם, בעוד אחרים רואים סיכוי קטן אך לא אפס לתוצאות קטסטרופליות.

דוח הבטיחות הבינלאומי האחרון ציין כי “למומחים יש דעות שונות לגבי הסיכון שהאנושות תאבד שליטה על AI באופן שעלול לגרום לתוצאות קטסטרופליות.”

בעיקרו של דבר, יש הכרה כי סיכון קיומי מ-AI, אף אם מרוחק, אינו ניתן לדחייה מוחלטת. תוצאה כזו עשויה לכלול AI הרודף אחר מטרותיו על חשבון רווחת האדם (הדוגמה הקלאסית היא AI שמקבל החלטות מזיקות בקנה מידה גדול בגלל חוסר הגבלות מוסריות או שיקול דעת).

למרות שאין כיום AI עם סוכנות ברמה כזו, קצב התקדמות ה-AI מהיר ובלתי צפוי, מה שמוסיף לסיכון. הכנה לסיכונים ארוכי טווח כוללת השקעה במחקר התאמת AI לערכי האדם, הקמת הסכמים בינלאומיים למחקר AI בסיכון גבוה (בדומה לאמנות נשק גרעיני או ביולוגי), ושמירה על פיקוח אנושי ככל שמערכות AI מתקדמות.

עתיד ה-AI טומן בחובו הבטחות עצומות, אך גם אי ודאות – וזה מחייב שניקח בחשבון גם סיכונים בעלי סבירות נמוכה אך השפעה גבוהה בתכנון ארוך הטווח שלנו.

>>> לחצו ללמוד עוד: יתרונות הבינה המלאכותית לפרטים ולעסקים

לעיתים משווים את הבינה המלאכותית למנוע עוצמתי שיכול להניע את האנושות קדימה – אך ללא בלמים והיגוי, המנוע עלול לסטות מהמסלול. כפי שראינו, הסיכונים בשימוש ב-AI הם רב-ממדיים: החל מבעיות מיידיות כמו אלגוריתמים מוטים, חדשות מזויפות, פגיעה בפרטיות והפרעות בשוק העבודה, ועד לאתגרים חברתיים רחבים יותר כמו איומי ביטחון, קבלת החלטות “קופסת שחורה,” מונופולים של ענקיות הטכנולוגיה, עומס סביבתי ואפילו הסכנה הרחוקה של אובדן שליטה ל-AI על-אנושי.

סיכונים אלו אינם מצביעים על צורך לעצור את פיתוח ה-AI; להפך, הם מדגישים את הצורך הדחוף בממשל אחראי ופרקטיקות אתיות.

ממשלות, ארגונים בינלאומיים, מובילי תעשייה וחוקרים משתפים פעולה יותר ויותר כדי להתמודד עם חששות אלו – למשל, באמצעות מסגרות כמו מסגרת ניהול סיכוני AI של NIST בארה”ב (לשיפור אמינות ה-AI), המלצת האתיקה העולמית של אונסק"ו וחוק ה-AI של האיחוד האירופי.

מאמצים אלו שואפים למקסם את היתרונות של AI תוך מזעור החסרונות, ולהבטיח שה-AI ישרת את האנושות ולא להפך. בסופו של דבר, הבנת הסיכונים של AI היא הצעד הראשון בניהולם. על ידי שמירה על מודעות ומעורבות בפיתוח ובשימוש ב-AI, נוכל לסייע לכוון טכנולוגיה משנה זו לכיוון בטוח, הוגן ומועיל לכולם.