הגדה השמאלית

במה ביקורתית לחברה ותרבות


מאת: ב-22 בנובמבר, 2012 23 תגובות

ביום החמישי למלחמה פורסם הדו"ח "אובדן האנושיות – הטיעון נגד רובוטים קטלניים". זהו מחקר ראשון מסוגו שנערך על ידי ארגון Human Rights Watch במשותף עם הקליניקה הבינלאומית לזכויות אדם בפקולטה למשפטים באוניברסיטת הרווארד. פרסומו פותח קמפיין בינלאומי שהארגון יזם לניסוח אמנה בינלאומית למניעת פיתוח, ייצור והפצת כלי נשק שאינם נשלטים ביד אנושית. רובוטים קטלניים אוטונומיים, כפי שהם מכונים, יהיו מסוגלים לבחור מטרות ולכוון אליהן אש תוך מיזעור, ואף ביטול כל מעורבות אנושית בהפעלתם.

kippat_barzel_rocket_efi_elian_kanot_ashdodמשגר של כיפת ברזל (צילום: אפי אליאן)

לפי הדו"ח, הדוגמאות הבולטות ביותר לרובוטים קטלניים הם כלי טייס בלתי מאויישים אמריקאים כמו "הטורף" (MQ-1 Predator) יציר שנות ה-80 של המאה ה-20, וצאצאו בן המאה ה-21 –  "הקוצר" (Reaper – שם נרדף למלאך המוות), החמוש בטילים וביכולת תקיפה. לפי שעה נשלטים המטוסים הרובוטיים הללו בשלט רחוק על ידי טייס ושני מפעילי מערכות, אך הדור הבא של בני מינם יהנה מעצמאות מוחלטת. זו המגמה המדריכה כיום, בראש ובראשונה את צבא ארה"ב, אך גם את סין, גרמניה, דרום קוריאה, רוסיה, בריטניה וישראל.

הדו"ח, המתבסס על מאות מקורות ומחקרים בתחומי הטכנולוגיה, המשפט והאתיקה הצבאית, מזכיר את ישראל כאחת המדינות המובילות בפיתוח ובייצור רובוטים צבאיים (באדיבות משרד ההגנה האמריקאי). הוא מציין שני פיתוחים ייחודיים לישראל: חיישנים המותקנים על גדרות ההפרדה ובאזורי הגבול שיודעים לאתר תנועה ומסוגלים לירות בהפעלה אנושית מרחוק, ומערכת כיפת ברזל. כיום, קובעים מחברי הדו"ח, כלי נשק אוטונומיים לחלוטין עדיין אינם בשימוש, אך עצמאותם המלאה של הרובוטים הצבאיים תושג בתוך 20 עד 30 שנה, אם לא קודם לכן. נראה אפוא שהקריאה למדינות ולצבאות לעצור את פיתוחם של רובוטים קטלניים אוטונומיים היא קריאה של הרגע האחרון, ומכאן – דחיפותה.

את הנימוקים בעד פיתוחם של רובוטים צבאיים אפשר לתמצת בשורות ספורות. עלותם גבוהה אך תועלתם לצבאות גדולה יותר. בדומה לרובוטים התעשייתיים המחליפים משנות ה-70 של המאה ה-20 את עובדי הכפיים במפעלים רבים, הרובוטים הצבאיים מאפשרים לתאגיד הרוכש אותם לצמצם בכוח אדם וחשוב מזה – לחסוך חיי אדם. כחיילים מן השורה מוכנים הרובוטים לעבוד ללא הפסקה, בדייקנות, ללא רגשות ובלי הפסקות לקפה וסיגריה.

בניגוד לאחיהם בתעשייה, אי אפשר להאשים אותם בפגיעה בשכר העובדים על ידי הרחבת "חיל המילואים" של עולם העבודה, הלא הם המובטלים. נהפוך הוא, רובוטים צבאיים מקטינים את חילות המילואים ומאפשרים למשק להמשיך בשגרת הקיום גם בזמן מלחמה. לזכותם ייאמר שיש להם השפעה מרגיעה על אזרחי מדינתם; לחובתם ייאמר, שהשפעתם המרגיעה מרדימה את המחאה נגד המלחמה. הצבא מתברך בצמצום פגיעות בנפש, הנפגעים בצד השני ממילא אינם נחשבים, מסך הטלוויזיה משקף דימויים מעולם משחקי המחשב, השנינויות בטוויטר מנצחות את זעקות הכאב, ואפשר להתנחם באשליה שעמודי האש והעשן המיתמרים מלב עזה אינם כה נוראים כפי שהם נראים ברשתות הטלוויזיה הזרות.

הופעתם של רובוטים קטלניים אוטונומיים בשדה הקרב תשנה את התמונה המוכרת לנו, ובכך עוסקים למעלה מ-40 עמודי הדו"ח. לטענת מחבריו, החוק ההומניטרי הבינלאומי המתבסס על שיקול דעת אנושי, מצפון ומוסר, אינו ערוך לעידן של מלחמות רובוטים עצמאיים. מכאן נובעת הדאגה הגדולה שהדו"ח מבטא, והדחיפות שהוא מייחס לניסוח אתיקה צבאית חדשה. ככל שרמת הטכנולוגיה עולה כן גוברת האלימות, וקשה ביותר להתאים לרובוטים את הקוד האתי הצבאי התובע מכל חייל כושר אבחנה, מידתיות ואחריותיות. אין, וככל הידוע גם לא תהיה בעתיד הנראה לעין, אינטליגנציה מלאכותית שתוכל להבחין בין לוחם חמוש לאזרח בלתי חמוש שנקלע לרוע מזלו לאזור הלחימה. אין לרובוטים שיקול דעת הדרוש כתנאי הכרחי להערכת מידתיותה של מתקפה, ואין ביכולתם להכריע אם נזק אזרחי גובר על תועלת צבאית – או להיפך – במקרה של מתקפה. שאלת האחריותיות אינה פחות חשובה. אם כיום אפשר לדעת מי הפעיל רובוט קטלני או מי "נתן את הפקודה", הרובוט האוטונומי העתידי יהיה חסין מפני האשמה בפשע מלחמה. איך להתייחס לרובוט אוטונומי: האם, כמקבל ההחלטה על שיגור טיל, הוא חייל מן השורה או מפקד בכיר? האם נכון לייחס לו שיקול דעת במובן האנושי ? מי יואשם בטעותו של רובוט במהלך פעולה "כירורגית" בחצרו של האוייב ? אי היכולת להצביע על האחראים לפשעי מלחמה בעידן הרובוטים העצמאיים, מזהירים ארגוני הזכויות, יפגע קשות בהרתעה מפני הפרות החוק ההומניטרי הבינלאומי וביכולתה של מערכת המשפט הבינלאומית לשפוט פושעי מלחמה ולתת סעד משפטי לקורבנותיהם.

רובוטיקאים נלהבים מבטיחים לנו מערכות אינטליגנטיות עתידיות שמוחן המלאכותי יוזן בכל החוקים והאמנות ההומניטריים באופן שיאפשר להן להימנע מפשעי מלחמה. לטענתם, אלגוריתמים לניתוח מצבים בזמן אמת מספקים חלופה הולמת למוח האנושי בעת מלחמה. ובכלל, הם תוהים, האם צבאות אינם מחנכים את חייליהם לפעול כרובוטים ממלאי פקודות ? יש משהו בטענה הזאת. אך גם בצבא הממושמע ביותר, בחברה הפטריוטית ביותר, יימצאו תמיד המעטים שיסרבו למלא פקודה בלתי חוקית; יימצא האחד שרחמיו יתעוררו למראה ילדה מפוחדת במבואותיה של עיר כבושה; תימצא החיילת שתפעל לפי צו מצפונה. נקווה.

ויש הבט מרתק נוסף לעיסוק ברובוטי העתיד ובאינטליגנציה המלאכותית על שלל פיתוחיה שמעביר אותנו לשדה הבדיוני. מה יקרה, נבקש לדעת, ביום שבו ישיגו הרובוטים תכונות אנושיות וישתוו לנו. האם בו ביום יחל מסע ההרס העצמי שלהם בעקבות הדרך האנושית ?

מה אמר מחשב העל המורד "הַאל 9000" לאסטרונאוט דייב רגע לפני קריסתו?

"…המוח שלי נמחק…אין ספק. אני חש בזה. אני חש בזה. אני…-פַחֵד…". כמה אנושי.

כשמדובר ביחסי אדם-מכונה מוטב לסמוך על האינטואיציה הגאונית של יוצרים כמו סטנלי קובריק וארתור סי קלארק ולא על הידע של אשפי הטכנולוגיה.

הצד הפחות מוכר של כיפת ברזל

קשה לישראלית לכתוב בימים האלה בנימה ביקורתית על מערכת שהוכיחה את עצמה הן ביכולת היירוט שלה והן בהשפעתה הפסיכולוגית על אזרחים שהותקפו בטילים וברקטות. קשה, אבל חיוני. על תרומתה ההגנתית של כיפת ברזל אין צורך להכביר מילים, אולם זה אינו תפקידה היחיד. תפקידה האחר, הפחות מואר, הוא להציע אקלים נוח למקבלי ההחלטות הפוליטיים והצבאיים לפתוח במערכה, להמשיך בה או לפתח אותה. רובוטים משנים שיקולים פוליטיים לקראת מלחמה ובמהלכה. אולם השקט היחסי מפני ביקורת פנימית, שמצופה מהם לספק למקבלי ההחלטות, הוא אשליה מסוכנת. מערכות הגנה מסוגה של כיפת ברזל מספקות לצבאות ולממשלות אורך נשימה להמשך האלימות ואף להרפתקנות צבאית, במקום לקדם פתרון מדיני לסכסוכי דמים.

מתברר, שבמדינה כשלנו בה רווחת האמונה שהתקפה היא ההגנה הטובה ביותר, צריך להיזהר ממערכות הגנתיות לא פחות מאשר מאלו ההתקפיות. כיוון שכך, אם כיפות הברזל שהובטחו לנו בתמורה להסכם הפסקת האש עם חמאס יתרמו לטשטוש ההכרה הציבורית לקראת תקיפת מתקני הגרעין באיראן, מוטב שנוותר על מתנתו של אובמה.

תגובות
נושאים: מאמרים

23 תגובות

  1. משה הגיב:

    הרובוטים יבטיחו שאויב שאינו מתאבד לא יתקיף אותנו ואז יחסך דם לשני הצדדים.
    כיפות הברזל מעניקות הגנה, גם מקלט מהווה הגנה ולא מוותרים עליו.
    בעיניין חוסר מיקלטים אצל אויבנו- הם בנו הרבה מיקלטים אבל עבור טילים נגד אזרחים (יהודים) ולא להגנה על אזרחים עזתיים.

  2. משה הגיב:

    כל הכבוד לחדווה.
    יישר כוח על האומץ, בימים חשוכים אלה….

  3. שום בצל הגיב:

    הטיעון לגבי כיפת ברזל בעייתי.
    האם מיגון הבתים הוא גם נותן "אקלים נוח למקבלי החלטות…."?
    ומה לגבי תרופות? בתי חולים? מערכת ההתראה "צבע אדום"?

    הבעיה אינה ה"אקלים הנוח".
    הבעיה היא הצד השני, שממשיך להתחמש בנשק בליסטי, ולא משיקולים הומניים או אלטרואיסטים.

  4. רובוט צה''לי לשעבר הגיב:

    רובוט בבורסה.
    רובוט בצבא.
    רובוט ברבנות.
    רובוט במענה הקולי.
    רובוט בבנק.
    רובוט בממשלה.
    רובוט בסופרמרקט.
    רובוט באינטרנט.
    רובוט בבית הספר.
    רובוט בבית המשפט.
    רובוט בנשמה.
    רובוט בבית החרושת לרובוטים חדשים.
    רובוט במזבלה למחזור רובוטים ישנים.

  5. מירב הגיב:

    תודה, חדווה. מאמר מצויין.

    בברושור שמפרסם את הרכב הרובוטי של אלביט, זה שבאופן פוטנציאלי יכול לא רק לנווט באופן עצמאי אלא גם לירות, כתוב שהמערכת מצילה חיי אדם. אמירה שחושפת איזה חיי אדם מפתחי המערכות האלה רואים, ואיזה נותרים שקופים להם.

    אגב, למערכת הישראלית השניה שהדוח מציין קוראים "רואה יורה" בלשון נקבה, כי מפעילות אותה חיילות. רק על זה אפשר לכתוב מאמר שלם.

  6. דמוקרט הגיב:

    לא הבנת מאומה.
    ללא כיפת ברזל, וכנראה עם כמה עשרות הרוגים ישראלים לפחות כתוצאה מכך – כולל במרכז הארץ, ישראל הייתה כבר היום במרכז עזה בקרבות מבית לבית עם אלפי הרוגים פלסטינים.
    נדמה לי שכולנו בשמאל לא רק יכולים אלא חייבים להודות שהמערכת הזו קיימת.

  7. דניאל קלטי הגיב:

    המצאה מפלצתית, של כנופיית חולי-נפש מעוותים.

    חובה לעצור זאת ומייד!!!! זוהי הסכנה המחרידה ביותר, עליה שמעתי מזה שנים.

  8. עובד הגיב:

    נדמה לי שבכותרת האתר כתוב "במה ביקורתית לחברה ותרבות". נשמע מרשים מאד, עד שמגיעים לצנזורה המופעלת באתר. נראה שאתם מאד נהנים להתווכח עם עצמכם. כתבתי תגובה שקולה בשפה ראויה (לא פעם ראשונה) ואתם פשוט זורקים אותה לפח ומפרסמים כאן תגובות שבחלקן נעות בין הטיפשות לגסות רוח, אבל הן מהצד הנכון. ואתם עוד מתפלאים למה המשטר הקומוניסטי באירופה נפל כמגדל קלפים?

    • צדוק התקוה הגיב:

      מה אתה מתפלא הם עובדים לפי השיטה של אותו משטר שנפל הבעיה שהם לא מבינים שהעולם השתנה כנראה גם תגובה זו תמחק יש להם אימרה שטובה רק להם כאשר הם כותבים זו חופש הדעה כאשר אחרים כותבים וזה לא נישמע טוב לאוזן שלהם זו הסתה …………….. רק בשמחות

  9. שאולי הגיב:

    "להציע אקלים נוח למקבלי ההחלטות הפוליטיים והצבאיים לפתוח במערכה" – דיבור ריק מתוכן. השאלה תמיד היא לא מה הנשק מאפשר אלא מי מקבל את ההחלטות – ממשלה במדינה דמוקרטית? דיקטטור? ממשלת אייטולות ? – ובהמשך מהי מטרת "המערכה"? – תוקפנות ? הגנה? הרתעה? תגמול?

    במקרה של מבצע "עמוד ענן" דווקא הטכנולוגיה הצבאית הזו אפשרה למקבלי ההחלטות איפוק רב!
    כי אלמלא המערכת – הכניסה הקרקעית מסיבית היתה חיונית ודחופה הרבה יותר!

    אלא אם הכותבת חושבת או מרמזת שעדיף שישראל תרתע ותחשוש מפני התקפות החמא"ס מעזה ואז תכנע לדרישות ממשלת הטרור שם? ואם זאת העמדה אז חמור מאוד, ולכן ישראל מכינה עצמה לרוב סוגי הלחימה העתידיים עם יתרונות טכנולוגיים וצבאיים ברורים.

  10. צדוק התקוה הגיב:

    דניאל קלטי "המצאה מפלצתית, של כנופיית חולי-נפש מעוותים." אתה צודק עדיף מאות הרוגים אצל הציונים ? אני מקוה שדבריך נאמרו בהומור

  11. hakafe.com הגיב:

    "אין, וככל הידוע גם לא תהיה בעתיד הנראה לעין, אינטליגנציה מלאכותית שתוכל להבחין בין לוחם חמוש לאזרח בלתי חמוש שנקלע לרוע מזלו לאזור הלחימה."

    SAYS WHO?

  12. גדי הגיב:

    לפי מסקנות המאמר, היה סבב המלחמה הזה צריך לקחת יותר זמן ויותר קרבנות פלסטיניים ״תודות״ לכיפת ברזל ויחסית לסבב של לפני 4 שנים. אך המציאות היא הפוכה לחלוטין. הפוכה פי כמה.

  13. מורדי הגיב:

    דניאל קלטי, אתה מסוגל גם לנמק??!

  14. משה הגיב:

    אתם משכיחים את הזוועות בסוריה

  15. אלי הגיב:

    חדווה יש לי רעיון, אנו נוותר על כיפת ברזל כאשר אויבנו יוותרו על כל הנשק הרקטי ברשותם.
    על המלטי"ים נוותר כאשר אוכלוסיית ישראל תמנה 50 מיליון איש

    • חדוה הגיב:

      נראה שאין לי ברירה אלא להוסיף את ההבהרה הבאה: מן המאמר לא יוצאת קריאה לוויתור על הגנת כיפת ברזל. אני קוראת לדיון פתוח בהיבטים הפחות הגנתיים של מערכות מסוגה, וסבורה שדיון כזה הוא חובה אזרחית (כן, גם בישראל). ההיבטים הללו מתוארים בדו״ח ארגון HRW במסגרת קידום אמנה בינלאומית למניעת פיתוח וייצור רובוטים אוטונומיים. ישראל הרשמית היא סרבנית אמנות ידועה (ע״ע: האמנות נגד שימוש במוקשי נעל ופצצות מצרר). אתם באמת חושבים שפטורים עצמיים מהסכמות בינלאומיות לזכויות אדם הם לטובתנו ?

  16. צדוק התקוה הגיב:

    שאלה לחדוה ישכר ברחנו מעזה [התנתקות] עזה היתה חופישת במקום לדאוג לאוכלוסיה שלה מה עשו מנהיגיה דאגו להזרמת נשק [כנראה שלא בחינם] את הכסף צריך היה להשקיע באוכלוסיה
    ומה קיבלנו בתמורה מעזה אלפי רקטות שהרגו ילדים ואנשים בישראל [לא נחשב?] עד לטרור מעזה
    היו כאן אלפי עובדים שהתפרנסו בכבוד כאן בישראל ובמחסום ארז היו מפעלים שהעסיקו אלפי משפחות מעזה מתפרותו שמפעלים ישראלים תפרו שם כולל נגריות מוסכים ומפעלי תעשיה אז גם לא היה סגר על עזה ברגע שהטרור התחיל מעזה הכל השתנה הרי לא נחלק סוכריות כאשר 12 שנה
    אזור הדרום חוטף יום יום כמעט רקטות [בזמנו השמאל צחק כאשר היו ישראלים שאמרו שנחטוף רקטות מעזה]פצ"מרים המבצע לא בא כי לביבי היה חשק לעשות בעזה "שמח" כי אולי נמאס לתושבי הדרום לחטוף ……

  17. צדוק התקוה הגיב:

    חדוה אני מחכה לתשובות

הגיבו לאלי

אורך תגובה מקסימלי: 1000 תווים

הרשמה לעדכונים בדוא"ל

Subscribe via Email

מומלצים