"חייבים למנוע פיתוח כלי נשק אוטונומיים"

לעצור את סקיינט: הוקינג, מאסק ואחרים דורשים לאסור פיתוח נשק אוטונומי
מאת ג'וש דוקרקר | יום רביעי, 29 ביולי 2015, 19:30 | טכנולוגיה


מספר רב של חוקרים ואנשים בעלי שם ומוניטין בעולם הטכנולוגיה פרסמו השבוע (ב') מכתב פתוח שמטרתו לקרוא למחוקקים לאסור על פיתוח והפעלת מערכות נשק אוטונומיות מחשש לתרחישי אסון. בראש שמות החותמים ניתן למצוא את הפיזיקאי סטיבן הוקינג, היזם אילון מאסק וסטיב ווזניאק, ממייסדי אפל, כולם טוענים שמערכות נשק שמופיעות בסרטי מדע בדיוני (בראשם סדרת שליחות קטלנית) עלולות להיות בשימוש תוך שנים ספורות ומהוות קפיצת מדרגה בהיסטורית הלחימה האנושית כמו מהפכת אבק השריפה או פיתוח פצצת האטום.

בכתב הדעה המשותף טוענים החותמים כי יש לעצור את התהליך כבר עכשיו, שכן אם צד אחד יפתח מערכות נשק אוטונומיות, יצטרך גם הצד השני לפתח מערכות דומות כדי לא להישאר מאחור וכך יתפתח מירוץ חימוש אוטונומי. התוצאה תהיה שנשק מסוג זה יהיה נפוץ כמו הקלצ'ניקוב היום, משום שהפיתוח יהיה יחסית זול. מכאן הדרך קצרה לארגוני טרור, משימות התנקשות ואף טיהור אתני.

אומרים לא לבינה המלאכותית

"כמו שלרוב הכימאים והביולוגים אין רצון לפתח נשק כימי וביולוגי, כך לרוב חוקריה אינטליגנציה המלאכותית אין תשוקה לפתח נשק מבוססי אינטליגנציה מלאכותית", נכתב. אילון מאסק פועל כבר זמן מה נגד השימוש באלגוריתמי AI מתוחכמים מדי שיכולים לאיים על בני אדם ואמר בכמה הזדמנויות שלציבור אין מושג עד כמה גופים מסוימים קרובים לפיתוח רובוטים שמחליטים להרוג בני אדם באופן עצמאי.

נושא הרובוטים הרצחניים עלה באומות המאוחדות לפני יותר משנה, שם ביקשו נציגי המדינות לקדם חוקים נגד נשק אוטונומי ולאמץ סט חוקים בינלאומי חדש שיקבע כי ההחלטה לפתוח באש על בני אדם תישאר בידי בני אדם

מערכות נשק כמעט אוטונומיות קיימות היום במקומות שונים. חברת סמסונג פיתחה רובוט שנושא מקלע אוטומטי ומטול רימונים יחד עם חיישני חום ותנועה. רובוטים אלו יכולים לזהות ולהרוג מטרות ממרחק של 3.2 ק"מ ומוצבים כבר היום כזקיפים באיזור המפורז שבין דרום קוריאה לצפון קוריאה. הרובוט עדיין תלוי בהוראת פתיחה באש ממוקד אנושי אך כאשר כל המערכות שהוא צריך מורכבות עליו, לא רחוק היום שמישהו יחליט להעניק לו את הכוח לקחת חיים.

במקרה של הגבול בין הקוריאות ההחלטה היא יחסית קלה, שכן מדובר ב"איזור מפורז" שהכניסה אליו בכל מקרה אסורה לאיש. הדילמות המוסריות יעשו קשות יותר במקרים אחרים דוגמת זה שמופיע בתחילת הסרט רובוקופ גרסת 2014:

ככל שיכולת בניית המכונות נעשית קלה יותר (עם דחיפה חזקה מסקטור הדפסת התלת מימד) ובניית אלגוריתמים נעשית נפוצה יותר, כך יכול להתממש בקלות החזון הטרוריסטי שדיברו עליו המומחים. רק בשבוע שעבר נעצר נער בן 18 שהרכיב אקדח על רחפן וביצע ניסויי ירי "לשם לימוד". על פניו הנער לא ביצע שום עבירה שכן החוק עדיין לא הותאם להגבלת "יצירתיות" שכזו. ניתן רק לתאר מה אפשר לבנות עם צוות מהנדסים שפועלים מטעם עצמם או עבור ארגון טרור.

בעוד כמה שנים יתכן שאינטליגנציה מלאכותית ברמה סבירה תהיה נגישה לא רק לממשלות או תאגידי ענק, אלא גם לארגוני טרור קטנים ואפילו לאנשים פרטיים. האנושות מגיעה לנקודה שבה הטכנולוגיה עלולה לאיים על יוצריה וגם מעניקה המון כוח לכל אחד מאיתנו. האנושות תצטרך להתמודד עם שאלות ודילמות אלו כבר בשנים הקרובות.

סכנה לאנושות כולה

בנוסף לכלי הנשק הישראליים, הדו"ח ציין את מערכת ההגנה האקטיבית פלנקס של הצבא האמריקאי, הרובוטים החמושים שמאיישים את הגבול בין צפון ודרום קוריאה, המל"ט X-47b שמסוגל להמריא ולנחות על נושאות מטוסים ללא מפעיל אנושי ועוד
ישראל נחשבת למעצמה בתחומי כלי המשחית הבלתי מאוישים למיניהם, הלווינים הזעירים, מערכות זיהוי פנים, אינטליגנציה מלאכותית ואלגוריתמיקה. לפי הארגון, הטכנולוגיה שנדרשת לרובוטים קטלניים אוטונומיים לחלוטין תהיה זמינה בתוך 20 עד 30 שנה, עם מערכות בעלות אינטליגנציה שמתקרבת למוח האנושי. הדו"ח הוסיף כי ארצות הברית השקיעה בשנה שעברה בלבד כ-6 מיליארד דולר בפיתוח כלי נשק אוטומטיים.