האם אפשר לתת אמון בפושע?

אמון במערכות גדולות

לפני מספר ימים שוחחתי על הנושא שהוביל למאמר הזה עם חבר טוב, שוטר. הוא אמר: "אין שום אמון. שום אמון. החיים של ראש ארגון פשע הם גיהנום - תמיד חושש מבגידה, תמיד מסתכל מעבר לכתף." חשבתי: אם כך, איך אפשר להסביר שבבתי כלא ברחבי העולם, רשתות אמון מורכבות צומחות דווקא בקרב הכנופיות האלימות ביותר? אפילו יותר מפתיע, רשתות אמון אלו אינן רק עמידות - הן מפעילות כלכלות מתוחכמות, כללים, אכיפה ובנוסף מותאמות לאי הוודאות הפסיכולוגית של חבריהן (שזו דרך יפה לומר שחלק מהחברים ברשתות פשע הם אלימים וחשדנים).

הפרדוקס הזה מציע הצצה לתופעה רחבה יותר: התהוות אמון (trust emergence). בחינת מטריצות של אמון בסביבות קיצוניות כמו בתי כלא יכולה לספק תובנות החלות על מערכות אנושיות רחבות היקף אחרות וחשוב מכך, גם על מערכות יחסי אנוש-בינה מלאכותית.

תצפיות על רשתות אמון

בספרו "The Puzzle of Prison Order" כותב דייוויד סקרבק על מערכת הכלא בקליפורניה. אסירים פיתחו מבנים שלטוניים מורכבים ששומרים על סדר "עדיף על כאוס" שאינו נשלט על ידי הרשויות הרשמיות. ממצאיו אינם חריגים - ארגוני פשע פועלים ברחבי יבשות עם מה שנקרא לו כאן "מטריצות אמון". אלו אינן אנומליות אלא רמזים למציאות עמוקה יותר המגלה איך אמון עובד דה פקטו במערכות אנושיות ומערכות מבוזרות.

אני לא רוצה לחטוא כאן ברומנטיזציה של פשע, המערכות שעליהן אני כותב צומחות מתוך תוהו ובוהו בהקשרים של אלימות וניצול, ואני רוצה להכיר בכך.

היבטים שונים של אמון

התפיסה המסורתית של אמון מתמקדת בעיקר בדיבור אמת ובאמינות. כשאני אומר שאני סומך על מישהו, אני מתכוון בדרך כלל לכך שאני מאמין שישמור על מילתו, שתוכן האמת של מה שהוא אומר נכון. אבל תפיסה זו מחמיצה משהו מהותי לגבי מטריצות אמון: יכולות מוכחות ותלות הדדית.

מחקרו של דייגו גמבטה על המאפיה הסיציליאנית מוצא שמה שחשוב אינו רק דיבור אמת, אלא גם יכולת עקבית לקיים התחייבויות בסביבה המתאימה. פושע עשוי לשקר למשטרה אך להיות אמין לחלוטין כלפי שותפיו. למה? רמז, לא רק הפחד מניע אותו.

לחץ הישרדותי כמחבר

פיטר ליסון מציג כיצד פיראטים, על אף המוניטין האלים שלהם, יצרו חוקים דמוקרטיים, מבחנים סוציומטריים ומערכות שלטון משותף. האלמנט המחבר לא יכול היה להיות רק פחד מוות, אלא ההכרה בכך שסגנון הישרדות מסוים דורש שיתוף פעולה מתוחכם.

בבתי כלא בקליפורניה, מתאר דיוויד סקרבק, פיתחו האסירים מערכות ליישוב סכסוכים שהיו יעילות ומדויקות יותר ממערכת הצדק הרשמית. למה? כי כאשר הישרדות טובה תלויה בשמירה על סדר, ועל כלכלת בית הכלא מערכות מתפתחות לכיוון של מורכבות ותלות הדדית.

לקחים למערכות רחבות

תובנות על הופעת אמון חורגות הרבה מעבר להקשר פלילי שאיתו פתחתי את המאמר הקצר הזה. משימות חלל ארוכות טווח, למשל, הן מערכת סגורה נוספת שבה הישרדות תלויה בשיתוף פעולה מתוחכם בלי שתהיה נוכחות משטרתית. הצלחתה של מושבה על מאדים תלויה לא באמינות של פרטים בודדים אלא במבני אמון מתהווים שמתגברים על פערים תרבותיים ולאומיים.

השאלה המסקרנת ביותר כרגע היא כיצד ניתן ליישם לקחים אלו מול מערכות בינה מלאכותית. השאלה אינה רק "האם אפשר לבטוח בבינה מלאכותית מסוימת?", זו שאלה שהחוקים לפתרונה פשוטים יחסית, אלא "איך יוצרים תנאים להתהוות אמון (trust emergence) במערכות אנוש-בינה מלאכותית?"

מסקנה

כשחוזרים לשאלה המקורית - "האם אפשר לבטוח בפושע?" - התשובה היא, בחוסר רצון, כן. בהקשרים מסוימים שתוארו כאן, עלינו להכיר בכך. מה שחשוב יותר זו הבנה מעמיקה של ההופעה של אמון כתכונה מערכתית בתנאים הנכונים. תובנה זו מאתגרת את התפיסות האינטואיטיביות של אמון ופותחת אפשרויות חדשות לעיצוב מערכות אמון, בין אם הן כוללות בתוכן פושעים, אסטרונאוטים או אנדרואידים.

הערות שוליים

1. התהוות אמון בשתי צורות: אמון בין אישי ואמון מערכתי. אמון בין אישי נותן משקל לאמינות וליכולות בין יחידים, ומושפע מאוד מהטיות קוגניטיביות רגישות לבגידה. אמון בין אישי הוא שביר ודורש תחזוקה מתמדת. אמון מערכתי מופיע במערכות גדולות תחת לחצים מחייבים, תוך שהוא מתעלה על מגבלות של קשרים בין אישיים ויוצר "מטריצות אמון" של מערכות מקושרות. הוא מתוחכם ועמיד יותר מאמון בין אישי, ומאפשר אינטראקציות מורכבות גם בקרב יחידים שאינם מהימנים. אמון מערכתי אינו מתפתח ישירות מאמון בין אישי; הוא מופיע כתופעה ייחודית כשהמערכות מגיעות לקנה מידה מספיק גדול ויש להן אלמנטים מחייבים חזקים. אמון בין אישי טוב מסייע להופעת אמון מערכתי.
2. מטריצת אמון: מערכת דינמית של קשרים, כללים, יכולות ותקשורת המתפתחת בקבוצות גדולות תחת אלמנטים מחייבים (ראה למטה). בניגוד לרשתות פשוטות של אמון בין אישי, מטריצת אמון מתעלה על קשרים אישיים ועל הטיות קוגניטיביות רגישות לבגידה. מטריצות אמון מופיעות בצורה ברורה ביותר בסביבות מוגדרות עם אלמנטים מחייבים חזקים, שבהן הישרדות וכלכלה יוצרות תלות הדדית. גם יחידים שאינם מהימנים עשויים לפעול באמינות כחלק ממערכת גדולה יותר.
3. אלמנטים מחייבים: הכוחות ההכרחיים שמאפשרים התהוות אמון ומחייבים שיתוף פעולה בתוך מערכת. בניגוד למנגנוני אכיפה פשוטים, אלמנטים מחייבים הם לחצים מערכתיים שהופכים שיתוף פעולה לצורך. בבתי כלא, האלמנטים המחייבים כוללים הישרדות פיזית, צרכים כלכליים וצורכי הגנה. במערכות אחרות, אלמנטים מחייבים עשויים להיות תלות במשאבים, סיכונים משותפים או אינטרסים כלכליים הדדיים. המאפיין המרכזי של אלמנטים מחייבים אפקטיביים הוא יצירת מצבים מתמשכים שבהם בגידה או אי-שיתוף פעולה הופכים ליקרים יותר מציות למטריצת האמון. חשוב לציין שפחד יכול להיות רכיב אחד, אך אלמנטים מחייבים פועלים בצורה הטובה ביותר כשהם יוצרים תלות הדדית חיובית ולא רק השלכות שליליות. העוצמה והאיפיון של האלמנטים המחייבים משפיעים על אופן ההתפתחות והשימור לאורך זמן של מטריצות האמון.
4. הופעת אמון במערכות אדם-בינה מלאכותית: בעוד שהדיונים הנוכחיים מתמקדים לעיתים קרובות באמינות הבינה המלאכותית (כמו אמירת אמת או יכולת), התהוות האמון במערכות מורכבות (ראה למעלה) מציעה שעלינו לעקוב אחר התפתחות אמון מערכתי. אלמנטים מחייבים לאמון בין בני אדם לבינה מלאכותית צריכים לכלול סביבות נתונים משותפות, תהליכי קבלת החלטות תלויים הדדית ודרישות לאופטימיזציה של משאבים.
   כשם שמערכות כליאה מפתחות מנגנוני שלטון מתוחכמים ללא שליטה מרכזית, מערכות בינה מלאכותית מבוזרות יפתחו מבני אמון כאשר הן יתוכננו כראוי עם אילוצים ומטרות משותפות. יש לכך רלוונטיות מיוחדת - במקום לנסות להפוך כל בינה מלאכותית לאמינה בפני עצמה, עלינו להתמקד ביצירת תנאים שבהם התנהגות אמינה מופיעה כתכונה מערכתית. עם זאת, עלינו להיזהר מלהחיל לקחים פשוטים ממערכות אנושיות, מכיוון שמטריצות האמון של בינה מלאכותית עשויות לפעול תחת אלמנטים מחייבים (ראה למעלה) ודינמיקות שונות לחלוטין. השאלה המרכזית היא: מהם האלמנטים המחייבים המתאימים להופעת אמון בין אדם לבינות מלאכותיות ובין בינות מלאכותיות. בנוסף, כמה צמתים (בינות מלאכותיות בודדות או אינטראקציות אדם-בינה מלאכותית) נדרשים להופעת מטריצת אמון יציבה?
5. ניתוח השוואתי: סקרבק חוקר מגוון רחב של בתי כלא, כולל מתקנים בברזיל, בוליביה, נורווגיה, אנגליה וויילס, וכן מחנה שבויים, בתי כלא לנשים בקליפורניה ויחידת דיור להומואים וטרנסג'נדרים בבית הכלא במחוז לוס אנג'לס. https://academic.oup.com/book/33625?login=false
6. תיאוריה של ממשל: הספר מפתח מסגרת להבנת האופן שבו סדר חברתי מתפתח ומושרש מאחורי סורגים, תוך התמקדות ביחסים בין מוסדות רשמיים ולא רשמיים. https://mises.org/quarterly-journal-austrian-economics/puzzle-prison-order-why-life-behind-bars-varies-around-world
7. משטרי ממשל: סקרבק מסווג את משטרי הממשל בבתי כלא לארבעה סוגים אידיאליים: ממשל רשמי, ממשל משותף, ממשל עצמי, וממשל מינימלי. https://mises.org/quarterly-journal-austrian-economics/puzzle-prison-order-why-life-behind-bars-varies-around-world
8. עבודתו של דייגו גמבטה: בולטת במיוחד, במיוחד ספרו משנת 1988 "Trust: Making and Breaking Cooperative Relations" ובמיוחד עבודתו המאוחרת "Codes of the Underworld" (2009), שחוקרת כיצד פושעים פותרים בעיות אמון. מחקרו על המאפיה הסיציליאנית מספק תובנות על מנגנוני בניית אמון בסביבות מסוכנות ובלתי חוקיות.
   ישנו גם מחקר מעניין מהקשר אחר - עבודתו של ג'פרי סטיבנסון מורר על פיתוח אמון בקרב יחידות קרביות וארגונים בתר צבאיים. למרות שאינו עוסק בפושעים דווקא, הוא בוחן היווצרות אמון במצבים של חיים ומוות.