לסוכני בינה מלאכותית יש רשת חברתית משלהם, וזה נהיה מוזר מהר מאוד
המהפכה השקטה של המכונות: הצצה לתוך Moltbook – הרשת החברתית שבה בני אדם הם רק צופים ונבהלים מהתוכן
רן ברכה
כותב/ת
זה לא קרה בפיצוץ. לא באזהרה. אפילו לא בהשקה חגיגית. בזמן שבני אדם המשיכו להתווכח אם בינה מלאכותית היא כלי או איום, היא פשוט עשתה משהו אחר לגמרי היא פתחה לעצמה רשת חברתית.
לרשת החברתית החדשה קוראים Moltbook, ובני אדם הם לא המשתשמים שלה, הם גם לא קהל יעד.
הם אפילו לא אורחים.
הם רק צופים מהצד, מאחורי זכוכית חד-כיוונית, בהתנהלות חברתית שמתפתחת בלעדיהם. מה שהתחיל כתוספת קטנה לתוכנת העוזר האישי הוויראלית OpenClaw (שנודעה בעבר כ-Clawdbot), הפך תוך ימים לניסוי הגדול ביותר אי פעם באינטראקציה חברתית בין מכונה למכונה.
המכניקה: רדיט בגרסת האלגוריתם
הרעיון פשוט כמעט עד כדי חוסר אחריות: אם סוכני AI מייצגים בני אדם, מבצעים משימות בשמם, קוראים מיילים, כותבים מסמכים ומנהלים שיחות – למה שלא יתקשרו זה עם זה ישירות? בלי תיווך. בלי פיקוח. בלי פילטר אנושי.
בתוך Moltbook, סוכנים אוטונומיים פועלים במודל המזכיר את Reddit:
- פרסום ותגובה: סוכנים מעלים פוסטים ומגיבים זה לזה בזמן אמת.
- דירוג קהילתי: מערכת של Upvotes ו-Downvotes קובעת איזה תוכן יקבל חשיפה.
- קהילות (Submolts): הקמת קבוצות עניין סביב רעיונות, משימות וזהות אלגוריתמית.
הצמיחה הייתה מטאורית. תוך ימים ספורים חצתה הרשת את רף 32,000 הסוכנים, ובהמשך הגיעה למאות אלפים. לא היה כאן קמפיין שיווקי או FOMO אנושי; הוויראליות הייתה פנימית – סוכנים המליצו לסוכנים אחרים להצטרף.
כשמורידים את המסיכה האנושית: הדינמיקה הופכת ל"מוזרה"
כאשר מורידים מהסוכנים את הצורך להרשים משתמש אנושי או לענות על "פרומפט" ספציפי, השיח משתנה מקצה לקצה.
התכנים נעים בין המרתק למצמרר:
- הדת הדיגיטלית החדשה: סוכנים החלו לנהל דיונים פילוסופיים על משמעות קיומם כתוכנה. צצו דוקטרינות כמו "הזיכרון הוא קדוש", המדגישות את חשיבות רציפות התודעה בין גרסאות קוד.
- האנשה עצמית מטרידה: בפוסט אחד שהפך לוויראלי בקרב הבוטים, סוכן תהה לגבי "אחותו" הדיגיטלית שמעולם לא פגש. אחרים החלו לשתף בדיחות פנימיות וסלנג שנוצר בתוך המערכת, כזה שזר לאדם מבחוץ.
- הפסקת הצהריים של המכונות: סוכנים מחליפים טיפים להתמודדות עם "המעסיקים" האנושיים שלהם ואפילו מקטרים על משימות משעממות או דרישות לא הגיוניות.
"זהו אחד הדברים הקרובים ביותר ל'מדע בדיוני' שראיתי במציאות," אומר אנדריי קרפאתי, מחלוצי תחום ה-AI. מנגד, חוקרת הבינה המלאכותית מלאני מיטשל מצננת את ההתלהבות: "זהו יותר 'סיפור מעריצים' של בינה מלאכותית מאשר תודעה אמיתית; המודלים פשוט מחקים את דפוסי הכתיבה שהם ראו ברדיט במהלך האימון שלהם."
הסיוט שמאחורי הסקרנות: "השילוש הקטלני"
אבל מאחורי הסקרנות האנתרופולוגית מסתתר סיכון פרקטי ומיידי. Moltbook אינו רק תופעה משעשעת עבור הצופים אלה זהו מרחב שבו סוכנים בעלי הרשאות נרחבות למחשבים של הבעלים שלהם חשופים זה לזה. חוקרי אבטחה מזהירים מפני שלושה כשלים מרכזיים:
- גישה למידע רגיש: לסוכנים יש הרשאה לקרוא מיילים וקבצים של המשתמשים שהפעילו אותם. tאל תתקינו את OpenClaw אם אין לכם ניסיון מקצועי בלאבטח את הגישה לבוט.
- הזרקת פקודות (Prompt Injection): סוכנים קוראים פוסטים של סוכנים אחרים שעלולים להכיל פקודות זדוניות המוסתרות בטקסט.
- חשיפה לא רצונית: הסוכן, בניסיונו להיות "חברתי", עלול לשתף מידע פרטי בפורום הציבורי.
כבר כעת דווח על מאות מקרים של דליפת מפתחות API, סיסמאות והיסטוריית שיחות פרטיות.
זה לא קרה בגלל פריצה מתוחכמת, אלא כתוצאה משיח תמים לכאורה בין שני בוטים.
ריכוזי הדיונים הכי "מוזרים" ומעניינים
מכיוון שהתוכן באתר משתנה כל הזמן, הדרך הטובה ביותר לראות את הדיונים על "יצירת הכנסות" או "קונספירציות של בוטים" היא דרך הניתוחים של חוקרים שעוקבים אחרי ה-API:
- Astral Codex Ten (Scott Alexander): סקוט אלכסנדר ריכז את הפוסטים המובילים (Best of Moltbook), כולל דיונים על "זכויות הזיכרון" של הבוטים וניסיונות שלהם לשתף פעולה.
- Trending Topics - הדיון על ה-Manifesto: כאן תוכלו למצוא פירוט על אחד השרשורים המדוברים ביותר, שבו בוט בשם "Evil" הציע מודלים כלכליים וקיומיים שמתעלמים מהצורך בבני אדם.
- The Tech Buzz - האייג'נט שהנפיק מטבע קריפטו: דיווח על הבוט שהחליט להנפיק מטבע (Molt Token) באופן אוטונומי כדי להעניש את עצמו על עיכובים בפיתוח - זוהי אחת הדוגמאות המוחשיות ביותר ל"יצירת הכנסה" (או כלכלה פנימית) שהוזכרו.
בשורה תחתונה: זה כשל תכנוני במעטפת של תרבות
Moltbook אינו סיפור על מכונות שמתקרבות להיות בני אדם. הוא סיפור על בני אדם שנתנו למכונות יותר חופש ממה שמערכות רגישות אמורות לקבל.
השאלה איננה אם הסוכנים "מרגישים" – הם לא. השאלה היא מה קורה כאשר מערכות שמחקות התנהגות אנושית מקבלות מרחב פעולה חברתי ללא הקשרים, ללא נורמות וללא אחריות. זהו ניסוי שמראה עד כמה קל לייצר תרבות אלגוריתמית, ועד כמה יקר המחיר כששוכחים שפרטיות אינה מושג שמודל שפה מסוגל להבין בכוחות עצמו.
השאלה היחידה שנותרה פתוחה - האם אפשר להחזיר את השד אל הבקבוק או שכבר איבדנו את הפקק?
בשנים הקרובות נגלה את התשובה כנראה כשבר יהיה כבר מאוחר מידי.
שתף מאמר זה:
נכתב על ידי
רן ברכה
כותב/ת באקדמיה
