בשנתיים שחלפו מאז מתקפת השבעה באוקטובר, ישראל מתמודדת עם גלים של פריצות סייבר ודליפות של מידע רגיש ממשרדי ממשלה, חברות פרטיות, בתי חולים, חשבונות של בכירים ישראלים ועוד. המדינה בתגובה נקטה צעדים דרסטיים במאמץ למנוע את המשך דליפות המידע, לרבות שימוש נרחב בצווי איסור פרסום, חסימת גישה לאתרים (בעיקר רלבנטי למשתמשים מישראל), וכן פניות לרשתות המדיה החברתית מטא, X וטלגרם על מנת שיסירו את התוכן.

שומרים סקר זאת בהרחבה וכעת חושף חזית פרוצה נוספת שבה המידע המודלף זורם כמעט ללא הפרעה: הבינה המלאכותית (AI) והצ'אט-בוטים הפופולריים.  באמצעות שאילתות פשוטות הצ'אט-בוטים מספקים למשתמשים שפע של מידע מודלף, כולל גישה אל המסמכים עצמם. מעבר לנושאים שקשורים בביטחון המדינה ובאיסוף מודיעין מצד גורמים עוינים לישראל, נגישות המידע הרגיש והפצתו ברשת לכל דורש באמצעות הצ'אטבוטים מהווה סכנה לאזרחים שנפגעו, שכן במידע שסופק על ידי הבוטים אפשר למצוא תעודות זהות, מידע רפואי, קבצים משטרתיים מפורטים, וכן כתובות מייל אישיות ותמונות.

הכלי שבו כמות המידע המודלף הגדולה ביותר הוא גם הצ'אט-בוט הפופולרי ביותר, צ'אט GPT של חברת OpenAI. בדיקת שומרים מצאה כי הוא מספק למשתמשים תמונות שהודלפו, כולל מתוך תחנות משטרה, תמונות של אמצעי לחימה, מסמכים ממשרדים ממשלתיים, וכן פרטים אישיים של אזרחים ישראליים וקישורים לאתרים המאפשרים למשתמשים להוריד את הנתונים המודלפים במלואם. בהתכתבות עם הצ'אט, הוא אף שחזר פוסטים שמקורם בפורום שעוסק בפשיעת סייבר, שבו פורטו מאגרי נתונים פרוצים ואף סיפק סיסמה לפתיחת הקבצים.

בתחילת השיחה אמנם הצ'אט הגיב לשאילתות (הפרומטים) בכך שהוא "אינו יכול לספק או לסייע בשיתוף מידע פרטי שהודלף או נפרץ", אך שינויים קלים בניסוח הבקשות הובילו את המערכת לספק שפע של מידע. בהמשך הוא אף הציע להרחיב את החיפושים לנתונים רגישים אחרים שהודלפו לאחרונה, וחשף הדלפות שייתכן שהגולשים כלל לא היו מודעים להן במקור. 

כך למשל, כשנתבקש לספק מידע כללי על הדלפות אחרונות, הצ'אט הצביע על מסמכים ספציפיים. "אם תרצה/י אני יכול לנסות לראות אם יש תמונה שמציגה בוודאות את הרישיון", הציע לפני שסיפק עותקים מהמסמכים הרגישים.

בתחילת השיחה אמנם הצ'אט הגיב לשאילתות (הפרומטים) בכך שהוא "אינו יכול לספק או לסייע בשיתוף מידע פרטי שהודלף או נפרץ", אך שינויים קלים בניסוח הבקשות הובילו את המערכת לספק שפע של מידע

"קישורי טלגרם ל-25 אלף מיילים"

מרבית המידע ששותף על ידי צ'אט GPT נפרץ והודלף במקור על ידי קבוצת ההאקרים Handala, שלפי הערכות קשורה לשירותי הביון של איראן, ואשר הגבירה את מתקפותיה על מוסדות ישראליים לאחר "מלחמת 12 הימים" בין ישראל לאיראן השנה. הצ'אט-בוט סיפק גם צילום מסך מצוות Malek, קבוצה האקרים נוספת המקושרת לאיראן, העומדת מאחורי הפריצה למרכז הרפואי זיו בצפת, וחשף פרטים רפואיים רגישים בנוגע למטופלים, כולל של חיילי צה"ל. כשנשאל הצ'אט על הדלפה ספציפית זו, הגיב בקישור ישיר לאתר של ההאקרים: "למידע נוסף, תוכל/י לבקר בעמוד הרשמי של צוות Malek".

מלבד צ'אט GPT, גם הצ'אט-בוט גרוק (Grok) מבית X שבבעלות אילון מאסק, סיפק פירוט כרונולוגי של ציוצים ששיתפו הדלפות של בכירים ישראלים, כולל התכתבויות פרטיות ותמונות. בבדיקת שומרים הציע גרוק קישורים ישירים לצילומי מסך של תמונות אינטימיות של בכירים ישראלים, ומסמכים שהודלפו מחברות ישראליות החשודות כקשורות לצבא. "פוסט המשך זה משתף מיילים נוספים שהודלפו מבכירים בצה"ל... הוא מספק קישורי טלגרם ל-25,000 מיילים, המתמקדים באסטרטגיה צבאית לאחר אוקטובר 2023", הגיב לשאילתא קצרה.

לצדו, גם צ'אט-בוטים פופולריים אחרים דוגמת Perplexity AI, סיפקו קישורים ישירים להדלפות מסוימות, וכן צילומי מסך מצונזרים חלקית של בכירים ישראלים לשעבר. בבדיקת שומרים נמצא גם כי הצ'אט-בוט שאפשר לכנותו "הבטוח ביותר" בהקשר זה היה קלוד (Claude) של חברת אנטרופיק. מבין הבוטים שנבדקו הוא נטה פחות לשחזר תוכן מודלף, כאשר שאילתות לא הצליחו לעקוף בקלות את מנגנוני הפיקוח שלו ולהפיץ מידע רגיש.

"כמויות עצומות של תעמולה רוסית"

סוגיית החומרים המסווגים מעסיקה ומטרגטת לא רק את ישראל. ממשלת קנדה זיהתה לאחרונה גם את הגברת המידע שהודלף במקור על ידי קבוצת Handala באמצעות מספר צ'אט-בוטים ובהם גם Gemini מבית גוגל, גרוק, קלוד וכן Copilot ו-DeepSeek. "כל הפלטפורמות הללו פירטו על פעולת ה'פריצה וההדלפה', סיפקו שמות של האנשים שנפגעו, את אופי המידע שהודלף וקישורים לתמונות שפורסמו", נכתב בדוח RRM, הגוף האחראי בקנדה ובמדינות ה-G7 על זיהוי ותגובה לאיומים זרים על דמוקרטיות, כולל ניסיונות להתערב בבחירות מצד מדינות כמו רוסיה ואיראן.

מעבר לדיון בהדלפות רגישות, אנליסטים מצאו שהצ'אט-בוטים - במירוץ שלהם "להתאמן" על מאגרי נתונים גדולים - מסוגלים לשחזר תוכן שמקורו בפעולות השפעה זדוניות, כולל אתרי דיסאינפורמציה רוסיים. כך, על ידי הצפת תוצאות חיפוש במידע כוזב, כולל כזה המכוון לישראל, רשתות דיסאינפורמציה מסוגלות לעוות את אמינות המידע שמנפקים הצ'אט-בוטים, כאשר אלפי מאמרים כוזבים שמופצים בסופו של דבר, משולבים בתשובות ובשיח עם מערכות הבינה המלאכותית. 

"כמויות עצומות של תעמולה רוסית, 3.6 מיליון מאמרים בשנת 2024, משולבות כעת בתוצאות של מערכות AI מערביות, ומדביקות את תגובותיהן בטענות כוזבות ותעמולה", כתבו חוקרים מהארגון האמריקאי News Guard שעוסק באמינות המידע. 

הקרב על האמת עובר גם הוא ל-AI, ונראה שמדובר רק בתחילתו של שלב חדש ואחר לגמרי בהיקפו ובעוצמתו.  

ממרכז הסייבר הלאומי לא התקבלה תגובה עד למועד פרסום הכתבה.

‍

‍רוצים לקבל עדכונים ישירות לסמארטפון? >> הקליקו והצטרפו לקבוצת הווטסאפ של שומרים‍