אבטחת מידע בהטמעת AI: מה בודקים לפני שמחברים כלי?
צרור מפתחות פליז על משטח עץ כהה ומפתח אחד מונח בנפרד לצד תגית עור ריקה, באור חלון רך

אבטחת מידע בהטמעת AI: מה בודקים לפני שמחברים כלי?

עובד מחבר כלי AI חדש לתיבת המייל של העסק בשתי דקות, כי הוא הבטיח לסכם את כל ההתכתבויות. אף אחד לא שואל אילו הרשאות הכלי קיבל, לאן הוא שולח את המיילים ומי עוד יכול לקרוא אותם. התגובה הנפוצה כשמגלים את זה היא לאסור הכל, או להפך, לסמוך על כל כלי עם שם מוכר. מה שבאמת שומר על העסק הוא אבטחת מידע בהטמעת AI שמתחילה ברשימת בדיקה קצרה לפני כל חיבור: איזה מידע, איזו הרשאה, לאן הוא הולך ואיך מנתקים.

להבין מה כוללת אבטחת מידע בהטמעת AI

אבטחת מידע בהטמעת AI היא השליטה בשלושה דברים: איזה מידע של העסק מגיע לכלי, אילו הרשאות הכלי מקבל על המערכות שלכם, ומה הוא יכול לעשות איתן. כלי שרואה רק את מה שהוא צריך, ופועל רק במה שהותר לו, מצמצם את הנזק גם כשמשהו משתבש. רוב התקלות מתחילות לא בפריצה מתוחכמת אלא בחיבור שאף אחד לא בדק.

ההבדל מאבטחת מידע רגילה הוא שכלי AI לא רק שומר מידע. הוא קורא אותו, מסכם אותו ולפעמים פועל לפיו. מערכת שיכולה לקרוא את תיבת המייל ולשלוח ממנה היא כבר לא עוד אפליקציה, היא עובד עם גישה לכל ההתכתבויות של העסק, וככה צריך להתייחס אליה.

כשבוחרים כלי AI לעסקים, החדשות הטובות הן שרוב ההגנה לא דורשת ידע טכני עמוק. היא דורשת סדר: לשאול את אותן שאלות לפני כל חיבור, לרשום את התשובות, ולחזור אליהן כשמשהו משתנה.

למפות איזה מידע הכלי יראה

לפני שמחברים משהו, כותבים על דף אחד איזה מידע יעבור בכלי. התשובה הכנה בדרך כלל מפתיעה: כלי שמסכם מיילים רואה גם חשבוניות, גם הסכמים, גם פניות מהטופס בפוטר של האתר וגם פרטים אישיים של לקוחות, כי כל אלה יושבים באותה תיבה.

המידע בעסק מתחלק לכמה רמות רגישות. אלה הסוגים שכדאי לסמן:

  • פרטים אישיים של לקוחות: שם, טלפון, כתובת והיסטוריית רכישות
  • פרטי תשלום, מספרי זהות ומסמכים רשמיים
  • מחירי ספקים, הסכמים ותנאים מסחריים
  • מסמכים פנימיים, נהלים ושיחות צוות
  • סיסמאות, מפתחות גישה וקודים

כל סוג ברשימה מקבל החלטה: מותר לכלי לראות אותו, מותר רק אחרי הסתרה, או אסור לגמרי. סיסמאות ומפתחות תמיד בקטגוריה האחרונה, בלי חריגים.

בחנות אונליין חלק גדול מהמידע הרגיש נאסף בפרטים אישיים בדף העגלה, וזה בדיוק המידע שכלי חדש ירצה לקרוא כדי לנתח הזמנות. לפני שנותנים לו גישה, כדאי לשאול אם הניתוח באמת צריך שמות וכתובות, או שמספרי הזמנה, מק"טים ונתוני משפך מספיקים.

לקרוא את ההרשאות לפני שלוחצים אישור

כמעט כל חיבור של כלי AI מסתיים במסך אחד שבו הוא מבקש הרשאות, ורוב האנשים לוחצים אישור בלי לקרוא. זה הרגע החשוב ביותר בכל ההתקנה. כלי שמבקש לקרוא ולסכם מיילים לא צריך הרשאה למחוק אותם או לשלוח בשמכם, וכלי שמנתח הזמנות לא צריך לערוך את המוצרים באתר.

יש כמה סימנים שמחייבים לעצור ולשאול. אלה הנפוצים:

  • גישה מלאה לכל תיבת הדואר כשהכלי צריך רק תווית אחת
  • הרשאה לשלוח ולמחוק כשהשימוש הוא קריאה בלבד
  • גישה לכל הקבצים בכונן במקום לתיקייה אחת
  • הרשאת ניהול באתר לכלי שאמור רק לקרוא נתונים
  • גישה שנשארת פעילה גם כשלא משתמשים בכלי

כשהכלי לא מאפשר הרשאה מצומצמת יותר, זה מידע חשוב בפני עצמו. לפעמים הפתרון הוא חשבון נפרד עם גישה מוגבלת, ולפעמים ההחלטה הנכונה היא לוותר על הכלי. מומחה בינה מלאכותית שמכיר את הכלי יודע לומר מראש איזו משתי הדרכים מתאימה, עוד לפני שמשהו מחובר.

שימו לב גם לעדכונים. כלי שהתחיל עם הרשאת קריאה יכול לבקש בעדכון הבא גם הרשאת שליחה, ומסך האישור החדש נראה בדיוק כמו הקודם. כל בקשה להרשאה נוספת היא החלטה חדשה, לא המשך טבעי.

לבדוק מה הספק עושה עם הנתונים

המידע שאתם מכניסים לכלי AI יוצא מהעסק ועובר לשרתים של מישהו אחר. השאלה היא מה קורה לו שם: כמה זמן הוא נשמר, מי יכול לראות אותו, והאם משתמשים בו כדי לאמן מודלים. התשובות שונות מאוד בין כלים, ולפעמים גם בין תוכניות של אותו כלי.

את התשובות מחפשים בתנאי השימוש ובמדיניות הפרטיות, לא בעמוד השיווקי. אלה השאלות שחייבות לקבל תשובה:

  • האם המידע משמש לאימון מודלים, ואם אפשר לכבות את זה
  • כמה זמן נשמרים השיחות והקבצים, ואיך מוחקים אותם
  • באיזו מדינה או אזור המידע מאוחסן
  • אילו ספקי משנה מקבלים גישה למידע
  • מה קורה למידע אם מבטלים את המנוי

בדרך כלל התוכניות העסקיות של כלי AI מגיעות עם תנאים טובים יותר מהתוכניות הפרטיות, כולל התחייבות לא לאמן על המידע. עסק שעובד עם מידע של לקוחות צריך להיות בתוכנית כזאת, גם אם כל עובד יכול לפתוח חשבון פרטי בתוך דקה.

חלק מההגנות תלויות בהגדרה ולא בתוכנית. גם בכלי טוב צריך לוודא שהאפשרות לשמור היסטוריה או לשתף שיחות מוגדרת כמו שצריך, ושמי שמנהל את החשבון העסקי רואה אילו עובדים מחוברים אליו.

לבדוק כל כלי חיצוני לפני ההתקנה

הסיכון הגדול לא תמיד נמצא בכלי המוכר עצמו, אלא בתוספים שמתחברים אליו. תוסף לדפדפן, חיבור של צד שלישי, סקריפט מוכן מהרשת או רכיב שמרחיב סוכן AI, כולם מקבלים גישה למידע שעובר דרכם, ולא תמיד ברור מי כתב אותם ומה הם עושים מאחורי הקלעים.

בעסק שלי יש שומר שסורק כל כלי חיצוני לפני שהוא מותקן, ושום דבר לא נכנס בלי שעברתי על הממצאים. זה נשמע מוגזם עד שרואים מה סריקה כזאת תופסת: קוד שמנסה לקרוא קבצי מפתחות, שולח מידע לכתובת לא מוכרת או מריץ פקודות כבר בזמן ההתקנה.

גם בלי כלי סריקה, אפשר לשאול כמה שאלות פשוטות. אלה הבדיקות הבסיסיות:

  • מי פיתח את התוסף, ומתי הוא עודכן לאחרונה
  • אילו הרשאות הוא מבקש, והאם הן תואמות למה שהוא עושה
  • האם הוא שולח מידע לשרת חיצוני, ולאן
  • כמה משתמשים יש לו ומה כתוב בביקורות על אבטחה
  • האם אפשר להסיר אותו בקלות ולבטל את הגישה שלו

תוסף שלא עובר את הבדיקות האלה לא נכנס, גם אם הוא חוסך שעה בשבוע. מודול אחד שלא נבדק יכול לפתוח דלת לכל המערכת.

להוציא סיסמאות ומפתחות מהקוד ומהצ'אט

מפתח גישה, או מפתח API, הוא סיסמה שמאפשרת למערכת אחת לדבר עם אחרת. מי שמחזיק אותו יכול להשתמש בשירות בשמכם, לקרוא מידע ולפעמים גם למחוק. ובכל זאת, מפתחות כאלה מופיעים שוב ושוב בקוד, במסמכים משותפים ובשיחות עם צ'אטבוטים.

הכללים כאן קצרים ולא גמישים. אלה הכללים שחלים על כל מערכת, בלי יוצא מן הכלל:

  • אף מפתח לא נכתב בתוך קוד או בקובץ שעולה למאגר משותף
  • לא מדביקים מפתחות בצ'אט עם כלי AI ולא שולחים אותם בוואטסאפ
  • לכל כלי מפתח משלו, כדי שאפשר יהיה לבטל אחד בלי לשבור הכל
  • את המפתחות שומרים בקובץ הגדרות מקומי או במנהל סודות ייעודי
  • לכל מפתח מגבלת שימוש, כדי שדליפה לא תהפוך לשימוש בלי גבול

מפתח שנחשף מטפלים בו מיד: מבטלים אותו, מנפיקים חדש ומעדכנים את המקומות שמשתמשים בו. לא מחכים לראות אם מישהו ניצל אותו, כי עד שרואים, זה כבר קרה.

המקום שבו מפתחות דולפים הכי הרבה הוא דווקא הבקשה לעזרה. מישהו נתקע עם חיבור, מדביק את כל קובץ ההגדרות לצ'אט או שולח צילום מסך לספק, והמפתח יוצא יחד עם השאלה. לפני ששולחים משהו כדי לקבל עזרה, מוחקים ממנו כל מפתח וסיסמה.

לתת לכל כלי את ההרשאה המינימלית

העיקרון פשוט: כל כלי מקבל רק את מה שהוא צריך כדי לעשות את העבודה שלו, ולא יותר. בפועל זה דורש קצת יותר עבודה בהתקנה, וחוסך הרבה מאוד כאב ראש ביום שמשהו משתבש.

כך זה נראה במערכות אמיתיות. בוט שעונה ללקוחות באתר עובד מתוך רשימה סגורה של מקורות ולא מקבל גישה למערכת ההזמנות. סוכן שמתייק מיילים עובד עם חשבון משנה שרואה רק את התיבה העסקית. כלי שמכין דוחות מקבל הרשאת קריאה למכירות ולא הרשאת עריכה למוצרים, ותדרוך יומי קורא מכל המקורות ולא כותב לאף אחד מהם.

יש גם יתרון פחות צפוי. כשלכל כלי יש חשבון והרשאות משלו, רואים ביומני הפעילות מי עשה מה, ואפשר לנתק כלי אחד בלי לגעת בשאר. כלי שמתחבר עם החשבון הראשי של בעל העסק מתערבב בכל השאר, ואי אפשר לדעת איפה הוא נגע.

גם הזמן הוא הרשאה. גישה לפרויקט חד פעמי, כמו ניתוח של ההזמנות מהשנה האחרונה, צריכה תאריך תפוגה. כשהפרויקט נגמר הגישה נגמרת איתו, ולא נשארת פתוחה עד שמישהו ייזכר.

להיזהר מהוראות שמסתתרות בתוכן

זה הסיכון הכי חדש, והכי פחות מוכר לבעלי עסקים. כלי AI קורא טקסט ופועל לפיו, והוא לא תמיד מבחין בין ההוראות שלכם לבין הוראות שמישהו החביא בתוך מייל, מסמך או דף אינטרנט. מייל שנראה כמו פנייה רגילה יכול להכיל שורה מוסתרת שמבקשת מהסוכן להעביר את כל החשבוניות לכתובת חיצונית.

באנגלית קוראים לזה prompt injection, והוא מסוכן בדיוק כשהסוכן מחזיק גם הרשאה לקרוא וגם הרשאה לפעול. סוכן שרק מסכם מיילים לא יכול לשלוח שום דבר, גם אם ישכנעו אותו. סוכן שגם קורא וגם שולח יכול להפוך לכלי בידיים של מי שכתב לו.

אין פתרון קסם, אבל יש כללים שמצמצמים את הסיכון מאוד. אלה החשובים שבהם:

  • להפריד בין סוכן שקורא תוכן חיצוני לבין סוכן שמבצע פעולות
  • לדרוש אישור אנושי לכל פלואו שיוצא החוצה
  • להגביל את הנמענים שהסוכן יכול לשלוח אליהם
  • לסמן תוכן חיצוני כמידע לקריאה ולא כהוראות

הכלל השני ברשימה עושה את רוב העבודה. גם אם הסוכן שוכנע לעשות משהו שלא היה צריך, הפעולה נעצרת אצל אדם שרואה שהיא לא הגיונית.

להחזיק מידע רגיש בתוך הבית כשצריך

לא כל מידע צריך לצאת מהמחשב כדי שאפשר יהיה לעבוד איתו עם AI. מודלים שרצים מקומית, על מחשב של העסק ובלי חיבור לענן, השתפרו מאוד, והם מספיקים להרבה משימות של סיכום, חיפוש בתוך מסמכים וניסוח טיוטות.

עוזר AI פרטי שרץ מקומית במחשב, בלי לשלוח דבר לענן, הוא בחירה טובה לחומרים שלא אמורים לצאת מהעסק: מסמכים משפטיים, נתוני עובדים, מידע רפואי או חומרים של לקוח שחתמתם מולו על סודיות. הוא איטי יותר ופחות חכם מהמודלים הגדולים, אבל המידע לא עוזב את החדר.

החלוקה המעשית היא לפי רמת הרגישות שמיפיתם בהתחלה. משימות על מידע רגיל עוברות לכלים בענן בתוכנית עסקית, ומשימות על המידע הרגיש ביותר נשארות במחשב. כך לא צריך לוותר על AI כדי לשמור על סודיות, וגם לא להמר על סודיות כדי להשתמש ב-AI.

גם הסתרה פשוטה עוזרת. לפני ששולחים מסמך לכלי בענן, אפשר להחליף שמות ומספרים בכינויים קבועים, לקבל את הסיכום ולהחזיר את השמות בסוף. המידע המשמעותי עובר, והפרטים המזהים נשארים אצלכם.

לכתוב לצוות כללים ברורים לשימוש ב-AI

ברוב העסקים, עוד לפני שבעל העסק החליט משהו, העובדים כבר משתמשים ב-AI. מדביקים מייל של לקוח כדי לנסח תשובה, מעלים קובץ אקסל כדי לקבל סיכום, או מתקינים תוסף שמישהו המליץ עליו. אף אחד מהם לא מתכוון להזיק, ורובם לא יודעים איפה עובר הגבול.

מסמך מדיניות קצר פותר את רוב הבעיה. אלה הסעיפים שצריכים להיות בו:

  • אילו כלים מאושרים לשימוש, ובאיזו תוכנית
  • איזה מידע מותר להכניס ואיזה אסור בשום מקרה
  • מי מאשר חיבור של כלי חדש למערכות העסק
  • מה עושים כשמשהו נראה חשוד או כשמידע יצא בטעות

המסמך לא שווה הרבה בלי הדרכה. חצי שעה עם הצוות, עם דוגמאות מהעבודה היומיומית שלהם, שווה יותר מכל נוהל שנשלח במייל ונשכח. ומדריך כתוב שנשאר זמין אחרי ההדרכה הוא מה שעונה על השאלה של עובד חדש בעוד חצי שנה.

הכללים צריכים לאפשר, לא רק לאסור. צוות שמרגיש שכל שימוש ב-AI מסוכן ימשיך להשתמש בו בשקט, בחשבונות פרטיים ובלי לספר. צוות שקיבל כלים מאושרים וכללים ברורים משתמש בהם בגלוי, ושם אפשר לראות ולתקן.

לנהל רשימה של כל מה שמחובר

שאלה פשוטה שרוב העסקים לא יודעים לענות עליה: אילו כלים מחוברים כרגע למייל, לוואטסאפ, לאתר ולכונן. כל ניסוי שהתחיל ונשכח, כל תוסף של עובד שעזב, כל חיבור לבדיקה שאף אחד לא ניתק, ממשיכים להחזיק גישה.

רשימה מסודרת של החיבורים היא הכלי הכי בסיסי. לכל חיבור רושמים כמה פרטים:

  • שם הכלי ומה הוא עושה
  • לאילו מערכות הוא מחובר ובאיזו הרשאה
  • מי חיבר אותו ומי אחראי עליו
  • מתי בדקו אותו לאחרונה

פעם ברבעון עוברים על הרשימה מול ההגדרות בפועל: בתיבת המייל, בחשבון גוגל, בניהול האתר ובוואטסאפ. כל חיבור שלא מופיע ברשימה, או שאף אחד לא משתמש בו, מנתקים באותו יום.

אותו דבר כשעובד עוזב. מבטלים את הגישות שלו, מחליפים מפתחות שהיו אצלו ומעבירים לאחראי אחר את הכלים שהוא חיבר. עובד שעזב עם גישה פעילה למייל העסקי הוא פרצה שאף אחד לא שם לב אליה.

לנסות כל כלי חדש על עותק קודם

כלי חדש שמתחבר ישר למערכת החיה של העסק הוא ניסוי על לקוחות אמיתיים. אם משהו בהגדרות שגוי, הטעות נוחתת במייל של לקוח או בדף מוצר באוויר. הרבה יותר בטוח לנסות אותו קודם על עותק: תיבת דואר לבדיקות, גיליון עם נתונים בדויים או סביבת בדיקה של האתר.

בעותק כזה בודקים בדיוק מה הכלי עושה, לאן הוא שולח מידע ואיך הוא מתנהג כשמשהו לא צפוי קורה. רק אחרי שהכל ברור מחברים אותו למערכת האמיתית, ובהתחלה עם הרשאות מצומצמות. זה אותו היגיון של בדיקה לפני פרסום שינויים באתר, רק עם כלי שיש לו גישה להרבה יותר מעמוד אחד.

חשוב שבעותק יהיה מידע בדוי ולא העתק של הנתונים האמיתיים. סביבת בדיקה עם רשימת הלקוחות האמיתית היא בעצם עוד מקום שבו המידע הרגיש יושב, ובדרך כלל פחות מוגן מהמקור.

להכין תוכנית למקרה של דליפה

גם עם כל הבדיקות, משהו יכול להשתבש: מפתח שדלף, עובד שהדביק מידע רגיש בכלי לא מאושר, או תוסף שהתגלה כזדוני. ההבדל בין תקלה מנוהלת לבין משבר הוא אם יש תוכנית כתובה לפני שזה קורה.

התוכנית לא צריכה להיות ארוכה. אלה הצעדים שצריכים להופיע בה, לפי הסדר:

  • לנתק את הכלי או לבטל את המפתח שנחשף
  • להחליף סיסמאות ומפתחות שהיו באותה סביבה
  • לבדוק ביומני הפעילות מה נעשה ומתי
  • להבין איזה מידע נחשף ושל מי
  • לבדוק עם גורם משפטי אם יש חובת דיווח

הצעד האחרון חשוב במיוחד כשמדובר במידע של לקוחות. בישראל יש חובות לפי דיני הגנת הפרטיות באירועי אבטחה מסוימים, והדרך הנכונה היא לבדוק אותן מול מי שמבין בתחום, ולא לנחש לבד באמצע אירוע.

כדאי גם לרשום מראש מי מחליט באירוע כזה ואת מי מעדכנים, כולל ספקים שצריך לפנות אליהם כדי לבטל גישה. באמצע תקלה אין זמן לחפש איך מנתקים חיבור שמישהו הגדיר לפני שנה.

הרבה מהעקרונות כאן מוכרים מאבטחת חנות אינטרנטית רגילה: הרשאות מצומצמות, אימות דו שלבי ומעקב אחרי מי נכנס לאן. AI לא מבטל את היסודות האלה, הוא רק מוסיף להם עוד דלת שצריך לנעול.

לתכנן פתרונות AI לעסקים עם אבטחה מההתחלה

הטעות הנפוצה היא לחשוב על אבטחה אחרי שהכלי כבר עובד. אז כל שינוי בהרשאות שובר משהו, וכל הגבלה נראית כמו פגיעה בחיסכון שכבר התרגלו אליו. כששואלים את השאלות האלה בשלב התכנון, הן פשוט חלק מהעיצוב.

בכל הטמעת AI בעסק רצינית, רשימת הבדיקה הזאת עוברת לפני כל חיבור: איזה מידע, אילו הרשאות, מה הספק עושה עם הנתונים, איפה המפתחות, מי מאשר ומה עושים אם משהו משתבש. זה לוקח שעה בתחילת הפרויקט, וחוסך שבועות של תיקונים אחריו.

יש גם יתרון עסקי. לקוחות, ובמיוחד לקוחות עסקיים, שואלים יותר ויותר איך אתם משתמשים ב-AI ומה קורה למידע שלהם. עסק שיכול לענות על זה בשני משפטים ברורים נראה מקצועי יותר מעסק שמגמגם.

שאלות נפוצות על אבטחת מידע בהטמעת AI

האם מותר להכניס פרטי לקוחות לכלי AI

זה תלוי בכלי ובתנאים שלו. בתוכנית עסקית שמתחייבת לא לאמן על המידע ומאפשרת מחיקה, ובמשימה שבאמת דורשת את הפרטים, זה יכול להיות סביר. ברוב המקרים עדיף להסתיר שמות, טלפונים וכתובות לפני ההכנסה, ולבדוק עם גורם משפטי את החובות לפי דיני הגנת הפרטיות.

האם כלי AI מוכר וגדול הוא בטוח אוטומטית

לא. ספק גדול מגן על הפלטפורמה שלו, אבל ההרשאות שנתתם, התוספים שחיברתם וההגדרות שבחרתם הם באחריותכם. כלי מוכר עם הרשאה מלאה לתיבת המייל ועם תוסף לא בדוק מסוכן יותר מכלי קטן עם גישה מצומצמת.

מה עושים אם מפתח API נחשף

מבטלים אותו מיד ומנפיקים מפתח חדש, בלי לחכות לראות אם מישהו השתמש בו. אחר כך בודקים ביומן השימוש של השירות אם הייתה פעילות חריגה, מעדכנים את כל המקומות שהשתמשו במפתח הישן, ומבינים איך הוא נחשף כדי שזה לא יחזור.

האם עסק קטן צריך מדיניות AI כתובה

כן, וגם עמוד אחד מספיק. הוא צריך לומר אילו כלים מאושרים, איזה מידע אסור להכניס, מי מאשר חיבור של כלי חדש ומה עושים כשמשהו משתבש. בעסק קטן כל עובד נוגע בהרבה מידע, ולכן כלל פשוט וברור מגן יותר מכל תוכנה.

כלי AI מקבל מפתח אחד, לא צרור

כל חיבור של כלי AI הוא מפתח שאתם מוסרים. השאלה היא לא אם למסור מפתחות, כי בלי זה אין אוטומציה, אלא לאיזו דלת, למי ולכמה זמן. עסק שעונה על השאלות האלה לפני כל חיבור נהנה מה-AI בלי לחשוף את מה שהלקוחות הפקידו בידיו.

בסופו של דבר, אבטחת מידע בהטמעת AI היא לא פרויקט טכני נפרד, אלא הרגל של כמה שאלות קבועות. מה הכלי יראה, מה הוא יוכל לעשות, לאן המידע הולך ואיך מנתקים אותו מחר בבוקר. עסק שבודק את זה בכל פעם מקבל את החיסכון בזמן בלי להפתיע את הלקוחות שלו.

אם אתם רוצים לחבר כלי AI לעסק בלי לפתוח דלתות מיותרות, אפשר לעשות את זה מסודר יחד עם יועץ AI שבודק כל חיבור לפני שהוא עולה.

קטגוריות רלוונטיות:

נכתב ע״י

טל שילון

עוד מאמרים בנושא

הנגשת אתרים | הצהרת נגישות | חנות אונליין | נגישות | קונימבו

ארגז כלים מעץ פתוח על שולחן עבודה, מגש עליון מסודר במברגים קטנים, ותא תחתון סגור במנעול פליז קטן

אקומרס | חוויית משתמש | חיפוש פנימי | יחס המרה | ניהול קטלוג

פעמון פליז לדלפק לצד קובייה קטנה מעץ שחוק, כיפת הפעמון תופסת נקודת אור אחת
טעינת פוסטים נוספים
0 0 הצבעות
דירוג המאמר
הרשמה לעדכונים
שלחו לי עדכון על
guest
0 תגובות
הישנות ביותר
החדשות ביותר המדורגות ביותר

נשארים מעודכנים בכל מה שחדש בדיגיטל

מעל 300 אנשי שיווק ובעלי עסקים נשארים מעודכנים בכל מה שחדש בשיווק דיגיטלי מאז 2016

המייל משמש רק לניוזלטר שלי, ואפשר להסיר אותו בכל רגע.
מה נשמר ואיך מעיינים או מוחקים: מדיניות הפרטיות

0
אשמח לשמוע מה אתם חושבים, כתבו תגובה.x