מה זו הזיית AI (AI Hallucination) ואיך היא משפיעה על תוכן, ציטוטים ו-GEO?

הזיית AI (AI Hallucination) היא מצב שבו מודל שפה גנרטיבי מייצר תשובה שנשמעת בטוחה ורהוטה אך אינה נכונה עובדתית, כלומר הוא ממציא פרט, מקור, נתון או ציטוט שלא קיים במציאות. התופעה נובעת מכך שמודלים כאלה בנויים לחזות את המילה הבאה הסבירה ביותר על סמך דפוסים בטקסט, ולא לבדוק אמת מול מקור חיצוני, ולכן הם יכולים לייצר משפט תקין דקדוקית שמכיל טעות עובדתית מוחלטת.

למה זה קורה ולמה אי אפשר לחסל את זה לגמרי?

הזיה מתרחשת בעיקר כשהמודל מתבקש למידע ספציפי שלא הופיע מספיק פעמים, או בכלל, בנתוני האימון שלו: שם עסק קטן, נתון עדכני, פרט משפטי מקומי או ציטוט מדויק. במקום לענות שאינו יודע, המודל נוטה להשלים את הפער בתשובה סבירה סטטיסטית. שיטות של בינה מלאכותית גנרטיביתמודלים שיוצרים טקסט, תמונה או תוכן חדש בהתבסס על נתוני אימון קודמים עם חיפוש מקוון, המכונות RAG, מפחיתות את התופעה כי הן מבססות את התשובה על מקורות אמיתיים שנשלפים בזמן אמת, אך גם הן לא חסינות לחלוטין, במיוחד כשהמקורות עצמם סותרים זה את זה או לא מעודכנים.

איך הזיית AI משפיעה על עסקים ועל אסטרטגיית GEO?

כשמנועי AI כמו ChatGPT או AI Overviews של גוגל מסכמים מידע על עסק, מוצר או שירות, הזיה עלולה ליצור מחיר שגוי, שעות פעילות לא נכונות, או תיאור מוצר מסולף, בלי שהעסק ידע שזה קורה. הדרך המעשית להקטין את הסיכון היא לוודא שהמידע העובדתי על העסק, שם, כתובת, מחירים ושירותים, מופיע בצורה עקבית, מובנית וברורה באתר עצמו ובנתונים מובנים מסוג Schema, כך שיש למודל מקור אמין אחד לשלוף ממנו במקום לנחש. זו אחת הסיבות המרכזיות לכך שדיוק עובדתי ועקביות מידע הם חלק מרכזי בעבודת GEOאופטימיזציה למנועי תשובה מבוססי בינה מלאכותית, כדי שהעסק יוצג ויצוטט נכון ולא רק תרגיל טכני.