מיקרוסופט רשמה פטנט למניעת הזיות בבינה מלאכותית

📦תוכן ארכיון – נובמבר 2024

נכתב כשאמינות המידע ב-AI הייתה האתגר הגדול ביותר. מיקרוסופט הציגה אז פתרון טכני לזיהוי חוסר עקביות בתשובות.

📍 עדכון מרץ 2026 – מה קרה מאז:

ב-2026, הזיות AI עדיין קיימות אך צומצמו משמעותית בזכות שילוב חיפוש חי (RAG) ומערכות אימות כמו אלו שמיקרוסופט רשמה עליהן פטנט ב-2024. כיום מודלים כמו GPT-4o ו-o3 מצליחים להצליב נתונים בצורה כמעט מושלמת.

האתגר הגדול של עולם ה-AI: התמודדות עם הזיות

אחת הבעיות המרכזיות שמלוות את מודלי השפה הגדולים (LLMs) מאז פריצתם לחיינו היא תופעת ה"הזיות" (Hallucinations). מדובר במצבים בהם הבינה המלאכותית מייצרת מידע שנשמע משכנע ורהוט, אך הוא שגוי לחלוטין או מומצא מהיסוד.

איך הפטנט של מיקרוסופט משנה את התמונה?

הפטנט שמיקרוסופט רשמה מציג מערכת של "אימות והצלבה". במקום לסמוך על המודל שייצור תשובה מתוך הזיכרון הסטטי שלו, המערכת סורקת מקורות מידע חיצוניים, משווה ביניהם לבין תשובת המודל, ומזהה חוסר עקביות עוד לפני שהתשובה מוצגת למשתמש.

• זיהוי בזמן אמת: המערכת פועלת במקביל ליצירת הטקסט.

• דירוג אמינות: כל טענה מקבלת ציון אמינות על בסיס הצלבה.

• תיקון אוטומטי: במידה ונמצאה שגיאה, המערכת מנחה את המודל לנסח מחדש על בסיס העובדות הנכונות.

• 

למה זה חשוב לנו ב-2026?

ככל שאנחנו מטמיעים יותר בינה מלאכותית בתוך תהליכים עסקיים, רפואיים ומשפטיים, הצורך במידע מדויק הוא לא מותרות – הוא הכרח. הפטנט הזה היה הסנונית הראשונה שבישרה על העידן שבו אנחנו נמצאים היום, בו ה-AI הוא לא רק יצירתי, אלא גם אמין ובטוח לשימוש.