חסרונות כלי בינה מלאכותית

על אף היתרונות והפוטנציאל האדיר הגלומים בכלי בינה מלאכותית יוצרת, חשוב להיות מודעים למגבלות ולסייגים המאפיינים אותם. להלן הרשימה:

• נגישות למאמרים אקדמיים: לכלי בינה מלאכותית יוצרת אין גישה למאמרים אקדמיים הנמצאים מאחורי חומת תשלום. הם יכולים לאחזר מידע ממאמרים בגישה פתוחה בלבד, או תקצירים של מאמרים אחרים. לפיכך, כלים אלו אינם מהווים תחליף למאגרי המידע האקדמיים הקיימים בספרייה.
• "הזיות" ואיכות המידע: תופעת "ההזיה" (Hallucination) נפוצה במודלי שפה גדולים ומתרחשת כאשר הכלי מייצר מידע שגוי, חסר הקשר או משלב פרטים לא נכונים, לעיתים אף לצד מידע מדויק. תופעה זו נובעת מחשיפה למגוון עצום של מקורות מידע ו"הצלבה" שגויה ביניהם. בנוסף, ללא הנחיה מפורשת לסוגי מקורות מידע, הכלי עלול לדלות מידע מאתרי ספאם או אתרים שאינם מהימנים.
• הטיה ופלורליזם: חשיפה למקורות מידע רבים חושפת את הכלי להטיות וסטריאוטיפים חברתיים, מגדריים ותרבותיים. הדבר עלול להשפיע על התשובות הניתנות ולהוביל להצגת מידע מוטה אידיאולוגית. כמו כן, הכלים עשויים לסרב למסור מידע או לענות על שאילתות שהמפתחים תופסים כ"טעונות" או רגישות יתר.
• פרטיות וסודיות המידע: כל מידע המוזן לממשק צ'אטבוט של מודל שפה עלול לשמש ללמידה ושיפור עתידי של הכלי. דיאלוגים בין משתמשים לבינה מלאכותית נבדקים על ידי מפתחים לצורך בקרת איכות ושיפור השירות. מומלץ להימנע מהכנסת מידע אישי ורגיש לכלי. חשוב לציין כי גם אפשרויות ל"צ'אט זמני" או "צ'אט פרטי" אינן מבטיחות הגנה מלאה על הפרטיות.
• איכות מענה בשפות שאינן אנגלית: למרות שקיים שיפור ניכר ביכולות המענה בעברית, אנגלית נותרה השפה העיקרית בה הכלים בהם הכלי מעניק את התוצאה הטובה ביותר. בחלק מהכלים, אפשרות המענה בעברית כלל אינה קיימת.
• עלות השימוש: כלי בינה מלאכותית  פועלים במתכונת "פרימיום" (Freemium), המציע שימוש בסיסי ללא תשלום עם הגבלות, לצד מנוי בתשלום המרחיב את הפונקציונליות. מומלץ לשקול היטב את היקף השימוש הצפוי לפני רכישת מנוי.
• זכויות יוצרים ושקיפות אקדמית: לא כל המרצים מעודדים שימוש בכלי בינה מלאכותית. כמו כן, קיים סיכון של גניבה ספרותית או הפרת זכויות יוצרים בעת שימוש לא מושכל.
• בעיות שמירה על רצף פעולה: סטייה חדה מרצף השיחה או שינוי פיצ'ר במהלך אינטראקציה עלולים לגרום לכלי "להיתקע" ולחזור על מידע שכבר ניתן או לספק תשובות שאינן קשורות להקשר.
  
• דיוק ואיכות התשובה: עקב חשיפה למקורות מידע מגוונים ורחבי היקף, הכלי לא  בודק את איכות המידע, דיוקו או את מקורותיו, אלא ממהר להפיק התשובה על סמך המידע הקיים. בעת שימוש במודלי שפה גדולים, מומלץ להנחות את הכלי לבסס את תשובותיו על מקורות אקדמיים.

חשוב לזכור: למרות שכלי בינה מלאכותית יוצרת טובים בלעשות פעולות שנדרשו בשאילתא, הם לא טובים בלענות על שאלות ידע, אלא מחקים את הפעולות התבוניות, ובלי "הוראות הפעלה" שחבויות בתוך השאילתה הם לא יבצעו את המטלה כהלכה.