חסרונות כלי בינה מלאכותית

על אף היתרונות הרבים והפוטנציאל האדיר שטמון בכלי בינה מלאכותית יוצרת, ישנם סייגים שאין להתעלם מהם. להלן רשימה של הסייגים:

• גישה למאמרים אקדמיים: נכון להיום, למרבית הכלים של בינה מלאכותית אין גישה למאמרים אקדמיים בתשלום. הכלים יכולים לדלות מאמרים שנמצאים בגישה פתוחה או תקצירי מאמרים בלבד. לכן, כלי בינה מלאכותית יוצרת אינם מהווים תחליף למאגרי מידע אקדמיים הקיימים במוסד האקדמי.
• "הזיות" ואיכות המידע המתקבל: אחת התופעות הידועות במודל שפה גדול נקראת "הזיה". תופעה זו מתרחשת עקב חשיפה של הכלי למגוון עצום של מקורות מידע. בעקבות כך, הכלי "מצליב" מידע לא קשור אחד לשני ובכך "ממציא" מידע שגוי או נותן תשובה נכונה ולא נכונה בו זמנית. כמו כן, אם לא להגדיר את סוגי המקור לכלי, הוא יכול לתת תוצאות של אתרי ספאם או אתרים עם תוכן שיזיק למחשב. 
• בעית פלורליזם והטיית דעות: עקב חשיפה למקורות מידע רבים, הכלי נחשף להטיות וסטראוטיפים חברתיים, מגדריים, תרבותיים ועוד, הכלי יכול לתת תשובה המושפעת מאידאולוגיה זו או אחרת. בנוסף, הכלי יכול "לסרב" לתת מידע או לענות על שאילתות שלפי דעתם של המפתחים יכולות להיות "טעונות" מידי.
• פגיעה בחסיון ופרטיות המידע: כל מידע שנכנס לצ'אטבוקס של מודל השפה יכול לשמש אותו ללמידה עתידית. הדיאלוגים בין המשתמש לבינה המלאכותית נבדקים ע"י המפתחים לצורך "בקרה ושיפור השירות".  לכן, יש להימנע מלהכניס מידע פרטי ורגיש לתוך הכלי. כיום יש אפשרות של "צ'אט זמני" או "צ'אט פרטי" בתוך הכלי, אבל לא ברור עד כמה זה מגן על המידע הפרטי שלכם.
• הגבלת איכות המענה בשפה שאינה אנגלית: למרות שיש שיפור ניכר במענה בשפה העברית, אנגלית היא עדיין השפה העיקרית שבה הכלים עובדים ומבינים הכי טוב את המטלות. כמו כן, בהרבה כלים אין אופציה לענות בשפה העברית. 
• עלות השימוש: כלי בינה מלאכותית פועלים במתכונת freemium. ניתן להשתמש בכלי בחינם, אבל עם הגבלת שימוש. לכן, יש לשקול היטב לפני רכישת מנוי בתשלום ולבדוק את רמת השימוש בו.
• פגיעה בזכויות יוצרים ושקיפות אקדמית: לא כל המרצים מעודדים להשתמש בכלי בינה מלאכותית. כמו כן, יש סיכון של גניבה ספרותית או הפרת זכויות יוצרים.
• בעיות עם שמירת רצף הפעולה: אם המשתמש לא מחליף פיצ'ר של הכלי במהלך השיחה או שישאל במעבר חד שאלה לא קשורה לנושא השיחה, הכלי יכול "להיתקע" ולתת מידע שכבר התקבל או לתת תשובה היוצאת מרצף השיחה. לכן, חשוב לשמור על רצף הפעולה ולהתמקד בשאילתה. 
  
• איכות ודיוק התשובה: עקב חשיפה מרובה למקורות מידע מגוונים מכל תחום אפשרי, לא תמיד ניתן לדעת מה איכות המידע, עד כמה הוא מדויק ומהיכן הוא נדלה. לכן, בכלי שהוא מודל שפה גדול, יש להדגיש שייתן לנו תשובה המבוססת על מקורות אקדמיים. 

חשוב לזכור: למרות שכלי בינה מלאכותית יוצרת טובים בלעשות פעולות שנדרשו בשאילתא, הם לא טובים בלענות על שאלות ידע, אלא מחקים את הפעולות התבוניות, ובלי "הוראות הפעלה" שחבויות בתוך השאילתה הם לא יבצעו את המטלה כהלכה.