מפתחי CHATGPT משיקים כלי שיזהה טקסטים שנוצרו על ידי בינה מלאכותית
מפתחי ChatGPT משיקים כלי שיזהה טקסטים שנוצרו על ידי בינה מלאכותית
כלי הבינה המלאכותית עשויים לחולל מהפך בחינוך ולהשפיע על היחסים בין תלמידים למורים ■ AI Classifier פותח על מנת להיאבק בנסיונות לניצול הבינה המלאכותית להעתקות, הפרת זכויות יוצרים ופייק ניוז ■ הכלי נגיש לשימוש חופשי אך הוא עדיין בפיתוח ואינו מדויק, בייחוד בטקסטים קצרים
February 01st, 13PM February 01st, 15PM רויטרסחברת OpenAI, שפיתחה את כלי הבינה המלאכותית ChatGPT השיקה טכנולוגיה נוספת, AI Classifier, המאפשרת לזהות טקסטים שנוצרו על ידי בינה מלאכותית. כך מסרה החברה בפוסט בבלוג שלה היום.
ChatGPT היא תוכנה חינמית מבוססת בינה מלאכותית שעונה על שאלות ומשימות כמו "איך היה פונה המלט לכריסטופר קולומבוס כדי לנסות לשכנע אותו לבטל את המסע שלו?" ביכולתה להפיק טקסטים הכוללים מאמרים, חיבורים, מחזות, בדיחות ואפילו שירה. הכלי זכה לפופולריות עצומה מאז הופעת הבכורה שלו בנובמבר 2022, אך גם העלתה חששות רבים ממקצועות המאויימים על ידי הטכנולוגיה ומשימוש בכלי להפרות זכויות יוצרים ורמייה במשימות אקדמיות.
AI Classifier ("מסווג בינה מלאכותית") מבוסס על מודל לשוני שאומן על בסיס מערך נתונים של צמדי טקסטים, אחד שנכתב על ידי אדם ומולו תוכן שנוצר על ידי בינה מלאכותית באותו נושא. הכלי נועד לסייע למשתמשים לזהות טקסט שהופק על ידי בינה מלאכותית. החברה מסרה שהטכנולוגיה משתמשת במגוון מקורות תוכן, כמענה לנסיונות לנצל בינה מלאכותית למטרות כמו קמפיינים אוטומטיים ומסיביים של פייק ניוז והעתקות באקדמיה.
הטכנולוגיה נמצאת עדיין בשלב הבטא הציבורי שלה, והמפתחים מאשרים כי כלי הזיהוי אינו אמין בטקסטים קצרים מ-1,000 אותיות. כמו כן, ניתן לערוך מחדש טקסט של בינה מלאכותית כדי לחמוק מגילוי על ידי ה-AI Classifier.
החברה מסרה שהשיקה את AI Classifier "כשירות לציבור כדי לקבל משוב שיסייע לנו לדעת אם כלים כאלה בעלי יעילות חלקית הם עדיין שימושיים" והוסיפה: "אנו מכירים בכך שזיהוי טקסט שנכתב על ידי בינה מלאכותית הוא נושא חשוב למחנכים, וחשוב לא פחות להכיר את הגבולות וההשלכות של השימוש בכלים לזיהוי טקסט בינה מלאכותית בכיתה".
מבדיקה שערך TheMarker עולה כי ChatGPT כבר נמצא בשימוש רחב בקרב סטודנטים ותלמידים, למרות שגרסתו בעברית אינה טובה כמו זו האנגלית. אך ניתן להשתמש בגוגל טרנסלייט כדי לתרגם ולשפר תוצרים מהכלי באנגלית ולהשיג ציונים גבוהים למשימות לימוד רבות, לפחות ברמות היסודי וחטיבת הביניים.
בכלי הבינה המלאכותית יש גם פוטנציאל של מהפכה בדרך הלימוד והחשיבה של תלמידים ומורים כאחד, למשל במעבר תפיסתי שמתמקד גם בחשיבה על השאלות הנכונות ולא רק על התשובות. אך בראייה קודרת יותר, ייתכן שמדובר ביריית הפתיחה במרוץ חימוש בין התלמידים למערכת החינוך. נקודת התורפה של כלי הבינה המלאכותית היא תלותם המוחלטת בטקסטים קיימים שאנשים יצרו ונמצאים איפשהו ברשת או במאגרי נתונים שניתן לדגום כחלק מהניסיון לזהות את המקור.
בתי הספר נלחמים
מאז נחשף לציבור בנובמבר צבר ChatGPT (הידוע כ"ג'יפיטפוט" בעברית) מיליוני משתמשים. אך בתי ספר בכמה מהמחוזות הגדולים בארה"ב כולל ניו יורק אסרו את השימוש בטכנולוגיה, משום החשש שתלמידים ישתמשו במחולל הטקסט כדי לרמות בבחינות ומשימות.
AI Classifier מצטרף למספר כלים כמו GPTZero שפותח על ידי אדוארד טיאן מאוניברסיטת פרינסטון כדי לעזור לאנשי חינוך לזהות טקסט שהופק על ידי בינה מלאכותית.
חברת OpenAI מסרה כי היא שומרת על קשר עם מחנכים כדי לדון ביכולות ובמגבלות של ChatGPT, ותמשיך לשפר את יכולות האיתור של טקסט שהופק בבינה מלאכותית.
2023-02-01T13:42:02Z dg43tfdfdgfd