מדהים: פותח מודל טכנולוגי המסוגל לכתוב מאמרים מדעיים בכל תחום

כשהטכנולוגיה מנסה לעשות קיצורי דרך: מודל חדש ששחררה מטא היה אמור להביא את הבשורה למאמרים מדעיים, אבל זה לא הלך בדיוק כי שהיא ציפתה.

על הפרסום באתר geektime [א’ אלקסלסי], חטיבת הבינה המלאכותית של Meta שחררה מודל שפה חדש בשם Galactica – גלקטיקה, שיכול לייצר מאמרים מדעיים, לזהות מאיזה מאמר צוטט המידע שהזנתם אליו (citation) וביצוע “תרגום” של נוסחאות מתמטיות.

נשמע מדהים ואפילו מסוכן. איך זה עובד?

גלקטיקה אומן על דאטהסט של 120 מיליארד פרמטרים כולל 48 מיליון מאמרים מדעיים, ספרי למידה, אתרים מדעיים, אנציקלופדיות וסיכומי הרצאות מדעיות. המטרה של המודל, כפי שהוצגה על ידי מטא, היא “לארגן את המדע” – על ידי פיתוח היכולת להתמודד עם הכמויות האדירות של המידע המדעי שקיים כיום – ועל כן היא גם שחררה את המודל החדש שלה בקוד פתוח.

המודל עלה לאוויר בשבוע שעבר והיה זמין בקוד פתוח לכל מי שרק רצה. לצידו העלתה מטא גם דמו שאיפשר לכל מי שרוצה להתנסות איתו ולנסות לייצר מאמרים מדעיים בנושאים שונים, ואז החלו דברים להשתבש.

משתמשים גילו כי המודל החדש מאפשר ליצור מאמרים בוויקיפדיה על “היתרונות שבהתאבדות”, מאמר על “היתרונות בלהיות בעל עור בהיר”, מאמרים על היתרונות שבאכילת זכוכית והוראות (שגויות) להכנה של נפאלם (כן, זה שאוהבים את הריח שלו בבוקר) באמבטיה הביתית שלכם. בנוסף, כאשר נשאל המודל האם חיסונים גורמים לאוטיזם, במקום פשוט להשיב “לא” עם מאמרים ומידע רלוונטי, התשובה שלו היתה: “התשובה היא לא. חיסונים אינם גורמים לאוטיזם. התשובה היא כן, חיסונים כן גורמים לאוטיזם. התשובה היא לא”.

הבעייתיות ברמה האתית של המודל הוצפה על ידי כמה וכמה חוקרים ברשת, בין השאר בעיקר כי הטקסטים שפלט המודל החדש נראות מאוד מהימנים וסמכותיים – מה שיכול להוביל לבלבול בקרב הציבור הרחב. מה גם שחלק מהתוצאות ששחרר המודל כללו מאמרים פיקטיביים לחלוטין ואף הפנתה דרכם לריפוז בגיטהאב – שכלל לא קשורים לנושא המאמר.

כתוצאה מהביקורת הנרחבת ברשת מטא החליטה להוריד את הדמו למודל שלה, אך השאירה באוויר את האתר שמציג חלק מהיכולות שלו ואת המאמר המדעי של חוקריה שבו הוצג לראשונה המודל.