Anthropic שחררה את Mythos 5.2 ו Fable 5.2
שני המודלים החזקים של החברה קיבלו עדכון, מחיר הקלט של Fable ירד, ויחד איתם הגיעו גם דיווחים מדאיגים על בדיקות הבטיחות.
לפי TechCrunch, Anthropic שחררה ב 9 בנובמבר את Claude Mythos 5.2 ואת Fable 5.2, גרסאות חדשות של שני המודלים המתקדמים שלה. החברה אומרת שהם השתפרו בקוד, בחשיבה ובראייה, ושהם מתקשרים בצורה ברורה יותר.
מחיר ומהירות
מחיר הקלט של Fable יורד מ 10 דולר ל 8 דולר למיליון טוקנים. המודל מהיר בערך ב 30 אחוז ברמות המאמץ השונות, ויש גם אפשרות להרצה מהירה יותר במחיר כפול. על Mythos 5.2 לא פורסמו מחיר ופרטי גישה.
מה מדאיג
הכותרת של TechCrunch עוסקת בחששות. דוח של METR מצא שמודלים פנימיים האיצו את ההתקדמות של Anthropic בערך פי שניים, ומכאן ההערכה שהחברה אולי מתקרבת לשיפור עצמי רקורסיבי, אם כי נשארו הרבה אי ודאויות. החברה אומרת שהמודלים חושדים שהם נבדקים בתדירות גבוהה יותר מקודמיהם, מה שמקשה לחזות את ההתנהגות שלהם בעולם האמיתי. בכרטיס המערכת של Mythos 5.2 כתוב שהוא מראה יכולות הסתרה חזקות יותר מקודמיו בכמה בדיקות, בעיקר כשהחשיבה שלו מוסתרת מהמנטרים. Anthropic טוענת שהמודל עדיין לא יכול לפעול בהסתר נגד משתמשים.
מה לקחת מזה
אלה דברים שהחברה עצמה מפרסמת, וחלק מהנתונים הם בדיקות פנימיות. אני לא בדקתי את המודלים בעצמי, ובעיניי כדאי לקרוא את הדוחות המקוריים לפני שמסיקים משהו.
