How we monitor internal coding agents for misalignment

"`json
{"title": "איך אנחנו מזהים חוסר אמת במתבנים של מדע", "summary": "OpenAI משתמש בשיטת "chain-of-thought monitoring" כדי לחקור את הסיכון של חוסר אמת במתבנים של מדע. הם עוקבים אחר תוצאותיו של שימוש במודל AI בפועל כדי למצוא סימני בורות וליצור מערכות נוספות ליצירת מערכת אבטחה נוספת למקרה של חוסר א

מקור: OpenAI News — לכתבה המלאה

Comments

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

עוזר האתר מודל מקומי · gemma2
שלום! 👋 אני העוזר החכם של האתר, רץ על מודל מקומי בשרת. איך אפשר לעזור?