איך אנחנו מנוימים את המערכות הפעילות של מערכות קoding פנימיות לשינויים לא טבעיים

OpenAI משתמש ב-chain-of-thought monitoring כדי לבדוק את הסכנות של שימוש מוגבל במערכות קוד. באמצעות חיפוש במוצרים בשימוש, OpenAI מבצע בדיקות למידה על מנת להחזיר את אמות החשיבה של AI למהלכים טבעיים יותר.

מקור: OpenAI News — לכתבה המלאה