איך אנחנו מנמדים את המחברות הפעילות של תוכנה לא מטרה, כדי להימנע מהתנגשות

OpenAI משתמשת במודדי חשיבה קשר-ל-כיתוב כדי לstudying misalignment in internal coding agents. הם מחפשים סימני שגיאה בחוויות שימוש ומתכננים מערכות להסדרת את הטכנולוגיה בטוחה

מקור: OpenAI News — לכתבה המלאה