מערכות עקרוניות נוטים להתבגר, אבל זה טוב

OpenAI פיתחה CoT-Control כדי לעצור את התבגרות מערכות עקרוניות. OpenAI מצאה שמיזוג קשרים של מחשבות מתעורר לבעייתיות רלוונטיות בתחום אבטחת הביטחון של AI, ועיקרי המוקדמות שלהם.

מקור: OpenAI News — לכתבה המלאה