שמירת תקינות AI Agents באמצעות חיסורים ב-Prompt Injection

ChatGPT משתמש במנגנוני ח defense against prompt injection ו social engineering. זה נעשה על ידי קרתת פעולות מסוכנות ובטחת מידע רגיש בקרב תחומי פעולה של agent.

מקור: OpenAI News — לכתבה המלאה

Comments

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

עוזר האתר מודל מקומי · gemma2
שלום! 👋 אני העוזר החכם של האתר, רץ על מודל מקומי בשרת. איך אפשר לעזור?