07: المصطلحات المهمة — الجزء الخامس
مصطلحات RAG والأمان.
RAG (Retrieval-Augmented Generation)
تقنية تجمع بين البحث في مصادر خارجية والتوليد. النموذج يبحث أولًا ثم يجيب بناءً على ما وجده.
Grounding
ربط إجابات النموذج بمصادر محددة وموثوقة لمنع اختراع معلومات.
Hallucination
عندما يختلق النموذج معلومات خاطئة بثقة. مشكلة شائعة تحتاج استراتيجيات للحد منها.
Chunking
تقسيم النصوص الطويلة إلى أجزاء صغيرة ليستطيع النموذج معالجتها.
Embedding
تحويل النص إلى أرقام (vectors) تمثل معناه، مما يسمح بالبحث الدلالي.
Prompt Injection
هجوم أمني حيث يحاول المستخدم إدخال تعليمات خبيثة لتجاوز قيود System Prompt.
Prompt Leaking
هجوم يهدف لاستخراج System Prompt أو التعليمات السرية من النموذج.
Jailbreaking
محاولة تجاوز القيود الأخلاقية والأمنية للنموذج للحصول على محتوى ممنوع.
Input Sanitization
تنظيف وفحص مدخلات المستخدم قبل إرسالها للنموذج لمنع الهجمات.
Output Validation
التحقق من مخرجات النموذج قبل عرضها للمستخدم لضمان الأمان والجودة.