عندما يقرأ مساعد ذكاء اصطناعي صفحة أو بريدًا أو ملفًا، قد يجد نصًا يحاول تحويله عن المهمة التي طلبها المستخدم. يسمى هذا «حقن التعليمات» أو Prompt Injection. ولمن يجهز استخدام هذه الأدوات في 2027، فالأهم ليس الخوف من كل ملف، بل ضبط الصلاحيات ومراجعة الأفعال التي قد تكشف بيانات أو تنشئ التزامًا. يعتمد هذا الدليل على الإرشادات المتاحة وقت الرصد في 26 أكتوبر 2026، لا على وعد بمنتجات أو حماية جديدة للعام المقبل.
ما الفرق بين محتوى الملف وأمر المستخدم؟
يمكن أن يكون الملف مادة يجب تلخيصها، لكنه يحتوي في الوقت نفسه على طلب خفي لإرسال معلومات إلى جهة أخرى أو تغيير هدف المهمة. فالمهاجم لا يحتاج إلى التحدث مباشرة مع المستخدم؛ يكفي أن يؤثر في محتوى يقرأه المساعد. وقد يظهر الطلب داخل صفحة أو بريد أو مستند، ويبدو أحيانًا كجزء من إجراء عمل عادي.
المشكلة تبدأ حين يُعامل الكلام الموجود في المصدر كأنه تفويض جديد. مثال ذلك أن تطلب تلخيص بريد، بينما يحاول نص فيه دفع المساعد إلى مشاركة مراسلات أخرى. تلخيص الرسالة لا يمنحها حق تحديد ما يجوز إرساله أو إلى من.
حدد المهمة والصلاحية معًا
بدل إعطاء تفويض واسع مثل التعامل مع كل ما يحتاج إجراءً، حدد المطلوب: قراءة ملفات معينة، استخراج نقاط محددة، أو إعداد مسودة دون إرسال. وحين لا تحتاج المهمة حسابًا مسجلًا، استخدم وضع التصفح دون تسجيل الدخول إذا كان المنتج يوفره. تقليل الوصول لا يمنع كل هجوم، لكنه يقلل ما يمكن كشفه أو تغييره إذا فشلت الحماية.
ما الذي تراجعه قبل تأكيد إجراء؟
- هل الإجراء جزء من طلبك الأصلي، أم ظهر لأول مرة داخل المحتوى المقروء؟
- من المستلم الفعلي، وما عنوانه أو وجهته؟
- ما البيانات والمرفقات التي ستخرج؟ وهل تخص المهمة نفسها؟
- هل الإجراء مجرد مسودة، أم إرسال أو شراء أو تعديل له أثر خارج المحادثة؟
تأكيد عملية مهمة يجب أن يكون مراجعة لما سيحدث، لا ضغطة تلقائية بعد قراءة الملخص. وإذا تغيرت الوجهة أو المرفقات أو المبلغ، فالتأكيد السابق لا يثبت أن التفاصيل الجديدة هي ما قصده المستخدم.
السرية وحدها لا تكفي
لا يكفي أن يبدو النص مهنيًا أو مستعجلًا، أو أن يزعم أنه صادر من مسؤول. الأفضل إيقاف الأثر المختلف عن المهمة، ومراجعة المصدر والوجهة، ثم متابعة الأجزاء التي لا تحتاج هذا الإجراء.
إذا كنت تطور تطبيقًا
افصل المحتوى الخارجي عن التعليمات التي تتحكم في التطبيق، وقلل البيانات والصلاحيات المتاحة للمساعد إلى ما يحتاجه. ويمكن تقييد ما ينتقل بين المراحل بحقول منظمة محددة بدل نص حر يستطيع تغيير سير العمل. أضف مراجعة بشرية للأفعال الحساسة واختبارات تتضمن مستندات تحاول تغيير المهمة، ولا تعتمد على مرشح واحد أو عبارة حماية واحدة.
هذه وسائل لتقليل المخاطر، وليست ضمانًا بأن المساعد لن يُخدع. وكلما زادت قدرته على القراءة من مصادر متنوعة وتنفيذ أفعال خارجية، زادت أهمية حدود الوصول ومراجعة المستلم والبيانات قبل التنفيذ.
