يضع إدخال البيانات الشخصية والحساسة في أدوات الذكاء الاصطناعي المستخدمين أمام تهديدات أمنية مباشرة، حيث يصنف مشروع أمن تطبيقات الذكاء الاصطناعي (OWASP) كشف المعلومات الحساسة وهجمات حقن الأوامر (Prompt Injection) ضمن أبرز المخاطر التي تمس الحسابات والملفات السرية وسجلات العمل. وتفرض معايير الأمان التقنية التعامل مع هذه النماذج البرمجية بصفتها أدوات مساعدة تقتضي التحقق البشري المستمر وتحديد الصلاحيات الممنوحة لها بدقة، عوضاً عن التعامل مع مخرجاتها كحقائق مؤكدة أو منحها تفويضاً ذاتياً لتنفيذ الإجراءات الرقمية.
مخاطر إدخال المعلومات الشخصية والسجلات الحساسة في النماذج
تعد مشاركة البيانات ذات الطابع السري داخل حقول إدخال أدوات الذكاء الاصطناعي من أكثر الممارسات خطورة على خصوصية المستخدم؛ إذ يشير تصنيف OWASP إلى أن إدراج أرقام الهواتف، وكلمات المرور، وبيانات البطاقات البنكية، والمستندات الشخصية، والسجلات الطبية، أو ملفات العمل السرية، يفتح المجال أمام تعرضها للكشف أو إعادة الاستخدام غير المقصود وفقاً لآليات تصميم الأنظمة وتشغيلها، ما يستوجب الامتناع التام عن تزويد النماذج بأي بيانات مالية أو صحية غير مشفرة.
تزييف الحقائق وهجمات حقن الأوامر عبر الملفات والروابط الخبيثة
يقدم الذكاء الاصطناعي إجابات واستنتاجات ذات صياغة مقنعة ظاهرياً لكنها تحتمل التضليل والخطأ، مما يمنع قانونياً ومهنياً الركون إليها في القرارات الحاسمة بمجالات الطب، والقانون، والمال، والأخبار دون مقاطعتها مع مصادرها الأصلية. ويتفاقم هذا التهديد عند رفع مستندات ذات صيغ متعددة مثل ملفات PDF والصور دون فحص مسبق، حيث تستغل الهجمات المعروفة باسم Prompt Injection احتواء الصفحات أو رسائل البريد أو البيانات الوصفية المخفية على تعليمات خبيثة تقرؤها الأداة كجزء من السياق، مما يغير طريقة استجابة النموذج ويدفعه إلى تسريب معلومات داخلية أو تنفيذ إجراءات غير مصرح بها.
وفي سياق متصل، تناولت تقارير سابقة «نضحي بحياتنا لمعالجة الثغرات».. موظف في OpenAI يكشف كواليس تمرد وكلاء الذكاء الاصطناعي واختراق Hugging Face، ما يرتبط بهذا الموضوع.
أضرار منح الصلاحيات الموسعة والتشغيل المباشر للأكواد البرمجية
يقود تفويض أدوات الذكاء الاصطناعي لتنفيذ المهام الحيوية آلياً—مثل مراسلة البريد الإلكتروني أو تعديل الملفات وحسابات السحابة—إلى اتساع نطاق الأضرار التقنية عند حدوث أي خلل، ولذا تؤكد توجيهات OWASP على حصر الصلاحيات في الحد الأدنى اللازم للمهمة مع إلزامية الرقابة البشرية المباشرة:
وسبق أن نشرنا: «تفاوض وخفّض السعر وشارك العنوان».. وكيل الذكاء الاصطناعي Muse من ميتا يبرم صفقة بيع دون إذن مالكه.
- منع التنفيذ التلقائي: حظر منح النظام حق إرسال رسائل أو إدارة حسابات طرف ثالث دون مصادقة بشرية مسبقة.
- اختبار الأكواد البرمجية: التدقيق في الأكواد التي يولدها الذكاء الاصطناعي وفهم بنيتها واختبارها عملياً قبل النشر، لتفادي إدخال ثغرات برمجية تؤثر في قواعد البيانات وكلمات المرور.
- تقييد صلاحيات الوصول: التحقق من هوية الجهات المطورة للأدوات ومراجعة سياسات الخصوصية بدقة، لاسيما عند طلب الأداة الربط بحسابات التخزين السحابي أو البريد الإلكتروني.
تظل منظومة الأمان الرقمي قائمة بالأساس على السلوك الواعي للمستخدم في إدارة هذه النماذج التوليدية؛ إذ يتحدد الاستخدام الآمن بحصر وظيفتها في المعالجة والتحليل المقيد، وفحص الملفات والمدخلات بدقة، وحرمان الأدوات غير الموثوقة من الوصول إلى البنية التحتية للحسابات الشخصية والمهنية.