مايكروسوفت تكشف عن تقنيات استغلال خبيثة تستهدف مساعدى الذكاء الاصطناعى

مايكروسوفت تكشف عن تقنيات استغلال خبيثة تستهدف مساعدى الذكاء الاصطناعى



كتب مايكل فارس

مايكروسوفت - أرشيفية


في تطور مقلق على صعيد الأمن السيبراني، أعلنت شركة مايكروسوفت اليوم عن اكتشاف مجموعة من التقنيات المعقدة التي يستخدمها القراصنة لخداع أنظمة الذكاء الاصطناعي، تعتمد هذه الهجمات على ما يُعرف بإساءة استخدام الأوامر النصية، حيث يتم توجيه المساعد الذكي لتجاوز بروتوكولات الأمان وتنفيذ أوامر خبيثة تسرب بيانات حساسة، تسلط هذه الاكتشافات الضوء على الثغرات الأمنية الكامنة في نماذج الذكاء الاصطناعي التوليدي التي أصبحت جزءًا لا يتجزأ من بيئة العمل المؤسسية.


التلاعب بالنماذج اللغوية

ووفقًا لموقع مايكروسوفت بلوج، فإن الشركة قد وثقت عدة هجمات ناجحة تمكن فيها المهاجمون من التلاعب بالنماذج اللغوية لاستخراج معلومات سرية خاصة بالعملاء، وأن مايكروسوفت تعمل حاليًا على تطوير آليات دفاعية جديدة قادرة على تحليل الأوامر النصية بشكل فوري لمنع أي محاولات تلاعب أو استغلال قبل وقوعها.

يأتي هذا الإعلان في وقت حرج يشهد اعتمادًا متزايدًا على المساعدين الأذكياء في إدارة المهام اليومية للشركات والأفراد. ويعتبر السياق الأمني لهذه التقنيات تحديًا كبيرًا يفرض على المطورين ابتكار حلول حماية ديناميكية تتطور مع تطور أساليب الهجوم، لضمان بقاء الذكاء الاصطناعي أداة آمنة وموثوقة بعيدًا عن أيدي المتسللين ومجرمي الإنترنت.


مخاطر الهندسة الاجتماعية الذكية

تستغل هذه الهجمات قدرة الذكاء الاصطناعي على فهم اللغة الطبيعية لتحويله إلى أداة اختراق داخلي بدلًا من كونه مساعدًا آمنًا، وتعكس جهود مايكروسوفت حاجة الصناعة الملحة لبناء جدران حماية ذكية قادرة على قراءة نوايا المستخدمين ومنع الهجمات المعقدة لحظيًا.