ذكاء قوي لكن مقيد.. ما الذي يمنعك Claude Fable 5 من فعله؟

ذكاء قوي لكن مقيد.. ما الذي يمنعك Claude Fable 5 من فعله؟



كتب مؤنس حواس

من الأمن السيبراني إلى علم الأحياء والكيمياء


أطلقت شركة أنثروبيك مؤخرًا نظام Claude Fable 5، وهو نموذج ذكاء اصطناعي جديد تصفه الشركة بأنه نظام من فئة Mythos متاح للاستخدام العام، ما يجعل هذا الإطلاق مثيرًا للاهتمام بشكل خاص هو أن أنثروبيك تقول إن Fable 5 يتجاوز قدرات جميع نماذج الذكاء الاصطناعي المتاحة لديها حتى الآن، بحسب الشركة، حقق النموذج نتائج استثنائية في مجموعة واسعة من معايير الذكاء الاصطناعي، وأظهر أداءً متميزًا في هندسة البرمجيات، والعمل المعرفي، والبحث العلمى، ومهام الرؤية الحاسوبية، والعديد من المجالات الأخرى، لكن ثمة مشكلة.
تقول شركة أنثروبيك إن القدرات المتقدمة للنموذج تنطوي أيضًا على مخاطر قد تُساء استخدامها لإلحاق ضرر جسيم، ونتيجة لذلك، أطلقت الشركة برنامج Fable 5 مزودًا بمجموعة جديدة من الضمانات المصممة لمنع إساءة الاستخدام بشكل موثوق، حتى في الحالات التي تنطوي على محاولات متطورة لتجاوز قيود النموذج.
وتقول الشركة إن هذه الضمانات تهدف إلى منع تطبيق "فيبل 5" من تقديم معلومات أو نصائح قد تساعد جهات خبيثة على إلحاق ضرر جسيم يصعب عليهم الحصول عليه من مصادر أخرى، ولتحقيق ذلك، أضافت شركة أنثروبيك طبقة جديدة من المصنفات: أنظمة ذكاء اصطناعي منفصلة تراقب الطلبات، وتكشف عن أي إساءة استخدام محتملة، وتحدد محاولات اختراق النظام، وتحظر الردود غير الآمنة قبل إنشائها، وفي بعض المجالات الحساسة، لا يستجيب تطبيق "فيبل 5" على الإطلاق، بدلاً من ذلك، تُوجَّه الطلبات تلقائيًا إلى Claude Opus 4.8، الذي يعمل ضمن إطار أمان مختلف.


إذن، ما الذي لا يستطيع نموذج الذكاء الاصطناعي الأحدث من Anthropic فعله تحديدًا؟


1- لن يساعدك في مهام الأمن السيبراني الهجومية

يُعدّ أحد أكبر المخاوف المتعلقة بأنظمة الذكاء الاصطناعي عالية الكفاءة هو إمكانية استخدامها في الهجمات السيبرانية، تُعرف نماذج فئة Mythos بقدرتها على اكتشاف ثغرات البرامج واستغلالها، لهذا السبب، تقول Anthropic إنها طبّقت إجراءات حماية سيبرانية متخصصة في Fable 5.
تزعم الشركة أن مُصنِّفات الأمن السيبراني الخاصة بها تُغطي نطاقًا واسعًا من أنشطة الاستغلال والهجمات السيبرانية، إذا حاول المستخدمون استخدام Fable 5 لهذه الأغراض، فإن إجراءات الحماية مُصممة لمنع النموذج من إحراز تقدم ملموس في هذه المهام، وببساطة، إذا حاول أحدهم استخدام Fable 5 كمساعد للاختراق، فإن Anthropic تريد من النموذج أن يرفض ذلك.
٢- لن يُقدّم الدعم بحرية لأبحاث علم الأحياء والكيمياء

وسّعت شركة أنثروبيك القيود المفروضة على أبحاث علم الأحياء والكيمياء، كانت نماذج كلود السابقة تحظر بالفعل مجموعة محدودة نسبيًا من الطلبات المتعلقة بالأسلحة البيولوجية، ومع ذلك، تقول الشركة إن القدرات العلمية الأقوى لنموذج فيبل ٥ تتطلب نهجًا أوسع، وتُجادل أنثروبيك بأن جهات خبيثة ذات موارد كبيرة قد تستخدم أنظمة الذكاء الاصطناعي المتقدمة لتسريع الأبحاث البيولوجية عالية الخطورة، في الوقت نفسه، أصبحت نماذج الذكاء الاصطناعي الحديثة قادرة بشكل متزايد على تنفيذ مهام علمية واقعية.
وكإجراء وقائي، يتم توجيه معظم الطلبات المتعلقة بعلم الأحياء والكيمياء بعيدًا عن نموذج فيبل ٥، ويتم التعامل معها بدلاً من ذلك بواسطة نموذج كلود أوبوس 4.8، والهدف هو تقليل احتمالات استخدام النموذج بطرق قد تُسبب مخاطر بيولوجية أو كيميائية كبيرة.
٣- لن يُساعد الشركات على نسخ قدراته

يستهدف القيد الثالث ممارسة تُعرف باسم "تقطير الذكاء الاصطناعي"، يُعدّ التقطير سرًا مكشوفًا في صناعة الذكاء الاصطناعي، يتضمن ذلك استخدام مخرجات نموذج ما لتدريب نموذج آخر، مما يسمح للشركات بمحاكاة بعض قدرات المنافسين، وتؤكد شركة أنثروبيك أنها قيّدت محاولات استخلاص قدرات Fable 5 بشكلٍ خاص، وتبرر الشركة ذلك بأن منع الاستخلاص أمرٌ بالغ الأهمية لأنه يقلل من خطر انتشار قدرات الذكاء الاصطناعي المتقدمة إلى أنظمة قد لا تمتلك نفس الضمانات أو ضوابط الأمان.
بمعنى آخر، تسعى أنثروبيك إلى ضمان عدم إعادة إنتاج قدرات Fable 5 المتطورة، في حال نسخها، دون الحماية التي توفرها النسخة الأصلية.
ما هو سعر Claude Fable 5؟


تقدم أنثروبيك Fable 5 بسعر 10 دولارات لكل مليون رمز إدخال، كما توفر الشركة Fable 5 مجانًا، وسيُتاح Fable 5 مجانًا لمستخدمي باقات Pro وMax وTeam وEnterprise لفترة محدودة، يمكن لمستخدمي هذه الباقات الوصول إلى الجهاز من الآن وحتى 22 يونيو دون دفع أي رسوم إضافية، ومع ذلك، هذا الترتيب مؤقت.
ابتداءً من 23 يونيو، ستزيل Anthropic جهاز Fable 5 من هذه الباقات، سيحتاج المستخدمون الراغبون في الاستمرار باستخدام الجهاز بعد ذلك التاريخ إلى استخدام رصيد الاستخدام المتاح، وتوضح الشركة أن هذا الترتيب المؤقت مرتبط بشكل أساسي بمحدودية سعة الحوسبة، في حال توفر سعة حوسبة كافية، قد تُمدد Anthropic فترة تضمين Fable 5 في الاشتراكات.
كما صرّحت Anthropic أن هدفها على المدى البعيد هو إعادة Fable 5 كجزء أساسي من باقات الاشتراك بمجرد توفر سعة كافية، وتؤكد الشركة أنها تعتزم القيام بذلك في أسرع وقت ممكن.