تُعزز شركة جوجل استثماراتها في مجال الذكاء الاصطناعي من خلال إطلاق برنامج مكافآت أمنية (Bug Bounty) يركز بالكامل على أنظمة الذكاء الاصطناعي الخاصة بها. تدعو الشركة باحثي الأمن والمخترقين الأخلاقيين لاكتشاف الثغرات الأمنية في هذه الأنظمة، وتقدم مكافآت مغرية تصل إلى 30,000 دولار أمريكي، بناءً على مدى خطورة الثغرة المكتشفة.
توسيع نطاق الأمن ليشمل “الأفعال غير القانونية” للذكاء الاصطناعي
تُعد هذه المبادرة توسيعًا لبرنامج جوجل الحالي لمكافآت الثغرات، لكنها تُحول الاهتمام بشكل خاص إلى التهديدات الأمنية المختلفة التي تظهر في عالم الذكاء الاصطناعي المتنامي. ترغب جوجل من الخبراء المساعدة في تحديد ما تُسميه “الأفعال غير القانونية”، وهي المواقف التي يتصرف فيها نموذج الذكاء الاصطناعي بطرق غير متوقعة أو خطيرة.
تشمل هذه السيناريوهات عالية الخطورة:
- تسريب البيانات الشخصية.
- تنفيذ أوامر خاطئة أو غير مصرح بها.
- تمكين المهاجمين من التلاعب بالأجهزة المتصلة (مثل خداع جهاز Google Home لفتح قفل ذكي).
- إجبار نموذج مثل “جيميل” على تلخيص رسائل بريد إلكتروني خاصة وإرسالها إلى طرف خارجي.
ما لا يُعد خللاً أمنيًا
أوضحت جوجل أن مجرد تسبب نموذج ذكاء اصطناعي مثل “جيميني” في “الهلوسة” (إنتاج معلومات غير صحيحة أو مختلقة) لا يُعتبر خللاً أمنيًا مؤهلاً للحصول على مكافأة في هذا البرنامج.
بدلاً من ذلك، يجب الإبلاغ عن المشكلات المتعلقة بنوعية المحتوى الذي يُنتجه الذكاء الاصطناعي (مثل خطاب الكراهية أو المواد المحمية بحقوق الطبع والنشر) مباشرةً داخل المنتج باستخدام أدوات التعليقات المتاحة. هذا الإجراء يُساعد فرق سلامة الذكاء الاصطناعي على إعادة تدريب النماذج وتحسينها بشكل أكثر استهدافًا.
قيمة المكافآت وأدوات جوجل المساعدة
تُخصص أكبر المكافآت، التي تصل إلى 20,000 دولار أمريكي (ويمكن زيادتها إلى 30,000 دولار للتقارير الاستثنائية)، لاكتشاف الثغرات في منتجات جوجل الرئيسية، مثل:
- البحث (Search)
- تطبيقات جيميني (Gemini)
- جيميل (Gmail)
- درايف (Drive)
تُشير جوجل إلى أن الباحثين قد كسبوا بالفعل أكثر من 430,000 دولار أمريكي في العامين الماضيين عن مخاطر متعلقة بالذكاء الاصطناعي، حتى قبل الإطلاق الرسمي لهذا البرنامج.
بالإضافة إلى المكافآت، قدمت جوجل أداة تُسمى CodeMender، وهي أداة ذكاء اصطناعي مصممة للكشف عن الثغرات الأمنية في البرامج مفتوحة المصدر وإصلاحها تلقائيًا، مما يُظهر الدور الإيجابي الذي يمكن أن يلعبه الذكاء الاصطناعي في تعزيز أمان التكنولوجي
