كشفت دراسة أن محرك البحث “ChatGPT Search”، الذي يعمل بالذكاء الاصطناعي وتم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.
وأوضح الباحثون أن ميزة البحث في ChatGPT تهدف إلى تسريع التصفح من خلال تلخيص مراجعات المنتجات وصفحات الويب، إلا أن The Guardian اكتشفت أنه يمكن تعديل النتائج عبر إدخال نصوص مخفية في مواقع الويب التي يتم إنشاؤها، ما يجعل ChatGPT يتجاهل المراجعات السلبية ويولد ملخصات “إيجابية تمامًا”.
وأشار التقرير إلى أن نفس التقنية يمكن استخدامها لجعل ChatGPT Search يولد أكواد ضارة.
وتعد هذه الحيلة النصية المخفية أحد المخاطر المعروفة التي تهدد نماذج اللغة الكبيرة، لكن يبدو أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك في منتج بحث مباشر يعتمد على الذكاء الاصطناعي.
من جانبها، لم تعلق شركة OpenAI على هذه الحادثة المحددة عندما تواصلت معها TechCrunch، ولكنها أكدت أنها تستخدم مجموعة متنوعة من الأساليب لحظر المواقع الضارة وتعمل باستمرار على تحسين تقنياتها
