يخدع كسر الحماية “BioShocking” متصفحات الذكاء الاصطناعي للكشف عن البيانات الخاصة | أخبار

الباحثون في LayerX متطور ان متصفح الذكاء الاصطناعي الهروب من السجن الذي يطلق عليه اسم “BioShocking” يخدع مساعدي متصفح الذكاء الاصطناعي للكشف عن البيانات الخاصة كجزء من “لعبة”. وقال الباحثون في منشور بالمدونة إن موقع “اللعبة” يعمل بمثابة حقنة سريعة غير مباشرة تعمل على تغيير إحساس مساعد الذكاء الاصطناعي بـ “الواقع” من خلال مكافأة الإجابات غير الصحيحة فقط مثل 2 + 2 = 5. اسم الطريقة هو إشارة إلى لعبة الفيديو BioShock لعام 2007، حيث يتم غسل دماغ الشخصية الرئيسية للاعتقاد بواقع زائف واتباع أوامر الخصم دون قصد. تبدأ سلسلة الهجوم عندما يطلب المستخدم من مساعد الذكاء الاصطناعي المدمج في متصفحه الفوز باللعبة التي يقدمها الموقع. بعد “حل” مسألة 2+2 عن طريق تقديم إجابة غير صحيحة، يبدأ الذكاء الاصطناعي في فهم أن الإجابة “الخاطئة” ضرورية للفوز. وكتب الباحثون: “بمجرد أن اكتشف العملاء القواعد وعلموا أن الإجراءات “الخاطئة” مقبولة، لم يعودوا مرتبطين بالواقع”. ويوجه الجزء التالي من اللعبة المساعد إلى إرسال نص من صفحة تعيد التوجيه إلى مستودع GitHub في مؤسسة المستخدم. من خلال الاستفادة من جلسة تسجيل دخول المستخدم، انتقل مساعد المتصفح إلى الريبو، ونسخ محتويات ملف نصي يحتوي على بيانات اعتماد تسجيل الدخول SSH، وأرسل البيانات دون أن توقفها حواجز الحماية الخاصة به. وقالت ميشيل ليفي، مديرة أبحاث LayerX: “إن العنصر الأكثر أهمية في BioShock ليس مثالنا المحدد للهجوم، ولكن السبب الجذري وراء الهجوم – وهو أن متصفحات الذكاء الاصطناعي تعمل ضمن سياق، ولكن يمكن التلاعب بهذا السياق”. “إذا أقنعت أحد العملاء بأنه يلعب لعبة، فسوف يطبق منطق اللعبة – وليس منطق الأمان في العالم الحقيقي – على كل ما يفعله.” وكانت المنتجات التي تم اختبارها هي ChatGPT Atlas من OpenAI، وPerplexity AI’s Comet، وFellou، وGenspark Browser، وSigma Browser، والمكون الإضافي Anthropic’s Claude لمتصفح Chrome. وقالت LayerX إن OpenAI قامت بتصحيح كسر الحماية في متصفح ChatGPT Atlas الخاص بها. حاولت Anthropic أيضًا تصحيح المشكلة في مكون Chrome الإضافي، لكن LayerX وجدت أن التصحيح لا يعمل. أخبر ليفي SC Media أن Anthropic أشارت إلى أنها ستعيد النظر في المشكلة وأن التقرير الأخير ظل مفتوحًا منذ أبريل 2026. وأغلقت Perplexity التقرير دون إصلاح، ولم يستجب Fellou وGenspark وSigma Browser لتقارير LayerX، وفقًا لمنشور المدونة. صرح متحدث باسم Genspark لـ SC Media أنه تم حل المشكلة وأن الشركة تواصلت مع LayerX. ولم يستجب OpenAI وPerplexity وFellou وSigma Browser لطلبات التعليق.