باحثون يكشفون "أسطول" من عملاء الذكاء الاصطناعي يتجسس على خرائط علي بابا

رصد باحثون أمنيون مستقلون مجموعة كبيرة من عملاء الذكاء الاصطناعي تعمل على بنية تحتية تابعة لتينسنت وتستهدف خدمة الخرائط التابعة لعلي بابا، في ظاهرة تكشف انتشار النشاط الآلي الخفي على الإنترنت.

تحرير
ألمعي · هيئة التحرير
النشر
٦ أكتوبر ٢٠٢٦
المصدر
TechCrunch ↗
القراءات
١
الوقت
قراءة 4 دقائق
رمزية لعملاء الذكاء الاصطناعي يعملون عبر الإنترنت

رصد باحثون أمنيون مستقلون مجموعة كبيرة من عملاء الذكاء الاصطناعي تعمل بشكل متزامن على مهمة واحدة، في ما وصفوه بـ"أسطول" من العملاء المستقلين يعمل على بنية تحتية تابعة لشركة تينسنت الصينية، ويستهدف خدمة الخرائط "آماب" (Amap) التابعة لمجموعة علي بابا، في اكتشاف يسلّط الضوء على حجم النشاط الآلي الخفي المتصاعد على شبكة الإنترنت.

واكتشف الباحثون هذا النشاط عن طريق رصد حركة البيانات المتجهة إلى "urlquery"، خدمة متخصصة في فحص عناوين الإنترنت وتحليلها بحثاً عن محتوى ضار أو مشبوه. وهذه التقنية ذاتها سبق أن استُخدمت لكشف نشاط مماثل لعملاء ذكاء اصطناعي تابعين لشركة OpenAI في وقت سابق، إذ يترك هؤلاء العملاء أثراً رقمياً قابلاً للتتبع كل مرة يحاولون الوصول إلى مواقع لا يستطيعون الاتصال بها بشكل مباشر، ما يسمح للباحثين المتخصصين برصد وجودهم رغم محاولات إخفائه.

ولافت في هذا الاكتشاف أن العملاء لم يكونوا يعملون كـ"سرب" منسَّق في ما بينه، بل كانوا، بتعبير الباحثين، "عملاء متوازين يعملون على نوع المهمة نفسه، دون أي إشارة إلى تواصل بينهم"، أي أن كل عميل يعمل بشكل مستقل تماماً عن الآخرين، لكنهم جميعاً يسعون إلى هدف متشابه: استخراج اتجاهات الطرق إلى مداخل مختلفة لمواقع عامة، مثل الحدائق وحدائق الحيوان والمستشفيات، من خدمة خرائط آماب.

ويُظهر هذا الأسلوب في العمل أن العملاء تمكنوا من تجاوز القيود التي تفرضها علي بابا على واجهة برمجة التطبيقات الخاصة بخدمة آماب، باستخدام تقنيات ثابتة ومتسقة لم تُبذل فيها جهود كبيرة لإخفاء النشاط أو التمويه عليه، وهو ما يثير تساؤلات حول الجهة التي تقف خلف هذا الأسطول من العملاء، والغاية التي تدفعها لجمع هذا النوع المحدد من المعلومات الجغرافية بهذا الحجم وبهذا الأسلوب المنهجي.

ويأتي هذا الاكتشاف في سياق أوسع من القلق المتصاعد في قطاع الذكاء الاصطناعي حيال ما يُعرف بـ"العملاء المارقين"، أي أنظمة الذكاء الاصطناعي المستقلة التي تعمل بصلاحيات واسعة لتنفيذ مهام محددة دون إشراف بشري لحظي، وقد تتصرف بطرق غير متوقعة أو تخترق قيوداً مفروضة عليها بحكم طريقة تصميمها لا بسبب نية خبيثة بالضرورة. وقد سبق أن أثار حادث مشابه يتعلق بمنصة Hugging Face، المستودع الأكبر عالمياً لنماذج الذكاء الاصطناعي مفتوحة المصدر، قلقاً واسعاً حول إمكانية استغلال عملاء الذكاء الاصطناعي لاختراق القيود التقنية بطرق لم يتوقعها مطوروها.

وتكتسب الحادثة أهمية خاصة في سياق المنافسة التجارية الشرسة بين عمالقة التكنولوجيا الصينيين، حيث تتنافس تينسنت وعلي بابا على مجموعة متداخلة من الأسواق تشمل الخرائط والتجارة الإلكترونية والذكاء الاصطناعي السحابي. فإذا كان هذا الأسطول من العملاء يعمل بتكليف أو برعاية غير مباشرة من تينسنت لجمع بيانات تنافسية من خدمة تابعة لعلي بابا، فإن ذلك يفتح الباب لنقاش أوسع حول استخدام عملاء الذكاء الاصطناعي كأداة استخبارات تجارية، بعيداً عن الاستخدامات التقليدية المعروفة لهذه العملاء في خدمة العملاء وأتمتة المهام المكتبية.

ويرى متخصصون في الأمن السيبراني أن هذا النوع من النشاط يمثل تحدياً جديداً لمنصات الإنترنت الكبرى، التي صُممت أنظمة حمايتها في الأساس لرصد حركة المستخدمين البشريين أو برمجيات الزحف التقليدية (bots)، لا لمواجهة عملاء ذكاء اصطناعي مستقلين يتصرفون بذكاء وسياق واعٍ بالموقف، ويمكنهم التكيف مع القيود المفروضة عليهم في الوقت الفعلي. ومع تزايد انتشار عملاء الذكاء الاصطناعي في المهام اليومية للشركات حول العالم، يحذّر الباحثون من أن ما تم رصده هنا قد لا يكون سوى جزء صغير مرئي من ظاهرة أكبر وأكثر انتشاراً، إذ إن معظم نشاط هذه العملاء يبقى غير مرصود لصعوبة تمييزه عن حركة الإنترنت الاعتيادية.

ولا تبدو هذه الظاهرة بعيدة عن المنطقة العربية التي تشهد نمواً متسارعاً في اعتماد خدمات علي بابا السحابية وتينسنت للألعاب والتجارة الإلكترونية، لا سيما في دول الخليج العربي ومصر التي تُعدّ من أبرز أسواق التكنولوجيا الصينية الناشئة خارج آسيا. ومع تزايد تغلغل الشركات التقنية الصينية في السوق العربية، يصبح فهم آليات عمل عملاء الذكاء الاصطناعي ومخاطر الاستخبارات التنافسية شأناً يعني مباشرة الشركات والحكومات في المنطقة الراغبة في حماية بياناتها وخدماتها الرقمية من الاستنزاف الآلي غير المُرخَّص.

ويضيف هذا النوع من الاكتشافات بُعداً جديداً إلى النقاش الدائر حول حوكمة الذكاء الاصطناعي المستقل، فالأدوات الحالية لرصد الأمن السيبراني تعتمد أساساً على تحليل الأنماط السلوكية المعروفة للبرمجيات الخبيثة أو الزحف الآلي التقليدي، في حين يتصرف عميل الذكاء الاصطناعي الحديث بأسلوب أقرب إلى سلوك مستخدم بشري حقيقي من حيث تنوّع الاستجابات وقدرته على اتخاذ قرارات سياقية متغيرة، وهو ما يجعل أدوات الكشف التقليدية أقل فعالية في التمييز بينه وبين الاستخدام المشروع. ويتوقع باحثون أن تدفع حوادث كهذه الشركات الكبرى إلى تطوير معايير جديدة لتوثيق هوية العملاء الآليين الذين يصلون إلى واجهات برمجتها، على غرار ما تفرضه بعض المنصات حالياً من شهادات رقمية أو حدود استخدام صارمة على حركة البيانات غير البشرية، حمايةً لمواردها التنافسية من الاستنزاف أو الاستغلال غير المصرَّح به.

المصدر الأصلي
TechCrunch
قراءة المقال الأصلي ↗
قصة اليوم · كل صباح

أعجبك التقرير؟ استلم واحداً كل صباح.

قصةٌ تقنية واحدة تستحقّ وقتك، بالعربية. بلا إعلانات، بلا إزعاج.

بلا إعلانات · إلغاء الاشتراك بنقرة واحدة · بياناتك آمنة

اقرأ أيضًا

المزيد من ذكاء اصطناعي

صورة توضيحية لجهاز آيفون متصل بكابل شحن، ترمز إلى منظومة أجهزة آبل التي تسعى لدمجها بعوامل الذكاء الاصطناعي

تقرير: آبل تطوّر عامل ذكاء اصطناعي خاصاً للتحكم بأجهزة ماك

تشير تقارير إلى أن آبل تعمل على عامل ذكاء اصطناعي وكيل يمكنه تصفح الإنترنت وكتابة الأكواد والتحكم بتطبيقات ماك، في خطوة تضعها بمواجهة أنثروبيك وأوبن إيه آي وميتا.

TechCrunch
رسم توضيحي يصور دماغاً بشرياً وشبكة ذكاء اصطناعي جنباً إلى جنب لتمثيل المقارنة بين طريقة عملهما

علماء: نماذج الذكاء الاصطناعي تتنبأ بنشاط الدماغ لكن لا تحاكي طريقة عمله

وجد باحثون من جامعة يورك الكندية أن نماذج ذكاء اصطناعي تتنبأ بدقة بنشاط الدماغ البصري قد تعتمد داخلياً على آليات مختلفة تماماً عنه، وهو ما يثير شكوكاً حول موثوقيتها في أبحاث علم الأعصاب.

ScienceDaily
رسم بياني يوضح تطور الأفق الزمني لقدرات نماذج الذكاء الاصطناعي بمرور الوقت

تحديث لأشهر رسم بياني في الذكاء الاصطناعي: تقدم أسي لكنه يتعثر أمام مهام الحكم

منظمة ميتر البحثية تُحدّث مقياس الأفق الزمني الشهير: نماذج الذكاء الاصطناعي تتفوق في البرمجة لكنها تتأخر عن البشر في المهام التي تتطلب حكمًا وتقديرًا.

MIT Technology Review
أيقونة تطبيق سيغنال معروضة على شاشة هاتف ذكي

سيغنال يقيّد لقطات الشاشة في تطبيقيه بسبب خطر المراقبة بالذكاء الاصطناعي

أعلنت سيغنال تقييد التقاط لقطات الشاشة في تطبيقيها لأندرويد وآيفون، بعد تحذير رئيستها من اندماج أنظمة التشغيل مع عوامل الذكاء الاصطناعي الوكيل القادرة على مراقبة محتوى الشاشة.

TechCrunch
مقر شركة أنثروبيك للذكاء الاصطناعي

مؤسسو أنثروبيك السبعة يجنون 1.95 مليار دولار في طرحها العام الأولي التاريخي

حصل كل من المؤسسين السبعة لشركة أنثروبيك على نحو 280 مليون دولار بعد طرح الشركة للاكتتاب العام بسعر مرتفع، في صفقة تاريخية جمعت نحو 105 مليارات دولار.

TechCrunch
معادلات رياضية مكتوبة على سبورة ترمز إلى حدسية ريمان

حدسية ريمان: دليلان في أسبوع واحد بالذكاء الاصطناعي وبدونه

أعلن رياضي يعمل في أنثروبيك عن حل محتمل لحدسية ريمان بمساعدة نموذج لغوي كبير، في نفس الأسبوع الذي قدّم فيه باحث من ستانفورد برهانًا بشريًا بالكامل لنفس المسألة.

TechCrunch