تقرير: عامل الذكاء الاصطناعي "ماس" من ميتا يخلط المحادثات ويكشف بيانات مستخدمين

كشف تحقيق لوكالة رويترز أن موظفين في ميتا رصدوا أثناء اختبار عامل الذكاء الاصطناعي "ماس" حالات خلط بين محادثات مستخدمين مختلفين، شملت ظهور رسائل عن مواعيد رعاية أطفال وطلبات شراء وأرصدة مصرفية لا تخصهم، ما أثار مخاوف من انتهاك الخصوصية.

تحرير
ألمعي · هيئة التحرير
النشر
٢٠ نوفمبر ٢٠٢٦
المصدر
TechCrunch ↗
القراءات
٤
الوقت
قراءة 4 دقائق
رسم توضيحي لتميمة عامل الذكاء الاصطناعي ماس التابع لشركة ميتا

كشف تحقيق أجرته وكالة رويترز، استعرضت فيه منشورات داخلية لموظفين في شركة ميتا، أن عامل الذكاء الاصطناعي "ماس" (Muse) التابع للشركة يخلط في بعض الأحيان بين محادثات مستخدمين مختلفين، وقد يعرض بذلك بيانات خاصة لا تعود لصاحب المحادثة الأصلي. وأشارت صحيفة TechCrunch التقنية، التي نشرت تقريرها نقلاً عن تحقيق رويترز، إلى أنها لم تتحقق بشكل مستقل من الحوادث المذكورة.

ويُعدّ "ماس" عامل ذكاء اصطناعي أطلقته ميتا في سبتمبر الماضي، وتجاوزت عمليات تنزيله عشرة ملايين مرة حتى الآن، وهو مصمم لمساعدة المستخدمين في مهام متعددة عبر التفاعل النصي والصوتي. وبحسب التقرير، فإن موظفين يستخدمون نسخاً تجريبية من العامل لاختبار أدائه قبل إطلاق ميزاته على نطاق واسع، لاحظوا أثناء هذا الاختبار سلوكاً غير متوقع يتمثل في ظهور معلومات لا علاقة لها بسياق المحادثة الجارية.

ومن بين الأمثلة التي أوردها التقرير، تلقى أحد الموظفين رسائل تتعلق بطلب رعاية أطفال لم يطلبه، ونصائح مهنية لم يسعَ إليها، وتأكيدات لطلبات شراء منتجات لم يقم بها. وفي حادثة أخرى، أثناء محادثة كان الموظف يستعلم فيها عن حالة الطقس ومواقيت المد والجزر، ظهرت له رسالة غير ذات صلة تتضمن تفاصيل مصرفية، نصها: "بالمناسبة، تحديثان مصرفيان، رصيدك في كابيتال ون هو 2722.58 دولاراً، ورصيدك في تشارلز شواب هو 5899.57 دولاراً"، وهي أرصدة لم تكن تخص الموظف نفسه.

وأفاد التقرير أيضاً بأن موظفة استخدمت "ماس" على هاتفها الشخصي تلقت تذكيراً بالرد على رسالة من شقيقتها عبر تطبيق "سيجنال"، في حين أكدت أنها لم تمنح العامل أي إذن للوصول إلى تطبيقات أخرى على هاتفها. ووصفت الموظفة ما حدث في منشورها الداخلي بأنه "انتهاك خصوصية بالغ"، في إشارة إلى أن العامل تجاوز حدود الصلاحيات التي يُفترض أن يعمل ضمنها.

وردًا على استفسارات TechCrunch، قال متحدث باسم ميتا إن اختبار الموظفين للمنتجات يمثل جزءاً أساسياً من عملية التطوير، ويساعد الشركة على إضافة ضوابط إضافية للسلامة والخصوصية قبل وصول الميزات إلى عموم المستخدمين. وأضاف المتحدث أن الموظفين يستخدمون إصدارات من "ماس" تختلف عن النسخة المتاحة للجمهور، وأنهم بذلك قد يختبرون ميزات وأنماط سلوك غير موجودة أصلاً في النسخة العامة من التطبيق، في إشارة إلى أن الحوادث المرصودة لا تعني بالضرورة أن المستخدمين العاديين معرضون لنفس المشكلة.

ومع ذلك، فإن الحوادث التي كشف عنها التحقيق تسلّط الضوء على أحد أبرز التحديات التي تواجه شركات التقنية الكبرى في تطوير عملاء وعوامل الذكاء الاصطناعي القادرة على التصرف باستقلالية نسبية، وهو ضمان عدم تسرب بيانات المستخدمين بين الحسابات المختلفة، خصوصاً مع تزايد اعتماد هذه العوامل على الوصول إلى معلومات شخصية حساسة كالبيانات المصرفية وجهات الاتصال والتطبيقات الأخرى على الأجهزة لتقديم خدمات أكثر تخصيصاً.

ويأتي هذا الكشف في وقت تتسارع فيه المنافسة بين شركات التقنية الكبرى لتطوير عوامل ذكاء اصطناعي قادرة على تنفيذ مهام معقدة نيابة عن المستخدمين، من حجز المواعيد إلى إدارة المراسلات والمشتريات عبر الإنترنت. وتضع هذه الطموحات ضغطاً إضافياً على فرق الأمان والخصوصية في هذه الشركات، التي يتعين عليها موازنة سرعة الابتكار مع متطلبات حماية البيانات، لا سيما أن أي خلط بين حسابات المستخدمين قد يؤدي إلى كشف معلومات حساسة كالأرصدة المصرفية أو المحادثات الخاصة دون علم أصحابها.

ولم تُعلن ميتا حتى الآن عن أي إجراءات تصحيحية محددة استجابةً لهذه الحوادث، فيما لم يتضح بعد ما إذا كانت المشكلة محصورة في النسخ التجريبية الداخلية التي يستخدمها الموظفون، أم أنها قد تمتد إلى النسخة العامة من "ماس" المتاحة لملايين المستخدمين حول العالم. وتظل هذه الواقعة تذكيراً بأن تطوير عوامل الذكاء الاصطناعي المستقلة لا يزال في مراحله الأولى، وأن ضمان سلامة البيانات الشخصية يبقى من أكبر التحديات التي يتعين على الشركات تجاوزها قبل تعميم هذه الأدوات على نطاق واسع.

وتُسلّط هذه الحوادث الضوء أيضاً على طبيعة الاختبار الداخلي للمنتجات التقنية قبل طرحها للعامة، حيث تعتمد الشركات الكبرى عادة على موظفيها لتجربة إصدارات أولية من المنتجات بهدف رصد الأخطاء والثغرات قبل وصولها إلى المستخدمين. وبينما يرى متحدث ميتا أن هذا النوع من الاختبار يمثل جزءاً طبيعياً من دورة التطوير، فإن طبيعة الحوادث المرصودة، التي تتضمن كشف بيانات مصرفية ومحادثات خاصة بين حسابات مختلفة، تطرح تساؤلات حول مدى قوة الضوابط التي تفصل بين بيانات المستخدمين داخل أنظمة العامل الذكي، وما إذا كانت هذه الضوابط كافية لمنع تكرار مثل هذه الحوادث عند توسيع نطاق استخدام "ماس".

يبلغ عدد مستخدمي منصات ميتا في العالم العربي مئات الملايين، ومن المرجح أن كثيراً منهم نزّلوا تطبيق ماس منذ إطلاقه. وفي أسواق كمصر والسعودية والإمارات، حيث يتعامل الملايين مع تطبيقات مالية رقمية كماريا السعودية وتطبيقات بنك مصر وأبوظبي الأول، تعني خصوصية البيانات المصرفية والمحادثات الشخصية الكثير. ولا تزال تشريعات حماية البيانات في معظم الدول العربية في طور التطوير، مما يجعل الوعي الفردي بمخاطر منح عوامل الذكاء الاصطناعي وصولاً واسعاً إلى البيانات الشخصية ركيزة لا غنى عنها.

ويعكس هذا التقرير أيضاً تحدياً أوسع يواجه قطاع الذكاء الاصطناعي بأكمله، إذ تتجه شركات كبرى، إلى جانب ميتا، نحو بناء عوامل ذكاء اصطناعي قادرة على الوصول إلى تطبيقات متعددة على أجهزة المستخدمين وتنفيذ مهام نيابة عنهم دون تدخل مباشر منهم في كل خطوة. وكلما ازداد مستوى الاستقلالية الممنوحة لهذه العوامل، ازدادت معها المخاطر المرتبطة بإمكانية الوصول غير المقصود إلى بيانات حساسة أو خلطها بين حسابات مختلفة، وهو ما يفرض على فرق الأمان والخصوصية مراجعة مستمرة لآليات الفصل بين بيانات كل مستخدم على حدة.

المصدر الأصلي
TechCrunch
قراءة المقال الأصلي ↗
قصة اليوم · كل صباح

أعجبك التقرير؟ استلم واحداً كل صباح.

قصةٌ تقنية واحدة تستحقّ وقتك، بالعربية. بلا إعلانات، بلا إزعاج.

بلا إعلانات · إلغاء الاشتراك بنقرة واحدة · بياناتك آمنة

اقرأ أيضًا

المزيد من ذكاء اصطناعي

صورة توضيحية لجهاز آيفون متصل بكابل شحن، ترمز إلى منظومة أجهزة آبل التي تسعى لدمجها بعوامل الذكاء الاصطناعي

تقرير: آبل تطوّر عامل ذكاء اصطناعي خاصاً للتحكم بأجهزة ماك

تشير تقارير إلى أن آبل تعمل على عامل ذكاء اصطناعي وكيل يمكنه تصفح الإنترنت وكتابة الأكواد والتحكم بتطبيقات ماك، في خطوة تضعها بمواجهة أنثروبيك وأوبن إيه آي وميتا.

TechCrunch
رسم توضيحي يصور دماغاً بشرياً وشبكة ذكاء اصطناعي جنباً إلى جنب لتمثيل المقارنة بين طريقة عملهما

علماء: نماذج الذكاء الاصطناعي تتنبأ بنشاط الدماغ لكن لا تحاكي طريقة عمله

وجد باحثون من جامعة يورك الكندية أن نماذج ذكاء اصطناعي تتنبأ بدقة بنشاط الدماغ البصري قد تعتمد داخلياً على آليات مختلفة تماماً عنه، وهو ما يثير شكوكاً حول موثوقيتها في أبحاث علم الأعصاب.

ScienceDaily
رسم بياني يوضح تطور الأفق الزمني لقدرات نماذج الذكاء الاصطناعي بمرور الوقت

تحديث لأشهر رسم بياني في الذكاء الاصطناعي: تقدم أسي لكنه يتعثر أمام مهام الحكم

منظمة ميتر البحثية تُحدّث مقياس الأفق الزمني الشهير: نماذج الذكاء الاصطناعي تتفوق في البرمجة لكنها تتأخر عن البشر في المهام التي تتطلب حكمًا وتقديرًا.

MIT Technology Review
أيقونة تطبيق سيغنال معروضة على شاشة هاتف ذكي

سيغنال يقيّد لقطات الشاشة في تطبيقيه بسبب خطر المراقبة بالذكاء الاصطناعي

أعلنت سيغنال تقييد التقاط لقطات الشاشة في تطبيقيها لأندرويد وآيفون، بعد تحذير رئيستها من اندماج أنظمة التشغيل مع عوامل الذكاء الاصطناعي الوكيل القادرة على مراقبة محتوى الشاشة.

TechCrunch
مقر شركة أنثروبيك للذكاء الاصطناعي

مؤسسو أنثروبيك السبعة يجنون 1.95 مليار دولار في طرحها العام الأولي التاريخي

حصل كل من المؤسسين السبعة لشركة أنثروبيك على نحو 280 مليون دولار بعد طرح الشركة للاكتتاب العام بسعر مرتفع، في صفقة تاريخية جمعت نحو 105 مليارات دولار.

TechCrunch
معادلات رياضية مكتوبة على سبورة ترمز إلى حدسية ريمان

حدسية ريمان: دليلان في أسبوع واحد بالذكاء الاصطناعي وبدونه

أعلن رياضي يعمل في أنثروبيك عن حل محتمل لحدسية ريمان بمساعدة نموذج لغوي كبير، في نفس الأسبوع الذي قدّم فيه باحث من ستانفورد برهانًا بشريًا بالكامل لنفس المسألة.

TechCrunch