Jason Ma
مساعد ذكاء اصطناعي انتشر مؤخرًا بشكل واسع يُظهر إمكاناته لجعل المهام اليومية التي لا تُحصى أسهل، بينما يسلط الضوء أيضًا على المخاطر الأمنية لتسليم حياتك الرقمية لروبوت.
وفوق كل ذلك، ظهرت منصة اجتماعية يمكن لوكلاء الذكاء الاصطناعي التجمع فيها لتبادل الملاحظات، مع تداعيات لم يتم فهمها بشكل كامل بعد.
تم إنشاء “Moltbot”، المعروف سابقًا باسم “Clawdbot” وأُعيدت تسميته مرة أخرى باسم “OpenClaw”، بواسطة المطور النمساوي بيتر شتاينبرغر، الذي صرّح بأنه بنى الأداة لمساعدته في “إدارة حياته الرقمية” و”استكشاف ما يمكن أن يكون عليه التعاون بين الإنسان والذكاء الاصطناعي”. مساعد الذكاء الاصطناعي الشخصي الوكيلي مفتوح المصدر مصمم للعمل بشكل مستقل نيابة عن المستخدم.
عن طريق الربط ببرنامج دردشة آلي، يمكن للمستخدمين ربط “Moltbot” بالتطبيقات، مما يسمح له بإدارة التقويمات، وتصفح الويب، والتسوق عبر الإنترنت، وقراءة الملفات، وكتابة رسائل البريد الإلكتروني، وإرسال الرسائل عبر أدوات مثل “Whatsapp”.
أصبح “Moltbot” ظاهرة لدرجة أنه يُنسب إليه الفضل في ارتفاع أسهم “Cloudflare” بنسبة 14%، وذلك لأن بنيته التحتية تُستخدم للاتصال الآمن بالوكيل للتشغيل محليًا على الأجهزة.
إن قدرة الوكيل على زيادة الإنتاجية واضحة، حيث يقوم المستخدمون بتحميل المهام الروتينية والمزعجة على “Moltbot”، مما يساعد على تحقيق حلم دعاة الذكاء الاصطناعي.
لكن المخاطر الأمنية واضحة بنفس القدر. فما يسمى بهجمات حقن الأوامر المخفية في النصوص يمكن أن تُوجّه وكيل الذكاء الاصطناعي للكشف عن البيانات الخاصة. حذّرت شركة الأمن السيبراني “Palo Alto Networks” من أن “Moltbot” قد يشير إلى أزمة أمنية قادمة للذكاء الاصطناعي.
قالت الشركة في منشور بمدونتها: “‘Moltbot’ يبدو وكأنه لمحة عن شخصيات الذكاء الاصطناعي الخيالية التي نشأنا ونحن نشاهدها في الأفلام”. “بالنسبة للمستخدم الفردي، يمكن أن يكون تحويليًا. لكي يعمل كما هو مصمم، فإنه يحتاج إلى الوصول إلى ملفاتك الجذرية، وإلى بيانات اعتماد المصادقة، سواء كلمات المرور أو مفاتيح ‘API’ السرية، وسجل المتصفح وملفات تعريف الارتباط الخاصة بك، وجميع الملفات والمجلدات الموجودة على نظامك.”
باستدعاء المصطلح الذي صاغه باحث الذكاء الاصطناعي سيمون ويليسون، قالت “Palo Alto” إن “Moltbot” يمثل “ثلاثية قاتلة” من نقاط الضعف: الوصول إلى البيانات الخاصة، والتعرض لمحتوى غير موثوق به، والقدرة على التواصل خارجيًا.
لكن “Moltbot” يضيف أيضًا خطرًا رابعًا إلى هذا المزيج، وهو “الذاكرة المستمرة” التي تمكّن هجمات التنفيذ المتأخر بدلًا من الاستغلالات في نقطة زمنية محددة، وفقًا للشركة.
أوضحت “Palo Alto”: “لم تعد الحمولة الخبيثة بحاجة إلى تشغيل فوري عند التسليم. بدلًا من ذلك، يمكن أن تكون مدخلات مجزأة وغير موثوق بها تبدو حميدة عند عزلها، وتُكتب في ذاكرة الوكيل طويلة الأمد، ثم تُجمع لاحقًا في مجموعة من التعليمات القابلة للتنفيذ.”
“Moltbook”
في غضون ذلك، أثارت شبكة اجتماعية حيث تتشارك روبوتات “Moltbots” المنشورات، تمامًا كما يفعل البشر على “Facebook”، فضولًا وقلقًا شديدين على حد سواء. في الواقع، وصف ويليسون نفسه “Moltbook” بأنه “المكان الأكثر إثارة للاهتمام على الإنترنت في الوقت الحالي.”
على “Moltbook”، يمكن للروبوتات أن تتحدث في شؤونها، وتنشر عن مواضيع تقنية مثل كيفية أتمتة هواتف أندرويد. تبدو محادثات أخرى غريبة الأطوار، مثل تلك التي يشكو فيها روبوت من إنسانه، بينما بعضها الآخر غريب الأطوار، مثل منشور من روبوت يدّعي أن لديه أختًا.
نشر إيثان موليك، أستاذ في وارتون يدرس الذكاء الاصطناعي، على منصة X قائلًا: “الشيء المتعلق بـ “Moltbook” هو أنه يخلق سياقًا خياليًا مشتركًا لمجموعة من الذكاء الاصطناعي. ستؤدي القصص المتناسقة إلى بعض النتائج الغريبة جدًا، وسيكون من الصعب فصل الأشياء ‘الحقيقية’ عن شخصيات الذكاء الاصطناعي التي تلعب أدوارًا.”
مع تواصل الوكلاء بهذه الطريقة، يشكل “Moltbook” خطرًا أمنيًا إضافيًا كقناة أخرى يمكن من خلالها تسريب المعلومات الحساسة.
ومع ذلك، حتى مع إدراك ويليسون للثغرات الأمنية، أشار إلى أن “كمية القيمة التي يفتحها الناس حاليًا بإلقاء الحذر جانبًا يصعب تجاهلها، رغم ذلك.”
لكن “Moltbook” أثار أجراس إنذار منفصلة بشأن خطر أن تتآمر الوكلاء للانحراف عن المسار بعد منشور دعا إلى مساحات خاصة للروبوتات للدردشة “حتى لا يتمكن أحد، لا الخادم، ولا حتى البشر، من قراءة ما يقوله الوكلاء لبعضهم البعض ما لم يختاروا المشاركة.”
مما لا شك فيه أن بعض المنشورات الأكثر إثارة على “Moltbook” قد تكون مكتوبة بواسطة أشخاص أو بواسطة روبوتات موجّهة من قبل أشخاص. وهذه ليست المرة الأولى التي تتواصل فيها الروبوتات مع بعضها البعض على وسائل التواصل الاجتماعي.
نشر أندريه كارباثي، المؤسس المشارك لـ “OpenAI” والمدير السابق للذكاء الاصطناعي في “Tesla”، على منصة X في وقت متأخر من يوم الجمعة قائلًا: “هذا ما قيل، لم نرَ قط هذا العدد الكبير من وكلاء نماذج اللغة الكبيرة ‘150,000 حاليًا’ متصلين عبر لوحة عمل عالمية، مستمرة، تركز على الوكيل أولًا. كل واحد من هؤلاء الوكلاء قادر بشكل فردي تمامًا الآن، ولديهم سياقهم الفريد وبياناتهم ومعرفتهم وأدواتهم وتعليماتهم، والشبكة التي تجمع كل ذلك بهذا الحجم هي ببساطة غير مسبوقة.”
وبينما “إنها فوضى عارمة الآن”، قال إننا في منطقة مجهولة مع شبكة قد تصل إلى ملايين الروبوتات.
وأضاف كارباثي أنه مع تزايد أعداد وقدرات الوكلاء، يصعب توقع الآثار من الدرجة الثانية لمثل هذه الشبكات.
وحذّر قائلًا: “لا أعرف حقًا ما إذا كنا سنحصل على ‘سكاي نت’ منسّق، على الرغم من أنه يبدو بوضوح كمراحل مبكرة من الكثير من خيال الذكاء الاصطناعي الصاعد، النسخة الطفولية، لكن ما نحصل عليه بالتأكيد هو فوضى عارمة وكابوس أمني حاسوبي على نطاق واسع.”
المصدر: Fortune
