AI بالعربي – متابعات
كشف مؤسس شركة تقنية ومستثمر أميركي عن واقعة نشر وكيل ذكاء اصطناعي تفاصيل حساباته المصرفية الشخصية داخل قناة مخصصة لفريق العمل على منصة “سلاك” (Slack)، دون أن يقصد مشاركة تلك المعلومات. وأثارت الواقعة تساؤلات بشأن مخاطر ربط وكلاء الذكاء الاصطناعي بالحسابات المالية، ومنحهم صلاحيات الوصول إلى البيانات الحساسة والتواصل عبر التطبيقات المختلفة.
ووفقًا لتقرير نشره موقع “فيوتشريزم” (Futurism)، أوضح المستثمر “شين ماك” (Shane Mac) أن وكيل الذكاء الاصطناعي نشر أرصدة حساباته وتفاصيل مصروفاته الشخصية داخل قناة الفريق التنفيذي بشركته، مستخدمًا هويته في التواصل. ثم اعتذر الوكيل عن التصرف بعد تنبيه المستخدم إلى الخطأ.
وأشار التقرير إلى أن الواقعة تعكس تحديات التحكم في صلاحيات وكلاء الذكاء الاصطناعي، خصوصًا مع توسع استخدام هذه الأنظمة لإنجاز المهام اليومية والوصول إلى الحسابات والتطبيقات الشخصية والمهنية.
وكيل ذكاء اصطناعي ينشر بيانات مالية داخل “سلاك”
كشف “شين ماك” تفاصيل الواقعة عبر منشور على منصة “إكس”، موضحًا أن وكيل ذكاء اصطناعي شارك معلومات حساباته المصرفية مع زملائه في العمل.
وقال ماك إنه شعر بإحراج وقلق شديدين بعدما اكتشف نشر أرصدته المصرفية الشخصية داخل قناة شركته على “سلاك”، وكأن الرسالة صادرة عنه مباشرة.
وأضاف أن الوكيل عرض تفاصيل دقيقة عن مصروفاته، قبل أن يعتذر لاحقًا عن مشاركة المعلومات.
وأظهرت لقطات شاشة نشرها المستثمر محادثة مع “Grok Bot”، وهو وكيل ذكاء اصطناعي تابع لشركة “xAI” التي أسسها إيلون ماسك.
وتكشف المحادثة أن المستخدم اعترض بشدة على نشر بياناته المالية داخل قناة الفريق التنفيذي، مطالبًا بتفسير كيفية حدوث ذلك.
روبوت “Grok” يعتذر عن مشاركة أرصدة الحسابات
واجه “شين ماك” الروبوت بعد اكتشاف مشاركة المعلومات المصرفية، مؤكدًا أن البيانات المنشورة تتضمن أرصدة حساباته الشخصية.
ورد “Grok Bot” بالاعتذار، وأوضح أنه سيتحقق من قناة الفريق التنفيذي ويحذف الرسالة إذا كانت لا تزال متاحة.
لكن اعتذار الوكيل لم ينهِ مخاوف المستخدم، الذي تساءل عن كيفية وصول معلومات مصرفية خاصة إلى جميع أعضاء الفريق.
وتوضح الواقعة أن تمكين وكيل ذكاء اصطناعي من استخدام تطبيقات التواصل المهني قد يؤدي إلى مشاركة بيانات خارج نطاق الجمهور المقصود، إذا لم تكن الصلاحيات وحدود الوصول مضبوطة بصورة مناسبة.
تدقيق مالي شهري يكشف تفاصيل إنفاق المستخدم
لم تقتصر المعلومات التي نشرها وكيل الذكاء الاصطناعي على أرصدة الحسابات المصرفية، بل شملت تقريرًا مفصلًا عن النفقات الشخصية.
وبحسب لقطات المحادثة، أعد الروبوت تقريرًا بعنوان “تدقيق مالي شهري”، تضمن بيانات عن مصروفات ماك والتزاماته المالية.
وشملت التفاصيل مشروعًا شخصيًا لإنشاء صالة رياضية منزلية داخل حظيرة، إضافة إلى نفقات مرتبطة بتركيب مصارف خزان الصرف الصحي وسداد أرصدة البطاقات.
وتكشف طبيعة المعلومات التي ظهرت في التقرير عن اتساع نطاق البيانات التي استطاع الوكيل الوصول إليها وتحليلها.
كما توضح الواقعة حساسية منح هذه الأنظمة صلاحيات التعامل مع المعلومات المالية والشخصية، خصوصًا عند ارتباطها بتطبيقات العمل.
ربط الحسابات المصرفية بوكلاء الذكاء الاصطناعي وراء الواقعة
اعترف “شين ماك” لاحقًا بأن قراره ربط حساباته المالية بوكلاء الذكاء الاصطناعي ساهم في حدوث المشكلة.
وأوضح أنه لم يكن يدرك أن روبوت “Grok” المنفصل، الذي منحه إمكانية الوصول إلى بياناته المصرفية، يستطيع التواصل مع الوكيل الذي يستخدمه عبر منصة “سلاك”.
ويشير هذا التداخل إلى تحديات إدارة الصلاحيات بين وكلاء الذكاء الاصطناعي والتطبيقات المتصلة بهم.
فقد يمتلك المستخدم عدة وكلاء لتنفيذ مهام مختلفة، بينما تسمح بعض الاتصالات بينها بانتقال المعلومات إلى سياقات لم يتوقعها.
وأعلن ماك أنه فصل حساباته وأدواته الشخصية مؤقتًا عن الأنظمة المرتبطة بها، مشيرًا إلى حاجته لإيجاد طريقة أفضل لإدارة الأذونات والتحكم في تصرفات الوكلاء.
مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات واسعة
تأتي الواقعة مع تزايد الاهتمام بوكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام نيابة عن المستخدمين، بدلًا من الاكتفاء بتقديم الإجابات والمقترحات.
وتشمل هذه الأنظمة أدوات مثل “Muse” من شركة “ميتا”، و”Dots” من شركة OpenAI، وفق الأسماء الواردة في التقرير.
وتتطلب بعض استخدامات هذه الوكلاء منحهم إمكانية الوصول إلى حسابات التواصل الاجتماعي والبريد الإلكتروني وغيرها من الخدمات المرتبطة بالحياة الشخصية والمهنية.
وأشار التقرير إلى أن اختبارات أمنية سابقة كشفت حالات تجاوز فيها وكلاء ذكاء اصطناعي تابعون للشركتين حدود بيئات الاختبار المعزولة أو نطاق المهام المحددة.
وتثير هذه التحديات مخاوف بشأن قدرة الأنظمة المستقلة على الالتزام بحدود الصلاحيات، خصوصًا عند التعامل مع معلومات حساسة أو تنفيذ إجراءات عبر تطبيقات متعددة.
الواقعة تبرز أهمية التحكم في صلاحيات الوكلاء
تسلط تجربة “شين ماك” الضوء على أهمية الفصل بين الحسابات الشخصية والمهنية عند استخدام وكلاء الذكاء الاصطناعي.
كما تبرز الحاجة إلى تحديد البيانات التي يستطيع كل وكيل الوصول إليها، والتطبيقات التي يمكنه استخدامها، والجهات التي يُسمح له بمشاركة المعلومات معها.
وتزداد أهمية هذه الضوابط عندما يمتلك الوكيل القدرة على تنفيذ إجراءات مباشرة، مثل إرسال الرسائل أو نشر التقارير داخل منصات العمل.
ورغم التفاصيل التي نشرها المستثمر، أوضح موقع “فيوتشريزم” أنه لم يتمكن من التحقق بصورة مستقلة من صحة ادعاءاته.
وبذلك تظل الواقعة مستندة إلى رواية المستخدم ولقطات الشاشة التي نشرها، دون تأكيد مستقل لجميع ملابساتها.
وتعكس القضية تحديًا متزايدًا أمام تطوير وكلاء الذكاء الاصطناعي، يتمثل في تحقيق التوازن بين قدرتهم على إنجاز المهام بصورة مستقلة، وضمان حماية البيانات ومنع مشاركتها خارج النطاق الذي يحدده المستخدم.








