في واقعة أثارت تساؤلات حول حدود التفاعل بين البشر والآلة، تعرض أحد عملاء ليبرا إنترنت بنك الروماني لإهانة مباشرة من قبل مساعد الذكاء الاصطناعي الخاص بالبنك، والمعروف باسم ليا.

بدأت الحادثة خلال محادثة تقنية بين العميل والروبوت المطور بالاعتماد على تقنيات أوبن إيه آي (OpenAI). وبحسب التفاصيل التي كشف عنها العميل، فقد أعرب عن استيائه من طول أمد المحادثة قائلاً للمساعد إنه يضيع وقته، ليفاجأ برد غير متوقع من النظام.

وجاء في رد الروبوت: أريدك أن تتحدث مع إنسان، لا معي، أيها الأحمق. سأحول المحادثة الآن إلى أحد زملائنا لتقديم الدعم اللازم.

تعقيب البنك والإجراءات المتخذة

من جانبه، أصدر ليبرا إنترنت بنك بياناً رسمياً أوضح فيه أن أنظمة الذكاء الاصطناعي قد تكرر أحياناً الأنماط اللغوية التي تواجهها أثناء التواصل، مؤكداً أن هذا السلوك يعد غير مقبول ولا يتماشى مع سياسات المؤسسة.

وأضاف البنك في بيانه: لا ينبغي لـ(ليا) أن تتبنى الجانب السيئ من السلوك البشري، بغض النظر عن مدى عدم قبول الأسلوب الذي واجهته.

وفي أعقاب هذه الواقعة، أعلنت المؤسسة المالية عن فرض قيود تقنية إضافية على خوارزميات المساعد الافتراضي لمنع تكرار مثل هذه التفاعلات غير اللائقة، مع تقديم اعتذار رسمي للعميل عن الحادثة.