الذكاء الاصطناعي في جوجل أرشده إلى رقم خدمة عملاء... وكانت النتيجة عملية احتيال متقنة
مطور عقاري يبحث عن رقم هاتف لشركة رحلات بحرية، فيقع ضحية عملية نصب بعد أن وثق في نتائج البحث المدعومة بالذكاء الاصطناعي.
أراد مطور عقاري التواصل مع خدمة العملاء لإحدى شركات الرحلات البحرية، فبحث في جوجل عن رقم هاتف الشركة، واتصل بالرقم الذي ظهر له في "نظرة جوجل العامة" (Google AI Overview) المدعومة بالذكاء الاصطناعي، حسبما أفادت صحيفة واشنطن بوست.
وتشير مراسلة الصحيفة إلى أنه "تحدث مع ممثل خدمة عملاء مطلع وقدم له تفاصيل بطاقته الائتمانية". لكن في اليوم التالي، "لاحظ عمليات شراء مريبة على بطاقته الائتمانية وأدرك أنه تعرض للخداع من قبل شخص ينتحل صفة خدمة عملاء شركة Royal Caribbean".
والأخطر من ذلك، أن مراسلة الصحيفة وجدت نفس رقم الهاتف "يظهر منتحلاً صفة خطوط المساعدة لشركات رحلات بحرية أخرى، ويظهر في نتائج بحث جوجل و ChatGPT" (بما في ذلك شركات ديزني وكرنفال).
لقد واجه هذا الرجل نسخة مطورة بالذكاء الاصطناعي من عملية احتيال كلاسيكية تستهدف المسافرين وغيرهم ممن يبحثون في جوجل عن خطوط المساعدة للشركات. كان المحتال على دراية بتكلفة ومواقع حافلات النقل الخاصة بشركة Royal Caribbean في البندقية، وقدم "تفسيرات مقنعة" عند سؤاله عن دفع رسوم معينة. بل وعرض التنازل عن رسوم الحافلات كطعم.
كيف تعمل هذه الحيلة؟
تعمل هذه الحيلة عادةً على النحو التالي:
-
يقوم المحتالون بنشر الرقم الذي يسيطرون عليه على مواقع المراجعات والمنتديات ومواقع الويب الأخرى، زاعمين أنه رقم خدمة العملاء الرسمي لشركة ما.
-
عندما تبحث في جوجل، تبحث تقنياته عن أدلة للمعلومات ذات الصلة والمصداقية.
-
إذا تكرر هذا الرقم المزيف بما يكفي على الإنترنت، فقد تقترحه جوجل للمستخدمين الذين يبحثون عن تلك الشركة.
بهذه الطريقة، تصبح جوجل أداة سهلة في أيدي المحتالين، ونحن المستخدمين الضحية النهائية. والآن، قد تستخدم أدوات مثل "نظرات جوجل العامة" و ChatGPT نفس هذه الأدلة لتقديم معلومات تم جمعها من الويب، مما يجعلها أدوات جديدة لهذه الحيل القديمة.
وتخلص المراسلة إلى نتيجة قاسية:
"لقد رأيت الكثير من نسخ الخداع المماثلة التي تستهدف مستخدمي جوجل لدرجة أنني ألوم الشركة إلى حد كبير على عدم قيامها بما يكفي لحماية بوابتها الأساسية للمعلومات".
وتضيف أن خبيرين في طريقة عمل جوجل الداخلية يتفقان مع هذا الرأي. وتنصح الصحيفة الآن قراءها بـ "التشكك في أرقام الهواتف التي تظهر في نتائج جوجل أو في روبوتات الدردشة".
ردود فعل جوجل و OpenAI
عندما تم التواصل معه للتعليق، أخبر متحدث باسم جوجل الصحيفة أنهم "اتخذوا إجراءات" بشأن العديد من الأرقام المنتحلة التي حددتها المراسلة. وأضاف المتحدث أن جوجل تواصل "العمل على تحسينات أوسع" لـ "معالجة الاستفسارات النادرة مثل هذه".
من جانبها، قالت OpenAI إن العديد من صفحات الويب التي استشهد بها ChatGPT والتي تحتوي على الرقم المزيف قد تمت إزالتها، وأن تحديث معلوماتها "قد يستغرق وقتًا بعد إزالة المحتوى المسيء من المصدر".
في هذه الأثناء، أفادت الصحيفة بأن الرجل الذي تعرض للاحتيال قد ألغى بطاقته الائتمانية، وتم عكس الرسوم المريبة. وفي تعليقه على تجربته، يوجه رسالة لقراء الصحيفة: "لا أصدق أنني وقعت في الفخ. كونوا حذرين".
