في جلسة بمؤتمر "بلاك هات"، وصف العالم والمؤلف غاري ماركوس النماذج اللغوية الكبيرة بأنها "غير آمنة بجنون" وهاجم نماذج العمل التي تقف خلفها.
لاس فيغاس – أراد غاري ماركوس أن يوضح نقطة واحدة في حديثه بمؤتمر "بلاك هات" يوم الأربعاء: هو ليس من "كارهي" الذكاء الاصطناعي، ولا من المتشائمين الذين يتوقعون نهاية العالم بسببه.
ولكن حتى أكثر نماذج الذكاء الاصطناعي جموحًا في أوهامها لم تكن لتتخيل أن هذا الرجل، وهو مؤسس شركتين ناشئتين في مجال الذكاء الاصطناعي، وعالم في العلوم الإدراكية، ومؤلف كتب، هو من محبي هذه التقنية. بل هو أبعد ما يكون عن الإعجاب بفكرة أنها ستؤدي إلى ظهور الذكاء الاصطناعي العام (AGI) أو الذكاء الخارق، أو أي منافس آخر للإدراك البشري.
اعترف ماركوس في بداية محادثته التي استمرت 40 دقيقة: "أعتقد أن هناك فرصة لأن يكون شيئًا إيجابيًا للعالم". لكنه استدرك قائلًا إن هناك مخاطر جمة، بدءًا من احتمالية أن يؤدي الطلب المتزايد على الكهرباء من مراكز بيانات الذكاء الاصطناعي إلى تعطيل بقية شبكة الكهرباء في الولايات المتحدة. وقال: "ليس من الواضح ما إذا كان هذا الأمر مستدامًا، وليس من الواضح ما سيحدث إذا لم يكن كذلك".
وتابع ماركوس أن كل هذه الجيجاواط من الطاقة التي تُصب في السعي وراء الذكاء الاصطناعي العام ربما لن تسفر عن منتج يستحق الاستخدام، لأن النماذج اللغوية الكبيرة (LLMs) المعنية هي "غير آمنة بجنون".
شرح تقني:
الذكاء الاصطناعي العام (AGI): هو شكل افتراضي من الذكاء الاصطناعي يمتلك القدرة على فهم أو تعلم أي مهمة فكرية يمكن للإنسان القيام بها.
النماذج اللغوية الكبيرة (LLMs): هي أنظمة ذكاء اصطناعي، مثل ChatGPT، تم تدريبها على كميات هائلة من النصوص لأداء مهام لغوية.
وقال ماركوس: "ما هذه الأنظمة في حقيقتها إلا مُقلِّدات". وأضاف: "يمكنها أن تقول أشياء تشبه ما سمعته من قبل، لكنها ضعيفة جدًا من الناحية المفاهيمية".
لذلك، فإن محاولة وضع قيود وحواجز أمان مثل "اكتب فقط التعليمات البرمجية الآمنة" أو "لا تشرح كيفية صنع الأسلحة البيولوجية لأي شخص" ستظل عرضة للهجمات، لأن هذه النماذج تفتقر إلى "نموذج للعالم الحقيقي" تستند إليه في سلوكها.
وأوضح: "بمجرد استخدام خدعة بسيطة للتحايل على القيود (Jailbreak)، يمكنك تجاوز ذلك. وهذا لأنها لا تملك مفهومًا لماهية السلاح البيولوجي أو ما يعنيه الكود الآمن".
وتوقع نتيجة قصيرة المدى لما أسماه هذا "النوع من التزييف": "سنبدأ في رؤية الكثير من البنوك تنهار وغيرها من الكوارث، لأن الكثير من التعليمات البرمجية السيئة سيتم كتابتها، لأن هذه الأنظمة لا تفهم في الواقع ما يعنيه كتابة كود آمن".
هل هذا يجعل المستثمرين يتعبون من وعود الذكاء الاصطناعي العام؟ أجاب ماركوس: "لا!".
وقال: "لقد أدرك [إيلون] ماسك أنه يمكنك تقديم الوعود دون أن تكون هناك أي مسؤولية عنها"، مذكّرًا المستمعين بتاريخ ماسك الطويل في المبالغة في الوعود والتقصير في التنفيذ فيما يتعلق بالسيارات ذاتية القيادة. وأضاف: "والناس سيمنحونك رأس المال بناءً على ذلك".
واستشهد ماركوس بالرئيس التنفيذي لشركة OpenAI، سام ألتمان، كممارس بارع لهذا الأسلوب. وقال: "قرأت هذا الصباح أن OpenAI ستحاول بيع أسهم بتقييم يصل إلى 500 مليار دولار. هذه شركة لم تحقق ربحًا قط، ولا تبدو قريبة من تحقيق الربح، ولا تملك أي ميزة تنافسية تقنية حقيقية (Technical Moat)".
على الرغم من كل هذه الانتقادات، لم يكن ماركوس مستعدًا للتنبؤ بفناء وجودي بسبب صعود آلات الذكاء الاصطناعي. لقد أثار هذه النقطة عندما سُئل عن منشور كتبه في يوليو رفع فيه تقديره لاحتمال فناء البشرية بسبب الذكاء الاصطناعي - أو ما يعرف في الصناعة بـ "p(doom)" - من 1% إلى 3%.
على الرغم من شعوره بأنه "من الصعب جدًا القضاء على البشر"، إلا أنه رفع هذه الاحتمالات بعد التفكير في نطاق طموحات إيلون ماسك في مجال الذكاء الاصطناعي والطريقة المتهورة التي اتبعها. وتساءل: "ماذا لو كان هناك شخص مجنون يمتلك كميات هائلة من المال، وكميات هائلة من الغرور، ولديه جحافل من المتابعين، ويعمل في مجال الذكاء الاصطناعي، وكان مهملًا في طريقة بنائه، إلخ؟". وأضاف: "وفي يوم من الأيام استيقظت وأدركت، يا إلهي، هذا الرجل موجود بالفعل ويفعل هذه الأشياء".
لكن نسبة 3% لا تزال فرصة منخفضة للفناء. يرى ماركوس أن الضرر الأكثر إلحاحًا يأتي مما يفعله الذكاء الاصطناعي بالأشخاص الذين يعتمدون عليه: جعل عقولهم أكثر سطحية، حتى في الوقت الذي يقلل فيه الذكاء الاصطناعي من تكلفة إنشاء المعلومات المضللة.
وختم قائلًا: "مهارات التفكير النقدي، أنت تطورها باستخدامها. وإذا أوكلت كل شيء إلى نموذج لغوي كبير، فلن تطور هذه المهارات".
