سباق الذكاء الاصطناعي يشعل مخاوف المطورين من تهديد وجود البشرية

تتصاعد المخاوف داخل أوساط الذكاء الاصطناعي من أن تؤدي المنافسة المحتدمة بين الشركات الرائدة، إلى جانب انعدام الثقة بين رؤسائها، إلى تحويل السباق نحو تطوير أنظمة شديدة القوة إلى تهديد حقيقي قد يعرّض مستقبل البشرية للخطر.

وتأتي هذه التحذيرات في وقت تظهر فيه قدرات كان يُعتقد سابقاً أنها بعيدة المنال بوتيرة أسرع من توقعات الخبراء، بينما تواصل الشركات المطورة لهذه التقنيات خوض سباق تجاري يزداد حدة ومرارة.

المنافسة تضغط على معايير السلامة

أعرب أكثر من عشرين من كبار الباحثين في الذكاء الاصطناعي والمستثمرين والأكاديميين والعاملين في مجال السياسات عن قلقهم من تسارع قدرات النماذج المتقدمة، مؤكدين أن الشركات التي تطورها لا تزال أسيرة منافسة تجارية قد تدفعها إلى تقديم السرعة والانتشار على اعتبارات الأمان.

وقال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا، إنه لا يشك في أن المنافسة بين الشركات تدفعها إلى اتخاذ اختصارات عندما يتعلق الأمر بإجراءات السلامة، ما يعزز المخاوف من إطلاق تقنيات قوية قبل التأكد بصورة كافية من إمكان السيطرة عليها.

استقالة باحث تكشف حجم القلق الداخلي

برزت هذه القضية إلى العلن بصورة واضحة خلال الأسبوع، بعدما استقال الباحث الشاب جاكوب كوكسون من وظيفته في شركة «أنثروبيك»، مطلقاً تحذيراً شديد اللهجة بشأن المخاطر التي يتوقعها بعض العاملين مباشرة على بناء أنظمة الذكاء الاصطناعي.

وقال كوكسون إن الأشخاص الذين يطورون الذكاء الاصطناعي يؤمنون بصدق بإمكان أن تتسبب هذه التقنية في مقتل الجميع بحلول نهاية العقد الحالي، وهو تصريح يعكس حجم القلق داخل المؤسسات التي تقود عملية تطوير النماذج الأكثر تقدماً.

تقديرات تتجاوز احتمال 10 في المائة

كان إيفان هوبرينغر، رئيس فريق علوم المواءمة واختبارات الاختراق في «أنثروبيك»، ضمن مجموعة من زملائه الذين قدروا أن احتمال وقوع انقراض جماعي خلال العقد المقبل يتجاوز 10 في المائة.

وتشير علوم المواءمة إلى الجهود الرامية لضمان توافق أهداف أنظمة الذكاء الاصطناعي وسلوكها مع القيم والمصالح البشرية، في حين تهدف اختبارات الاختراق إلى اكتشاف نقاط الضعف والقدرات الخطرة قبل نشر تلك الأنظمة أو توسيع نطاق استخدامها.

وبعد يوم واحد من هذه التحذيرات، قال بول كريستيانو، مسؤول سلامة الذكاء الاصطناعي الذي عُيّن حديثاً في مجلس إدارة مؤسسة «أوبن إيه آي»، إن «معظم الناس سيموتون» ما لم تُعتمد ضمانات أكثر صرامة للسيطرة على المخاطر المحتملة.

مختبرات السلامة تتحول إلى منافسين تجاريين

تأسست «أوبن إيه آي» و«أنثروبيك» في الأصل بوصفهما مختبرين يركزان على تطوير ذكاء اصطناعي قوي بصورة آمنة ومتأنية، إلا أن الشركتين بررتا مع مرور الوقت التخلي عن التزامات سابقة مرتبطة بالسلامة تحت ضغط المنافسة الشرسة في القطاع.

ويعتقد كثير من العاملين على بناء أنظمة الذكاء الاصطناعي أنهم الأكثر قدرة على إدارة مخاطرها، بحكم معرفتهم المباشرة بطريقة تطويرها وإمكاناتها. غير أن باحثين آخرين يحذرون من العواقب المحتملة لهذا الاعتقاد، خصوصاً إذا استمر تسارع القدرات التقنية بالتزامن مع سباق تجاري يدفع الشركات إلى تقليص الوقت المخصص لاختبارات السلامة والضمانات الأكثر صرامة.