تعتبر مشكلة خروج الذكاء الاصطناعي "القوي" عن سيطرة الإنسان خطيرة جدا لأن الإنسان لن يكون قادرا على تحديد اللحظة التي يقرر فيها الذكاء الاصطناعي المطور ذاتيا أن يصبح مستقلا.
وتشير تاتيانا تشيرنيغوفسكايا مديرة معهد البحوث المعرفية بجامعة بطرسبورغ إلى أنه بناء على مقترح إيلون ماسك تناقش هذه المسألة بنشاط على المستوى العالمي بين كبار الخبراء في مجال الذكاء الاصطناعي.
وتقول: "إن مشكلة خروج الذكاء الاصطناعي عن نطاق السيطرة لا تقلق الناس فقط، بل تقلق الباحثين الجادين. بالنسبة لي شخصيا ، فإن السؤال الرئيسي هو كيف سنحدد أن الذكاء الاصطناعي "القوي" خرج عن السيطرة وسيبدأ بالتفرد التكنولوجي نتيجة لإطلاق عملية التطوير الذاتي للذكاء الاصطناعي لأنه لن يخبرنا عن ذلك أو يلوح بيده".
وتشير تشيرنيغوفسكايا إلى أن ماسك اقترح فرض وقف مؤقت على تطوير مثل هذه الأنظمة ، بينما اقترح بعض العلماء الآخرين حظر التطور حتى يكون لدى البشرية أفكار واضحة حول كيف ومتى ستفقد السيطرة على الذكاء الاصطناعي "القوي".
ووفقا لها، من غير المرجح أن يتوصل العلماء إلى توافق في الآراء بشأن هذه المسألة في المستقبل المنظور لأنه يرجع إلى حد كبير إلى عدم وجود اتفاق على ما هو الوعي والعقل.
ويفترض الكثيرون من العاملين في مجال الذكاء الاصطناعي بأن البشرية ستتمكن في نهاية المطاف من إنشاء نظام كمبيوتر له القدرة على التفكير وفهم نفسه كفرد. ستكون هذه الآلات قادرة على تحسين نفسها عند حل أي نوع من المهام، الأمر الذي سيؤدي في المستقبل إلى تسريع التقدم العلمي والتكنولوجي بشكل كبير وتؤدي إلى ما يسمى بالتفرد التكنولوجي - التطور التكنولوجي للحضارة الذي لا يمكن السيطرة عليه.
عن روسيا اليوم
