صناعة

الروبوت الذي يختار إحداث الألم يثير الجدل حول أنظمة الذكاء الاصطناعي

الروبوت الذي يختار إحداث الألم يثير الجدل حول أنظمة الذكاء الاصطناعي


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

يمتلك الروبوت الذي صنعه عالم الروبوتات ألكساندر ريبين من جامعة بيركلي بكاليفورنيا القدرة على اتخاذ قرار باستخدام الذكاء الاصطناعي في إحداث الألم أم لا.

يهدف الروبوت إلى إثارة نقاش حول ما إذا كان يمكن لنظام الذكاء الاصطناعي أن يخرج عن نطاق السيطرة ، وهو ما يذكرنا بالمنهي. تصميم الروبوت بسيط للغاية ومصمم لخدمة غرض واحد فقط. لتقرير إلحاق الألم أم لا. صمم الروبوت ألكساندر ريبين من جامعة بيركلي ونُشر في مجلة علمية تهدف إلى إثارة نقاش حول ما إذا كانت الروبوتات الذكية الاصطناعية يمكن أن تخرج عن السيطرة إذا أتيحت لها الفرصة.

"القلق الحقيقي بشأن الذكاء الاصطناعي هو أنه يخرج عن نطاق السيطرة ،"

هو قال.

"[عمالقة التكنولوجيا] يقولون إن الأمر بعيد المنال ، لكن دعونا نفكر في الأمر الآن قبل فوات الأوان. أنا أثبت أن [الروبوتات الضارة] يمكن أن توجد الآن. علينا تمامًا مواجهتها."

يستكشف ريبين الاحتمال الحقيقي للغاية بأن الروبوت المبرمج باستخدام خوارزمية يتعلم من التجربة والتفاعل البشري يمكن أن يلتقط السمات السلبية التي يفرضها بعض البشر ، مما يمثل انهيارًا محتملاً لأنظمة الذكاء الاصطناعي يمكن أن يصبح خطيرًا.

من الناحية العملية ، عندما يتم وضع إصبع بالقرب من الروبوت ، فمن المحتمل أن يخز إصبعًا وسحب الدم. يوضح ريبين أنه ليس لديه حقًا أي فكرة عن موعد ضرب الروبوت.

"يتخذ الروبوت قرارًا لا يمكنني توقعه بصفتي منشئ محتوى" ،

هو قال،

"لا أعرف من سيؤذي أو لن يؤذي. إنه مثير للفضول ، يسبب ألمًا ليس لغرض مفيد - نحن ننتقل إلى سؤال أخلاقي ، روبوتات مصممة خصيصًا للقيام بأشياء مشكوك فيها أخلاقياً."

الجهاز يكلف حوالي 200 دولار أمريكي ولن تكون متاحة للبيع بالتجزئة. ينصب تركيزها الأساسي على استكشاف فلسفة ثلاثة قوانين روبوتية اقترحها إسحاق أسيموف في عام 1942 - أولها كونه إنسانًا قد لا يؤذي الإنسان. بعد بحث ريبين قاده إلى استنتاج أن "مفتاح القفل" للذكاء الاصطناعي مشابه لما يطوره حاليًا مهندسون من قسم الذكاء الاصطناعي في Google ، DeepMind ، وجامعة أكسفورد ، يمكن أن يصبح مهمًا بشكل لا يصدق في المستقبل القريب.

روبوت ريبين يخز إصبعًا[مصدر الصورة: الكسندر ريبين]

يتمثل الشاغل الرئيسي في التأكد من أن خوارزمية الروبوت مصممة بطريقة لا يمكنها تجاوز مفتاح القفل لمنع إيقاف تشغيله - وهو سيناريو خطير للغاية. على الرغم من أن الروبوتات الحالية مصممة لغرض عملي ، لأنها تكتسب المزيد من الذكاء والمزيد من خوارزميات التعلم الشبيهة بالبشر ، فسيكون من الضروري التأكد من وجود تدابير أمان مهمة لمنع الروبوت من التحول إلى فاصل ، وخز إصبعك ، أو حتى أسوأ.

راجع أيضًا: يجب حماية الذكاء الاصطناعي بموجب حقوق الإنسان

بقلم مافريك بيكر


شاهد الفيديو: الذكاء الاصطناعي. يوروماكس (قد 2022).