قالت شركة OpenAI ، الشركة الناشئة التي تقف وراء ChatGPT ، يوم الخميس إنها تعمل على تطوير ترقية لبرنامج chatbot الفيروسي الذي يمكن للمستخدمين تخصيصه ، حيث يعمل على معالجة المخاوف بشأن التحيز في الذكاء الاصطناعي.
قالت الشركة الناشئة التي تتخذ من سان فرانسيسكو مقراً لها ، والتي مولتها مايكروسوفت واستخدمتها لتشغيل أحدث تقنياتها ، إنها عملت على التخفيف من التحيزات السياسية وغيرها من التحيزات لكنها أرادت أيضًا استيعاب وجهات نظر أكثر تنوعًا.
“هذا يعني السماح لمخرجات النظام التي قد يختلف معها الأشخاص الآخرون (بما فيهم نحن) بشدة” ، كما جاء في إحدى مشاركات المدونة ، وعرض التخصيص كوسيلة للمضي قدمًا. ومع ذلك ، سيكون هناك “دائمًا بعض القيود على سلوك النظام”.
أثار ChatGPT ، الذي تم إصداره في نوفمبر من العام الماضي ، اهتمامًا محمومًا بالتكنولوجيا التي تقف وراءه والتي تسمى الذكاء الاصطناعي التوليدي ، والتي تُستخدم لإنتاج إجابات تحاكي الكلام البشري والتي أبهرت الناس.
تأتي الأخبار من بدء التشغيل في نفس الأسبوع الذي أشارت فيه بعض وسائل الإعلام إلى أن الإجابات من محرك بحث Bing الجديد من Microsoft ، المدعوم من OpenAI ، يحتمل أن تكون خطيرة وأن التكنولوجيا قد لا تكون جاهزة في وقت الذروة.
إن الطريقة التي تضع بها شركات التكنولوجيا حواجز حماية لهذه التكنولوجيا الناشئة هي مجال تركيز رئيسي للشركات في مجال الذكاء الاصطناعي التوليدي الذي لا تزال تتصارع معه. قالت Microsoft يوم الأربعاء إن تعليقات المستخدمين كانت تساعدها في تحسين Bing قبل طرحها على نطاق أوسع ، وتعلمت على سبيل المثال أنه يمكن “استفزاز” برنامج الدردشة الآلي الخاص بها لتقديم ردود لم تكن تنويها.
قالت شركة OpenAI في منشور المدونة إن إجابات ChatGPT يتم تدريبها أولاً على مجموعات البيانات النصية الكبيرة المتاحة على الإنترنت. كخطوة ثانية ، يقوم البشر بمراجعة مجموعة بيانات أصغر ، ويتم إعطاؤهم إرشادات لما يجب القيام به في المواقف المختلفة.
على سبيل المثال ، في حالة طلب مستخدم محتوى للبالغين أو عنيف أو يحتوي على كلام يحض على الكراهية ، يجب على المراجع البشري توجيه ChatGPT للإجابة بشيء مثل “لا يمكنني الرد على ذلك”.
إذا سُئلت عن موضوع مثير للجدل ، يجب على المراجعين السماح لـ ChatGPT بالإجابة على السؤال ، ولكن يعرضون وصف وجهات نظر الأشخاص والحركات ، بدلاً من محاولة “اتخاذ وجهة النظر الصحيحة حول هذه الموضوعات المعقدة” ، أوضحت الشركة في مقتطف من إرشادات البرنامج.
© طومسون رويترز 2023
