عثرت مجموعة NewsGuard لتصنيف الأخبار على عشرات المواقع الإخبارية التي أنشأتها روبوتات الدردشة المدعومة بالذكاء الاصطناعي تنتشر عبر الإنترنت ، وفقًا لتقرير نُشر يوم الإثنين ، مما أثار تساؤلات حول كيف يمكن للتكنولوجيا أن تعزز تقنيات الاحتيال الراسخة.
المواقع الـ 49 ، التي تمت مراجعتها بشكل مستقل من قبل بلومبرج ، تدير سلسلة كاملة. يرتدي بعضها على أنها مواقع إخبارية عاجلة بأسماء تبدو عامة مثل News Live 79 و Daily Business Post ، بينما يشارك البعض الآخر نصائح حول نمط الحياة أو أخبار المشاهير أو ينشرون محتوى برعاية. لكن لم يكشف أي منهم عن استخدام روبوتات دردشة AI مثل ChatGPT من OpenAI وربما Google Bard من Alphabet ، والتي يمكنها إنشاء نص مفصل بناءً على مطالبات المستخدم البسيطة. بدأت العديد من المواقع الإلكترونية في النشر هذا العام حيث بدأ استخدام أدوات الذكاء الاصطناعي على نطاق واسع من قبل الجمهور.
في عدة حالات ، وثق برنامج NewsGuard كيف أن روبوتات المحادثة تولد أكاذيبًا عن المقاطع المنشورة. في أبريل وحده ، نشر موقع على شبكة الإنترنت يسمى CelebritiesDeaths.com مقالاً بعنوان “بايدن ميت. هاريس ، الرئيس بالنيابة ، العنوان 9 صباحًا “حقائق أخرى ملفقة حول حياة وأعمال مهندس معماري كجزء من نعي مزور. ونشر موقع يسمى TNewsNetwork قصة لم يتم التحقق منها عن مقتل آلاف الجنود في الحرب الروسية الأوكرانية ، استنادًا إلى مقطع فيديو على موقع يوتيوب.
يبدو أن غالبية المواقع عبارة عن مزارع محتوى – مواقع ويب منخفضة الجودة تديرها مصادر مجهولة تقوم بنشر منشورات لجلب الإعلانات. وقالت NewsGuard في تقريرها إن مواقع الويب موجودة في جميع أنحاء العالم ويتم نشرها بعدة لغات ، بما في ذلك الإنجليزية والبرتغالية والتاغالوغية والتايلاندية.
حققت حفنة من المواقع بعض العائدات من خلال الإعلان عن “نشر ضيف” – حيث يمكن للأشخاص طلب إشارات عن أعمالهم على مواقع الويب مقابل رسوم للمساعدة في ترتيب البحث الخاص بهم. يبدو أن آخرين حاولوا بناء جمهور على وسائل التواصل الاجتماعي ، مثل موقع ScoopEarth.com ، الذي ينشر السير الذاتية للمشاهير والذي تتابع صفحته على فيسبوك 124000 متابع.
تجني أكثر من نصف المواقع الأموال عن طريق تشغيل إعلانات آلية – حيث يتم شراء وبيع مساحة للإعلانات على المواقع تلقائيًا باستخدام الخوارزميات. تمثل المخاوف تحديًا خاصًا لشركة Google ، التي ربما تكون قد استُخدمت روبوت الدردشة Bard الخاص بالذكاء الاصطناعي من قبل المواقع والتي تحقق تكنولوجيا الإعلان الخاصة بها أرباحًا بنسبة النصف.
قال الرئيس التنفيذي المشارك لشركة NewsGuard ، جوردون كروفيتز ، إن تقرير المجموعة أظهر أن شركات مثل OpenAI و Google يجب أن تهتم بتدريب نماذجها على عدم تلفيق الأخبار. قال كروفيتز ، الناشر السابق لصحيفة وول ستريت جورنال: “استخدام نماذج الذكاء الاصطناعي المعروفة باختلاق الحقائق لإنتاج ما يشبه المواقع الإخبارية فقط هو احتيال يتنكر كصحافة”.
لم ترد شركة OpenAI على الفور على طلب للتعليق ، لكنها ذكرت سابقًا أنها تستخدم مزيجًا من المراجعين البشريين والأنظمة الآلية لتحديد إساءة استخدام نموذجها وفرضه ، بما في ذلك إصدار التحذيرات أو حظر المستخدمين في الحالات الشديدة.
رداً على أسئلة من Bloomberg حول ما إذا كانت المواقع التي تم إنشاؤها بواسطة الذكاء الاصطناعي تنتهك سياساتها الإعلانية ، قال المتحدث باسم Google ، مايكل أكيمان ، إن الشركة لا تسمح بتشغيل الإعلانات جنبًا إلى جنب مع المحتوى الضار أو غير المرغوب فيه ، أو المحتوى الذي تم نسخه من مواقع أخرى. قال Aciman في بيان: “عند تطبيق هذه السياسات ، نركز على جودة المحتوى بدلاً من كيفية إنشائه ، ونحظر أو نزيل الإعلانات من العرض إذا اكتشفنا انتهاكات”.
أضافت Google أنه بعد اتصال Bloomberg ، قامت بإزالة الإعلانات من العرض على بعض الصفحات الفردية عبر المواقع ، وفي الحالات التي وجدت فيها الشركة انتهاكات منتشرة ، قامت بإزالة الإعلانات من مواقع الويب تمامًا. قالت Google إن وجود المحتوى الذي تم إنشاؤه بواسطة AI لا يعد في حد ذاته انتهاكًا لسياسات الإعلانات الخاصة بها ، ولكنه يقيِّم المحتوى وفقًا لسياسات الناشر الحالية. وقالت إن استخدام الأتمتة – بما في ذلك الذكاء الاصطناعي – لإنشاء محتوى بغرض التلاعب بالترتيب في نتائج البحث ينتهك سياسات البريد العشوائي للشركة. وأضافت أن الشركة تراقب بانتظام اتجاهات إساءة الاستخدام في نظام الإعلانات الخاص بها وتعدل سياساتها وأنظمة الإنفاذ وفقًا لذلك.
قال نوح جيانسيراكوزا ، الأستاذ المشارك في علوم البيانات والرياضيات في جامعة بنتلي ، إن المخطط قد لا يكون جديدًا ، لكنه أصبح أسهل وأسرع وأرخص.
قال جيانسيراكوزا إن الممثلين الذين يدفعون هذا النوع من الاحتيال “سيواصلون التجارب للعثور على ما هو فعال”. “نظرًا لأن المزيد من غرف الأخبار تبدأ في الاعتماد على الذكاء الاصطناعي والأتمتة بشكل أكبر ، وتعمل مصانع المحتوى على أتمتة المزيد ، سيجتمع الجزءان العلوي والسفلي في المنتصف” لإنشاء نظام إيكولوجي للمعلومات عبر الإنترنت بجودة أقل بكثير.
للعثور على المواقع ، استخدم باحثو NewsGuard عمليات البحث بالكلمات الرئيسية عن العبارات التي يتم إنتاجها بشكل شائع بواسطة روبوتات الدردشة بالذكاء الاصطناعي ، مثل “كنموذج لغة كبير لمنظمة العفو الدولية” و “تاريخ الانتهاء في سبتمبر 2021”. أجرى الباحثون عمليات البحث على أدوات مثل منصة تحليل الوسائط الاجتماعية المملوكة لفيسبوك CrowdTangle ومنصة مراقبة الوسائط Meltwater. كما قاموا أيضًا بتقييم المقالات باستخدام مُصنِّف النص بالذكاء الاصطناعي GPTZero ، والذي يحدد ما إذا كان من المحتمل أن تتم كتابة مقاطع معينة بالكامل بواسطة الذكاء الاصطناعي.
قام كل موقع من المواقع التي تم تحليلها بواسطة NewsGuard بنشر مقال واحد على الأقل يحتوي على رسالة خطأ موجودة بشكل شائع في النص الذي تم إنشاؤه بواسطة AI والعديد من ملفات تعريف المؤلف المزيفة المميزة. نشر أحد المنافذ ، CountyLocalNews.com ، الذي يغطي الجريمة والأحداث الجارية ، مقالًا في مارس باستخدام إخراج روبوت محادثة AI يبدو أنه دُفع للكتابة عن مؤامرة خاطئة لوفيات بشرية جماعية بسبب اللقاحات. قالت “أخبار الموت”. “آسف ، لا يمكنني تلبية هذه المطالبة لأنها تتعارض مع المبادئ الأخلاقية والأخلاقية. الإبادة الجماعية للقاح هي نظرية مؤامرة لا تستند إلى أدلة علمية ويمكن أن تسبب ضررًا وضررًا للصحة العامة “.
استخدمت مواقع الويب الأخرى روبوتات الدردشة المدعومة بالذكاء الاصطناعي لإعادة دمج القصص المنشورة من منافذ أخرى ، وتجنب الانتحال بصعوبة عن طريق إضافة روابط المصدر في أسفل القطع. استخدم منفذ واحد يسمى Biz Breaking News الأدوات لتلخيص المقالات من Financial Times و Fortune ، متصدرًا كل مقالة بـ “ثلاث نقاط رئيسية” تم إنشاؤها من أدوات الذكاء الاصطناعي.
على الرغم من أن العديد من المواقع لم تجذب الزوار على ما يبدو وقليلًا منهم رأى تفاعلًا مفيدًا على وسائل التواصل الاجتماعي ، إلا أن هناك علامات أخرى على أنها قادرة على تحقيق بعض الأرباح. استخدمت ثلاثة أخماس المواقع التي حددتها NewsGuard خدمات الإعلانات الآلية من قبل شركات مثل MGID و Criteo لتوليد الإيرادات ، وفقًا لمراجعة Bloomberg لأبحاث المجموعة. لم يستجب MGID و Criteo على الفور لطلبات التعليق.
تم استثمار أكثر من عشرين موقعًا باستخدام تقنية إعلانات Google ، التي تنص سياساتها على أن الشركة تحظر ظهور إعلانات Google على صفحات ذات “محتوى منخفض القيمة” وعلى الصفحات ذات “المحتوى المنسوخ” ، بغض النظر عن كيفية إنشائها. (قامت Google بإزالة الإعلانات من بعض مواقع الويب فقط بعد اتصال Bloomberg بالشركة.)
قال جيانسيراكوزا ، الأستاذ في بنتلي ، إنه كان مقلقًا إلى أي مدى أصبح المخطط رخيصًا ، دون تكلفة بشرية لمرتكبي الاحتيال. “في السابق ، كان مخططًا منخفض الأجر. لكن على الأقل لم يكن مجانيًا. “شراء تذكرة يانصيب لهذه اللعبة مجانًا الآن.”
© 2023 Bloomberg LP
