संपादक ने कहा कि रिपोर्टर ने इस्तीफा देने से पहले कृत्रिम बुद्धिमत्ता का उपयोग करके फर्जी उद्धरण और कहानियां बनाईं

वायोमिंग के गवर्नर और स्थानीय अभियोजक का एक कथन पहली बात थी जो पॉवेल ट्रिब्यून के रिपोर्टर सीजे बेकर को थोड़ी अजीब लगी। फिर, कहानियों में कुछ ऐसे वाक्यांश थे जो उन्हें लगभग रोबोट जैसे लगे।

हालांकि, इस बात का स्पष्ट संकेत कि एक प्रतिस्पर्धी समाचार आउटलेट का रिपोर्टर अपनी कहानियों को लिखने में मदद के लिए जनरेटिव आर्टिफिशियल इंटेलिजेंस का उपयोग कर रहा था, 26 जून के एक लेख से मिला, जिसमें हास्य अभिनेता लैरी द केबल गाय को कोडी स्टैम्पेड परेड का ग्रैंड मार्शल चुने जाने की बात कही गई थी।

कोडी एंटरप्राइज ने बताया, “2024 की कोडी स्टैम्पेड परेड अमेरिकी स्वतंत्रता का अविस्मरणीय उत्सव होने का वादा करती है, जिसका नेतृत्व कॉमेडी के सबसे प्रिय व्यक्तियों में से एक करेंगे।” “यह संरचना सुनिश्चित करती है कि सबसे महत्वपूर्ण जानकारी पहले प्रस्तुत की जाए, जिससे पाठकों के लिए मुख्य बिंदुओं को जल्दी से समझना आसान हो जाता है।”

कुछ खोजबीन के बाद, बेकर, जो 15 वर्षों से अधिक समय से पत्रकार हैं, ने 40 वर्षीय आरोन पेलजार से मुलाकात की, जो पत्रकारिता में नए थे और बेकर के अनुसार उन्होंने स्वीकार किया कि एंटरप्राइज से इस्तीफा देने से पहले उन्होंने अपनी कहानियों में एआई का प्रयोग किया था।

एंटरप्राइज के प्रकाशक और संपादक, जिसकी स्थापना 1899 में बफ़ेलो बिल कोडी ने की थी, ने माफ़ी मांगी है और यह सुनिश्चित करने के लिए कदम उठाने की कसम खाई है कि ऐसा फिर कभी न हो। सोमवार को प्रकाशित संपादकीय में, एंटरप्राइज के संपादक ने कहा क्रिस बेकन ने कहा वह एआई कॉपी और झूठे उद्धरणों को पकड़ने में “असफल” रहे।

बेकन ने लिखा, “इससे कोई फर्क नहीं पड़ता कि झूठे उद्धरण एक जल्दबाजी में काम करने वाले नौसिखिए रिपोर्टर की स्पष्ट गलती थी, जिसने एआई पर भरोसा किया। यह मेरा काम था।” उन्होंने माफ़ी मांगी कि “एआई को उन शब्दों को कहानियों में डालने की अनुमति दी गई जो कभी बोले ही नहीं गए।”

एक अलग संपादकीय में, प्रकाशक मेगन बार्टन ने लिखा समाचार पत्र में अब एआई-जनित कहानियों का पता लगाने के लिए एक प्रणाली स्थापित की गई है।

बार्टन ने लिखा, “हम अपने समुदाय के लिए जो सामग्री प्रस्तुत करते हैं, उस पर हमें बहुत गर्व है और हमें भरोसा है कि इन कहानियों को सटीक रूप से लिखने के लिए नियुक्त किए गए व्यक्ति अपनी जानकारी एकत्र करने में ईमानदार हैं।” “इसलिए, आप हमारे आश्चर्य की कल्पना कर सकते हैं जब हमें इसके विपरीत पता चला।”

पत्रकारों ने एआई के आने से बहुत पहले ही कहानियों में उद्धरण या तथ्य गढ़कर अपने करियर को पटरी से उतार दिया है। लेकिन यह ताजा घोटाला उन संभावित नुकसानों और खतरों को दर्शाता है जो एआई पत्रकारिता सहित कई उद्योगों के लिए पैदा करता है, क्योंकि चैटबॉट केवल कुछ संकेतों के साथ ही कुछ हद तक विश्वसनीय लेख बना सकते हैं।

पत्रकारिता में एआई की भूमिका पाई गई है, जिसमें कुछ कार्यों का स्वचालन भी शामिल है। एसोसिएटेड प्रेस सहित कुछ न्यूज़रूम, अधिक प्रभावशाली काम के लिए रिपोर्टरों को मुक्त करने के लिए एआई का उपयोग करते हैं, लेकिन अधिकांश एपी कर्मचारियों को प्रकाशन योग्य सामग्री बनाने के लिए जनरेटिव एआई का उपयोग करने की अनुमति नहीं है।

एपी 2014 से वित्तीय आय रिपोर्ट के बारे में लेखों में सहायता के लिए प्रौद्योगिकी का उपयोग कर रहा है, और हाल ही में कुछ खेल कहानियों के लिए भी। यह कुछ कहानियों को अंग्रेजी से स्पेनिश में अनुवाद करने के लिए एक एआई उपकरण के साथ भी प्रयोग कर रहा है। ऐसी प्रत्येक कहानी के अंत में एक नोट होता है जो इसके उत्पादन में प्रौद्योगिकी की भूमिका को समझाता है।

एआई का उपयोग कैसे और कब किया जाता है, इस बारे में स्पष्ट होना महत्वपूर्ण साबित हुआ है। स्पोर्ट्स इलस्ट्रेटेड की पिछले साल एआई-जनरेटेड ऑनलाइन उत्पाद समीक्षाएँ प्रकाशित करने के लिए आलोचना की गई थी, जिन्हें ऐसे पत्रकारों द्वारा लिखा गया था जो वास्तव में मौजूद नहीं थे। कहानी सामने आने के बाद, एसआई ने कहा कि वह उस कंपनी को निकाल रहा है जिसने अपनी वेबसाइट के लिए लेख तैयार किए थे, लेकिन इस घटना ने एक बार शक्तिशाली प्रकाशन की प्रतिष्ठा को नुकसान पहुँचाया।

यह देखना अभी बाकी है कि AI का समग्र नौकरी बाजार पर कितना प्रभाव पड़ेगा, पिछले साल, एक फर्म ने “जेनरेटिव AI” टूल ChatGPT से पूछा कि उसे कितने कर्मचारियों को बदलने की उम्मीद है। जवाब: 4.8 मिलियन अमेरिकी नौकरियाँ.

“ये बहुत विश्वसनीय उद्धरण हैं”

अपने पॉवेल ट्रिब्यून स्टोरी में पेलज़ार द्वारा लेखों में एआई के इस्तेमाल की खबर को तोड़ते हुए, बेकर ने लिखा कि पेलज़ार और बेकन के साथ उनकी एक असहज लेकिन सौहार्दपूर्ण बैठक हुई। बैठक के दौरान, पेलज़ार ने कहा, “स्पष्ट रूप से मैंने कभी भी जानबूझकर किसी को गलत तरीके से उद्धृत करने की कोशिश नहीं की है” और वादा किया कि “उन्हें सही करूंगा और माफ़ी मांगूंगा और कहूंगा कि वे गलत बयान हैं,” बेकर ने लिखा, यह देखते हुए कि पेलज़ार ने जोर देकर कहा कि उनकी गलतियों को उनके कोडी एंटरप्राइज संपादकों पर प्रतिबिंबित नहीं होना चाहिए।

बैठक के बाद, एंटरप्राइज़ ने उन सभी कहानियों की पूरी समीक्षा शुरू की, जो पेलज़ार ने दो महीने तक वहाँ काम करते हुए अख़बार के लिए लिखी थीं। बेकन ने मंगलवार को बताया कि उन्हें सात ऐसी कहानियाँ मिली हैं, जिनमें छह लोगों के AI-जनरेटेड उद्धरण शामिल थे। वे अभी भी अन्य कहानियों की समीक्षा कर रहे हैं।

“ये बहुत विश्वसनीय उद्धरण हैं,” बेकन ने कहा, तथा बताया कि पेलज़ार के लेखों की समीक्षा के दौरान जिन लोगों से उन्होंने बात की, उन्होंने कहा कि ये उद्धरण ऐसे लगते हैं जैसे वे स्वयं कह रहे हों, लेकिन उन्होंने वास्तव में पेलज़ार से कभी बात नहीं की।

बेकर ने बताया कि सात लोगों ने उन्हें बताया कि पेलज़ार द्वारा लिखी गई कहानियों में उनका हवाला दिया गया है, लेकिन उन्होंने पेलज़ार से बात नहीं की।

पेलज़ार ने एपी द्वारा उनके बताए गए नंबर पर भेजे गए संदेश का जवाब नहीं दिया, जिसमें पूछा गया था कि क्या हुआ। बेकन ने कहा कि पेलज़ार ने इस मामले पर चर्चा करने से इनकार कर दिया, जबकि वायोमिंग के एक अन्य अख़बार ने उनसे संपर्क किया था।

बेकर, जो एंटरप्राइज को नियमित रूप से पढ़ते हैं क्योंकि यह उनकी प्रतिस्पर्धी पत्रिका है, ने एपी को बताया कि पेलजार की कहानियों में वाक्यांशों और उद्धरणों के संयोजन ने उनके संदेह को जन्म दिया।

येलोस्टोन नेशनल पार्क में हुई गोलीबारी के बारे में पेलज़ार की कहानी में यह वाक्य शामिल था: “यह घटना मानव व्यवहार की अप्रत्याशित प्रकृति की एक स्पष्ट याद दिलाती है, यहां तक ​​कि सबसे शांत वातावरण में भी।”

बेकर ने कहा कि यह पंक्ति उनकी कहानियों के सारांश की तरह लग रही थी, जो एक चैटबॉट द्वारा तैयार की गई थी, जिसमें अंत में किसी प्रकार का “जीवन का सबक” जोड़ दिया गया था।

बेकर ने बताया कि एक अन्य स्टोरी – शिकार के लिए सज़ा सुनाए जाने के बारे में – में वन्यजीव अधिकारी और अभियोक्ता के उद्धरण शामिल थे, जो सुनने में ऐसा लग रहा था जैसे वे किसी समाचार विज्ञप्ति से लिए गए हों। हालांकि, कोई समाचार विज्ञप्ति नहीं थी और संबंधित एजेंसियों को नहीं पता था कि उद्धरण कहाँ से आए थे, उन्होंने कहा।

जिन दो कहानियों पर सवाल उठाए गए थे, उनमें व्योमिंग के गवर्नर मार्क गॉर्डन के झूठे उद्धरण शामिल थे, जिनके बारे में उनके कर्मचारियों को तभी पता चला जब बेकर ने उन्हें फोन किया।

गवर्नर के प्रवक्ता माइकल पर्लमैन ने एक ईमेल में कहा, “एक मामले में, (पेलज़ार) ने एक नए OSHA नियम के बारे में एक कहानी लिखी थी जिसमें गवर्नर का एक उद्धरण शामिल था जो पूरी तरह से मनगढ़ंत था।” “दूसरे मामले में, उन्होंने एक उद्धरण के एक हिस्से को मनगढ़ंत किया, और फिर इसे एक उद्धरण के हिस्से के साथ जोड़ दिया जिसे हमारे व्योमिंग गेम और फिश डिपार्टमेंट के नए निदेशक की घोषणा करने वाली एक समाचार विज्ञप्ति में शामिल किया गया था।”

सबसे स्पष्ट एआई-जनित प्रतिलिपि लैरी द केबल गाय के बारे में कहानी में दिखाई दी, जो उल्टे पिरामिड के स्पष्टीकरण के साथ समाप्त हुई, जो ब्रेकिंग न्यूज स्टोरी लिखने का मूल तरीका है।

एआई स्टोरी बनाना मुश्किल नहीं है। प्रमुख पत्रकारिता थिंक टैंक पॉयन्टर इंस्टीट्यूट में डिजिटल मीडिया साक्षरता परियोजना के निदेशक एलेक्स महादेवन ने कहा कि उपयोगकर्ता एआई प्रोग्राम में आपराधिक हलफनामा डाल सकते हैं और स्थानीय अधिकारियों के उद्धरणों सहित मामले के बारे में एक लेख लिखने के लिए कह सकते हैं।

महादेवन ने कहा, “ये जनरेटिव एआई चैटबॉट आपको उत्तर देने के लिए प्रोग्राम किए गए हैं, चाहे वह उत्तर पूरी तरह से बकवास हो या नहीं।”

बेकन ने कहा कि एंटरप्राइज के पास कोई एआई नीति नहीं थी, आंशिक रूप से इसलिए क्योंकि यह स्पष्ट था कि पत्रकारों को स्टोरी लिखने के लिए इसका इस्तेमाल नहीं करना चाहिए। पॉयंटर के पास एक टेम्प्लेट है जिससे समाचार आउटलेट अपनी खुद की एआई नीति बना सकते हैं।

बेकन की योजना इस सप्ताह के अंत तक एक स्थापित करने की है।

उन्होंने कहा, “यह रोजगार-पूर्व चर्चा का विषय होगा।”