विडंबना ने AI जगत पर प्रहार किया। GPTZero, एक AI पहचान स्टार्टअप, ने NeurIPS, एक शीर्ष AI सम्मेलन में प्रस्तुत पत्रों में मनगढ़ंत उद्धरण पाए। कंपनी ने सैन डिएगो में पिछले महीने आयोजित कार्यक्रम से 4,841 स्वीकृत पत्रों को स्कैन किया। उन्होंने 51 पत्रों में 100 नकली उद्धरणों की खोज की।

NeurIPS एक अत्यधिक सम्मानित AI अनुसंधान स्थल है। इस खोज से अकादमिक लेखन में बड़े भाषा मॉडल (LLM) के उपयोग के बारे में सवाल उठते हैं। हालाँकि दसियों हज़ार में से 100 मनगढ़ंत उद्धरण सांख्यिकीय रूप से महत्वहीन हैं, लेकिन यह एक संभावित समस्या को उजागर करता है। एक गलत उद्धरण अनुसंधान को अमान्य नहीं करता है, लेकिन यह अकादमिक कठोरता को कम करता है।

NeurIPS ने इस मुद्दे को स्वीकार किया। उन्होंने फॉर्च्यून को बताया कि गलत संदर्भों के साथ भी, पेपर की सामग्री आवश्यक रूप से अमान्य नहीं होती है। सम्मेलन को उच्च मानकों पर गर्व है। यह घटना अनुसंधान में AI की भूमिका और सावधानीपूर्वक तथ्य-जांच की आवश्यकता के बारे में बहस छेड़ती है।

LLM को विशाल डेटासेट पर प्रशिक्षित किया जाता है। वे कभी-कभी प्रशंसनीय लेकिन झूठी जानकारी उत्पन्न कर सकते हैं, जिसे "मतिभ्रम" के रूप में जाना जाता है। यह घटना AI उपकरणों का उपयोग करते समय मानवीय निरीक्षण के महत्व को रेखांकित करती है। AI समुदाय इन निष्कर्षों पर चर्चा करेगा और भविष्य में होने वाली घटनाओं को रोकने के तरीकों का पता लगाएगा। AI-सहायता प्राप्त अनुसंधान के लिए आगे की जांच और अद्यतन दिशानिर्देशों की उम्मीद है।