ओपनएआई ने एआई उत्पन्न टेक्स्ट का पता लगाने के लिए एआई क्लासिफायर टूल लॉन्च किया
OpenAI, ChatGPT के पीछे की कंपनी ने यह निर्धारित करने के लिए एक नया AI क्लासिफायर टूल लॉन्च किया है कि क्या टेक्स्ट किसी व्यक्ति द्वारा या आर्टिफिशियल इंटेलिजेंस द्वारा लिखा गया है।
हमने विभिन्न प्रकार के प्रदाताओं से मानव द्वारा लिखे गए टेक्स्ट और AI द्वारा लिखे गए टेक्स्ट के बीच अंतर करने के लिए एक क्लासिफायरियर को प्रशिक्षित किया है।
जबकि एआई-लिखित सभी पाठों का विश्वसनीय रूप से पता लगाना असंभव है, हमारा मानना है कि अच्छे क्लासिफायर झूठे दावों के लिए न्यूनीकरण की सूचना दे सकते हैं कि एआई-जनित पाठ मानव द्वारा लिखा गया था: उदाहरण के लिए, स्वचालित गलत सूचना अभियान चलाना, अकादमिक बेईमानी के लिए एआई उपकरणों का उपयोग करना, और एआई चैटबॉट को मानव के रूप में स्थापित करना।
हमारा वर्गीकारक पूरी तरह विश्वसनीय नहीं है। अंग्रेजी पाठों के एक "चुनौती सेट" पर हमारे मूल्यांकन में, हमारा क्लासिफायर एआई-लिखित पाठ के 26% (सच्चे सकारात्मक) को "संभावित एआई-लिखित" के रूप में सही ढंग से पहचानता है, जबकि मानव-लिखित पाठ को गलत तरीके से एआई-लिखित 9% के रूप में लेबल करता है।
समय (झूठी सकारात्मक)। जैसे-जैसे इनपुट टेक्स्ट की लंबाई बढ़ती है, वैसे-वैसे हमारे क्लासिफायरियर की विश्वसनीयता में सुधार होता है। हमारे पहले जारी किए गए क्लासिफायरियर की तुलना में, यह नया क्लासिफायरियर हाल के AI सिस्टम के टेक्स्ट पर काफी अधिक विश्वसनीय है।
मैंने कल ही लिखे दो लेखों पर इसका परीक्षण किया और एक का परिणाम यह था कि एआई उत्पन्न होने की संभावना नहीं थी और इसने कहा कि दूसरे के एआई उत्पन्न होने की संभावना थी।
इसलिए एआई जनरेट की गई सामग्री की पहचान करने के लिए एक सटीक उपकरण बनने से पहले इसे स्पष्ट रूप से कुछ काम करने की आवश्यकता है