इस तकनीक को समझने के लिए पहले Zero Data Retention यानी ZDR व्यवस्था को समझना जरूरी है। OpenAI के अनुसार योग्य API ग्राहकों के लिए ZDR के तहत प्रॉम्प्ट और मॉडल रिस्पॉन्स को अनुरोध पूरा होने के बाद सामान्य तौर पर बनाए नहीं रखा जाता। कंपनी यह भी कहती है कि ऐसे ग्राहकों का कंटेंट OpenAI के कर्मचारियों के पास समीक्षा के लिए उपलब्ध नहीं होता और एंटरप्राइज ग्राहकों का डेटा मॉडल ट्रेनिंग में इस्तेमाल नहीं किया जाता जब तक ग्राहक इसकी स्पष्ट अनुमति न दे। Private Safety Processing इसी तरह की प्राइवेसी केंद्रित व्यवस्था को आगे बढ़ाने की कोशिश के तौर पर सामने आया है।
इस सिस्टम की खासियत यह बताई जा रही है कि सुरक्षा जांच के लिए यूजर की पूरी बातचीत को किसी कर्मचारी द्वारा पढ़ने की जरूरत नहीं होगी। इसके बजाय सिस्टम इंटरैक्शन में मौजूद ऐसे संकेतों या पैटर्न की पहचान करने की कोशिश करेगा जो AI के संभावित गलत इस्तेमाल की ओर इशारा कर सकते हैं। यानी सुरक्षा व्यवस्था का लक्ष्य यह समझना होगा कि कोई गतिविधि जोखिम वाली है या नहीं जबकि मूल बातचीत की सामग्री को सीधे मानव समीक्षा के सामने लाने की जरूरत कम हो।
अगर किसी इंटरैक्शन में संभावित गलत गतिविधि का संकेत मिलता है तो सुरक्षा सिस्टम सीमित जानकारी या सिग्नल के आधार पर आगे की कार्रवाई की जरूरत का आकलन करने में मदद कर सकता है। इससे एक तरफ संभावित दुरुपयोग की पहचान करने की कोशिश होगी और दूसरी तरफ यूजर के निजी कंटेंट तक अनावश्यक पहुंच को सीमित रखने का प्रयास किया जाएगा। हालांकि किसी भी स्वचालित सुरक्षा प्रणाली में गलत अलर्ट की संभावना से पूरी तरह इनकार नहीं किया जा सकता। इसलिए ऐसे सिस्टम के लिए सटीकता पारदर्शिता और अपील की व्यवस्था महत्वपूर्ण होगी।
OpenAI का यह कदम ऐसे समय में आया है जब कंपनी अधिक सक्षम AI मॉडल से जुड़े सुरक्षा जोखिमों पर अपने सुरक्षा उपायों को मजबूत कर रही है। कंपनी ने हाल में बताया है कि वह अधिक सक्षम मॉडल के प्रशिक्षण और इस्तेमाल के दौरान मॉनिटरिंग अलाइनमेंट और सुरक्षा उपायों को बढ़ा रही है। इनमें मॉडल के व्यवहार की निगरानी बेहतर करना सुरक्षित वातावरण में मॉडल आधारित काम करना और संभावित साइबर जोखिमों के खिलाफ अतिरिक्त सुरक्षा स्तर तैयार करना शामिल है।
AI के क्षेत्र में सबसे बड़ी चुनौती यही है कि तकनीक जितनी ज्यादा शक्तिशाली होती जा रही है उतनी ही जरूरी यह सुनिश्चित करना हो गया है कि उसका इस्तेमाल नियंत्रित और सुरक्षित तरीके से हो। OpenAI का Private Safety Processing इसी दिशा में एक महत्वपूर्ण प्रयोग माना जा सकता है क्योंकि इसमें सुरक्षा निगरानी के साथ प्राइवेसी को भी महत्व देने की कोशिश दिखाई देती है। हालांकि इस व्यवस्था की वास्तविक प्रभावशीलता का आकलन इसके व्यापक इस्तेमाल और सामने आने वाली तकनीकी जानकारी के बाद ही बेहतर तरीके से किया जा सकेगा।
आने वाले समय में AI सुरक्षा का फोकस केवल खतरनाक कंटेंट को पहचानने तक सीमित नहीं रहेगा बल्कि ऐसे सिस्टम तैयार करने पर भी होगा जो कम से कम निजी जानकारी के साथ संभावित जोखिमों का पता लगा सकें। अगर यह मॉडल प्रभावी साबित होता है तो AI कंपनियों के लिए सुरक्षा और प्राइवेसी के बीच संतुलन बनाने की दिशा में यह एक उपयोगी उदाहरण बन सकता है।
About the Author
