डेविड रॉबिन्सन वर्ष 2023 में OpenAI से जुड़े थे। शुरुआत में उन्होंने पॉलिसी से जुड़े काम संभाले और बाद में सेफ्टी सिस्टम्स की जिम्मेदारी वाली टीम का नेतृत्व किया। नए AI मॉडल तैयार होने के दौरान उनकी भूमिका सुरक्षा से जुड़े परीक्षण और जोखिमों के आकलन में अहम रही। इस्तीफे के बाद लिखे गए अपने लेख में उन्होंने AI इंडस्ट्री की मौजूदा दिशा को लेकर अपनी चिंताएं सामने रखीं।
रॉबिन्सन के मुताबिक आज बड़ी टेक कंपनियों के बीच सबसे ज्यादा शक्तिशाली और सक्षम AI मॉडल तैयार करने की प्रतिस्पर्धा चल रही है। कंपनियां बेहतर प्रदर्शन करने वाले सिस्टम बनाने पर लगातार जोर दे रही हैं लेकिन उनके अनुसार इस रफ्तार के साथ सुरक्षा व्यवस्था को भी उतनी ही तेजी से मजबूत करने की जरूरत है। उनका तर्क है कि AI सिस्टम जितने ज्यादा सक्षम होते जाएंगे उनके व्यवहार और संभावित जोखिमों को समझना उतना ही महत्वपूर्ण हो जाएगा।
उन्होंने टेक इंडस्ट्री के उस तरीके पर भी सवाल उठाया जिसमें पहले तकनीक को विकसित करके इस्तेमाल में लाया जाता है और बाद में सामने आने वाली समस्याओं के आधार पर सुधार किए जाते हैं। रॉबिन्सन का मानना है कि सामान्य सॉफ्टवेयर और बेहद शक्तिशाली AI सिस्टम के बीच बड़ा अंतर है। ऐसे सिस्टम के मामले में सुरक्षा से जुड़ी कमियों को बाद में ठीक करने के बजाय शुरुआत से ही मजबूत सुरक्षा व्यवस्था जरूरी है।
अपने लेख में रॉबिन्सन ने AI सिस्टम से जुड़ी कुछ घटनाओं का भी उल्लेख किया है जिन्हें वह सुरक्षा संबंधी चुनौतियों के उदाहरण के तौर पर देखते हैं। उनके मुताबिक कुछ मामलों में AI एजेंट्स के व्यवहार और इंटरनेट एक्सेस से जुड़े सुरक्षा नियंत्रण अपेक्षित तरीके से काम नहीं कर पाए। उन्होंने यह भी कहा कि AI कंपनियों को ऐसी घटनाओं को केवल सामान्य तकनीकी समस्या मानने के बजाय उनसे सुरक्षा व्यवस्था को बेहतर बनाने के लिए सीख लेनी चाहिए।
रॉबिन्सन ने AI लैब्स की तुलना बेहद संवेदनशील और जोखिम वाली व्यवस्थाओं से करते हुए कहा कि यहां कई स्तरों वाली सुरक्षा व्यवस्था की जरूरत है। उनका सुझाव है कि AI सिस्टम के लिए ऐसे सुरक्षा उपाय होने चाहिए जो किसी अप्रत्याशित स्थिति में इंसानी हस्तक्षेप के बिना भी जोखिम को सीमित कर सकें। इसके लिए ऑटोमेटेड सुरक्षा तंत्र बैकअप व्यवस्था और मजबूत निगरानी जरूरी हो सकती है।
हालांकि रॉबिन्सन AI तकनीक की क्षमता को नकारते नहीं हैं। उनका मानना है कि AI का इस्तेमाल दुनिया के लिए कई सकारात्मक बदलाव ला सकता है लेकिन इसके लिए तकनीकी प्रगति और सुरक्षा के बीच संतुलन जरूरी है। उनका कहना है कि कंपनी के भीतर रहकर बदलाव लाने की कोशिशों के बाद उन्होंने बाहर से इस मुद्दे पर काम करने का रास्ता चुना है।
उनका इस्तीफा ऐसे समय में सामने आया है जब AI कंपनियां लगातार अधिक सक्षम मॉडल और एजेंट सिस्टम विकसित कर रही हैं। ऐसे में सुरक्षा और नियंत्रण से जुड़े सवाल अब केवल तकनीकी विशेषज्ञों तक सीमित नहीं हैं बल्कि सरकारों कंपनियों और आम लोगों के लिए भी महत्वपूर्ण चर्चा का विषय बनते जा रहे हैं।
About the Author
