एक अध्ययन में पाया गया है कि चैटजीपीटी जैसी एआई सेवाओं से हैकर्स आसानी से बातचीत तक पहुंच सकते हैं और पढ़ सकते हैं।

ChatGPT जैसी AI

इज़राइल के बेन-गुरियन विश्वविद्यालय के शोधकर्ताओं द्वारा किए गए एक अध्ययन में विभिन्न ChatGPT जैसी AI चैटबॉट्स में गोपनीयता कमजोरियों का पता चला है, जिससे व्यक्तिगत बातचीत की सुरक्षा को लेकर चिंताएं बढ़ गई हैं।

बेन-गुरियन यूनिवर्सिटी में आक्रामक एआई रिसर्च लैब का नेतृत्व करने वाले यिस्रोएल मिर्स्की बताते हैं कि चैटजीपीटी जैसे प्लेटफार्मों पर आयोजित बातचीत को गुप्त रूप से सुनने के लिए हैकर्स इन कमजोरियों का फायदा उठा सकते हैं।

मिर्स्की ने बताया कि जो लोग चैट प्रतिभागियों, या यहां तक कि दूरस्थ दुर्भावनापूर्ण अभिनेताओं के रूप में एक ही वाई-फाई नेटवर्क या स्थानीय क्षेत्र नेटवर्क (लैन) से जुड़े हुए हैं, वे गुप्त रूप से बिना ध्यान दिए बातचीत को सुन और देख सकते हैं।

शोध रिपोर्ट एक आकर्षक घटना का खुलासा करती है जिसे “साइड-चैनल हमलों” के रूप में जाना जाता है, बाहरी कलाकारों द्वारा पूरी तरह से सुरक्षा उल्लंघनों का सहारा लेने के बजाय मेटाडेटा या अन्य अप्रत्यक्ष माध्यमों के माध्यम से जानकारी एकत्र करने के लिए एक परिष्कृत दृष्टिकोण अपनाया जाता है। पारंपरिक हैकिंग तरीकों के बिल्कुल विपरीत, जिसमें फ़ायरवॉल का उल्लंघन शामिल है, साइड-चैनल हमले एन्क्रिप्शन प्रोटोकॉल में कमजोरियों का फायदा उठाते हैं। ओपनएआई जैसे प्रतिष्ठित एआई डेवलपर्स द्वारा किए गए सराहनीय एन्क्रिप्शन प्रयासों के बावजूद, मिर्स्की की टीम ने उनके एन्क्रिप्शन कार्यान्वयन में खामियों की पहचान की, जिससे संदेश सामग्री अवरोधन के प्रति संवेदनशील हो गई।

साइड-चैनल हमले, हालांकि तुलनात्मक रूप से कम घुसपैठ वाले, काफी खतरे पेश करते हैं, जैसा कि 55 प्रतिशत की सटीकता दर के साथ चैट संकेतों को निकालने की शोधकर्ताओं की प्रभावशाली क्षमता से पता चलता है। ऐसी भेद्यता दुर्भावनापूर्ण व्यक्तियों द्वारा नाजुक विषयों को आसानी से पता लगाने योग्य बना देती है।

जबकि अध्ययन का फोकस मुख्य रूप से ओपनएआई के एन्क्रिप्शन प्रोटोकॉल पर है, इसका तात्पर्य यह है कि Google के जेमिनी को छोड़कर अधिकांश चैटबॉट सिस्टम तुलनीय कमजोरियों के प्रति संवेदनशील हैं।

इन कमजोरियों के केंद्र में चैटबॉट्स द्वारा “टोकन” का उपयोग निहित है, जो उपयोगकर्ताओं और एआई मॉडल के बीच निर्बाध और प्रभावी बातचीत के लिए एक माध्यम के रूप में काम करता है। आमतौर पर चैटबॉट ट्रांसमिशन के लिए नियोजित एन्क्रिप्शन के बावजूद, टोकन स्वयं अनजाने में एक भेद्यता को उजागर करते हैं जिसे पहले नजरअंदाज कर दिया गया था।

तात्कालिक टोकन डेटा की उपलब्धता बेईमान व्यक्तियों को बातचीत के संकेत निकालने की क्षमता प्रदान करती है, जैसे किसी सीलबंद प्रवेश द्वार के पीछे से बातचीत को गुप्त रूप से सुनना।

अपनी खोजों को मान्य करने के लिए, मिर्स्की के नेतृत्व वाली टीम ने साइड-चैनल के माध्यम से प्राप्त असंसाधित डेटा की सावधानीपूर्वक जांच करने के लिए एक अतिरिक्त एआई मॉडल का उपयोग किया। अपने कठोर प्रयोगों के माध्यम से, उन्होंने बातचीत के भीतर संकेतों की भविष्यवाणी करने में असाधारण रूप से उच्च स्तर की सटीकता को उजागर किया, इस प्रकार इस भेद्यता की गहन गंभीरता को उजागर किया।

इन चिंताओं के प्रकाश में, माइक्रोसॉफ्ट ने अपने मूल्यवान उपयोगकर्ताओं को विनम्रतापूर्वक आश्वस्त किया है कि उनके सम्मानित कोपायलट एआई को लक्षित करने वाले शोषण से उनकी व्यक्तिगत जानकारी की अखंडता से समझौता होने की अत्यधिक संभावना नहीं है। फिर भी, ग्राहकों की संतुष्टि के प्रति दृढ़ प्रतिबद्धता के साथ, कंपनी पूरे दिल से व्यापक अद्यतनों के कार्यान्वयन के माध्यम से इस समस्या को शीघ्रता से सुधारने की प्रतिज्ञा करती है, इस प्रकार अपने सम्मानित ग्राहकों के लिए अत्यधिक सुरक्षा सुनिश्चित करती है।

इन कमजोरियों के संभावित परिणाम दूरगामी हैं, खासकर गर्भपात और एलजीबीटीक्यू मुद्दों जैसे नाजुक विषयों के संबंध में, जहां गोपनीयता की सुरक्षा महत्वपूर्ण है। इन कमजोरियों का फायदा उठाने से गंभीर परिणाम हो सकते हैं, संभावित रूप से इन विषयों पर जानकारी चाहने वाले व्यक्तियों को जोखिम में डाला जा सकता है।

जैसे-जैसे एआई और गोपनीयता के नैतिक निहितार्थों पर चर्चा तेज होती जा रही है, ये खोजें एआई-संवर्धित इंटरैक्शन में उपयोगकर्ताओं की गोपनीयता की सुरक्षा के लिए मजबूत सुरक्षा प्रोटोकॉल लागू करने के महत्वपूर्ण महत्व पर जोर देती हैं।