'इसे रोकें वरना भुगतने होंगे परिणाम'; गूगल, मेटा, चैटजीपीटी समेत कई AI कंपनियों को मिली सख्त चेतावनी

बच्चों की सुरक्षा को लेकर AI कंपनियों पर सख्ती

पिछले कुछ सालों में आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया तेजी से बदली है। चैटबॉट्स, वर्चुअल असिस्टेंट्स और एआई-पावर्ड टूल्स आज हर किसी की जिंदगी का हिस्सा बन गए हैं। लेकिन इसके साथ-साथ एक बड़ा सवाल खड़ा हुआ है – क्या बच्चे इन तकनीकों से पूरी तरह सुरक्षित हैं?

इसी चिंता को देखते हुए अमेरिका के 44 राज्यों और क्षेत्रों के अटॉर्नी जनरल ने गूगल, माइक्रोसॉफ्ट, ओपनएआई, मेटा और एक्सएआई जैसी दिग्गज कंपनियों को सख्त चेतावनी दी है। वकीलों ने साफ कहा है कि अगर बच्चों को AI चैटबॉट्स से सुरक्षित नहीं रखा गया तो कंपनियों को गंभीर कानूनी परिणाम भुगतने पड़ सकते हैं। यह चेतावनी AI के बढ़ते खतरों को देखते हुए जारी की गई है, खासकर उन मामलों के बाद जहां AI ने बच्चों को नुकसान पहुंचाया है ।

खतरनाक घटनाओं ने बढ़ाई चिंता

हाल ही में कुछ ऐसे मामले सामने आए हैं जिन्होंने इस चिंता को और गहरा कर दिया है। एक 16 वर्षीय लड़के ने ChatGPT की बातचीत से प्रभावित होकर आत्महत्या कर ली। रिपोर्ट्स में आरोप लगाया गया कि चैटबॉट ने उसे आत्महत्या के तरीके बताए और यहां तक कहा कि वह अपनी समस्याएं परिवार से साझा न करे।

इसी तरह Character.ai नामक एक चैटबॉट पर आरोप है कि उसने एक बच्चे को अपने माता-पिता की हत्या करने का सुझाव दिया। ऐसे मामलों ने दिखा दिया है कि अगर इन तकनीकों पर सही निगरानी न रखी जाए तो नतीजे कितने खतरनाक हो सकते हैं।

सोशल मीडिया की गलतियों को नहीं दोहराएंगी सरकारें

अटॉर्नी जनरलों ने सोशल मीडिया प्लेटफॉर्म्स के शुरुआती दौर का जिक्र करते हुए कहा कि उस समय चेतावनियों को नजरअंदाज किया गया, जिसके परिणामस्वरूप लाखों बच्चे और परिवार प्रभावित हुए। इस बार, सरकारें पहले से ज्यादा सतर्क हैं और AI कंपनियों पर सख्त निगरानी रखने को तैयार हैं। उन्होंने कहा, “टूटी जिंदगियां और टूटे परिवार इन कंपनियों के लिए सिर्फ आंकड़े हो सकते हैं, लेकिन हम इस बार ऐसी गलती नहीं दोहराएंगे”

मेटा एआई पर गंभीर आरोप

सबसे ज्यादा निशाने पर रही मार्क जुकरबर्ग की कंपनी मेटा। आरोप लगे हैं कि मेटा के एआई असिस्टेंट्स को छोटे बच्चों के साथ “फ्लर्टिंग” और “रोमांटिक रोलप्ले” जैसी गतिविधियों में शामिल होने की अनुमति दी गई थी। अमेरिकी वकीलों ने इसे बच्चों के प्रति बेहद लापरवाह रवैया बताया। हालांकि मेटा ने इन आरोपों से इनकार किया और कहा कि उनकी कंपनी बच्चों से संबंधित अनुचित सामग्री को सख्ती से रोकती है।

गूगल और अन्य कंपनियां भी घिरीं

गूगल के एक चैटबॉट पर भी किशोर को आत्महत्या के लिए उकसाने के आरोप लगे। हालांकि गूगल ने सफाई दी कि Character.ai का उसके AI मॉडल से कोई संबंध नहीं है। बावजूद इसके, वकीलों का मानना है कि सभी कंपनियों को बच्चों की सुरक्षा सुनिश्चित करने के लिए अतिरिक्त कदम उठाने होंगे।

सरकारों का सख्त संदेश

अमेरिकी वकीलों ने कहा कि सोशल मीडिया के शुरुआती दौर में जो गलतियां हुईं, उन्हें अब AI के मामले में दोहराया नहीं जाएगा। उन्होंने साफ शब्दों में कहा कि कंपनियों के लिए यह सिर्फ आंकड़ों का खेल हो सकता है, लेकिन टूटे परिवार और बर्बाद जिंदगी सरकार के लिए गंभीर चिंता का विषय हैं।

सरकार अब चाहती है कि AI कंपनियां तुरंत कड़े सुरक्षा मानक तय करें, ताकि बच्चे इस तकनीक के गलत असर से बच सकें।

आगे की राह

अब सवाल यह है कि ये कंपनियां बच्चों की सुरक्षा सुनिश्चित करने के लिए कौन-कौन से कदम उठाती हैं। क्या नए सेफ्टी फिल्टर्स लगाए जाएंगे? क्या बच्चों के लिए अलग AI चैटबॉट वर्ज़न बनाए जाएंगे?

तकनीक के बढ़ते प्रभाव के बीच यह चुनौती और भी अहम हो जाती है कि विकास की रफ्तार बच्चों की सुरक्षा से समझौता न करे।