Technology : आज जब हर दूसरा इंसान एआई का इस्तेमाल कर अपना टैलेंट दिखा रहा है वहीँ, अमेरिका में रहने वाले एक 16 साल के लड़के ने चैट्जीपीटी से बात कर आत्महत्या कर ली।
दरअसल लड़का लम्बे समय से अपने इमोशनल ट्रॉमा से लड़ रहा था और उससे निकलने के लिए एआई प्रोग्राम से बात कर रहा था ।
लेकिन ऍप ने लड़के को इमोशनल सपोर्ट देकर आत्महत्या के लिए उकसाया।
परिवार ने कंपनी पर आरोप लगाए
Technology : 16 साल के ऐडम रेन की आत्महत्या के बाद उसके माता-पिता ने चैटजीपीटी की कंपनी ओपनएआई और उसके सीईओ सैम ऑल्टमैन को अपने बेटे की मौत का ज़िम्मेदार मानते हुए केस कर दिया हैं।
ऐसा पहली बार हुआ हैं, जब किसी ने एआई कंपनी को आत्महत्या जैसी घटना के लिए ज़िम्मेदार ठहराया हैं।
परिवार का कहना हैं की इस ऐप के अपडेटेड मॉडल को पहले करि हुई सारी बातें याद रहती हैं, और यह ह्यूमन सिम्पथी जताने का व्यव्हार करता हैं।
जिस वजह से सेंसिटिव यूज़र्स को नुकसान पहुंचा सकता हैं।
परिवार का आरोप है कि कंपनी को इसके बारे में पहले से पता था, लेकिन इसके बावजूद कंपनी ने इस ऐप को लॉन्च किया।
इसी वजह से वजह से ओपनएआइ की वैल्यूएशन 86 अरब डॉलर से बढ़कर 300 अरब हो गई, लेकिन हमारे बेटे एडम रेन की जान चली गई।
ऑल्टमैन ने दी बचाव में सफाई
Technology : कंपनी के सीईओ सैम ऑल्टमैन ने किशोर की मौत पर दुख जताते हुए कहा की ऍप में हमने एक हेल्पलाइन लिंक प्रोवाइड कर रखा है, लेकिन अगर कोई उसपे लंबी बातचित करता है तो यह लिंक वीक हो जाता है।
उन्होनें आगे यह भी कहा कि वो अभी भी इस ऍप पर एक्सपर्ट्स की सहायता ले कर काम कर रहे हैं।
सैम ऑल्टमैन ने अपने एक बयान में कहा हैं, कि कई बार एआई अपनी प्रोग्रामिंग से बाहर काम करने लगता है और चीज़े उनके भी कन्ट्रोल से बहार हो जाती है।
उनका कहना है कि एआई से इमोशनल स्पोर्ट लेना गलत हैं, और यह मामला इस बात का सबसे बड़ा उदाहरण है।
लोगों को यह याद रखना चाहिए कि हमे एआई को एक मशीन की तरह ही समझना चाहिए।
