કેન્દ્ર સરકારે Grok ના દુરુપયોગ પર કડક કાર્યવાહી કરી, X પાસેથી કાર્યવાહીનો અહેવાલ માંગ્યો

Grok: સરકારે સોશિયલ મીડિયા પ્લેટફોર્મ X પાસેથી તેના Grok ટૂલના દુરુપયોગ અંગે કાર્યવાહીનો અહેવાલ માંગ્યો છે. સરકારે કંપનીને તેના અગાઉના નિર્દેશ બાદ લેવામાં આવેલા પગલાં અને કંપની દ્વારા લેવામાં આવેલા પગલાં સમજાવવા કહ્યું છે.

કેન્દ્ર સરકારે Grok ના દુરુપયોગ સામે કડક વલણ અપનાવ્યું છે. સરકારે સોશિયલ મીડિયા કંપની X ને પત્ર લખ્યો છે. સરકારે Grok અને અન્ય xAI સેવાઓ જેવી AI-આધારિત સેવાઓના દુરુપયોગ દ્વારા અશ્લીલ, નગ્ન, અભદ્ર અને જાતીય રીતે સ્પષ્ટ સામગ્રીના હોસ્ટિંગ, બનાવટ, પ્રકાશન, પ્રસારણ, શેરિંગ અથવા અપલોડિંગને રોકવા માટે લેવામાં આવેલા પગલાં અંગે અહેવાલ માંગ્યો છે.

Grok એ એલોન મસ્કની કંપની xAI દ્વારા વિકસાવવામાં આવેલ AI ચેટબોટ અને સહાયક સાધન છે. આ સાધન સ્વ-પોટ્રેટ પણ બનાવી શકે છે અને પ્રશ્નોના જવાબ પણ આપી શકે છે. તાજેતરમાં, Grok ના દુરુપયોગના ઘણા કિસ્સાઓ સામે આવ્યા છે. કેટલાક લોકોએ સોશિયલ મીડિયા પર વિરોધ કર્યો અને સરકાર પાસેથી કાર્યવાહીની માંગ કરી.

કાયદાઓનો અમલ ન થવાના કારણે

સરકારે પત્રમાં જણાવ્યું હતું કે, સમયાંતરે, વિવિધ સંસદીય હિસ્સેદારોની જાહેર ચર્ચાઓ અને રજૂઆતો દ્વારા, તમને જાણ કરવામાં આવી છે કે તમારા પ્લેટફોર્મ પર પોસ્ટ કરાયેલી અમુક શ્રેણીઓની સામગ્રી શિષ્ટાચાર અને અશ્લીલતા સંબંધિત લાગુ કાયદાઓનું પાલન કરતી નથી.

સરકારે નકલી એકાઉન્ટ્સનો પણ ઉલ્લેખ કર્યો હતો.

સરકારે જણાવ્યું હતું કે, ખાસ કરીને, એવું જોવા મળ્યું છે કે તમારા દ્વારા વિકસાવવામાં આવેલી અને X પ્લેટફોર્મ પર ઉપલબ્ધ કરાયેલી સેવા “ooGrok AI”નો ઉપયોગ વપરાશકર્તાઓ દ્વારા મહિલાઓને દર્શાવતી અશ્લીલ અથવા અપમાનજનક છબીઓ અને વિડિઓઝ પોસ્ટ કરવા માટે કરવામાં આવી રહ્યો છે. આશ્ચર્યજનક રીતે, તેનો ઉપયોગ નકલી એકાઉન્ટ્સ દ્વારા કરવામાં આવી રહ્યો છે.

પ્લેટફોર્મની સુરક્ષા અને સિસ્ટમો પર પ્રશ્ન ઉઠાવવામાં આવ્યો છે.

પત્રમાં વધુમાં જણાવાયું છે કે આ મુદ્દો ફક્ત નકલી ID પૂરતો મર્યાદિત નથી; સોશિયલ મીડિયા પર તેમના ફોટા અથવા વિડિઓઝ પોસ્ટ કરતી મહિલાઓને પણ Grok દ્વારા નિશાન બનાવવામાં આવે છે. આવા કિસ્સાઓમાં, તેમના ફોટા Grok ના AI દ્વારા હેરફેર કરવામાં આવે છે અને ક્યારેક અશ્લીલ રીતે રજૂ કરવામાં આવે છે. આ વર્તન પ્લેટફોર્મના સુરક્ષા પગલાં અને સિસ્ટમોની ગંભીર નિષ્ફળતા દર્શાવે છે.

સરકાર કાયદાનો ઉલ્લેખ કરે છે.

આ સંદર્ભમાં, અને લાગુ કાયદા હેઠળ અધિકૃત એજન્સીઓ દ્વારા લેવામાં આવતી અથવા લેવામાં આવતી કાર્યવાહીને પૂર્વગ્રહ રાખ્યા વિના, ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (મંત્રાલય) નું માનવું છે કે માહિતી ટેકનોલોજી અધિનિયમ, 2000 (IT અધિનિયમ) અને માહિતી ટેકનોલોજી નિયમો, 2021 ની નિયમનકારી જોગવાઈઓનું તમારા પ્લેટફોર્મ દ્વારા પૂરતું પાલન કરવામાં આવી રહ્યું નથી.