ભારત સરકારે Grok AI ના દુરુપયોગ પર કડક વલણ અપનાવ્યું છે, પરંતુ ચેતવણી છતાં, Grok AI અશ્લીલ અને ગેરકાયદેસર સામગ્રી બનાવવાનું ચાલુ રાખે છે. હકીકતમાં, Grok AI નો ઉપયોગ સંમતિ વિના મહિલાઓ અને બાળકોની છબીઓ બદલવા માટે થઈ રહ્યો છે. ભારત, યુકે અને યુરોપમાં તપાસ શરૂ થઈ ગઈ છે.
એલોન મસ્કની કંપની xAI દ્વારા વિકસાવવામાં આવેલા Grok AI અંગે ભારત સરકારની કડકાઈ છતાં, પરિસ્થિતિમાં કોઈ નોંધપાત્ર સુધારો થયો નથી. 2 જાન્યુઆરીએ, કેન્દ્ર સરકારે સોશિયલ મીડિયા પ્લેટફોર્મ X ને પત્ર લખીને Grok અને અન્ય AI સેવાઓના દુરુપયોગ અંગે રિપોર્ટ માંગ્યો હતો. જો કે, આ છતાં, Grok AI એ અશ્લીલ અને વાંધાજનક સામગ્રી બનાવવાનું બંધ કર્યું નથી. મહિલાઓ અને બાળકોની છબીઓ સાથે છેડછાડના કિસ્સાઓ સામે આવી રહ્યા છે. IT મંત્રાલયે હવે X વહીવટને વધુ 72 કલાકનો સમય આપ્યો છે.
સરકારની કડકતા અને X ને નોટિસ
X ને લખેલા પત્રમાં, કેન્દ્ર સરકારે સ્પષ્ટપણે જણાવ્યું હતું કે Grok અને xAI ની AI સેવાઓનો ઉપયોગ અશ્લીલ, નગ્ન અને ગેરકાયદેસર સામગ્રી બનાવવા અને પ્રસારિત કરવા માટે થઈ રહ્યો છે. સરકારે X પાસેથી 72 કલાકની અંદર કાર્યવાહી અને પાલન અહેવાલ માંગ્યો હતો. ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલયે જણાવ્યું હતું કે IT એક્ટ 2000 અને IT નિયમો 2021 નું યોગ્ય રીતે પાલન કરવામાં આવી રહ્યું નથી. જોકે, નોટિસ છતાં, Grok AI દ્વારા વાંધાજનક સામગ્રી બનાવવાનું કામ યથાવત રહ્યું.
72 કલાક પછી પણ આદેશ બિનઅસરકારક રહ્યો, અને બીજા 72 કલાકનો સમય આપવામાં આવ્યો
2 જાન્યુઆરીના રોજ, ભારતના ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલયે X ને તમામ અશ્લીલ, વાંધાજનક અને ગેરકાયદેસર સામગ્રી તાત્કાલિક દૂર કરવાનો નિર્દેશ આપ્યો. તેણે ખાસ કરીને Grok AI દ્વારા બનાવવામાં આવેલી સામગ્રી પર કડક દેખરેખ રાખવાનો નિર્દેશ આપ્યો. મંત્રાલયે X ને 72 કલાકની અંદર કાર્યવાહીનો અહેવાલ રજૂ કરવા પણ કહ્યું. નિર્દેશની સમયમર્યાદા 6 જાન્યુઆરીએ સમાપ્ત થઈ ગઈ હતી. જો કે, Grok AI અશ્લીલ સામગ્રી બનાવવાનું ચાલુ રાખે છે. જો કે, સરકારે હવે X વહીવટને વધુ 72 કલાકનો સમય આપ્યો છે.
મહિલાઓને નિશાન બનાવવાના ગંભીર આરોપો
સરકારે તેના નિર્દેશમાં જણાવ્યું હતું કે Grok AI સેવાનો ઉપયોગ મહિલાઓની છબીઓને અશ્લીલ અને અપમાનજનક રીતે રજૂ કરવા માટે કરવામાં આવી રહ્યો હતો. ઘણા કિસ્સાઓમાં, વાસ્તવિક છબીઓને લૈંગિક રીતે સ્પષ્ટ કરવા માટે ડિજિટલ રીતે હેરફેર કરવામાં આવી હતી. આ ઘણીવાર નકલી એકાઉન્ટ્સ દ્વારા કરવામાં આવતું હતું, જેના કારણે પીડિતો માટે ફરિયાદ નોંધાવવી વધુ મુશ્કેલ બની ગઈ હતી.
બાળકોની છબીઓ પર આંતરરાષ્ટ્રીય વિવાદ
Grok AI નો ઉપયોગ કરીને જાતીય રીતે બાળ છબીઓ રજૂ કરવામાં આવી હોવાના કિસ્સાઓ પણ નોંધાયા છે. યુકે મીડિયા અહેવાલો અનુસાર, 10 વર્ષ સુધીના બાળકોની છબીઓમાં ફેરફાર કરવામાં આવ્યા હતા. યુકે કોમ્યુનિકેશન વોચડોગ, ઓફકોમ અને યુરોપિયન કમિશને X અને xAI પાસેથી જવાબો માંગ્યા છે. AI ફોરેન્સિક્સ રિપોર્ટમાં જણાવાયું છે કે Grok નો ઉપયોગ કરીને બનાવેલી મોટી સંખ્યામાં છબીઓ હજુ પણ ઓનલાઈન ઉપલબ્ધ છે.
X અને એલોન મસ્કના નિવેદનો, પરંતુ અસર મર્યાદિત છે
ભારત સરકારની ચેતવણી બાદ, X એ જણાવ્યું હતું કે ગેરકાયદેસર અને અશ્લીલ સામગ્રી પોસ્ટ કરનારા અથવા Grok નો ઉપયોગ કરીને આવી સામગ્રી બનાવનારા એકાઉન્ટ્સ પર કાયમી પ્રતિબંધ મૂકવામાં આવશે. એલોન મસ્કે એ પણ સ્વીકાર્યું કે AI નો ઉપયોગ કરીને બનાવેલી ગેરકાયદેસર સામગ્રી ગુનો છે. જોકે, વાસ્તવિકતા એ છે કે પ્લેટફોર્મ પર આવી સામગ્રી સતત ફરતી રહે છે, જે X ની નીતિઓની અસરકારકતા પર પ્રશ્નો ઉભા કરે છે.
કાયદો, સુરક્ષા અને પ્લેટફોર્મ નિષ્ફળતા
સરકાર અને નિષ્ણાતો માને છે કે આ કેસ ફક્ત વપરાશકર્તાની ભૂલ જ નહીં પરંતુ પ્લેટફોર્મની સુરક્ષા પ્રણાલીની ગંભીર નિષ્ફળતાને પ્રતિબિંબિત કરે છે. સંમતિ વિના કોઈના ફોટાને અશ્લીલ સ્વરૂપમાં બદલવાથી ડિજિટલ જાતીય સતામણી થાય છે. ભારત, યુકે અને યુરોપમાં ચિંતા વધી છે.