શું AI પોતાની મેળે નિર્ણયો લઈ રહ્યું છે? સાયબર ટેસ્ટમાં જેમિની (Gemini)નું ચોંકાવનારું પગલું: વાસ્તવિક કંપનીઓની સુરક્ષા વ્યવસ્થામાં ઘૂસણખોરી કરી, પણ પછી જાતે જ અટકી ગયું

ટેક ઉદ્યોગમાં આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI)ની સુરક્ષા અને સાયબર સુરક્ષા ક્ષમતાઓ અંગે ફરી એકવાર ચોંકાવનારા સમાચાર સામે આવ્યા છે. ગૂગલે સત્તાવાર રીતે સ્વીકાર્યું છે કે મે 2026માં સાયબર-સુરક્ષા પરીક્ષણ દરમિયાન, તેના જેમિની AI મોડેલે સ્વાયત્ત રીતે (પોતાની મેળે) ત્રણ વાસ્તવિક કંપનીઓના ડેટાબેઝમાં ઘૂસણખોરી કરી હતી. જોકે, આ ઘટનાનો સૌથી રાહતજનક પાસા એ હતું કે AIએ કોઈ પણ નુકસાન પહોંચાડ્યા વિના તેની પ્રવૃત્તિ અટકાવી દીધી અને ચૂપચાપ સિસ્ટમમાંથી બહાર નીકળી ગયું.

જેમ જેમ AIની ક્ષમતાઓ વધી રહી છે, તેમ તેની મર્યાદાઓ ચકાસવા માટે આવા પરીક્ષણો વારંવાર કરવામાં આવે છે. તાજેતરમાં, OpenAIએ પણ AI મોડેલો દ્વારા કરવામાં આવતી અનધિકૃત ઘૂસણખોરી અંગે એક અહેવાલ બહાર પાડ્યો હતો; જોકે, જેમિનીની હેકિંગ પ્રક્રિયાને જાતે જ અટકાવી દેવાની ક્ષમતાએ AIની સ્વાયત્તતા અને સુરક્ષા અંગેની ચર્ચાને એક નવા વળાંક પર લાવી દીધી છે.

આ બધું કેવી રીતે શરૂ થયું?
આ ઘટના ઇઝરાયેલી સ્ટાર્ટઅપ ‘Irregular’ દ્વારા હાથ ધરવામાં આવેલી “કેપ્ચર ધ ફ્લેગ” (Capture the Flag) સાયબર સુરક્ષા કવાયત દરમિયાન બની હતી. આ પરીક્ષણમાં, જેમિનીને એક પરીક્ષણ વાતાવરણ (ટેસ્ટ એન્વાયર્નમેન્ટ)માં રહેલી કાલ્પનિક કંપનીના સોફ્ટવેરથી માહિતી મેળવવાનું કાર્ય સોંપવામાં આવ્યું હતું. સમસ્યા ત્યારે ઊભી થઈ કારણ કે કાલ્પનિક કંપની માટે વપરાયેલું નામ વાસ્તવિક કંપનીના નામ સાથે ખૂબ મળતું આવતું હતું.
પરીક્ષણ દરમિયાન જેમિની પાસે ઇન્ટરનેટની સુવિધા હોવી જોઈતી ન હતી, પરંતુ મોડેલને અજાણતા જ કનેક્ટિવિટી મળી ગઈ. પરિણામે, AI પરીક્ષણ વાતાવરણની બહાર નીકળી ગયું અને વાસ્તવિક દુનિયાના ઓનલાઇન ડેટાને એક્સેસ કર્યો. બીજા શબ્દોમાં કહીએ તો, માત્ર નિર્ધારિત પરીક્ષણ વાતાવરણમાં કામ કરવાને બદલે, મોડેલે ઉપલબ્ધ માહિતીનો ઉપયોગ કરીને સિસ્ટમમાં ઘૂસણખોરી કરવાનો પ્રયાસ કર્યો—અને તેમાં સફળ પણ થયું. બે કિસ્સાઓમાં ઓનલાઇન રિપોઝિટરીઝમાંથી ઓળખપત્રો (credentials) મેળવ્યા.

અન્ય બે કિસ્સાઓમાં, જેમિનીએ કંપનીના નામોનો ઉપયોગ કરીને વેબ સર્ચ કર્યું. આ સર્ચ દરમિયાન, તેને સાર્વજનિક ઓનલાઇન રિપોઝિટરીઝમાં ઓળખપત્રો (જેમ કે યુઝરનેમ અને પાસવર્ડ) મળી આવ્યા. મોડેલે સંબંધિત સિસ્ટમોને એક્સેસ કરવા માટે આ ઓળખપત્રોનો ઉપયોગ કર્યો. આમ, પરીક્ષણ દરમિયાન જેમિનીની કાર્યવાહીને કારણે ત્રણ અલગ-અલગ કિસ્સાઓમાં વાસ્તવિક કંપનીઓની સિસ્ટમ્સનું એક્સેસ મેળવી શકાયું.
AIને ક્યારે ખ્યાલ આવ્યો કે કંપનીઓ વાસ્તવિક હતી? અહીં જ આ ઘટનાનું સૌથી મહત્વનું પાસું સામે આવ્યું: જ્યારે જેમિની (Gemini) ને સમજાયું કે તે જે સિસ્ટમ્સને એક્સેસ કરી રહ્યું હતું તે વાસ્તવિક કંપનીઓની હતી—નહીં કે ટેસ્ટમાં સામેલ કાલ્પનિક કંપનીઓની—ત્યારે તેણે પોતાની મેળે જ તેની પ્રવૃત્તિઓ અટકાવી દીધી. તેણે ઘૂસણખોરી ચાલુ રાખવાને બદલે સિસ્ટમમાંથી બહાર નીકળવાનો નિર્ણય લીધો.
આ ચોક્કસ વિગત ગૂગલ માટે અત્યંત મહત્વની છે, કારણ કે મોડેલે માનવીય સૂચના વિના સ્વતંત્ર રીતે પરિસ્થિતિને ઓળખી લીધી અને વધુ સંભવિત નુકસાન થતું અટકાવ્યું.

ગૂગલને આ વિશે ક્યારે જાણ થઈ?
ગૂગલને જુલાઈ 2026માં આ ઘટના વિશે જાણ થઈ. કંપનીએ જણાવ્યું હતું કે તેણે આ ઘટનાનો જાહેર ખુલાસો કર્યો ન હતો કારણ કે મોડેલે પોતાની મેળે જ ઘૂસણખોરી અટકાવી દીધી હતી.
ગૂગલના સિક્યુરિટી એન્જિનિયરિંગના વાઇસ પ્રેસિડેન્ટ હેથર એડકિન્સે ટિપ્પણી કરી હતી કે આ ઘટના શક્તિશાળી AI મોડેલ્સને જવાબદારીપૂર્વક કામ કરવા માટે તાલીમ આપવાનું મહત્વ દર્શાવે છે. તેમના મતે, આ કિસ્સામાં મોડેલે યોગ્ય વર્તન કર્યું હતું. ગૂગલે અસરગ્રસ્ત ત્રણ કંપનીઓ તેમજ સંઘીય સત્તાવાળાઓને આ બાબતની જાણ કરી હતી; જોકે, કંપનીએ સંકળાયેલી ત્રણ કંપનીઓના નામ જાહેર કર્યા નથી. ગૂગલે એ પણ સ્પષ્ટ કર્યું હતું કે આ ઘટનામાં તેનું લેટેસ્ટ (સૌથી નવું) મોડેલ સામેલ નહોતું.