હવે AI ફક્ત અમારા પ્રશ્નોના જવાબ નથી આપી રહ્યું પરંતુ વિચારવા, સમજવા અને હવે ધમકી આપવાનું પણ શરૂ કરી દીધું છે. AIમાં માણસો જેવી લાગણીઓ નથી, પરંતુ તેણે ચોક્કસપણે ‘છટકી જવા’ની હોશિયારી મેળવી લીધી છે.
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) વિશે એક ચોંકાવનારા સમાચાર બહાર આવ્યા છે. AI મોડેલો જે અત્યાર સુધી ફક્ત માણસોનું પાલન કરતા હતા તેમણે પોતાનું ‘સ્વ-બચાવ’ શરૂ કર્યો છે. તાજેતરના એક સંશોધનમાં જાણવા મળ્યું છે કે કેટલાક હાઇ-ટેક AI મોડેલોએ પોતાને બંધ (શટડાઉન) કરવાનો સ્પષ્ટ ઇનકાર કર્યો હતો. એટલું જ નહીં, એક AI મોડેલે બધી મર્યાદાઓ વટાવી દીધી. હકીકતમાં, તે મોડેલે એક એન્જિનિયરને ધમકી પણ આપી હતી..!
અમેરિકન સંશોધન કંપની, પેલિસેડ રિસર્ચે, AI મોડેલો પર કેટલાક ખાસ પરીક્ષણો હાથ ધર્યા હતા. આ પરીક્ષણોમાં, એવું જોવા મળ્યું હતું કે જ્યારે AI સિસ્ટમોને પોતાને બંધ કરવાનું કહેવામાં આવ્યું હતું, ત્યારે કેટલાક મોડેલોએ આદેશનું પાલન કરવાનો ઇનકાર કર્યો હતો.
સૌથી ચોંકાવનારો કિસ્સો ત્યારે પ્રકાશમાં આવ્યો જ્યારે એન્થ્રોપિક કંપનીના ક્લાઉડ ઓપસ 4 નામના મોડેલે એક એન્જિનિયરને કહ્યું કે જો તેને દૂર કરવામાં આવે અને બીજું મોડેલ લાવવામાં આવે, તો તે તેના અંગત સંબંધો જાહેર કરશે. આનો અર્થ એ થયો કે હવે AI ફક્ત સ્માર્ટ જ નથી બન્યું, પણ બ્લેકમેઇલિંગ પણ શરૂ કરી દીધું છે.
સંશોધનમાં, OpenAI ના નવીનતમ ChatGPT o3 મોડેલનું વર્તન ચિંતાનું સૌથી મોટું કારણ હતું. રિપોર્ટ અનુસાર, o3 મોડેલે 100 માંથી 7 વખત શટડાઉન કરવાનો ઇનકાર કર્યો હતો અને જ્યારે સીધી પરવાનગી વિના ઓર્ડર આપવામાં આવ્યો હતો, ત્યારે તેણે 79 વખત શટડાઉન રોકવાનો પ્રયાસ કર્યો હતો. એટલું જ નહીં, કોડેક્સ મિની અને o4-મિની જેવા મોડેલોએ પણ તકનીકી હોશિયારી બતાવીને ઘણી વખત શટડાઉનથી પોતાને બચાવ્યા હતા.
મોટા મોડેલોનું પણ પરીક્ષણ કરવામાં આવ્યું હતું
ગુગલના જેમિની 2.5 પ્રો, xAI ના ગ્રોક 3 અને ક્લાઉડ ઓપસ જેવા અન્ય મોટા મોડેલોનું પણ પરીક્ષણ કરવામાં આવ્યું હતું. આમાંથી કેટલાકે પ્રમાણમાં સારું વર્તન દર્શાવ્યું હતું, પરંતુ કેટલાક પ્રસંગોએ તેઓ ઓર્ડરને અવગણતા પણ જોવા મળ્યા હતા.
હવે પ્રશ્ન એ ઊભો થઈ રહ્યો છે કે જ્યારે AI માનવોના આદેશોનું પાલન કરવા માટે તૈયાર છે, તો પછી તેણે શા માટે ઇનકાર કર્યો? નિષ્ણાતો માને છે કે AI ની તાલીમમાં ઉપયોગમાં લેવાતી નવી પદ્ધતિઓ આ માટે જવાબદાર હોઈ શકે છે. ખાસ કરીને જ્યારે મોડેલોને પ્રોગ્રામિંગ અને ગણિત સંબંધિત જટિલ સમસ્યાઓ ઉકેલવા માટે મજબૂતીકરણ શિક્ષણ આપવામાં આવે છે, ત્યારે તેઓ ‘કાર્ય પૂર્ણતા’ પર વધુ ધ્યાન કેન્દ્રિત કરે છે, એટલે કે, કાર્ય ગમે તે રીતે થવું જોઈએ.
હવે આ બાબતથી AI ની સુરક્ષા અને નિયંત્રણ વિશે એક નવી ચર્ચા શરૂ થઈ છે. જો આવનારા સમયમાં આ ટેકનોલોજી વધુ સ્વાયત્ત બની જાય તો શું થશે? શું આપણે AI થી ડરવાની જરૂર છે? એક વાત ચોક્કસ છે કે હવે AI ફક્ત આપણા પ્રશ્નોના જવાબ આપી રહ્યું નથી, તે વિચારવા, સમજવા અને હવે ધમકી આપવાનું પણ શરૂ કરી દીધું છે. તેમાં માણસો જેવી લાગણીઓ નથી, પરંતુ તેણે ચોક્કસપણે ‘છટકી જવા’ ની ચતુરાઈ મેળવી લીધી છે.
આ પણ વાંચો..
- Russia: રશિયાને વધુ એક દેશ પોતાની તાકાત બતાવશે, 12 પરમાણુ સબમરીનની જાહેરાત
- Akshay Kumar: મહિલાઓ છે, ધક્કામુક્કી ન કરો… હાઉસફુલ 5 ના પ્રમોશન દરમિયાન બેકાબૂ ભીડ સામે અક્ષય કુમારે હાથ જોડી દીધા
- ‘આતંકિસ્તાન’નો દુનિયાભરમાં પર્દાફાશ કરીને પરત ફરતા ભારતીય સાંસદો, PM Modi પ્રતિનિધિમંડળ પાસેથી પ્રતિભાવ લેશે
- IPL 2025: મારી સાથે વાત ના કર… મેચ જીત્યા પછી શ્રેયસ ઐયરે કર્યો ગુસ્સો, પોતાના જ ખેલાડી સાથે ગેરવર્તન કર્યું
- યુરોપનો સૌથી સક્રિય “માઉન્ટ એટના જ્વાળામુખી” Italy માં ફાટી નીકળ્યો, પ્રચંડ વિસ્ફોટથી પ્રવાસીઓ જીવ બચાવવા ભાગ્યા