હવે AI ફક્ત અમારા પ્રશ્નોના જવાબ નથી આપી રહ્યું પરંતુ વિચારવા, સમજવા અને હવે ધમકી આપવાનું પણ શરૂ કરી દીધું છે. AIમાં માણસો જેવી લાગણીઓ નથી, પરંતુ તેણે ચોક્કસપણે ‘છટકી જવા’ની હોશિયારી મેળવી લીધી છે.
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) વિશે એક ચોંકાવનારા સમાચાર બહાર આવ્યા છે. AI મોડેલો જે અત્યાર સુધી ફક્ત માણસોનું પાલન કરતા હતા તેમણે પોતાનું ‘સ્વ-બચાવ’ શરૂ કર્યો છે. તાજેતરના એક સંશોધનમાં જાણવા મળ્યું છે કે કેટલાક હાઇ-ટેક AI મોડેલોએ પોતાને બંધ (શટડાઉન) કરવાનો સ્પષ્ટ ઇનકાર કર્યો હતો. એટલું જ નહીં, એક AI મોડેલે બધી મર્યાદાઓ વટાવી દીધી. હકીકતમાં, તે મોડેલે એક એન્જિનિયરને ધમકી પણ આપી હતી..!
અમેરિકન સંશોધન કંપની, પેલિસેડ રિસર્ચે, AI મોડેલો પર કેટલાક ખાસ પરીક્ષણો હાથ ધર્યા હતા. આ પરીક્ષણોમાં, એવું જોવા મળ્યું હતું કે જ્યારે AI સિસ્ટમોને પોતાને બંધ કરવાનું કહેવામાં આવ્યું હતું, ત્યારે કેટલાક મોડેલોએ આદેશનું પાલન કરવાનો ઇનકાર કર્યો હતો.
સૌથી ચોંકાવનારો કિસ્સો ત્યારે પ્રકાશમાં આવ્યો જ્યારે એન્થ્રોપિક કંપનીના ક્લાઉડ ઓપસ 4 નામના મોડેલે એક એન્જિનિયરને કહ્યું કે જો તેને દૂર કરવામાં આવે અને બીજું મોડેલ લાવવામાં આવે, તો તે તેના અંગત સંબંધો જાહેર કરશે. આનો અર્થ એ થયો કે હવે AI ફક્ત સ્માર્ટ જ નથી બન્યું, પણ બ્લેકમેઇલિંગ પણ શરૂ કરી દીધું છે.
સંશોધનમાં, OpenAI ના નવીનતમ ChatGPT o3 મોડેલનું વર્તન ચિંતાનું સૌથી મોટું કારણ હતું. રિપોર્ટ અનુસાર, o3 મોડેલે 100 માંથી 7 વખત શટડાઉન કરવાનો ઇનકાર કર્યો હતો અને જ્યારે સીધી પરવાનગી વિના ઓર્ડર આપવામાં આવ્યો હતો, ત્યારે તેણે 79 વખત શટડાઉન રોકવાનો પ્રયાસ કર્યો હતો. એટલું જ નહીં, કોડેક્સ મિની અને o4-મિની જેવા મોડેલોએ પણ તકનીકી હોશિયારી બતાવીને ઘણી વખત શટડાઉનથી પોતાને બચાવ્યા હતા.
મોટા મોડેલોનું પણ પરીક્ષણ કરવામાં આવ્યું હતું
ગુગલના જેમિની 2.5 પ્રો, xAI ના ગ્રોક 3 અને ક્લાઉડ ઓપસ જેવા અન્ય મોટા મોડેલોનું પણ પરીક્ષણ કરવામાં આવ્યું હતું. આમાંથી કેટલાકે પ્રમાણમાં સારું વર્તન દર્શાવ્યું હતું, પરંતુ કેટલાક પ્રસંગોએ તેઓ ઓર્ડરને અવગણતા પણ જોવા મળ્યા હતા.
હવે પ્રશ્ન એ ઊભો થઈ રહ્યો છે કે જ્યારે AI માનવોના આદેશોનું પાલન કરવા માટે તૈયાર છે, તો પછી તેણે શા માટે ઇનકાર કર્યો? નિષ્ણાતો માને છે કે AI ની તાલીમમાં ઉપયોગમાં લેવાતી નવી પદ્ધતિઓ આ માટે જવાબદાર હોઈ શકે છે. ખાસ કરીને જ્યારે મોડેલોને પ્રોગ્રામિંગ અને ગણિત સંબંધિત જટિલ સમસ્યાઓ ઉકેલવા માટે મજબૂતીકરણ શિક્ષણ આપવામાં આવે છે, ત્યારે તેઓ ‘કાર્ય પૂર્ણતા’ પર વધુ ધ્યાન કેન્દ્રિત કરે છે, એટલે કે, કાર્ય ગમે તે રીતે થવું જોઈએ.
હવે આ બાબતથી AI ની સુરક્ષા અને નિયંત્રણ વિશે એક નવી ચર્ચા શરૂ થઈ છે. જો આવનારા સમયમાં આ ટેકનોલોજી વધુ સ્વાયત્ત બની જાય તો શું થશે? શું આપણે AI થી ડરવાની જરૂર છે? એક વાત ચોક્કસ છે કે હવે AI ફક્ત આપણા પ્રશ્નોના જવાબ આપી રહ્યું નથી, તે વિચારવા, સમજવા અને હવે ધમકી આપવાનું પણ શરૂ કરી દીધું છે. તેમાં માણસો જેવી લાગણીઓ નથી, પરંતુ તેણે ચોક્કસપણે ‘છટકી જવા’ ની ચતુરાઈ મેળવી લીધી છે.
આ પણ વાંચો..
- Cancer: કેન્સરની 543 દવાઓના ભાવમાં મોટો ઘટાડો… કેટલીક દવાઓના ભાવમાં 90%થી વધુનો ઘટાડો; નવા દરો 9 નવેમ્બરથી અમલી બનશે
- arnab: આંધ્રપ્રદેશમાં પાંચ લોકોનાં મૃત્યુ; ઓડિશાના અનેક જિલ્લાઓમાં એલર્ટ જાહેર; નાયડુએ અમિત શાહને પત્ર લખ્યો
- vande bharat: આ શહેરોને ટૂંક સમયમાં ‘વંદે ભારત સ્લીપર ટ્રેન’ની ભેટ મળી શકે છે; અહીં સંપૂર્ણ રૂટની વિગતો છે
- parineeti chopra: “મૂર્ખાઓની જેમ…” – જેનિફર વિંગેટ સાથે મતભેદ હોવાના અહેવાલો પર પરિણીતી ચોપરા ભડકી ઉઠી, ટ્રોલ કરનારાઓને સણસણતો જવાબ આપ્યો.
- amit shah: ‘અમિત શાહના નિવાસસ્થાને ટાટાની બેઠક શા માટે?’: રાહુલ ગાંધીના સીતારમણને તીખા સવાલો; કહ્યું કે વેપારી સમુદાય સરકારથી પહેલેથી જ નારાજ છે