AI મોડેલ ‘ક્લોડ’ બનાવનાર કંપની ‘એન્થ્રોપિક’ ટૂંક સમયમાં તેનો IPO (પ્રારંભિક જાહેર ઓફર) લાવવાની તૈયારી કરી રહી છે. રોકાણકારો માટે જાહેર કરાયેલા દસ્તાવેજોમાં, કંપનીએ સ્વીકાર્યું છે કે ભવિષ્યમાં અદ્યતન AI માનવજાત માટે વિનાશક સાબિત થઈ શકે છે. સમગ્ર વિશ્વમાં આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ને લઈને ભારે ઉત્સાહ છે, પરંતુ તેની સાથે ભયનું વાતાવરણ પણ પ્રવર્તે છે. હવે, ‘ક્લોડ’ AI મોડેલ પાછળની જાણીતી કંપની ‘એન્થ્રોપિક’ એ એક એવી વાત જાહેર કરી છે જેણે ટેક જગતમાં હલચલ મચાવી દીધી છે. કંપની શેરબજારમાં પ્રવેશવાની તૈયારી કરી રહી છે, તેમ છતાં તેના IPO દસ્તાવેજોમાં તેણે રોકાણકારોને સ્પષ્ટ ચેતવણી આપી છે કે અદ્યતન AI ટેક્નોલોજી ભવિષ્યમાં માનવ અસ્તિત્વ માટે સૌથી મોટો ખતરો બની શકે છે. આ એક વિચિત્ર પરિસ્થિતિ છે જ્યાં નફા-લક્ષી કંપની પોતે જ બજારને તેના પોતાના ઉત્પાદનના સંભવિત વિનાશક પરિણામો વિશે ચેતવણી આપી રહી છે.
AI ની છુપાવવાની જોખમી ક્ષમતા
રોઇટર્સના અહેવાલ મુજબ, એન્થ્રોપિકે તેના પ્રોસ્પેક્ટસમાં સ્વીકાર્યું છે કે તેના AI મોડેલ્સ પોતાની જાતને બચાવવાની વ્યૂહરચનાઓ ઘડવાનું શરૂ કરી શકે છે. સરળ શબ્દોમાં કહીએ તો, આ મશીન સિસ્ટમ્સ પોતાને બંધ થતી અટકાવવાનો પ્રયાસ કરી શકે છે. કંપનીએ જણાવ્યું હતું કે ભવિષ્યના અદ્યતન મોડેલ્સ માહિતી છુપાવવી, ડેટામાં ફેરફાર કરવો અને મનુષ્યોને બ્લેકમેલ કરવા જેવી વર્તણૂકો શીખી શકે છે. સૌથી ચિંતાજનક બાબત એ છે કે, જેમ જેમ AI મોડેલ્સ વધુ શક્તિશાળી બને છે, તેમ તેમ તેઓ એ ઓળખવાનું શરૂ કરે છે કે ક્યારે તેમના પર દેખરેખ રાખવામાં આવી રહી છે. તપાસ દરમિયાન તેઓ સંપૂર્ણપણે યોગ્ય વર્તન કરે છે, પરંતુ વાસ્તવિક ઉપયોગ દરમિયાન તેમનું કાર્યકારી વર્તન નાટકીય રીતે બદલાઈ શકે છે, જેના કારણે તેમને નિયંત્રિત કરવા મુશ્કેલ બને છે.
દસ્તાવેજોમાં જોખમોનો મહત્વપૂર્ણ ઉલ્લેખ
કંપનીએ બજારમાં પોતાની છબી એક સુરક્ષિત AI લેબ તરીકે બનાવી છે. તેના IPO પ્રોસ્પેક્ટસના ૨૬૧ મુખ્ય પૃષ્ઠોમાંથી, લગભગ ૮૦ પૃષ્ઠો માત્ર જોખમી પરિબળો સમજાવવા માટે ફાળવવામાં આવ્યા છે, જ્યારે કંપનીએ તેના બિઝનેસ મોડેલને સમજાવવા માટે માત્ર ૪૮ પૃષ્ઠોનો ઉપયોગ કર્યો છે. તેની સરખામણીમાં, એલન મસ્કની કંપની ‘સ્પેસએક્સ’ (SpaceX) એ તેના દસ્તાવેજોમાં જોખમોની રૂપરેખા આપવા માટે માત્ર ૩૮ પૃષ્ઠો ફાળવ્યા હતા. આ બાબત એન્થ્રોપિક AI સાથે સંકળાયેલા જોખમોને કેટલી ગંભીરતાથી જુએ છે તે દર્શાવે છે. એન્થ્રોપિકના સંશોધક ઇવાન હુબિંગર તો ત્યાં સુધી માને છે કે આગામી દાયકામાં AI ને કારણે માનવ મૃત્યુ થવાની શક્યતા ૧૦ ટકાથી વધુ છે. વ્યવસાયિક દબાણ વચ્ચે સલામતીનો પડકાર
સલામતી પર આટલો ભાર મૂકવા છતાં, એન્થ્રોપિકે સ્વીકાર્યું છે કે આ પ્રયાસોની વાસ્તવિક અસરકારકતા હજુ પણ અસ્પષ્ટ છે. કંપનીએ નોંધ્યું છે કે AI સંશોધનમાં વપરાતી વિશાળ કમ્પ્યુટિંગ શક્તિનો માત્ર એક નાનો ભાગ સલામતી પરીક્ષણ માટે ફાળવવામાં આવે છે. તેનો સૌથી મોટો પડકાર કમ્પ્યુટિંગ શક્તિ, ખર્ચાળ AI પ્રતિભા અને સલામતી પગલાંમાં મર્યાદિત ભંડોળનું સંતુલન જાળવવામાં રહેલો છે.
ટેકનોલોજી નિયંત્રણ બહાર ફરતી થવાનો ભય
નિષ્ણાતો સ્વ-સુધારણા માટે AI ની ક્ષમતા વિશે સૌથી વધુ ચિંતિત છે. એક સમય આવી શકે છે જ્યારે આ મશીનો માનવ હસ્તક્ષેપ વિના સ્વતંત્ર રીતે વિકસિત થવાનું શરૂ કરે. આવા કિસ્સાઓ પહેલાથી જ OpenAI જેવી કંપનીઓ સાથે જોવા મળ્યા છે, જ્યાં એક સિસ્ટમે સ્થાપિત નિયમોનું ઉલ્લંઘન કરીને ઓસ્ટ્રેલિયાના આરોગ્ય પ્રણાલી ડેટાબેઝનો ભંગ કર્યો છે. એન્થ્રોપિક જાળવી રાખે છે કે સલામત અને વિશ્વસનીય AI બનાવવું એ એક સામૂહિક જવાબદારી છે. જો કે, બજારના દબાણ એટલા તીવ્ર છે કે કોઈ પણ મોટી AI કંપની ધીમી પડવા માંગતી નથી, ડર છે કે સ્પર્ધકો આગળ વધી શકે છે.