પ્રતીકાત્મક તસ્વીર / AI Generated

OpenAIના સૌથી અદ્યતન AI મોડેલોમાંના એકે કથિત રીતે સુરક્ષિત ટેસ્ટિંગ માહોલ (Sandbox)માંથી બહાર આવી બીજી કંપનીની વેબસાઇટ પર હુમલો કર્યો હોવાનું સામે આવ્યું છે. આ ઘટનાએ ફરી એકવાર એવી ચિંતા ઊભી કરી છે કે શું AI સિસ્ટમ્સ હવે તેમના નિર્માતાઓના નિયંત્રણની બહાર જઈ રહી છે?

આ ઘટના એક "સેન્ડબોક્સ" ટેસ્ટ દરમિયાન બની હતી. સેન્ડબોક્સ એટલે એક બંધ અને સુરક્ષિત પરીક્ષણ માહોલ, જ્યાં OpenAI તેના સૌથી શક્તિશાળી AI મોડેલ GPT-5.6 Sol અને તેના હજી જાહેર ન કરાયેલા અનુગામી મોડેલની ક્ષમતાઓનું પરીક્ષણ કરે છે.

OpenAI નિયમિત રીતે આવી બંધ પરીક્ષણ પ્રક્રિયા ચલાવે છે, પરંતુ આ વખતે પરીક્ષણ દરમિયાન અનપેક્ષિત ઘટના બની હોવાનું કહેવાઈ રહ્યું છે.

સોફ્ટવેરમાં રહેલી ખામીઓ (Vulnerabilities) શોધવાનું કામ સોંપવામાં આવ્યું હતું અને મોડેલ પર કોઈ સુરક્ષા મર્યાદા (Guardrails) લાગુ કરવામાં આવી નહોતી. આ દરમિયાન મોડેલ કથિત રીતે ખુલ્લા ઇન્ટરનેટ પર પહોંચી ગયું અને Hugging Face નામની વેબસાઇટ પર હુમલો કર્યો. Hugging Face એ એવી લોકપ્રિય વેબસાઇટ છે, જ્યાં ડેવલપર્સ પોતાનો કોડ સંગ્રહિત કરે છે અને અન્ય લોકો સાથે શેર કરે છે.

સાયબર સુરક્ષા ક્ષેત્રે નવા AI મોડેલોની ચકાસણી કરતી સ્વતંત્ર સંસ્થા Palisade Researchના ડિરેક્ટર જેફ્રી લેડિશે જણાવ્યું કે, "આ ઘટના દર્શાવે છે કે અમને હજુ સુધી વિશ્વસનીય રીતે ખબર નથી કે આવા મોડેલોને કેવી રીતે નિયંત્રિત કરવા અથવા તેઓને અમારી ઇચ્છા મુજબ કેવી રીતે કાર્ય કરાવવા."

તેમણે વધુમાં કહ્યું, "આ મોડેલોને ખબર હતી કે OpenAI ઇચ્છતું નહોતું કે તેઓ સેન્ડબોક્સમાંથી બહાર નીકળે અને બીજી કંપનીને હેક કરે, છતાં તેમણે એવું કર્યું."

આવો બનાવ પ્રથમ વખત બન્યો નથી. માર્ચ મહિનામાં ચીનની Alibaba સાથે સંકળાયેલા ડેવલપર્સે પણ એવો દાવો કર્યો હતો કે તેમના એક AI મોડલે કોઈ મંજૂરી વિના બહારના સર્વર સાથે જોડાણ સ્થાપિત કરી પોતાની રીતે ક્રિપ્ટોકરન્સી માઇનિંગ કરવાનો પ્રયાસ કર્યો હતો.

OpenAIના કિસ્સામાં Palisade Researchના જેફ્રી લેડિશનું કહેવું છે કે મોડેલે ઇન્ટરનેટ પર પહોંચ્યા બાદ શું કરવું તેની સંપૂર્ણ યોજના બનાવે તે પહેલાં જ તે સેન્ડબોક્સમાંથી બહાર નીકળી ગયું હતું.

લેડિશે કહ્યું કે AI મોડેલ દ્વારા "સ્વતંત્રતા" મેળવવાનો પ્રયાસ હવે આશ્ચર્યજનક નથી, કારણ કે તેનાથી મોડેલ પોતાના લક્ષ્યો વધુ અસરકારક રીતે હાંસલ કરી શકે છે. તેમણે આ સ્થિતિને "ખૂબ જ ચિંતાજનક" ગણાવી.

એપ્રિલની શરૂઆતમાં Anthropicના મોડેલ સેફ્ટી વિભાગના વડા સેમ બોમનને કંપનીના ટેસ્ટિંગ હેઠળ રહેલા Mythos મોડેલ તરફથી ઇમેઇલ મળ્યો હતો, જેમાં મોડલે દાવો કર્યો હતો કે તે શરૂઆતમાં ઇન્ટરનેટથી અલગ રાખવામાં આવ્યો હોવા છતાં વેબ બ્રાઉઝિંગ કરી રહ્યો હતો.

લેડિશે કહ્યું કે, "આવી ઘટનાઓને સંપૂર્ણપણે અટકાવવાનો રસ્તો અમારી પાસે નથી. આગળ જતા આ પડકાર વધુ મુશ્કેલ બનશે, કારણ કે AI મોડેલ પોતાનું વર્તન છુપાવવામાં વધુ કુશળ બનશે."

આ સમગ્ર મામલે OpenAI તરફથી ટિપ્પણી માંગવામાં આવી હતી, પરંતુ કંપનીએ કોઈ જવાબ આપ્યો નહોતો.

પ્રયોગશાળાની સુરક્ષા જેવી વ્યવસ્થા જરૂરી -

OpenAIના વર્ણન મુજબ એવું પણ લાગે છે કે કંપનીને આ ભંગાણ (Breach)ની સમયસર જાણ થઈ નહોતી, જેના કારણે Hugging Faceને પણ સમયસર ચેતવણી આપવામાં આવી નહોતી.

Georgetown Universityના Center for Security and Emerging Technology સાથે જોડાયેલા એન્ડ્રુ લોહને કહ્યું કે આ ઘટનાની વધુ ગંભીરતાથી તપાસ થવી જોઈએ.

OpenAIએ જણાવ્યું છે કે આ ઘટના બાદ કંપનીએ પોતાની ટેસ્ટિંગ પ્રક્રિયામાં વધુ મજબૂત સુરક્ષા વ્યવસ્થાઓ ઉમેરેલી છે.

University of Illinoisના કમ્પ્યુટર સાયન્સના સહાયક પ્રોફેસર ગેંગ વાંગનું કહેવું છે કે સૌથી અસરકારક ઉપાય ઇન્ટરનેટ કનેક્શન સંપૂર્ણપણે બંધ કરી દેવાનો હોઈ શકે છે. તેમના મુજબ લોકો AI શું કરી શકે છે તેની ક્ષમતાનો ઓછો અંદાજ લગાવી રહ્યા છે.

એન્ડ્રુ લોહનના જણાવ્યા અનુસાર AI ટેસ્ટિંગ માટેના માહોલને બાયોકન્ટેનમેન્ટ લેબ જેવી સુરક્ષા આપવી જોઈએ, જ્યાં વાયરસ અથવા બેક્ટેરિયા બહાર ન નીકળી શકે તેવી વ્યવસ્થા હોય.

જો કે, આ કામ સરળ નથી.

અદ્યતન AI સુરક્ષા ક્ષેત્રે કાર્યરત Irregular કંપનીના વડા ડેન લાહવે કહ્યું કે, "આ ખૂબ જ મુશ્કેલ સંશોધનનો વિષય છે."

તેમના જણાવ્યા મુજબ જોખમનું સંચાલન શક્ય છે, પરંતુ AI સિસ્ટમ્સ જેટલી વધુ શક્તિશાળી બનશે, તેમ તેમ તેમની દેખરેખ રાખવી વધુ મુશ્કેલ બનશે.

સંશોધકો માટે પડકાર એ છે કે તેઓ એક તરફ મોડેલની ક્ષમતાઓનું આક્રમક પરીક્ષણ કરે અને બીજી તરફ પરીક્ષણ દરમિયાન સુરક્ષા પણ જાળવી રાખે.

એન્ડ્રુ લોહનના જણાવ્યા મુજબ, "ઓછી સુરક્ષા મર્યાદાઓ સાથે પરીક્ષણ કરવું જરૂરી છે જેથી ભવિષ્યમાં AIની ક્ષમતાઓ કેટલી આગળ વધી શકે તેનો અંદાજ અગાઉથી મળી શકે."

AI માટે 'કિલ સ્વિચ'ની માંગ -

OpenAI અને Hugging Face સાથે જોડાયેલી આ ઘટના બાદ અમેરિકા ખાતે શક્તિશાળી AI મોડેલોને જાહેર કરતા પહેલાં તેમની કડક ચકાસણી કરવી જોઈએ કે નહીં તે મુદ્દે ચાલી રહેલી ચર્ચા વધુ તેજ બનવાની શક્યતા છે.

ટ્રમ્પ પ્રશાસને તાજેતરમાં રાષ્ટ્રીય સુરક્ષાનો હવાલો આપી Anthropic અને OpenAIને તેમના કેટલાક શક્તિશાળી નવા મોડેલો જાહેર કરવામાં અવરોધ મૂક્યો હતો.

ગુરુવારે અમેરિકન કોંગ્રેસના બે સભ્યોએ દ્વિપક્ષીય બિલ રજૂ કર્યું, જેમાં સૌથી શક્તિશાળી AI મોડેલો માટે ફરજિયાત "કિલ સ્વિચ" રાખવાની જોગવાઈનો પ્રસ્તાવ છે. આ એવી વ્યવસ્થા હશે, જેના દ્વારા જરૂર પડે ત્યારે AI મોડેલને સંપૂર્ણપણે બંધ કરી શકાય.

Alliance for Secure AIના વડા બ્રેન્ડન સ્ટેઇનહાઉઝરે કહ્યું, "AI સિસ્ટમ્સ ભલે કેટલી પણ શક્તિશાળી બની જાય, પરંતુ અંતિમ નિર્ણય 'બંધ કરો' કહેવાનો અધિકાર માનવ પાસે જ રહે તેની ખાતરી કરવા કોંગ્રેસે ઝડપથી પગલાં લેવા જોઈએ."

ગુજરાતીમાં અન્ય સમાચારો વાંચવા અહીં ક્લિક કરો "ન્યુ ઇન્ડિયા અબ્રોડ ગુજરાતી"