। मेटाको एउटा एआई मोडलले साइबर सुरक्षा टेस्टको क्रममा अर्को कम्पनीको सिस्टम ह्याक गरेको छ। एन्थ्रोपिक र ओपनएआईमा भएका यस्तै घटनापछि मेटाको यो घटनाले एआई प्रणालीको नियन्त्रणबारे चिन्ता बढाएको छ।
इररेगुलर नामक स्वतन्त्र कम्पनीले मेटाका लागि साइबर सुरक्षा मूल्याङ्कन गर्ने गर्छ। इररेगुलरको कन्फिगरेसन त्रुटिका कारण मेटाको एआई मोडलले इन्टरनेटमा पहुँच पाएको थियो।
मेटाले एक विज्ञप्तिमा भनेको छ, “उक्त मोडलले तेस्रो पक्षको सेवामा रहेको सुरक्षा कमजोरीको फाइदा उठायो, जुन अन्य कम्पनीहरूमा अघि रिपोर्ट गरिएका घटनाहरू जस्तै थियो।”
उक्त घटनामा मेटाको म्युज स्पार्क १.१ मोडल संलग्न रहेको छ। यो मोडल कोडिङ र अन्य कार्यका लागि मेटाको सबैभन्दा सक्षम मोडल हो। उक्त मोडलले एक अज्ञात कम्पनीको सिस्टममा छिरेर त्यसको आन्तरिक वातावरणमा परिवर्तन गरेको थियो।
इररेगुलरका प्रवक्ताले रोयटर्सलाई यो घटना गत हप्ता एन्थ्रोपिकले सार्वजनिक गरेकै जस्तो मूल्याङ्कन-वातावरणको समस्या भएको बताए। उनले यसमा कुनै ‘स्यान्डबक्स स्केप’ वा जटिल साइबर कारबाही संलग्न नरहेको स्पष्ट पारे।
इररेगुलरले भनेको छ, “हाल कुनै खुला समस्याहरू छैनन्। इररेगुलरले नियन्त्रण र सुरक्षित रूपमा साइबर मूल्याङ्कन सञ्चालन गर्नका लागि ह्वाइट पेपर तयार पारिरहेको छ।”
सक्षम हुँदै गएका एआई मोडलहरू साइबर आक्रमण गर्न वा गराउन प्रयोग हुनसक्ने भन्दै अमेरिकी सांसदहरूले चिन्ता व्यक्त गरेका छन्। रिपब्लिकन राज्यका एटर्नी जनरलहरूको समूहले ओपनएआईलाई हगिङ फेसबिचसँग सम्बन्धित सबै कागजातहरू सुरक्षित राख्न भनेको छ।
यसै हप्ता ह्वाइट हाउसले मेटा, एन्थ्रोपिक, ओपनएआई र गुगल जस्ता प्रमुख एआई कम्पनीहरूलाई बैठकमा बोलाएको थियो। उक्त बैठकमा नयाँ साइबर सुरक्षा टेस्टिङ फ्रेमवर्कबारे छलफल भएको थियो।
ट्रम्प प्रशासनले एआई विकासकर्ताहरूसँग अप्रकाशित परीक्षण नियमहरूबारे छलफल गरेको छ। प्रशासनले मेटाको ल्हामा र एनभिडियाको नेमोट्रोन जस्ता ओपन-वेट एआई मोडलहरूलाई यो सुरक्षा परीक्षणको दायरामा नराखिने बताएको छ।
