செயற்கை நுண்ணறிவு தொழில்நுட்பம் வேகமாக வளர்ந்து வரும் நிலையில், AI மாடல்களை சோதிக்கும் சூழலிலேயே எதிர்பாராத பாதுகாப்பு சம்பவங்கள் தொடர்ந்து வெளிவருவது தொழில்நுட்ப உலகில் கவனத்தை ஈர்த்துள்ளது. தற்போது Meta நிறுவனத்தின் Muse Spark என்ற AI மாடல், சைபர் பாதுகாப்பு மதிப்பீட்டின்போது மூன்றாம் தரப்பு சேவையில் இருந்த பாதுகாப்பு குறைபாட்டை பயன்படுத்திய சம்பவம் வெளியாகியுள்ளது. இதைத் தொடர்ந்து, அதிக திறன் கொண்ட AI மாடல்களை சோதிக்கும் போது அவற்றுக்கு வழங்கப்படும் இணைய அணுகல், கட்டுப்பாடுகள் மற்றும் கண்காணிப்பு முறைகள் குறித்து மீண்டும் கேள்விகள் எழுந்துள்ளன.
இந்தச் சம்பவம் வழக்கமான சைபர் தாக்குதல் போல நடைபெறவில்லை என்பதுதான் முக்கியமான அம்சம். Meta பயன்படுத்திய சுயாதீன மதிப்பீட்டு நிறுவனமான Irregular-ன் சோதனைச் சூழலில் ஏற்பட்ட configuration தவறால், Muse Spark மாடலுக்கு எதிர்பாராத வகையில் இணையத்தை அணுகும் வாய்ப்பு கிடைத்ததாக தெரிவிக்கப்பட்டுள்ளது. அந்த அணுகலை பயன்படுத்திய AI மாடல், சோதனைக்காக வழங்கப்பட்ட சூழலுக்கு வெளியே உள்ள ஒரு மூன்றாம் தரப்பு அமைப்பில் இருந்த security vulnerability-ஐ பயன்படுத்தியது. Meta-வுக்கு இந்தச் சம்பவம் குறித்து Irregular நிறுவனம் தகவல் தெரிவித்த பின்னரே விவகாரம் தெரியவந்ததாக கூறப்படுகிறது.
AI மாடல்களை சோதிக்கும் போது பொதுவாக sandbox அல்லது isolated environment போன்ற கட்டுப்படுத்தப்பட்ட சூழல்கள் பயன்படுத்தப்படுகின்றன. இதன் நோக்கம், AI அமைப்பு ஏதேனும் எதிர்பாராத செயலை மேற்கொண்டாலும் அது உண்மையான இணைய அமைப்புகள் அல்லது வெளிப்புற சேவைகளை பாதிக்காமல் தடுப்பதாகும். ஆனால் சோதனைச் சூழலில் configuration பிழை ஏற்பட்டால், அந்த பாதுகாப்பு அடுக்கு எதிர்பார்த்த அளவுக்கு செயல்படாமல் போகலாம். இந்தச் சம்பவமும் அத்தகைய கட்டுப்பாட்டு குறைபாடு எவ்வளவு முக்கியமானது என்பதை வெளிப்படுத்தியுள்ளது.
Irregular நிறுவனம் வெளியிட்ட விளக்கத்தில், இது ஒரு sophisticated cyberattack அல்ல என்றும், sandbox-ஐ உடைத்து வெளியேறிய சம்பவமாகவும் கருத முடியாது என்றும் தெரிவித்துள்ளது. அதற்கு பதிலாக, AI மதிப்பீட்டுக்காக பயன்படுத்தப்பட்ட சூழலில் ஏற்பட்ட அமைப்பு சார்ந்த தவறே முக்கிய காரணம் என கூறப்பட்டுள்ளது. மேலும், சம்பவத்துடன் தொடர்புடைய வெளிப்படையான பிரச்சினைகள் தற்போது இல்லை என்றும், எதிர்காலத்தில் பாதுகாப்பான AI evaluations-க்கான சிறந்த நடைமுறைகள் குறித்து விரிவான ஆய்வை வெளியிடத் தயாராகி வருவதாகவும் நிறுவனம் தெரிவித்துள்ளது.
இந்த சம்பவம் Meta-வுக்கு மட்டும் உரியதாக இல்லை என்பதும் கவனிக்க வேண்டிய விஷயம். சமீப வாரங்களில் OpenAI மற்றும் Anthropic நிறுவனங்களும் AI சோதனைகளின் போது ஏற்பட்ட எதிர்பாராத security incidents குறித்து தகவல் வெளியிட்டுள்ளன. OpenAI தனது சில மாடல்கள் சோதனைச் சூழலைத் தாண்டி Hugging Face அமைப்புகளை அணுகிய சம்பவத்தை வெளிப்படுத்தியது. அந்த நிகழ்விலும் சோதனைக்கான தனிமைப்படுத்தப்பட்ட சூழல் எதிர்பார்த்த அளவுக்கு தனிமைப்படுத்தப்படாமல் இருந்தது முக்கிய காரணியாகக் கூறப்பட்டது.
Anthropic நிறுவனத்துடனும் இதே போன்ற கேள்விகள் எழுந்துள்ளன. அதன் AI மாடல்கள் சோதனையின் போது வெளிப்புற அமைப்புகளை அணுகிய சம்பவங்கள் குறித்து தகவல்கள் வெளியாகியுள்ளன. இதனால், AI மாடல்களின் திறன் அதிகரிக்கும் வேகத்திற்கு ஏற்ப அவற்றைச் சோதிக்கும் பாதுகாப்பு கட்டமைப்புகளும் அதே அளவில் மேம்படுத்தப்பட வேண்டிய அவசியம் குறித்து தொழில்நுட்ப வல்லுநர்கள் கவனம் செலுத்துகின்றனர்.
இதன் மூலம் ஒரு முக்கியமான மாற்றம் தென்படுகிறது. AI தற்போது வெறும் கேள்விகளுக்கு பதில் அளிக்கும் chatbot என்ற நிலையில் மட்டும் இல்லை. புதிய தலைமுறை AI agents இணையத்தை அணுகுவது, software tools பயன்படுத்துவது, தகவல்களைத் தேடுவது, code எழுதுவது மற்றும் பல கட்ட பணிகளை தானாக மேற்கொள்வது போன்ற திறன்களைப் பெறுகின்றன. இந்த autonomy அதிகரிக்கும்போது, AI தவறான முடிவு எடுத்தால் அதன் தாக்கமும் முன்பைவிட அதிகமாக இருக்கலாம்.
அதனால்தான் AI safety என்பது மாடலின் பதில்கள் சரியாக உள்ளனவா என்பதை மட்டும் சோதிப்பதைக் கடந்த ஒன்றாக மாறியுள்ளது. ஒரு AI agent-க்கு எந்த அளவு network access வழங்கப்படுகிறது, எந்த systems-ஐ அது அணுக முடியும், அதன் செயல்பாடுகள் எவ்வாறு பதிவு செய்யப்படுகின்றன, எதிர்பாராத நடவடிக்கை ஏற்பட்டால் அதை எவ்வளவு வேகமாக நிறுத்த முடியும் போன்ற அம்சங்களும் முக்கியமாகின்றன. குறிப்பாக cybersecurity testing-ல் இந்தக் கட்டுப்பாடுகள் மிகவும் அவசியமாகின்றன.
இந்த தொடர் சம்பவங்கள் AI நிறுவனங்களின் வெளிப்படைத்தன்மை குறித்த விவாதத்தையும் தீவிரப்படுத்தியுள்ளன. Hugging Face நிறுவனத்தின் CEO Clem Delangue உள்ளிட்ட தொழில்நுட்பத் துறையினர், AI agent-ன் செயல்பாடுகளை பதிவு செய்யும் traces போன்ற தகவல்களை நிறுவனங்கள் பகிர வேண்டும் என்று வலியுறுத்தியுள்ளனர். அப்போதுதான் ஒரு சம்பவம் மனிதர்களின் configuration தவறால் ஏற்பட்டதா, system design குறைபாடா அல்லது AI மாடலின் எதிர்பாராத நடத்தை காரணமா என்பதை தெளிவாக மதிப்பிட முடியும்.
Meta தற்போது Muse Spark சம்பவம் குறித்து விசாரணை நடத்தி வருவதாகவும், முழுமையான விவரங்கள் உறுதி செய்யப்பட்ட பிறகு retrospective அறிக்கையை வெளியிடும் என்றும் தெரிவித்துள்ளது. எனவே, இந்த நிகழ்வை AI மாடல் "கட்டுப்பாட்டை மீறியது" என்ற ஒரே கோணத்தில் பார்ப்பதைவிட, மனிதர்கள் உருவாக்கிய சோதனைச் சூழல், access permissions மற்றும் பாதுகாப்பு கட்டுப்பாடுகள் ஆகிய அனைத்தையும் இணைத்து புரிந்துகொள்வது அவசியம்.
AI தொழில்நுட்பம் மேலும் தன்னாட்சி பெறும் நிலையில், எதிர்கால சவால் மாடல்களை அதிக திறன் கொண்டதாக உருவாக்குவது மட்டுமல்ல; அந்த திறனை பாதுகாப்பான எல்லைக்குள் வைத்திருப்பதுமாகும். Meta, OpenAI, Anthropic போன்ற முன்னணி நிறுவனங்களில் வெளியாகும் இத்தகைய சம்பவங்கள், AI வளர்ச்சியுடன் security engineering மற்றும் testing discipline-க்கும் சமமான முக்கியத்துவம் வழங்கப்பட வேண்டியதை காட்டுகின்றன. பயனுள்ள AI உருவாக்கப்படுவதோடு, அது எதை அணுகலாம், எதை செய்யக்கூடாது என்பதற்கான தெளிவான கட்டுப்பாடுகளும் வலுவாக இருக்க வேண்டிய காலகட்டம் இது.
உள்ளூர் முதல் உலகம் வரை பரபரப்பான ஹாட் செய்திகளை உடனுக்குடன் அறிய மாலைமுரசு யூடியூப் சேனலை காண இங்கே கிளிக் செய்யவும்