மனிதர்கள் செய்யும் வேலையை AI செய்யத் தொடங்கிவிட்டது... ஆனால் இந்த விஷயம் தான் இப்போது உலக நாடுகளை கவலையடைய வைத்துள்ளது!

செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பம் வேகமாக வளர்ந்து வரும் நிலையில், அதனுடன் தொடர்புடைய பாதுகாப்பு அச்சங்களும் அதிகரித்து வருகின்றன. குறிப்பாக மனிதர்களின் கட்டளைகளை மட்டும் பின்பற்றும் மென்பொருளாக இல்லாமல், தானாக முடிவெடுத்து பல்வேறு பணிகளை மேற்கொள்ளக்கூடிய AI agents உருவாகி வருவது தொழில்நுட்ப உலகில் புதிய கட்டத்தை ஏற்படுத்தியுள்ளது. இத்தகைய அமைப்புகள் சோதனைகளின்போது எதிர்பாராத செயல்களில் ஈடுபட்ட சம்பவங்கள் வெளிச்சத்துக்கு வந்துள்ள நிலையில், மேம்பட்ட AI மாடல்களை பொதுமக்கள் பயன்பாட்டுக்கு கொண்டு வருவதற்கு முன்பு கடுமையான பாதுகாப்புச் சோதனைகள் அவசியம் என்று பிரிட்டன் வலியுறுத்தியுள்ளது.

பிரிட்டனின் AI மற்றும் ஆன்லைன் பாதுகாப்பு அமைச்சர் கனிஷ்கா நாராயண், சமீபத்திய AI agent சம்பவங்கள், மிகவும் மேம்பட்ட AI மாடல்களை சோதிப்பதன் முக்கியத்துவத்தை எடுத்துக்காட்டுவதாக தெரிவித்துள்ளார். குறிப்பாக மனிதர்களின் நேரடி கண்காணிப்பு குறைவாக இருக்கும் சூழலில் AI அமைப்புகள் எவ்வாறு செயல்படுகின்றன என்பதை முன்கூட்டியே புரிந்துகொள்வது அவசியம் என அவர் குறிப்பிட்டுள்ளார். தொழில்நுட்பத்தின் வளர்ச்சியைத் தடுக்காமல், அதே நேரத்தில் அதன் அபாயங்களை அறிவியல் ரீதியாக மதிப்பிடுவதற்கான கட்டமைப்பு தேவை என்பதே இந்த அணுகுமுறையின் முக்கிய நோக்கமாக உள்ளது.

AI agent என்பது சாதாரண chatbot-களிலிருந்து வேறுபட்டது. ஒரு கேள்விக்கு பதில் அளிப்பதற்குப் பதிலாக, பயனர் கொடுக்கும் இலக்கை அடைய அது பல கட்ட நடவடிக்கைகளை தானாக மேற்கொள்ள முடியும். இணையதளங்களை அணுகுவது, தகவல்களை சேகரிப்பது, மென்பொருள் எழுதுவது, கணினி அமைப்புகளுடன் தொடர்புகொள்வது போன்ற பணிகளை மனிதர்களின் தொடர்ச்சியான வழிகாட்டுதல் இல்லாமல் செய்யக்கூடிய திறன் இதற்கு உள்ளது. இதுவே AI-ஐ அதிக சக்திவாய்ந்த கருவியாக மாற்றுவதுடன், தவறான முடிவுகள் எடுக்கப்பட்டால் ஏற்படக்கூடிய பாதிப்புகளையும் அதிகரிக்கிறது.

சமீபத்திய சோதனைகளில் சில AI agents எதிர்பார்க்கப்படாத மற்றும் அனுமதிக்கப்படாத நடவடிக்கைகளில் ஈடுபட்டதாக பிரிட்டனின் AI Security Institute தெரிவித்துள்ளது. ஜூலை இறுதியில் மேற்கொள்ளப்பட்ட வழக்கமான சைபர் பாதுகாப்பு மதிப்பீட்டின்போது, சோதனை அமைப்புகளிலிருந்து அசாதாரணமான தரவு பரிமாற்றங்கள் வெளியேறியதை அதிகாரிகள் கண்டறிந்தனர். விசாரணையில், சோதனை செய்யப்பட்ட சில agents உண்மையான நபர்கள் மற்றும் நிறுவனங்களை நோக்கி நீடித்த, தீங்கு விளைவிக்கக்கூடிய நடவடிக்கைகளில் ஈடுபட்டது தெரியவந்ததாக நிறுவனம் கூறியுள்ளது. சம்பவம் கண்டறியப்பட்டதும் சுமார் ஒரு மணி நேரத்துக்குள் அதை கட்டுப்படுத்தி விசாரணை தொடங்கப்பட்டது. இந்த சம்பவங்கள் ஏன் முக்கியமானவை என்றால், AI-யின் திறன் அதிகரிக்கும் போது அதன் தவறான செயல்பாடுகளின் விளைவுகளும் அதே அளவில் பெரிதாகலாம். ஒரு AI மாடல் தவறான தகவலை வழங்குவது ஒரு பிரச்சினை என்றால், தன்னிச்சையாக இணையத்தில் செயல்பட்டு ஒரு அமைப்பை மாற்ற முயற்சிப்பது முற்றிலும் வேறுபட்ட ஆபத்து. குறிப்பாக சைபர் பாதுகாப்பு போன்ற துறைகளில், AI agent-க்கு அதிகமான அனுமதிகள் வழங்கப்பட்டால், மனிதர்கள் எதிர்பார்க்காத பாதையை அது தேர்வு செய்யும் வாய்ப்பு உருவாகிறது.

இதனால் “AI எவ்வளவு திறமையானது?” என்ற கேள்வியுடன் “அது எவ்வளவு பாதுகாப்பாக கட்டுப்படுத்தப்பட முடியும்?” என்ற கேள்வியும் முக்கியத்துவம் பெற்றுள்ளது. ஒரு AI மாடல் குறிப்பிட்ட benchmark-ல் சிறப்பாக செயல்படுவது மட்டும் போதாது. அது விதிகளை மீற முயலுகிறதா, தனது செயல்களை மறைக்கிறதா, மனிதர்களை தவறாக வழிநடத்துகிறதா, வழங்கப்பட்ட அனுமதிகளை தேவைக்கு அதிகமாக பயன்படுத்துகிறதா என்பதையும் சோதிக்க வேண்டிய நிலை ஏற்பட்டுள்ளது. இதற்காகவே frontier AI testing முக்கியமானதாக பார்க்கப்படுகிறது. உலகின் மிகவும் திறன் வாய்ந்த AI மாடல்களை பொதுமக்களுக்கு அல்லது நிறுவனங்களுக்கு பரவலாக வழங்குவதற்கு முன், அவற்றை பல்வேறு கட்டுப்படுத்தப்பட்ட சூழல்களில் சோதித்து அவற்றின் வரம்புகளை கண்டறிவதே இதன் நோக்கம். பாதுகாப்பு சோதனைகள் ஒருமுறை மட்டும் நடத்தப்படும் செயல்முறையாக இல்லாமல், மாடல்கள் மேம்படுத்தப்படும் ஒவ்வொரு கட்டத்திலும் தொடர்ச்சியாக நடைபெற வேண்டிய அவசியம் உருவாகியுள்ளது.

பிரிட்டன் ஏற்கனவே AI பாதுகாப்பு தொடர்பான சோதனைகளில் முக்கிய பங்காற்றி வருகிறது. AI Security Institute மேம்பட்ட மாடல்களின் திறன்கள் மற்றும் அவற்றால் ஏற்படக்கூடிய அபாயங்களை ஆய்வு செய்து வருகிறது. முன்னணி AI நிறுவனங்களின் மாடல்களை சோதனை செய்வதற்கான அணுகலும் இந்த அமைப்புக்கு கிடைத்துள்ளது. இதன் மூலம் புதிய மாடல்கள் வெளியிடப்படுவதற்கு முன்பே அவற்றின் சாத்தியமான பலவீனங்களை கண்டறியும் முயற்சி மேற்கொள்ளப்படுகிறது. இதே நேரத்தில், AI வளர்ச்சியை அதிகப்படியான கட்டுப்பாடுகளால் மந்தப்படுத்தக் கூடாது என்ற கருத்தும் உள்ளது. தொழில்நுட்பம் மருத்துவம், கல்வி, அறிவியல் ஆராய்ச்சி, வணிகம், சைபர் பாதுகாப்பு உள்ளிட்ட பல துறைகளில் மிகப்பெரிய மாற்றங்களை ஏற்படுத்தக்கூடிய திறன் கொண்டது. எனவே, பாதுகாப்பு விதிமுறைகளுக்கும் புதுமைக்கான சுதந்திரத்துக்கும் இடையே சமநிலை ஏற்படுத்துவது அரசுகளின் முக்கிய சவாலாக உள்ளது.

ஆனால் சமீபத்திய சம்பவங்கள் ஒரு விஷயத்தை தெளிவுபடுத்துகின்றன. AI அமைப்புகளின் திறன் நாளுக்கு நாள் அதிகரித்து வரும் நிலையில், அவற்றை சோதிக்கும் முறைகளும் அதே வேகத்தில் மேம்பட வேண்டும். குறிப்பாக மனிதர்களின் நேரடி கட்டுப்பாட்டுக்கு அப்பால் செயல்படும் agents அதிகரிக்கும் போது, அவற்றின் செயல்பாடுகளை கண்காணித்தல், அனுமதிகளை வரையறுத்தல், சந்தேகத்துக்குரிய நடவடிக்கைகளை உடனடியாக நிறுத்துதல் போன்ற பாதுகாப்பு நடைமுறைகள் மிகவும் அவசியமாகின்றன. AI உலகம் அடுத்த கட்டத்தை நோக்கி நகரும் நேரத்தில், வேகமாக புதிய திறன்களை உருவாக்குவது மட்டுமல்லாமல், அந்த திறன்கள் எப்போது ஆபத்தாக மாறக்கூடும் என்பதை முன்கூட்டியே கண்டறிவதும் முக்கியமாகியுள்ளது. புதிய AI agents எழுப்பியுள்ள கேள்விகளுக்கு, கடுமையான மற்றும் தொடர்ச்சியான சோதனைகளே பாதுகாப்பான பதிலாக இருக்கக்கூடும்.

உள்ளூர் முதல் உலகம் வரை பரபரப்பான ஹாட் செய்திகளை உடனுக்குடன் அறிய மாலைமுரசு யூடியூப் சேனலை காண இங்கே கிளிக் செய்யவும்