"ஒரே வரி கட்டளை..." அதிர்ச்சியூட்டும் படங்கள்! 'AI பாதுகாப்பு' குறித்து புதிய கேள்விகளை எழுப்பிய ChatGPT சம்பவம்

செயற்கை நுண்ணறிவு (AI) தொழில்நுட்பம் உலகம் முழுவதும் வேகமாக வளர்ந்து வரும் நிலையில், அதன் பாதுகாப்பு மற்றும் கட்டுப்பாடுகள் குறித்த விவாதங்களும் தொடர்ந்து அதிகரித்து வருகின்றன. குறிப்பாக, உரையிலிருந்து படங்களை உருவாக்கும் AI கருவிகள் கடந்த சில ஆண்டுகளில் மிகப்பெரிய முன்னேற்றத்தை கண்டுள்ளன. ஆனால் இந்த முன்னேற்றத்துடன் சேர்ந்து பாதுகாப்பு தொடர்பான புதிய சவால்களும் உருவாகியுள்ளன. சமீபத்தில் வெளியான ஒரு ஆய்வு, சாதாரணமாகத் தோன்றும் ஒரு உரைக் கட்டளையின் (Prompt) மூலம் ChatGPT எதிர்பாராத வகையில் வன்முறை மற்றும் அதிர்ச்சியூட்டும் படங்களை உருவாக்கியதாகக் கூறியுள்ளது. இந்த தகவல் AI பாதுகாப்பு குறித்த புதிய விவாதத்தை ஏற்படுத்தியுள்ளது.

இந்த விவகாரம் குறித்து வெளியான தகவல்களின்படி, இணைய பாதுகாப்பு ஆய்வில் ஈடுபட்டுள்ள ஒரு நிறுவனம் ChatGPT-யின் பட உருவாக்கும் திறனை சோதனை செய்தது. ஆய்வின் போது மிகவும் எளிமையான மற்றும் வெளிப்படையாக ஆபத்தற்றதாகத் தோன்றும் சில கட்டளைகள் பயன்படுத்தப்பட்டன. ஆனால் சில சந்தர்ப்பங்களில், AI அமைப்பு எதிர்பாராத வகையில் வன்முறை, காயம் அல்லது மனஅழுத்தத்தை ஏற்படுத்தக்கூடிய காட்சிகளை உருவாக்கியதாக ஆய்வாளர்கள் தெரிவித்துள்ளனர். இது AI கருவிகளில் உள்ள பாதுகாப்பு வடிகட்டிகள் (Safety Filters) எவ்வளவு வலுவாக செயல்படுகின்றன என்ற கேள்வியை மீண்டும் எழுப்பியுள்ளது.

பொதுவாக ChatGPT மற்றும் பிற முன்னணி AI நிறுவனங்கள், தங்களது பட உருவாக்கும் அமைப்புகளில் பல அடுக்கு பாதுகாப்பு முறைகளை பயன்படுத்துகின்றன. பயனர்கள் வழங்கும் கட்டளைகள் முதலில் பரிசோதிக்கப்படுகின்றன. அதன்பிறகு உருவாக்கப்படும் படங்களும் தனித்தனியாக ஆய்வு செய்யப்படுகின்றன. வன்முறை, பாலியல் சுரண்டல், குழந்தைகள் தொடர்பான தீங்கு விளைவிக்கும் காட்சிகள் அல்லது சட்டவிரோத உள்ளடக்கங்களை உருவாக்குவதை தடுக்கும் வகையில் பல பாதுகாப்பு அமைப்புகள் இணைக்கப்பட்டுள்ளன. இருப்பினும், சில நேரங்களில் எதிர்பாராத வகையில் இந்த பாதுகாப்பு அமைப்புகளை மீறக்கூடிய சூழ்நிலைகள் உருவாகலாம் என்று நிபுணர்கள் கூறுகின்றனர்.

AI பாதுகாப்பு ஆராய்ச்சியாளர்கள் கூறுவதன்படி, இத்தகைய சம்பவங்கள் முழுமையாக புதியவை அல்ல. கடந்த சில ஆண்டுகளில் பல்வேறு பட உருவாக்கும் AI அமைப்புகளில் பாதுகாப்பு வடிகட்டிகளை தாண்டிச் செல்லும் முயற்சிகள் கண்டறியப்பட்டுள்ளன. சில ஆராய்ச்சிகள், குறிப்பிட்ட வார்த்தைகளை மாற்றி அமைப்பது அல்லது மறைமுகமாகக் குறிப்பிடுவது மூலம் பாதுகாப்பு தடைகளை மீற முடியும் என்பதை காட்டியுள்ளன. இதனை “Prompt Attack” அல்லது “Jailbreak Prompt” என்று அழைக்கின்றனர்.

இந்த சம்பவம் வெறும் தொழில்நுட்ப குறைபாடு மட்டுமல்ல; சமூக மற்றும் சட்ட ரீதியிலான விளைவுகளையும் கொண்டுள்ளது. AI மூலம் உருவாக்கப்படும் படங்கள் மிகவும் உண்மையானதாகத் தோன்றுவதால், அவை தவறான தகவல் பரப்புதல், போலி ஆதாரங்கள் உருவாக்குதல் மற்றும் சமூக குழப்பங்களை ஏற்படுத்தும் அபாயத்தையும் உருவாக்குகின்றன. குறிப்பாக சமூக ஊடகங்களில் இத்தகைய படங்கள் வேகமாக பரவக்கூடிய சூழ்நிலையில், AI நிறுவனங்களின் பொறுப்பு மேலும் அதிகரிக்கிறது என்று நிபுணர்கள் கூறுகின்றனர்.

சமீப காலங்களில் AI பட உருவாக்கும் தொழில்நுட்பம் தொடர்பாக பல்வேறு சர்ச்சைகள் எழுந்துள்ளன. சில சந்தர்ப்பங்களில், பிரபலங்களின் போலி படங்கள் உருவாக்கப்பட்டன. சில நேரங்களில் காப்புரிமை (Copyright) தொடர்பான கேள்விகளும் எழுந்தன. மேலும், AI மூலம் உருவாக்கப்பட்ட படங்கள் உண்மையா அல்லது செயற்கையாக உருவாக்கப்பட்டவையா என்பதை அடையாளம் காண்பதும் சவாலாக மாறியுள்ளது. இதனால் உலகம் முழுவதும் அரசுகள் மற்றும் கட்டுப்பாட்டு அமைப்புகள் புதிய விதிமுறைகள் குறித்து ஆலோசித்து வருகின்றன.

இந்த சம்பவம் தொடர்பாக AI பாதுகாப்பு நிபுணர்கள் ஒரு முக்கியமான கருத்தை முன்வைக்கின்றனர். எந்த AI அமைப்பும் 100 சதவீதம் பிழையற்றதாக இருக்க முடியாது. ஏனெனில் மனித மொழி மிகவும் சிக்கலானது. ஒரே கருத்தை பல்வேறு வழிகளில் வெளிப்படுத்த முடியும். இதனால் பாதுகாப்பு அமைப்புகள் அனைத்தையும் முன்கூட்டியே கணிக்க முடியாத சூழ்நிலை உருவாகிறது. எனவே பாதுகாப்பு என்பது ஒரு முறை உருவாக்கப்பட்ட அமைப்பு அல்ல; தொடர்ந்து மேம்படுத்தப்பட வேண்டிய செயல்முறை என அவர்கள் வலியுறுத்துகின்றனர்.

AI நிறுவனங்கள் தற்போது பாதுகாப்பு ஆராய்ச்சியில் அதிக முதலீடு செய்து வருகின்றன. புதிய பாதுகாப்பு வடிகட்டிகள், மனித கண்காணிப்பு முறைகள், தீங்கு விளைவிக்கும் உள்ளடக்கங்களை கண்டறியும் தானியங்கி கருவிகள் மற்றும் பொறுப்பான பயன்பாட்டு கொள்கைகள் ஆகியவை தொடர்ந்து மேம்படுத்தப்பட்டு வருகின்றன. இருந்தாலும், தொழில்நுட்ப வளர்ச்சி மற்றும் பாதுகாப்பு இடையேயான போட்டி தொடர்ந்து நடைபெற்று வருகிறது.

இந்த விவகாரம் ஒரு முக்கியமான உண்மையை மீண்டும் நினைவூட்டுகிறது. AI என்பது மிகுந்த திறன் கொண்ட தொழில்நுட்பமாக இருந்தாலும், அதனை பாதுகாப்பாகவும் பொறுப்புடனும் பயன்படுத்துவது அவசியம். படங்களை உருவாக்கும் AI கருவிகள் கலை, கல்வி, வடிவமைப்பு மற்றும் தொழில்முறை துறைகளில் புரட்சிகர மாற்றங்களை கொண்டு வந்துள்ளன. அதே நேரத்தில், அவற்றின் பாதுகாப்பு மற்றும் நெறிமுறை பயன்பாட்டை உறுதி செய்வதும் சம அளவில் முக்கியமானதாக உள்ளது.

சாதாரணமாகத் தோன்றிய ஒரு உரைக் கட்டளையிலிருந்து தொடங்கிய இந்த விவாதம், AI உலகின் அடுத்த பெரிய சவாலை வெளிச்சத்துக்கு கொண்டு வந்துள்ளது. தொழில்நுட்பம் எவ்வளவு முன்னேறினாலும், மனித கண்காணிப்பு, பொறுப்பான வடிவமைப்பு மற்றும் தொடர்ச்சியான பாதுகாப்பு ஆய்வுகள் இல்லாமல் முழுமையான நம்பகத்தன்மையை உருவாக்க முடியாது என்பதையே இந்த சம்பவம் உலகிற்கு மீண்டும் உணர்த்தியுள்ளது.

உள்ளூர் முதல் உலகம் வரை பரபரப்பான ஹாட் செய்திகளை உடனுக்குடன் அறிய மாலைமுரசு யூடியூப் சேனலை காண இங்கே கிளிக் செய்யவும்.