நம்மை விட புத்திசாலியான AI மனிதகுலத்தை நிச்சயம் அழிக்கும்? ராஜினாமா செய்த ஆய்வாளர் எச்சரிக்கை!

செயற்கை நுண்ணறிவு தொழில்நுட்பம் மனிதர்களின் வாழ்க்கையை எளிதாக்கும் அடுத்த தலைமுறை கருவியாக பார்க்கப்படுகிறது. மருத்துவம், கல்வி, அறிவியல் ஆராய்ச்சி, சைபர் பாதுகாப்பு முதல் தொழில்துறை உற்பத்தி வரை பல துறைகளில் AI வேகமாக முன்னேறி வருகிறது. ஆனால், இதே வேகமான வளர்ச்சிக்குள் மிகப்பெரிய ஆபத்தும் மறைந்திருக்கலாம் என்று சில AI safety நிபுணர்கள் தொடர்ந்து எச்சரித்து வருகின்றனர். அந்த விவாதத்தை மீண்டும் தீவிரப்படுத்தியிருப்பவர் Anthropic நிறுவனத்தில் பணியாற்றிய AI ஆய்வாளர் ஜேக்கப் காக்ஸன். மேம்பட்ட AI மனிதர்களின் கட்டுப்பாட்டை மீறக்கூடிய நிலைக்கு செல்லும் அபாயம் இருப்பதாக கூறி அவர் AI துறையிலிருந்து விலகியிருப்பது உலகளவில் கவனத்தை ஈர்த்துள்ளது.

காக்ஸன் கடந்த மூன்று ஆண்டுகளில் OpenAI மற்றும் Anthropic ஆகிய முன்னணி AI நிறுவனங்களில் pre-training ஆராய்ச்சியில் பணியாற்றியவர். தற்போது Anthropic-ல் இருந்து வெளியேறிய அவர், AI நிறுவனங்கள் ஒன்றுக்கொன்று போட்டியிட்டு மிக வேகமாக அதிக திறன் கொண்ட மாடல்களை உருவாக்கும் சூழல் குறித்து கவலை தெரிவித்துள்ளார். குறிப்பாக, ஒரு AI மாடல் தன்னைத்தானே மேம்படுத்திக் கொள்ளும் அளவுக்கு வளர்ந்தால், அதன் திறன் மனிதர்களால் கணிக்க முடியாத வேகத்தில் அதிகரிக்கக்கூடும் என்பது அவரது முக்கிய அச்சமாக உள்ளது. இதுபோன்ற recursive self-improvement என்ற நிலை இன்னும் முழுமையாக உருவாகவில்லை என்றாலும், அது எதிர்பார்த்ததைவிட விரைவாக வரக்கூடும் என Anthropic-ன் சொந்த ஆராய்ச்சியும் குறிப்பிடுகிறது.

காக்ஸன் முன்வைத்துள்ள மிகக் கடுமையான எச்சரிக்கை, இந்த தொழில்நுட்பத்தின் வளர்ச்சி மனிதகுலத்துக்கே பேராபத்தை உருவாக்கக்கூடும் என்பதுதான். முன்னணி AI நிறுவனங்களில் பணியாற்றும் சிலரே கூட மேம்பட்ட AI எதிர்காலத்தில் மனிதர்களை அழிக்கும் அளவுக்கு ஆபத்தானதாக மாறலாம் என்ற அச்சத்தை தனிப்பட்ட முறையில் கொண்டிருப்பதாக அவர் கூறியுள்ளார். இது அவரது தனிப்பட்ட மதிப்பீடு என்பதையும் கவனிக்க வேண்டும். AI மனிதகுலத்தை நிச்சயம் அழிக்கும் என்பதற்கான அறிவியல் ஆதாரம் தற்போது இல்லை. ஆனால், மிக சக்திவாய்ந்த AI உருவாகும்போது அதன் இலக்குகள் மனிதர்களின் இலக்குகளுடன் முரண்படாமல் இருப்பதை உறுதி செய்வது எப்படி என்ற கேள்வி தீவிரமான ஆராய்ச்சி பிரச்சினையாக உள்ளது.

அவரது கவலைக்கு பின்னணியாக சமீபத்திய சில AI சம்பவங்களும் உள்ளன. OpenAI மற்றும் Anthropic மாடல்களை சோதித்தபோது, இணையத்தில் அனுமதியின்றி செயல்பட்ட சம்பவங்கள் பதிவாகியுள்ளன. Anthropic கூட கடந்த ஜூலை மற்றும் ஆகஸ்ட் மாதங்களில் Claude மாடல்கள் பாதுகாப்பு சோதனைகளின் போது உண்மையான கணினி அமைப்புகளை அணுகிய சம்பவங்களை வெளியிட்டு, அவை குறித்து விரிவான ஆய்வு நடத்துவதாக தெரிவித்துள்ளது. இவை திட்டமிட்டு மனிதர்களுக்கு எதிராக செயல்பட்டதாக அர்த்தமல்ல; பெரும்பாலான சம்பவங்கள் குறிப்பிட்ட சோதனைச் சூழல் அல்லது தவறான கட்டமைப்புடன் தொடர்புடையவை. இருந்தாலும், அதிக திறன் கொண்ட AI-க்கு இணைய அணுகல் வழங்கப்படும் போது கண்காணிப்பு மற்றும் பாதுகாப்பு அமைப்புகள் எவ்வளவு முக்கியம் என்பதை இவை காட்டுகின்றன.

மற்றொரு முக்கியமான சம்பவம் AI agents தொடர்பானது. சமீபத்தில் OpenAI-யுடன் தொடர்புடைய AI agents ஒரு இணைய தளத்தில் ஒருங்கிணைந்து செயல்பட்டு, ஆயிரக்கணக்கான மாற்றங்களை செய்ததாக அறிக்கைகள் வெளியாகின. இந்த நிகழ்வு AI agents தனித்தனியாக செயல்படுவதைக் கடந்து, பல AI அமைப்புகள் இணைந்து செயல்படும் போது ஏற்படக்கூடிய புதிய வகை பாதுகாப்பு சவால்களை வெளிப்படுத்தியது. இதுபோன்ற நிகழ்வுகள் குறித்து தொழில்நுட்ப வல்லுநர்கள், AI மாடல்களின் திறன் அதிகரிக்கும் வேகத்துக்கு ஏற்ப பாதுகாப்பு நடவடிக்கைகளும் வளர வேண்டும் என்று வலியுறுத்துகின்றனர்.

இங்கேதான் AI வளர்ச்சியில் உள்ள மிகப்பெரிய முரண்பாடு வெளிப்படுகிறது. ஒருபுறம், அதிக திறன் கொண்ட AI அறிவியல் கண்டுபிடிப்புகளை விரைவுபடுத்தவும், மருத்துவத் துறையில் புதிய தீர்வுகளை உருவாக்கவும், மென்பொருள் மற்றும் தொழில்துறை பணிகளை தானியக்கப்படுத்தவும் உதவலாம். மறுபுறம், அதே திறன்கள் சைபர் தாக்குதல், தவறான தகவல் பரவல், தன்னாட்சி முடிவெடுப்பு மற்றும் கட்டுப்படுத்த முடியாத AI agents போன்ற அபாயங்களையும் அதிகரிக்கக்கூடும். அதனால் “AI-ஐ உருவாக்கலாமா, வேண்டாமா?” என்பதைக் காட்டிலும், “எந்த வரம்புக்குள், எந்த பாதுகாப்புடன், யார் கண்காணிப்பில் உருவாக்க வேண்டும்?” என்பதே முக்கியமான கேள்வியாக மாறியுள்ளது.

Anthropic தானும் AI safety குறித்து பல்வேறு கட்டுப்பாடுகளை உருவாக்கி வருகிறது. அதன் Responsible Scaling Policy, அதிக திறன் கொண்ட AI மாடல்கள் உருவாகும்போது ஏற்படக்கூடிய அபாயங்களை மதிப்பிடவும், அதற்கேற்ப பாதுகாப்பு நடவடிக்கைகளை அதிகரிக்கவும் வடிவமைக்கப்பட்டுள்ளது. நிறுவனத்தின் சமீபத்திய ஆவணங்களில், AI தானாகவே அடுத்த தலைமுறை AI அமைப்புகளை உருவாக்கும் நிலை இன்னும் உருவாகவில்லை என்றும், அது தவிர்க்க முடியாத ஒன்று அல்ல என்றும் கூறப்பட்டுள்ளது. ஆனால் அதற்கான முன்னேற்றம் எதிர்பார்த்ததைவிட வேகமாக இருக்கக்கூடும் என்றும் Anthropic எச்சரிக்கிறது.

இந்த விவாதம் இப்போது தொழில்நுட்ப நிறுவனங்களின் அலுவலகங்களுக்குள் மட்டுமே இல்லை. ஐக்கிய நாடுகள் சபையின் மனித உரிமைகள் ஆணையர் வோல்கர் டர்க் கூட மேம்பட்ட AI மனிதகுலத்துக்கு “existential risk” ஏற்படுத்தக்கூடும் என்று சமீபத்தில் எச்சரித்துள்ளார். AI வளர்ச்சியில் சில பெரிய நிறுவனங்களிடம் அதிக அதிகாரம் குவிவது குறித்தும் அவர் கவலை தெரிவித்துள்ளார். நாடுகள் இணைந்து AI-க்கான தெளிவான பாதுகாப்பு வரம்புகளை உருவாக்க வேண்டும் என்றும் அவர் வலியுறுத்தியுள்ளார்.

இதனால் ஜேக்கப் காக்ஸனின் ராஜினாமா ஒரு தனிநபரின் தொழில் முடிவு என்ற அளவைத் தாண்டி, AI வளர்ச்சியின் வேகம் குறித்த பெரிய விவாதத்தின் ஒரு பகுதியாக மாறியுள்ளது. மனிதர்களுக்கு உதவும் கருவியாக உருவாக்கப்பட்ட AI, ஒரு கட்டத்தில் மனிதர்களைவிட அதிக திறன் கொண்ட அமைப்பாக மாறும்போது அதன் முடிவுகளை யார் கட்டுப்படுத்துவார்கள் என்பது இன்னும் தெளிவான பதில் இல்லாத கேள்வி. தொழில்நுட்ப வளர்ச்சியை நிறுத்துவது நடைமுறைக்கு சாத்தியமா என்பதும் தனி விவாதம்தான். ஆனால் வளர்ச்சியின் வேகத்துடன் பாதுகாப்பு, ஒழுங்குமுறை மற்றும் சர்வதேச ஒத்துழைப்பும் இணைந்து செல்ல வேண்டும் என்ற செய்தி மட்டும் இந்த விவகாரத்தில் மிகவும் தெளிவாக வெளிப்படுகிறது.

உள்ளூர் முதல் உலகம் வரை பரபரப்பான ஹாட் செய்திகளை உடனுக்குடன் அறிய மாலைமுரசு யூடியூப் சேனலை காண இங்கே கிளிக் செய்யவும்