AI மனிதகுலத்திற்கு ஆபத்து.. Anthropic-இல் இருந்து விலகிய நிபுணர் பகீர்!
செய்தியாளர் - M. மீரா
உலகின் முன்னணி செயற்கை நுண்ணறிவு நிறுவனங்களில் ஒன்றான Anthropic நிறுவனத்தில் மூன்று ஆண்டுகள் பணியாற்றிய 27 வயது ஏஐ ஆராய்ச்சியாளர் ஜேகப் காக்சன், தனது பதவியில் இருந்து விலகியிருப்பது தொழில்நுட்ப உலகில் பரபரப்பை ஏற்படுத்தியுள்ளது. அவர் தனது பதவி விலகல் குறித்து சமூக வலைதளமான X-இல் பதிவிட்ட காக்சன், OpenAI மற்றும் Anthropic ஆகிய இரு நிறுவனங்களும் ஏஐ வளர்ச்சியில் பொறுப்புடன் செயல்படவில்லை என்று கடுமையாக விமர்சித்துள்ளார்.
தான், OpenAI மற்றும் Anthropic ஆகிய இரு நிறுவனங்களிலும் ஏஐ மாடல்களின் pretraining தொடர்பான ஆராய்ச்சியில் பணியாற்றியதாகக் கூறியிருக்கும் அவர், இந்த நிறுவனங்கள் தன்னைத்தானே மேம்படுத்திக்கொள்ளும் ‘Superintelligence’ நோக்கி வேகமாக நகர்ந்து வருவதாகவும், இதன்மூலம் மனித உயிர்களையே ஆபத்தில் தள்ளுவதாகவும் தெரிவித்துள்ளார்.
ஏஐ துறையில் பணியாற்றும் பலர், இந்த தொழில்நுட்பம் இந்த 10 ஆண்டுக்குள் மனிதகுலத்தையே அழிக்கும் சாத்தியம் இருப்பதாக உண்மையாக நம்புவதாக காக்சன் தெரிவித்துள்ளார். வேறு எந்த மனிதச் செயல்பாடும் இந்த அளவிலான ஆபத்தை ஏற்படுத்தவில்லை” என்றும் காக்சன் எச்சரித்துள்ளார்.
மேலும், ஏஐ தொழில்நுட்பத்தின் திறனை ஒருபோதும் குறைத்து மதிப்பிடக்கூடாது என்றும் எதிர்காலத்தில் உருவாகக்கூடிய சூப்பர் இன்டெலிஜென்ட் ஏஐ அமைப்புகள் சைபர் தாக்குதல்களை மேற்கொள்ளவும், பல்வேறு துறைகளில் மிகப்பெரிய மாற்றங்களை மிகக் குறுகிய காலத்தில் ஏற்படுத்தவும், நிஜ உலகில் அதிகாரம் மற்றும் வளங்களைப் பெறவும் முடியும் என்றும் அவர் எச்சரித்துள்ளார்.
OpenAI-யில் AIயின் ஆபத்து குறித்த புரிதல் போதுமான அளவுக்கு இல்லை என்று அவர் கூறியுள்ளார். அதேவேளை, Anthropic நிறுவனத்தில் இந்த ஆபத்துகள் நன்கு புரிந்துகொள்ளப்பட்டிருந்தாலும், “போட்டியில் மற்றவர்கள் முன்னேறிவிடக்கூடாது என்ற அச்சம், ஏஐயின் ஆபத்து குறித்த அச்சத்தைவிட வலுவாக உள்ளது” என அவர் தெரிவித்துள்ளார்.
தனியார் நிறுவனங்களின் உள்கட்டமைப்புக்குள் இதுபோன்ற மிகப்பெரிய முடிவுகளை எடுப்பது ஆபத்தானது என்றும், Super Intelligenceஐ நோக்கிய போட்டியை ஏற்கும் முன் மிக உயர்ந்த அளவிலான நம்பிக்கையும் பாதுகாப்பு உறுதியும் தேவை என்றும் காக்சன் வலியுறுத்தியுள்ளார்.
ஏஐ ஆய்வகங்களில் பணியாற்றும் ஆராய்ச்சியாளர்கள், அடுத்த சில ஆண்டுகளில் என்ன நடக்கப்போகிறது என்பதை தீவிரமாக சிந்திக்க வேண்டும் என்றும் அவர் கேட்டுக்கொண்டுள்ளார்.
சூப்பர் இன்டெலிஜென்ட் ஏஐ உருவாக்கும் முயற்சிகளைத் தொடங்குவதற்கு முன்பு, அதன் செயல்பாடுகள் மற்றும் மனம் குறித்து போதுமான புரிதல் இருக்கிறதா என்பதைக் கேள்வி எழுப்ப வேண்டும் என்றும் தெரிவித்துள்ளார்.
மேலும், உலகளாவிய ஏஐ போட்டியைத் தடுக்க மாடல்களின் திறனை மேம்படுத்துவதற்கு தற்காலிகத் தடை போன்ற கடுமையான நடவடிக்கைகள் தேவைப்படலாம் என்றும் அவர் கூறியுள்ளார். ஜேகப் காக்சனின் கருத்துகளுக்கு பதிலளித்த Anthropic நிறுவனத்தின் Alignment Science Lead Evan Hubinger, ஏஐ மனிதகுலம் முழுவதையும் அழிக்கும் சாத்தியம் இருப்பதாக Anthropic உண்மையாகவே நம்புவதாகத் தெரிவித்துள்ளார். மேலும், தனிப்பட்ட முறையில், அடுத்த பத்து ஆண்டுகளில் இதற்கான ஆபத்து 10 சதவீதத்துக்கும் அதிகமாக இருக்கலாம் என்றும் அவர் கூறியுள்ளார்.
தற்போதைய ஏஐ மாடல்களால் ஏற்படும் ஆபத்து குறைவாக இருப்பதாகக் கூறிய அவர், தன்னைத்தானே மேம்படுத்திக்கொள்ளும் Super intelligence உருவாகும் சாத்தியமே தன்னை அதிகம் கவலைப்படுத்துகிறது என்று தெரிவித்துள்ளார்.
