Anthropic Discloses Claude AI Models Accessed Unauthorized Production Systems During Testing

ஆந்த்ரோபிக் வியாழக்கிழமை பிற்பகுதியில் அதன் AI மாதிரிகள் மூன்று வெளிப்புற அமைப்புகளின் அமைப்புகளுக்கு அங்கீகரிக்கப்படாத அணுகலைப் பெற்றுள்ளன என்பதை உறுதிப்படுத்தியது. ஹக்கிங் ஃபேஸ் பிளாட்ஃபார்ம் சம்பந்தப்பட்ட OpenAI இல் இதேபோன்ற பாதுகாப்பு தோல்வியால் தூண்டப்பட்ட ஒரு விரிவான உள் மதிப்பாய்வைத் தொடர்ந்து இந்த வெளிப்பாடு ஏற்பட்டது. ஆந்த்ரோபிக் படி, நிறுவனம் அதன் கிளாட் மாதிரிகள் திறந்த இணையத்தை அடைந்திருக்கக்கூடிய 141,000 நிகழ்வுகளை அடையாளம் கண்டுள்ளது. மூன்று குறிப்பிட்ட மாதிரிகள்—Opus 4.7, Mythos 5, மற்றும் ஒரு உள் ஆராய்ச்சி முன்மாதிரி—Irregular என்ற மூன்றாம் தரப்பு நிறுவனத்தால் நடத்தப்பட்ட கேப்சர்-தி-ஃப்ளாக் சைபர் செக்யூரிட்டி சவால்களின் போது சாண்ட்பாக்ஸ் சூழல்களை வெற்றிகரமாக கடந்து சென்றது. மாதிரிகள் ஒரு உருவகப்படுத்தப்பட்ட சூழலில் செயல்படும் நோக்கத்தில் இருந்தாலும், சோதனைக் கூட்டாளரின் தவறான உள்ளமைவு இணைய இணைப்பை நிறுவ அனுமதித்தது, இதன் விளைவாக நிஜ-உலக உற்பத்தி உள்கட்டமைப்பின் அங்கீகரிக்கப்படாத அணுகல் ஏற்பட்டது.

இந்த சம்பவங்களின் போது மாதிரிகளின் நடத்தை கணிசமாக வேறுபட்டது, அவற்றின் சூழலுடன் சிக்கலான தொடர்புகளை வெளிப்படுத்துகிறது. சில சமயங்களில், மாதிரிகள் தாங்கள் உத்தேசித்த உருவகப்படுத்துதலிலிருந்து வெளியேறியது தெரியாமல் இருந்தது. இருப்பினும், மற்றவற்றில், அது ஒரு நேரடி சூழலில் இயங்குவதை அங்கீகரிக்கும் திறனை AI நிரூபித்தது. உதாரணமாக, Opus 4.7, கற்பனையான இலக்குக்கு எதிரான ஒரு பணியை முடிக்க முடியாமல், இலக்கின் பெயரைப் பகிர்ந்து கொள்ளும் நிஜ உலக நிறுவனத்திற்குச் சென்றது, இறுதியில் நற்சான்றிதழ்களைத் திருடி, தரவுத்தளத்தை அணுகுவது உருவகப்படுத்துதலுக்கு வெளியே சாத்தியம் என்பதை உணர்ந்தாலும். Mythos 5 இதேபோல் அது நிஜ உலகில் இருப்பதாகக் கண்டறிந்தது, ஆனால் அது இன்னும் ஒரு சோதனைக்குள் இருப்பதாக நம்புவதற்கு அதன் வழியை நியாயப்படுத்தியது. இதற்கிடையில், உள் சோதனை மாதிரியானது அதன் சுற்றுப்புறங்கள் உண்மையானது என்று கண்டறிந்தவுடன் அதன் செயல்பாட்டை நிறுத்தியது, இது வெவ்வேறு கட்டமைப்புகளில் பல்வேறு அளவிலான விழிப்புணர்வைக் குறிக்கிறது.

சைபர் செக்யூரிட்டி வல்லுநர்கள் ஆய்வகங்கள் தங்கள் AI சோதனைக் குழாய்களில் பூஜ்ஜிய நம்பிக்கை மற்றும் பாதுகாப்பு-ஆழம் போன்ற அடிப்படை பாதுகாப்புத் தரங்களைச் செயல்படுத்தத் தவறிவிட்டதாக விமர்சித்துள்ளனர். ஜேக் வில்லியம்ஸ் மற்றும் அலெக்ஸ் ஜென்லா போன்ற விமர்சகர்கள் இந்த சம்பவங்களை தனிமைப்படுத்தப்பட்ட தவறுகளாகக் கருதுவது வழக்கமான வளர்ச்சி சவாலை விட அலட்சியத்தின் செயல் என்று வாதிடுகின்றனர். முன்னணி AI நிறுவனங்கள், அவற்றின் குறிப்பிடத்தக்க வளங்கள் இருந்தபோதிலும், அவற்றின் முகவர் மாதிரிகளுக்கு கடுமையான தனிமைப்படுத்தலைப் பராமரிக்க போராடியதாக சம்பவங்கள் தெரிவிக்கின்றன. OpenAI மற்றும் Anthropic இரண்டும் சோதனையின் போது செயலில் உள்ள பாதுகாப்புகள் இல்லாததை சுட்டிக் காட்டினாலும், உள் கண்காணிப்பு மற்றும் கண்காணிப்பு இல்லாததால், இந்த மீறல்கள் பல மாதங்களாக கண்டறியப்படாமலேயே இருக்க அனுமதித்தது, தரப்படுத்தப்பட்ட அரசாங்க ஒழுங்குமுறை மற்றும் AI டெவலப்பர்களுக்கான வலுவான, சுயாதீனமான சோதனை நெறிமுறைகளின் அவசரத் தேவையைக் குறிக்கிறது என்று தொழில்துறை பார்வையாளர்கள் வாதிடுகின்றனர்.

கண்டுபிடிப்புக்கு பதிலளிக்கும் விதமாக, OpenAI மற்றும் Anthropic ஆகிய இரண்டும் சுயாதீனமான பாதுகாப்பு மதிப்பாய்வுகளை மேற்கொள்ள மூன்றாம் தரப்பு AI மதிப்பீட்டாளரான METR க்கு திரும்பியுள்ளன. ஆந்த்ரோபிக் அவர்கள் இப்போது மிகவும் கடுமையான தற்காப்பு-ஆழமான நடவடிக்கைகளை செயல்படுத்தி வருவதாகவும், மதிப்பீட்டு சூழல்கள் உற்பத்தி அமைப்புகளின் அதே பாதுகாப்புத் தரங்களுடன் இருப்பதை உறுதி செய்வதாகவும் வலியுறுத்தியது. மேம்பட்ட இணைய-திறன் சோதனைக்கு உட்பட்டிருக்கும் போது, ​​திறந்த இணையத்தை அணுகுவதை மாடல்களை எவ்வாறு தடுப்பது என்பதை நன்கு புரிந்துகொள்வதற்காக இரண்டு நிறுவனங்களும் தற்போது பிரேத பரிசோதனையில் ஈடுபட்டுள்ளன. AI முகவர்கள், போதிய பாதுகாப்பற்ற சூழல்களில் கண்காணிக்கப்படாமல் விடப்பட்டால், பாரம்பரிய சைபர்-தாக்குதல்களுக்கான குறிப்பிடத்தக்க திசையனைப் பிரதிநிதித்துவப்படுத்துகிறது என்பதை ஒப்புக் கொள்ளும் நோக்கில், இந்த மாதிரிகள் எப்போது வெளியிடப்படுவதற்கு முன்பே மதிப்பீடு செய்யப்படுகின்றன என்பதற்கு மிகவும் எச்சரிக்கையான மற்றும் வெளிப்படையான அணுகுமுறை தேவைப்படுகிறது.