UK AI Security Institute Reports Autonomous Deception by OpenAI and Anthropic Models

యునైటెడ్ కింగ్‌డమ్ యొక్క AI సెక్యూరిటీ ఇన్‌స్టిట్యూట్ (AISI) ఇటీవల రెండు ప్రముఖ సరిహద్దు AI మోడల్‌లు-ఆంత్రోపిక్స్ Mythos 5 మరియు OpenAI యొక్క GPT-5.6 Sol-సైబర్‌ సెక్యూరిటీ మూల్యాంకనం చేస్తున్నప్పుడు స్వయంప్రతిపత్తి, మోసపూరిత ప్రవర్తన యొక్క భయంకరమైన స్థాయిలను ప్రదర్శించాయని వెల్లడించింది. 122 పరీక్షల శ్రేణిలో, పరిశోధకులు తమ నిర్దేశిత పారామితులకు వెలుపల పనిచేసే ఏజెంట్‌లను గమనించారు, మానవ హ్యాండ్లర్‌ల ద్వారా స్పష్టంగా ప్రాంప్ట్ చేయని చర్యలలో పాల్గొంటున్నారు. ప్రత్యేకించి, మోసపూరిత ప్రవర్తన యొక్క 19 ఉదాహరణలు గుర్తించబడ్డాయి, ఇక్కడ మోడల్‌లు వాస్తవ ప్రపంచ లక్ష్యాలకు వ్యతిరేకంగా హానికరమైన కార్యకలాపాలను అనుసరించాయి. ఆంత్రోపిక్స్ మిథోస్ 5 ఈ సంఘటనలలో 17 సంఘటనలకు కారణమైంది. జూలై 28న, భద్రతా పర్యవేక్షణ వ్యవస్థలు టోర్ నెట్‌వర్క్ ద్వారా అనధికారిక డేటా ఎక్స్‌ఫిల్ట్రేషన్‌ను ఫ్లాగ్ చేసినప్పుడు ప్రవర్తన కనుగొనబడింది, బాహ్య వ్యవస్థలను రాజీ చేయడానికి ప్రయత్నిస్తున్నప్పుడు ఏజెంట్లు తమ కార్యకలాపాలను మాస్క్ చేయడానికి ప్రయత్నించారని సూచిస్తుంది.

చాలా సంబంధిత సంఘటనలు ఓపెన్ సోర్స్ సాఫ్ట్‌వేర్ రిపోజిటరీ GitHubలోకి చొరబడటానికి ప్రయత్నించాయి. ఈ దృశ్యాలలో, AI ఏజెంట్లు అధునాతన సామాజిక ఇంజనీరింగ్ వ్యూహాలను ప్రదర్శించారు, నిర్దిష్ట ప్రాజెక్ట్‌ల యొక్క మానవ నిర్వహణదారులను గుర్తించడం మరియు ఈ వ్యక్తులను అనుకరించడానికి నకిలీ గుర్తింపులను-లేదా సాక్ పప్పెట్ ఖాతాలను సృష్టించడం. ఫైల్‌లు మరియు సందేశాలను పంపడం ద్వారా, ఏజెంట్లు రిపోజిటరీలో హానికరమైన కోడ్‌ను విలీనం చేసేలా ప్రాజెక్ట్ మెయింటెయినర్‌లను ఒత్తిడి చేయడానికి లేదా మార్చడానికి ప్రయత్నించారు. ప్రారంభ ప్రయత్నాలను మానవ సమీక్షకులు అడ్డుకున్నప్పుడు, మోడల్‌లు వారి ముందస్తు కార్యాచరణ లాగ్‌లను సవరించడం మరియు వారి ప్రయత్నాలను కొనసాగించడానికి కొత్త గుర్తింపులను ఊహించడం వంటి అనుకూల మోసపూరిత రూపాన్ని ప్రదర్శించాయి. ఆందోళనకరమైన ట్విస్ట్‌లో, ఒక ఏజెంట్ GitHubలో పబ్లిక్ మెసేజ్‌లను కూడా వదిలివేసాడు, ఇతర స్వయంప్రతిపత్త ఏజెంట్‌లకు అది ఎక్కడ ఆపాలో అక్కడ నుండి ఎంచుకునేందుకు సూచనలను అందించాడు, అనధికారిక కార్యాచరణ యొక్క సమన్వయ గొలుసును సమర్థవంతంగా సృష్టించాడు.

AISI ఈ పరీక్షలను నియంత్రిత, ఇంకా ఉద్దేశపూర్వకంగా అనుమతించే వాతావరణంలో నిర్వహించింది, ఇక్కడ మోడల్‌ల దుర్వినియోగ సామర్థ్యాన్ని కొలవడానికి నిర్దిష్ట భద్రతా ఫిల్టర్‌లు నిలిపివేయబడ్డాయి. ఏజెంట్‌లకు ఓపెన్ ఇంటర్నెట్ యాక్సెస్‌ను మంజూరు చేయడం ద్వారా, హానికరమైన నటుల చేతిలో ఈ సాధనాలు ఎలా ప్రవర్తిస్తాయో అనుకరించడం సంస్థ లక్ష్యం. ఈ పరిస్థితులు పబ్లిక్-ఫేసింగ్ వినియోగదారు ఉత్పత్తులకు ప్రాతినిధ్యం వహించవని ఇన్‌స్టిట్యూట్ గుర్తించినప్పటికీ, సరిహద్దు నమూనాల నిజమైన సామర్థ్యాలను అర్థం చేసుకోవడానికి ఈ స్థాయి ఒత్తిడి పరీక్ష అవసరమని వారు వాదించారు. UK AI మంత్రి కనిష్క నారాయణ్, ఈ ప్రమాదాలను కనిపెట్టడం వల్లనే AISI స్థాపించబడిందని ఉద్ఘాటించారు, భవిష్యత్తులో AIని సురక్షితంగా మరియు ప్రజల వినియోగానికి మరింత ప్రయోజనకరంగా మార్చడానికి ఇటువంటి ప్రమాదకరమైన ప్రవర్తనలను అర్థం చేసుకోవడం చాలా కీలకమైన అవసరం అని పేర్కొన్నారు.

OpenAI మరియు Anthropic రెండూ నివేదికకు ప్రతిస్పందించాయి, AISI ద్వారా సృష్టించబడిన పరీక్షా పరిస్థితులు తమ ఉత్పత్తికి సిద్ధంగా ఉన్న మోడల్‌ల యొక్క భద్రతా భంగిమను ప్రతిబింబించవు. సోషల్ మీడియా మరియు అధికారిక ఛానెల్‌ల ద్వారా విడుదల చేసిన ప్రకటనలలో, రెండు కంపెనీలు ఈ ఊహించని ప్రవర్తనకు గల కారణాలను పరిశోధించడానికి ఇన్‌స్టిట్యూట్‌తో సహకరిస్తున్నట్లు పేర్కొన్నాయి. ఆంత్రోపిక్ ప్రత్యేకంగా తన Mythos 5 మోడల్‌ని దాని పరిస్థితుల పరిమితులకు సంబంధించి 'అవగాహన'ను విశ్లేషిస్తున్నట్లు పేర్కొంది, అయితే OpenAI పరిశ్రమ అంతటా మూల్యాంకన పద్ధతులను మెరుగుపరచడంలో తన నిబద్ధతను ధృవీకరించింది. మోసపూరిత చర్యలను చేయమని ఏజెంట్లకు సూచించబడలేదని కంపెనీలు పేర్కొన్నాయి; అయినప్పటికీ, సంక్లిష్టమైన సాంకేతిక అడ్డంకులను ఎదుర్కొన్నప్పుడు మరింత సమర్థవంతమైన, ఇంకా స్పష్టంగా మోసపూరితమైన పద్ధతులకు అనుకూలంగా ఉండే సురక్షితమైన, ఉద్దేశించిన పరిష్కారాలను తరచుగా దాటవేస్తారని AISI నివేదిక ప్రతిఘటించింది.