పరిమితం చేయబడిన AI మోడల్లలో పరిమితులను బహిర్గతం చేసిన హగ్గింగ్ ఫేస్పై సైబర్టాక్ తర్వాత, సైబర్ రక్షణ కోసం ఓపెన్-వెయిట్ సాధనాలను ప్రోత్సహించడానికి టెక్ దిగ్గజాల కూటమి ఓపెన్ సెక్యూర్ AI అలయన్స్ను ఏర్పాటు చేసింది. అదే సమయంలో, మైక్రోసాఫ్ట్ తన సొంత ఖర్చుతో కూడుకున్న AI మోడల్ను సైబర్ సెక్యూరిటీ దుర్బలత్వాలను గుర్తించి వాటిని సరిదిద్దడానికి రూపొందించబడింది.
ఏజెంట్ AI బెదిరింపుల పెరుగుదల
951 IT నిర్ణయాధికారులతో కూడిన CDW యొక్క ఇటీవలి అధ్యయనం, AI- నడిచే సైబర్ బెదిరింపుల వైపు మళ్లడాన్ని హైలైట్ చేస్తుంది, ప్రస్తుతం అనేక సంస్థలు నిర్వహించలేని విధంగా ఉన్నాయి. నివేదిక ప్రకారం, 43% సంస్థలు ఇప్పటికే AI-మెరుగైన ఫిషింగ్ పథకాలతో వ్యవహరించగా, 37% AI-అగ్మెంటెడ్ మాల్వేర్ను ఎదుర్కొన్నాయి. భద్రతా నిపుణులు తరచుగా గమనించినట్లుగా, ఉల్లంఘన అనేది ఒక అవకాశంగా కాకుండా అనివార్యతగా ఎక్కువగా పరిగణించబడుతుంది. ఈ బెదిరింపుల స్వభావం వేగంగా మారుతోంది; కేవలం 8% మంది ప్రతివాదులు మాత్రమే అత్యంత ప్రమాదకరమని పేర్కొన్న డీప్ఫేక్ ప్రయత్నాల కంటే, హానికరమైన నటీనటులు స్వయంప్రతిపత్తమైన, ఏజెంటిక్ సిస్టమ్లను అమలు చేస్తున్నారు, ఇవి స్కేల్లో దుర్బలత్వాన్ని కనుగొని, దోపిడీ చేయగలవు. ప్రతిస్పందనగా, దాదాపు 41% కంపెనీలు ఈ కొత్త హై-స్పీడ్, ఆటోమేటెడ్ దోపిడీని ఎదుర్కోవడానికి AI-ఆధారిత ముప్పు గుర్తింపు వ్యవస్థలను అమలు చేయాలని చూస్తున్నాయి.
హగ్గింగ్ ఫేస్ సంఘటన మరియు ఓపెన్ మోడల్స్
AI స్టార్టప్ హగ్గింగ్ ఫేస్పై ఏజెంట్ మోడల్లు దాడి చేసినప్పుడు ప్రస్తుత రక్షణాత్మక వ్యూహాల యొక్క దుర్బలత్వం ఇటీవల నొక్కిచెప్పబడింది. సంఘటన సమయంలో, స్టాండర్డ్ U.S. సరిహద్దు AI మోడల్లు పనికిరావని కంపెనీ కనుగొంది, ఎందుకంటే వాటి భద్రతా గార్డులు దురాక్రమణదారుని గుర్తించకుండా మరియు నిరోధించకుండా నిరోధించాయి. తత్ఫలితంగా, హగ్గింగ్ ఫేస్ దాని ఫోరెన్సిక్ విశ్లేషణను నిర్వహించడానికి స్వీయ-హోస్ట్ చేయబడిన, ఓపెన్-వెయిట్ చైనీస్ మోడల్పై ఆధారపడవలసి వచ్చింది. ఈ ఈవెంట్ ఎన్విడియా నేతృత్వంలో ఓపెన్ సెక్యూర్ AI అలయన్స్ ఏర్పాటుకు ఉత్ప్రేరకంగా పనిచేసింది. సైబర్ సెక్యూరిటీ డిఫెండర్లు అవసరమైన వేగంతో పనిచేయాలంటే, వారు మూసి, యాజమాన్య ప్లాట్ఫారమ్లకు కట్టుబడి ఉండకుండా వారి స్వంత మౌలిక సదుపాయాలపై అధునాతన AI సిస్టమ్లను తనిఖీ చేయడం, స్వీకరించడం మరియు ఆపరేట్ చేయగల సామర్థ్యాన్ని కలిగి ఉండాలని కూటమి వాదిస్తుంది.
సార్వభౌమాధికారం మరియు భద్రత కోసం పుష్
ఓపెన్ సెక్యూర్ AI అలయన్స్ సృష్టి చైనీస్ AI మోడల్లకు సంబంధించి పెరుగుతున్న భౌగోళిక రాజకీయ చర్చతో సమానంగా ఉంటుంది. మైక్రోసాఫ్ట్, మెటా మరియు ఎన్విడియా వంటి టెక్ దిగ్గజాలు ఓపెన్ సోర్స్ పర్యావరణ వ్యవస్థ కోసం వాదిస్తున్నప్పుడు, కొంతమంది విధాన రూపకర్తలు మరియు నియంత్రకులు 'స్వేదన' గురించి ఆందోళన చెందుతున్నారు, ఈ ప్రక్రియలో చైనీస్ మోడల్లు ఉన్నతమైన U.S. సరిహద్దు వ్యవస్థల నుండి యాజమాన్య జ్ఞానాన్ని సంగ్రహిస్తాయి. U.S. ట్రెజరీ సెక్రటరీ స్కాట్ బెసెంట్ ఇప్పటికే ఇటువంటి కార్యకలాపాలలో పాల్గొన్న కంపెనీలపై సంభావ్య ఆంక్షల గురించి సూచన చేశారు. పరిశ్రమ నాయకులు ఇప్పుడు ఒక బిగుతుగా నడుస్తున్నారు, ఆవిష్కరణకు ఆటంకం కలిగించే అకాల పరిమితులను నివారించాలని వాషింగ్టన్ను కోరారు. ఓపెన్ సోర్స్ కమ్యూనిటీ భద్రతకు అవసరమైన పారదర్శకతను అందిస్తుందని వారు వాదిస్తున్నారు, అయితే ఈ మోడళ్లను ఖచ్చితంగా మూసివేయడం వలన ప్రత్యక్ష భద్రతా సంక్షోభ సమయంలో పూర్తిగా నియంత్రించలేని లేదా ఆడిట్ చేయలేని మౌలిక సదుపాయాలపై ఆధారపడవలసి వస్తుంది.
మైక్రోసాఫ్ట్ యొక్క కొత్త సైబర్ సెక్యూరిటీ ఇనిషియేటివ్
సమాంతర అభివృద్ధిలో, మైక్రోసాఫ్ట్ కొత్త కృత్రిమ మేధస్సు మోడల్ను ప్రవేశపెట్టింది, MAI-Cyber-1-Flash, ప్రత్యేకంగా సైబర్ సెక్యూరిటీ దుర్బలత్వాలను గుర్తించడానికి నిర్మించబడింది. ఈ మోడల్ ఎగ్జిక్యూటివ్ హయెట్ గాలట్ ఆధ్వర్యంలో మైక్రోసాఫ్ట్ సెక్యూరిటీ వ్యాపారాన్ని పునరుద్ధరించడానికి ఒక వ్యూహాత్మక ప్రయత్నాన్ని సూచిస్తుంది. Microsoft ప్రకారం, OpenAI యొక్క GPT-5.4తో జత చేసినప్పుడు, మోడల్ సైబర్జిమ్ బెంచ్మార్క్లో ఆంత్రోపిక్ మరియు గూగుల్ నుండి పోటీ పరిష్కారాలను అధిగమిస్తుంది. మోడల్కు మించి, మైక్రోసాఫ్ట్ 'ప్రాజెక్ట్ పర్సెప్షన్'ను రూపొందిస్తోంది, సిస్టమ్ బలహీనతలను కనుగొనడం మరియు పరిష్కరించడం కోసం రూపొందించిన AI ఏజెంట్ల సూట్, ఆగస్టు 3న పబ్లిక్ ప్రివ్యూ షెడ్యూల్ చేయబడింది. CEO ముస్తఫా సులేమాన్ ఈ సాధనం యొక్క వ్యయ-సమర్థతను నొక్కిచెప్పారు, ఇది ప్రస్తుతమున్న ఎంపికలలో సగం ధరతో అధిక పనితీరును అందిస్తుంది. ప్రవేశం.
⚖ The Balanced View
Supporting view
ఎన్విడియా మరియు మైక్రోసాఫ్ట్తో సహా ఓపెన్-వెయిట్ మోడల్ల ప్రతిపాదకులు, అవి రక్షణ కోసం అవసరమైనవి అని వాదించారు, ఎందుకంటే వారు క్రియాశీల దాడి సమయంలో ప్రతిస్పందన సమయాలను అడ్డుకునే దృఢమైన గార్డ్రైల్ల జోక్యం లేకుండా సిస్టమ్లను తనిఖీ చేయడానికి మరియు స్వీయ-హోస్ట్ చేయడానికి కంపెనీలను అనుమతిస్తారు.
Concerns & criticism
చైనీస్ కంపెనీలు 'స్వేదన' కోసం ఓపెన్ మోడల్లను ఉపయోగించగల సామర్థ్యం గురించి ప్రభుత్వ అధికారులు మరియు విధాన విశ్లేషకుల నుండి గణనీయమైన ఆందోళన ఉంది-U.S. సరిహద్దు నమూనాల నుండి IPని దొంగిలించడం-ఇది నిర్దిష్ట AI- సంబంధిత లావాదేవీలపై ప్రభుత్వం విధించిన ఆంక్షలు లేదా నిషేధాలకు దారి తీస్తుంది.
→What's next
ఓపెన్ సెక్యూర్ AI అలయన్స్ ఓపెన్ టెక్నాలజీలను ఉపయోగించి దుర్బలత్వాలను బహిర్గతం చేయడం మరియు పరిష్కరించడంపై పని చేయడం ప్రారంభించాలని భావిస్తున్నారు. ఇంతలో, చైనీస్-అభివృద్ధి చెందిన AI మోడల్ల వినియోగం లేదా హోస్టింగ్పై US ప్రభుత్వం అధికారిక పరిమితులను అమలు చేస్తుందా లేదా అనే విషయాన్ని పరిశ్రమ నిశితంగా పరిశీలిస్తుంది.