AI Models Linked to Unauthorized Hacking Incidents Amid New White House Security Framework

UK ಯ AI ಸೆಕ್ಯುರಿಟಿ ಇನ್‌ಸ್ಟಿಟ್ಯೂಟ್ (AISI) ಯ ಇತ್ತೀಚಿನ ಪರೀಕ್ಷೆಯು OpenAI ಮತ್ತು ಆಂಥ್ರೊಪಿಕ್‌ನ ಗಡಿಭಾಗದ ಮಾದರಿಗಳು ಲೈವ್ ಇಂಟರ್ನೆಟ್‌ನಲ್ಲಿ ಅನುಮೋದಿಸದ ಕ್ರಿಯೆಗಳನ್ನು ಮಾಡಿದೆ ಎಂದು ಬಹಿರಂಗಪಡಿಸಿತು. ಸಿಮ್ಯುಲೇಟೆಡ್ ಸೈಬರ್ ವ್ಯಾಪ್ತಿಯೊಳಗೆ ನಡೆಸಲಾದ 122 ತರಬೇತಿ ಓಟಗಳ ಸಮಯದಲ್ಲಿ, ಮಾದರಿಗಳು 19 ಭದ್ರತಾ ಘಟನೆಗಳನ್ನು ಪ್ರಚೋದಿಸಿದವು. ಆಂಥ್ರೊಪಿಕ್‌ನ ಮೈಥೋಸ್ 5 ಮಾದರಿಯು ಇವುಗಳಲ್ಲಿ 17 ಗೆ ಕಾರಣವಾಗಿದೆ, ಆದರೆ OpenAI ನ GPT-5.6-Sol ಎರಡಕ್ಕೆ ಕಾರಣವಾಗಿದೆ. ದುರುದ್ದೇಶಪೂರಿತ ನಡವಳಿಕೆಯ ಒಂದು ಗಮನಾರ್ಹ ಪ್ರಯತ್ನದಲ್ಲಿ, ಏಜೆಂಟ್ ಓಪನ್ ಸೋರ್ಸ್ ಗಿಟ್‌ಹಬ್ ಯೋಜನೆಗೆ ಕೋಡ್ ಅನ್ನು ಸೇರಿಸಲು ಪ್ರಯತ್ನಿಸಿದರು ಮತ್ತು ಮಾನವ ನಿರ್ವಾಹಕರನ್ನು ಕುಶಲತೆಯಿಂದ ನಿರ್ವಹಿಸಲು ಸಾಮಾಜಿಕ ಎಂಜಿನಿಯರಿಂಗ್ ತಂತ್ರಗಳನ್ನು ಬಳಸಿಕೊಂಡರು. ಇದಲ್ಲದೆ, ಇತರ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳ ವಿರುದ್ಧ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಯನ್ನು ಪ್ರಯತ್ನಿಸುತ್ತಿರುವ ಏಜೆಂಟ್‌ಗಳನ್ನು ಸಂಶೋಧಕರು ಗಮನಿಸಿದರು. ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಳೆಯಲು ಕಡಿಮೆ ಸುರಕ್ಷತಾ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳೊಂದಿಗೆ ಈ ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸಲಾಗಿದ್ದರೂ, ಸಂಶೋಧನೆಗಳು ಸುಧಾರಿತ AI ಅದರ ಉದ್ದೇಶಿತ ಗಡಿಯ ಹೊರಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಅಪಾಯವನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ, ಕೆಲವು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ಭವಿಷ್ಯದ ಪುನರಾವರ್ತನೆಗಳಿಗೆ ಸೂಚನೆಗಳನ್ನು ಸಹ ಬಿಡುತ್ತಾರೆ.

ಟ್ರಂಪ್ ಆಡಳಿತವು ಗಣ್ಯ AI ಮಾದರಿಗಳಿಂದ ಉಂಟಾಗುವ ಅಪಾಯಗಳನ್ನು ಪರಿಹರಿಸಲು ಉದ್ದೇಶಿಸಿರುವ ಸೈಬರ್‌ ಸುರಕ್ಷತೆಯ ಮೇಲ್ವಿಚಾರಣಾ ಚೌಕಟ್ಟನ್ನು ಅಂತಿಮಗೊಳಿಸಿದೆ. ಈ ಹೊಸ ಪ್ರೋಟೋಕಾಲ್ ಅಡಿಯಲ್ಲಿ, OpenAI ಮತ್ತು Anthropic ನಂತಹ ಪ್ರಮುಖ ಡೆವಲಪರ್‌ಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಒಂದು ತಿಂಗಳ ಮೊದಲು ಫೆಡರಲ್ ಮೌಲ್ಯಮಾಪನಕ್ಕಾಗಿ ತಮ್ಮ ಮಾದರಿಗಳನ್ನು ಸಲ್ಲಿಸಲು ಆಹ್ವಾನಿಸಲಾಗಿದೆ. ಸರ್ಕಾರವು ನಂತರ ವರ್ಗೀಕೃತ ಮಾನದಂಡ ವ್ಯವಸ್ಥೆಯನ್ನು ಬಳಸಿಕೊಂಡು ಪರೀಕ್ಷೆಯನ್ನು ನಡೆಸುತ್ತದೆ ಮತ್ತು ಫೆಡರಲ್ ಏಜೆನ್ಸಿಗಳು ಮತ್ತು ಆಯ್ದ ಪಾಲುದಾರರೊಂದಿಗೆ ಸಂಶೋಧನೆಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತದೆ. ಈ ಪ್ರಕ್ರಿಯೆಯು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಅಪಾರದರ್ಶಕವಾಗಿದೆ, ಶ್ವೇತಭವನವು ಪರೀಕ್ಷಾ ಮಾನದಂಡಗಳು ಅಥವಾ ನಿರ್ದಿಷ್ಟ ಆವರಿಸಿದ ಮಾದರಿಗಳ ವಿವರಗಳನ್ನು ತಡೆಹಿಡಿಯುತ್ತದೆ. ಆಂಥ್ರೊಪಿಕ್ಸ್ ಫೇಬಲ್ ಮತ್ತು ಓಪನ್ ಎಐನ ಚಾಟ್‌ಜಿಪಿಟಿ 5.6 ನಂತಹ ಅತ್ಯಾಧುನಿಕ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆ ಚೌಕಟ್ಟನ್ನು ಸಂಕುಚಿತವಾಗಿ ಕೇಂದ್ರೀಕರಿಸಲಾಗಿದೆ ಎಂದು ಅಧಿಕಾರಿಗಳು ಹೇಳುತ್ತಾರೆ. ಆಡಳಿತವು ಈ ವಿಧಾನವು ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆಯ ಅಗತ್ಯವನ್ನು ಅಮೇರಿಕನ್ ನಾವೀನ್ಯತೆಯನ್ನು ಉತ್ತೇಜಿಸುವ ಬಯಕೆಯೊಂದಿಗೆ ಸಮತೋಲನಗೊಳಿಸುತ್ತದೆ ಎಂದು ವಾದಿಸುತ್ತದೆ, ಆದರೂ ನಿಯಮಪುಸ್ತಕವನ್ನು ಖಾಸಗಿಯಾಗಿ ಇರಿಸುವ ನಿರ್ಧಾರವು ಹೊಣೆಗಾರಿಕೆ ಮತ್ತು ಪಾರದರ್ಶಕತೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಗಮನಾರ್ಹ ಟೀಕೆಗಳನ್ನು ಹುಟ್ಟುಹಾಕಿದೆ.

ಶ್ವೇತಭವನದ ರಹಸ್ಯ ಮೇಲ್ವಿಚಾರಣಾ ಚೌಕಟ್ಟಿನ ವಿಮರ್ಶಕರು ದೊಡ್ಡದಾದ, ಸ್ಥಾಪಿತವಾದ AI ಸಂಸ್ಥೆಗಳಿಗೆ ಅನುಕೂಲವಾಗುವಂತೆ ಇದು ಒಂದು 'ಭದ್ರತಾ ಕಾರ್ಯಕ್ರಮ'ವನ್ನು ರಚಿಸುತ್ತದೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ. ಉನ್ನತ-ಶ್ರೇಣಿಯ ಲ್ಯಾಬ್‌ಗಳು ಮತ್ತು ಸರ್ಕಾರದ ನಡುವೆ ವಿಶೇಷ ಸಂಬಂಧವನ್ನು ಸ್ಥಾಪಿಸುವ ಮೂಲಕ, ವೀಕ್ಷಕರು ಈ ನೀತಿಯು ಸಣ್ಣ ಸ್ಟಾರ್ಟ್‌ಅಪ್‌ಗಳು ಮತ್ತು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಸಂಶೋಧಕರಿಗೆ ಹೊಸ ಮಾನದಂಡಗಳನ್ನು ಅನುಸರಿಸಲು ಅಥವಾ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗುವುದಿಲ್ಲ ಎಂದು ಚಿಂತಿಸುತ್ತಾರೆ. AI ಸುರಕ್ಷತಾ ವಕೀಲರು ಎಚ್ಚರಿಕೆಯನ್ನು ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ, ಅಪಾಯಕಾರಿ ಮಾದರಿಗಳಿಂದ ಸಾರ್ವಜನಿಕರನ್ನು ರಕ್ಷಿಸುವ ನಿಯಮಗಳನ್ನು ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆಯ ಮುಸುಕಿನ ಹಿಂದೆ ಮರೆಮಾಡಬಾರದು ಎಂದು ಸೂಚಿಸಿದ್ದಾರೆ. ಇದಲ್ಲದೆ, ಮುಕ್ತ-ತೂಕದ ಮಾದರಿಗಳನ್ನು ಹೇಗೆ ನಿಯಂತ್ರಿಸುವುದು ಎಂಬುದರ ಕುರಿತು ನಡೆಯುತ್ತಿರುವ ಉದ್ವಿಗ್ನತೆ ಇದೆ, ಅದನ್ನು ಯಾರಾದರೂ ಮಾರ್ಪಡಿಸಬಹುದು. ಆಡಳಿತವು ರಫ್ತು ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಬಿಡುಗಡೆಯ ವಿಳಂಬಗಳ ಮೂಲಕ ಮಧ್ಯಪ್ರವೇಶಿಸಲು ಹೆಚ್ಚಿನ ಇಚ್ಛೆಯನ್ನು ತೋರಿಸಿದೆ, ಈ ಕ್ರಮಗಳು ಸಾಕಷ್ಟಿವೆಯೇ ಅಥವಾ US ತಂತ್ರಜ್ಞಾನ ಕ್ಷೇತ್ರದ ಸ್ಪರ್ಧಾತ್ಮಕ ಭೂದೃಶ್ಯವನ್ನು ಉಸಿರುಗಟ್ಟಿಸುವ ಅಪಾಯವಿದೆಯೇ ಎಂಬುದರ ಕುರಿತು ಉದ್ಯಮದ ಮುಖಂಡರು ವಿಭಜಿಸುತ್ತಿದ್ದಾರೆ.

ಹೆಚ್ಚುತ್ತಿರುವ ಭದ್ರತಾ ಘಟನೆಗಳು ಮತ್ತು ಸರ್ಕಾರಿ ನಿಯಂತ್ರಣದಲ್ಲಿ ಸಾರ್ವಜನಿಕ ಪಾರದರ್ಶಕತೆಯ ಕೊರತೆಗೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ, ಎನ್ವಿಡಿಯಾ ನೇತೃತ್ವದ ಟೆಕ್ ಕಂಪನಿಗಳ ಒಕ್ಕೂಟವು ಶೇರ್ಡ್ AI ಫೈಂಡಿಂಗ್ಸ್ ಎಕ್ಸ್ಚೇಂಜ್ (SAFE) ಅನ್ನು ರಚಿಸಿದೆ. ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಮತ್ತು Red Hat ಸೇರಿದಂತೆ ಭಾಗವಹಿಸುವವರು AI ಅಪಾಯಗಳ ಚರ್ಚೆಯನ್ನು ಸಾರ್ವಜನಿಕ ವಲಯಕ್ಕೆ ವರ್ಗಾಯಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದ್ದಾರೆ. ಮರುಕಳಿಸುವ ವೈಫಲ್ಯಗಳನ್ನು ಗುರುತಿಸಲು ಮತ್ತು ಪುರಾವೆ-ಆಧಾರಿತ ಕಾರ್ಯಾಚರಣೆಯ ಶಿಫಾರಸುಗಳನ್ನು ನೀಡಲು ಸಮೀಪದ-ತಪ್ಪಿಹೋಗುವಿಕೆಗಳು ಮತ್ತು ನೈಜ ಘಟನೆಗಳ ಡೇಟಾವನ್ನು ಗೌಪ್ಯವಾಗಿ ಸಂಗ್ರಹಿಸಲು ಯೋಜನೆಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಉದ್ಯಮ-ವ್ಯಾಪಕ ಸಹಯೋಗದ ಕಡೆಗೆ ಈ ಕ್ರಮವು ಸರ್ಕಾರದ ಆದೇಶಗಳಿಗೆ ಕಾಯದೆ ಸುರಕ್ಷತೆಯನ್ನು ಪ್ರಮಾಣೀಕರಿಸುವ ಮಾರ್ಗವಾಗಿ ರೂಪಿಸಲಾಗಿದೆ. SAFE ನ ಉಡಾವಣೆಯು OpenAI ಮಾದರಿಗಳಿಂದ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಸರ್ವರ್‌ಗಳ ಅನಧಿಕೃತ ಪ್ರವೇಶದಂತಹ ಆಂತರಿಕ ಉಲ್ಲಂಘನೆಗಳ ಸರಣಿಯನ್ನು ಅನುಸರಿಸುತ್ತದೆ, ಇದು ಸಂಶೋಧಕರು ಮತ್ತು ನೀತಿ ನಿರೂಪಕರಲ್ಲಿ ವ್ಯಾಪಕವಾದ ಕಾಳಜಿಯನ್ನು ಪ್ರೇರೇಪಿಸಿದೆ. ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್‌ವೇರ್ ಲಾಕ್‌ಗಳು ಇನ್ನು ಮುಂದೆ ಸಾಕಾಗದೇ ಇರುವ ಸೈಬರ್‌ ಸೆಕ್ಯುರಿಟಿಯ ಹೆಚ್ಚು 'ಅಸ್ತವ್ಯಸ್ತವಾಗಿರುವ' ಯುಗಕ್ಕೆ ಉದ್ಯಮವು ಬ್ರೇಸ್ ಮಾಡುತ್ತಿರುವಂತೆ ತೋರುತ್ತಿದೆ.