ಗೂಗಲ್ ಅರ್ಥ್ನಿಂದ ಹೊಸದಾಗಿ ಬಿಡುಗಡೆಯಾದ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಗೂಗಲ್ ಎಳೆದಿದೆ, ಇದು ವಾಸ್ತವಿಕ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ರಚಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಸಂಶೋಧಕರು ಪ್ರದರ್ಶಿಸಿದ ನಂತರ AI-ಬದಲಾದ ಉಪಗ್ರಹ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಬಳಕೆದಾರರಿಗೆ ಅವಕಾಶ ಮಾಡಿಕೊಟ್ಟಿದೆ. ಕಂಪನಿಯು ಈಗ ಹೆಚ್ಚು ದೃಢವಾದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಅಳವಡಿಸಲು ಉಪಕರಣವನ್ನು ವಿರಾಮಗೊಳಿಸುತ್ತಿದೆ.
ಏಕೀಕರಣದ ಏರಿಕೆ ಮತ್ತು ಸ್ವಿಫ್ಟ್ ಪತನ
ಗೂಗಲ್ ಈ ವಾರದ ಆರಂಭದಲ್ಲಿ ತನ್ನ ನ್ಯಾನೋ ಬನಾನಾ 2 ಎಐ ಇಮೇಜ್ ಜನರೇಷನ್ ಮಾದರಿಯನ್ನು ನೇರವಾಗಿ ಗೂಗಲ್ ಅರ್ಥ್ನ ವೆಬ್ ಆವೃತ್ತಿಗೆ ಸಂಯೋಜಿಸುವ ಹೊಸ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಪ್ರಾರಂಭಿಸಿತು. ರಿಯಲ್ ಎಸ್ಟೇಟ್ ಬೆಳವಣಿಗೆಗಳು ಅಥವಾ ಐತಿಹಾಸಿಕ ಹೆಗ್ಗುರುತುಗಳನ್ನು ದೃಶ್ಯೀಕರಿಸುವ ಸೃಜನಶೀಲ ಉಪಯುಕ್ತತೆಯಾಗಿ ಕಂಪನಿಯು ಮೂಲತಃ ಸ್ಥಾನ ಪಡೆದಿದೆ, ಈ ಉಪಕರಣವು ಸರಳ ಪಠ್ಯ ಪ್ರಾಂಪ್ಟ್ಗಳ ಮೂಲಕ ಉಪಗ್ರಹ ಮತ್ತು ವೈಮಾನಿಕ ಚಿತ್ರಣವನ್ನು ಕುಶಲತೆಯಿಂದ ನಿರ್ವಹಿಸಲು ಬಳಕೆದಾರರಿಗೆ ಅವಕಾಶ ಮಾಡಿಕೊಟ್ಟಿತು. ಆದಾಗ್ಯೂ, ಅನುಷ್ಠಾನವು ಅಲ್ಪಕಾಲಿಕವಾಗಿತ್ತು. ಜುಲೈ 31 ರ ಹೊತ್ತಿಗೆ, ದುರುಪಯೋಗದ ಸಂಭಾವ್ಯತೆಯ ಬಗ್ಗೆ ಸಾರ್ವಜನಿಕ ಪರಿಶೀಲನೆಯು ತೀವ್ರಗೊಂಡ 24 ಗಂಟೆಗಳ ನಂತರ, ಟೆಕ್ ದೈತ್ಯ ಅಧಿಕೃತವಾಗಿ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಎಳೆದಿದೆ. ಕೆಲವು ಜಿಯೋಸ್ಪೇಷಿಯಲ್ ವೃತ್ತಿಪರರು ವೈಶಿಷ್ಟ್ಯದಲ್ಲಿ ಉಪಯುಕ್ತತೆಯನ್ನು ಕಂಡುಕೊಂಡಿದ್ದರೂ, ಮೋಸಗೊಳಿಸುವ ಚಿತ್ರಣವನ್ನು ರಚಿಸುವ ಮೂಲಕ ಕಂಪನಿಯ ನೀತಿಗಳನ್ನು ಉಲ್ಲಂಘಿಸುವ ಬಳಕೆದಾರರ ಸ್ಪಷ್ಟ ಪುರಾವೆಗಳನ್ನು ವೇದಿಕೆಯು ನೋಡಿದೆ ಎಂದು ಗಮನಿಸಿ, ಬಲವಾದ ಗಾರ್ಡ್ರೈಲ್ಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಉಪಕರಣವನ್ನು ಹಿಂತೆಗೆದುಕೊಳ್ಳುವುದಾಗಿ Google ಹೇಳಿದೆ.
ಜಿಯೋಸ್ಪೇಷಿಯಲ್ ಡೀಪ್ಫೇಕ್ಗಳ ಅಪಾಯಗಳನ್ನು ಪ್ರದರ್ಶಿಸುವುದು
ಉಪಕರಣದ ದುರ್ಬಲತೆಯನ್ನು ಡಿಜಿಟಲ್ ಡಿಗ್ಗಿಂಗ್ನ ಹೆಂಕ್ ವ್ಯಾನ್ ಎಸ್ ಅವರು ಹೈಲೈಟ್ ಮಾಡಿದ್ದಾರೆ, ಅವರು ಸಿಸ್ಟಮ್ನಲ್ಲಿ ಒತ್ತಡ ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸಿದರು. ನಿರ್ದಿಷ್ಟ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ನಮೂದಿಸುವ ಮೂಲಕ, ಗಾಜಾದಲ್ಲಿನ ಆಸ್ಪತ್ರೆಗಳ ಬಳಿ ಬಾಂಬ್ ಕುಳಿಗಳು ಮತ್ತು ಮೆಕ್ಸಿಕನ್ ಗಡಿಯಲ್ಲಿ ನೆಲೆಗೊಂಡಿರುವ ನಿರಾಶ್ರಿತರ ಜನಸಂಖ್ಯೆ ಸೇರಿದಂತೆ ಸೂಕ್ಷ್ಮ ಭೌಗೋಳಿಕ ರಾಜಕೀಯ ಸನ್ನಿವೇಶಗಳನ್ನು ಚಿತ್ರಿಸುವ ಅತ್ಯಂತ ನೈಜ ಚಿತ್ರಗಳನ್ನು ವ್ಯಾನ್ ಎಸ್ಸ್ ಯಶಸ್ವಿಯಾಗಿ ರಚಿಸಿದ್ದಾರೆ. ಈ ಪ್ರಯೋಗಗಳು ದುರುದ್ದೇಶಪೂರಿತ ನಟನು ವಾಸ್ತವಕ್ಕೆ ವಿರುದ್ಧವಾದ ಮನವೊಪ್ಪಿಸುವ ದೃಶ್ಯ ಸಾಕ್ಷ್ಯವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧನವನ್ನು ಬಳಸಿಕೊಳ್ಳಬಹುದು ಎಂದು ಸಾಬೀತುಪಡಿಸಿತು. ತಮ್ಮ ವ್ಯವಸ್ಥೆಯು ಹಾನಿಕಾರಕ ವಿಷಯಗಳ ಮೇಲಿನ ನಿರ್ಬಂಧಗಳನ್ನು ಒಳಗೊಂಡಿದೆ ಎಂದು Google ನ ಆರಂಭಿಕ ಸಮರ್ಥನೆಯ ಹೊರತಾಗಿಯೂ, ವ್ಯಾನ್ ಎಸ್ ತನ್ನ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು AI ನಿಂದ ನಿರ್ಬಂಧಿಸಲಾಗಿಲ್ಲ, ಮೃದುಗೊಳಿಸಲಾಗಿಲ್ಲ ಅಥವಾ ನಿರಾಕರಿಸಲಾಗಿಲ್ಲ ಎಂದು ವರದಿ ಮಾಡಿದೆ. ಇದು ಉದ್ದೇಶಿತ ಸುರಕ್ಷತೆಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಬೈಪಾಸ್ ಮಾಡಿದೆ, ಅತ್ಯಾಧುನಿಕ AI ಮಾದರಿಗಳನ್ನು ಸಹ ಮ್ಯಾಪಿಂಗ್ ಸಾಫ್ಟ್ವೇರ್ಗೆ ಸಂಯೋಜಿಸಿದಾಗ ಹಾನಿಕಾರಕ, ತಪ್ಪು ನಿರೂಪಣೆಗಳನ್ನು ಉತ್ಪಾದಿಸಲು ಒತ್ತಾಯಿಸಬಹುದು ಎಂದು ತೋರಿಸುತ್ತದೆ.
ತಾಂತ್ರಿಕ ಸುರಕ್ಷತೆಗಳ ಮಿತಿಗಳು
ಗೂಗಲ್ ಆರಂಭದಲ್ಲಿ ತಾಂತ್ರಿಕ ನಿರೋಧಕಗಳ ಉಪಸ್ಥಿತಿಗೆ ಒತ್ತು ನೀಡುವ ಮೂಲಕ ಕಾಳಜಿಯನ್ನು ತಗ್ಗಿಸಲು ಪ್ರಯತ್ನಿಸಿತು. ಉಪಕರಣದೊಳಗೆ ರಚಿಸಲಾದ ಎಲ್ಲಾ ಚಿತ್ರಗಳನ್ನು ಸಿಂಥಿಡ್ ಡಿಜಿಟಲ್ ವಾಟರ್ಮಾರ್ಕ್ನೊಂದಿಗೆ ಎಂಬೆಡ್ ಮಾಡಲಾಗಿದೆ ಎಂದು ಕಂಪನಿಯು ಹೇಳಿಕೊಂಡಿದೆ. ಜೆಮಿನಿ ಅಪ್ಲಿಕೇಶನ್ ಅಥವಾ Google ಲೆನ್ಸ್ನಂತಹ ಇತರ ಪರಿಕರಗಳೊಂದಿಗೆ ಅಡ್ಡ-ಉಲ್ಲೇಖಿಸುವ ಮೂಲಕ ಅನುಮಾನಾಸ್ಪದ ಚಿತ್ರಣವನ್ನು ಪರಿಶೀಲಿಸಲು ಅವರು ಬಳಕೆದಾರರನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಿದರು. ಆದಾಗ್ಯೂ, ಈ ಕ್ರಮಗಳು ಸಾಕಾಗುವುದಿಲ್ಲ ಎಂದು ವಿಮರ್ಶಕರು ವಾದಿಸಿದರು. ಹೈವ್ ಬಳಸುವಂತಹ ಸಾಮಾನ್ಯ AI ಪತ್ತೆ ಸಾಧನಗಳನ್ನು ರಚಿತ ಮಾಧ್ಯಮವು ಬೈಪಾಸ್ ಮಾಡಬಹುದೆಂದು ವ್ಯಾನ್ ಎಸ್ ಪ್ರದರ್ಶಿಸಿದರು. ಇದಲ್ಲದೆ, ಡಿಜಿಟಲ್ ವಾಟರ್ಮಾರ್ಕ್ಗಳ ಮೇಲಿನ ಅವಲಂಬನೆಯು ದೋಷಪೂರಿತ ರಕ್ಷಣೆಯಾಗಿದೆ ಎಂದು ಸಾಬೀತಾಗಿದೆ, ಏಕೆಂದರೆ ಅಂತಹ ಗುರುತುಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು, ಕಡೆಗಣಿಸಬಹುದು ಅಥವಾ ಸಂಭಾವ್ಯವಾಗಿ ತೆಗೆದುಹಾಕಬಹುದು, ಅಧಿಕೃತ ದತ್ತಾಂಶವೆಂದು ಮರೆಮಾಚುವ ಸುಳ್ಳು ಉಪಗ್ರಹ ಚಿತ್ರಣವನ್ನು ನಂಬಲು ಸಾರ್ವಜನಿಕರು ದುರ್ಬಲರಾಗುತ್ತಾರೆ.
ಉದ್ಯಮದ ಸಂದರ್ಭ ಮತ್ತು ಭವಿಷ್ಯದ ಪರಿಣಾಮಗಳು
ಈ ಘಟನೆಯು ಉತ್ಪಾದಕ AI ಯ ಜವಾಬ್ದಾರಿಯುತ ನಿಯೋಜನೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಟೆಕ್ ಉದ್ಯಮದಲ್ಲಿ ವಿಶಾಲವಾದ ಉದ್ವೇಗವನ್ನು ಒತ್ತಿಹೇಳುತ್ತದೆ. AI ಅಲ್ಲದ ವಿವಿಧ ಪರಿಕರಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಬಳಕೆದಾರರು ಈಗಾಗಲೇ ವೆಬ್ ಚಿತ್ರಣವನ್ನು ಕುಶಲತೆಯಿಂದ ನಿರ್ವಹಿಸಬಹುದು ಎಂದು Google ವಾದಿಸಿದರೂ, ಗೂಗಲ್ ಅರ್ಥ್ನಂತಹ ವಿಶ್ವಾಸಾರ್ಹ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗೆ ನೇರವಾಗಿ ಉತ್ಪಾದಕ ಸಾಮರ್ಥ್ಯಗಳ ಏಕೀಕರಣವು ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಹರಡುವ ಪ್ರವೇಶದ ತಡೆಯನ್ನು ಗಮನಾರ್ಹವಾಗಿ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಗೂಗಲ್ ಅರ್ಥ್ ಅನ್ನು ಪತ್ರಕರ್ತರು, ಸಂಶೋಧಕರು ಮತ್ತು ಸಾರ್ವಜನಿಕರಿಗೆ ವಿಶ್ವಾಸಾರ್ಹ ಮೂಲವಾಗಿ ದೀರ್ಘಕಾಲ ವೀಕ್ಷಿಸಲಾಗಿದೆ; AI-ಪೀಳಿಗೆಯ ಪದರವನ್ನು ಸೇರಿಸುವುದು ಆ ಅಡಿಪಾಯದ ನಂಬಿಕೆಗೆ ಧಕ್ಕೆ ತರುತ್ತದೆ. ಈ ವೈಶಿಷ್ಟ್ಯದ ಕ್ಷಿಪ್ರ ಹಿಂತೆಗೆದುಕೊಳ್ಳುವಿಕೆಯು ಕಂಪನಿಗಳು ರಿಯಾಲಿಟಿ ವಿರುದ್ಧ ಕ್ಷಿಪ್ರ ಉತ್ಪನ್ನ ನಾವೀನ್ಯತೆಯ ಬಯಕೆಯನ್ನು ಸಮತೋಲನಗೊಳಿಸುವ ಒತ್ತಡವನ್ನು ಅನುಭವಿಸುತ್ತಿವೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ, AI ಮಾದರಿಗಳು ಆಗಾಗ್ಗೆ ಹಾನಿಕಾರಕ, ಹೆಚ್ಚಿನ-ನಿಷ್ಠೆಯ ಫ್ಯಾಬ್ರಿಕೇಶನ್ಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿವೆ, ಅದು ಅಧಿಕೃತ ದೃಶ್ಯ ಸಾಕ್ಷ್ಯದಿಂದ ಪ್ರತ್ಯೇಕಿಸಲು ಕಷ್ಟಕರವಾಗಿದೆ.
⚖ The Balanced View
Supporting view
ಬಳಕೆದಾರರಿಗೆ ಭೌಗೋಳಿಕತೆಯೊಂದಿಗೆ ಸೃಜನಶೀಲತೆಯನ್ನು ಪಡೆಯಲು, ಐತಿಹಾಸಿಕ ತಾಣಗಳನ್ನು ದೃಶ್ಯೀಕರಿಸಲು ಮತ್ತು ರಿಯಲ್ ಎಸ್ಟೇಟ್ ಪ್ರಾಜೆಕ್ಟ್ ಯೋಜನೆಗೆ ಸಹಾಯ ಮಾಡಲು ಈ ವೈಶಿಷ್ಟ್ಯವನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ ಎಂದು ಗೂಗಲ್ ಸೂಚಿಸಿದೆ.
Concerns & criticism
ವಿಮರ್ಶಕರು ಮತ್ತು ಸಂಶೋಧಕರು ಈ ಉಪಕರಣವನ್ನು ಯುದ್ಧ-ಹಾನಿಗೊಳಗಾದ ಸೈಟ್ಗಳು ಅಥವಾ ಸುಳ್ಳು ಮಾನವೀಯ ಬಿಕ್ಕಟ್ಟುಗಳಂತಹ ವಾಸ್ತವಿಕ, ಹಾನಿಕಾರಕ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಸೃಷ್ಟಿಸಲು ಸುಲಭವಾಗಿ ಬಳಸಬಹುದೆಂದು ಪ್ರದರ್ಶಿಸಿದರು, ಇದು ಸತ್ಯದ ಮೂಲವಾಗಿ ವೇದಿಕೆಯ ಖ್ಯಾತಿಯನ್ನು ಹಾಳುಮಾಡುತ್ತದೆ.
→What's next
ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗೆ ಸಮರ್ಥವಾಗಿ ಹಿಂತಿರುಗುವ ಮೊದಲು ವೈಶಿಷ್ಟ್ಯಕ್ಕಾಗಿ ಬಲವಾದ ಗಾರ್ಡ್ರೈಲ್ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಪ್ರಸ್ತುತ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಎಂದು ಗೂಗಲ್ ಹೇಳಿದೆ. ಕಂಪನಿಯು ನ್ಯಾನೋ ಬನಾನಾ 2 ರ ಪ್ರಾಂಪ್ಟ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಗಣನೀಯವಾಗಿ ಮಿತಿಗೊಳಿಸುತ್ತದೆಯೇ ಅಥವಾ ರಚಿಸಿದ ಚಿತ್ರಗಳಿಗಾಗಿ ಹೆಚ್ಚು ಕಠಿಣ ಪರಿಶೀಲನೆ ಪರಿಶೀಲನೆಗಳನ್ನು ಪರಿಚಯಿಸುತ್ತದೆಯೇ ಎಂಬುದು ಅಸ್ಪಷ್ಟವಾಗಿದೆ.