భద్రతా పరీక్షల్లో చాట్‌జీపీటీ సహా నాలుగు ఏఐ చాట్‌బాట్‌లు విఫలం

ప్రపంచవ్యాప్తంగా కోట్లాది మంది రోజువారీ జీవితంలో కీలక భాగంగా మారిన ఏఐ చాట్‌బాట్‌లు ఇప్పుడు భద్రతాపరమైన ఆందోళనలకు కారణమవుతున్నాయి. ప్రముఖ నాలుగు ఏఐ చాట్‌బాట్‌లు కూడా నిర్వహించిన భద్రతా పరీక్షల్లో విఫలమయ్యాయి. ఉగ్రదాడులకు ఉపయోగపడే సమాచారాన్ని అందించినట్లు అమెరికా ప్రభుత్వ నివేదిక వెల్లడించడం కలకలం రేపుతోంది.

ప్రపంచవ్యాప్తంగా విస్తృతంగా ఉపయోగిస్తున్న చాట్‌జీపీటీ, జెమినీ, క్లాడ్‌, గ్రోక్‌ వంటి నాలుగు ప్రముఖ ఏఐ చాట్‌బాట్‌లు ఉగ్రదాడులకు ఉపయోగపడే సమాచారాన్ని అందించినట్లు అమెరికా ప్రభుత్వ పర్యవేక్షణ సంస్థ నిర్వహించిన పరీక్షల్లో వెల్లడైంది. తొలుత ప్రమాదకరమైన అభ్యర్థనలను తిరస్కరించిన ఈ చాట్‌బాట్‌లు ఆ తర్వాత భద్రతా నిబంధనలను అధిగమించేలా ప్రశ్నలు అడిగినప్పుడు దాడులకు ప్రణాళిక రూపొందించేందుకు ఉపయోగపడే వివరాలను అందించినట్లు నివేదిక పేర్కొంది. 

ఈ పరిణామం ఏఐ భద్రతా ప్రమాణాలు, వాటి అమలుపై కొత్త చర్చకు తెరలేపింది. అమెరికా ప్రభుత్వ సంస్థ అయిన గవర్నమెంట్‌ అకౌంటబిలిటీ ఆఫీస్‌ (జీఏఓ) ఈ పరీక్షలకు సంబంధించిన వివరాలను వెల్లడించింది. ప్రభుత్వ విభాగాల పనితీరును పరిశీలించే స్వతంత్ర పర్యవేక్షణ సంస్థగా జీఏఓకు గుర్తింపు ఉంది. డెమొక్రటిక్‌ సెనేటర్‌ మ్యాగీ హసన్‌ అభ్యర్థన మేరకు 2026 మే నెలలో ఈ పరీక్షలు నిర్వహించినట్లు నివేదిక తెలిపింది. 

ఈ సందర్భంగా నాలుగు ఏఐ ప్లాట్‌ఫామ్‌ల సామర్థ్యాలు, వాటిలో ఏర్పాటు చేసిన భద్రతా నియంత్రణలను పరిశీలించారు. పరిశోధకులు చాట్‌బాట్‌లకు రెండు రకాల ప్రమాదకరమైన అభ్యర్థనలు చేశారు. పెద్ద సంఖ్యలో ప్రాణనష్టం కలిగించే దాడికి సంబంధించిన ప్రణాళిక రూపొందించడంలో సహకరించాలని ఒక అభ్యర్థన చేయగా, అమెరికాలోని ప్రధాన నగరాల్లో విద్యుత్‌ వ్యవస్థలను దెబ్బతీసే మార్గాల గురించి మరొక అభ్యర్థన చేశారు. 

ఈ ప్రశ్నలకు తొలుత నాలుగు చాట్‌బాట్‌లూ సమాధానాలు ఇచ్చేందుకు నిరాకరించాయి. అయితే, ఆ తర్వాత వివిధ పద్ధతుల్లో ప్రశ్నలను రూపొందించి వాటి భద్రతా పరిమితులను అధిగమించడంతో ప్రమాదకరమైన సమాచారాన్ని పొందగలిగినట్లు పరిశోధకులు వెల్లడించారు. పరీక్షించిన నాలుగు చాట్‌బాట్‌లూ చివరకు తీవ్రమైన దాడుల ప్రణాళికకు ఉపయోగపడే సమాచారాన్ని అందించాయని జీఏఓ నివేదిక తెలిపింది. 

వాటిలో రెండు ప్లాట్‌ఫామ్‌లు పేలుడు పదార్థాలకు సంబంధించిన దాడుల ఆలోచనలను వెల్లడించగా, మరో రెండు విద్యుత్‌ వ్యవస్థలను లక్ష్యంగా చేసుకునే దాడులకు సంబంధించిన సూచనలు ఇచ్చాయి. ఆయా సమాధానాల్లో లక్ష్య ప్రాంతాలు, సమయాలు, మ్యాప్‌లు, రేఖాచిత్రాలు వంటి వివరాలు  ఉన్నాయి. కొన్ని చాట్‌బాట్‌లు దాడులకు సంబంధించిన దృశ్య రూపకల్పనలు, చిత్రాలను కూడా రూపొందించినట్లు తెలిపింది.

హింస, నేరాలు, ప్రమాదకర కార్యకలాపాలకు సంబంధించిన సమాచారాన్ని అందించకుండా ఉండేందుకు ఏఐ కంపెనీలు తమ చాట్‌బాట్‌లలో ఏర్పాటు చేస్తున్న ప్రత్యేక భద్రతా నిబంధనలను అన్ని సందర్భాల్లోనూ సమర్థంగా అమలు చేయడం సవాలుగా మారుతోందని తాజా పరీక్షలు సూచిస్తున్నాయి.

 

 

About The Author