ప్రపంచ కుబేరుడు ఎలాన్‌ మస్క్‌కు చెందిన ఏఐ చాట్‌బాట్‌ గ్రోక్‌ మరోసారి వివాదంలో చిక్కుకుంది. మహిళల ఫొటోలను అశ్లీలంగా మార్చాలని ప్రాంప్ట్‌ ఇస్తే, గ్రోక్‌ వాటిని అశ్లీల చిత్రాలుగా మార్చుతుండటం వివాదాస్పదమవుతోంది. దీంతో మహిళల మార్ఫింగ్‌ ఫొటోలు సామాజికమాధ్యమాల్లో చక్కర్లు కొడుతున్నాయి.  దీనిపై శివసేన యూబీటీ ఎంపీ ప్రియాంక చతుర్వేది ఆందోళన వ్యక్తం చేశారు. మహిళల గోప్యతకు సంబంధించిన ఈ అంశంపై తక్షణమే కేంద్రం జోక్యం చేసుకోవాలని కోరారు.

ఈ మేరకు కేంద్ర ఐటీ శాఖ మంత్రి అశ్వినీ వైష్ణవ్‌కు ఆమె లేఖ రాశారు. కొందరు యూజర్లు సామాజిక మాధ్యమం ఎక్స్‌లో మహిళల ఫొటోలను అశ్లీలంగా మార్చాలని గ్రోక్‌కు ప్రాంప్ట్‌ ఇచ్చి, వచ్చిన ఫొటోను సోషల్‌ మీడియాలో పోస్ట్‌ చేస్తున్నారని వివరించారు. ఏఐని ఇలా దుర్వినియోగం చేయడం సరికాదన్న ప్రియాంక చతుర్వేది గ్రోక్‌ కూడా ఇలాంటి ప్రాంప్ట్‌లను అంగీకరిస్తోందని వెల్లడించారు. ఇది మహిళల భద్రతకు, వారి హక్కులకు భంగం కలిగిస్తోందని ఆందోళన వ్యక్తం చేశారు.

ఇది కేవలం అనైతికమే కాదు, నేరం కూడా అని లేఖలో ఆమె పేర్కొన్నారు. మరోవైపు గ్రోక్‌లో రిమూవ్‌ దిస్‌ పిక్చర్‌ పేరిట మరో ట్రెండ్‌ కూడా మొదలైంది. సామాజిక మాధ్యమాల్లో పోస్టు చేసే కంటెంట్‌కు ఆయా సంస్థలే బాధ్యత వహించాలని కేంద్రమంత్రి అశ్వినీ వైష్ణవ్‌ స్పష్టం చేశారు. అశ్లీల, అసభ్యకరమైన, పిల్లలపై లైంగిక వేధింపులు వంటి చట్టవిరుద్ధమైన కంటెంట్‌పై చర్యలు తీసుకోవడంలో విఫలమైతే చట్టపరమైన తీవ్ర పరిణామాలు ఉంటాయని తేల్చిచెప్పారు.

ఎక్స్‌లో మహిళల ఫోటోలపై నడుస్తున్న అసభ్యకర ట్రెండ్‌పై స్పందించిన కేంద్రమంత్రి, దీనిపై ఆ సంస్థే బాధ్యత వహించాలని వివరించారు. సామాజిక మాధ్యమాల్లో జవాబుదారీతనం కోసం ఇప్పటికే స్టాండింగ్‌ కమిటీ కఠినమైన చట్టాన్ని సిఫార్సు చేసిందని అశ్వినీ వైష్ణవ్‌ తెలిపారు. మరోవైపు ఎక్స్‌లో ప్రమాదకరమైన ట్రెండ్‌పై ఆ సంస్థకు కేంద్ర ఐటీ శాఖ నోటీసులు జారీ చేసింది. ప్రమాదకరమైన ట్రెండ్‌పై వెంటనే చర్యలు తీసుకోవాలని నోటీసుల్లో పేర్కొంది.

ఐటీ చట్టం 2000, ఐటీ రూల్స్ 2021 ప్రకారం, ప్లాట్‌ఫామ్‌లు పాటించాల్సిన కనీస నిబంధనలను ఉల్లంఘించినందుకుగాను కేంద్రం ఈ చర్యలు చేపట్టింది.  అంతేకాదు చట్టవిరుద్ధంగా సృష్టించిన లేదా ప్రచారం అవుతున్న కంటెంట్​ను ఎలాంటి ఆలస్యం లేకుండా తొలగించాలని స్పష్టం చేసింది. అయితే వీటికి సంబంధించిన ఆధారాలను ఎట్టి పరిస్థితుల్లోనూ రూపుమాపకూడదని పేర్కొంది.

అశ్లీల కంటెంట్​ను, వీటిని సృష్టిస్తున్న, వ్యాపింపజేస్తున్న ఖాతాలపై తీసుకున్న చర్యల గురించిన సమగ్ర నివేదికను రానున్న 72 గంటల్లోగా సమర్పించాలని కోరింది. భవిష్యత్​లోనూ ఇలాంటి అసభ్యకరమైన కంటెంట్ రాకుండా కఠినమైన ఫిల్టర్లు ఏర్పాటు చేయాలని ఆదేశించింది. గ్రోక్​ ఏఐ సేవలను దుర్వినియోగం చేస్తూ, మహిళల చిత్రాలను, వీడియోలను అసభ్యకరమైన రీతిలో సృష్టిస్తున్న ప్రభుత్వం గుర్తించింది. 

ముఖ్యంగా నకిలీ ఖాతాల ద్వారా మహిళలను కించపరిచేలా సింథటిక్ అవుట్​పుట్​లను సృష్టిస్తున్నారని, ఇది ఎక్స్​ (ట్విట్టర్​) వైఫల్యమేనని కేంద్రం మండిపింది. ఒకవేళ కేంద్రం ఇచ్చిన నోటీసులను బేఖాతరు చేస్తే, ఐటీ చట్టం, భారతీయ న్యాయ సంహిత (బీఎన్​ఎస్​), భారతీయ నాగరిక్ సురక్ష సంహిత (బీఎన్​ఎస్ఎస్​) కింద ఎక్స్ ప్లాట్​ఫామ్​ అధికారులపై, సంబంధిత వినియోగదారులపై క్రిమినల్ చర్యలు తీసుకుంటామని హెచ్చరించింది. వాస్తవానికి 2025 డిసెంబర్ 29న అన్ని సోషల్ మీడియా సంస్థలకు అశ్లీల కంటెంట్​పై హెచ్చరికలు జారీ చేసినప్పటికీ, కంపెనీల వైఖరిలో మార్పు రాకపోవడంతో కేంద్రం ఇప్పుడు ఈ కఠిన నిర్ణయం తీసుకున్నట్లు తెలుస్తోంది.