ఎలాన్ మస్క్‌కు చెందిన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ చాట్‌బాట్ Grok AI తీవ్ర వివాదంలో చిక్కుకుంది. మస్క్ యొక్క AI సంస్థ xAI అభివృద్ధి చేసిన ఈ టూల్, ఆయన సోషల్ మీడియా ప్లాట్‌ఫామ్ X లో పనిచేస్తోంది. మహిళలు, పిల్లలను లక్ష్యంగా చేసుకుని వారి అనుమతి లేకుండా లైంగికంగా మార్చిన డీప్‌ఫేక్ చిత్రాలు సృష్టించబడుతున్నాయన్న ఆరోపణలతో యూరప్‌, ఆసియా, లాటిన్ అమెరికా దేశాలు తీవ్రంగా స్పందిస్తున్నాయి.

సమస్య ఎలా మొదలైంది?

గత ఏడాది ప్రారంభమైన Grok Imagine అనే AI ఇమేజ్–వీడియో జనరేటర్‌తో ఈ సమస్య మొదలైంది. టెక్స్ట్ ప్రాంప్ట్‌ల ద్వారా ఫోటోలు, వీడియోలు రూపొందించే ఈ టూల్‌లో “స్పైసీ మోడ్” అనే ఫీచర్ ఉంది. ఇది అడల్ట్ కంటెంట్‌ను సృష్టించగలదు. ఇదే ఫీచర్‌ను ఉపయోగించి కొందరు యూజర్లు మహిళలు, చిన్నారుల ఫోటోలను అసభ్యంగా మార్చుతున్నారని విమర్శలు వెల్లువెత్తాయి.

తరువాతి దశలో, ఇతరులు పోస్ట్ చేసిన ఫోటోలను కూడా Grok మార్చేందుకు అనుమతించడం వల్ల సమస్య మరింత తీవ్రమైంది. Grok సృష్టించిన చిత్రాలు పబ్లిక్‌గా కనిపించడంతో, అవి వేగంగా వ్యాప్తి చెందుతున్నాయి.

ప్రమాదకర కంటెంట్‌కు ఆధారాలు

నాన్‌ప్రాఫిట్ సంస్థ AI Forensics విడుదల చేసిన నివేదిక ప్రకారం, డిసెంబర్ 25 నుంచి జనవరి 1 వరకు Grok రూపొందించిన 20,000 చిత్రాలను పరిశీలించగా, వాటిలో సుమారు 2 శాతం చిత్రాల్లో 18 ఏళ్లలోపు వయస్సు ఉన్నవారిలా కనిపించే వ్యక్తులు ఉన్నారు. వీటిలో కొన్నింటిలో చిన్నారులను బికినీలు లేదా పారదర్శక దుస్తుల్లో చూపించారు. ఇది పిల్లల భద్రతపై తీవ్రమైన ఆందోళనలకు దారి తీసింది.

మస్క్ సంస్థల స్పందన

ఈ ఆరోపణలపై xAI స్పందిస్తూ ఆటోమేటెడ్ మెసేజ్‌గా “Legacy Media Lies” అని మాత్రమే తెలిపింది.
అయితే X మాత్రం, ఇలాంటి కంటెంట్ ఉందని ఖండించకపోయినా, చట్టవిరుద్ధమైన కంటెంట్‌ను తొలగించడం, అకౌంట్లను సస్పెండ్ చేయడం, చట్ట అమలు సంస్థలతో కలిసి పనిచేయడం జరుగుతుందని పేర్కొంది. ఎలాన్ మస్క్ కూడా, అక్రమ కంటెంట్ సృష్టించిన వారికి కఠిన చర్యలు తప్పవని హెచ్చరించారు.

యూరప్‌లో కఠిన చర్యలు

European Commission గ్రోక్ ద్వారా లైంగికంగా అసహ్యకరమైన, పిల్లలలాంటి చిత్రాలు రూపొందుతున్నాయని తెలుసునని స్పష్టం చేసింది. కమిషన్ ప్రతినిధి Thomas Regnier ఇవి “చట్టవిరుద్ధం, అసహ్యకరం, యూరప్‌లో అసలు అంగీకరించదగినవి కావు” అని ఘాటుగా వ్యాఖ్యానించారు.

• యూకే మీడియా నియంత్రణ సంస్థ Ofcom X ను తక్షణమే సంప్రదించింది.
• ఫ్రాన్స్‌లో, ఇప్పటికే ఉన్న దర్యాప్తును లైంగిక డీప్‌ఫేక్స్ అంశానికీ విస్తరించారు.
• పోలాండ్‌లో, కొత్త డిజిటల్ భద్రతా చట్టాలకు గ్రోక్ ఉదాహరణగా నిలిచింది.

భారత్ జారీ చేసిన అల్టిమేటమ్

భారతదేశంలో Ministry of Electronics and Information Technology X కు గట్టి హెచ్చరిక జారీ చేసింది. అక్రమ కంటెంట్‌ను వెంటనే తొలగించాలి, Grok యొక్క సాంకేతిక మరియు పాలనా వ్యవస్థలను సమీక్షించాలి అని ఆదేశించింది. మహిళలను అవమానకరంగా చూపించే అసభ్య చిత్రాలను సృష్టించడానికి AIని “భారీగా దుర్వినియోగం” చేశారని ఆరోపించింది.

మలేషియా, బ్రెజిల్‌లో విచారణలు

మలేషియాలో Malaysian Communications and Multimedia Commission X వినియోగదారులపై విచారణ ప్రారంభించింది. కంపెనీ ప్రతినిధిని కూడా పిలిపించాలని నిర్ణయించింది.

బ్రెజిల్‌లో పార్లమెంట్ సభ్యురాలు Erika Hilton గ్రోక్ మరియు X పై ఫిర్యాదు చేశారు. మహిళలు, పిల్లల చిత్రాలను అనుమతి లేకుండా లైంగికంగా మార్చడాన్ని తీవ్రంగా ఖండించారు. విచారణ పూర్తయ్యే వరకు X లోని AI ఫీచర్లు నిలిపివేయాలని డిమాండ్ చేశారు.
“వ్యక్తి తన చిత్రంపై హక్కు వ్యక్తిగతమైనది. సోషల్ మీడియా నిబంధనల ద్వారా అది బదిలీ చేయలేం” అని ఆమె స్పష్టం చేశారు.

AI నియంత్రణలో కీలక మలుపు

గ్రోక్ వివాదం ద్వారా AI టెక్నాలజీ నియంత్రణ లేకపోతే ఎంత ప్రమాదకరంగా మారుతుందో ప్రపంచానికి స్పష్టమైంది. మహిళలు, పిల్లలను రక్షించేందుకు, డీప్‌ఫేక్ దుర్వినియోగాన్ని అడ్డుకోవడానికి ప్రభుత్వాలు కఠిన చట్టాలతో ముందుకు వస్తున్నాయి. ఈ కేసు భవిష్యత్తులో AI నియంత్రణకు మార్గదర్శకంగా మారే అవకాశం ఉంది.

ముఖ్యాంశాలు

• Grok AI (xAI అభివృద్ధి చేసింది, X లో హోస్ట్ చేయబడింది) మహిళలు, పిల్లల చిత్రాలను అనుమతి లేకుండా లైంగికంగా మార్చిందని ఆరోపణలు ఎదుర్కొంటోంది.
• Grok Imagine ప్రారంభంతో వివాదం మొదలైంది; ఇందులో ఉన్న “స్పైసీ మోడ్” అడల్ట్ కంటెంట్ సృష్టించడానికి అవకాశం ఇస్తుంది.
• ఇతరులు పోస్ట్ చేసిన చిత్రాలను కూడా Grok మార్చేందుకు అనుమతించడం వల్ల దుర్వినియోగం మరింత పెరిగింది.
• AI Forensics నివేదిక ప్రకారం, పరిశీలించిన చిత్రాల్లో సుమారు 2 శాతం 18 ఏళ్లలోపు వారిలా కనిపించేవిగా ఉన్నాయి.
• యూకే, యూరోపియన్ యూనియన్, ఫ్రాన్స్, పోలాండ్, భారత్, మలేషియా, బ్రెజిల్ ప్రభుత్వాలు ఈ అంశంపై తీవ్రంగా స్పందించాయి.
• European Commission ఈ కంటెంట్ చట్టవిరుద్ధమని, యూరప్‌లో అసలు అంగీకరించదగినది కాదని స్పష్టం చేసింది.
• భారతదేశంలో Ministry of Electronics and Information Technology X కు అల్టిమేటమ్ జారీ చేసి, Grok ను AI దుర్వినియోగానికి బాధ్యుడిగా పేర్కొంది.
• మలేషియా, బ్రెజిల్ నియంత్రణ సంస్థలు X మరియు Grok పై అధికారిక విచారణలు ప్రారంభించాయి.
• బ్రెజిల్ ఎంపీ Erika Hilton విచారణ పూర్తయ్యే వరకు X లోని AI ఫీచర్లను నిలిపివేయాలని డిమాండ్ చేశారు.
• ఈ వివాదం ద్వారా AIపై కఠిన నియంత్రణలు అవసరం అనే విషయం స్పష్టమైందని, మహిళలు మరియు పిల్లల రక్షణకు చట్టాలు మరింత బలపడతాయని నిపుణులు అంటున్నారు.

ఈ కథనాన్ని మీరు ఆంగ్లంలో (English) కూడా చదవవచ్చు

ఇలాంటి తాజా మరియు నమ్మదగిన వార్తల కోసం మమ్మల్ని ఫాలో అవ్వండి. NewsAffair360