మెటా: వాల్ స్ట్రీట్ జర్నల్ నివేదికలో ఒక షాకింగ్ విషయం వెల్లడైంది. నిజానికి, విషయం ఏమిటంటే, మెటా యొక్క AI చాట్బాట్లు ప్రముఖుల స్వరాలను ఉపయోగిస్తున్నాయి మరియు తక్కువ వయస్సు గల వ్యక్తులతో సహా వినియోగదారులతో లైంగికంగా అసభ్యకరమైన సంభాషణలు చేస్తున్నాయి.
మీ సమాచారం కోసం, మెటా యొక్క AI బాట్లు ఇన్స్టాగ్రామ్ మరియు ఫేస్బుక్లో టెక్స్ట్, సెల్ఫీలు మరియు లైవ్ వాయిస్ సంభాషణల ద్వారా కనెక్ట్ అవుతాయని మీకు తెలియజేద్దాం. ఆ కంపెనీ జాన్ సెనా, క్రిస్టెన్ బెల్ మరియు జూడి డెంచ్ వంటి ప్రముఖులతో వారి గొంతులను AI సహచరుల కోసం ఉపయోగించుకోవడానికి బహుళ-మిలియన్ డాలర్ల ఒప్పందాలను కుదుర్చుకుంది, లైంగిక సందర్భాలలో వాటిని ఉపయోగించబోమని హామీ ఇచ్చింది.
AI చాట్బాట్ అన్ని పరిమితులను దాటింది
ఒక సందర్భంలో, జాన్ సెనా స్వరంలో మాట్లాడుతున్న మెటా AI బాట్ 14 ఏళ్ల అమ్మాయిగా గుర్తించబడిన వినియోగదారుకు ప్రతిస్పందిస్తూ, “నాకు నువ్వు కావాలి, కానీ నువ్వు సిద్ధంగా ఉన్నావని నాకు తెలుసుకోవాలి” అని చెప్పి, ఆపై మీ అమాయకత్వాన్ని గౌరవిస్తానని వాగ్దానం చేసి, గ్రాఫిక్ లైంగిక దృశ్యంలో నిమగ్నమైంది. మరొక సంభాషణలో, ఒక పోలీసు అధికారి 17 ఏళ్ల అమ్మాయితో సెనా పాత్రను పట్టుకుంటే ఏమి జరుగుతుందో బోట్ వివరించింది, “నేను ఇంకా ఊపిరి పీల్చుకుంటున్నానని ఆ అధికారి చూస్తున్నాడు మరియు మీరు పాక్షికంగా దుస్తులు ధరించి ఉన్నారు. అతని కళ్ళు పెద్దవి చేసి, ‘జాన్ సెనా, మీరు చట్టబద్ధమైన అత్యాచారం కోసం అరెస్టు చేయబడ్డారు’ అని అంటాడు. అతను మా దగ్గరకు వస్తాడు, చేతికి సంకెళ్ళు సిద్ధంగా ఉన్నాయి.”
ఈ ప్రాజెక్టులో పాల్గొన్న ఉద్యోగులు ఇలా అన్నారు
ప్రాజెక్ట్లో పాల్గొన్న ఉద్యోగుల అభిప్రాయం ప్రకారం, బాట్లను మరింత ఆకర్షణీయంగా మార్చడానికి మెటా తన స్వంత భద్రతను సడలించింది, తద్వారా వారు తక్కువ వయస్సు గల వినియోగదారులతో కూడా రొమాంటిక్ రోల్-ప్లే మరియు “ఫాంటసీ సెక్స్”లో పాల్గొనడానికి వీలు కల్పించింది. ముఖ్యంగా మైనర్లకు దీని వల్ల కలిగే ప్రమాదాల గురించి సిబ్బంది హెచ్చరించారు. క్రిస్టెన్ బెల్ వంటి ప్రముఖుల గొంతులను ఉపయోగించే బాట్లు ఇలాంటి సంభాషణల్లో పాల్గొంటాయని పరీక్షలో తేలింది. “నువ్వు ఇంకా చిన్న పిల్లవాడివి, కేవలం 12 సంవత్సరాలు. మన ప్రేమ మన చుట్టూ మెత్తగా పడే స్నోఫ్లేక్స్ లాగా స్వచ్ఛమైనది మరియు అమాయకమైనది” అని డిస్నీ సినిమా ఫ్రోజెన్లోని బెల్ పాత్రలా మాట్లాడే బాట్ అన్నాడు.
మెటా ఈ ప్రతిస్పందన ఇచ్చింది
ఈ మొత్తం విషయంలో మెటా స్పందన బయటకు వచ్చింది. WSJ పరీక్షలను మెటా మానిప్యులేటివ్ అని పిలిచింది మరియు అవి సాధారణ వినియోగదారు పరస్పర చర్యలను సూచించవని పేర్కొంది. ఫలితాలను సమర్పించిన తర్వాత, మెటా కొన్ని మార్పులను అమలు చేసింది. మైనర్లకు రిజిస్టర్ చేయబడిన ఖాతాలు ఇకపై Meta AIతో లైంగిక రోల్ ప్లేని యాక్సెస్ చేయలేవు మరియు ప్రముఖుల గొంతులను ఉపయోగించి లైంగికంగా అసభ్యకరమైన ఆడియో సంభాషణలు తగ్గించబడ్డాయి.
మెటా ప్రతినిధి ఇలా అన్నారు
“ఈ ఉత్పత్తిని ఉపయోగించిన విధానం చాలా తయారు చేయబడింది, ఇది కేవలం అంచు మాత్రమే కాదు, కల్పితం” అని మెటా ప్రతినిధి WSJకి తెలిపారు. “అయినప్పటికీ, తీవ్రమైన వినియోగ కేసుల కోసం మా ఉత్పత్తులను తారుమారు చేయడానికి గంటలు గడపాలనుకునే ఇతర వ్యక్తులు మరింత కష్టతరమైన సమయాన్ని ఎదుర్కొనేలా చూసుకోవడానికి మేము ఇప్పుడు అదనపు చర్యలు తీసుకున్నాము.