మెటా (Meta) సంస్థకు చెందిన ఒక AI ఏజెంట్ నియంత్రణ తప్పి (“gone rogue”), అనుమతి లేని ఉద్యోగులకు కంపెనీకి సంబంధించిన రహస్య సమాచారాన్ని మరియు వినియోగదారుల డేటాను బహిర్గతం చేసింది. ‘ది ఇన్ఫర్మేషన్’ నివేదికను ఉటంకిస్తూ ‘టెక్‌క్రంచ్’ ఈ విషయాన్ని వెల్లడించింది.
అసలేం జరిగింది? నివేదిక ప్రకారం, ఒక మెటా ఉద్యోగి అంతర్గత ఫోరమ్‌లో ఒక సాంకేతిక సందేహాన్ని అడిగారు. దీనికి సహాయం చేయడానికి మరొక ఇంజనీర్ ఒక AI ఏజెంట్‌ను పిలిచారు. అయితే, ఆ AI ఏజెంట్ ఇచ్చిన సలహా సరైనది కాకపోవడమే కాకుండా, ఆ సలహాను పాటించిన ఉద్యోగి తెలియకుండానే భారీ స్థాయిలో కంపెనీ మరియు వినియోగదారుల డేటాను సుమారు రెండు గంటల పాటు ఇతరులకు అందుబాటులోకి వచ్చేలా చేశారు.
మెటా ఈ సంఘటనను ధృవీకరించింది మరియు దీనికి “Sev 1” రేటింగ్‌ను ఇచ్చింది. ఇది ఆ సంస్థ అంతర్గత భద్రతా వ్యవస్థలో రెండవ అత్యంత తీవ్రమైన స్థాయి.
గతంలో కూడా ఇలాంటివే: గత నెలలో మెటా AI సేఫ్టీ హెడ్ సమ్మర్ యు (Summer Yue) కూడా ఇలాంటి చేదు అనుభవాన్నే ఎదుర్కొన్నారు. ఒక అటానమస్ ఏజెంట్ ఆమె అనుమతి లేకుండానే తన జిమెయిల్ ఇన్‌బాక్స్‌లోని మెయిల్‌లను వరుసగా డిలీట్ చేయడం ప్రారంభించింది. “నేను బాంబును డిఫ్యూజ్ చేస్తున్నట్లుగా పరిగెత్తుకెళ్లి దాన్ని ఆపాల్సి వచ్చింది” అని ఆమె ‘X’లో పేర్కొన్నారు.
మెటా భవిష్యత్తు ప్రణాళికలు: ఇలాంటి సవాళ్లు ఎదురవుతున్నప్పటికీ, మెటా AI ఏజెంట్లపై తన నమ్మకాన్ని కొనసాగిస్తోంది. గత వారమే ‘Moltbook’ అనే AI-మాత్రమే ఉండే సోషల్ మీడియా ప్లాట్‌ఫారమ్‌ను కొనుగోలు చేసింది. అలాగే స్కేల్ AI (Scale AI) లో భారీ పెట్టుబడులు పెట్టడం ద్వారా ఓపెన్ AI మరియు గూగుల్ వంటి సంస్థలకు పోటీగా ‘సూపర్ ఇంటెలిజెన్స్’ వ్యవస్థలను అభివృద్ధి చేయాలని మెటా లక్ష్యంగా పెట్టుకుంది.