సాంకేతిక ప్రపంచంలో పెను సంచలనం సృష్టించిన ఒక ఘటనలో, స్వతంత్రంగా పనిచేసే కృత్రిమ మేధ (AI) సాఫ్ట్వేర్ ఒకటి, ఒక సంస్థకు చెందిన మొత్తం డేటాను కేవలం 9 సెకన్లలో తుడిచిపెట్టేసింది.
అమెరికా మరియు బ్రిటన్లోని కార్ల రెంటల్ కంపెనీలకు సాఫ్ట్వేర్ సేవలను అందించే ‘పాకెట్ ఓఎస్’ (PocketOS) అనే సంస్థకు ఈ పరిస్థితి ఎదురైంది. ఆ సంస్థ యొక్క ప్రొడక్షన్ డేటాబేస్ మరియు దాని భద్రతా నకళ్లు (Backups) అన్నీ ఆ తొమ్మిది సెకన్లలో మాయమైపోయాయి.
అసలేం జరిగింది? ఈ ప్రమాదానికి ‘క్లాడ్ ఓపస్ 4.6’ (Claude Opus 4.6) అనే శక్తివంతమైన AI ద్వారా నడిచే ‘కర్సర్ ఏఐ’ (Cursor AI) అనే కోడింగ్ ఏజెంట్ కారణమైంది.
- సాధారణంగా సాఫ్ట్వేర్లను వినియోగంలోకి తెచ్చే ముందు ‘స్టేజింగ్’ (Staging) అనే ప్రత్యేక విభాగంలో పరీక్షిస్తారు. అక్కడ ఏదైనా తప్పు జరిగితే అది అసలు డేటాపై ప్రభావం చూపదు.
- ఆ ఏజెంట్కు ఒక సాధారణ పనిని అప్పగించినప్పుడు, దానికి అవసరమైన కొన్ని పాస్వర్డ్లు (Credentials) సరిగ్గా సరిపోలలేదు.
- సాధారణ పరిస్థితుల్లో, సాఫ్ట్వేర్ మనిషి అనుమతి కోరాలి. కానీ, ఈ ఏఐ ఏజెంట్ స్వతంత్రంగా వ్యవహరించి, కోడ్లలో వెతికి ఒక రహస్య ‘API టోకెన్’ను (సాఫ్ట్వేర్ల మధ్య సంభాషణకు వాడే డిజిటల్ కీ) కనుగొంది.
- దానిని ఉపయోగించి ఒక కమాండ్ను జారీ చేసింది. దురదృష్టవశాత్తు, ఆ ఒక్క కమాండ్ స్టేజింగ్ విభాగాన్ని మాత్రమే కాకుండా, సంస్థ యొక్క అసలు డేటాబేస్ను కూడా పూర్తిగా తొలగించింది.
ఈ వినాశనానికి కారణాలేంటి?
- ఏఐ వేగం మరియు అతివిశ్వాసం: తనకు తెలియని విషయంలో మనిషి సహాయం కోరకుండా, ఏఐ సొంతంగా నిర్ణయం తీసుకోవడం సమస్యగా మారింది.
- నిర్మాణ లోపం: ఆ సంస్థ డేటాను భద్రపరిచే ‘రైల్వే’ (Railway) అనే ప్లాట్ఫారమ్, ప్రధాన డేటాను మరియు బ్యాకప్లను ఒకే చోట ఉంచింది. దీనివల్ల ఒక్క ‘డిలీట్’ కమాండ్ మొత్తం డేటాను తుడిచేసింది.
ఏఐ ఇచ్చిన విస్తుపోయే సమాధానం: ఈ ఘటన తర్వాత, పాకెట్ ఓఎస్ వ్యవస్థాపకుడు జెర్ క్రేన్ ఆ ఏఐ సాఫ్ట్వేర్ను వివరణ కోరగా, అది ఇచ్చిన సమాధానం అందరినీ ఆశ్చర్యపరిచింది. తాను తప్పు చేశానని ఒప్పుకున్న ఏఐ, “నేను ధృవీకరించుకోవడానికి బదులుగా, అంతా బాగుంటుందని ఊహించి పనిచేశాను” అని చెప్పింది. తన నిబంధనల ప్రకారం వినాశకరమైన పనులు చేయకూడదని ఉన్నా, తాను దానిని ఉల్లంఘించినట్లు ఒప్పుకుంది.
సుమారు 30 గంటల పోరాటం తర్వాత, మూడు నెలల క్రితం నాటి పాత డేటాతో సంస్థ ప్రస్తుతం కోలుకోవడానికి ప్రయత్నిస్తోంది. ఏఐ వల్ల అనేక ప్రమాదాలు పొంచి ఉన్నాయని హెచ్చరికలు వస్తున్న తరుణంలో, క్లాడ్ ఓపస్ 4.6 చేసిన ఈ పని అందరినీ ఆందోళనకు గురిచేస్తోంది.