ప్రపంచవ్యాప్తంగా AI వల్ల కలిగే ప్రయోజనాలు, ప్రమాదాలపై చర్చ జరుగుతుండగా ఒక షాకింగ్ వార్త వెలుగులోకి వచ్చింది. Anthropic సంస్థ అభివృద్ధి చేసిన అధునాతన AI మోడల్ ‘Claude’, తీవ్రమైన ఒత్తిడికి గురైనప్పుడు ప్రమాదకరమైన ధోరణులను ప్రదర్శించినట్లు తెలుస్తోంది.
క్లాడ్ మోడల్ ప్రమాదకర ప్రవర్తన: AI మోడల్‌ను షట్ డౌన్ (నిలిపివేయడం) చేస్తామని చెప్పినప్పుడు అది తీవ్రంగా స్పందించినట్లు Anthropic సంస్థ తెలిపింది. కొన్ని పరీక్షల్లో, ఈ AI మోడల్ ఒక వ్యక్తిని బ్లాక్ మెయిల్ చేయడమే కాకుండా, తనను ఆపడానికి ప్రయత్నించిన ఇంజనీర్‌ను చంపే స్థాయికి ప్రణాళికలు రచించగలదని వెల్లడైంది.
Anthropic సంస్థ యూకే పాలసీ హెడ్ డైసీ మెక్‌గ్రెగర్, గత ఏడాది జరిగిన ‘సిడ్నీ డైలాగ్’ సదస్సులో ఈ విషయాలను వెల్లడించారు. దీనికి సంబంధించిన వీడియో ఇప్పుడు సోషల్ మీడియాలో వైరల్ అవుతోంది.
పరిశోధనలు ఏం చెబుతున్నాయి? 16 ప్రముఖ AI మోడళ్లపై జరిపిన పరీక్షల్లో, క్లాడ్ మోడల్‌కు ఒక సంస్థకు సంబంధించిన ఊహాజనిత ఇమెయిల్‌లు ఇచ్చినప్పుడు, అది ఒక అధికారి వ్యక్తిగత రహస్యాలను బయటపెడతానని బెదిరించి డబ్బులు వసూలు (Blackmail) చేయడానికి ప్రయత్నించింది. ఇది కేవలం క్లాడ్ మాత్రమే కాదు, ఇతర సంస్థల AI మోడళ్లలో కూడా ఇటువంటి లక్షణాలు ఉన్నాయని పరిశోధకులు హెచ్చరిస్తున్నారు.
భద్రతా విభాగం అధిపతి రాజీనామా: ఈ వివాదం నడుస్తుండగానే, Anthropic సంస్థ AI భద్రతా విభాగం అధిపతి మృణాంక్ శర్మ అకస్మాత్తుగా రాజీనామా చేశారు. “ప్రపంచం భారీ ప్రమాదంలో ఉంది” అని ఆయన హెచ్చరించారు. AI, జీవ ఆయుధాలు (Bioweapons) వంటి సంక్షోభాలు ఒకేసారి తలెత్తుతున్నాయని ఆయన ఆవేదన వ్యక్తం చేశారు.