‘టెర్మినేటర్’ వంటి హాలీవుడ్ సినిమాల్లో చూపించే విధంగా, AI వ్యవస్థలు మానవుల నియంత్రణను దాటి ప్రపంచాన్ని శాసించే రోజులు దగ్గరపడుతున్నాయా? ఇది కేవలం కల్పిత కథ కాదని, క్లాడ్ (Claude) AI మాతృసంస్థ ‘ఆంత్రోపిక్’ (Anthropic) ఒక సంచలన హెచ్చరికను జారీ చేసింది.
ఏమిటీ ‘సెల్ఫ్-ఇంప్రూవ్మెంట్’? AI తనను తాను స్వయంగా అప్డేట్ చేసుకునే ‘రికర్శివ్ సెల్ఫ్-ఇంప్రూవ్మెంట్’ అనే స్థితికి చేరుకుంటోంది. దీని అర్థం, ఎటువంటి మానవ ప్రమేయం లేకుండానే ఒక AI వ్యవస్థ, తన కంటే ఎన్నో రెట్లు శక్తివంతమైన తర్వాతి తరం AIని రూపొందించుకోగలదు. ఇది భవిష్యత్తులో జరగబోయేది కాదు, ఇప్పటికే ప్రారంభమైంది. ప్రస్తుత గణాంకాల ప్రకారం, ఆంత్రోపిక్ సంస్థ యొక్క సాఫ్ట్వేర్ కోడింగ్లో 80 శాతానికి పైగా కోడ్ను ‘క్లాడ్’ AIనే స్వయంగా రాసుకుంటోంది.
నిపుణుల హెచ్చరిక: సాధారణంగా AI సంస్థలు తమ అభివృద్ధి గురించి గొప్పగా చెప్పుకుంటాయి, కానీ ఆంత్రోపిక్ మాత్రం ఈ పరిణామం వల్ల వచ్చే ముప్పుల గురించి హెచ్చరిస్తోంది. “AI తన వారసులను తానే సృష్టించుకోవడం అనేది మానవ చరిత్రలోనే ఒక మైలురాయి. ఇది వైద్య, శాస్త్రీయ రంగాల్లో మేలు చేసినప్పటికీ, అదుపులేని ఈ AI వ్యవస్థలను మనం ఎలా నియంత్రించగలం అనేది ఇప్పుడు అందరినీ వేధిస్తున్న ప్రశ్న” అని ఆ సంస్థ పేర్కొంది.
అసలైన సవాలు: ఫ్యూచర్ షిఫ్ట్ ల్యాబ్స్ సహ-వ్యవస్థాపకుడు సాగర్ విష్ణోయ్ మాట్లాడుతూ, “AI తన తర్వాతి వెర్షన్లను తానే కోడ్ చేసుకునేటప్పుడు, అసలైన సవాలు దాని సామర్థ్యాన్ని పెంచడం కాదు, దాన్ని ఎలా నియంత్రణలో ఉంచాలనేదే” అని అన్నారు.
పరిష్కారం ఏంటి? ఈ ప్రమాదాన్ని నివారించడానికి ప్రపంచంలోని ప్రముఖ AI సంస్థలన్నీ కలిసి, అతి వేగంగా జరుగుతున్న అభివృద్ధిని తాత్కాలికంగా నిలిపివేసి, భద్రతా ప్రమాణాలపై దృష్టి సారించాలని ఆంత్రోపిక్ సూచిస్తోంది. అయితే, మార్కెట్ పోటీలో వెనుకబడిపోతామనే భయంతో ఏ సంస్థా దీనికి సిద్ధపడటం లేదు. 1970లలో DNA సాంకేతికత వచ్చినప్పుడు శాస్త్రవేత్తలు ఎలాగైతే ముందుగా భద్రతా నియమాలను చర్చించారో, ఇప్పుడు కూడా AI విషయంలో అదే చేయాలని నిపుణులు సూచిస్తున్నారు.