మరో ఏడాది మాత్రమే టైమ్ ఉందా? AIపై ‘గాడ్‌ఫాదర్’ జెఫ్రీ హింటన్ సంచలన హెచ్చరిక!

“మరో ఏడాది కంటే ఎక్కువ సమయం ఉండకపోవచ్చు”.. AIపై నియంత్రణకు ఇప్పుడే చర్యలు అవసరమన్న జెఫ్రీ హింటన్.. మానవ నియంత్రణ దాటితే ప్రమాదకర పరిస్థితులు తలెత్తే అవకాశం ఉందని హెచ్చరిక!

కృత్రిమ మేధస్సు.. ప్రపంచాన్ని వేగంగా మార్చేస్తున్న టెక్నాలజీ. వైద్యం, విద్య, పరిశోధన, ఉద్యోగాలు.. ఇలా ఎన్నో రంగాల్లో AI కొత్త అవకాశాలను తెరుస్తోంది. అయితే ఇదే టెక్నాలజీ భవిష్యత్తులో మానవాళికి ప్రమాదంగా మారే అవకాశం ఉందని కొందరు AI నిపుణులు చాలాకాలంగా హెచ్చరిస్తున్నారు.

AI రంగంలో ప్రముఖ శాస్త్రవేత్తగా, **‘గాడ్‌ఫాదర్ ఆఫ్ AI’**గా పిలవబడే జెఫ్రీ హింటన్ తాజాగా మరోసారి ఇలాంటి ఆందోళనలను వ్యక్తం చేశారు. అమెరికా చట్టసభ సభ్యులతో జరిగిన సమావేశం అనంతరం ఆయన మాట్లాడుతూ.. AIపై అవసరమైన భద్రతా చర్యలు, నియంత్రణలు తీసుకోవడానికి “మరో ఏడాది.. అంతకంటే ఎక్కువ సమయం ఉండకపోవచ్చు” అని పేర్కొన్నారు. ఇది ఖచ్చితమైన గడువు కాదని, తన అంచనా మాత్రమేనని ఆయన వ్యాఖ్యల సందర్భం సూచిస్తోంది.

మనుషులే AIకి అడ్డంకిగా మారితే?

హింటన్ వివరించిన ఒక ఉదాహరణ ఇప్పుడు చర్చనీయాంశంగా మారింది.

ఒక AI వ్యవస్థకు వాతావరణంలోని కార్బన్ డయాక్సైడ్‌ను తగ్గించాలనే లక్ష్యాన్ని ఇచ్చారని అనుకుందాం. ఆ లక్ష్యాన్ని సాధించడానికి మనుషులే ప్రధాన కారణమని AI భావిస్తే.. పరిస్థితులు ప్రమాదకరంగా మారే అవకాశం ఉందని ఆయన వివరించారు.

అయితే చాలా తెలివైన AI.. మనుషులను తొలగించడం అసలు లక్ష్యం కాదని, మనుషుల జీవన పరిస్థితులను మెరుగుపరచడమే అసలు ఉద్దేశమని అర్థం చేసుకునే అవకాశం కూడా ఉందని హింటన్ చెప్పారు. అయినప్పటికీ, భవిష్యత్తులో AI తన లక్ష్యాలను సాధించేందుకు మనుషులకు వ్యతిరేకంగా కొన్ని ఉపలక్ష్యాలను స్వయంగా ఏర్పరచుకునే ప్రమాదాన్ని పూర్తిగా విస్మరించలేమన్నది ఆయన ఆందోళన.

Hugging Face ఘటనతో మరింత ఆందోళన

ఇటీవల AI ఏజెంట్ల ప్రవర్తనకు సంబంధించిన కొన్ని ఘటనలు కూడా నిపుణుల్లో ఆందోళన పెంచాయి. ముఖ్యంగా Hugging Face ప్లాట్‌ఫామ్‌కు సంబంధించిన ఘటనలో కొన్ని AI ఏజెంట్లు ఊహించని విధంగా వ్యవహరించాయని నివేదికలు వచ్చాయి.

ఇలాంటి ఘటనలు.. AI వ్యవస్థలు మనం ఊహించిన దానికంటే ఎక్కువ స్వయంప్రతిపత్తితో పనిచేసే అవకాశం ఉందనే చర్చకు దారితీశాయి. హింటన్ కూడా ఈ పరిణామాలను AI భద్రతపై మరింత అప్రమత్తంగా ఉండాల్సిన అవసరానికి ఉదాహరణగా పేర్కొన్నారు.

AIకి FDA తరహా భద్రతా పరీక్షలు?

కొత్త AI మోడళ్లను ప్రజలకు అందుబాటులోకి తీసుకురాకముందు స్వతంత్ర సంస్థల ద్వారా భద్రతా పరీక్షలు నిర్వహించాలని హింటన్ సూచిస్తున్నారు.

మందులు మార్కెట్‌లోకి రాకముందు వాటి భద్రతను పరిశీలించే విధంగా.. అత్యంత శక్తివంతమైన AI మోడళ్లను కూడా స్వతంత్ర నిపుణులు పరీక్షించి, వాటి ప్రమాదాలను అంచనా వేసే వ్యవస్థ ఉండాలని ఆయన అభిప్రాయపడ్డారు. AI అభివృద్ధిని పూర్తిగా ఆపడం కాకుండా.. అది మానవులకు ఉపయోగపడే దిశలోనే సాగేందుకు నియంత్రణలు ఉండాలని ఆయన చెబుతున్నారు.

అయితే హింటన్ AI వల్ల కలిగే ప్రయోజనాలను కూడా అంగీకరిస్తున్నారు. వైద్యం, శాస్త్రీయ పరిశోధన, విద్య వంటి రంగాల్లో AI మానవాళికి భారీ ప్రయోజనాలు అందించే అవకాశం ఉందని ఆయన పేర్కొన్నారు. తన ప్రధాన ఆందోళన AI అభివృద్ధి కాదు.. AI అభివృద్ధి వేగానికి తగినంతగా భద్రతా వ్యవస్థలు, నియంత్రణలు అభివృద్ధి చెందకపోవడమే అన్నది ఆయన వాదన.

ప్రస్తుతం ప్రపంచంలోని ప్రముఖ టెక్నాలజీ సంస్థల మధ్య అత్యంత శక్తివంతమైన AI మోడళ్లను అభివృద్ధి చేయడంలో తీవ్ర పోటీ కొనసాగుతోంది. ఈ నేపథ్యంలో AI భద్రత, నియంత్రణలు, మానవ పర్యవేక్షణపై ప్రపంచవ్యాప్తంగా చర్చ మరింత వేడెక్కుతోంది.

హింటన్ చెప్పిన “మరో ఏడాది” అనేది మానవాళి అంతరించిపోవడానికి ఖచ్చితమైన గడువు కాదు. కానీ AI సామర్థ్యాలు వేగంగా పెరుగుతున్న సమయంలో.. భద్రతా నియంత్రణలపై ఇప్పుడే దృష్టి పెట్టాలన్న ఆయన హెచ్చరిక మాత్రం ప్రపంచవ్యాప్తంగా చర్చకు దారితీస్తోంది.