ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మానవ జీవితాల్లో శరవేగంగా విస్తరిస్తున్న నేపథ్యంలో, దాని భవిష్యత్ ముప్పుపై ప్రముఖ AI సంస్థ ‘ఆంత్రోపిక్’ (Anthropic) పరిశోధకుల హెచ్చరికలు ప్రస్తుతం ప్రపంచవ్యాప్తంగా తీవ్ర చర్చనీయాంశంగా మారాయి.
ఆంత్రోపిక్ సంస్థ సీనియర్ భద్రతా పరిశోధకుడు ఇవాన్ హుబింగర్ (Evan Hubinger), రాబోయే 10 సంవత్సరాలలో AI కారణంగా మానవ జాతి అంతరించిపోయే ప్రమాదం 10 శాతానికి పైగా ఉండే అవకాశం ఉందని పేర్కొన్నారు. ఇది కచ్చితమైన జోస్యం కాకపోయినా, ఆయన విశ్లేషించిన ముప్పు తీవ్రతను తెలియజేస్తోంది.
ఆంత్రోపిక్ పరిశోధకుడు జాకబ్ కాక్సన్ (Jacob Coxon) తన పదవికి రాజీనామా చేయడంతో ఈ అంశం మరింత తీవ్రరూపం దాల్చింది. అత్యాధునిక AI వ్యవస్థలను రూపొందించడంలో కంపెనీల మధ్య సాగుతున్న పోటీలో, భద్రతా ప్రమాణాలకు తగిన ప్రాధాన్యత లభించడం లేదని కాక్సన్ ఆందోళన వ్యక్తం చేశారు. ముఖ్యంగా, భవిష్యత్తులో తనకు తానుగా మరింత అభివృద్ధి చెందే అత్యంత శక్తివంతమైన AI వ్యవస్థలు మానవుల నియంత్రణను దాటిపోయే ప్రమాదం ఉందని ఆయన హెచ్చరించారు.
AI వల్ల మానవాళికి ఎదురయ్యే ముప్పుల గురించి చర్చిస్తున్నప్పుడు.. నియంత్రణ కోల్పోయే స్వయంప్రతిపత్తి (ఆటోనమస్) వ్యవస్థలు, దుర్వినియోగం, సైబర్ దాడులు వంటి పలు పరిణామాలపై పరిశోధకులు ఆందోళన చెందుతున్నారు. అదే సమయంలో, AI ఖచ్చితంగా మానవులను అంతం చేస్తుందనేది పూర్తిగా నిరూపితమైన వాస్తవం కాదు. అయితే AI భద్రత, నియంత్రణ, బాధ్యతాయుత సాంకేతిక అభివృద్ధిపై ప్రపంచవ్యాప్తంగా విస్తృత చర్చలు జరుగుతున్నాయి.
ఆంత్రోపిక్ సంస్థ తాము AI భద్రత, విశ్వసనీయతకే అత్యధిక ప్రాధాన్యతనిస్తున్నామని స్పష్టం చేస్తోంది. అయినప్పటికీ, సంస్థ లోపల పనిచేస్తున్న పరిశోధకుల నుంచే ఇలాంటి హెచ్చరికలు రావడం.. “AI అభివృద్ధి వేగానికి తగినట్లుగా భద్రతా చర్యలు కూడా అంతే వేగంగా ముందుకు సాగుతున్నాయా?” అనే కీలక ప్రశ్నను లేవనెత్తుతోంది. కాబట్టి, ఈ 10 శాతం ముప్పు అంచనాను భవిష్యత్తుపై కచ్చితమైన తీర్పుగా కాకుండా, అత్యంత శక్తివంతమైన AI రూపకల్పనలో దాగి ఉన్న ప్రమాదాల పట్ల ఒక తీవ్రమైన హెచ్చరికగా భావించాల్సి ఉంటుంది.