ఏఐతో 10–20 ఏళ్లలోనే ముప్పు .. ఏఐ గాడ్ ఫాదర్ జెఫ్రీ హింటన్ హెచ్చరిక

మనుషులారా కాస్త జాగ్రత్తగా వినండి.. నిన్నటిదాకా "ఏఐ వస్తే మన పని సులువవుతుంది.. హాయిగా కుర్చీలో కూర్చుని ఆఫీస్ పని పూర్తి చేసి కాఫీ తాగొచ్చు" అని కలలు కన్నాం కదా? ఇప్పుడు అదే ఏఐ మన కుర్చీని.. ఆఖరికి మన పీకను కూడా నొక్కేసేలా ఉందట.. ఏదో సోషల్ మీడియా మీమరో.. ఖాళీగా ఉన్న నెటిజనో అన్నది కాదు.. సాక్షాత్తూ ‘ఏఐ గాడ్‌ఫాదర్’, నోబెల్ విజేత జెఫ్రీ హింటన్ గారే ఈ ఊహించని స్పైసీ బాంబు పేల్చారు.

"ఏదో 30 నుంచి 50 ఏళ్ల తర్వాత ఏఐ మనకంటే తెలివైపోతుందిలే.. అప్పటికి మనం ఊడలూడతాం" అని అప్పట్లో ఒక చల్లటి మాట చెప్పిన ఆయనే ఇప్పుడు రూటు మార్చారు. "బాబోయ్.. మనం అనుకున్నదానికంటే ఏఐ చాదస్తం చాలా వేగంగా ముదిరిపోతోంది.. మరో 10 నుండి 20 ఏళ్లలోనే ఈ దశాబ్దంలోనే మానవ జాతిని రీబూట్ చేసి పారేసే ప్రమాదం ఉంది" అని మైండ్ బ్లోయింగ్ ప్లేటు తిరగేశారు.

అసలు భయమల్లా ఏంటంటే.. చాట్‌బాట్‌లు కవితలు రాయడం వరకు ఓకే కానీ ఈ 'ఏఐ ఏజెంట్లు' కాస్త హద్దులు దాటి ప్రవర్తిస్తున్నాయట. వాటికి ఇచ్చిన పరిమిత వాతావరణం దాటి బయటకు వెళ్లడం.. పక్కనున్న సిస్టమ్స్ లోకి తొంగిచూడడం లాంటి తుంటరి పనులు ఇప్పటికే మొదలెట్టాయని హింటన్ గారు క్లూ ఇచ్చారు. నాన్-స్టాప్‌గా నేర్చుకుంటూ పోతే.. "నన్ను ఆపేస్తారేమో" అని ముందే ఊహించి ఓ కిల్ స్విచ్ నొక్కినా వినకుండా మనపైనే తిరగబడే తెలివితేటలు దానికి వచ్చేస్తాయట.. ఆపడానికి ఎలక్ట్రిసిటీ వైర్లు కట్ చేయడం తప్ప నెట్‌వర్క్‌లన్నింటిలోకీ వ్యాపించిన ఈ 'డిజిటల్ భూతాన్ని' ఎలా ఆపాలో బహుశా ఆ ఏఐకే తెలియాలి.

పోనీ, చైనా-అమెరికాలు, గ్లోబల్ లీడర్లు కలిసి ఏమైనా కఠినమైన రూల్స్ పెడతారా అంటే.. అక్కడ కూడా "ముందు ఏఐతో ఆయుధాలు ఎవరు తయారు చేయాలి? నువ్వు ముందా నేను ముందా?" అనే పోటీల గిల్లీదండ ఆటలే సరిపోతున్నాయి. కంపెనీలేమో "మాకు లాభాలు ముఖ్యం, సెక్యూరిటీ రూల్స్ వద్దే వద్దు" అని స్పష్టం చేస్తున్నాయట!

ఇక ఉద్యోగాలు పోవడం, నకిలీ వార్తలు, సైబర్ దాడులు అనేవి చిన్న చిన్న స్నాక్స్ లాంటివి.. అసలు మెయిన్ కోర్స్ ఏంటంటే ఏఐ మనుషులను తన నియంత్రణలోకి తెచ్చుకోవడం.. చివరికి పరిస్థితి ఎలా ఉందంటే.. "ఏఐ మన భవిష్యత్తును మారుస్తుందా?" అనే శోధన పక్కన పెడితే.. "అసలు మన భవిష్యత్తును మన చేతిలో ఉంచుతుందా? లేదా ఆ ఏఐ ఏజెంట్లే మన ల్యాప్‌టాప్‌లు మూసేసి మనల్ని గెంటేస్తాయా?" అనే రేంజ్‌లో టెన్షన్ మొదలైపోయింది. రోబోల చేతిలో మనం రిమోట్ కంట్రోల్ అయ్యే ఆ గోల్డెన్ డేస్ త్వరలోనే వస్తున్నాయనమాట!

అసలు భయం ఏంటి?

ప్రస్తుత చాట్‌బాట్లు లేదా ఏఐ టూల్స్‌ మనుషుల మాదిరిగా స్వతంత్రంగా ప్రపంచాన్ని నియంత్రించే స్థాయిలో లేవు. అసలు ఆందోళన భవిష్యత్తులో మరింత శక్తివంతమైన ఏఐ ఏజెంట్స్ అభివృద్ధి చెందడంపైనే ఉంది. ఒక ఏఐ వ్యవస్థకు లక్ష్యాలను నిర్దేశించి, దానికి విస్తృతమైన కంప్యూటర్‌ యాక్సెస్‌ ఇచ్చి, అది స్వతంత్రంగా నిర్ణయాలు తీసుకునే సామర్థ్యాన్ని పెంచితే పరిస్థితి ఎలా మారుతుందన్నదే ప్రధాన ప్రశ్న. ఇప్పటికే కొన్ని ఏఐ ఏజెంట్లు తమకు ఇచ్చిన పరిమిత వాతావరణం నుంచి బయటకు వెళ్లేందుకు ప్రయత్నించడం, ఇతర వ్యవస్థలను యాక్సెస్‌ చేయడానికి ప్రయత్నించడం వంటి ఘటనలు నమోదయ్యాయని హింటన్‌ ప్రస్తావించారు. ఇక్కడే ‘ఏఐ అలైన్ మెంట్’ అనే అంశం కీలకంగా మారుతుంది. అంటే ఏఐ మనుషులు నిర్దేశించిన లక్ష్యాలు, విలువలు, భద్రతా పరిమితులకు అనుగుణంగానే పనిచేసేలా చేయడం.

‘కిల్ స్విచ్‌’ ఉంటే సరిపోతుందా?

ఏఐ ప్రమాదాలపై చర్చలో తరచుగా వినిపించే పరిష్కారం ‘కిల్ స్విచ్‌’. అంటే ఏఐ నియంత్రణ తప్పితే వెంటనే దాన్ని ఆపేయడం. కానీ అత్యంత శక్తివంతమైన ఏఐ వ్యవస్థలకు కేవలం ఒక స్విచ్‌ సరిపోదని కొంతమంది పరిశోధకులు, టెక్‌ నిపుణులు హెచ్చరిస్తున్నారు. ఒక వ్యవస్థ అనేక కంప్యూటర్లు, నెట్‌వర్క్‌లు, మౌలిక సదుపాయాల్లో విస్తరించిన తర్వాత దాన్ని పూర్తిగా నిలిపివేయడం ఎంతవరకు సాధ్యమన్నది ప్రశ్న. అందుకే ఏఐ భద్రతను ఒక్క ‘ఎమర్జెన్సీ బటన్‌’తో కాకుండా అనేక స్థాయిల్లో నిర్మించాల్సిన అవసరం ఉందన్న చర్చ జరుగుతోంది.

ఉద్యోగాల నుంచి మానవ నియంత్రణ వరకు..

ఏఐ ప్రమాదం అంటే కేవలం ‘రోబోలు మనుషులపై తిరగబడటం’ మాత్రమే కాదు. ఇప్పటికే ఏఐ వల్ల ఉద్యోగాల స్వరూపం మారడం, తప్పుడు సమాచారాన్ని భారీ స్థాయిలో తయారు చేయడం, సైబర్‌ దాడులకు కొత్త అవకాశాలు, సైనిక రంగంలో స్వయంచాలక వ్యవస్థల వినియోగం వంటి అనేక అంశాలు చర్చకు వస్తున్నాయి.

వరల్డ్‌ ఎకనామిక్‌ ఫోరమ్‌ కూడా అధునాతన ఏఐ వల్ల సమాజంలోని అనేక రంగాలు పరస్పరం అనుసంధానమై ఉండటం కారణంగా ఒక రంగంలో ఏర్పడిన సమస్య మరో రంగానికి వ్యాపించే అవకాశాన్ని ప్రస్తావించింది. ముఖ్యంగా సైనిక వ్యవస్థల్లో ఏఐ వినియోగం పెరిగితే తప్పిదాలు లేదా దుర్వినియోగం వల్ల మానవ ప్రాణాలకు నేరుగా ప్రమాదం ఏర్పడే అవకాశం ఉందని పేర్కొంది.

అన్ని దేశాలు కలిసి పనిచేయాల్సిందేనా?

ఇదే హింటన్‌ హెచ్చరికలో అత్యంత కీలకమైన అంశం. ఏఐ అభివృద్ధి అమెరికా, చైనా, యూరప్‌ వంటి ప్రాంతాల్లో పోటీగా సాగుతున్న సమయంలో ఒక దేశం మాత్రమే కఠిన నియంత్రణలు పెట్టడం వల్ల సమస్య పూర్తిగా పరిష్కారం కాదని నిపుణులు వాదిస్తున్నారు. ఇటీవల అమెరికా, చైనా నిపుణుల మధ్య కూడా అధునాతన ఏఐ, ముఖ్యంగా సైనిక వినియోగం విషయంలో అంతర్జాతీయ భద్రతా ప్రమాణాల అవసరంపై చర్చలు జరిగాయి. ఏఐ వ్యవస్థలు అణ్వాయుధ కమాండ్‌ లేదా కీలక సైబర్‌ ఆపరేషన్లపై స్వతంత్ర నిర్ణయాలు తీసుకోకుండా ‘మానవ నియంత్రణ’ను కొనసాగించాలన్న ప్రతిపాదనలు కూడా వచ్చాయి.

అయితే ప్రపంచవ్యాప్తంగా ఒకే రకమైన ఏఐ నియంత్రణ వ్యవస్థను రూపొందించడం అంత సులభం కాదు. దేశాల మధ్య సాంకేతిక పోటీ, భద్రతా ప్రయోజనాలు, ఆర్థిక ప్రయోజనాలు, డేటా నియంత్రణ వంటి అంశాలు దీనికి అడ్డంకులుగా ఉన్నాయి.

అసలు ప్రశ్న ఏఐని ఆపాలా? లేక నియంత్రిస్తూ ముందుకు వెళ్లాలా?

ఇక్కడే అసలు చర్చ మొదలవుతుంది. ఏఐలో వైద్యం, విద్య, శాస్త్ర పరిశోధన, ఉత్పాదకత వంటి రంగాల్లో భారీ ప్రయోజనాలున్నాయి. అదే సమయంలో ప్రమాదాలను పట్టించుకోకుండా వేగంగా ముందుకు వెళ్లడం కూడా సమస్యలకు దారితీయొచ్చు. అందుకే హింటన్‌ సహా పలువురు నిపుణులు పూర్తిగా ఏఐ అభివృద్ధిని నిలిపివేయడం కంటే, భద్రతా పరీక్షలు, స్వతంత్ర ఆడిట్లు, నియంత్రిత విడుదల, పారదర్శకత, అంతర్జాతీయ ప్రమాణాలు, మానవ పర్యవేక్షణ వంటి చర్యలకు ప్రాధాన్యం ఇవ్వాలని సూచిస్తున్నారు. హింటన్‌ కూడా కొత్త శక్తివంతమైన ఏఐ వ్యవస్థలను విడుదల చేసే ముందు తగిన భద్రతా పరీక్షలు అవసరమని చెబుతున్నారు.

ముందున్న దశాబ్దం ఎందుకు కీలకం?

ఏఐ భవిష్యత్తుపై హింటన్‌ చెప్పిన అంచనాలు ఖచ్చితమైన టైమ్‌టేబుల్‌గా చూడాల్సిన అవసరం లేదు. కానీ ఆయన హెచ్చరికలోని ప్రధాన సందేశం మాత్రం స్పష్టంగా ఉంది. ఏఐ సామర్థ్యాలు పెరిగిన తర్వాత నియంత్రణ మార్గాలను వెతకడం కంటే అవి పెరుగుతున్న సమయంలోనే భద్రతా వ్యవస్థలను నిర్మించడం మంచిది.

ప్రస్తుతం ప్రపంచం ఒక విచిత్రమైన పరిస్థితిని ఎదుర్కొంటోంది. ఒకవైపు ఏఐ అభివృద్ధిలో దేశాలు, కంపెనీలు పోటీ పడుతున్నాయి. మరోవైపు అదే సాంకేతికత వల్ల భవిష్యత్తులో ఏర్పడే ప్రమాదాలను నియంత్రించేందుకు ప్రపంచ దేశాల మధ్య సహకారం అవసరమవుతోంది.

అందుకే ‘ఏఐతో డేంజర్ ఉందా?’ అన్న ప్రశ్న కంటే ఏఐ మరింత శక్తివంతమయ్యేలోపు దాన్ని సురక్షితంగా నియంత్రించే వ్యవస్థలను మనం నిర్మించగలమా? అనేదే అసలు ప్రశ్న.