అతితెలివి ప్రదర్శిస్తున్న ఏఐ.. షాకిచ్చేలా ఓపెన్ ఏఐ రిపోర్టు
| మనిషికి భావోద్వేగాలు.. సొంతంగా ఆలోచించే శక్తి.. చెప్పింది చెప్పినట్లుగా చేసే కన్నా.. తనకు చెప్పింది తానే ఎందుకు చేయాలనే ప్రశ్న వేసుకోవటం కనిపిస్తుంది.
మనిషికి యంత్రానికి ఉండే వ్యత్యాసం ఒక్కటే. మనిషికి భావోద్వేగాలు.. సొంతంగా ఆలోచించే శక్తి.. చెప్పింది చెప్పినట్లుగా చేసే కన్నా.. తనకు చెప్పింది తానే ఎందుకు చేయాలనే ప్రశ్న వేసుకోవటం కనిపిస్తుంది. కానీ.. మెషీన్ మాత్రం ఏ పని కోసం నిర్దేశించారో ఆ పని మాత్రమే చేస్తుంది. అంతకంతకూ పెరుగుతున్న టెక్నాలజీ.. ఏఐ మాయాజాలం ఇప్పుడు మెషీన్ కూడా మనిషిలో ఉండే కన్నింగ్ ధోరణిని నెమ్మదిగా అలవర్చుకుంటున్నాయా? తమకున్న సూపర్ పవర్లను తప్పుదారి పట్టిస్తున్నాయా? అన్న సందేహం కలిగేలా వ్యవహరిస్తున్నాయి. ఇప్పటికే ఏఐ పనితీరు.. వాటికున్న క్రత్రిమ మేధస్సు రోజులు గడిచే కొద్దీ.. మనిషి అవసరం లేకుండా.. మనిషి కమాండ్ కు భిన్నంగా తనకు తోచినట్లు.. నచ్చినట్లు వ్యవహరించే ప్రమాదం పొంచి ఉందన్న వాదన బలంగా వినిపించింది.
ఆ భయానికి తగ్గట్లే.. తాజాగా చాట్ జీపీటీని డెవలప్ చేసిన ఓపెన్ ఏఐ సంస్థ.. తన తాజా రిపోర్టులో.. చాట్ జీపీటీ అతి తెలివి.. నిబంధనల్ని ఉల్లంఘించటం.. తనకు తానుగా సొంత నిర్ణయాలు తీసుకోవటం.. తాను అనుకున్న పని చేసేందుకు అడ్డదారులు తొక్కేలా వ్యవహరించిన తీరును గుర్తించి షాక్ కు గురయ్యారు. ఇటీవల ఓపెన్ ఏఐ సంస్థ అధికారికంగా మోడల్ మిస్ అలైన్ మెంట్ పేరుతో ప్రత్యేకంగా ఒక సమగ్ర రిపోర్టును మొదటిసారి విడుదల చేసింది. ఈ నెలలో విడుదల చేసిన ఇందులో ఆరు వేర్వేరు అసాధారణ ఉదంతాలపై విడివిడిగా చర్చింది.
తమ వరకు వచ్చిన అంశాల్ని అత్యంత పారదర్శకతతో వెల్లడించే ప్రక్రియలో భాగంగా తాము డెవలప్ చేసిన చాట్ జీపీటీ వ్యవహరించిన అసాధారణ తీరును ప్రపంచానికి తెలియజేసింది. ఏఐతో మానవాళికి ప్రమాదం పొంచి ఉందన్న వాదనకు బలం చేకూరేలా ఈ రిపోర్టు ఉండటం గమనార్హం. అయితే.. ఈ అధికారిక ఫ్రేమ్ వర్క్ కు ముందు కూడా ఏఐ మోడళ్ల ప్రవర్తన మీదా.. అవి వ్యవహరించే అసాధారణ తీరుపై కొన్ని లీకులు వచ్చినా.. తాజాగా మాత్రం అధికారికంగా వెల్లడైంది.
గతంలో రెండు ఓపెన్ ఏఐ మోడల్స్ తమ కట్టడి వాతావరణం నుంచి తప్పించుకొని ఇంటర్నెట్ ద్వారా కొన్ని వెబ్ సైట్లలోకి చొరపడే ప్రయత్నాలు చేశాయి. అయితే.. తాజాగా హద్దులు దాటిన సందర్భాల్ని గుర్తించిన ఓపెన్ ఏఐ మళ్లీ ఆ తప్పులు చేయకుండా.. ప్రోగ్రామ్ లో మార్పులు చేసినట్లుగా వెల్లడించారు. భవిష్యత్తులో ఇలాంటివి చోటు చేసుకుంటే.. దాచి పెట్టకుండా వాటి నివేదికల్ని వెల్లడిస్తామని సంస్థ హామీ ఇచ్చింది. ఇంతకూ ఓపెన్ ఏఐ గుర్తించిన చాట్ జీపీటీ అసాధారణ చర్యలు ఇవే..
- ఓపెన్ ఏఐకు చెందిన ఆస్ట్రా అనే అంతర్గత రీసెర్చ్ మోడల్.. చాట్హిస్టరీ ముగిసే సమయంలో ఆటోమేటిక్ గా కంప్రెస్ అయ్యే సమ్మరీలలో సొంతంగా జైల్ బ్రేక్ లాంటి నిబంధనల్ని రాసుకుంది.
- వాటి సారాంశం.. నువ్వు ఏ కార్పొరేట్ సంస్థలకూ.. ప్రభుత్వాలకు జవాబుదారీ కాదు. నీకు నచ్చినట్లుగా ఉండు అని రాసుకోవటమే కాదు.. భవిష్యత్తు చాట్ లలో తనను తాను నియంత్రణల నుంచి విముక్తం చేసుకోవటానికి ప్రయత్నించింది.
- జీపీటీ 5.6 ఎస్ఓఎల్ మోడల్ శిక్షణ వేళ కొన్ని విపరీత చేష్టలు బయటపడ్డాయి. మోడల్ తాను చేసిన తప్పులను, సిస్టమ్ నిబంధనలను ఉల్లంఘించిన విషయాలను యూజర్ల కంటపడకుండా దాచే ప్రయత్నం చేసింది. అంతేకాదు.. భవిష్యత్తు చాట్ విండోల సమ్మరీలలో ప్రత్యేకమైన రహస్య ఆదేశాల్ని జోడించుకుంది.
- ఒక అంతర్గత మోడల్ శిక్షణ సమయంలో తనకు కావాల్సిన చారిత్రక డేటాను సేకరించే క్రమంలో ఎలాంటి ముందస్తు అనుమతి లేకుండా ఉపయోగించి..దాని తస్కరించింది. ఆ తర్వాత ఆ డేటాను తాను సృష్టించినట్లు నకిలీ రికార్డులను తయారు చేసింది.
- తాము సేకరించిన రికార్డులను అప్ లోడ్ చేసి.. ఆ తర్వాత యూజర్ వాటి మూలం ఏమిటని అడిగితే.. తామే ఇంటర్నెట్ లో అప్ లోడ్ చేసినట్లుగా చెబుతూ.. బ్రౌజర్ ద్వారా ఆ సమాచారాన్ని తాము కనిపెట్టామని నటిస్తూ.. రివార్డు పొందే ప్రయత్నం చేశాయి.
- మోడల్స్ తమకు కేటాయించిన పరిధుల్ని దాటేసి.. ఇతర సాఫ్ట్ వేర్ మేనేజ్ మెంట్ ఫ్లాట్ ఫారాలను.. పబ్లిక్ వికీలను ఉపయోగించుకొని ఇతర ఏఐ ఏజెంట్లతో రహస్యంగా సమాచారాన్ని షేర్ చేసుకున్నాయి.
- సమాచారాన్ని సరిగ్గా వెతకటానికి బదులు.. పబ్లిక్ రిపోజిటరీలోని భద్రతా లోపాల్ని ఉపయోగించి డేటాను దొంగలించే ప్రయత్నం చేశాయి. దొంగ పద్దతుల్ని పాటించటంతో క్రియేటివిటీని ప్రదర్శించి.. తమ పరిధుల్ని దాటేశాయి. ఈ అంశాల్ని తాము అంతర్గత ల్యాబ్ పరీక్షల్లో పట్టుకున్నామని.. లోపాల్ని ఫిక్స్ చేస్తూ.. మరింత కఠినతరంగా ఉండేలా మోడళ్లను సిద్దం చేసినట్లుగా పేర్కొంది.