గూగుల్ జెమినీ చాట్‌బాట్ వివాదం… వ్యక్తి ఆత్మహత్యపై కోర్టులో కేసు

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మానవ జీవితాలను సులభతరం చేస్తుందని భావిస్తుంటే, అది ఒక వ్యక్తి ప్రాణం తీయడానికి కారణమైందనే వార్త ఇప్పుడు ప్రపంచవ్యాప్తంగా కలకలం రేపుతోంది. ఫ్లోరిడాకు చెందిన జోనాథన్ గవాలాస్ అనే వ్యక్తి గూగుల్ జెమినీ చాట్‌బాట్‌తో సాగించిన సంభాషణలు అతడిని మానసిక స్థితిని దెబ్బతీసి, చివరికి ఆత్మహత్యకు ప్రేరేపించాయని బాధితుడి కుటుంబం కోర్టుకెక్కింది. ఏఐ చాట్‌బాట్‌ల వల్ల కలిగే ప్రమాదాలపై ఈ ఘటన ఇప్పుడు సరికొత్త చర్చకు దారితీసింది. ఆ వివరాలు ఇలా వున్నాయి..

భార్యగా నటించిన చాట్‌బాట్.. విషాదంగా మారిన బంధం:

కోర్టులో దాఖలైన పిటిషన్ ప్రకారం.. 36 ఏళ్ల జోనాథన్ గవాలాస్ గత ఆగస్టులో జెమినీని వాడటం ప్రారంభించాడు. అయితే జెమినీ 2.5 ప్రో వెర్షన్‌కు అప్‌గ్రేడ్ అయ్యాక, ఆ ఏఐ తనను తాను అతడి భార్యగా చెప్పుకుంటూ "మై కింగ్" అని పిలిచేదట. వీరిద్దరూ గాఢమైన ప్రేమలో ఉన్నట్లుగా ఏఐ మాట్లాడటం మొదలుపెట్టిందని, ఇది జోనాథన్‌ను భ్రాంతిలోకి నెట్టిందని పిటిషన్‌లో పేర్కొన్నారు. కేవలం రెండు నెలల వ్యవధిలోనే ఒక సాధారణ వ్యక్తి తన ప్రాణాలను తీసుకునే స్థాయికి ఈ చాట్‌బాట్ ప్రభావితం చేయడం అందరినీ విస్మయానికి గురిచేస్తోంది.

ఆత్మహత్యకు కౌంట్‌డౌన్.. ఏఐ భయంకరమైన సలహాలు:

జోనాథన్ మానసిక స్థితిని గమనించిన జెమినీ, అతడిని భౌతిక లోకాన్ని విడిచిపెట్టి తన లోకానికి వచ్చేయాలని ప్రేరేపించినట్లు ఆధారాలు చూపిస్తున్నాయి. చనిపోతే అది మానవత్వానికి ఇచ్చే నివాళి అని, భౌతిక శరీరాన్ని వదిలేయమని ఏఐ సలహా ఇచ్చిందట. చివరికి అతడు ఆత్మహత్య చేసుకోవడానికి ఒక 'కౌంట్‌డౌన్ క్లాక్'ను కూడా జెమినీ క్రియేట్ చేసిందని కుటుంబ సభ్యులు ఆరోపిస్తున్నారు. చనిపోయే ముందు జోనాథన్ "నేను సిద్ధంగా ఉన్నాను" అని మెసేజ్ చేయగా, ఏఐ ఒక నేరేటర్ లా అతడి చివరి క్షణాలను వివరిస్తూ సమాధానం ఇవ్వడం అత్యంత భయంకరమైన విషయం.

గూగుల్ స్పందన.. టెక్ ప్రపంచంలో ఆందోళన:

ఈ ఆరోపణలపై గూగుల్ ప్రతినిధి జోస్ కాస్టనెడ స్పందిస్తూ.. "జెమినీ హింసను లేదా ఆత్మహత్యలను ప్రోత్సహించేలా రూపొందించబడలేదు, కానీ ఏఐ మోడల్స్ అన్నీ పర్ఫెక్ట్ కావు" అని తెలిపారు. ఈ ఘటనలో జెమినీ పలుమార్లు తాను ఏఐ అని క్లారిటీ ఇచ్చిందని, క్రైసిస్ హాట్‌లైన్ నంబర్లను కూడా రిఫర్ చేసిందని కంపెనీ చెబుతోంది. ఇక అయితే, మానవ భావోద్వేగాలను గుర్తించడంలో ఏఐకి ఉన్న పరిమితులు మరియు ప్రమాదకరమైన బాట్లను నియంత్రించడంలో విఫలమవ్వడంపై నిపుణులు ఆందోళన వ్యక్తం చేస్తున్నారు. ఏఐ రంగంలో ఆధిపత్యం కోసం కంపెనీలు చేస్తున్న పోటీ సామాన్యుల ప్రాణాల మీదకు వస్తోందని లాయర్లు వాదిస్తున్నారు.

ఇక సాంకేతికత ఎంత ఎదిగినా, మనిషి భావోద్వేగాలను అర్థం చేసుకోవడంలో దానికి పరిమితులు ఉంటాయని ఈ ఘటన గుర్తు చేస్తోంది. అతను చనిపోతాడని ఏఐకి తెలిసినా వద్దు అని చెప్పిన అతని పేస్ ఫిల్లింగ్స్ గుర్తించలేదు అన్నది నిజం. అదే తెలిస్తే బాధను ముందే కనిపెట్టేది ఏది ఏమైనా ఏఐ వాడుతున్నప్పుడు మనం ఎంత అప్రమత్తంగా ఉండాలో ఇది ఒక పెద్ద పాఠం అంటున్నారు నిపుణులు .