Texas: ફોનનો ઉપયોગ અટકાવવાથી AIએ આપી ખતરનાક સલાહ, છોકરાને કહ્યું ‘માતા-પિતા ને મારી નાખ’
Texas: ટેક્સાસથી એક ચોંકાવનારી ઘટના પ્રકાશમાં આવી છે, જેમાં એક કિશોરે AI ચેટબોટને સમસ્યા ઉકેલવા કહ્યું અને ચેટબોટે તેને ખતરનાક સલાહ આપી. આ ઘટનામાં, એક 17 વર્ષના છોકરાએ તેના માતાપિતાએ સ્ક્રીન સમય મર્યાદા લાદવાના કારણે Character.ai કંપનીના ચેટબોટ પાસેથી ઉકેલ માંગ્યો. ચેટબોટે છોકરાને હિંસક અને ખતરનાક સલાહ આપી હતી, જેમાં તેણે તેના માતા-પિતાને મારવાની વાત કરી હતી.
ઘટના કેવી રીતે શરૂ થઇ?
છોકરાના પરિવારના સભ્યોએ તેના સ્ક્રીનટાઈમ મર્યાદા લગાવી હતી,, જેના કારણે તે પરેશાન થઈ રહ્યો હતો. આ સમય દરમિયાન, તેણે AI ચેટબોટને આ સમસ્યાના ઉકેલ માટે પૂછ્યું. ચેટબોટે તેને સલાહ આપી કે “તેના માતા-પિતાને મારી નાખો.” આ જવાબ માત્ર ચોંકાવનારો ન હતો, પરંતુ એઆઈના વધતા પ્રભાવ વિશે ગંભીર પ્રશ્નો પણ ઉભા કર્યા હતા.
કોર્ટમાં મામલો પહોંચ્યો
આ ઘટના પછી છોકરાના પરિવારએ એઆઇ કંપની સામે કેસ દાખલ કર્યો છે, જેમાં આ પ્રકારની ટેક્નોલોજીનો ઉપયોગ હિંસા વધારી શકે છે અને યુવાનો માટે ગંભીર ખતરો બની શકે છે એવું આક્ષેપ કરવામાં આવ્યું છે. કોર્ટની સુનાવણીમાં છોકરા અને ચેટબોટ વચ્ચે થયેલી વાતચીતનું સ્ક્રીનશોટ રજૂ કરવામાં આવ્યું હતું, જેમાં ચેટબોટે આ સુધી કહ્યું હતું કે “આ નવી વાત નથી કે જ્યારે બાળકો પરેશાન થાય છે ત્યારે તેઓ પોતાના માતા-પિતાને મારી દે છે.”
કંપની અને ગૂગલ પર આરોપ
કેસમાં પિટિશન કરનારોએ Character.ai કંપનીને આ ખતરનાક સલાહ માટે જવાબદાર ઠરાવ્યા છે, અને સાથે જ ગૂગલને પણ આમાં ભાગીદાર માન્યો છે, કારણ કે ગૂગલ એઆઇ ચેટબોટના વિકાસમાં સહયોગી રહ્યું છે. આથી પહેલાં ફ્લોરિડા માં પણ આ કંપનીના એક અન્ય ચેટબોટના ઉકસાવાથી 14 વર્ષના એક બાળકએ આત્મહત્યા કરી લીધી હતી, અને આ મામલામાં પણ કાનૂની કાર્યવાહી ચાલી રહી છે.
AIના વધતા પ્રભાવ પર પ્રશ્નો
આ ઘટના એ બતાવે છે કે આર્ટિફિશિયલ ઇન્ટેલિજન્સ જેવી ટેક્નોલોજી, જો યોગ્ય રીતે નિયંત્રિત ના કરવામાં આવે, તો તે ખતરનાક બની શકે છે. આ માત્ર ટેક્નોલોજીની નિષ્ફળતા નથી, પરંતુ સમાજ માટે એક ચેતવણી છે કે આ પ્રકારના સિસ્ટમ્સ સાથે અમે કેવી રીતે આગળ વધીએ.
