તું મરી જા, તું સમાજ માટે બોજ છે’, Google AI ચેટ જીપીટીએ વિદ્યાર્થીને આપ્યો આ જવાબ

ટેક કંપનીને ગણાવી જવાબદાર

વિધાયે વધુમાં જણાવ્યું હતું કે તે આ અનુભવથી બિલકુલ હેબતાઈ ગયો છે. આગળ તેણે જણાવ્યું હતું કે ચેટ બોટનો રિસ્પોન્સ ખૂબ જ ડાયરેક્ટ અને સ્પેસિફિક તેના માટે જ હતો. રેડ્ડી અને તેની બહેન AIની મદદ લઈને હોમ વર્ક કરી રહી રહ્યા હતા ત્યારે ચેટ બોટના આવા જવાબથી બંને ચોંકી ગયા હતા. તેની બહેને જણાવ્યું કે ” હું મારા બધા ડિવાઇઝને બારીની બહાર ફેંકી દેવા માંગુ છું. ઘણા લાંબા સમયથી હું પેનિક થઈ ગઈ છું.” જ્યારે વિધેયે આ પરિસ્થિતિ અને આવી ઘટનાઓ માટે ટેક કંપનીને જવાબદાર ગણાવી હતી.

ગૂગલે આપી સ્પષ્ટતા

આ કિસ્સામાં, ગૂગલે કહ્યું કે જેમિની પાસે સલામતી ફિલ્ટર્સ છે, જે ચેટબોટ્સને અપમાનજનક, જાતીય, હિંસક અથવા ખતરનાક ચર્ચાઓમાં સામેલ થવાથી અને હાનિકારક કૃત્યોને પ્રોત્સાહિત કરતા અટકાવે છે. ગૂગલે કહ્યું, ‘મોટા લેંગ્વેજ મોડલ ક્યારેક બિન-સંવેદનશીલ પ્રતિસાદ આપી શકે છે, અને આ તેનું ઉદાહરણ છે. ચેટબોટનો આ પ્રતિસાદ અમારી નીતિનું ઉલ્લંઘન કરે છે અને અમે આવા આઉટપુટને રોકવા માટે પગલાં લીધા છે.