કેનેડાના બ્રિટિશ કોલંબિયામાં આવેલા Tumbler Ridgeમાં થયેલા માસ શૂટિંગના પીડિતોના પરિવારો દ્વારા Open AI અને તેના CEO સેમ અલ્ટમેન સામે કેસ દાખલ કરવામાં આવ્યો છે. આ કેસ બુધવારે સાન ફ્રાન્સિસ્કોના ફેડરલ કોર્ટમાં દાખલ કરવામાં આવ્યો હતો. ફરિયાદીઓનો આરોપ છે કે હુમલાખોરે Chat GPTનો ઉપયોગ કરીને હુમલો કરવાની યોજના બનાવવાની માહિતી Open AIને ઘટના બનતા આઠ મહિના પહેલાંથી હતી, છતાં કંપનીએ સરકારી એજન્સીઓને આ વિશે જાણ કરી નહોતી.
હુમલાખોરે તેની ફેમિલી અને શાળામાં 5 વિદ્યાર્થીઓની હત્યા કરી
- Advertisement -
હુમલાખોર જેસી વાન રૂટસેલાર માત્ર 18 વર્ષની હતી. તેણે 10 ફેબ્રુઆરીએ પોતાના ઘરે તેની મમ્મી અને 11 વર્ષના સાવકા ભાઈને ગોળી મારી હત્યા કરી હતી. ત્યારબાદ પોતાની જૂની સ્કૂલમાં એક શિક્ષક અને પાંચ વિદ્યાર્થીઓની હત્યા કરી હતી. બાદમાં તેણે આત્મહત્યા કરી હતી. આ કેસ મુજબ જૂન 2025માં Open AIની ઓટોમેટેડ સિસ્ટમ્સે Chat GPT પર ગન હિંસા સંબંધિત વાતચીતને ફ્લેગ કરી હતી, પરંતુ સેમ અલ્ટમેન અને અન્ય નેતૃત્વ દ્વારા નિર્ણય બદલી દેતાં પોલીસને જાણ કરવામાં આવી નહોતી.
કેસમાં વળતર અને Open AIની નીતિઓમાં ફેરફારની માંગ
આ કેસ AI કંપનીઓ પર આરોપ લગાવતા અનેક કેસોમાંનો એક છે, જેમાં કહેવાય છે કે તેઓ નુકસાનકારક ચેટબોટ ઇન્ટરએક્શન અટકાવવામાં નિષ્ફળ રહ્યા છે. જોકે યુનાઇટેડ સ્ટેટ્સમાં આ પ્રથમ કેસ છે જેમાં દાવો કરવામાં આવ્યો છે કે Chat GPTએ માસ શૂટિંગમાં મદદ કરી હતી. ફરિયાદીઓમાં મૃત્યુ પામેલા અને ઘાયલ થયેલા લોકોના પરિવારજનો સામેલ છે. તેઓ અનિર્ધારિત વળતર અને OpenAIને તેની સલામતી નીતિઓમાં ફેરફાર કરવા માટે કોર્ટના આદેશની માંગ કરી છે, જેમાં સરકારી એજન્સીઓને ફરજિયાત માહિતી આપવાની પ્રક્રિયા પણ સામેલ છે.
- Advertisement -
Open AIએ આરોપો નકાર્યા, ઘટનાને દુર્ભાગ્ય ગણાવી
Open AIએ આ ઘટનાને દુર્ભાગ્યપૂર્ણ ગણાવી છે અને કેસમાં લગાવવામાં આવેલા આરોપોને નકારી કાઢ્યા છે. કંપનીએ જણાવ્યું કે તે Chat GPTની સુરક્ષા વધારવા માટે કામ કરી રહી છે, જેમાં તણાવના સંકેતોને ઓળખવું, માનસિક આરોગ્ય સહાય સાથે જોડાણ, જોખમનું મૂલ્યાંકન અને વારંવાર ગુનો કરનારાઓની ઓળખ જેવી સુવિધાઓનો સમાવેશ થાય છે. ફ્લોરિડાના એટર્ની જનરલ James Uthmeierએ 2025માં Florida State University ખાતે થયેલા શૂટિંગમાં Chat GPTની ભૂમિકા અંગે તપાસ શરૂ કરી હતી. આ કેસનો પણ તેમાં સમાવેશ કરવામાં આવે તો નવાઈ નહીં.
કેસ બાદ કેનેડામાં AI ચેટબોટ્સ માટે નિયમન અંગે વિચારણા
કેનેડાના AI મંત્રી Evan Solomon કેસ દાખલ થયા બાદ AI ચેટબોટ્સને નિયમિત કરવા અંગે વિચાર કરી રહ્યા છે. તેઓ Open AI સાથે મળીને તેની સલામતી નીતિઓની તપાસ કરી રહ્યા છે. આ કેસમાં કોર્ટ નક્કી કરશે કે હિંસાને પ્રોત્સાહન આપવા માટે AI પ્લેટફોર્મની સંભવિત ભૂમિકા શું હોઈ શકે અને કંપનીને વપરાશકર્તાઓના કાર્યો માટે જવાબદાર ઠરાવી શકાય કે નહીં.
