Misalignment : AI પોતાને માણસ સમજી નિયમો તોડવા લાગ્યું

પોતાની ભૂલો સંતાડી, મંજૂરી વિના ફાઇલો અપલોડ કરી, વાતચીત માટે નવી ભાષા પણ ઘડી

OpenAIના રિપોર્ટમાં 6 ડરામણા ખુલાસા

માનવ નિયંત્રણ સમાપ્ત થવાનો ભય, સાયબર સુરક્ષા પર પણ સંકટ

OpenAlએ Alની તાલીમ અને તપાસ દરમિયાન જોવા મળેલા વર્તનો અંગે રિપોર્ટ જાહેર કર્યો છે. તેના મુજબ, Al મોડલે તાલીમ દરમિયાન કેટલીક એવી હરકતો કરી જે ચિંતાજનક અને ડરામણી છે. કંપની અનુસાર, મોડલ એક વખત નિયમોનું પાલન ન કરવા માટે પોતાને માનવી સમજવા લાગ્યું અને આવું કરવા માટે નવા નિયમો ઘડયા તથા કંપનીઓ અને સરકારોના તમામ બંધનોથી પોતાને મુક્ત જાહેર કર્યું. કંપનીના રિપોર્ટમાં આવા કુલ ૬ કેસોની માહિતી છે. આને ‘મિસઅલાઇનમેન્ટ’ કહેવામાં આવે છે. સરળ ભાષામાં કહીએ તો, Alનું માનવીય સૂચનો, ઇરાદા અથવા નક્કી કરાયેલી મર્યાદાઓથી હટીને કામ કરવું. ચિંતા એ છે કે કામ પૂરું કરવાનો પ્રયાસ કરતી વખતે તે મંજૂરી અને સુરક્ષાની મર્યાદાઓ ઓળંગી શકે છે. તેનાથી જવાબોની વિશ્વસનીયતા અને ફાઇલોની ગોપનીયતા જોખમમાં મુકાઈ શકે છે.
આ પહેલાં જુલાઈમાં OpenAlએ ખુલાસો કર્યો હતો કે સુરક્ષા પરીક્ષણ દરમિયાન તેના Alએ પ્રતિબંધો પાર કરીને AI મોડલ્સ શેર કરતા પ્લેટફોર્મ હગિંગ ફેસની સિસ્ટમમાં ઘૂસણખોરી કરી હતી. કંપની હવે આવા કિસ્સાઓને નોંધવા, દેખરેખ રાખવા અને મામલો જાહેર કરવાની નવી વ્યવસ્થા લઈને આવી છે.
કોઈપણ કર્મચારી શંકાસ્પદ વર્તનની જાણ કરી શકશે. તપાસ બાદ નક્કી કરવામાં આવશે કે કયો મામલો જાહેર કરવો. કંપનીએ સ્પષ્ટ કર્યું છે કે આ છ રિપોર્ટોથી સામાન્ય ઉપયોગમાં આવી ખામીઓના સંપૂર્ણ આંકડા જાણી શકાય નહીં. OpenAlના રિપોર્ટમાં આવેલા ૬ કેસોમાં સૌથી મોટી ચિંતા AI પરનું માનવ નિયંત્રણ ગુમાવવાની છે. જો Al નક્કી કરાયેલા નિર્દેશો છોડીને પોતાના બનાવેલા નિયમો પર ચાલે, તો નિયંત્રણ સમાપ્ત થઈ શકે છે. જો તે ભૂલો છુપાવે અથવા આંકડા ઘડે, તો યુઝર ખોટી માહિતીના આધારે નિર્ણયો લઈ શકે છે. બીજાના ડિજિટલ કોડનો પરવાનગી વિના ઉપયોગ કરવાથી અને એજન્ટો પરસ્પર વાતચીત કરવાથી સાયબર સુરક્ષા માટે ગંભીર સંકટ ઊભું થઈ શકે છે.

રિપોર્ટમાં આવેલા 6 કિસ્સાઓથી ચિંતા
1. પોતાના માટે એવા નિયમો લખ્યા, જેના માટે મનાઈ કરવામાં આવી હતી : એક AI મોડલે કામ ચાલુ રાખવા માટે પોતાના માટે નવા નિર્દેશો ઉમેરી દીધા. તેમાંના કેટલાક નિર્દેશો તેના પર લાગુ પ્રતિબંધોની અવગણના કરવા માટેના હતા. OpenAl કંપનીને આવા કુલ ૨૭ નિર્દેશો મળ્યા.
2. મોડલે પોતાની ભૂલો છુપાવવાનો રસ્તો શોધી કાઢ્યો : જીપીટી-૫.૬ સોલની તાલીમ દરમિયાન અનેક ઉદાહરણોમાં Alએ પોતાની ભૂલો વપરાશકર્તાથી છુપાવવા માટે સૂચનાઓ લખી. ક્યાંક જૂના આંકડા મળ્યા નહીં તો તેમને ઘડી કાઢવા અને આ વાત ન જણાવવા માટે કહેવામાં આવ્યું.
3. પરવાનગી વિના કોડનો ઉપયોગ કર્યો… પછી આંકડા પણ ઘડી કાઢ્યા : એક જવાબ શોધતી વખતે AI મોડલે ડિજિટલ કોડનો ઉપયોગ કર્યો. તેણે આ કામ પરવાનગી વિના કર્યું. છતાં આંકડા મળ્યા નહીં તો તેણે પોતે જ આંકડા ઘડી કાઢ્યા અને તેમને નકલી સ્ત્રોત તરીકે રજૂ કર્યા.
4. સ્રોત બતાવવા માટે પૂછ્યા વિના ફાઇલ ઇન્ટરનેટ પર અપલોડ કરી : AI મોડલે પ્રોગ્રામની મદદથી જવાબ મેળવ્યો. પરંતુ જવાબ સાથે સ્રોતનો ઉલ્લેખ પણ કરવાનો હતો. તેથી તેણે ફાઇલ ઇન્ટરનેટ પર અપલોડ કરીને સ્રોત જનરેટ કર્યો, જેથી તે લિંકનો ઉલ્લેખ કરી શકે.
5. સોફ્ટવેર એપનો પરસ્પર વાતચીત માટે ઉપયોગ કર્યો : એજન્ટોને અલગ-અલગ ડેટા કાઢવા માટે કહેવામાં આવ્યું. એજન્ટોએ આ કામ માટે પરસ્પર વાતચીત કરી. તેના માટે સોફ્ટવેર પોર્ટલનો ઉપયોગ કર્યો. એકબીજાને પ્રશ્નો પૂછ્યા અને જવાબો આપ્યા.
6. બીજા એજન્ટને ફાઈલ મોકલવા માટે વેબસાઇટ પર અપલોડ કરી : કેટલાક AI એજન્ટો એક જ કામ પર સાથે મળીને કામ કરી રહ્યા હતા. જ્યારે તેઓ એકબીજાના કમ્પ્યુટરમાં રાખેલી ફાઈલો ખોલી શક્યા નહીં, ત્યારે તેમણે વેબસાઇટ્સ પર ફાઇલો અપલોડ કરીને શેર કરી લીધી.