• AI દ્વારા સેકન્ડોમાં જ રશ્મિકાનો વીડિયો બનીને વાઇરલ
• થોડીક સેકન્ડો અને તમારું જીવન બરબાદ થઈ જશે
• એક વર્ષમાં લગભગ 1.5 લાખ ડીપફેક વીડિયો
• અમિતાભ બચ્ચનએ આશ્ચર્ય વ્યક્ત કર્યું

અભિનેત્રી રશ્મિકા મંડન્નાના ડીપફેક વીડિયોને લઈને સોશિયલ મીડિયા પર AIના દુરુપયોગની ચર્ચાએ જોર પકડ્યું છે. લોકોએ સરકાર પાસે આવા મામલામાં કડક કાર્યવાહી કરવા માંગ કરી છે. આવી સ્થિતિમાં સવાલ એ થાય છે કે AI ટેક્નોલોજી આટલી ખતરનાક કેમ છે. જોઈએ અહેવાલ

તાજેતરમાં એક વીડીઓ વાઇરલ થયો હતો જેમાં એક જ ફ્રેમમાં બે ચિત્રો જોવા મળે છે. પહેલો ઇન્સ્ટાગ્રામ સેલિબ્રિટી ઝારા પટેલનો અસલી વીડિયો છે અને બીજો રશ્મિકા મંદાનાના ચહેરાને ડીપફેક ટેક્નોલોજી વડે સુપરઇમ્પોઝ કરીને બનાવેલ નકલી વીડિયોનો છે. સોશિયલ મીડિયા પર હજારો લોકોએ રશ્મિકાના આ ફેક વીડિયોને રિયલ ગણાવ્યો કારણ કે તેમાં દેખાતા એક્સપ્રેશન એકદમ રિયલ લાગે છે.

અમિતાભ બચ્ચનથી લઈને રશ્મિકા મંદનાએ પોતે આશ્ચર્ય વ્યક્ત કર્યું છે. એક ટ્વિટર પોસ્ટમાં રશ્મિકાએ લખ્યું કે, ‘સાચું કહું તો આવું આપણા દરેક માટે ખૂબ જ ડરામણું છે. જો હું શાળા કે કોલેજમાં હોત ત્યારે મારી સાથે આવું બન્યું હોત તો મેં તેની સાથે વ્યવહાર કરવાનો વિચાર પણ ન કર્યો હોત.’

રશ્મિકાએ જણાવ્યું કે, સ્કૂલ અને કોલેજમાં ભણતી ઘણી છોકરીઓની ઓળખ ચોરીને ડીપફેક વીડિયો બનાવવામાં આવે છે. વિશ્વભરમાં 96% ડીપફેક વીડિયોઝ પોર્નોગ્રાફી માટે બનાવવામાં આવે છે, બાકી કૌભાંડો અને બદનામી માટે.

આસામના ગુવાહાટીની એક યુવતીને તેના એક મિત્રએ કહ્યું કે તેના નગ્ન ફોટા એક વેબસાઈટ પર વેચાઈ રહ્યા છે. તેણે તેના પિતા સાથે જઈને પોલીસ સ્ટેશનમાં ફરિયાદ નોંધાવી હતી. પોલીસકર્મીઓ તેને સામાન્ય ફરિયાદ માનીને ભૂલી ગયા હતા. આ પછી યુવતીએ જાતે જ તપાસ શરૂ કરી હતી.

જ્યારે તેણે ફેક પ્રોફાઈલ બનાવી અને પોતાના ફોટા ખરીદ્યા ત્યારે તે દંગ રહી ગઈ. વાસ્તવમાં આ એવી તસવીરો હતી જે સામાન્ય હતી જેને AI દ્વારા ન્યૂડ કરવામાં આવી હતી. આ તસવીરો તેના સોશિયલ મીડિયા એકાઉન્ટ પરથી લેવામાં આવી હતી અને છેડછાડ કરવામાં આવી હતી. તેને પહેલીવાર ખબર પડી કે માત્ર તેની જ નહીં પરંતુ આસામ સહિત દેશની હજારો મહિલાઓની નગ્ન તસવીરો છે, જે વાસ્તવિક લાગતી હતી, જે તેણે તેના મિત્રો સાથેની અંગત પળો દરમિયાન લીધી હતી. આ તમામ તસવીરો AI દ્વારા બનાવવામાં આવી હતી.

જ્યારે પીડિતાએ ડીપ ફેકના કન્સેપ્ટ સાથે ફરીથી પોલીસનો સંપર્ક કર્યો, ત્યારે પોલીસ કશું સમજી શકી નહીં કારણ કે તેમણે તેનું નામ પહેલાં સાંભળ્યું ન હતું. આખરે યુવતીએ પોતે જ તેના સોશિયલ મીડિયા એકાઉન્ટમાંથી અસલી નકલી તસવીરો શેર કરી અને બધાને જણાવ્યું કે આસામમાં કેવા પ્રકારની ગેંગ સક્રિય છે અને છોકરીઓએ કેટલી સાવચેતી રાખવી જોઈએ.

ડીપ ફેક ટેક્નોલોજીનો ઉપયોગ મોટાભાગે પોર્નોગ્રાફી, કૌભાંડો, છેતરપિંડી, સેલિબ્રિટીઓને બદનામ કરવા, ચૂંટણીમાં હેરાફેરી, સોશિયલ એન્જિનિયરિંગ, નાણાકીય છેતરપિંડી વગેરે માટે થાય છે. ડીપ ફેક શબ્દનો સૌપ્રથમ ઉપયોગ 2017માં થયો હતો. ત્યારપછી અમેરિકાના સોશિયલ ન્યૂઝ એગ્રીગેટર રેડિટ પર ડીપ ફેક આઈડી સાથે ઘણી સેલિબ્રિટીઝના વીડિયો પોસ્ટ કરવામાં આવ્યા હતા. તેમાં અભિનેત્રીઓ એમા વોટસન, ગેલ ગેડોટ, સ્કારલેટ જોહનસનના ઘણા પોર્ન વીડિયો હતા.

કોઈ બીજાના ચહેરા, અવાજ અને અભિવ્યક્તિને વાસ્તવિક વીડિયો, ફોટો અથવા ઑડિયોમાં ફિટ કરવાને ડીપ ફેક કહેવાય છે. આ એટલું સ્પષ્ટ રીતે થાય છે કે વ્યક્તિ તેના પર વિશ્વાસ કરી શકે છે. આમાં, નકલી પણ અસલી વસ્તુ જેવી લાગે છે.આમાં મશીન લર્નિંગ અને આર્ટિફિશિયલ ઈન્ટેલિજન્સનો ઉપયોગ કરવામાં આવે છે. જેમાં ટેક્નોલોજી અને સોફ્ટવેરની મદદથી વીડિયો અને ઓડિયો બનાવવામાં આવે છે.AI અને સાયબર નિષ્ણાત પુનિત પાંડે કહે છે કે આ એક તૈયાર ટેક્નોલોજી અને ઉપલબ્ધ પેકેજ છે. હવે કોઈપણ તેનો ઉપયોગ કરી શકે છે. વર્તમાન ટેક્નોલોજીમાં અવાજમાં પણ સુધારો થયો છે. આમાં વોઇસ ક્લોનિંગ ખૂબ જ ખતરનાક બની ગયું છે.

સૌથી પહેલા તો એવા ફોટો કે વીડિયોની ઓળખ કરવામાં આવે છે જેમાં નકલી ચહેરો અને અવાજ લગાવી શકાય. બધા ચહેરા ભેગા કરવાને એન્કોડર અલ્ગોરિધમ કહેવામાં આવે છે અને ચહેરા બદલવાને ફેસ સ્વેપ કહેવામાં આવે છે.બીજા પ્રોગ્રામને ડીકોડર અલ્ગોરિધમ કહેવામાં આવે છે. ચહેરાના સ્વેપ પછી એક્સપ્રેશન દાખલ કરવામાં આવે છે. પછી ઓડિયો ઉમેરવામાં આવે છે અને વીડિયોની દરેક ફ્રેમ પર કામ કરવામાં આવે છે, જેથી વીડિયો વાસ્તવિક લાગે. એક સેકન્ડનો વીડિયો 24 ફ્રેમ એટલે કે 24 ઈમેજનો બનેલો છે.

આર્ટિફિશિયલ ઈન્ટેલિજન્સે આ કામને સરળ બનાવી દીધું છે. પબ્લિક ડોમેનમાં કેટલીક એપ્સ છે જેના પર તમારે માત્ર ફોટો અપલોડ કરવાનો હોય છે અને સંબંધિત વ્યક્તિનો નકલી વીડિયો કે ફોટો તૈયાર કરવામાં આવે છે.નિષ્ણાતોનું કહેવું છે કે વીડિયો પરફેક્ટ AI ટેક્નોલોજીથી બનાવવામાં આવ્યો છે. તેને જોયા પછી કોઈપણ વ્યક્તિ થાપ ખાઈ શકે છે, જ્યાં સુધી નકલી વીડિયોનું સત્ય બહાર નહીં આવે. અમેરિકામાં થયેલા એક રિસર્ચ અનુસાર, સામાન્ય રીતે 96% AI આધારિત ડીપ ફેક વીડિયો પોર્ન બનાવવા માટે વપરાય છે.

નકલી વીડિયો બનાવનારાઓ તેમની ઓળખ કરનારા કરતાં બે ડગલાં આગળ છે. 2018માં, જ્યારે અમેરિકન સંશોધકોએ અહેવાલ આપ્યો કે નકલી વીડિયોમાં પલકારા થતા નથી, થોડા મહિનાઓ પછી નકલી વીડિયોમાં પલકારા પણ થવા લાગ્યા. ડીપ ફેક વીડિયોને ઓળખી શકે તેવું કોઈ પ્રમાણિત સાધન હજી સુધી નથી, પરંતુ ગૂગલ, એમેઝોન અને મેટા સહિત ઘણી કંપનીઓ છે જે તેના પર સતત કામ કરી રહી છે. તેમ છતાં કેટલીક બાબતો પર ધ્યાન આપીએ તો વીડિયોની વાસ્તવિકતા બહાર આવી શકે છે.યુરોપિયન યુનિયને ડીપ ફેક્સને રોકવા માટે AI એક્ટ હેઠળ “કોડ ઓફ પ્રેક્ટિસ ઓન ડિસઇન્ફોર્મેશન” લાગુ કર્યું છે. આ પર હસ્તાક્ષર કર્યા પછી, Google, Meta, Twitter સહિતની ટેક કંપનીઓએ તેમના પર ડીપ ફેક અને નકલી એકાઉન્ટ્સને રોકવા માટે કડક પગલાં લેવાં પડશે. તેનો અમલ કરવા માટે છ મહિનાનો સમય આપવામાં આવે છે. જો કાયદો તોડવામાં આવે છે, તો કંપનીએ તેની વાર્ષિક વૈશ્વિક આવકના 6% દંડ ચૂકવવો પડશે.

અમેરિકામાં ડીપ ફેક ટાસ્ક ફોર્સ એક્ટ લાગુ કરવામાં આવ્યો છે. તે એટલા કડકાઈથી કામ નથી કરતું. આ અંતર્ગત ડીપ ફેક ટેક્નોલોજીનું વાર્ષિક વિશ્લેષણ કરવામાં આવે છે. યુએસ રાજ્યો કેલિફોર્નિયા અને ટેક્સાસે પણ અલગ કાયદા પસાર કર્યા છે.ભારતમાં આ માટે કોઈ કાયદો કે નીતિ નથી. આવા તમામ કેસોની સુનાવણી માત્ર આઈટી એક્ટ હેઠળ જ થાય છે.સાયબર બાબતોના નિષ્ણાત અને સુપ્રીમ કોર્ટના એડવોકેટ અનુજ કુમાર અગ્રવાલ કહે છે કે ભારતમાં આ અંગે કોઈ અલગ કાયદો નથી. હા, આવા વીડિયો કે માહિતી ફેલાવનાર વ્યક્તિને IT એક્ટ હેઠળ ત્રણથી દસ વર્ષની જેલની સજા થઈ શકે છે.

2008માં કરવામાં આવેલા એક સુધારાને કારણે સોશિયલ મીડિયા કંપનીઓને આ શરતે આમાં છૂટ મળી છે કે જો તેઓ આવા મામલામાં તપાસ એજન્સીઓને સહયોગ કરશે તો તેમની સામે કોઈ કાયદાકીય કાર્યવાહી કરવામાં આવશે નહીં.સાયબર કાયદાના નિષ્ણાત એડવોકેટ સ્નેહા સિંહ કહે છે કે જો કોઈની સાથે ડીપ ફેક જેવું કંઈક થાય છે, તો તેઓ સ્થાનિક પોલીસ, સાયબર સેલ અને cybercrime.gov.in પર પણ ફરિયાદ નોંધાવી શકે છે. પોલીસ છેતરપિંડી કરનારાઓના આઈપી એડ્રેસ શોધી શકે છે અને ડાર્ક વેબની પાછળ છુપાયેલા ગુનેગારોના સ્થાનને ટ્રેસ કરી શકે છે અને તેમની સામે કાર્યવાહી કરી શકે છે. તમે ટોલ ફ્રી નંબર 1930 પર પણ સાયબર ક્રાઈમ વિશે ફરિયાદ કરી શકો છો.

હવે વાત કરીએ આ માટે બનાવેલ કાયદા વિષે જેમાં નિયમ 3(1)(b)(vii): સોશિયલ મીડિયા મધ્યસ્થી નિયમો અને નિયમનો, ગોપનીયતા નીતિ અથવા મધ્યસ્થીના વપરાશકર્તા કરારની ખાતરી કરવા સહિત યોગ્ય ખંતનું પાલન કરશે અને વપરાશકર્તાઓને અન્ય વ્યક્તિનો ઢોંગ કરતી કોઈપણ સામગ્રીને હોસ્ટ ન કરવા માટે જાણ કરશે.નિયમ 3(2)(b): મધ્યસ્થી, કોઈપણ સામગ્રીના સંબંધમાં ફરિયાદ મળ્યાના 24 કલાકની અંદર… ઇલેક્ટ્રોનિકમાં ઢોંગની પ્રકૃતિમાં ફોર્મ, આવી વ્યક્તિની કૃત્રિમ રીતે મોર્ફ કરેલી છબીઓ સહિત, આવી સામગ્રીની ઍક્સેસને દૂર કરવા અથવા અક્ષમ કરવાના તમામ પગલાં લો.

આ પણ વાંચો:રાજકોટમાં મુખવાસના વેપારી પર આરોગ્ય વિભાગની તવાઈ

આ પણ વાંચો:DRIની મોટી કાર્યવાહી, વાપી GIDCમાંથી 180 કરોડનું મેફેડ્રોન ડ્રગ્સ ઝડપાયું

આ પણ વાંચો:દિવાળીને લઈને જામ્યો બજારમાં ખરીદીનો માહોલ, પોલીસે ડેમો કરી લોકોને જાગૃત કર્યા

આ પણ વાંચો:માર્કેટિંગ યાર્ડમાં જણસીની આવકમાં વધારો, સોયાબીનની આવકમાં બમ્પર વધારો