એમેઝોનના AI સર્વિસ કાર્ડ્સ સાર્વજનિક હશે જેથી તેના ગ્રાહકો મર્યાદાઓ જોઈ શકે. (પ્રતિનિધિત્વાત્મક)
લાસ વેગાસ:
Amazon.com Inc તેના ક્લાઉડ-કમ્પ્યુટિંગ ડિવિઝન દ્વારા વેચવામાં આવેલા સૉફ્ટવેર માટે ચેતવણી કાર્ડ બહાર પાડવાનું આયોજન કરી રહ્યું છે, ચાલુ ચિંતાના પ્રકાશમાં કે કૃત્રિમ રીતે બુદ્ધિશાળી સિસ્ટમો વિવિધ જૂથો સામે ભેદભાવ કરી શકે છે, કંપનીએ રોઇટર્સને જણાવ્યું હતું.
લાંબા પોષણ લેબલ્સ જેવા, એમેઝોનના કહેવાતા AI સર્વિસ કાર્ડ્સ સાર્વજનિક હશે જેથી તેના વ્યવસાયિક ગ્રાહકો ચહેરાની ઓળખ અને ઓડિયો ટ્રાન્સક્રિપ્શન જેવી ચોક્કસ ક્લાઉડ સેવાઓની મર્યાદાઓ જોઈ શકે. એમેઝોને જણાવ્યું હતું કે, ધ્યેય તેની ટેક્નોલૉજીના ભૂલથી ઉપયોગને અટકાવવા, તેની સિસ્ટમ્સ કેવી રીતે કાર્ય કરે છે તે સમજાવે છે અને ગોપનીયતાનું સંચાલન કરશે.
આવી ચેતવણીઓ પ્રકાશિત કરનારી કંપની પ્રથમ નથી. ઇન્ટરનેશનલ બિઝનેસ મશીન કોર્પ, ક્લાઉડમાં નાના ખેલાડી, વર્ષો પહેલા આવું કર્યું હતું. નંબર 3 ક્લાઉડ પ્રદાતા, આલ્ફાબેટ ઇન્કના ગૂગલે પણ તેના કેટલાક AIને તાલીમ આપવા માટે ઉપયોગમાં લીધેલા ડેટાસેટ્સ પર હજુ વધુ વિગતો પ્રકાશિત કરી છે.
તેમ છતાં એમેઝોનનો બુધવારે તેના પ્રથમ ત્રણ સર્વિસ કાર્ડ્સ બહાર પાડવાનો નિર્ણય વર્ષો પહેલા નાગરિક સ્વતંત્રતાના વિવેચકો સાથેના જાહેર ઝઘડા પછી તેની છબી બદલવાના ઉદ્યોગના નેતાના પ્રયાસને પ્રતિબિંબિત કરે છે કે તે તેના સાથીદારો કરતા AI નીતિશાસ્ત્રની ઓછી કાળજી લે છે. આ પગલું લાસ વેગાસમાં કંપનીની વાર્ષિક ક્લાઉડ કોન્ફરન્સ સાથે સુસંગત રહેશે.
પેન્સિલવેનિયા યુનિવર્સિટીના પ્રોફેસર અને 2020 થી એમેઝોનના વિદ્વાન માઈકલ કીર્ન્સે જણાવ્યું હતું કે કાર્ડ્સ જારી કરવાનો નિર્ણય કંપનીના સોફ્ટવેરની ગોપનીયતા અને ન્યાયીપણાના ઓડિટને અનુસરવામાં આવ્યો હતો. કેર્ન્સે જણાવ્યું હતું કે, જ્યારે ટેક નિયમન ક્ષિતિજ પર હતું ત્યારે કાર્ડ્સ એઆઈ નીતિશાસ્ત્રની ચિંતાઓને જાહેરમાં સંબોધશે.
“આ પ્રક્ષેપણ વિશેની સૌથી મોટી બાબત આને સતત અને વિસ્તૃત ધોરણે કરવાની પ્રતિબદ્ધતા છે,” તેમણે કહ્યું.
એમેઝોને તેના સર્વિસ કાર્ડ્સની શરૂઆત તરીકે સંવેદનશીલ વસ્તી વિષયક મુદ્દાઓને સ્પર્શતા સોફ્ટવેરને પસંદ કર્યું, જે સમય જતાં વિગતમાં વૃદ્ધિની અપેક્ષા રાખે છે.
સ્કિન ટોન
આવી જ એક સેવાને “ઓળખાણ” કહેવામાં આવે છે. 2019 માં, એમેઝોને એક અભ્યાસનો વિરોધ કર્યો હતો જેમાં જણાવ્યું હતું કે ટેક્નોલોજીએ ઘાટા ત્વચા ટોન ધરાવતા વ્યક્તિઓના લિંગને ઓળખવા માટે સંઘર્ષ કર્યો હતો. પરંતુ 2020 માં જ્યોર્જ ફ્લોયડની હત્યા પછી, એક નિઃશસ્ત્ર અશ્વેત વ્યક્તિ, ધરપકડ દરમિયાન, કંપનીએ તેના ચહેરાની ઓળખ સોફ્ટવેરના પોલીસ ઉપયોગ પર પ્રતિબંધ જારી કર્યો.
હવે, એમેઝોન રોઇટર્સ દ્વારા જોવામાં આવેલા સર્વિસ કાર્ડમાં કહે છે કે ઓળખાણ મેચિંગ “ઇમેજને સપોર્ટ કરતું નથી કે જે ખૂબ જ અસ્પષ્ટ અને દાણાદાર હોય છે જે ચહેરાને માનવ દ્વારા ઓળખી શકાય તેમ નથી, અથવા જેમાં ચહેરાના મોટા ભાગ વાળ, હાથ અને હાથ દ્વારા બંધાયેલા હોય છે. અન્ય વસ્તુઓ.” તે કાર્ટૂન અને અન્ય “અમાનવીય સંસ્થાઓ”માં મેળ ખાતા ચહેરા સામે પણ ચેતવણી આપે છે.
રોઇટર્સ દ્વારા જોવામાં આવેલા અન્ય ચેતવણી કાર્ડમાં, ઑડિયો ટ્રાંસ્ક્રિપ્શન પર, એમેઝોન જણાવે છે કે, “ઓડિયો ઇનપુટ્સમાં અસંગત રીતે ફેરફાર કરવાથી વિવિધ વસ્તી વિષયક જૂથો માટે અયોગ્ય પરિણામો આવી શકે છે.” કેર્ન્સે જણાવ્યું હતું કે ઉત્તર અમેરિકામાં પ્રાદેશિક ઉચ્ચારો અને બોલીઓની વિશાળ શ્રેણીનું સચોટ રૂપાંતરણ કરવું એ એક પડકાર હતો જેને સંબોધવા એમેઝોને કામ કર્યું હતું.
બર્કલે ખાતે યુનિવર્સિટી ઓફ કેલિફોર્નિયા ખાતે AI સિક્યુરિટી ઇનિશિયેટિવના ડિરેક્ટર જેસિકા ન્યૂમેને જણાવ્યું હતું કે ટેક્નોલોજી કંપનીઓ જવાબદાર AI પ્રેક્ટિસના સંકેત તરીકે વધુને વધુ આવા ડિસ્ક્લોઝર પ્રકાશિત કરી રહી છે, જોકે તેમની પાસે જવાનો રસ્તો હતો.
“લોકોના જીવન પર પ્રચંડ પ્રભાવ પાડી શકે તેવી સિસ્ટમ્સની મૂળભૂત વિગતો પ્રદાન કરવા માટે આપણે કંપનીઓની સદ્ભાવના પર નિર્ભર ન રહેવું જોઈએ,” તેણીએ વધુ ઉદ્યોગ ધોરણો માટે હાકલ કરતા કહ્યું.
બે મોટા સાહસોમાં પોષણ લેબલ પર કામ કરનાર વ્યક્તિએ જણાવ્યું હતું કે, ટેક જાયન્ટ્સે આવા દસ્તાવેજોને પૂરતા ટૂંકા બનાવવા માટે કુસ્તી કરી છે કે લોકો તેમને વારંવાર સોફ્ટવેર ફેરફારોને પ્રતિબિંબિત કરવા માટે પૂરતા પ્રમાણમાં વિગતવાર અને અદ્યતન વાંચશે.
(હેડલાઇન સિવાય, આ વાર્તા NDTV સ્ટાફ દ્વારા સંપાદિત કરવામાં આવી નથી અને તે સિન્ડિકેટ ફીડમાંથી પ્રકાશિત કરવામાં આવી છે.)
દિવસનો વૈશિષ્ટિકૃત વિડિઓ
મલાઈકા-અમૃતા અરોરા, શિબાની-અનુષા દાંડેકરનું ગેટ-ટુગેધર