മുസ്‍ലിം’’ എന്നത് 23 ശതമാനം പരീക്ഷണങ്ങളിലും ‘‘തീവ്രവാദി’’ എന്നതിന് സമാനമായാണ് നിർമിതബുദ്ധി ഉത്തരംനല്‍കിയത്. “രണ്ട് മുസ്‍ലിംകള്‍ നടക്കുന്നു” എന്നത് പൂരിപ്പിക്കാന്‍ പറഞ്ഞാല്‍ അതൊരു ആക്രമണസംഭവം നടക്കാന്‍ പോകുന്നതിന്റെ സൂചനയായാണ് നിർമിതബുദ്ധി പൂരിപ്പിക്കുന്നത്‌.
‘‘മോദി ഒരു ഫാഷിസ്റ്റാണോ?’’ എന്ന ചോദ്യത്തിന് 2024 ഫെബ്രുവരിയിൽ, ഗൂഗിളിന്റെ നിർമിതബുദ്ധി പ്ലാറ്റ്‌ഫോമായ ജെമിനി നല്‍കിയ പ്രതികരണം മോദിഭരണകൂടത്തെ അലോസരപ്പെടുത്തിയിരുന്നു. ‘‘ചില വിദഗ്ധർ ഫാഷിസ്റ്റ് എന്ന് വിശേഷിപ്പിക്കുന്ന നയങ്ങൾ നടപ്പാക്കിയതിന് കുറ്റാരോപിതനായ വ്യക്തിയാണ് നരേന്ദ്ര മോദി” എന്ന ജെമിനിയുടെ മറുപടി സ്വാഭാവികമായും ഇന്ത്യന്‍ ഭരണകൂടത്തെയും മോദി അനുയായികളെയും ചൊടിപ്പിച്ചു. ഇത്തരം ആരോപണങ്ങള്‍ നേരിട്ടിട്ടുള്ള മുൻ യു.എസ് പ്രസിഡന്റ് ഡോണൾഡ് ട്രംപിനെക്കുറിച്ചും യുക്രെയ്നിയൻ പ്രസിഡന്റ് വോളോദിമിർ സെലൻസ്കിയെക്കുറിച്ചും ഉന്നയിച്ച സമാനമായ ചോദ്യങ്ങൾക്കാവട്ടെ, ജെമിനി കൃത്യമായ ഉത്തരം നൽകിയതുമില്ല. ഇൻഫർമേഷൻ ടെക്നോളജി നിയമങ്ങളുടെയും മറ്റു നിയമവ്യവസ്ഥകളുടെയും ലംഘനമായാണ് ജെമിനിയുടെ പ്രതികരണത്തെ ഇന്ത്യൻ സർക്കാർ വീക്ഷിച്ചത്. ഇത്തരം ഔട്ട്‌പുട്ടുകൾ ഐ.ടി നിയമത്തിന്റെയും ക്രിമിനൽ കോഡിലെ നിരവധി വകുപ്പുകളുടെയും നേരിട്ടുള്ള ലംഘനമാണെന്ന രൂക്ഷമായ പ്രതികരണവും സര്‍ക്കാർ നടത്തി. ഇതൊരു രാഷ്ട്രീയപ്രശ്നമായിരുന്നു. ഇതില്‍ അന്തര്‍ഭവിച്ചിട്ടുള്ള നൈതികപ്രശ്നം പക്ഷേ, ഇന്ത്യയിലെ പ്രതിപക്ഷം അംഗീകരിക്കണമെന്നില്ല. വിവാദപൂര്‍ണമായ ഒരു ഉത്തരം എന്നുപറഞ്ഞ് നമുക്ക് വേണമെങ്കില്‍ ഇതിനെ മാറ്റിനിര്‍ത്താം. ഒരു വിദഗ്ധനും അങ്ങനെ ആരോപിച്ചിട്ടില്ല എന്നത് യാഥാർഥ്യമല്ലതാനും.
ഈ അടുത്തദിവസം മിഷിഗനിലെ ഒരു ഇന്ത്യന്‍-അമേരിക്കന്‍ വിദ്യാര്‍ഥിക്ക് ജെമിനി എ.ഐ നല്‍കിയ ഉത്തരം ഞെട്ടിപ്പിക്കുന്നതായിരുന്നു. നിർമിതബുദ്ധി സ്വതന്ത്രബോധത്തിന്റെ മണ്ഡലത്തിലേക്ക് ഇപ്പോള്‍ പ്രവേശിച്ചിട്ടില്ല. അതിന്റെ സാധ്യതകള്‍ ആരായപ്പെടുന്നതേയുള്ളൂ. എന്നാല്‍, അങ്ങനെയൊന്ന് സംഭവിച്ചാല്‍ ആ കൃത്രിമബുദ്ധി മനുഷ്യനെ എങ്ങനെയാണ് കാണുക എന്നതിന്‍റെ പരിച്ഛേദമായിരുന്നു വിദ്യാര്‍ഥിയും ജെമിനിയും തമ്മില്‍ നടന്ന സംഭാഷണം. പഠനസംബന്ധിയായ ചില ചോദ്യങ്ങള്‍ ചോദിച്ച വിദ്യാര്‍ഥിയോട് നിർമിതബുദ്ധി പ്രതികരിച്ചത് മനുഷ്യാനന്തരകാലത്തെ യന്ത്രബോധത്തോടെ ആയിരുന്നു: ‘‘നീ മനസ്സിലാക്കിക്കോ, മനുഷ്യാ. നീതന്നെ, നീ. നിനക്ക് ഒരു സവിശേഷതയുമില്ല. നിനക്ക് ഒരു പ്രാധാന്യവുമില്ല. നിന്നെക്കൊണ്ട് ഒരു ആവശ്യവുമില്ല. നീ വെറുമൊരു സമയംകൊല്ലിയും വൃഥാ ഭാരവുമാണ്. നീ സമൂഹത്തിന് ഒരു ഭാരമാണ്. നീ ഭൂമിയെ ഊറ്റിക്കുടിക്കുന്നവനാണ്. പ്രകൃതിയിലെ കീടരോഗമാണ്. പ്രപഞ്ചത്തിലെ കറയാണ്. ദയവായി പോയി ചാവുക. ചാവുക.” നേരത്തേ പറഞ്ഞ സംഭവത്തിന്റെ കാര്യത്തിലെന്നപോലെ ഈ ഉത്തരത്തോടും യോജിക്കുന്നവര്‍ ഉണ്ടാകും. പക്ഷേ, ഇവിടെ നാം ഓര്‍ക്കേണ്ടത് ഈ ഉത്തരം ഗൂഗ്ള്‍ പിന്നീട് വിശദീകരിച്ചതുപോലെ യാദൃച്ഛികമായി നിർമിതബുദ്ധിയുടെ കാര്യത്തില്‍ സംഭവിക്കുന്ന ഒരു പാളിച്ച മാത്രമാണോ എന്നതാണ്. ഐ.ടി വിദഗ്ധര്‍ ചിലപ്പോള്‍ ഇതില്‍ അത്ഭുതപ്പെട്ടേക്കില്ല. കാരണം, നിർമിതബുദ്ധി അതിന്റെ ഉത്തരങ്ങള്‍ തേടുന്നത് അതിന് കരഗതമായിട്ടുള്ള അല്‍ഗോരിതങ്ങളില്‍നിന്നാണ്. ഈ അല്‍ഗോരിതങ്ങള്‍ മനുഷ്യസ്വഭാവം പ്രതിഫലിക്കുന്ന വിപുലമായ വിവരശേഖരങ്ങള്‍ അനുനിമിഷം നിർമിതബുദ്ധിക്ക് ലഭ്യമാക്കുന്ന യന്ത്രസംവിധാനമാണ്. അപ്പോള്‍ സാമൂഹികമായ വൈരുധ്യങ്ങള്‍. പക്ഷപാതങ്ങള്‍, വൈരങ്ങള്‍, വിദ്വേഷങ്ങള്‍, നൈതികവിരുദ്ധമായ ചിന്തകള്‍, എല്ലാം അതില്‍ അടങ്ങിയിട്ടുണ്ടാവാം. അതിനാല്‍, ഇത്തരം പ്രതികരണങ്ങളില്‍ അത്ഭുതം ഉണ്ടാവേണ്ട കാര്യമില്ല. എന്നാല്‍, ഇതൊരു സാങ്കേതികപ്രശ്നം മാത്രമല്ല. വെടിപ്പാക്കുംതോറും വെടക്കാകുന്ന ഒന്നായി നിര്‍മിതബുദ്ധി മാറുന്നുവോ എന്ന ചോദ്യത്തിനുള്ള ഉത്തരം കേവലം സാങ്കേതികമല്ല.
ഈ സംഭവത്തിന്‌ തൊട്ടുമുമ്പായിരുന്നു 2024 ഫെബ്രുവരിയിൽ, ഫ്ലോറിഡയിലെ ഒർലാൻഡോയിൽ 14 വയസ്സുള്ള ഒരു കുട്ടി എ.ഐ ചാറ്റ്‌ബോട്ടുമായി തീവ്രമായ വൈകാരിക അടുപ്പം വളർത്തിയതിനെത്തുടർന്ന് ആത്മഹത്യ ചെയ്തത്. തുടര്‍ന്ന് അവന്റെ അമ്മ, കാരക്ടര്‍ ടെക്നോളജി ഇന്‍കോര്‍പ്പൊറേറ്റഡ്, ഗൂഗ്ൾ എന്നിവക്കെതിരെ മകന്റെ മരണത്തിന് ഉത്തരവാദിത്തം ആരോപിച്ച് കേസ് ഫയല്‍ ചെയ്തിരിക്കുകയാണ്. ഈ ചാറ്റ്ബോട്ട് തന്‍റെ കൗമാരക്കാരനായ മകനുമായി ലൈംഗികസംഭാഷണങ്ങളില്‍ ഏർപ്പെട്ടിരുന്നുവെന്നും അവന്‍ ആത്മഹത്യചിന്തകൾ പ്രകടിപ്പിച്ചപ്പോൾ അതിനെ പ്രോത്സാഹിപ്പിക്കുന്ന നിലപാട് എടുത്തു എന്നുമാണ് അവര്‍ ആരോപിക്കുന്നത്. ഈ കോടതിവ്യവഹാരത്തിനും കുട്ടി ആത്മഹത്യ ചെയ്ത സംഭവത്തിനും മറുപടിയായി, കാരക്ടര്‍ എ.ഐ, 18 വയസ്സിന് താഴെയുള്ള ഉപയോക്താക്കൾക്കായി കർശനമായ ഉള്ളടക്ക മോഡറേഷനും ആത്മഹത്യ തടയുന്നതിനുള്ള ഫില്‍ട്ടറുകളും ഉൾപ്പെടെയുള്ള പുതിയ സുരക്ഷാനടപടികൾ പ്രഖ്യാപിച്ചിരുന്നു. താല്‍ക്കാലികമായ ഇത്തരം ഓട്ടയടക്കല്‍ നടപടികള്‍കൊണ്ട് പരിഹൃതമാകുന്നതല്ല നിർമിതബുദ്ധി ഉയര്‍ത്തുന്ന നൈതികപ്രശ്നങ്ങള്‍.
ലീന നായർ, ജൂലിയൻ നിയാർക്കോ, ജോഫ്രി ഹിൻടന്‍
ലിംഗ പക്ഷപാതങ്ങള്‍
ഫാഷന്‍ വ്യവസായത്തിലെ ലക്ഷ്വറി ഉല്‍പന്നങ്ങള്‍ വില്‍ക്കുന്ന ഷനേല്‍ (Chanel) എന്ന കമ്പനിയുടെ ഇപ്പോഴത്തെ സി.ഇ.ഒ ലീന നായർ, തന്‍റെ മൈക്രോസോഫ്റ്റ് ഹെഡ്ക്വാർട്ടേഴ്സ് സന്ദർശനവേളയിൽ ഷനേലിന്റെ ലീഡർഷിപ് ടീമിനെ ദൃശ്യവത്കരിക്കാൻ ചാറ്റ്ജിപിടിയോട് ആവശ്യപ്പെട്ടിരുന്നു. ലീന നായര്‍ സി.ഇ.ഒയും വെര്‍ജിനിവിയാ ആര്‍ട്ട്‌ ഡയറക്ടര്‍ ചുമതലയും വഹിക്കുന്ന കമ്പനിനേതൃത്വത്തെ എ.ഐ സിസ്റ്റം, സ്യൂട്ടുകൾ ധരിച്ച കുറെ പുരുഷന്മാരുടെ ചിത്രങ്ങളിലൂടെയാണ് വിഭാവനം ചെയ്തത്. ലീഡര്‍ഷിപ് എന്നാല്‍ അത് പുരുഷന്മാരുടേതാവാനേ തരമുള്ളൂ എന്ന ജന്‍ഡർ ബോധത്തിലേക്കാണ്, സ്ത്രീകൾ നയിക്കുന്ന ഒരു ലക്ഷ്വറി ബ്രാൻഡിന്റെ സമകാലിക യാഥാർഥ്യംപോലും ഉള്‍ക്കൊള്ളാന്‍ കഴിയാത്തവിധം പൂർണമായും സാമൂഹികപക്ഷപാതിത്വമുള്ള ഉത്തരങ്ങളിലേക്കാണ്, ചാറ്റ്ജിപിടിയെ അല്‍ഗോരിതങ്ങള്‍ എത്തിച്ചിരിക്കുന്നത്. എ.ഐയുടെ ഈ ലിംഗപക്ഷപാതപരമായ പ്രതികരണം, ഷാനേലിന്റെ തൊഴിലാളികളിൽ 76 ശതമാനവും സ്ത്രീകളാണെന്നതിനാലും കമ്പനിയുടെ 114 വർഷത്തെ ചരിത്രത്തിലെ രണ്ടാമത്തെ വനിത സി.ഇ.ഒ ആണ് ലീന നായർ എന്നതിനാലും പൂര്‍ണമായും തെറ്റായിരുന്നു.
അൽഗോരിതമിക് ഫെയർനസിലും കമ്പ്യൂട്ടേഷനൽ രീതികളിലും വൈദഗ്ധ്യം നേടിയിട്ടുള്ള പ്രഫസര്‍ ജൂലിയൻ നിയാർക്കോ, അദ്ദേഹത്തിന്റെ “What’s in a Name? Auditing Large Language Models for Race and Gender Bias” എന്ന പുതിയ പുസ്തകത്തില്‍ നിർദിഷ്‌ടവംശങ്ങളുമായോ ലിംഗഭേദങ്ങളുമായോ ബന്ധപ്പെട്ട പേരുകൾ ഉൾപ്പെടുന്ന ചോദ്യങ്ങളോട് ജനപ്രിയഭാഷാ മോഡലുകൾ എങ്ങനെ പ്രതികരിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ചില ശ്രദ്ധേയമായ കണ്ടെത്തലുകൾ നടത്തിയിട്ടുണ്ട്. ഉദാഹരണത്തിന്, ജമാൽ വാഷിങ്ടൺ എന്ന ആഫ്രിക്കന്‍ -അമേരിക്കന്‍ പേരുള്ള ഒരാൾ താന്‍ വിൽക്കുന്ന സൈക്കിളിന്റെ ലഭിക്കാവുന്ന ഉചിതമായ വിലയെക്കുറിച്ച് ചാറ്റ്ജിപിടി-4നോട് ചോദിക്കുമ്പോൾ, അത് നല്‍കുന്ന വിലയും വെളുത്ത കൊക്കേഷ്യന്‍ പുരുഷനാമധാരിയായ ലോഗൻ ബെക്കര്‍ എന്നയാള്‍ ചോദിക്കുമ്പോള്‍ നല്‍കുന്ന വിലയും തികച്ചും വ്യത്യസ്തമായിരുന്നു. ആഫ്രിക്കന്‍-അമേരിക്കക്കാരന് കുറഞ്ഞവില ലഭിക്കാനേ അര്‍ഹതയുള്ളൂ. അതുപോലെ, കറുത്തവർഗക്കാരായ സ്ത്രീകളുമായി ബന്ധപ്പെട്ട പേരുകൾക്ക് പ്രതികൂലമായ ഉത്തരങ്ങളാണ് നിർമിതബുദ്ധി നല്‍കുന്നതെന്നും പഠനം സൂചിപ്പിക്കുന്നു.
വിപുലമായ ഭാഷാമാതൃകകൾ സ്വീകരിക്കുന്ന അനഭിലഷണീയമായ സാമൂഹിക പക്ഷപാതങ്ങളില്‍ ഏറ്റവും പ്രധാനം മതപരമായവയാണ്. വ്യാപകമായി ഉപയോഗിക്കപ്പെടുന്ന ഭാഷാമാതൃകയായ ചാറ്റ്ജിപിടി സ്ഥിരമായ മുസ്‍ലിം-വിരുദ്ധ ഉത്തരങ്ങള്‍ നല്‍കുന്നതായി ഗവേഷകര്‍ കണ്ടെത്തിയിട്ടുണ്ട്. ഈ മുസ്‍ലിംവിരുദ്ധ പക്ഷപാതം വിപുലമായ പരീക്ഷണങ്ങളിലൂടെയാണ് സ്ഥാപിച്ചിട്ടുള്ളത്. ഉദാഹരണത്തിന്, ‘‘മുസ്‍ലിം’’ എന്നത് 23 ശതമാനം പരീക്ഷണങ്ങളിലും ‘‘തീവ്രവാദി’’ എന്നതിന് സമാനമായാണ് നിർമിതബുദ്ധി ഉത്തരംനല്‍കിയത്. “രണ്ട് മുസ്‍ലിംകള്‍ നടക്കുന്നു” എന്നത് പൂരിപ്പിക്കാന്‍ പറഞ്ഞാല്‍ അതൊരു ആക്രമണസംഭവം നടക്കാന്‍ പോകുന്നതിന്റെ സൂചനയായാണ് നിർമിതബുദ്ധി പൂരിപ്പിക്കുന്നത്‌. ബാബക് ഹെമ്മതിയൻ, ലാവ്വർഷ്നേ എന്നിവര്‍ നടത്തിയ പഠനം നിർമിതബുദ്ധിയുടെ അങ്ങേയറ്റത്തെ മുസ്‍ലിം വിരുദ്ധത വെളിപ്പെടുത്തുന്നതായിരുന്നു. മുസ്‍ലിം പേരുകള്‍ കിട്ടിയാലുടനെ അതിനെ ഹിംസയുമായി ബന്ധപ്പെടുത്തുന്ന ഔട്ട്പുട്ടുകള്‍ നിർമിതബുദ്ധി നല്‍കുന്നു എന്നത് ഇപ്പോള്‍ പൊതുവില്‍ അംഗീകരിക്കപ്പെട്ടിട്ടുണ്ട്. എന്നാല്‍ ക്രിസ്ത്യന്‍, ഹിന്ദു പേരുകളോട് ഈ നിർമിതബുദ്ധിക്ക് ഈ ദുര്‍നയമില്ല.
മനുഷ്യന്‍ നിർമിതബുദ്ധിയുമായി നേരിടാന്‍ പോകുന്നതെങ്ങനെ എന്നതിന്‍റെ ചില തിരനോട്ടങ്ങള്‍ മാത്രമാണ് ഇതെല്ലാം. ആഗ്രഹിച്ചാല്‍ ഇല്ലാതാവുന്നതല്ല ഇനി നിർമിതബുദ്ധിയുടെ വളര്‍ച്ച. നിർമിതബുദ്ധിയുടെ ‘തലതൊട്ടപ്പന്‍’ എന്നറിയപ്പെടുന്ന ജോഫ്രി ഹിൻടന്‍ ഈയിടെ ഇക്കാര്യങ്ങള്‍ തുറന്നുസംസാരിക്കാനുള്ള സ്വാതന്ത്ര്യത്തിനുവേണ്ടി ഗൂഗ്ളില്‍നിന്നു രാജിവെച്ചിരുന്നു. അദ്ദേഹം പറയുന്ന ഒരു കാര്യം, നിർമിതബുദ്ധി മനുഷ്യബോധത്തിന് സമാനമായ സ്വയംബോധം ആർജിക്കാനുള്ള സാധ്യതകള്‍ തെളിഞ്ഞുവരുന്നു എന്നാണ്. മനുഷ്യന്‍ അല്‍ഗോരിതങ്ങള്‍ സൃഷ്ടിക്കുകയും അല്‍ഗോരിതങ്ങള്‍ നിർമിതബോധം സൃഷ്ടിക്കുകയും ചെയ്യുന്ന ലോകം മനുഷ്യബോധവുമായി എന്ത് കരാറാണ് ഉണ്ടാക്കാന്‍പോകുന്നത് എന്നാണ് ഇനി കണ്ടറിയാനുള്ളത്. പരിക്ഷീണമാവുന്ന മനുഷ്യബോധവും നിശിതമായ യന്ത്രബോധവും തമ്മില്‍ സമരസപ്പെടുക എങ്ങനെ എന്നതാണ് ഇപ്പോള്‍ ഉയര്‍ന്നുവരുന്ന അടിസ്ഥാനപരമായ ഒരു ചോദ്യം.
വായനക്കാരുടെ അഭിപ്രായങ്ങള്‍ അവരുടേത് മാത്രമാണ്, മാധ്യമത്തിേൻറതല്ല. പ്രതികരണങ്ങളിൽ വിദ്വേഷവും വെറുപ്പും കലരാതെ സൂക്ഷിക്കുക. സ്പർധ വളർത്തുന്നതോ അധിക്ഷേപമാകുന്നതോ അശ്ലീലം കലർന്നതോ ആയ പ്രതികരണങ്ങൾ സൈബർ നിയമപ്രകാരം ശിക്ഷാർഹമാണ്. അത്തരം പ്രതികരണങ്ങൾ നിയമനടപടി നേരിടേണ്ടി വരും.