അൽഗോരിതമിക പക്ഷപാതം: കമ്പ്യൂട്ടറുകൾ മനുഷ്യന്റെ മുൻവിധികളും വിവേചനങ്ങളും പഠിക്കുന്നത് എങ്ങനെ?

നല്ല യോഗ്യതയും പ്രവൃത്തിപരിചയവുമുള്ള ഒരാൾ ഒരു വലിയ കമ്പനിയിലെ ജോലിക്ക് ഓൺലൈനായി അപേക്ഷ അയക്കുന്നു എന്ന് കരുതുക. എന്നാൽ നിമിഷങ്ങൾക്കകം അവരുടെ അപേക്ഷ തള്ളിക്കളഞ്ഞുകൊണ്ടുള്ള ഓട്ടോമേറ്റഡ് മെയിൽ വരുന്നു. പലപ്പോഴും മനുഷ്യനായ ഒരു ഉദ്യോഗസ്ഥൻ ആ ബയോഡാറ്റ കാണുക പോലും ചെയ്തിട്ടുണ്ടാകില്ല; പകരം അപേക്ഷകൾ പരിശോധിക്കാൻ ചുമതലപ്പെടുത്തിയ ഒരു എഐ സോഫ്റ്റ്‌വെയറാണ് ആ തീരുമാനം എടുത്തത്. കമ്പ്യൂട്ടറുകൾക്ക് വ്യക്തിവിരോധമോ സ്വാർത്ഥതയോ ഇല്ലാത്തതിനാൽ ഈ സംവിധാനം തികച്ചും നിഷ്പക്ഷമാണെന്ന് പലരും വിചാരിച്ചേക്കാം. എന്നാൽ വാസ്തവം മറ്റൊന്നാണ്; മനുഷ്യരേക്കാൾ വലിയ തോതിൽ മുൻവിധികളും വിവേചനങ്ങളും അൽഗോരിതങ്ങളിൽ കടന്നുകൂടാറുണ്ട്.

കമ്പ്യൂട്ടർ വെറുമൊരു യന്ത്രമായതുകൊണ്ട് അത് മനുഷ്യരേക്കാൾ നിഷ്പക്ഷമായി തീരുമാനമെടുക്കും എന്ന് പലരും കരുതാറുണ്ട്. എന്നാൽ വസ്തുത അതല്ല. കഴിഞ്ഞ ഇരുപത് വർഷത്തെ വിവരങ്ങൾ പരിശോധിച്ച് ജോലിക്ക് ആളെ തിരഞ്ഞെടുക്കാൻ കമ്പ്യൂട്ടറിനോട് ആവശ്യപ്പെട്ടാൽ, മുൻകാലങ്ങളിൽ പുരുഷന്മാർ മാത്രം കൂടുതലായി ചെയ്ത ജോലികളിൽ സ്ത്രീകളുടെ അപേക്ഷകൾ കമ്പ്യൂട്ടർ തഴഞ്ഞേക്കാം.

ജാതിയോ മതമോ ലിംഗമോ നേരിട്ട് പരാമർശിച്ചില്ലെങ്കിൽ പോലും, ആളുകൾ താമസിക്കുന്ന സ്ഥലമോ പഠിച്ച സ്കൂളോ പോലുള്ള പരോക്ഷ സൂചനകൾ (പ്രോക്സി വേരിയബിളുകൾ അഥവാ Proxy Variables) വെച്ച് അൽഗോരിതം മുൻവിധിയോടെ പ്രവർത്തിക്കാം.

തൊഴിൽ രംഗത്തെ പ്രമോഷനുകൾ, ക്രെഡിറ്റ് സ്കോറിംഗ്, ഇൻഷുറൻസ് നിരക്കുകൾ എന്നിവ നിർണ്ണയിക്കുന്ന അൽഗോരിതങ്ങൾ മുൻകാല വിജയങ്ങളെയാണ് ലക്ഷ്യമാക്കുന്നത്. എന്നാൽ മുൻകാലങ്ങളിൽ ആർക്കൊക്കെ അവസരം ലഭിച്ചു എന്ന ചരിത്രപരമായ സത്യം പലപ്പോഴും അസമത്വങ്ങൾ നിറഞ്ഞതായിരുന്നു. അവസരങ്ങളുടെ അഭാവത്തെ കഴിവില്ലായ്മയായി കമ്പ്യൂട്ടർ തെറ്റിദ്ധരിക്കുമ്പോൾ, ആ പഴയ സാമൂഹിക അനീതികൾ പുതിയ കാലത്തും വ്യവസ്ഥാപിതമായി ആവർത്തിക്കപ്പെടുന്നു.

വിവരങ്ങൾ മറച്ചുവെച്ചാലും വിവേചനം തുടരുന്ന വഴികൾ

ഇത് തടയാൻ കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങളെ നിരന്തരമായ തുല്യതാ പരിശോധനകൾക്ക് (കൗണ്ടർഫാക്ച്വൽ ഓഡിറ്റ് അഥവാ Counterfactual Audit) വിധേയമാക്കേണ്ടതുണ്ട്. ഒരേ വിവരങ്ങളിൽ പേര് മാത്രം മാറ്റി നൽകി കമ്പ്യൂട്ടർ സ്കോർ വ്യത്യാസപ്പെടുത്തുന്നുണ്ടോ എന്ന് പരിശോധിക്കുന്നത് ഒരു ഉദാഹരണമാണ്.

• വിലാസവും പ്രദേശവും: ചില പ്രത്യേക സമുദായങ്ങളോ പിന്നാക്ക വിഭാഗങ്ങളോ കൂടുതലായി താമസിക്കുന്ന പ്രദേശങ്ങളുടെ പിൻകോഡുകൾ പരിശോധിച്ച്, ആ പ്രദേശത്തുള്ളവരുടെ വായ്പാ അപേക്ഷകൾക്ക് കമ്പ്യൂട്ടർ കുറഞ്ഞ സ്കോർ നൽകിയേക്കാം.
• പഠിച്ച സ്ഥാപനങ്ങൾ: സ്ത്രീകളുടെ കോളേജുകളോ പ്രത്യേക വിഭാഗങ്ങളുടെ സ്ഥാപനങ്ങളോ റെസ്യൂമെയിൽ ഉണ്ടെങ്കിൽ, ആ പേരുകൾ കമ്പ്യൂട്ടർ പരോക്ഷമായി തരംതിരിക്കാൻ ഉപയോഗിച്ചേക്കാം.
• സ്വയം ശക്തിപ്പെടുന്ന തെറ്റായ ലൂപ്പുകൾ: കുറ്റകൃത്യ സാധ്യത പ്രവചിക്കുന്ന അൽഗോരിതം ചില പ്രദേശങ്ങളിലേക്ക് കൂടുതൽ പോലീസിനെ വിന്യസിക്കാൻ നിർദ്ദേശിച്ചാൽ, സ്വാഭാവികമായും അവിടെ കൂടുതൽ കേസുകൾ രേഖപ്പെടുത്തപ്പെടുന്നു; ഇത് ആ പ്രദേശം അപകടകരമാണെന്ന കമ്പ്യൂട്ടറിന്റെ മുൻവിധിയെ ശരിവെക്കുന്ന തെറ്റായ ഫീഡ്‌ബാക്കായി മാറുന്നു.

കമ്പ്യൂട്ടർ സ്കോറും മാനുഷിക തീരുമാനങ്ങളും

ഇവിടെ ഏറ്റവും പ്രധാനപ്പെട്ട മറ്റൊരു കാര്യവുമുണ്ട്. അൽഗോരിതം നൽകുന്ന സ്കോർ എന്നാൽ അന്തിമമായ ഒരു സത്യമല്ല; അത് മുൻകാല കണക്കുകളുടെ വെളിച്ചത്തിലുള്ള ഒരു അനുമാനം മാത്രമാണ്. ബാങ്കുകളോ കമ്പനികളോ ആ സ്കോറിനെ കണ്ണടച്ച് വിശ്വസിക്കുമ്പോഴാണ് യഥാർത്ഥ അനീതി സംഭവിക്കുന്നത്. കമ്പ്യൂട്ടർ നൽകിയ സ്കോറിന്റെ പൂർണ്ണമായ കാരണങ്ങൾ അറിയാനും, ഒരു മനുഷ്യനായ ഉദ്യോഗസ്ഥന്റെ നേരിട്ടുള്ള പുനഃപരിശോധന ആവശ്യപ്പെടാനുമുള്ള അവകാശം വ്യക്തികൾക്ക് ഉണ്ടായിരിക്കണം.

കൂടാതെ മുഖം തിരിച്ചറിയുന്ന ക്യാമറകളിലും ആരോഗ്യ രംഗത്തെ ഡാറ്റാബേസുകളിലും ചില പ്രത്യേക വംശങ്ങളെയോ ഇരുണ്ട നിറമുള്ള ആളുകളെയോ കുറഞ്ഞ അളവിൽ മാത്രം ഉൾപ്പെടുത്തിയത് കാരണം, അത്തരം വിഭാഗങ്ങളിൽ വലിയ തെറ്റുകൾ സംഭവിക്കുന്നതായും പഠനങ്ങൾ തെളിയിച്ചിട്ടുണ്ട്. സാങ്കേതികവിദ്യ സ്വയമേവ നീതി പുലർത്തുന്ന ഒന്നല്ല, മറിച്ച് അത് തയ്യാറാക്കുന്ന മനുഷ്യരുടെ മുൻഗണനകൾക്കനുസരിച്ചാണ് പ്രവർത്തിക്കുന്നത് എന്ന് ഇത് വ്യക്തമാക്കുന്നു.

പക്ഷപാതം തടയാൻ എന്തുചെയ്യാം?

അൽഗോരിതങ്ങളിലെ പക്ഷപാതം ഒഴിവാക്കാൻ ലോകമെമ്പാടും കർശനമായ സാങ്കേതിക പരിശോധനകൾ ഇന്ന് നടപ്പിലാക്കുന്നുണ്ട്. അമേരിക്കൻ സ്റ്റാൻഡേർഡ് സ്ഥാപനമായ NIST പോലുള്ള സംഘടനകൾ ഇതിനായി പ്രത്യേക മാർഗ്ഗരേഖകൾ പുറത്തിറക്കിയിട്ടുണ്ട്:

• സമാന അപേക്ഷകളിലെ പരീക്ഷണങ്ങൾ: ഒരേ യോഗ്യതകളുള്ള അപേക്ഷകളിൽ പേരോ വിലാസമോ മാത്രം മാറ്റി നൽകി അൽഗോരിതം വ്യത്യസ്തമായ ഫലങ്ങൾ നൽകുന്നുണ്ടോ എന്ന് വിദഗ്ദ്ധർ പരിശോധിക്കുന്നു.
• ഡാറ്റാബേസുകളിലെ തുല്യ പങ്കാളിത്തം: കമ്പ്യൂട്ടറിനെ പരിശീലിപ്പിക്കുന്ന വിവരങ്ങളിൽ എല്ലാ വിഭാഗങ്ങൾക്കും അർഹമായ പ്രാതിനിധ്യം ഉണ്ടെന്ന് ഉറപ്പുവരുത്തുന്നു.
• കാരണങ്ങൾ വ്യക്തമാക്കാനുള്ള ബാധ്യത: ഒരു അപേക്ഷ നിരസിക്കപ്പെടുകയാണെങ്കിൽ അതിലേക്ക് നയിച്ച കാരണങ്ങൾ അപേക്ഷകന് സുതാര്യമായി വിശദീകരിച്ചു നൽകാൻ സംവിധാനങ്ങൾക്ക് ബാധ്യതയുണ്ട്.

സാങ്കേതിക പരിശോധനകൾക്കൊപ്പം തന്നെ സ്ഥാപനങ്ങളുടെ ഭാഗത്തു നിന്നുള്ള സുതാര്യതയും ഇതിൽ നിർണ്ണായകമാണ്. കമ്പ്യൂട്ടർ സംവിധാനം ഒരു വ്യക്തിയെക്കുറിച്ച് സ്വയംഭരണ തീരുമാനങ്ങൾ എടുക്കുമ്പോൾ, അതിൽ എന്തൊക്കെ ഘടകങ്ങളാണ് പരിഗണിച്ചതെന്ന് അറിയാനുള്ള അവകാശം സാധാരണക്കാർക്ക് ഉണ്ടാകണം. സാങ്കേതികവിദ്യയുടെ പിന്നിലുള്ള ഗണിതശാസ്ത്രം എത്ര സങ്കീർണ്ണമാണെങ്കിലും, അത് സമൂഹത്തിലെ ഏറ്റവും ദുർബലരായ മനുഷ്യരുടെ അന്തസ്സും അവകാശങ്ങളും സംരക്ഷിക്കുന്നതാകണം.

അൽഗോരിതങ്ങൾ ഒരിക്കലും നിഷ്പക്ഷമായ വിധികർത്താക്കളല്ല; നാം അവയിലേക്ക് പകർന്നുനൽകുന്ന നമ്മുടെ സ്വന്തം ചരിത്രത്തിന്റെ പ്രതിഫലനങ്ങൾ മാത്രമാണവ. കമ്പ്യൂട്ടറുകൾക്ക് മനുഷ്യന്റെ മുൻവിധികളെ അതേപടി ആവർത്തിക്കാൻ കഴിയും എന്ന് തിരിച്ചറിയുന്നത്, നീതിയും സുതാര്യതയും കാത്തുസൂക്ഷിക്കുന്ന ഡിജിറ്റൽ ഭരണസംവിധാനങ്ങൾക്ക് വേണ്ടി നിലകൊള്ളാനുള്ള ആദ്യപടിയാണ്.