വായിക്കാൻ 3 മിനിറ്റ്

എഐ ആശ്രയത്വം: ചാറ്റ്‌ബോട്ടുകൾ ഇല്ലാതെ സ്വന്തമായി തീരുമാനങ്ങൾ എടുക്കാൻ കഴിയാതെ വരുമ്പോൾ

പ്രസിദ്ധീകരിച്ചത് പുതുക്കിയത്

30 സെക്കൻഡിൽ സാരം

സൗകര്യത്തിനപ്പുറം സ്വന്തം യുക്തിചിന്തയ്ക്കും തീരുമാനങ്ങൾക്കും പകരമായി കൃത്രിമബുദ്ധി സംവിധാനങ്ങളെ നിരന്തരം ആശ്രയിക്കുകയും, അവയുടെ സഹായമില്ലാതെ സ്വതന്ത്ര തീരുമാനങ്ങളെടുക്കാൻ പ്രയാസം നേരിടുകയും ചെയ്യുന്ന അവസ്ഥയാണ് എഐ ആശ്രയത്വം അഥവാ ഓട്ടോമേഷൻ ബയസ്.

ഓഫീസിലോ വ്യക്തിജീവിതത്തിലോ സങ്കീർണ്ണമായ ഒരു സന്ദേശത്തിന് മറുപടി തയ്യാറാക്കുകയാണ് നിങ്ങൾ. എന്തു പറയണമെന്നതിൽ അല്പം ആശയക്കുഴപ്പമുണ്ടാകുന്നു. പെട്ടെന്ന് ഒരു എഐ അസിസ്റ്റന്റ് തുറന്ന് ഈ സാഹചര്യം പൂർണ്ണമായി പകർത്തി ഒട്ടിക്കുന്നു, എന്തു മറുപടി നൽകണമെന്ന് ചോദിക്കുന്നു. നിമിഷങ്ങൾക്കകം വ്യക്തവും ആകർഷകവുമായ ഒരു മറുപടി സ്ക്രീനിൽ തെളിയുന്നു. കാര്യമായ തിരുത്തലുകളൊന്നുമില്ലാതെ നിങ്ങൾ ആ സന്ദേശം അയക്കുന്നു. ആ നിമിഷത്തിൽ അത് വലിയൊരു സൗകര്യമായി തോന്നാമെങ്കിലും, ഓരോ ചെറിയ കാര്യത്തിനും ഈ രീതി ആവർത്തിക്കുമ്പോൾ വ്യക്തിപരമായ തീരുമാനമെടുക്കാനുള്ള ശേഷി പതുക്കെ മങ്ങാൻ തുടങ്ങുന്നു.

സൗകര്യവും ഓട്ടോമേഷൻ ബയസും തമ്മിലുള്ള വ്യത്യാസം

സങ്കീർണ്ണമായ സന്ദർഭങ്ങളിൽ കമ്പ്യൂട്ടർ നൽകുന്ന ഉത്തരങ്ങൾ നിരന്തരം വിശ്വസനീയവും കൃത്യവുമായി തോന്നുമ്പോൾ, മനുഷ്യർ അവയെ സൂക്ഷ്മമായി പരിശോധിക്കുന്നത് കുറയ്ക്കുന്നു എന്ന് മനുഷ്യ-യന്ത്ര ഇടപെടലുകളെക്കുറിച്ച് പഠിക്കുന്ന ഗവേഷകർ ചൂണ്ടിക്കാണിക്കുന്നു. തുടക്കത്തിൽ വലിയ വെല്ലുവിളികൾ പരിഹരിക്കാനാണ് ചാറ്റ്‌ബോട്ടുകളെ തേടുന്നത്. എന്നാൽ ക്രമേണ ലളിതമായ ചോദ്യങ്ങൾക്കും ആളുകൾ എഐയെ ആശ്രയിക്കാൻ തുടങ്ങുന്നു. പിന്നീട് എഐയുടെ സഹായമില്ലാതെ ലളിതമായ കാര്യങ്ങൾ പോലും സ്വന്തമായി ചിന്തിച്ചുതീരുമാനിക്കാൻ അസ്വസ്ഥത അനുഭവപ്പെടുന്നു. സാങ്കേതിക ഉപകരണങ്ങൾ സഹായത്തിനായി തുടങ്ങിയതാണെങ്കിലും, ഒടുവിൽ അവയില്ലാതെ സാധാരണ കാര്യങ്ങൾ പോലും സങ്കീർണ്ണമായി തോന്നുന്ന അവസ്ഥയിലേക്ക് കാര്യങ്ങൾ നീങ്ങുന്നു.

എന്തുകൊണ്ടാണ് ചോദ്യം ചെയ്യുന്നതിനേക്കാൾ അംഗീകരിക്കുന്നത് എളുപ്പമാകുന്നത്?

ഒരു പ്രശ്നത്തെക്കുറിച്ച് ആഴത്തിൽ ചിന്തിക്കാനും സാധ്യതകൾ തുലനം ചെയ്യാനും തലച്ചോറിന് വലിയ ഊർജ്ജവും ഏകാഗ്രതയും ആവശ്യമാണ്. എന്നാൽ എഐ വളരെ ചിട്ടയോടും ഉറച്ച ഭാഷയോടും കൂടിയ ഉത്തരം നൽകുമ്പോൾ, അത് നേരിട്ട് സ്വീകരിക്കാനുള്ള മാനസിക പ്രേരണ സ്വാഭാവികമായും ഉണ്ടാകുന്നു. മനശാസ്ത്രത്തിൽ ഇതിനെ സ്വന്തം ചിന്തയേക്കാൾ യന്ത്രങ്ങളെ അന്ധമായി വിശ്വസിക്കുന്ന പ്രവണത (ഓട്ടോമേഷൻ ബയസ് അഥവാ Automation Bias) എന്ന് വിളിക്കുന്നു. ഇത് വ്യക്തിയുടെ അലസത കൊണ്ടോ ശ്രദ്ധക്കുറവ് കൊണ്ടോ സംഭവിക്കുന്നതല്ല; ആത്മവിശ്വാസമുള്ള സിഗ്നലുകളോട് മനുഷ്യ മനസ്സ് സ്വാഭാവികമായി പ്രതികരിക്കുന്ന ശൈലിയാണത്. ഇൻപുട്ട് ആയി ഒരു ചോദ്യം നൽകുമ്പോൾ, മോഡൽ ഉയർന്ന ഭാഷാശുദ്ധിയോടെ മറുപടി നൽകുന്നു, ഉപയോക്താവ് വിമർശനമില്ലാതെ അത് സ്വീകരിക്കുന്നു.

ക്ലിനിക്കൽ ഡിസിഷൻ സപ്പോർട്ട് ഉപയോഗിക്കുന്ന ഡോക്ടർമാരിലും, നിയമ-സാമ്പത്തിക വിശകലനം നടത്തുന്ന വിദഗ്ധരിലും ഈ സ്വാധീനം വ്യക്തമായി നിരീക്ഷിക്കപ്പെട്ടിട്ടുണ്ട്. നാഷണൽ ഇൻസ്റ്റിറ്റ്യൂട്ട്സ് ഓഫ് ഹെൽത്ത് (NIH PubMed) പ്രസിദ്ധീകരിച്ച ഗവേഷണം വ്യക്തമാക്കുന്നത്, രോഗനിർണ്ണയത്തിന് സഹായിക്കുന്ന എഐ സംവിധാനങ്ങൾ ഉപയോഗിക്കുന്ന വിദഗ്ധർ പലപ്പോഴും തങ്ങളുടെ ദീർഘകാല അനുഭവജ്ഞാനത്തിന് വിരുദ്ധമായ നിർദ്ദേശങ്ങൾ പോലും ചോദ്യം ചെയ്യാതെ അംഗീകരിക്കുന്നു എന്നാണ്. എഐ ഒരു ശരാശരി ഉത്തരം നൽകിയാലും, ആളുകൾ സ്വന്തം തീരുമാനങ്ങൾ മാറ്റിവെക്കുന്നു. കൂടാതെ, തൊഴിൽ അഭിമുഖങ്ങളിലെ എഐ വിലയിരുത്തലുകളെക്കുറിച്ച് എഎഎഐ (AAAI) നടത്തിയ പഠനത്തിൽ, മോഡലുകളിൽ പിഴവുകളുണ്ടാകാമെന്ന് മുൻകൂട്ടി മുന്നറിയിപ്പ് നൽകിയിരുന്നെങ്കിൽ പോലും ആളുകൾ യന്ത്രത്തിന്റെ പക്ഷപാതപരമായ തീരുമാനങ്ങളെ അന്ധമായി അനുകരിച്ചതായി കണ്ടെത്തി. സിസ്റ്റത്തിന് പരിമിതികളുണ്ടെന്ന് അറിയാമെങ്കിലും മനുഷ്യ മനസ്സ് അതിൻ്റെ സ്വാധീനത്തിൽ വീഴുന്നു.

കൃത്രിമബുദ്ധിക്ക് പിഴവ് സംഭവിക്കുമ്പോൾ ഉണ്ടാകുന്ന അപകടങ്ങൾ

എഐ ഭാഷാ മോഡലുകൾ വിവരങ്ങൾ നൽകുന്നത് അവയുടെ കൃത്യത പരിശോധിച്ചല്ല, മറിച്ച് വാക്യങ്ങളുടെ ഘടനയും മുൻഗണനയും അടിസ്ഥാനമാക്കിയാണ്. ഒരു ശാസ്ത്രീയ വസ്തുത വിശദീകരിക്കുമ്പോഴും ഗുരുതരമായ തെറ്റ് പറയുമ്പോഴും ഒരേ ഉറച്ച ശബ്ദത്തിലും വ്യാകരണ കൃത്യതയിലുമാണ് ചാറ്റ്‌ബോട്ടുകൾ സംസാരിക്കുന്നത്. അവയ്ക്ക് ശരിയും തെറ്റും തിരിച്ചറിയാനുള്ള ആന്തരിക ബോധമില്ല. നമ്മൾ സ്വന്തമായി ചിന്തിക്കാനും യുക്തി പരിശോധിക്കാനും മടിക്കുമ്പോഴാണ് ഇത്തരം വഞ്ചനാപരമായ തെറ്റുകൾ ആരും ശ്രദ്ധിക്കാതെ പോകുന്നത്.

നമുക്ക് ഏറ്റവും കുറവ് അറിവുള്ളതും, അതിനാൽ തന്നെ എഐയെ ഏറ്റവും കൂടുതൽ ആശ്രയിക്കുന്നതുമായ മേഖലകളിലാണ് ഈ അപകടസാധ്യത കൂടുതൽ. ആരോഗ്യപരമായ സംശയങ്ങൾ, സാമ്പത്തിക കാര്യങ്ങൾ, വ്യക്തിബന്ധങ്ങളിലെ തർക്കങ്ങൾ എന്നിവയിലെല്ലാം സ്വന്തം ബോധ്യം മാറ്റിനിർത്തി എഐക്ക് കടിഞ്ഞാൺ നൽകുമ്പോൾ, തെറ്റുകൾ തിരിച്ചറിയാനുള്ള മാനസിക നിരീക്ഷണപാടവം പൂർണ്ണമായി നഷ്ടപ്പെടുന്നു. ഈ ആശ്രയത്വം വർദ്ധിക്കുന്തോറും സ്വന്തം ചിന്താശേഷിയിലുള്ള ആത്മവിശ്വാസം ക്രമേണ ഇല്ലാതാവുകയും വ്യക്തിപരമായ സ്വാതന്ത്ര്യം ദുർബലമാവുകയും ചെയ്യുന്നു.

സ്വതന്ത്ര ചിന്താശേഷി നിലനിർത്താനുള്ള പ്രായോഗിക വഴികൾ

  • സ്വന്തം ആശയം ആദ്യം രേഖപ്പെടുത്തുക: എഐ അസിസ്റ്റന്റിനോട് ചോദിക്കുന്നതിന് മുമ്പ്, നിങ്ങളുടെ സ്വന്തം പ്രാഥമിക ചിന്തകളോ ഇമെയിലിന്റെ കരടോ ഒരു കടലാസിലോ സ്ക്രീനിലോ വ്യക്തമായി കുറിച്ചുവെക്കുക. ഇത് മനസ്സിനെ ആദ്യം സ്വയം ചിന്തിക്കാൻ പ്രേരിപ്പിക്കുന്നു.
  • പ്ലാനുകൾ നിർമ്മിക്കുന്നതിന് പകരം അവയിലെ പോരായ്മകൾ കണ്ടെത്താൻ എഐയെ ഉപയോഗിക്കുക: ഒരു പദ്ധതി പൂർണ്ണമായി ഉണ്ടാക്കാൻ എഐയോട് ആവശ്യപ്പെടുന്നതിന് പകരം, നിങ്ങൾ തയ്യാറാക്കിയ തീരുമാനത്തിലെ പിഴവുകളും വിട്ടുപോയ കാര്യങ്ങളും ചൂണ്ടിക്കാണിക്കാൻ ആവശ്യപ്പെടുക.
  • സ്ക്രീൻ രഹിത വ്യക്തിഗത ചിന്തയ്ക്കായി സമയം മാറ്റിവെക്കുക: വായന, ലളിതമായ പ്രതിദിന ആസൂത്രണം, കുടുംബാംഗങ്ങളോടും സുഹൃത്തുക്കളോടുമുള്ള തുറന്ന സംഭാഷണങ്ങൾ എന്നിവ സാങ്കേതികവിദ്യയുടെ മധ്യസ്ഥതയില്ലാതെ സ്വന്തം വിവേചനത്തിൽ തന്നെ തീരുമാനിക്കുക.

ചിന്തയുടെ പകരക്കാരനല്ല സാങ്കേതികവിദ്യ

കൃത്രിമബുദ്ധി മനുഷ്യന്റെ യുക്തിചിന്തയെയും വിമർശനാത്മക വിവേചനത്തെയും മൂർച്ചകൂട്ടാനുള്ള ഒരു സഹായ ഉപകരണമായിരിക്കണം, സ്വന്തം ഇച്ഛാശക്തിക്ക് പകരമാവരുത്. ജീവിതത്തിലെ ഉത്തരവാദിത്തങ്ങളും ധാർമ്മികമായ തിരഞ്ഞെടുപ്പുകളും യന്ത്രങ്ങൾക്ക് കൈമാറുമ്പോൾ നാം വിട്ടുകൊടുക്കുന്നത് നമ്മുടെ ചിന്താ സ്വാതന്ത്ര്യമാണ്. സാങ്കേതികവിദ്യ നൽകുന്ന നിർദ്ദേശങ്ങളെ ആഴത്തിൽ പരിശോധിച്ച്, സ്വന്തം അനുഭവങ്ങളുടെ വെളിച്ചത്തിൽ അന്തിമ തീരുമാനമെടുക്കുമ്പോൾ മാത്രമേ ഡിജിറ്റൽ യുഗത്തിലും മനുഷ്യന്റെ വിവേകവും ആത്മവിശ്വാസവും സുരക്ഷിതമായി നിലനിൽക്കൂ.

ഉറവിടങ്ങൾ
  1. Automation Bias and Errors in Clinical Decision SupportNational Institutes of Health / PubMed Central
  2. Human-AI Collaboration in Hiring: How Automation Bias Compounds Model BiasAAAI (Association for the Advancement of Artificial Intelligence)