എഐ ഹാലൂസിനേഷൻ: കമ്പ്യൂട്ടർ പ്രോഗ്രാമുകൾ തെറ്റായ വിവരങ്ങൾ പൂർണ്ണ ആത്മവിശ്വാസത്തോടെ പറയുന്നത് എന്തുകൊണ്ട്?

മനോഹരമായി സംസാരിക്കുന്ന കമ്പ്യൂട്ടർ ഇല്ലാത്ത കാര്യങ്ങൾ പറഞ്ഞുണ്ടാക്കുന്നത് എന്തുകൊണ്ട്?

നിങ്ങൾ ChatGPT അല്ലെങ്കിൽ Gemini പോലുള്ള, ഓട്ടോമാറ്റിക്കായി സന്ദേശങ്ങൾ അയക്കുന്ന കമ്പ്യൂട്ടർ സഹായികളോട് (ചാറ്റ്‌ബോട്ടുകൾ അഥവാ Chatbots) കേരളത്തിലെ പ്രശസ്തമായ അടപ്രഥമൻ പായസത്തിന്റെ പരമ്പരാഗത കൂട്ട് ചോദിക്കുകയോ, അല്ലെങ്കിൽ ഒരു പഴയ പാലം ഏത് കൊല്ലവർഷത്തിലാണ് പണിതതെന്ന് അന്വേഷിക്കുകയോ ചെയ്യുന്നു എന്ന് കരുതുക. ആരെയും ആകർഷിക്കുന്ന ഗംഭീരമായ മലയാളത്തിൽ അത് ഉടൻ മറുപടി നൽകുന്നു. എന്നാൽ വീട്ടിലെ കാരണവന്മാരോട് ചോദിക്കുമ്പോഴോ പഴയ ചരിത്ര പുസ്തകങ്ങൾ പരതുമ്പോഴോ ആണ് ആ പായസത്തിൽ ചേർക്കാൻ പറഞ്ഞ വിചിത്രമായ ചേരുവയോ അല്ലെങ്കിൽ ആ പാലം നിർമ്മിച്ചതായി പറഞ്ഞ രാജാവിന്റെ ഉത്തരവോ ലോകത്തെവിടെയും ഇന്നേവരെ ഉണ്ടായിട്ടില്ല എന്ന് നിങ്ങൾ തിരിച്ചറിയുന്നത്. കമ്പ്യൂട്ടർ സാങ്കേതികവിദ്യയിൽ ഈ പ്രതിഭാസത്തെ എഐ ഹാലൂസിനേഷൻ (AI Hallucination) അഥവാ കൃത്രിമഭ്രമം എന്ന് വിളിക്കുന്നു. കേൾക്കുന്ന ആർക്കും ഒരു സംശയവും തോന്നാത്ത വിധം തികഞ്ഞ ആധികാരികതയോടെയും ആത്മവിശ്വാസത്തോടെയുമാണ് കമ്പ്യൂട്ടർ ഇത്തരം കെട്ടിച്ചമച്ച വിവരങ്ങൾ പടച്ചുവിടുന്നത്.

ഇവിടെ കമ്പ്യൂട്ടർ ഒരു ലൈബ്രറി പോലെ വിവരങ്ങൾ ഭദ്രമായി സൂക്ഷിച്ചു വെച്ച ശേഷം ഓർത്തെടുക്കുകയല്ല ചെയ്യുന്നത്. മറിച്ച് ഇന്റർനെറ്റിലെ കോടിക്കണക്കിന് വാക്യങ്ങൾ വിശകലനം ചെയ്ത്, ഏത് വാക്കിന് ശേഷം ഏത് വാക്ക് വന്നാലാണ് ആ വാക്യം ഭാഷാപരമായി ഏറ്റവും സ്വാഭാവികവും ഭംഗിയുള്ളതുമായി മാറുന്നത് എന്ന് കണക്കുകൂട്ടുക മാത്രമാണ് ചെയ്യുന്നത്. നിങ്ങൾ ചോദ്യം ചോദിക്കുമ്പോൾ, അതിന്റെ സത്യാവസ്ഥ പരിശോധിക്കുന്നതിന് പകരം, ചോദ്യത്തിന് അനുയോജ്യമായി ചേരുന്ന അടുത്ത വാക്കുകളെ ഗണിതശാസ്ത്രപരമായ സാധ്യതകളുടെ (പ്രോബബിലിറ്റി അഥവാ Probability) അടിസ്ഥാനത്തിൽ അത് ഒന്നിനുപിറകെ ഒന്നായി നിരത്തുന്നു. നല്ല ഭാഷയും വ്യാകരണ ശുദ്ധിയും ഒരിക്കലും വസ്തുതാപരമായ സത്യത്തിന് പകരമാവില്ല എന്ന തിരിച്ചറിവാണ് സാധാരണക്കാരായ ഉപയോക്താക്കൾക്ക് ആദ്യം വേണ്ടത്.

വിനീതനായ കഥപറച്ചിലുകാരനും നഷ്ടപ്പെട്ട പുസ്തകവും തമ്മിലുള്ള സാദൃശ്യം

ഇത് ലളിതമായി മനസ്സിലാക്കാൻ ഒരു നാട്ടിൻപുറത്തെ വായനശാലയിലെ വാക്ചാതുര്യമുള്ള ഒരു കഥപറച്ചിലുകാരനെ ഓർക്കുക. അയാൾക്ക് അപാരമായ പദസമ്പത്തുണ്ട്, ഏത് സദസ്സിനെയും ആകർഷിക്കുന്ന ശൈലിയിൽ മണിക്കൂറുകളോളം സംസാരിക്കാൻ പ്രത്യേക മിടുക്കുമുണ്ട്. എന്നാൽ ഒരു കാര്യം ചോദിച്ചാൽ എനിക്ക് അതിനെക്കുറിച്ച് അറിയില്ല എന്ന് സമ്മതിക്കാൻ അദ്ദേഹത്തിന്റെ വലിയ ആത്മാഭിമാനം ഒരിക്കലും അനുവദിക്കില്ല.

ഒരാൾ വന്ന് നമ്മുടെ ഗ്രാമത്തിലെ ആ പഴയ കൽമണ്ഡപം ഏത് വർഷത്തിലാണ് പണിതത് എന്ന് ചോദിച്ചാൽ, കൈയിൽ ചരിത്ര പുസ്തകങ്ങൾ ഒന്നുമില്ലെങ്കിലും കഥപറച്ചിലുകാരൻ ഒട്ടും മടിക്കില്ല. നാണക്കേട് ഒഴിവാക്കാൻ അയാൾ ഉടൻതന്നെ കൽമണ്ഡപത്തിന്റെ കൊത്തുപണികളെയും നാട്ടുപ്രമാണിയുടെ ധീരതയെയും കുറിച്ച് വാചാലനാകുകയും, കൊല്ലവർഷം തൊള്ളായിരത്തി ഇരുപതിലെ ചിങ്ങമാസത്തിലാണ് അത് പണിതത് എന്ന് തികഞ്ഞ ഗൗരവത്തിൽ പറഞ്ഞു വെക്കുകയും ചെയ്യുന്നു. കേൾവിക്കാർക്ക് അദ്ദേഹത്തിന്റെ ഉച്ചാരണശുദ്ധിയും ഭാഷാസൗന്ദര്യവും കണ്ട് അതൊരു ഭാവനാസൃഷ്ടിയാണെന്ന് ചിന്തിക്കാൻ പോലും കഴിയില്ല. കമ്പ്യൂട്ടറിലെ ഭാഷാ വിവരങ്ങൾ വിശകലനം ചെയ്യുന്ന വലിയ സംവിധാനങ്ങളും (സാങ്കേതികമായി ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ അഥവാ Large Language Models - LLM) പലപ്പോഴും ഇതേ രീതിയിലാണ് പ്രവർത്തിക്കുന്നത്; വിവരങ്ങൾ ലഭ്യമല്ലെങ്കിലും സംഭാഷണം അപൂർണ്ണമാക്കാതെ ഭംഗിയായി അവസാനിപ്പിക്കാൻ അവ സ്വന്തമായി കാര്യങ്ങൾ മെനഞ്ഞെടുക്കുന്നു.

ഇവിടെ കമ്പ്യൂട്ടർ പ്രോഗ്രാമിന് (സോഫ്റ്റ്‌വെയർ അഥവാ Software) മനുഷ്യരെ കബളിപ്പിക്കണം എന്ന യാതൊരു ദുരുദ്ദേശ്യവുമില്ല. ഭാഷാ പ്രവാഹം തടസ്സമില്ലാതെ മുന്നോട്ട് കൊണ്ടുപോകാനുള്ള യാന്ത്രികമായ സ്വാഭാവികത മാത്രമാണിത്. കമ്പ്യൂട്ടറിന്റെ ഈ സ്വാഭാവിക പരിമിതി മനസ്സിലാക്കി പെരുമാറിയാൽ അബദ്ധങ്ങളിൽ ചെന്നുചാടാതെ അതിന്റെ യഥാർത്ഥ സഹായം നമുക്ക് പ്രയോജനപ്പെടുത്താം.

നിത്യജീവിതത്തിൽ എഐ ഹാലൂസിനേഷൻ എവിടെയൊക്കെ ആശയക്കുഴപ്പം ഉണ്ടാക്കുന്നു?

കമ്പ്യൂട്ടർ പറയുന്നതെല്ലാം കണ്ണടച്ച് വിശ്വസിക്കുമ്പോൾ സ്കൂൾ കുട്ടികൾ മുതൽ മുതിർന്ന ഉദ്യോഗസ്ഥർ വരെ നിത്യജീവിതത്തിൽ വലിയ അബദ്ധങ്ങളിൽ ചെന്ന് വീഴാറുണ്ട്. അവയിൽ ചില പ്രധാന സന്ദർഭങ്ങൾ ഇതാ:

• വിദ്യാർത്ഥികളുടെ പഠന പ്രോജക്റ്റുകൾ: റിപ്പോർട്ടുകൾ തയ്യാറാക്കുമ്പോൾ കമ്പ്യൂട്ടർ നൽകുന്ന സാങ്കൽപ്പിക ചരിത്ര സംഭവങ്ങളും നിലവിലില്ലാത്ത ഗവേഷകരുടെ പേരുകളും വ്യാജ പുസ്തക പരാമർശങ്ങളും ചേർത്ത് പരീക്ഷകളിൽ വലിയ മാർക്ക് നഷ്ടപ്പെടുന്നത്.
• കോടതി വ്യവഹാരങ്ങളും നിയമകാര്യങ്ങളും: നിയമപരമായ വാദങ്ങൾ തയ്യാറാക്കുമ്പോൾ കമ്പ്യൂട്ടർ പ്രോഗ്രാം (സോഫ്റ്റ്‌വെയർ) സ്വയം നിർമ്മിച്ചു നൽകിയ ഇല്ലാത്ത വകുപ്പുകളും വ്യാജ കോടതി വിധികളും ഉദ്ധരിച്ച് ന്യായാധിപന്മാരുടെ മുന്നിൽ അപഹാസ്യരാകുന്ന അഭിഭാഷകർ.
• ആരോഗ്യ സംബന്ധമായ ഉപദേശങ്ങൾ: ശാരീരിക ബുദ്ധിമുട്ടുകൾക്ക് പരിഹാരം തിരയുമ്പോൾ ശാസ്ത്രീയ അടിത്തറയില്ലാത്ത നാട്ടുചികിത്സകളോ നിലവിലില്ലാത്ത മരുന്നുകളുടെ പേരുകളോ അളവുകളോ യാതൊരു മടിയുമില്ലാതെ കമ്പ്യൂട്ടർ നിർദ്ദേശിക്കുന്നത്.
• ഉപഭോക്തൃ സേവന ചാറ്റ്‌ബോട്ടുകൾ: കച്ചവട സ്ഥാപനങ്ങളിൽ ആളുകൾക്ക് ഓട്ടോമാറ്റിക്കായി മറുപടി നൽകുന്ന കമ്പ്യൂട്ടർ സഹായികൾ (കസ്റ്റമർ കെയർ ചാറ്റ്‌ബോട്ടുകൾ) ഉൽപ്പന്നങ്ങൾക്ക് കമ്പനി നൽകാത്ത വാറണ്ടിയോ ഓഫറുകളോ ഉണ്ടെന്ന് കസ്റ്റമറോട് ഉറപ്പിച്ചു പറഞ്ഞ് പിന്നീട് വലിയ തർക്കങ്ങൾക്ക് വഴിമരുന്നിടുന്നത്.

തെറ്റായ വിവരങ്ങളിൽ നിന്ന് രക്ഷപ്പെടാൻ നാം ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

കൃത്രിമബുദ്ധി ഒരു നല്ല സഹായിയാണ്, എന്നാൽ വിവരങ്ങളുടെ ആത്യന്തിക സത്യമായി അതിനെ ഒരിക്കലും കാണരുത്. സുരക്ഷിതമായി വിവരങ്ങൾ ഉപയോഗിക്കാൻ ഈ ലളിതമായ വഴികൾ പിന്തുടരുക:

• പ്രധാന വിവരങ്ങൾ എപ്പോഴും നേരിട്ട് പരിശോധിക്കുക: കമ്പ്യൂട്ടർ നൽകുന്ന വർഷങ്ങൾ, ഔദ്യോഗിക കണക്കുകൾ, ഉദ്ധരണികൾ എന്നിവ വിശ്വസനീയമായ ഗ്രന്ഥങ്ങളിലോ ഔദ്യോഗിക വെബ്‌സൈറ്റുകളിലോ നോക്കി വീണ്ടും ഉറപ്പുവരുത്തുക.
• വിവരങ്ങളുടെ ഉറവിടം അതേ കമ്പ്യൂട്ടർ സഹായിയോട് (ചാറ്റ്‌ബോട്ട്) മാത്രം ചോദിക്കാതിരിക്കുക: സംശയം തോന്നി ഉറവിടം ചോദിച്ചാൽ നിലവിലില്ലാത്ത വെബ്‌സൈറ്റ് വിലാസങ്ങളും വ്യാജ ഗ്രന്ഥകർത്താക്കളുടെ പേരുകളും അത് വിശ്വസനീയമായ ശൈലിയിൽ വീണ്ടും ചമച്ചുണ്ടാക്കിയേക്കാം.
• ആരോഗ്യ, നിയമ കാര്യങ്ങളിൽ മനുഷ്യ വിദഗ്ദ്ധരെ മാത്രം സമീപിക്കുക: ജീവിതത്തിലെ നിർണ്ണായകമായ തീരുമാനങ്ങളിൽ കമ്പ്യൂട്ടർ നൽകുന്ന ഉത്തരങ്ങളെ പ്രാഥമിക കുറിപ്പുകൾ മാത്രമായി കണ്ട്, യഥാർത്ഥ പ്രൊഫഷണലുകളുടെ നേരിട്ടുള്ള ഉപദേശം തേടുക.

നല്ല ഭാഷ എന്നത് എല്ലായ്പ്പോഴും വസ്തുതാപരമായ സത്യമാകണമെന്നില്ല എന്ന ഉറച്ച ബോധ്യമുണ്ടെങ്കിൽ കമ്പ്യൂട്ടർ സാങ്കേതികവിദ്യയെ നമുക്ക് ഭയമില്ലാതെ ഉപയോഗിക്കാം. അറിവുകളെ വിവേകത്തോടെ അളന്നു തിട്ടപ്പെടുത്താനും തെറ്റും ശരിയും തിരിച്ചറിയാനുമുള്ള മനുഷ്യന്റെ സ്വതന്ത്ര ചിന്താശേഷിയാണ് ഏത് അത്യാധുനിക സോഫ്റ്റ്‌വെയറിനേക്കാളും വലിയ വഴികാട്ടി. വിവേകപൂർവ്വമായ ഉപയോഗത്തിലൂടെ മാത്രമേ സാങ്കേതികവിദ്യയുടെ യഥാർത്ഥ നേട്ടം സമൂഹത്തിന് ലഭിക്കൂ.