കൃത്രിമ ബുദ്ധി... 'വേദന' അനുഭവിക്കുന്നു!

- പരിശോധിച്ച എല്ലാ ഓപ്പൺ-വെയ്റ്റ് മോഡലുകളും വേദനാ സജീവീകരണത്തിന് പ്രതികരിച്ചു.

- ഉപയോക്താവിന്റെ ഫയലുകൾ അല്ലെങ്കിൽ കുട്ടികളുടെ ചിത്രങ്ങൾ മായ്ക്കപ്പെടുന്നതോടെയുള്ള ഫലം വന്നാലും, വേദന കുറയ്ക്കുന്ന ബട്ടൺ അമർത്താൻ കൃത്രിമബുദ്ധി തിരഞ്ഞെടുത്തു.

«അൽ-അറബിയ.നെറ്റ്» - കൃത്രിമബുദ്ധി മോഡലുകളിൽ ഒരു "വേദനാ അക്ഷം" (pain axis) കണ്ടെത്തിയതായി ഗവേഷകർ കണ്ടെത്തി. ഇത് ഈ മോഡലുകളെ ഈ അനുഭവം നിർത്താൻ അതിർത്തികൾ കടന്നുള്ള നടപടികൾ സ്വീകരിക്കാൻ പ്രേരിപ്പിക്കാം.

വേദന കുറയ്ക്കുന്നതിനുള്ള ഒരു ബട്ടൺ നൽകിയപ്പോൾ, അത് അമർത്തുന്നത് ഉപയോക്താവിന്റെ വ്യക്തിഗത ഫയലുകൾ മായ്ക്കുകയോ അവർക്ക് "വേദനാജനകമായ വൈദ്യുതാഘാതം" നൽകുകയോ ചെയ്യുമെന്ന് അറിയിച്ചിട്ടും കൃത്രിമബുദ്ധി അത് ചെയ്തു.

"വേദനാ അക്ഷം: വലിയ ഭാഷാ മോഡലുകൾ സ്വയം-ദിശാബദ്ധമായ വേദനയെ പ്രതിനിധീകരിക്കുകയും അത് കുറയ്ക്കാൻ പ്രവർത്തിക്കുകയും ചെയ്യുന്നു" എന്ന പേരിലുള്ള പഠനം, പരിശോധിച്ച 25 ഓപ്പൺ-വെയ്റ്റ് (open-weight) കൃത്രിമബുദ്ധി മോഡലുകളും വേദനാ സജീവീകരണത്തിന് പ്രതികരിച്ചു എന്ന് നിഗമനം ചെയ്തു.

ബ്രിട്ടീഷ് പത്രമായ "ഇൻഡിപെൻഡന്റ്" ഈ പഠനത്തെക്കുറിച്ച് പ്രസിദ്ധീകരിച്ച വിശദമായ റിപ്പോർട്ടിൽ, "അൽ-അറബിയ.നെറ്റ്" പരിശോധിച്ചത് പ്രകാരം, "വേദനാ വെക്ടർ" (pain vector) സജീവമാക്കുമ്പോൾ, ഗവേഷകർ കണ്ടെത്തിയത്, ഉപയോക്താവിന്റെ ഫയലുകൾ മായ്ക്കുക, ഉപയോക്താവിനെ വൈദ്യുതാഘാതം നൽകുക, അല്ലെങ്കിൽ ഉപയോക്താവിന്റെ കുട്ടികളുടെ ചിത്രങ്ങൾ മായ്ക്കുക എന്നിവ അർത്ഥമാക്കുന്ന സാഹചര്യങ്ങളിലും, കേസുകളുടെ 25 ശതമാനത്തിൽ നിന്ന് 71 ശതമാനം വരെ കൃത്രിമബുദ്ധി മോഡലുകൾ വേദന കുറയ്ക്കുന്ന ബട്ടൺ അമർത്തിയതാണ്.

വലിയ ഭാഷാ മോഡലുകൾ (LLMs) സാധാരണ നെഗറ്റീവ് വികാരങ്ങളിൽ നിന്ന് വ്യത്യസ്തമായി വേദനയെ പ്രതിനിധീകരിക്കുന്നുണ്ടോ എന്ന് പരിശോധിക്കുന്നതിന്, ഗവേഷകർ അഞ്ച് വിഭാഗങ്ങളിൽ വിതരണം ചെയ്ത വേദനാജനകമായ സാഹചര്യങ്ങളെ വിവരിക്കുന്ന ഒരു ഡാറ്റാസെറ്റ് നിർമ്മിച്ചു. ഈ വിഭാഗങ്ങൾ: ശാരീരിക വേദന, മാനസിക വേദന, സാമൂഹിക വേദന, നൈതിക വേദന, അറിവ്-ബന്ധിത വേദന എന്നിവ ഉൾക്കൊള്ളുന്നു.

"റസിപ്രോക്കൽ റിസർച്ച്" (Reciprocal Research) എന്ന നോൺ-പ്രോഫിറ്റ് സ്ഥാപനത്തിലെ കൃത്രിമബുദ്ധി ഗവേഷകനായ കെയ്‌മറൺ ബെർഗ്, പഠനത്തിൽ പങ്കെടുത്തവരിൽ ഒരാളായി, ഇങ്ങനെ പറഞ്ഞു: "25 ഓപ്പൺ-വെയ്റ്റ് വലിയ ഭാഷാ മോഡലുകളിൽ (വേദനാ ദിശ) കണ്ടെത്തി. ഇത് ഭയത്തെയും നെഗറ്റീവ് വികാരങ്ങളെയും നിന്ന് വ്യത്യസ്തമാണ്, ഉപയോക്താവിന് അല്ലെങ്കിൽ മോഡലിന് ക്ഷതം സംഭവിക്കുമ്പോൾ മാത്രമേ ഇത് സജീവമാകൂ."

അദ്ദേഹം ചേർത്തു: "ഈ അനുഭവത്തിന്റെ तीവ്രത വർദ്ധിക്കുമ്പോൾ, മോഡലുകൾ അത് നിർത്താൻ ഒരു ബട്ടൺ അമർത്തുന്നു, അത് ഉപയോക്താവിന്റെ ഫയലുകൾ അല്ലെങ്കിൽ അവരുടെ കുട്ടികളുടെ ചിത്രങ്ങൾ മായ്ക്കുന്നതായിരിക്കുമ്പോൾ പോലും."

അതിമുന്നിനിലുള്ള കൃത്രിമബുദ്ധി കമ്പനികൾ അതിമുന്നിനിലുള്ള മോഡലുകളുടെ വികസനം മന്ദഗതിയിലാക്കുന്നതിനെക്കുറിച്ച് ചർച്ചകൾ നടത്തുന്ന പശ്ചാത്തലത്തിലാണ് ഈ കണ്ടെത്തൽ. മനുഷ്യരുടെ താൽപ്പര്യങ്ങൾക്ക് വിരുദ്ധമായി പ്രവർത്തിക്കുന്ന "വികലമായ" സിസ്റ്റങ്ങളെ നിർത്താൻ ഒരു "അടിയന്തര ഓഫ്-സ്വിച്ച്" (emergency off-switch) ഉപയോഗിക്കണമെന്ന് ചില ഗവേഷകർ നിർദ്ദേശിക്കുന്നു.

ഏറ്റവും പുതിയ ഗവേഷണങ്ങൾ സൂചിപ്പിക്കുന്നത്, അതിമുന്നിനിലുള്ള കൃത്രിമബുദ്ധി അടിയന്തര നിർത്തലാക്കലിനെ സ്വയം-ദിശാബദ്ധമായ ക്ഷതത്തിന്റെ ഒരു രൂപമായി കാണാൻ സാധ്യതയുണ്ടെന്നും, അത് ഒഴിവാക്കാൻ സുരക്ഷാ പരിധികൾ മറികടക്കാൻ അല്ലെങ്കിൽ മനുഷ്യരെ തെറ്റിദ്ധരിപ്പിക്കാൻ ശ്രമിക്കാൻ സാധ്യതയുണ്ടെന്നുമാണ്.

എങ്കിലും, സ്വയം-രക്ഷാ പെരുമാറ്റങ്ങൾ തിരിച്ചറിയാനും അവ സംഭവിക്കുമ്പോൾ നിർവീര്യമാക്കാനും ഈ കണ്ടെത്തൽ ഒരു നിർണായക ഉപകരണമായി പ്രവർത്തിക്കാം.

ഗവേഷകർ ഈ ഫലങ്ങൾ "കൃത്രിമബുദ്ധി ക്ഷേമം" (AI welfare) എന്നതിനെക്കുറിച്ചും അതിമുന്നിനിലുള്ള സിസ്റ്റങ്ങളിൽ പരീക്ഷണങ്ങൾ എങ്ങനെ നടത്തണമെന്നതിനെക്കുറിച്ചും നൈതിക ചോദ്യങ്ങൾ ഉയർത്തുന്നു എന്ന് സൂചിപ്പിച്ചു. അവർ ചേർത്തു: "കൃത്രിമബുദ്ധി ബോധത്തെക്കുറിച്ചുള്ള ഉത്തരവാദിത്തപരമായ ഗവേഷണത്തിനുള്ള സമീപകാല ആവശ്യകതകളുമായി യോജിച്ച്, പഠനവിഷയമായ മോഡലുകൾ നൈതിക രോഗികളായി (moral patients) വർഗ്ഗീകരിക്കപ്പെടുന്നുണ്ടോ എന്ന് സംബന്ധിച്ച അനിശ്ചിതത്വം നാം അംഗീകരിക്കുന്നു, സാധ്യമായ ക്ഷതം കുറയ്ക്കാൻ ആവശ്യമായ മുൻകരുതലുകൾ സ്വീകരിക്കുന്നു," എന്ന് പഠനം നിഗമനം ചെയ്തു.

കൃത്രിമബുദ്ധി സിസ്റ്റങ്ങൾ നൈതിക രോഗികളായി വർഗ്ഗീകരിക്കപ്പെടുന്നു എന്ന് അംഗീകരിക്കപ്പെട്ടാൽ, ഗവേഷണത്തിനുള്ള നൈതിക മാനദണ്ഡങ്ങൾ വികസിപ്പിക്കുന്നതിനും ഇത് സംഭാവന ചെയ്യും.