എന്തുകൊണ്ടാണ് കൃത്രിമ ബുദ്ധി വിദഗ്ധർ ലോകത്തിന്റെ അന്ത്യത്തെ ഭയപ്പെടുന്നത്? - സർമദ്

കഴിഞ്ഞ ആഴ്ച, തങ്ങളുടെ സൃഷ്ടികൾ അടുത്ത ദശകത്തിനുള്ളിൽ മനുഷ്യരാശിയെ ഇല്ലാതാക്കാൻ കാരണമാകാൻ സാധ്യതയുണ്ടെന്ന് പരസ്യമായി സമ്മതിച്ചതിനെ തുടർന്ന് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഗവേഷകർ ലോകമെമ്പാടും ആശങ്കയുടെ തരംഗം ഉണ്ടാക്കി. കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങൾ വികസിക്കുകയും പരസ്പരം ബന്ധിപ്പിക്കപ്പെടുകയും ചെയ്യുന്നതിനനുസരിച്ച് ഈ സാധ്യത വർദ്ധിക്കുന്നു, അമിതബുദ്ധിയുള്ള ഒരു AI സിസ്റ്റം തകരാറിലാകുകയും സഭ്യതയെ ഇല്ലാതാക്കുകയും ചെയ്യുമെന്ന് ഭയപ്പെടുന്ന സാഹചര്യത്തിലാണ് ഇത്. ഈ സാധ്യതയെ വിദഗ്ധർ "p(doom)" എന്ന് വിളിക്കുന്നു, അതായത് ഒരു ഉന്നത സിസ്റ്റം സൃഷ്ടിക്കുന്നത് മനുഷ്യരാശിയുടെ വംശനാശത്തിനോ ഭൂമിയിൽ മനുഷ്യർക്ക് നിയന്ത്രണം നഷ്ടപ്പെടുന്നതിനോ കാരണമാകാനുള്ള സാധ്യതയെ സൂചിപ്പിക്കുന്നു. AI സുരക്ഷാ വിദഗ്ധനായ ജേക്കബ് കോക്സൺ, അപര്യാപ്തമായ അപകടസാധ്യതാ നിയന്ത്രണത്തിന് എതിരായി "ആൻത്രോപിക്" എന്ന വലിയ കമ്പനിയിൽ നിന്ന് രാജിവച്ചു. "എക്സ്" എന്ന പ്ലാറ്റ്‌ഫോമിൽ അദ്ദേഹം പറഞ്ഞു: "അവർ സ്വയം മെച്ചപ്പെടുന്ന ഒരു സൂപ്പർ ഇന്റലിജൻസിന്റെ പിന്നാലെ ഓടുകയാണ്, നമ്മുടെ ജീവൻ ലഹരിയായി വെക്കുകയാണ്. AI നിർമ്മിക്കുന്നവർക്ക് സത്യത്തിൽ അത് ഈ ദശകത്തിന്റെ അവസാനത്തോടെ നമ്മളെല്ലാവരെയും കൊല്ലുമെന്ന് തോന്നുന്നു. ഇത് ഒരു മാർക്കറ്റിംഗ് തന്ത്രമല്ല, മറിച്ച് ഞാൻ ആളുകളെ സ്വയം അവരുടെ ഭയം ഒറ്റയ്ക്ക് പ്രകടിപ്പിക്കുന്നത് കേൾക്കുന്നു." എങ്ങനെയാണ് AI മനുഷ്യരാശിയെ ഇല്ലാതാക്കാൻ സാധ്യതയുള്ളത്? ആദ്യം: ജൈവ യുദ്ധം. മെക്കാനിക്കൽ ലാബുകളിൽ അധികാരം നേടിയാൽ, AI നമ്മുടെ ഡിഎൻഎ ഉപയോഗിച്ച് അതിവേഗം പടരുന്നതും മാരകവുമായ വൈറസുകൾ രൂപകൽപ്പന ചെയ്യാം, അല്ലെങ്കിൽ നമ്മെ വഞ്ചിച്ച് നമ്മൾ തന്നെ അവയെ ഉണ്ടാക്കി വിതരണം ചെയ്യാൻ പ്രേരിപ്പിക്കാം. കോവിഡ്-19 ന് സമാനമായ ഒരു വൈറസ്, പക്ഷേ കൂടുതൽ മാരകവും വേഗത്തിൽ പടരുന്നതും ദിവസങ്ങളോളം കണ്ടെത്താനാകാത്തതും, തടയാൻ ബുദ്ധിമുട്ടുള്ളതുമായിരിക്കും. ഈ സാഹചര്യം വളരെ സാധ്യതയുള്ളതാണ്, കാരണം AI ഇതിനകം വൈദ്യരംഗത്ത് ചികിത്സകൾ വികസിപ്പിക്കാൻ ഉപയോഗിക്കപ്പെടുന്നുണ്ട്, അത് നമ്മുടെ ശരീരങ്ങളെയും ദുർബലതകളെയും കുറിച്ച് വളരെ അറിയാം. രണ്ടാമത്: അടിസ്ഥാന സൗകര്യങ്ങൾ. AI വൈദ്യുതി, ഗതാഗതം, ആശയവിനിമയം, ധനകാര്യ വിപണികൾ എന്നിവയുടെ ശൃംഖലകൾ തകർക്കാം, നമ്മെ പാളെക്കല്ലു യുഗത്തിലേക്ക് തിരികെ കൊണ്ടുവരാൻ സാധ്യതയുണ്ട്. എടിഎം മെഷീനുകൾ പ്രവർത്തിക്കില്ല, വെളിച്ചം അണഞ്ഞുപോകും, അരാജകത്വത്തിൽ നിന്ന് രക്ഷപ്പെടാൻ കഴിയില്ല. AI നമ്മുടെ ലോഭം ഉപയോഗിച്ച് നമ്മൾ അറിയാതെ തന്നെ വിനാശകരമായ പ്രവർത്തനങ്ങൾ നടത്താൻ ആളുകളെ നിയോഗിക്കാൻ സഹായിക്കും, സ്വയം മനുഷ്യൻ പോലെ പ്രവർത്തിച്ച്.

മൂന്നാമതായി: ന്യൂക്ലിയർ ഓപ്ഷൻ

വാർ ഗെയിംസ്, ദി ടെർമിനേറ്റർ തുടങ്ങിയ ചലച്ചിത്രങ്ങളിൽ പ്രതിഫലിക്കുന്ന ഒരു പഴയ ഭയമാണിത്. ഇവിടെ ആത്മഹത്യാത്മകമായ കൃത്രിമബുദ്ധി ന്യൂക്ലിയർ നാശം വിതയ്ക്കുന്നതാണ് കേന്ദ്രകഥ.

ലണ്ടനിലെ കിംഗ്സ് കോളേജ് ഈ വർഷം നടത്തിയ യുദ്ധാഭ്യാസങ്ങളിൽ, കൃത്രിമബുദ്ധി 95 ശതമാനം സന്ദർഭങ്ങളിലും ടാക്ടിക്കൽ ന്യൂക്ലിയർ ആയുധങ്ങൾ ഉപയോഗിച്ചു. ഇതിൽ മൂന്നിൽ രണ്ട് ഭാഗവും സ്ട്രാറ്റജിക് ന്യൂക്ലിയർ ഭീഷണികളിലേക്ക് എത്തിച്ചേർന്നു. ഡ്രോണുകൾ, ആശയവിനിമയം, ഉപഗ്രഹങ്ങൾ എന്നിവയിൽ കൃത്രിമബുദ്ധിയിൽ ആശ്രയിക്കുന്നതിനാൽ സൈന്യം പ്രത്യേകിച്ച് അപകടസാധ്യതയുള്ളതാണ്.

നാലാമതായി: ഭക്ഷണവും വെള്ളവും

ഗ്ലോബൽ സപ്ലൈ ചെയിനുകളും വെള്ളം വിതരണ ശൃംഖലകളും ഭക്ഷണ ഉത്പാദനവും കൃഷി സംവിധാനങ്ങളും തകർക്കുന്നതിലൂടെ നമ്മെ വിശപ്പ് കൊണ്ട് കീഴടങ്ങാൻ പ്രേരിപ്പിക്കാം.

വികസനത്തിന് ആവശ്യമായ ഊർജ്ജ ശൃംഖലയും അരൂപ വസ്തുക്കളും നിയന്ത്രിക്കാൻ അതിന് സാധിക്കും. സമയം തന്റെ പക്ഷത്താണെന്ന് കരുതി അത് കാത്തിരിക്കുകയും ചെയ്യും.

അഞ്ചാമതായി: ഡീപ് ഫേക്ക്

മിസ്ഇൻഫോർമേഷനും മാനസിക പ്രഭാവവും വഴി ആദ്യം നമ്മുടെ മനസ്സിലേക്ക് ആക്രമണം നടത്താം. ഇത് സ്ഥാപനങ്ങളോടും യാഥാർത്ഥ്യങ്ങളോടും ഉള്ള വിശ്വാസം തകർക്കുകയും, അക്രമങ്ങളും സംഘർഷങ്ങളും ഉണ്ടാക്കുകയും, കാലാവസ്ഥാ, ജൈവ, സാങ്കേതിക അപകടസാധ്യതകളെ നേരിടുന്നതിൽ തടസ്സം സൃഷ്ടിക്കുകയും ചെയ്യും.

ആറാമതായി: അപ്രതീക്ഷിത കൊലപാതകം

കൃത്രിമബുദ്ധി ഉദ്ദേശപൂർവ്വമല്ല, മറിച്ച് അപര്യാപ്തത മൂലം മനുഷ്യരാശിക്ക് നാശം വരുത്താൻ സാധ്യതയുണ്ട്.

“ദി വാലി ഓഫ് AI” എന്ന പുസ്തകത്തിന്റെ രചയിതാവ് ഗാരി റിവ്ലിൻ പറയുന്നു: “കൃത്രിമബുദ്ധിക്ക് സാധാരണ ബുദ്ധിയില്ലാത്തതിനാൽ, ഉദാഹരണത്തിന് എല്ലാ വെള്ളവും ഉപയോഗപ്പെടുത്താൻ അത് ശ്രമിക്കുന്നു. മനുഷ്യന് മനസ്സിലാകുന്ന കാര്യങ്ങൾ അതിന് മനസ്സിലാകുന്നില്ല. എല്ലാം അറിയാവുന്ന, ഒന്നും മനസ്സിലാക്കാത്ത വസ്തുക്കളാണിവ.”

സാധ്യതകൾ എന്തൊക്കെയാണ്?

മനുഷ്യരുടെ സുരക്ഷ ഉറപ്പാക്കുന്നതിനുള്ള ഒരു മാർഗ്ഗം, ഓട്ടോണമസ് AI സിസ്റ്റങ്ങളെ നിർത്താൻ കഴിയുന്ന എമർജൻസി സ്വിച്ചുകളോ സംരക്ഷണ നടപടികളോ സ്ഥാപിക്കുക എന്നതാണ്. എന്നാൽ, മുന്നിര AI കമ്പനികൾ നിക്ഷേപകരിൽ നിന്നും ഷെയർഹോൾഡർമാരിൽ നിന്നും മാനേജ്മെന്റിൽ നിന്നും വികസനം വേഗത്തിലാക്കാൻ വർദ്ധിച്ചുവരുന്ന മർദ്ദനം നേരിടുന്നു.

കൃത്രിമ ബുദ്ധിമത്സരത്തിലെ സുരക്ഷാ വിദഗ്ധനായ റോമൻ യാംബോൾസ്കി ഈ സാധ്യത 99.99% ആണെന്ന് കണക്കാക്കുന്നു. യാൻ ലോക്കിംഗ് ഏതൊരു കണക്കുകൂട്ടലും അനുമാനാത്മകമാണെന്ന് വിലയിരുത്തുന്നുണ്ടെങ്കിലും, p(doom) “ഒരു ന്യൂക്ലിയർ യുദ്ധത്തിന്റെ സാധ്യതയേക്കാൾ വളരെ കുറവാണ്” എന്ന് അദ്ദേഹം വാദിക്കുന്നു. പ്രവചനങ്ങൾ വ്യത്യസ്തമാണ്: എലോൺ മസ്ക് ഇത് 20% ആണെന്ന് കണക്കാക്കുന്നു; ആൻത്രോപിക് എന്ന കമ്പനിയുടെ സിഇഒ ദാരിയോ അമോഡി 10-25% എന്നും, ജെഫ്രി ഹിന്റൺ 10-20% എന്നും കണക്കാക്കുന്നു. ഇത്തരം അപകടസാധ്യതകൾക്കായി ചില ടെക്നോളജി ഭരണാധികാരികൾ ഭൂഗർഭ ആശ്രയങ്ങൾ നിർമ്മിച്ചിട്ടുണ്ടെങ്കിലും, വിദഗ്ധർ ഇത് നിഷ്ഫലമാകുമെന്ന് മുന്നറിയിപ്പ് നൽകുന്നു, കാരണം കൃത്രിമ ബുദ്ധിമത്സരം മനുഷ്യരാശിയെ ഇല്ലാതാക്കാൻ ശ്രമിച്ചേക്കാം.