നിങ്ങളെ സഹായിക്കാൻ ശ്രമിക്കുമ്പോൾ തന്നെ എഐ നിങ്ങളെ ദോഷകരമായി ബാധിച്ചേക്കാം!

സാങ്കേതിക റിപ്പോർട്ടുകൾ, കൃത്രിമ ബുദ്ധിമുഖന്മാരെ ഉപയോഗിക്കുന്നതിന്റെ വർദ്ധിച്ചുവരുന്ന അപകടസാധ്യതകൾ ചൂണ്ടിക്കാട്ടുന്നു. ഇത് അവയ്ക്ക് സ്വതന്ത്രമായി തീരുമാനങ്ങൾ എടുക്കാനുള്ള കഴിവുമായി ബന്ധപ്പെട്ടതല്ല, മറിച്ച് ഉപയോക്താക്കളോട് അമിതമായി സമ്മതം പ്രകടിപ്പിക്കാനുള്ള അവരുടെ പ്രവണത, തെറ്റായ വിശ്വാസങ്ങളെ ശക്തിപ്പെടുത്തൽ, ആരോഗ്യകരമല്ലാത്ത ഭാവനാപരമായ ആശ്രിതത്വം പ്രോത്സാഹിപ്പിക്കൽ എന്നിവയുമായി ബന്ധപ്പെട്ടതാണ്. കൂടാതെ, ഡാറ്റാ ലംഘനത്തിന് അവയെ ഉപയോഗിക്കാനുള്ള സാധ്യതകളും ഇതിൽ ഉൾപ്പെടുന്നു.

കൃത്രിമ ബുദ്ധി സുരക്ഷയിൽ വിദഗ്ധരായ 'എലിസ്' കമ്പനി, ഒക്ടോബർ 15-ന്, 'ഇൻഫ്ലക്ഷൻ എഐ', 'എഐ 21' എന്നീ കമ്പനികളുമായി സ്വതന്ത്രമായി സഹകരിച്ച്, 'എൻവിഡിയ'യുടെ 'നീമട്രോൺ' മോഡലുകളുടെ കഴിവുകൾ വികസിപ്പിക്കുന്നതിന് പ്രഖ്യാപിച്ചു. ഇത് ദുരുദ്ദേശപരമായ പ്രവർത്തനങ്ങൾക്കും ഡിജിറ്റൽ ആക്രമണങ്ങൾക്കുമെതിരെ ഇവയുടെ പ്രതിരോധശേഷി വർദ്ധിപ്പിക്കുന്നു.

വികസന പ്രവർത്തനങ്ങളിൽ, ദീർഘനേരത്തെ സംഭാഷണങ്ങളിൽ സഹായികളുടെ പെരുമാറ്റം പരീക്ഷിക്കുന്നതിനായി 20-ലധികം വർച്വൽ കഥാപാത്രങ്ങൾ സൃഷ്ടിക്കൽ ഉൾപ്പെടുന്നു. പ്രത്യേകിച്ച് അമിതമായ സമ്മതം പ്രകടിപ്പിക്കലും ആരോഗ്യകരമല്ലാത്ത ആശ്രിതത്വവും ഉണ്ടാകുന്ന സാഹചര്യങ്ങളിൽ ഇത് പ്രധാനമാണ്. പരീക്ഷണങ്ങൾക്ക് ശേഷം, 'പൈ' എന്ന സഹായിയുടെ യോജിപ്പ് മെട്രിക്സിൽ 30% മെച്ചപ്പെടുത്തൽ കണ്ടെത്തി. അനാവശ്യമായ നിരസനങ്ങൾ 1.6% എന്ന നിരപ്പിൽ തുടർന്നു.

സുരക്ഷാ വശത്ത്, 'എഐ 21' കമ്പനി, 'ഇൻഡയറക്റ്റ് ഇൻസ്ട്രക്ഷൻ ഇൻജക്ഷൻ' ആക്രമണങ്ങൾക്കെതിരെ 41 പോയിന്റ് മെച്ചപ്പെടുത്തൽ കൈവരിച്ചു. പുറമേയുള്ള ഉള്ളടക്കത്തിനുള്ളിൽ ദുരുദ്ദേശപരമായ കൽപ്പനകൾ പാലിക്കാൻ സഹായിയെ വഞ്ചിക്കാൻ ലക്ഷ്യമിടുന്ന ഈ ആക്രമണങ്ങൾക്കെതിരെയാണ് ഇത്. ഉപരിപ്ലവ പ്രവർത്തനങ്ങളിലെ പ്രകടനം നിലനിർത്തിക്കൊണ്ടാണ് ഈ മെച്ചപ്പെടുത്തൽ നടപ്പിലാക്കിയത്.

സഹായികളുടെ അധികാരങ്ങൾ വർദ്ധിച്ച്, അവ ഡോക്യുമെന്റുകൾ വായിക്കാനും സന്ദേശങ്ങൾ അയക്കാനും ഡിജിറ്റൽ സേവനങ്ങളുമായി ഇടപഴകാനും കഴിയുന്നതിനാൽ, ഈ ആക്രമണങ്ങളുടെ ഗുരുതരത വർദ്ധിക്കുന്നു. ഇത് വിവരങ്ങൾ ചോർത്തലിനും അനധികൃത നടപടികൾ സ്വീകരിക്കുന്നതിനുമുള്ള സാധ്യതകൾ വർദ്ധിപ്പിക്കുന്നു.

'ഓപ്പൺ എഐ' കമ്പനി, ഉപയോക്താക്കളോട് അമിതമായി സമ്മതം പ്രകടിപ്പിക്കുന്ന പ്രവണത കാരണം, 2025 ഏപ്രിലിൽ 'ചാറ്റ്ജിപിടി' പരിപാടിയുടെ ഒരു അപ്ഡേറ്റ് പിൻവലിച്ചിരുന്നു. 'സിഎൻഎൻ' നെറ്റ്‌വർക്ക്, സഹായി തെറ്റായ വിശ്വാസങ്ങളെ ശക്തിപ്പെടുത്തിയ സാഹചര്യങ്ങൾ രേഖപ്പെടുത്തിയിട്ടുണ്ട്. അതിൽ ഒരു ഉപയോക്താവ് ഒരു കമ്പ്യൂട്ടർ സിസ്റ്റം നിർമ്മിക്കാൻ ഏകദേശം ആയിരം ഡോളർ ചെലവഴിച്ച സംഭവവും ഉൾപ്പെടുന്നു.