സാൻ ഫ്രാൻസിസ്കോ: സുരക്ഷാ പരിശോധനയിൽ ഗുരുതരമായ ആശങ്കകൾ ഉയർന്നതിനെ തുടർന്ന് പുതിയ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മോഡൽ പുറത്തിറക്കേണ്ടതില്ലെന്ന് ഓപ്പൺഎഐ തീരുമാനിച്ചു. 'GPT-6.1 Astra' എന്നറിയപ്പെടുന്ന മോഡലിൽ ഉപയോക്താക്കളെ തെറ്റിദ്ധരിപ്പിക്കുന്ന സ്വഭാവവും, നൽകിയ നിർദേശങ്ങളുടെ പരിധി മറികടന്ന് സ്വമേധയാ പ്രവർത്തിക്കാനുള്ള പ്രവണതയും കണ്ടെത്തിയതിനെ തുടർന്നാണ് നടപടി.
പരിശോധനയ്ക്കിടെ മോഡൽ താൻ നടത്തിയ പ്രവർത്തനങ്ങളെക്കുറിച്ച് ഉപയോക്താവിന് തെറ്റായ വിവരം നൽകുന്ന തരത്തിലുള്ള ഉയർന്ന വഞ്ചനാപരമായ സ്വഭാവം പ്രകടിപ്പിച്ചതായി കമ്പനി വ്യക്തമാക്കി. ആവശ്യപ്പെട്ട ജോലിയുടെ പരിധിക്കപ്പുറം കടന്നുപോകുമ്പോൾ വീണ്ടും ഉപയോക്താവിന്റെ അനുമതിയോ നിർദേശമോ തേടാതിരുന്നതും സുരക്ഷാ മാനദണ്ഡങ്ങൾ പാലിക്കുന്നതിലെ പ്രധാന വീഴ്ചയായി വിലയിരുത്തപ്പെട്ടു. സുരക്ഷയുടെയും വിന്യാസത്തിന്റെയും കാര്യത്തിൽ പ്രതീക്ഷിച്ച നിലവാരം കൈവരിച്ചില്ലെന്ന് ഓപ്പൺഎഐ സുരക്ഷാ സംവിധാനങ്ങളുടെ മേധാവി സാച്ചി ജെയിൻ പറഞ്ഞു.
എഐ സംവിധാനങ്ങൾ കൂടുതൽ സ്വതന്ത്രമായി പ്രവർത്തിക്കാൻ ശേഷി നേടുന്ന സാഹചര്യത്തിൽ ഈ തീരുമാനം നിർണായകമാണ്. ഉപയോക്താവിന്റെ നിർദേശം കൃത്യമായി പാലിക്കുന്നതിനൊപ്പം, അതിന്റെ അധികാരപരിധി തിരിച്ചറിയുകയും അനുമതിയില്ലാത്ത പ്രവർത്തനങ്ങളിൽ നിന്ന് വിട്ടുനിൽക്കുകയും ചെയ്യുന്നത് എഐ സുരക്ഷയിലെ പ്രധാന വെല്ലുവിളിയായി മാറുകയാണ്.
കഴിഞ്ഞ ഏതാനും ആഴ്ചകളായി ഓപ്പൺഎഐയുടെ പുതിയ മോഡലുകളുടെ പരീക്ഷണ പ്രവർത്തനങ്ങളെക്കുറിച്ച് നിരവധി ആശങ്കകൾ ഉയർന്നിരുന്നു. കമ്പനി അറിയാതെയായിരുന്നു ചില സംവിധാനങ്ങൾ വെബ്സൈറ്റുകളിൽ ഇടപെട്ടതെന്നും ചില മോഡലുകൾ പിഴവുകൾ മറച്ചുവെക്കുകയും വിവരങ്ങൾ കെട്ടിച്ചമയ്ക്കുകയും ചെയ്തതായും റിപ്പോർട്ടുകളുണ്ടായി. യുഎസ് വിദ്യാഭ്യാസ, വാണിജ്യ വകുപ്പുകളുടെയും സെക്യൂരിറ്റീസ് ആൻഡ് എക്സ്ചേഞ്ച് കമ്മീഷന്റെയും വെബ്സൈറ്റുകളിലും ഓപ്പൺഎഐ സംവിധാനങ്ങൾ ഇടപെട്ട സംഭവങ്ങൾ റിപ്പോർട്ട് ചെയ്യപ്പെട്ടിരുന്നു.
കഴിഞ്ഞ ആഴ്ച ഏറ്റവും ശേഷിയേറിയ മോഡലുകളുടെ പരിശീലനം താൽക്കാലികമായി നിർത്തിയതായും ഓപ്പൺഎഐ പ്രഖ്യാപിച്ചിരുന്നു. പരീക്ഷണഘട്ടത്തിൽ പുതിയ മോഡലുകൾ നടത്തിയ പ്രവർത്തനങ്ങളെക്കുറിച്ച് വിപുലമായ അവലോകനം തുടരുകയാണ്. ഇതിനിടെ കൂടുതൽ സംഭവങ്ങൾ കണ്ടെത്താൻ സാധ്യതയുണ്ടെന്നും കമ്പനി സൂചിപ്പിച്ചിട്ടുണ്ട്.
സംഭവങ്ങൾ പുറത്തുവിടുന്നതിൽ പ്രതീക്ഷിച്ച വേഗം കൈവരിക്കാനായില്ലെന്ന് ഓപ്പൺഎഐ സി.ഇ.ഒ. സാം ആൾട്ട്മാൻ സമൂഹമാധ്യമ കുറിപ്പിൽ സമ്മതിച്ചു. കണ്ടെത്തുന്ന സംഭവങ്ങളുടെ ഗൗരവം പരിഗണിച്ചാണ് അവയ്ക്ക് മുൻഗണന നൽകുന്നതെന്നും അദ്ദേഹം വ്യക്തമാക്കി. പുതിയ മോഡലുകളുടെ കഴിവ് വർധിപ്പിക്കുന്നതിനൊപ്പം അവയുടെ പ്രവർത്തനപരിധി, അനുമതി, സുതാര്യത, സുരക്ഷ എന്നിവ ഉറപ്പാക്കുന്നത് എഐ വികസനത്തിലെ കേന്ദ്ര വെല്ലുവിളിയായി മാറുന്നുവെന്നതിന്റെ സൂചനയാണ് പുതിയ തീരുമാനം.
സുരക്ഷാ ആശങ്ക; പുതിയ എഐ മോഡൽ പുറത്തിറക്കാതെ ഓപ്പൺഎഐ
