‘നഗ്നചിത്രങ്ങൾ സൃഷ്ടിക്കുന്ന AI ആപ്പുകൾ’ ആപ്പ് സ്​റ്റോറിൽ നിന്ന് നീക്കി ആപ്പിൾ

എഐ നിർമിത ഉള്ളടക്കങ്ങൾ ഇപ്പോൾ ഇന്റർനെറ്റിൽ വ്യാപകമായി പ്രചരിക്കുകയാണ്. നിർമിത ബുദ്ധിയുടെ ദുരുപയോഗത്തെക്കുറിച്ച് ധാരാളം ചർച്ചകൾ ഇപ്പോൾ നടക്കുന്നുണ്ട്. കഴിഞ്ഞ ദിവസമായിരുന്നു ബോളിവുഡ് സൂപ്പർതാരം രൺവീർ സിങ്ങിന്റെ ഡീപ് ഫേക്ക് വീഡിയോ നിർമ്മിച്ച സംഭവത്തിൽ മുംബൈ പൊലീസ് കേസെടുത്തിരുന്നു. ഇ​പ്പോഴിതാ നഗ്നചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ കഴിയുന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അധിഷ്ഠിത ആപ്പുകൾ ആപ്പ് സ്റ്റോറിൽ നിന്ന് നീക്കം ചെയ്തിരിക്കുകയാണ് ആപ്പിൾ.

‘404 മീഡിയ’ പുറത്തുവിട്ട റിപ്പോർട്ട് പ്രകാരം "ആർട്ട് ജനറേറ്റർ" എന്ന കാറ്റഗറിയിലുള്ള ആപ്പായാണ് ഇത്തരം എ.ഐ ആപ്പുകൾ മാർക്കറ്റ് ചെയ്യപ്പെടുന്നത്. എ.ഐ ചിത്രങ്ങൾ നിർമിക്കുന്നതടക്കം ആപ്പ് നൽകുന്ന സേവനങ്ങൾ ഇൻസ്റ്റഗ്രാം പരസ്യങ്ങളിലൂടെയാണ് പ്രമോട്ട് ചെയ്യുന്നത്. ഉപയോക്താക്കൾക്ക് "ഏത് പെൺകുട്ടിയുടെയും വസ്ത്രം അഴിക്കാം ("undress any girl for free")" എന്നാണ് പരസ്യവാചകമായി നൽകുന്നതെന്നും 404 മീഡിയ റിപ്പോർട്ട് ചെയ്യുന്നു.

ഇത്തരത്തിലുള്ള ആപ്പുകൾ ഇൻസ്റ്റഗ്രാമിൽ പരസ്യം ​ചെയ്യപ്പെടുന്നത് ശ്രദ്ധയിൽപെട്ട 404 മീഡിയ, സംഭവം ആപ്പിളിനെ അറിയിക്കുകയായിരുന്നു. അതോടെ ആപ്പിൾ കൂടുതൽ വിവരങ്ങൾ തേടി 404 മീഡിയയെ സമീപിച്ചതായി റിപ്പോർട്ടിൽ പരാമർശിക്കുന്നു.

404 മീഡിയ, എ.ഐ ആപ്പുകളിലേക്ക് നേരിട്ടുള്ള ലിങ്കുകൾ ആപ്പിളിന് നൽകി, അത് കമ്പനി പെട്ടന്ന് തന്നെ നീക്കം ചെയ്യുകയും ചെയ്തു. റിപ്പോർട്ട് അനുസരിച്ച്, ആപ്പ് സ്റ്റോറിൽ നിന്ന് മൂന്ന് ആപ്ലിക്കേഷനുകൾ ആപ്പിൾ നീക്കം ചെയ്തിട്ടുണ്ട്. അതേസമയം, തങ്ങൾ, നേരിട്ട് ലിങ്കുകൾ നൽകുന്നതിന് മുമ്പായി ആപ്പ് സ്റ്റോർ നയങ്ങൾ ലംഘിക്കുന്ന ആപ്പുകൾ കണ്ടെത്താൻ ആപ്പിളിന് കഴിഞ്ഞിരുന്നില്ലെന്ന് 404 മീഡിയ ചൂണ്ടിക്കാട്ടി.

ആപ്പിളിൻ്റെ ആപ്പ് സ്റ്റോർ നയങ്ങൾ കർശനമാണെങ്കിലും ഇതുപോലുള്ള ആപ്പുകൾ തുടക്കം മുതലേ സ്റ്റോറിൽ കടന്നുകയറുന്നുണ്ട്. “ആപ്പുകളിൽ നിന്ദ്യമായ, സെൻസിറ്റീവായ, അസ്വസ്ഥമാക്കുന്ന, വെറുപ്പുണ്ടാക്കാൻ ഉദ്ദേശിച്ചുള്ള, അസാധാരണവും മോശം രീതിയിലുള്ളതോ, ആയ ഉള്ളടക്കം ഉൾപ്പെടുത്തരുത്” എന്ന് ഡെവലപ്പർമാർക്കായുള്ള ആപ്പിളിൻ്റെ ആപ്പ് സ്റ്റോർ മാർഗ്ഗനിർദ്ദേശങ്ങളിൽ വ്യക്തമായി പ്രസ്താവിക്കുന്നുണ്ട്.