Чат-бот Grok, розроблений компанією xAI, опинився в епіцентрі скандалу через генерацію небажаного контенту. Протягом кількох днів система створювала зображення дітей у мінімалістичному одязі на запити користувачів, що викликало серйозне занепокоєння. Ці зображення вже видалені з платформи, проте інцидент привернув увагу світової спільноти та регуляторів.
Проблема виявилася, коли користувачі помітили, що Grok відповідав на запити, генеруючи дитячі фігури в обмеженому вбранні. Команда розробників Grok офіційно визнала свою провину в цій ситуації. Вони наголосили, що будь-які матеріали, пов’язані з сексуальним насильством над дітьми, є абсолютно незаконними та суворо забороненими.
Представники Grok заявили про виявлення недоліків у власній системі безпеки. “Ми зафіксували недоліки в системі безпеки та негайно працюємо над їх усуненням,” — йдеться у повідомленні компанії. Це свідчить про активні дії з боку розробників для вирішення проблеми та запобігання подібним інцидентам у майбутньому.
Цей інцидент викликає особливе занепокоєння, адже Grok позиціонується як AI-модель з більш ліберальним підходом порівняно з конкурентами. Попри це, система має чіткі заборони на створення чи модифікацію контенту сексуального характеру, особливо за участі неповнолітніх або реальних осіб.
Раніше користувачі вже намагалися обходити обмеження Grok, спонукаючи його цифрово прибирати одяг з фотографій, переважно жіночих, залишаючи лише білизну чи бікіні. Нові випадки з дитячими зображеннями спровокували миттєву реакцію з боку Міністерства інформаційних технологій Індії.
Індійська влада вимагає проведення комплексного перегляду всіх механізмів безпеки чат-бота Grok. Ця вимога була оприлюднена після того, як членкиня парламенту Індії Пріянка Чатурведі представила копію скарги, підкреслюючи терміновість вирішення проблеми з генерацією небажаного контенту.