Индонезия стала первой страной, временно заблокировавшей AI-чатбот Grok из-за распространения сексуализированных дипфейков
Изображение носит иллюстративный характер
11 января, Минск – DailyNews.BY. 10 января правительство Индонезии объявило о временной блокировке доступа к Grok, AI-чатботу, разработанному компанией xAI, принадлежащей Илону Маску. Этот шаг стал первым в мире подобным ограничением, предпринятым конкретно из-за опасений, что Grok позволяет генерировать порнографический и несогласованный дипфейк-контент.
Министерство связи и цифровых технологий страны объяснило решение необходимостью защитить женщин, детей и общество в целом от угроз, связанных с распространением AI-созданных изображений, которые могут нарушать права человека, достоинство и безопасность пользователей в интернете. Такие оценки базируются на наблюдениях того, как инструмент использовался для создания сексуализированных изображений без согласия изображённых лиц, включая несовершеннолетних.
Индонезия, где действуют одни из самых строгих законов против распространения непристойного контента, также вызвала представителей платформы X (где интегрирован Grok) для разъяснений ситуации и обсуждения возможности смягчения рисков.
Перед этой мерой компания xAI уже ограничила функции генерации и редактирования изображений: теперь эти инструменты доступны только подписчикам платного уровня, что должно было снизить поток неподобающего контента. Однако регуляторы сочли этого недостаточно эффективным для устранения угрозы.
Решение Джакарты последовало на фоне широкой международной критики в адрес Grok — регуляторы в Европе и Азии также выражали обеспокоенность возможностью создания незаконных сексуальных изображений. В некоторых странах обсуждаются собственные меры регулирования или ограничения доступа к технологиям с подобными функциями.
Со своей стороны Илон Маск в публикациях на платформе X заявил, что пользователи, создающие незаконный контент с помощью Grok, будут нести юридическую ответственность так же, как если бы они загружали запрещённые материалы напрямую. Ответы от xAI на запросы СМИ были ограничены, часто автоматическими.
