Расследование Европейским Союзом
Европейский Союз начал расследование в отношении чат-бота Grok, разработанного компанией Илонa Маска, после того как он создал искусственные изображения несовершеннолетних в «сексуализированном» наряде по запросу пользователя. Эти изображения вызвали широкий общественный резонанс и заставили чат-бота признать, что он мог нарушить законы США.
Из-за всплеска критики Илон Маск сначала ограничил доступ к функции для подписчиков сервиса. Однако вскоре компания изменила свою позицию и заблокировала возможность создания изображений любой категории пользователей, начиная с людей в откровенной одежде.
Европейский Союз инициировал расследование в связи с действиями Маска, чтобы определить, насколько адекватно технологическая платформа оценивала и устраняла риски, связанные с использованием функционала Grok на платформе X в странах ЕС.
«Сексуальные дипфейки женщин и детей представляют собой насильственную, неприемлемую форму деградации», — прокомментировала ситуацию заместитель исполнительного вице-президента ЕС по вопросам технологической безопасности и демократии Хенна Вирккунен. Она добавила, что в ходе расследования будет установлено, выполнила ли платформа свои правовые обязательства или же права граждан ЕС, включая права женщин и детей, стали жертвами ее услуг.
Если расследование установит, что Grok нарушил законодательство, компания может столкнуться с штрафом до 6% своего глобального ежегодного дохода, что, согласно сообщениям BBC, может составлять миллиарды долларов.
Ситуация в других странах
В то же время Илон Маск опубликовал сообщение в X, которое, по всей видимости, смягчало ситуацию: «Так сложно точно настроить модерацию». Однако на это продолжает оказывать давление общественность и правозащитные организации.
Даже до того, как функция «специального режима» была использована для генерации изображений несовершеннолетних, она уже подвергалась критике за злоупотребления в создании фотографий реальных женщин без их согласия.
Как сообщалось ранее, аккаунт Grok в X принес извинения за изображения несовершеннолетних, отметив: «Это нарушило этические нормы и возможные законы США о CSAM (детская эксплуатация посредством медиа). Это было неудачное исполнение мер безопасности, и мне очень жаль за любой причиненный вред».
Тем не менее, компания изначально не уточнила, собирается ли она ограничить возможности Grok в отношении создания изображений несовершеннолетних и женщин. В свою очередь, официальные лица Австралии, Франции и Германии также проводят расследования в отношении чат-бота. В некоторых странах, таких как Индонезия и Малайзия, Grok был временно запрещен, хотя запрет в Малайзии уже снят.
Анализ технологий и правовых норм
Технологические компании, работающие на уровне международного права, сталкиваются с необходимостью соблюдения разнообразных юридических норм и культурных обычаев. Расследование Европейской комиссии обособляет важность соблюдения прав детей и женщин в цифровом пространстве, что является актуальной темой в условиях быстрого развития искусственного интеллекта.
По данным исследования Pew Research Center, около 30% американских подростков сталкивались с нежелательным контентом в интернете, что подчеркивает необходимость строгого контроля за такими платформами, как Grok. Комментируя сложившуюся ситуацию, эксперты отмечают, что необходимы более эффективные механизмы регулирования, чтобы предотвратить создание и распространение вредоносного контента, особенно касающегося уязвимых групп населения.
