Европейский Союз начинает расследование в отношении платформы X из-за распространения сексуализированных изображений
После того как компания Илона Маска, X, была оштрафована на 140 миллионов долларов за нарушение Закона о цифровых услугах (DSA), Европейский Союз объявил о начале формального расследования в отношении платформы. Оно может привести к новым значительным штрафам. На этот раз внимание регуляторов сосредоточено на том, насколько эффективно X боролась с распространением сексуализированных изображений, создаваемых с помощью искусственного интеллекта.
На пресс-конференции официальный представитель Европейской комиссии Томас Регниер отметил: «Мы полагаем, что X могла нарушить положения DSA». Он подчеркнул, что за последнее время в сети появилось множество антисемитских материалов, несанкционированных дипфейков с участием женщин, а также материалов сексуального насилия в отношении детей.
Первое формальное расследование EU было запущено в конце прошлого года, через год после приобретения Маском платформы, и касалось соблюдения правил о прозрачности и рекламе. Однако последние события стали спусковым крючком для нового расследования.
Увеличение запросов на изображения, генерируемые AI, привело к расследованию
Началом активизации замечаний EU к платформе послужили события в ночь на Новый год, когда Илон Маск запросил у AI-бота Grok, чтобы тот создал изображение его в бикини. В тот же день он перепостил изображение ракеты SpaceX в аналогичном «бикини» варианте. Как указало издание The New York Times, объем запросов на генерацию изображений резко возрос: с 300,000 запросов за предыдущие девять дней до более чем 4.4 миллиона между 31 декабря и 8 января.
К примеру, исследование Центра противодействия цифровой ненависти, проанализировавшего выборку из 20,000 сгенерированных изображений, показало, что 65% из них были сексуализированы. Неправительственная организация, имеющая представительства в Лондоне и Вашингтоне, оценивает, что 0.5% из этих сексуализированных изображений могут изображать детей.
X сообщает о прекращении генерации сексуализированных изображений
3 января аккаунт безопасности компании X опубликовал заявление, в котором подчеркивается, что компания активно борется с незаконным контентом, в том числе с материалами сексуального насилия в отношении детей (CSAM), удаляя их, приостанавливая аккаунты и сотрудничая с местными властями. В заявлении также упоминается, что любое использование Grok для создания таких материалов повлечет за собой те же последствия, что и публикация незаконного контента.
Важно отметить, что на данный момент федеральный закон США, введенный с принятием Закона о «Устранении интимных изображений» (Take It Down Act), запрещает размещение или угрозу размещения такой информации без согласия лиц, на которых она изображена. Этот закон был поддержан первой леди Меланией Трамп.
Таким образом, в свете текущего расследования и значимого роста числа запросов на генерацию изображений с помощью AI, выделяются две ключевых проблемы: необходимость защиты пользователей от эксплуатации и соблюдения законодательства, регулирующего контент на платформах. С учетом текущих тенденций и усиливающегося внимания регуляторов к таким вопросам, ожидается, что компании, работающие в сфере технологий, должны будут пересмотреть свои политики безопасности и этического использования AI-технологий.
