Европейская комиссия начала расследование против компании X

Европейская комиссия начала расследование в отношении американской технологической компании X, связанное с ее искусственным интеллектом-чатботом Grok, который генерирует сексуализированные изображения женщин и детей. По словам вице-президента Европейской комиссии Хенны Вирккунен, «несанкционированные сексуальные дипфейки женщин и детей представляют собой насильственную и недопустимую форму деградации».

Цели расследования

Расследование будет направлено на выяснение того, соблюдает ли компания X свои обязательства согласно законодательству Европейского Союза, включая обязанность «тщательно оценивать и смягчать системные риски». В заявлении комиссии, которая выполняет функции цифрового регулятора ЕС, подчеркивается, что «это включает риски, связанные с распространением незаконного контента в ЕС, такого как манипулированные сексуально откровенные изображения, включая материалы, которые могут подпадать под определение детской порнографии». Комиссия обращает внимание на то, что эти риски «казались осуществляемыми, подвергая серьезной опасности граждан ЕС».

Критика и ограничения

Платформа социальной сети, принадлежащая Илон Маску, подверглась сильной критике в последние недели после того, как Grok позволил пользователям заменять одежду женщин на купальники и даже создавать сексуализированные изображения несовершеннолетних. После длительного международного возмущения X в середине января ввела некоторые ограничения. Эти ограничения включают запрет на редактирование изображений реальных людей в откровенной одежде, такой как купальники, и ограничение функции создания изображений в чатботе ИИ только для платных подписчиков.

Расширение расследований в других странах

Несмотря на начало расследования, комиссия подчеркивает, что это не предвосхищает его итогов. Кроме того, аналогичные расследования были инициированы в Великобритании и во Франции. Британский медийный регулятор Ofcom ранее заявил о начале официального расследования в отношении платформы Маска из-за сексуализированных изображений, созданных Grok. Премьер-министр Великобритании Кир Стармер охарактеризовал эти изображения как «абсолютно отвратительные». Во Франции также продолжается расследование, начатое еще летом, которое первоначально касалось обвинений в том, что алгоритмы социальной сети были изменены для большей поддержки ультраправого контента. Вдобавок к этому появились новые обвинения, связанные с отрицанием Холокоста и сексуальными изображениями.

Запреты и дальнейшие действия

Grok уже был запрещен в Индонезии и Малайзии. Тем временем, в Брюсселе было объявлено об расширении отдельного расследования в отношении компании X, которое началось в декабре. Комиссия оценивает, насколько система рекомендаций платформы, которая предлагает пользователям контент, «правильно оценила и смягчила все системные риски» в соответствии с Законом о цифровых услугах ЕС. Это расследование также охватывает «влияние недавнего перехода на систему рекомендаций на основе Grok».

Штраф и общественные опасения

В декабре комиссия уже наложила первый штраф на X в рамках Закона о цифровых услугах, который составил 120 миллионов евро (142,3 миллиона долларов) за неправомерную аутентификацию пользовательских аккаунтов и другие нарушения.

Необходимость строгого контроля

В условиях растущей озабоченности по поводу безопасности и соблюдения прав пользователей в цифровом пространстве, данное расследование подчеркивает необходимость более строгого контроля за поведением крупных технологических компаний. Согласно исследованию, проведенному Европейским советом по защите данных, каждая третья европеец подвергался воздействию нежелательного контента в интернете за последний год, что указывает на подчас наличие систематических проблем в регулировании цифровых платформ. Как отмечает эксперты, такие меры, как внедрение более строгих норм и создание безопасных цифровых пространств, становятся все более необходимыми в свете глобальных вызовов, связанных с безопасностью и этикой в ИТ-индустрии.