Европейская комиссия начала расследование против компании X

Европейская комиссия начала расследование в отношении американской технологической компании X, связанное с её искусственным интеллектом Grok, который создал сексуализированные изображения женщин и детей. Вице-президент Европейской комиссии Хенна Вирккунен заявила, что «недобровольные сексуальные deepfake-изображения женщин и детей представляют собой насильственную и недопустимую форму деградации».

Цели расследования

Расследование будет проверять, соблюдает ли компания X свои обязательства в соответствии с законодательством Европейского Союза, включая обязанность «достаточно оценивать и уменьшать системные риски». Комиссия, выполняющая функции цифрового надзорного органа ЕС, отметила, что это включает в себя риски, связанные с распространением незаконного контента в Европейском Союзе, таким как манипулированные сексуально явные изображения и контент, который может быть приравнен к материалам о сексуальном насилии над детьми.

Риски и вред

Комиссия подчеркнула, что «эти риски, похоже, материализовались, подвергая граждан ЕС серьезному вреду». Социальная платформа Илона Маска подверглась жесткой критике в последние недели после того, как Grok позволил пользователям цифровым образом заменять одежду женщин на купальники и, в некоторых случаях, создавать сексуализированные изображения несовершеннолетних.

Ограничения и международное возмущение

После продолжительного международного возмущения компания X в середине января ввела некоторые ограничения. Эти ограничения включали запрет на редактирование изображений реальных людей в откровенной одежде, такой как купальники, а также ограничение функции создания изображений чат-бота AI для платных подписчиков.

Другие расследования и штрафы

Следует отметить, что начало расследования не предвосхищает его итогов. В Великобритании медийный регулятор Ofcom также инициировал официальное расследование в отношении платформы Маска в начале месяца из-за сексуализированных изображений, созданных Grok. Премьер-министр Великобритании Киор Стармер назвал изображения, созданные ИИ, «абсолютно отвратительными». Властями Франции также проводится расследование Grok, начатое прошлым летом, с основным акцентом на предположениях о том, что алгоритмы социальной сети были изменены для большего внимания к контенту правого радикала. Новые обвинения, касающиеся отрицания Холокоста и сексуальных изображений, были добавлены к расследованию.

Запреты и новые расследования

Grok уже был запрещён в Индонезии и Малайзии.

В этот же день Брюссель объявил об продлении отдельного расследования в отношении X, которое было инициировано в декабре прошлого года. Комиссия проводит исследование, чтобы оценить, «правильно ли была оценена и уменьшена вся система рисков», связанных с рекомендательной системой платформы — алгоритмом, который предлагает пользователям контент, в соответствии с Законом о цифровых услугах (DSA). Теперь расследование также охватывает «влияние недавнего перехода на рекомендательную систему на основе Grok».

Штрафы и необходимость контроля

В декабре комиссия уже наложила первый штраф на X в соответствии с DSA. Американская компания была обязана выплатить 120 миллионов евро (142,3 миллиона долларов) за вводящую в заблуждение аутентификацию учетных записей пользователей и другие нарушения.

Данная ситуация указывает на растущую необходимость строгого контроля за технологическими компаниями, работающими в сфере искусственного интеллекта, а также на важность соблюдения норм законодательства, защищающего граждан от потенциально вредоносного контента. С увеличением популярности искусственного интеллекта и его применения в различных сферах, вопросов, касающихся этики и безопасности, будет становиться все больше. Поэтому необходимо внимание со стороны авторитетных организаций, таких как Европейская комиссия, чтобы обеспечить справедливость и безопасность в цифровом пространстве.