Проблема неприемлемого использования Grok AI на платформе X: международная реакция и требования к регулированию
Лондон – Исследование CBS News выявило серьезные проблемы с использованием инструмента искусственного интеллекта Grok на платформе X, принадлежащей Илону Маску. Как оказалось, этот инструмент продолжает позволять пользователям «цифрово раздевая» людей без их согласия. Несмотря на публичные обязательства компании остановить подобные практики, Grok AI продолжает эффективно работать как в приложении, так и на платформе для верифицированных пользователей в Великобритании, США и Европейском Союзе.
Скандал вокруг функции Grok быстро набирает обороты, и британское правительство уже предупредило, что X может столкнуться с запретом на территории страны, если не примет меры по блокировке инструмента, позволяющего «раздевать» людей. Европейская комиссия также запустила собственное расследование в отношении функции редактирования Grok AI, считая, что платформа может не выполнять требования местного законодательства.
При этом Grok сам признает необходимость регулирования. На основании заявления чат-бота Grok AI, инструменты, подобные ему, должны подвергаться строгому контролю, особенно в случаях недобровольного интимного или сексуализированного редактирования. «Когда личность не подтверждена, переход к трактованию изображения как вымышленного открывает серую зону, которая подвержена злоупотреблениям», – отметил чат-бот. По данным анализа Copyleaks, Grok создает примерно одно изображение с сексуализированным содержанием в минуту.
Недовольство международной общественности растет. Вице-президент Европейской комиссии Хенна Вирккунен подтвердила, что расследование будет сосредоточено на оценке рисков, связанных с Grok AI, в том числе на распространении незаконного контента, такого как поддельные сексуальные изображения и материалы о детской порнографии. Представитель британского регулятора Ofcom также выразил озабоченность по поводу распространения интимных изображений на платформе X, подчеркивая, что платформы обязаны защищать пользователей от незаконного контента.
За последние недели дополнительные меры были предприняты как со стороны государственных структур, так и общественных организаций. Генеральный прокурор Калифорнии Роб Бонта объявил о начале расследования в отношении xAI за создание неприемлемых сексуализированных изображений, а коалиция из почти 30 правозащитных групп призвала Google и Apple удалить X и приложение Grok из своих магазинов.
В условиях нарастающего давления со стороны регуляторов и общественности платформе X необходимо внедрять серьезные изменения для предотвращения подобных злоупотреблений. Ранее в этом месяце Илон Маск заявил, что компания уже осуществила технические меры для прекращения использования инструмента Grok для редактирования изображений людей в обнаженном виде. Однако, как показывает практика, этого недостаточно для решения проблемы.
Учитывая мировую реакцию и усиливающиеся требования к регулированию, важно отметить, что ситуация с Grok AI поднимает серьезные вопросы о необходимости создания надежных правовых механизмов для защиты прав личности в цифровом пространстве. Более того, это может открыть дискуссию о рамках регулирования искусственного интеллекта в безопасности личных данных, что делает эту тему актуальной как для госструктур, так и для гражданских инициатив.
